Kariernya dimulai di Bank Bapindo pada tahun yang sama. Saat krisis finansial 1998, ia menjadi bagian dari tim inti yang menggabungkan Bank Bapindo dengan tiga bank milik negara lainnya—Bank Bumi Daya, Bank Dagang Negara, dan Bank Exim—menjadi Bank Mandiri.
Di Bank Mandiri, Hery terus menanjak dalam berbagai posisi strategis, termasuk sebagai EVP Coordinator Consumer Finance, Senior Executive Vice President, Direktur Micro & Retail Banking (2013-2015), serta Presiden Komisaris AXA Mandiri Financial Services (2013-2015).