Sebelumnya, Rahmat diangkat menjadi Direktur Utama Bank Sumut berdasarkan hasil rapat umum pemegang saham luar biasa (RUPSLB) pada 10 September 2021 lalu. Dirinya merupakan pengganti Muchammad Budi Utomo yang meninggal dunia pada 15 April 2021.
Sebagai informasi, Rahmat Fadillah Pohan memulai karir di perbankan sejak tahun 1990-an dengan bergabung di Bank Danamon sejak tahun 1990 dan pernah memegang peranan penting antara lain Kepala Divisi Pengawasan Operasional Kantor Pusat (2018-2019), dan Kepala Divisi Pembayaran dan Pelayanan Bank (2016-2018).
Selain itu, Rahmat di masa jabatannya menjadi Dirut Bank Sumut terpilih sebagai salah satu dari Infobank 100 Top CEO & The Next Leaders Forum 2022.