Setelah itu, peraih gelar PhD dalam bidang Accounting dan Finance dari University of Birmingham, Inggris, ini pada 18 Juli 2012 ditetapkan sebagai Anggota Dewan Komisioner OJK berdasarkan Keputusan Presiden Nomor 67/P Tahun 2012 dan pada 20 Juli 2012 mengambil sumpahnya di hadapan Ketua Mahkamah Agung untuk masa jabatan 2012-2017. Berdasarkan Keputusan Presiden Nomor 72/P Tahun 2012, Rahmat Waluyanto diangkat sebagai Wakil Ketua Dewan Komisioner OJK dan Ketua Komite Etik OJK merangkap anggota.
Selepas dari OJK, dia menduduki kursi komisaris di beberapa perusahaan. Dia pernah menjabat sebagai Komisaris Utama salah satu Self- Regulatory Organization di pasar modal (PT Kustodian Sentral Efek Indonesia/KSEI) dan diangkat sebagai Komisaris Independen PT Astra International Tbk sejak 16 Juni 2020.
Rahmat juga sempat menjadi Komisaris Independen di Pertama Bank dan rangkap jabatan sebagai ketua Komite Remunerasi dan Nominasi, anggota Komite Audit, anggota Komite Pemantau Risiko, dan ketua Komite Tata Kelola Terintegrasi di PermataBank.