Rekam jejaknya membawa dia masuk Ibu Kota Jakarta. Syarifuddin dipercaya sebagai hakim di PN Jakarta Selatan. Hanya berselang dua tahun, ia mendapat promosi sebagai Wakil Ketua PN Bandung periode 2005-2006 dan kemudian menjadi Ketua PN Bandung pada 2006.
Kariernya terus meroket. Pada Dia kemudian ditunjuk sebagai hakim tinggi pada Pengadilan Tinggi Palembang. Setelah itu, dia enam tahun menjabat sebagai Kepala Badan Pengawasan (Bawas) MA. Syarifuddin juga pernah dipercaya sebagai Pelaksana Tugas Kepala Badan Litbang Diklat Kumdil MA ketika masih menjabat Kepala Bawas MA.
Tahun 2013 menjadi salah satu tonggak penting dalam sejarah karier Syarifuddin. Komisi III DPR menetapkannya menjadi hakim agung bersama tujuh kolega lainnya pada 23 Januari 2013. Ketua MA pun melantik Syarifuddin menjadi hakim agung pada 11 Maret 2013.
Dua tahun kemudian, tepatnya pada 28 Mei 2015 dia diangkat sebagai Ketua Kamar Pengawasan MA. Berselang satu tahun berikutnya, melalui proses pemilihan demokratis di MA, doktor lulusan Universitas Parahiyangan ini resmi menjabat sebagai Wakil Ketua MA Bidang Yudisial.