Mengutip data Transfermarkt, Abdul Rohim memulai karier profesionalnya dengan bermain sebagai kiper untuk klub Liga 2, PSMS Medan pada tahun 2017.
Di musim tersebut, Abdul Rohim berhasil membantu PSMS Medan naik promosi ke Liga 1 di tahun 2018 setelah finish sebagai runner-up Liga 2 berkat mengalahkan Persebaya dengan skor 3-2.
Nama Abdul Rohim semakin melejit setelah dia berhasil melakukan 4 penyelamatan eksekusi penalti di ajang Piala Presiden 2018 melawan Persebaya. Saat itu, PSMS Medan akhirnya memenangkan adu penalti dengan skor 7-6.
Pada putaran ketiga Liga 1 2018, Abdul Rohim mengalami cedera Posterior Cruciate Ligament (PCL) atau cedera ligamen saat laga melawan Persija Jakarta. Hal itu membuatnya harus absen merumput beberapa saat.
Dia kemudian sempat bergabung dengan Persebaya Surabaya pada musim 2019. Dia sempat ikut membawa Persebaya menjadi runner up Liga 1 2019 dan runner up Piala Presiden 2019.
Setelah itu, dia kembali ke PSMS Medan. Bersama PSMS di Liga 2, Abdul Rohim mencatatkan 7 penampilan. Empat penampilan di antaranya dia lakoni di fase grup, sementara tiga penampilan lainnya dijalankan di babak 8 besar Liga 2 2021.
Dua clean sheet yang dicatatkannya adalah saat laga melawan PSPS Riau dan PSIM Yogyakarta.
Kiper dengan tinggi 180 cm itu kemudian direkrut Persela Lamongan di bursa transfer kedua Liga 1 2021/2022. Sayangnya, performa dirinya dan tim sedang menurun dan harus degradasi ke Liga 2.
Itulah profil bioata Abdul Rohim. Dia tentu diharapkan bisa bermain apik kembali dan membawa Persela kembali ke Liga 1.