Dia mulai berkarier di kepolisian Indonesia saat diangkat menjadi Wakil Kepala Polisi Seksi II Jomblang Semarang pada 1944. Kariernya moncer saat ditunjuk menjadi Kepala Polisi Jomblang setahun kemudian Komandan Polisi Tentara Laut Jawa Tengah hingga 1946.
Dia lalu mengikuti pendidikan Polisi Akademi dan bekerja di bagian Purel, Jawatan Kepolisian Negara atau sekarang Polri.
Pada 1950, Hoegeng mengikuti Kursus Orientasi di Provost Marshal General School pada Military Police School Port Gordon, Georgia, Amerika serikat. Setelahnya, dia menjabat Kepala DPKN Kantor Polisi Jawa Timur di Surabaya pada 1952.
Kariernya semakin moncer usai ditunjuk sebagai Kepala Bagian Reserse Kriminil Kantor Polisi Sumatra Utara pada 1956. Empat tahun berselang, dia mengikuti Pendidikan Brimobdan dan menjadi Staf Direktorat II Mabes Kepolisian Negara (1960), Kepala Jawatan Imigrasi (1960), Menteri luran Negara (1965), dan Menteri Sekretaris Kabinet Inti pada 1966.
Kariernya semakin menanjak usai ditunjuk menjadi Deputi Operasi Pangak dan Deputi Men/Pangak Urusan Operasi pada 1966. Kemudian pada 5 Mei 1968, Hoegeng diangkat menjadi Kepala Kepolisian Negara menggantikan Soetjipto Joedodihardjo.
Semasa Hoegeng menjabat, terjadi perubahan nama pimpinan kepolisian Indonesia berdasarkan Keppres Nomor 52 Tahun 1969. Keppres itu mengubah sebutan Panglima Angkatan Kepolisian RI (Pangak) menjadi Kepala Kepolisian RI (Kapolri).
Perubahan juga berlaku ke markas besar kepolisian menjadi Markas Besar Kepolisian (Mabes Pol) dan sejumlah jabatan di bawah Kapolri, seperti Panglima Daerah Kepolisian (Pangdak) menjadi Kepala Daerah Kepolisian RI atau Kadapol. Demikian pula sebutan Seskoak menjadi Seskopol.
Kiprahnya sebagai Kapolri ditandai dengan pembenahan beberapa bidang termasuk struktur organisasi Polri. Buah tangan Hoegeng berhasil, struktur yang baru terkesan lebih dinamis dan komunikatif.