Tak hanya itu, markas besarnya dipindahkan dari Yogyakarta ke Jakarta. Nama markas yang semula Corps Polisi Militer diubah menjadi Markas Besar Polisi Militer.
Pembenahan organisasi dan tugas-tugas terus dilakukan seiring dengan penyempurnaan organisasi TNI. Pada 1971, berdasarkan Keputusan Menhankam Panglima ABRI Nomor: Kep/A/7/III/1971 pada tanggal 6 Maret 1971, dibentuk organisasi Polisi Militer ABRI yang berdampak terhadap struktur organisasi Polisi Militer Angkatan Darat.
Pembentukan Polisi Militer ini semakin mantap saat dikeluarkannya Keputusan Panglima ABRI Nomor : Kep/04/P/II/1984 pada tanggal 4 Februari 1984 yang menyebutkan tentang penyelenggaraan fungsi Kepolisian Militer di lingkungan ABRI dan Kepala Staf TNI AD Nomor: Kep/45/II/1972 tanggal 17 Desember 1984 tentang pencabutan organisasi Dinas Provost TNI AD dan menetapkan menjadi organisasi Pusat Polisi Militer, yang saat itu mempunyai kewenangan dalam pelaksanaan tugas dan fungsinya terhadap TNI AD, TNI AL, TNI AU, dan Polri.
Setelah pemisahan Polri dari TNI, tugas dan fungsi dirombak. Berdasarkan Keputusan Panglima TNI Nomor: Kep/1/III/2004 tanggal 26 Maret 2004, penyelenggaraan tugas dan fungsi Kepolisian Militer di lingkungan TNI akan dilaksanakan oleh Polisi Militer TNI AD (Pomad), Polisi Militer TNI AL (Pomal) dan Polisi Militer TNI AU (Pomau) dan kewenangannya diserahkan kepada Kepala Staf Angkatan masing-masing.
Di tingkat Mabes TNI, Polisi Militer merupakan unsur pembantu pimpinan yang disebut Staf Khusus Polisi Militer (Ssuspom TNI) dan dipimpin oleh Perwira Staf Khusus Polisi Militer (Pa Ssuspom TNI) yang berkedudukan di bawah dan bertanggung jawab kepada Panglima TNI.
Pada Mei 2015, di masa kepemimpinan Panglima TNI Jenderal TNI Moeldoko, terjadi perombakan struktur satuan polisi militer menjadi POM TNI. Hal ini dilakukan untuk meningkatkan tata tertib dan penegakan hukum di lingkungan TNI. Bila sebelumnya komando dilimpahkan ke masing-masing korps, POM TNI berada langsung di bawah komando Panglima TNI.