Dia langsung bergabung dengan Korps Baret Merah atau Kopassus yang merupakan pasukan elite TNI AD. Belum lama bergabung dengan Kopassandha, sebutan Kopassus saat itu, Wismoyo langsung mendapat tugas menumpas pemberontakan bersenjata DI/TII pimpinan Kahar Muzakar di Sulawesi Selatan.
Dia juga terlibat dalam menumpas G30S/PKI di sejumlah daerah. Keberhasilannya di medan operasi membuat Wismoyo diangkat menjadi Komandan Pengawal Pribadi (Danwalpri) Presiden Soeharto.
Sebagai Danwalpri, Wismoyo bertanggung jawab atas keamanan Soeharto dan keluarganya. Oleh karena itu, dia selalu melekat dengan Soeharto di mana pun sang presiden berada.
Setahun kemudian, Wismoyo kembali ke Korps Baret Merah menjadi Komandan Kompi Group 4 Kopassus. Selanjutnya, diangkat menjadi Danki 5 Group 4.
Menyandang pangkat Kapten, Wismoyo kembali mendapat tugas dalam Operasi Wibawa di Papua pada 1969. Operasi ini bertujuan untuk memulihkan keamanan di wilayah tersebut setelah Penentuan Pendapat Rakyat (Perpera).
Selesai penugasan di Papua, Wismoyo kembali ditugaskan menumpas pemberontakan PGRS/Paraku di perbatasan Indonesia dan Malaysia di Kalimantan.
Karier pria kelahiran Bondowoso, Jawa Timur pada 10 Februari 1940 terus meningkat. Wismoyo kemudian diangkat menjadi Kasdam IX/Udayana, kemudian Pangdam XVII/Cenderawasih, dan Pangdam IV/Diponegoro.
Selanjutnya, Presiden Soeharto mengangkatnya menjadi Pangkostrad dan Wakasad pada 1992, sebelum akhirnya diangkat menjadi Kepala Staf Angkatan Darat (KSAD) ke-17.