Di Cilacap ini, Sudirman diangkat menjadi guru oleh tokoh-tokoh Muhammadiyah untuk mengajar di HIS Muhammadiyah. Sudirman dikenal sebagai sosok yang adil dan sabar dalam mendidik muridnya. Pada 1937, Sudirman diangkat menjadi Ketua Kelompok Pemuda Muhammadiyah.
Ketika Jepang mulai menduduki Indonesia pada 1942 dan membentuk pasukan Pembela Tanah Air (Peta) pada 1944, Sudirman juga ikut dalam barisan PETA. Dala PETA ini Sudirman mendapat kesempatan mengikuti pendidikan militer di Bogor. Setelah tamat, Sudirman langsung diangkat menjadi Komandan Batalyon yang bertugas di daerah Kroya, Jawa Tengah.
Pergolakan perang dunia selalu membawa dinamika baru. Ketika pada 1945, Kota Hiroshima dan Nagasaki hancur dibom sekutu dan Jepang menyerah, Bung Karno dan Bung Hatta, atas desakan kaum muda Indonesia, memproklamasikan kemerdekaan Indonesia pada 17 Agustus 1945.
Situasi ini dimanfaatkan dengan baik oleh Sudirman untuk membawa pasukannya lari dari pusat pertahanan PETA di Bogor, Jawa Barat. Dikisahkan Sudirman juga sempat bertemu dengan Bung Karno di Jakarta. Sudirman menyampaikan niatnya kepada Bung Karno untuk bergabung kembali dengan pasukannya yang masih bertahan di Kroya. Permintaan Sudirman dikabulkan sehingga pada 19 Agustus 1945 kembali ke Kroya.
Sayang, Batalyon PETA yang berkedudukan di Kroya sudah dibubarkan Jepang. Akhir Agustus 1945, Sudirman dan teman-teman alumni PETA mendirikan Badan Keamanan Rakyat (BKR) di Banyumas, Jawa Tengah.
Pada 5 Oktober 1945 Bung Karno mengeluarkan dekrit pembentukan Tentara Keamanan Rakyat (TKR) yang terdiri dari, TKR Darat, TKR Laut, dan TKR Jawatan Penerbangan. TKR dibentuk untuk menjalankan beberapa tugas, yaitu untuk mempertahankan kemerdekaan.