Pada saat Belanda melakukan Agresi Militer II di Yogyakarta, Sudirman yang saat itu sedang sakit juga berada di Nagari dalem Sultan Hamengkubuwana IX. Kondisinya sangat lemah karena penyakit paru-paru akut yang dideritanya. Meski begitu, semangat Sudirman untuk mempertahankan kemerdekaan tak surut.
Saat Yogyakarta berhasil diduduki Belanda, Sudirman membawa pasukannya keluar dari Yogyakarta untuk melakukan “Perang Gerilya” melawan penjajah Belanda. Selama tujuh bulan, Sudirman dan pasukannya keluar-masuk hutan untuk mempertahankan kedaulatan tanah air. Meski dalam keadaan payah karena terbatasnya obat dan makanan, Sudirman berhasil menggelorakan semangat juang rakyat Indonesia dari atas tandu.
Dia tak peduli dengan penyakit yang semakin lama semakin menggerogoti tubuhnya. Meski suaranya parau, tenaganya semakin lemah, tapi jiwanya sekokoh karang. Berkat pemikiran-pemikirannya yang cerdas dan bernas, akhirnya kedaulatan Indonesia dapat dipertahankan meski nyawanya sendiri harus menjadi tumbal.
Pada Desember 1949, Sudirman pindah ke Magelang. Di saat yang bersamaan, Belanda mengakui kedaulatan Indonesia. Mendengar kabar gembira itu, Sudirman merasa tugasnya sudah selesai. Sudirman mengembuskan napas terakhirnya di Magelang pada 29 Januari 1950 Masehi. Sudirman dimakamkan di Taman Makam Pahlawan, Semaki, Yogyakarta.