Mahfud MD menjadi Menteri Pertahanan pada 26 Agustus 2000 hingga 20 Juli 2001 dalam masa pemerintahan Presiden Abdurrahman Wahid.
Penunjukan ini memiliki cerita unik, karena Mahfud, sebagai calon Menteri Pertahanan dari kalangan non-sipil, awalnya tidak menduga bahwa ia akan bertanggung jawab atas pertahanan Indonesia.
Gus Dur, Presiden Wahid, meyakinkan Mahfud bahwa meskipun ia tidak berpengalaman dalam bidang tersebut, statusnya sebagai seorang profesor menjadikannya cocok untuk jabatan tersebut.
Setelah menjabat sebagai Menteri Pertahanan, Mahfud MD juga menggantikan posisi Menteri Kehakiman dan HAM setelah pemecatan Yusril Ihza Mahendra oleh Presiden Gus Dur pada 8 Februari 2001.
Namun, jabatannya ini tidak berjalan efektif karena Gus Dur mengundurkan diri hampir bersamaan dengan penunjukan tersebut pada 20 Juli 2001.