Dia memegang sejumlah jabatan di unit artileri, infanteri, dan komando, hingga mengajar di Sekolah Staf Komando di Quetta dan di War Wing dari National Defense College.
Sebelum menjadi orang nomor 1 di Pakistan, Musharraf ditunjuk sebagai kepala angkatan bersenjata pada Oktober 1998 oleh Perdana Menteri Nawaz Sharif. Musharraf diyakini telah memainkan peranan penting dalam invasi wilayah Kashmir yang dikelola India pada 1999.
Mantan jenderal bintang empat itu memiliki hubungan dekat dengan Amerika Serikat (AS) dalam upaya untuk membasmi ekstremis Islam di wilayah perbatasan Afghanistan-Pakistan usai peristiwa 11 September 2001. Dia bahkan mendapatkan ancaman pembunuhan dari Al Qaeda dan juga Taliban.
Namun pada 2007, kepopuleran Musharraf melemah. Ini karena keputusannya pada Oktober untuk menangguhkan konstitusi dan menyatakan keadaan darurat, yang memberinya posisi baru sebagai Kepala Militer. Musharraf bahkan memecat Hakim Ketua di Mahkamah Agung. Beberapa pihak percaya bahwa Musharraf melakukan ini untuk kepentinga pribadi dalam pencalonan presiden kembali.
Mahkamah Agung kemudian menolak dirinya untuk pemilihan presiden kembali, dan membuat Musharraf kehilangan jabatannya.