Karier politik suami dari Noorainee Abdul Rahman itu diawali dengan menjadi ketua pemuda UMNO Pagoh pada 1976. Lalu dia menjadi ketua UMNO sampai April 1985. Di tahun yang sama dia dipilih menjadi anggota majelis tertinggi UMNO.
Dari situ kariernya terus mentereng hingga menjadi Wakil Presiden UMNO pada September 1993.
Pada 1992 hingga 1995, Muyhiddin diangkat menjadi Menteri Besar Johor.
Disusul kemudian pada 2004-2008 dipercaya sebagai menteri pertanian dan perindustrian berbasis agro. Sukses di bidang perindustrian, karier pemerintahan dari ayah empat anak itu dilanjutkan dengan menjadi menteri perdagangan antarbangsa dan industri.
Puncak karier pemerintahan terakhir, Muhyiddin diangkat menjadi Wakil Perdana Menteri Malaysia di bawah Najib Razak pada 10 April 2009 sampai 29 Juli 2015. Di periode yang sama dia merangkap jabatan sebagai menteri pendidikan.
Pada 2016, jabatannya sebagai wakil presiden UMNO dilucuti terkait tuduhan keterlibatannya dalam skandal megakorupsi 1MDB.
Di tahun itu pula, Muhyiddin berpaling dari UMNO dan bersama Mahathir mendirikan PPBM. Dia pun dilantik sebagai presiden PPBM.