Cak Imin terpilih sebagai Ketua Umum PKB hasil Muktamar Semarang 2005. Cak Imin kemudian dilengserkan oleh Gus Dur yang menjabat sebagai Ketua Dewan Syuro PKB, lantaram Cak Imin dinilai kerap mendekati istana atau pemerintahan Susilo Bambang Yudhoyono (SBY) kala itu, padahal PKB merupakan partai oposisi.
Akibatnya PKB terpecah menjadi dua kubu, yakni kubu Gus Dur dan kubu Cak Imin. Masing-masing kubu pun menggelar Muktamar Luar Biasa. Kubu Gus Dur menggelar Muktamar di Parung, Bogor pada 30 April sampai 1 Mei 2008. Sementara Kubu Cak Imin menggelar muktamar di Hotel Mercure Ancol sehari kemudian, 2 Mei 2008. Dalam muktamar tersebut, Cak Imin memutuskan dirinya kembali menjadi pemimpin PKB.
Cak Imin juga mendepak putri Gus Dur Yenny Wahid yang saat itu menjabat Sekretaris Jenderal PKB. Bahkan, Gus Dur selaku pendiri dan Ketua Dewan Syuro PKB juga ikut dikeluarkan dan digantikan oleh KH Aziz Mansyur. Kubu Gus Dur lantas menggugat kubu Cak Imin ke pengadilan sayangnya kalah.
Pada Pemilu 2009, Cak Imin kembali terpilih menjadi Anggota DPR RI, namun diminta Presiden SBY menjadi Menteri Tenaga Kerja dan Transmigrasi 2009-2014. Di pengujung jabatan menteri berakhir, pada tahun 2014 dan 2019, Cak Imin secara aklamasi terpilih sebagai Ketua Umum PKB.
Karena Cak Imin dianggap berhasil menaikkan suara Pemilu PKB pada tahun 2014 dan juga Pemilu 2019 dengan menjadi parpol pendukung Presiden Joko Widodo (Jokowi).
Cak Imin awalnya memutuskan bahwa PKB berkoalisi dengan Partai Gerindra untuk mengusung Prabowo Subianto di Pemilu Presiden (PIlpres) 2024 mendatang dalam Koalisi Kebangkitan Indonesia Raya (KKIR).
Namun saat Partai Golkar dan PAN bergabung pada pekan lalu dan koalisi diubah menjadi Koalisi Indonesia Maju, Cak Imin memutuskan untuk menjadi bakal calon wakil presiden (cawapres) Koalisi Perubahan mendampingi calon presiden (capres) Anies Baswedan. Keputusan Cak Imin ini secara otomatis mengubah peta koalisi Pilpres 2024.