Dia sempat menjabat perdana menteri Otoritas Palestina untuk waktu yang singkat. Penolakan komunitas internasional untuk bekerja dengan Hamas, kebuntuan serta kekerasan antara Hamas dan Fatah pada akhirnya menyebabkan pembubaran pemerintah persatuan Palestina pada 2007. Sebagai buntut dari perpecahan itu, Hamas muncul sebagai penguasa tunggal Jalur Gaza.
Haniyeh diberhentikan sebagai perdana menteri oleh Presiden Palestina Mahmoud Abbas. Kendati demikian, secara de facto dia tetap menjadi pemimpin gerakan politik rakyat Palestina di Jalur Gaza.
Pada 2010, pada konferensi pers di Gaza, Haniyeh mengatakan dia akan menerima batas-batas Negara Palestina sesuai perjanjian 1967, dengan Yerusalem sebagai ibu kotanya. Dia juga menyatakan pemerintahan Hamas akan bersedia bekerja dengan Barat yang ingin membantu rakyat Palestina mendapatkan kembali hak-hak mereka.
Selama Perang Israel 2014 di Gaza, dua keponakan Haniyeh tewas. Sebagian rumahnya hancur ditembak Israel.
Pada 6 Mei 2017, Haniyeh terpilih menjadi kepala biro politik Hamas.
Dalam sebuah artikel opini yang ditulisnya untuk The Guardian pada 2007, Haniyeh mengungkapkan kesediaannya untuk mencari jalan perdamaian dengan Israel. Pernyataannya itu berbeda dengan sikap yang dideklarasikan oleh Hamas kala itu.
“Jika Israel serius tentang perdamaian, ia harus mengakui hak-hak dasar rakyat kami,” tulis Haniyeh dalam artikel tersebut.