Otoritas Israel pernah memenjarakan Haniyeh selama 18 hari ketika dia berpartisipasi dalam protes menentang pendudukan zionis. Setahun kemudian, pada 1988, dia dipenjarakan lagi selama enam bulan dan menghabiskan tiga tahun lagi di dalam bui pada 1989 atas tuduhan bahwa dia adalah anggota Hamas.
Setelah dibebaskan, Israel mendeportasi Haniyeh ke Lebanon Selatan bersama dengan para pemimpin senior Hamas lainnya. Dia menghabiskan waktu di Lebanon selama satu tahun. Setelah penandatanganan Perjanjian Oslo antara Israel dan Organisasi Pembebasan Palestina (PLO), dia pun pulang ke Gaza.
Sekembalinya ke kota itu, Haniyeh menjadi asisten dekat dan asisten salah satu pendiri Hamas, almarhum Syekh Ahmad Yassin, pada 1997.
Pada 2001, ketika Intifadah Kedua meletus, Haniyeh memperkuat posisinya sebagai salah satu pemimpin politik Hamas. Dia menjadi orang nomor tiga dalam organisasi itu, setelah Syekh Yassin dan Abdul Aziz al-Rantisi.
Haniyeh dan Yassin lolos dari kematian pada 2003, dalam upaya pembunuhan oleh Israel yang gagal. Kala itu, tentara zionis melancarkan serangan udara di sebuah blok apartemen di pusat kota Gaza, tempat kedua pria itu menggelar pertemuan.
Beberapa bulan kemudian, Syekh Yassin wafat setelah diserang oleh helikopter Israel, saat pemimpin Hamas itu meninggalkan masjid seusai menunaikan Shalat Subuh.
Nama Haniyeh semakin bersinar pada 2006, ketika dia memimpin Hamas memenangkan pemilu legislatif dan mengalahkan organisasi politik Fatah—yang telah berkuasa selama lebih dari satu dekade di Palestina.