Cak Anam tercatat sebagai aktivis sejak di kampus IAIN Sunan Ampel Surabaya. Dia aktif di organisasi intra maupun ekstra kampus.
Di intra kampus, Cak Anam pernah dua kali mejadi Ketua Umum Senat Mahasiswa Fakultas Ushuluddin dan pernah menjadi ketua presidium Dewan Mahasiswa IAIN Sunan Ampel Surabaya. Sedangkan di ekstra kampus, Cak Anam aktif di Pergerakan Mahasiswa Islam Indonesia (PMII).
Di masa pergerakan sekitar tahun 1977/1978, Cak Anam pernah ditahan selama 4 bulan gegara mendemo Presiden Soeharto. Sejak 1978 Cak Anam juga aktif di dunia pers kampus.
Pada tahun 1982 Cak Anam pernah diutus oleh KH Achmad Sjaichu untuk mengikuti “Course Regional Islamic Da’wah Council of South east Asia and the Pasific” di Universitas Teknologi Malaysia di Kuala Lumpur. Setelah itu pada akhir 1982 bergabung sebagai wartawan majalah Tempo.
Di luar aktivitas itu, Cak Anam juga aktif di organisasi Nahdlatul Ulama (NU) hingga duduk sebagai Ketua GP Ansor Jawa Timur. Kiprahnya di NU ini pula yang membuat Cak Anam dekat dengan beberapa tokoh NU seperti KH Abdurahman Wahid (Gus Dur) hingga KH Hasyim Muzadi.