Ponpes ini salah satu warisan terpenting dalam khazanah kekayaan Islam di Nusantara. Ponpes Cipasung didirikan oleh KH Ruhiat pada akhir 1931. Semula, santri yang menetap di pesantren ini berjumlah sekitar 40 orang.
Sebagian santri tersebut berasal dari Pesantren Cilenga, tempat Kiai Ruhiat menimba ilmu. Ada pula santri kalong yang hanya mengaji pada malam hari dan siang kembali ke rumah.
Dalam perkembangannya, pada 1935, KH Ruhiat mendirikan sekolah agama atau madrasah diniyah. Sekolah inilah yang paling pertama didirikan di Pondok Pesantren Cipasung. Lalu Kiai Ruhiat mendirikan Kursus Kader Mubalighin wal Musyawirin (KKM) pada 1937. Kursus ini dibuat sebagai wadah santri dewasa untuk latihan berpidato, dakwah, dan musyawarah yang diadakan psetiap malam Kamis.
Pada 1943 Pesantren Cipasung juga memberikan pelatihan bagi santri putri, yaitu, Kursus Kader Mubalighah. Tujuannya agar santri putri dapat mengembangkan bakat pidato dan berdakwah.
KH Ruhiat, pendiri Ponpes Cipasung wafat pada 28 November 1977. Tampuk kepemimpinan pesantren diteruskan oleh putranya, KH Moh Ilyas Ruhiat. Saat ini, Ponpes Cipasung dipimpin oleh KH Abun Bunyamin Ruhiat.