Dia juga bermimpi bertemu Nabi sedang membawa daftar sumbangan untuk pembangunan pesantren, dan dalam mimpi itu Kanjeng Nabi berpesan kepada Mbah Ma’shum.
“Mengajarlah dan segala kebutuhanmu Insya Allah akan dipenuhi semuanya oleh Allah,” ucapnya.
Mimpi itu dikonsultasikan dengan Kiai Hasyim Asy’ari, yang biasa memanggil Mbah Ma’shum dengan sebutan Kang Mas Ma’shum karena sudah amat akrab. Dia mengatakan mimpi itu sudah jelas dan tak perlu lagi ditafsirkan.
Setelah mimpi-mimpinya itulah beliau menetap di Lasem dan istiqamah mengajar. Sebelum mendirikan pesantren, beliau berziarah dulu ke beberapa makam Wali Allah, seperti makam Habib Ahmad ibn Abdullah ibn Tholib Alatas, Sapuro, Pekalongan.
Saat berziarah pada malam Jumat, Habib Ahmad Alatas menemuinya dan memimpin doa bersama. Setelah itu Mbah Ma’shum keliling kota meminta sumbangan, dan berhasil mendapatkan sejumlah uang yang dibutuhkan untuk membangun pesantren.
Selain ke makam Habib Ahmad, beliau juga sering mendatangi haul Habib Ali Kwitang, Jakarta, dan ke makam Mbah Jejeruk (Sultan Mahmud) di Binangun Lasem.
"Setiap kali berziarah ke makam Mbah Jejeruk ini Mbah Ma’shum selalu membaca Shalawat Nariyah 4444 kali dalam sekali duduk. Mbah Ma’shum juga istiqamah mengamalkan doa Nurun Nubuwwah selepas sholat Subuh dan Asar," ucapnya.
Dia kemudian mendirikan pesantren yang dinamakan Pesantren al-Hidayat. Mbah Ma’shum wafat pada 28 April 1972 (14 Robiul Awal 1392 H) jam 2 siang, setelah sholat Jumat. Upacara pemakamannya dibanjiri massa yang ingin memberikan penghormatan.
Terkait meninggalnya, ternyata dia telah mengetahui waktu dirinya akan meninggal. Ketika Kiai Baidhowi wafat pada 11 Desember 1970, Mbah Ma’shum menyatakan dua tahun lagi dirinya akan wafat dan pernyataan ini menjadi kenyataan.
Menurut seorang saksi, Mbah Ma’shum ketika di depan jenazah Mbah Baidhowi, beliau seperti berbicara dengan almarhum, dan berkata,
“Ya, dua tahun lagi saya akan menyusul,” tuturnya.