Sejarah berdirinya Nahdlatul Ulama berkaitan erat dengan perkembangan pemikiran keagamaan dan politik dunia Islam kala itu. Pada tahun 1924 di Arab Saudi, sedang terjadi arus pembaharuan. leh Syarif Husein, Raja Hijaz (Makkah) yang berpaham Sunni ditaklukan oleh Abdul Aziz bin Saud yang beraliran Wahabi.
Pada tahun 1924 juga, di Indonesia K H Wahab Chasbullah mulai memberikan gagasannya pada KH Hasyim Asyari untuk perlunya didirikan NU. Sampai dua tahun kemudian pada tahun 1926 baru diizinkan untuk mengumpulkan para ulama untuk mendirikan NU.
Sebelum Nahdlatul Ulama dibentuk KH Hasyim Asyari terlebih dahulu melakukan sholat istikharah untuk meminta petunjuk kepada Allah SWT. Sikap bijaksana dan kehati-hatian KH Hasyim Asyari dalam menyambut permintaan KH Wahab Hasbullah juga dilandasi oleh berbagai hal.
Di antaranya posisi KH Hasyim Asyari saat itu lebih dikenal sebagai Bapak Umat Islam Indonesia (Jawa). KH Hasyim Asyari juga menjadi tempat meminta nasihat bagi para tokoh pergerakan nasional. Peran kebangsaan yang luas dari KH Hasyim Asyari itu membuat ide untuk mendirikan sebuah organisasi harus dikaji secara mendalam. Hasil dari istikharah KH Hasyim Asy’ari dikisahkan oleh KH As’ad Syamsul Arifin.
KH As’ad mengungkapkan, petunjuk hasil dari istikharah KH Hasyim Asy’ari justru tidak jatuh di tangannya untuk mengambil keputusan, melainkan diterima oleh KH Cholil Bangkalan, yang juga guru KH Hasyim Asyari dan KH Wahab Hasbullah.