Setelah menunaikan ibadah haji ke Tanah Suci dan bermukim yang kedua kalinya pada tahun 1903, Kiai Dahlan mulai menyemaikan benih pembaruan di Indonesia. Gagasan pembaruan itu diperolehnya ketika berguru kepada ulama-ulama Indonesia yang bermukim di Mekkah seperti Syekh Ahmad Khatib dari Minangkabau, Kiai Nawawi dari Banten, Kiai Mas Abdullah dari Surabaya, dan Kyai Fakih dari Maskumambang.
Gagasan pembaruan juga didapatkan Kiai Dahlan setelah membaca pemikiran-pemikiran seperti Ibnu Taimiyah, Muhammad bin Abdil Wahhab, Jamaluddin Al-Afghani, Muhammad Abduh, dan Rasyid Ridha.
"Dengan modal kecerdasan dirinya serta interaksi selama bermukim di Saudi Arabia dan bacaan atas karya-karya para pembaru pemikiran Islam itu telah menanamkan benih ide-ide dalam diri Kiai Dahlan," tulis Muhammadiyah dikutip, Kamis (18/11/2021).
Kelahiran Muhammadiyah sebagai sebuah organisasi untuk mengaktualisasikan gagasan-gagasannya merupakan hasil interaksi Kiai Dahlan dengan anggita Boedi Oetomo yang tertarik dengan masalah agama, yakni R. Budihardjo dan R. Sosrosugondo. Gagasan itu juga merupakan saran dari salah seorang siswanya di Kweekscholl Jetis, di mana Kyai mengajar agama pada sekolah tersebut secara ekstrakulikuler.
Siswa tersebut menyarankan agar kegiatan pendidikan yang dirintis Kiai Dahlan tidak diurus olehnya sendiri tetapi oleh suatu organisasi agar terdapat kesinambungan setelah dirinya wafat.