Madrasah tersebut didirikan oleh seorang ulama besar nan kharismatik asal India yakni Syaikh Rahmatullah Ibnu Khalil Al-Hindi Ad-Dahlawi pada 1219 Hijriah atau 1804 Masehi.
“Tuan guru kiai haji (TGKH Muhammad Zainuddin Abdul Madjid, pendiri Nahdlatul Wathan (NW) mengikuti jejak Kiai Haji Ahmad Dahlan dan Kiai Haji Hasyim Asy’ari berguru di tempat yang sama,” tulis Azyumardi Azra dalam buku 'Renaissanse Islam Asia Tenggara'.
Derajat keilmuan TGKH Muhammad Zainuddin Abdul Madjid diakui oleh banyak ulama di Tanah Air bahkan oleh guru-guru beliau ketika masih belajar.
Sayyid Muhammad bin Alawi bin Abbas al-Māliki al-Makki, seorang ulama terkemuka kota suci Makkah, mengatakan, tak ada seorang pun ahli ilmu di Tanah Suci Makkah, baik thullāb maupun ulama yang tidak mengenal tingginya ilmu Syekh Zainuddin.
Di Indonesia, TGKH Muhammad Zainuddin Abdul Madjid diabadikan sebagai tokoh panutan dalam buku 'Nahdlatul Wathan Organisasi Pendidikan, Sosial, dan Dakwah Islamiyah'.
“Syekh Zainuddin seorang ulama besar, bukan hanya milik umat Islam Indonesia, tetapi juga milik umat Islam sedunia,” seperti tertulis dalam buku.
Beliau telah memberikan keteladanan yang terpuji. Seluruh sisi kehidupan beliau, selalu diisi dengan perjuangan memajukan agama, nusa dan bangsa.