Cholil sendiri bersama KH. Abdurrahman Wahid alias Gus Dur sama-sama mendirikan Partai Kebangkitan Bangsa (PKB).
Gus Yahya juga keponakan dari ulama Kharismatis dari NU, KH Mustofa Bisri, atau biasa disapa Gus Mus.
Sedangkan adiknya, Yaqut Cholil Qoumas alias Gus Yaqut merupakan Menteri Agama sekaligus Ketua Umum GP Ansor.
Baca Juga: Terus Melawan, Dua Ormas Besar Hindu di Indonesia Minta Menag Kembalikan Jabatan Dirjen Bimas Hindu
Gus Yahya sendiri adalah santri tulen, ia mengasuh pondok pesantren Raudlatul Thalibin, Leteh, Rembang.
Gus Yahya sedari kecil belajar di Pesantren, bermula dari Pendidikan formal di Pesantren Raudlatut Tholibin Rembang, Jawa Tengah. Lalu berlanjut ke Pondok Pesantren KH Ali Maksum di Krapyak, Yogyakarta.
Saat itu ia juga kuliah di Fisipol Universitas Gajah Mada (UGM) Yogyakarta. Ketika kuliah di kota Pendidikan tersebut, Gus Yahya dibentuk menjadi aktivis umat dengan bergabung di Himpunan Mahasiswa Islam atau HMI.
Saat Gus Dur menjadi presiden keempat, Gus Yahya diberi amanah sebagai Juru Bicara Presiden (Jubir).
Sosok yang terkenal juga lewat tulisan dan cerita-cerita lucu bertajuk Terong Gosong ini pada 2018-2019 diberi amanah sebagai Dewan Pertimbangan Presiden (Wantimpres) menggantikan KH Hasyim Muzadi yang wafat.***