KH. Yahya Al Mutamakkin memiliki nama lengkap Habibullah Yahya Al Mutamakkin. Nama belakang beliau dinisbatkan pada satu sosok ulama kharismatis, asli Kajen, Jawa Tengah, Syaikh Ahmad Mutamakkin. Mbah Mutamakkin, sebutan populer Syaikh Ahmad Mutamakkin, adalah seorang tokoh yang menjadi cikal bakal atau nenek moyang orang Kajen dan sekitarnya, termasuk Purwodadi. Beliau adalah keturunan ke- 9 dari Mbah Mutamakkin Kajen.

Istri Beliau bernama Umi Nafisah Ar Rahbini. Umi Nafis kelahiran Pontianak, Kalimantan Barat. Beliau pernah mengenyam pendidikan pesantren selama tujuh tahun di Pesantren Lirboyo, Kediri Jawa Timur. Dikaruniai empat putra, yaitu Gus Ahmad, Gus Abdullah, Ning Syifa dan Gus Arif.

Putra pertama Gus Ahmad Hadi Al Mutamakin yang sejak tahun 2019 belajar di Tarim, Hadhromaut. Putra kedua adalah Gus Abdullah yang hanya selisih satu tahun dengan Gus Ahmad, Gus Abdullah juga telah mengenyam pendidikan pesantren di daerah Magelang. Dan yang ketiga adalah Ning Syifa yang sekarang masih sekolah di tingkat SD dan mondok di Mojokerto, dan yang terakhir adalah Gus Arif yang saat ini masih kelas satu di SD NU Darut Tauhid Trowolu.

Semantara sedari kecil, KH.Yahya Al Mutamakkin  mengenyam pendidikan agama dengan baik. Lazimnya anak kiai pada masa itu yang mendapatkan pendidikan agama pertama langsung dari sang abah, beliau pun demikian. KH. Yahya sempat sekolah formal hingga kelas 3 SD. Namun, karena satu dan lain hal, akhirnya ia keluar dan belajar secara khusus dengan seorang guru di rumah beliau.

Ketika usinya mulai beranjak dewasa, KH. Yahya Al-Mutamakkin melanjutkan belajar di Pesantren K.H. Abdul Selo, Pesantren K.H. Umar Ali, yang masih terhidung famili, dan tentunya di pesantren datuknya, Mbah Mutamakkin, Kajen. Tidak cukup sampai di situ, beliau juga melanjutkan belajar ke Jawa Timur. Saat usia beliau beranjak 16 tahun, ia belajar kepada Habib Anis bin Alwi Al-Habsyi, Solo. Di tempat terahir ini, beliau nyantri cukup lama, kurang lebih selama empat tahun, sejak tahun 1991 hingga tahun 1995.

Pada tahun 1995, Beliau berkesempatan berangkat ke Madinah, belajar bersama Habib Zein Bin Sumaith. Kesempatan ini merupakan hadiah dari sang guru tercintanya, Habib Anis Al-Habsyi. Sebelum berangkat ke Madinah, KH. Yahya sempat mendapatkan tawaran dari Dr. Abdullah Al-Yamani untuk belajar di beberapa negeri, seperti Amerika dan Pakistan. Ulama dari Jeddah ini memang dikenal sangat antusias kepada pelajar Indonesia yang memiliki motivasi belajar di luar negeri. Sebagai seorang murid, KH. Yahya mengkonsultasikan perihal tersebut kepada Habib Anis. Akan tetapi beliau kurang setuju bila KH. Yahya mengambil tawaran Dr. Abdullah Al-Yamani, beliau menasihati KH.Yahya untuk bersabar. Tahun 1993, Habib Anis bersama rombongan berangkat ke Hadhramaut dan Madinah. Rupanya, saat Habib Anis bertemu Habib Zein Bin Sumaith di Madinah, beliaulah yang mendaftarkan dan KH. Yahya berangkat ke Madinah pada tahun 1995. Habib Zein bin Sumaith menerima dengan senang hati.

Di Madinah, KH. Yahya Al-Mutamakkin nyantri selama empat tahun. Di kota Nabi SAW itu, beliau belajar ilmu fiqih, alat, tasawuf, tafsir, dan sebagainya, kepada Habib Zein Bin Sumaith, Habib Salim Asy-Syathiri, yang sebelum menetap kembali di Hadhramaut masih mondar- mandir Madinah-Tarim, dan ulama yang lainnya.

Tahun 1999, seiring waktu belajarnya akan usai, KH. Yahya mulai bimbang. Apakah ia harus kembali ke Indonesia, atau tetap belajar kepada Habib Zein di Madinah. Ketika tengah berada di Masjid Nabawi, beliau mengkonsultasikannya kepada sang guru. Dengan tegas Habib Zein menasihati, “Sebaiknya kamu lihat yang paling bermanfaat dan afdhal untuk umat. Apabila kamu lebih dibutuhkan di Indonesia, pulanglah. Sebaliknya, bila menurut kamu belajar di Madinah itu yang terbaik, menetaplah.” Saat itu juga KH. Yahya langsung mendapatkan jawaban, seolah isyarah dari Allah SWT, beliau begitu yakin untuk memilih pilihan pertama, kembali ke Indoensia. Menurutnya, orangtua mengirimnya belajar hingga ke luar negeri bukan tanpa alasan. Beliau yakin, ketika dirasa telah memiliki cukup bekal ilmu ia memang harus kembali membantu sang abah meneruskan perjuangannya dalam berdakwah.

KH.Yahya Al-Mutamakkin kembali dari Madinah pada tahun 1999 dan sempat berdakwah di Jakarta. Di Ibu Kota, beliau tinggal di kediaman ayah angkatnya, H. Mustofa, daerah Kalibata, yang mendirikan Yayasan Al-Azhari. Sambil berdakwah, beliau juga memanfaatkan waktunya untuk menjalin silaturahim dengan para alumnus dari Madinah. Bersama salah satu kawan dekat beliau yang berasal dari Bekasi, Habib Muhammad Vad’aq, beliau menggagas terbentuknya organisasi murid-murid Habib Zein, yang menampung seluruh alumnus. Pada tahun yang sama, berdirilah organisasi Ath-Thayyibah.

Masih di tahun yang sama, KH. Yahya Al-Mutamakkin sempat berencana untuk membangun pesantren di bilangan Cibitung, Bekasi. Kala itu ada salah seorang hartawan yang mewakafkan tanah seluas 5.000 m untuk santri Habib Zein. Namun, setelah beristikharah, KH. Yahya Al-Mutamakkin mendapatkan petunjuk dari Allah SWT untuk hijrah ke arah timur. Maka ia tidak jadi mendirikan pesantren di Kota Patriot itu. Tahun 2000, KH. Yahya memutuskan kembali ke Jawa Tengah. Namun tidak langsung kembali ke kampung halaman untuk mengasuh pesantren peninggalan datuknya, K.H. Dahlan Al-Mutamakkin, beliau memilih mendirikan pesantren di Semarang.

Selain mengajar di pesantren mahasiswa, ia juga mengembangkan dakwah remaja dengan cara keliling dari satu masjid kampus ke masjid kampus lain. Namanya Majelis Dakwah Pemuda Al-Izzah. Remajanya masih dari kalangan mahasiswa. KH. Yahya Al Mutamakkin juga memimpin Pesantren Darut Tauhid Al-Mutamakkin, peninggalan sang datuk. Nama Darut Tauhid diberikan oleh abahnya, yang mendapat nama dari ulama kenamaan asal Makkah, Sayyid Muhammad bin Alwi Al-Maliki. Sementara Al- Mutamakkin diambil untuk bertabarruk kepada buyutnya, Mbah Mutamakkin. Selain aktif mengajar dan mengasuh Pesantren Madianh Munawwarah, KH. Yahya juga masih mondar mandir setiap minggu Semarang – Purwodadi.