Ia lalu melanjutkan pendidikan tingkat SMA di Pondok Pesantren Darullughoh Waddawah, Bangil, Pasuruan, Jawa Timur.
Lulus SMA, Buya Yahya lalu mendapat kesempatan untuk belajar di Hadramaut, Yaman melalui Universitas Al-Ahgaf untuk jenjang S1 dan S2. Tak cukup dengan gelar S2, Buya Yahya kembali menyelesaikan studi untuk tingkat S3 dan mengambil program doktoral di American University for Human Sciences California, Amerika Serikat.
Buya Yahya kemudian akhirnya pulang ke Indonesia untuk menyalurkan ilmunya ke masyarakat. Ia menjadi tenaga pengajar di Pondok Pesantren Al-Bahjah yang dirintis oleh Al Murobbi Al Habib Abdullah Bahrun.

Buya Yahya juga merupakan di Fakultas Syariah dan Dawah STAI Al-Bahjah (STAIBA). Selain mengajar secara formal, Buya Yahya juga kerap kali diundang ke berbagai kajian yang dipublikasikan ke berbagai media seperti radio dan televisi
Buya Yahya memiliki banyak karya tulis, salah satunya menulis berbagai karya memuat tentang kajian yang ia lakukan terhadap perkembangan ilmu agama. Ia juga menulis berbagai karya memuat tentang kajian yang ia lakukan terhadap perkembangan ilmu agama.
Buya Yahya kini telah dikukuhkan menjadi Guru Besar kehormatan bidang Hukum Islam di Unnisula. Pengangkatan ini didasarkan atas kiprahnya mendalami dan mengajar ilmu hukum Islam bagi masyarakat luas.
Meski sudah bergelar profesor, Buya Yahya memutuskan untuk menempuh pendidikan S1 Prodi Psikologi, Unissula.