Sehabis menamatkan PGA selama empat tahun pada 1974, Mahfud terpilih untuk melanjutkan ke Pendidikan Hakim Islam Negeri (PHIN), sekolah kejuruan unggulan milik Departemen Agama di Yogyakarta yang merekrut lulusan terbaik dari PGA dan Madrasah Tsanawiyah seluruh Indonesia.
Tamat dari PHIN tahun 1978, Mahfud meneruskan pendidikan ke Fakultas Hukum Universitas Islam Indonesia (UII) dengan mengambil Jurusan Hukum Tata Negara. Pada saat yang sama ia juga kuliah Jurusan Sastra Arab Fakultas Sastra dan Budaya Universitas Gadjah Mada (UGM).
Karena ayahnya sudah pensiun, Mahfud harus berjuang membiayai dua kuliahnya. Mahfud aktif menulis di surat kabar umum seperti Kedaulatan Rakyat agar mendapat honorarium untuk membantu biaya penghidupannya.
Ia juga getol berburu beasiswa. Sebagai mahasiswa terbaik, Mahfud berhasil mengantongi sejumlah beasiswa, yakni beasiswa Rektor UII, beasiswa Yayasan Dharma Siswa Madura, dan beasiswa Yayasan Supersemar.
Mahfud bahkan mendapat beasiswa penuh dari UII untuk melanjutkan program pasca sarjana di UGM dengan mengambil studi ilmu politik.
Ia kembali mendapat beasiswa dari Yayasan Supersemar dan dari Tim Manajemen Program Doktor (TMPD) Departemen Pendidikan dan Kebudayaan untuk melanjutkan S3. Ia kembali mendalami ilmu hukum tata negara ketika mengambil program doktor di UGM.
Sejak muda, Mahfud tertarik di dunia politik. Ia malang melintang di berbagai organisasi kemahasiswaan intrauniversitas seperti Senat Mahasiswa, Badan Perwakilan Mahasiswa, dan pers mahasiswa.
Mahfud juga aktif di organisasi ekstra universitas Himpunan Mahasiswa Islam (HMI). Dari sejumlah organisasi intra kampus yang pernah ia ikuti, hanya Lembaga Pers Mahasiswa yang paling ia tekuni. Ia pernah menjadi pimpinan di majalah mahasiswa Fakultas Hukum UII, Keadilan. Juta majalah mahasiswa UII, Muhibbah. Karena kritis terhadap pemerintah Orde Baru, majalah Muhibbah yang dipimpinnya sempat dibreidel sampai dua kali. Pertama, dibreidel oleh Pangkopkamtib Soedomo pada 1978. Terakhir, dibreidel oleh Menteri Penerangan Ali Moertopo pada 1983.
Setelah lulus dari Fakultas Hukum pada 1983, Mahfud bekerja sebagai dosen di almamaternya dengan status Pegawai Negeri Sipil (PNS). Mahfud melihat hukum waktu itu tidak dapat bekerja sebagaimana mestinya karena selalu diintervensi oleh politik. Energi politik selalu lebih kuat daripada energi hukum.
Baca Juga: Bazar Murah Karanganyar Purbalingga Diserbu Warga
Kekecewaannya pada hukum yang selalu dikalahkan oleh keputusan-keputusan politik membuat Mahfud ingin mendalami ilmu politik.
Kesempatan itu ia ambil ketika kuliah S2. Ia banyak berdiskusi dengan dosen-dosen ilmu politik ternama seperti Moeljarto Tjokrowinoto, Mochtar Mas’oed, Ichlasul Amal, Yahya Muhaimin, Amien Rais, dan lain-lain.
Meski ia sadar, studi lanjut di luar bidangnya itu tidak akan dihitung dalam jenjang kepangkatannya sebagai dosen. Karena itu, selepas lulus S-2, ia melanjutkan pendidikan doktor (S-3) bidang Ilmu Hukum Tata Negara di Program Pasca Sarjana UGM hingga lulus pada 1993.
Mahfud tercatat sebagai mahasiswa doktoral yang lulus cepat. Ia berhasil menyelesaikan pendidikannya hanya dalam waktu 2 tahun 8 bulan. Padahal, ketika itu (1993) rata-rata pendidikan doktor diselesaikan selama 5 tahun.
Oleh para promotornya, Prof. Moeljarto Tjokrowinoto, Prof. Maria SW Sumardjono, dan Prof. Affan Gaffar, Mahfud dikirim ke Columbia University New York dan Northern Illinois University DeKalb, Amerika Serikat, untuk melakukan studi pustaka tentang politik dan hukum selama satu tahun.
Di New York, ia berkumpul dengan Artidjo Alkostar, senior dan mantan dosennya di Fakultas Hukum UII, yang belakangan menjadi hakim agung.
