Sebelum menjadi Menteri Penerangan, Yosfiah memiliki karier politik yang signifikan. Ia pernah menjabat sebagai Ketua Fraksi ABRI di MPR pada tahun 1997 dan pensiun dari TNI pada tahun 1999.
Pada tahun 2002, ia bergabung dengan Partai Persatuan Pembangunan (PPP), di mana ia menjabat sebagai Sekretaris Jenderal dari bulan Desember 2003 hingga tahun 2007. Yosfiah juga mengikuti pemilihan Ketua Umum PPP pada Februari 2007, meskipun tidak berhasil.
Di panggung legislatif, mantan anggota Kopassus ini menjadi anggota DPR dari PPP pada periode 2004-2009, dan ia menjabat di Komisi XI. Karir Muhammad Yunus Yosfiah mencerminkan dedikasinya terhadap reformasi dan kebebasan pers, serta perannya yang penting dalam sejarah politik Indonesia pasca-reformasi.