Dengan cikal bakal bernama Indonesische Voetbal Bond Magelang (IVBM). IVBM adalah salah satu klub yang ikut mendirikan PSSI dengan keikutsertaan E.A. Mangindaan dalam pembentukan PSSI di Societeit Hadiprodjo Yogyakarta pada hari Sabtu tanggal 19 April 1930.
Setelah PSSI terbentuk dan IVBM menjadi anggotanya, nama IVBM pun diubah menjadi PPSM. Klub ini menjadi bond anggota PSSI pada 1934 bersama dengan beberapa klub seperti PSISa Salatiga, VIT Tegal, PSIM Yogyakarta, PSTS Tasikmalaya, dan PSIS Semarang.
Tahun 1975, PPSM kembali ke kompetisi kasta tertinggi sepak bola Indonesia yang saat itu bernama Kerjurnas PSSI. PPSM berhasil lolos ke Kejurnas PSSI 1975 tingkat nasional setelah berhasil mengalahkan lawan-lawannya di kualifikasi tingkat daerah.
Dalam kompetisi itu, PPSM tergabung dalam Pool C bersama Persipal Palu, Persebaya Surabaya, PSBS Biak dan PSL Langkat. Sayangnya PPSM gagal melaju ke babak perempat final setelah mengalami empat kekalahan beruntun di Pool C, sehingga harus rela menjadi juru kunci.
Sejak saat itu, hingga kini PPSM belum bisa kembali ke kasta tertinggi kompetisi sepak bola nasional. Pencapaian terbaik PPSM Magelang di era Liga Indonesia adalah bermain di Divisi Utama atau kasta kedua pada musim 2008/09.
Munculnya dualisme kompetisi pada 2013, sempat membuat klub berjuluk Macan Tidar itu terjadi perpecahan. Kala itu, PT Liga Prima Indonesia Sportindo (LPIS) yang berada di bawah PSSI dengan PT Indonesia di bawah KPSI punya kompetisi beda, sehingga turut berpengaruh terhadap PPSM.
Hingga saat ini, PPSM Magelang yang berstatus sebagai salah satu klub tertua di Indonesia tidak mampu bersaing menuju kasta tertinggi sepak bola Nasional.
Kontributor: Aditia Rizki