Pada tahun 1992, ia memutuskan untuk gantung sepatu dan melatih klubnya tersebut hingga 1997. Pada akhir tahun, klubnya mengalami peleburan.
Lelaki kelahiran Gangneung ini sempat bekerja sebagai karyawan Kookmin Bank selama beberapa bulan. Selama itu pula, dia mencatatkan penjualan terbaik di kantor cabang.
Pada September 1998, dia pindah ke Seongnam Ilhwa Chunma untuk bekerja sebagai pelatih. Di sana, dia belajar banyak dari Cha-Kyung-Bok, mantan pelatih Seongnam Ilhwa Chunma.
Pekerjaannya di sana sebagai pelatih berakhir pada tahun 2005. Setelah itu, dia sempat bekerja sebagai manajer di klub tersebut.
Selama mengasuh Seongnam, Kim sukses mengantarkan anak asuhnya meraih gelar juara K League 1 musim 2006 dan FA Cup pada 2014.
Pada tahun 2010, Kim sempat ditunjuk sebagai manajer klub Liga Super China, Henan Construction. Namun, karena rekor buruk yang dicatatkan timnya, dia dipecat pada 23 Mei 2011.
Setelah itu, dia berturut-turut bekerja sebagai manajer Gangwon FC, Seongnam FC, dan Gwangju FC.
Lelaki yang kini berusia 61 tahun itu sempat melatih timnas Korea Selatan U-23 yang tampil di ajang Asian Games 2018. Pada gelaran ini pula, ia sukses mempersembahkan medali emas untuk Son Heung-min dkk.
Pencapaiannya yang paling baru ialah meraih gelar juara bersama timnas Korsel U-23 pada ajang Piala Asia U-23 2022.
Baca Juga: Timnas Malaysia U-23 Gantikan Skuad Senior di FIFA Matchday Sebagai Persiapan Piala AFF U-23 2022
Gelar itu diperoleh setelah tim asal Negeri Ginseng ini menumbangkan Arab Saudi pada partai final lewat drama tambahan waktu.