Saat Kim Il Sung meninggal pada 1994, Kim Yong Nam membacakan elegi untuk pendiri negara tersebut. Dia juga mengemban tugas untuk secara resmi mencalonkan Kim Jong Il sebagai ketua Komisi Pertahanan Nasional setelah menjalani masa berkabung selama 3 tahun.
Pada Februari 2018, dia melakukan perjalanan ke Korea Selatan bersama adik perempuan Kim Jong Un yang berpengaruh, Kim Yo Jong, untuk menghadiri upacara pembukaan Olimpiade Pyeongchang. Saat itu Korut berupaya memperbaiki hubungan dengan Korsel dan Amerika Serikat setelah bertahun-tahun bermusuhan.
Kunjungan tersebut menjadikan Kim Yong Nam sebagai pejabat Korut tertinggi yang mengunjungi Korsel sejak Kim Jong Un mengirim seorang perwira tinggi militer untuk menghadiri upacara penutupan Asian Games 2014 di Incheon.
Berasal dari Pyongyang, Kim Yong Nam menempuh pendidikan di Universitas Kim Il Sung dan Universitas Negeri Moskow, Rusia.