17 Aralık 1948'de Tunceli'nin Nazımiye ilçesinde dünyaya geldi. İlk ve ortaöğrenimini Erciş, Tunceli, Genç, Elazığ gibi Anadolu'nun çeşitli yerlerinde yaptı. Yükseköğrenimini yapmak için girdiği Ankara İktisadi ve Ticari İlimler Akademisi'nden (şimdiki adıyla Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi) 1971'de mezun oldu.

Lisans öğrenimini tamamladığı 1971 yılında, girdiği hesap uzman yardımcılığı sınavının ardından Maliye Bakanlığı'nda göreve başladı. Daha sonra hesap uzmanı olan Kılıçdaroğlu, bir yıl Fransa'da kaldı. Hesap uzmanlığını 1983'e kadar sürdürdü ve aynı yıl Gelirler Genel Müdürlüğü'ne atandı. Burada önce daire başkanı olarak görev aldı, daha sonra aynı kurumun genel müdür yardımcılığını yaptı. 

Kemal Kılıçdaroğlu 1991 yılında Bağ-Kur'a atandı. Burada genel müdürlük yapan Kılıçdaroğlu, 1992 yılında da Sosyal Sigortalar Kurumu Genel Müdürlüğü'ne geçti. Daha sonra kısa bir süre Türkiye Cumhuriyeti Çalışma ve Sosyal Güvenlik Bakanlığı'nda müsteşar yardımcısı olarak görev yaptı. 1994 yılında Ekonomik Trend dergisi tarafından "Yılın Bürokratı" seçildi. Kemal Kılıçdaroğlu, 1999'un Ocak ayında kendi isteğiyle Sosyal Sigortalar Kurumu Genel Müdürlüğü'nden emekli oldu.