Gazipaşa'da 10 Kasım 1964'te doğan Mehmet Ali Yılmaz, ilkokulu Gökçesaray Köyü'nde, ortaokulu Aksu Öğretmen Lisesi'nde, liseyi Antalya Lisesi'nde okudu. Üniversite eğitimini Ankara Üniversitesi Siyasal Bilgiler Fakültesi Kamu Yönetimi Bölümü'nde tamamladı. 

Sosyal Sigortalar Teftiş Kurulu Başkanlığında müfettiş yardımcısı olarak göreve başlayan ve sırasıyla müfettiş ve başmüfettiş olarak görevine devam eden Yılmaz, uzun süre Sigorta Başkanlık Müfettişleri Derneği Başkanlığını yürüttü. 

2019 yerel seçimlerinde CHP'den Gazipaşa Belediye Başkanı seçilen Yılmaz, 2024 yerel seçimlerinde de yeniden aday gösterildi. İyi derecede Almanca bilen Yılmaz, evli ve 2 çocuk babasıdır.