1943 yılında Konya’da dünyaya geldi, İlk, orta ve lise öğrenimini Konya’da tamamladı. İstanbul Üniversitesi Hukuk Fakültesi’nden mezun olduktan sonra serbest avukatlık yapmaya başladı. Yılmaz evli ve 4 çocuk babasıdır

7 Haziran 2015 Genel Seçimleri Saadet Partisi 25. Dönem milletvekili adayıdır.