25 Nisan 1968’de Şırnak’ın İdil ilçesine bağlı Yolaçan köyünde doğan Yılmaz, babasının mesleği nedeniyle eğitimini farklı illerde tamamladı. Ortaokul mezunu olan Yılmaz, 1993 ve 2007 yılları arasında inşaat kalıpçılığı yaptı. Şu anda emlak danışmanlığı yapan Yılmaz, HADEP’de ilçe ve il yöneticiliği yaptı. Yılmaz evli 4 çocuk babası.

7 Haziran 2015 Genel Seçimleri Halkların Demokratik Partisi 25. Dönem milletvekili adayıdır.