1983 yılında GATA Tıp Fakültesi'ne girmiş ve 1989 yılında mezun olmuştur. Sarıkamış 28. Piyade Alayı'nda kıta hizmetini tamamladıktan sonra Ankara GATA İç Hastalıkları Kliniğinde uzmanlık eğitimini tamamlamış ve iç hastalıkları uzmanı olmuştur. Isparta Asker Hastanesi, Bosna Hersek Türk Tugayı, Bursa Asker Hastanesi'nde İç Hastalıkları Uzmanı olarak çalışmış ve çeşitli idari görevlerde bulunmuştur. 2012 yılında emekli olarak Nev Anadolu Hastanesi'ndeki görevine başlamıştır.
Dr. Harun Yılmaz evli ve iki kız çocuk babasıdır.