1976 yılında Adana'nın Karaisalı ilçesinde dünyaya gelen Yılmaz, eğitim hayatına Dailer Köyü İlkokulu'nda başladı, ardından Akören Ortaokulu ve Lisesi'nde eğitimini tamamladı. 1992 yılında Gazi Üniversitesi İktisadi ve İdari Bilimler Fakültesi Kamu Yönetimi Bölümü'ne girdi ve 1996 yılında mezun oldu.
Kariyerine öğretmen olarak başlayan Dr. Yılmaz, ardından Turizm Bakanlığında Bakanlık Müfettiş Yardımcısı olarak görev aldı. İçişleri Bakanlığı'nın Kaymakam Adaylığı sınavını kazanarak, çeşitli illerde Kaymakam olarak görev yaptı. Yurtdışında İngiltere'de eğitim aldı ve birçok ilçede kaymakam vekilliği yaptı. Bu süre zarfında, 2006-2008 yıllarında İnönü Üniversitesi'nde Kamu Yönetimi Anabilim Dalında Yüksek Lisans yaptı.
Dr. Yılmaz, kariyerinde birçok kez ödüllendirildi. 2018 yılında Cumhurbaşkanlığından "Yılın Kaymakamı" ödülünü aldı. 2020 yılında Osmaniye Valisi olarak atandı ve görev süresi boyunca gösterdiği başarılar nedeniyle birçok ödüle layık görüldü. 2023 yılında Kamu Görevlileri ve Çalışanları Derneği tarafından "Yılın Valisi" seçildi.
İyi derecede İngilizce bilen Dr. Erdinç Yılmaz, evli ve iki çocuk babasıdır. Yaşamını ve kariyerini anlatan O Şimdi Vali adlı kitap, 2022 yılında yazıldı ve onun kamu yönetimindeki başarılı yolculuğunu anlatmaktadır
