1967'de Hakkari'de doğdu. Çocukluğu Malatya'da geçmiştir, şu an İstanbul'da yaşamaktadır. Bir Demet Tiyatro adlı dizideki, Mükremin Çıtır isimli karakter ile tanınırlığı çok büyük ölçüde artmıştır aynı zamanda bu dizinin senaristliğinide yapmıştır. Daha sonra kendisininde aralarında bulunduğu BKM oyuncuları ile birlikte çok başarılı tiyatro oyunlarına imza atmıştır, özellikle Demet Akbağ ile çok iyi bir ikili oluşturmuşlardır.

Beyazperdede de önemli işlere imza atan Yılmaz Erdoğan, Vizontele, Organize İşler, Neşeli Hayat ve Kelebeğin Rüyası gibi filmleri yönetip başrol oynamıştır. Nuri Bilge Ceylan'ın Bir Zamanlar Anadolu'da filminde de komiser rolünde görev yapmıştır.

BKM ekibiyle yaratıp yönetmenliğini üstlendiği Çok Güzel Hareketler Bunlar adlı yapım da izleyicilerin yoğun ilgisini çekmiştir.

1993'ten 1998'e kadar Sanem Oktar ile evli olan Erdoğan'ın 1996 doğumlu Berfin Erdoğan adlı bir kızı bulunmaktadır. 2006'da Belçim Bilgin'le evlenen sanatçının 2009 doğumlu Rodin Nazım Erdoğan adında bir de oğlu olmuştur. Belçim Bilgin'den 2018'in Aralık ayında ayrılmıştır.