İlk, orta ve lise öğrenimini Ankara´da tamamladı. İTÜ İnşaat Mühendisliğini kazandı fakat ağır basan tiyatro tutkusu eğitimini yarıda bırakmasına neden oldu. Tiyatroya Ferhan Şensoy´un 'Nöbetçi Tiyatrosu'nda başladı, daha sonra Levent Kırca´nın 'Olacak O Kadar' adlı televizyon programında başyazar olarak görev yaptı.
TRT´de yayınlanan 'Umut Taksi' adlı diziyi yazdı ve bu dizide oyuncu olarak rol aldı. Tiyatroda dolu dizgin giden Erdoğan daha sonra Türkiye´nin en büyük oyuncu kadrosuna sahip olan 'Gereği Düşünüldü' isimli oyunu yazdı; bu oyun 4 yıl kapalı gişe oynadı. Bu oyundan sonra tiyatro çalışmalarına Yasemin Yalçın Tiyatrosu´nda başlayan Yılmaz Erdoğan 'Haşlama Taşlama' ve yine bu tiyatroda 5 yıl sahnelenen 'Kadınlık Bizde Kalsın' adlı oyunları yazdı.
Yılmaz Erdoğan tiyatro yaşamına bundan sonra ortağı Necati Akpınar ile birlikte kurduğu Beşiktaş Kültür Merkezi´nde devam etti. Burada yine başrollerini Demet Akbağ ile paylaştığı 'Bir Demet Tiyatro' adlı diziyi yazdı. 'Otogargara' ise son olarak yazdığı müzikaldi ve tiyatro severlerin yoğun ilgisiyle 4 yıl kapalı gişe oynadı. Bu arada son iki yıldır yine kendisinin yazdığı ve oynadığı tek kişilik 'Cebimdeki Kelimeler' adlı oyunu Beşiktaş Kültür Merkezi´nde sahnelendi.
İlk albümü 'Kayıp Kentin Yakışıklısı´nda ´Soğuk ve şehirlerarası otobüslerde vazgeçtim çocuk olmaktan ve beslenme çantamda otlu peynir kokusuydu babam´ diyen tiyatro dünyasının önemli isimlerinden, küçük büyük herkesin ´Mükremin Abi´si Yılmaz Erdoğan´ın 'Kayıp Kentin Yakışıklısı' adlı bir şiir kaseti Prestij Müzik etiketiyle müzik marketlerde yerini aldı. Bu albüm Yılmaz Erdoğan´ın yazdığı 17 şiirden ve bu şiirlere eşlik eden Metin Kalender, Nizamettin Ariç ve Ali Aykaç´ın bestelediği ezgilerden oluşuyor.
Erdoğan´ın albümünde şiirler, Türk Sanat Müziği´nden örnekler, türküler etnik müzikler gibi geniş bir müzik yelpazesi eşlik ediyor ve sanatçının kendi sesinden kısa bir türkü de bulunuyor. Yılmaz Erdoğan´ın bu ilk şiir albümünün yönetmenliğini Metin Kalender üstlendi. Kaset piyasaya çıkışının ilk haftasında 100.000´lik satış tirajına ulaştı ve şiir albümleri kategorisinde önemli bir yer edindi. Erdoğan´ın zekice ve nice motiflerle işlenmiş, kendine özgü üslubuyla yazdığı hüzün ağırlıklı şiirleri dinleyenleri yoğun bir duygu karmaşasına sürükleyecek.
Senaryosunu yazdığı ve yönetmenliğini paylaştığı Vizontele filmi büyük başarı kazandı. Vizontole filminin devamı Vizontele Tuuba adıyla 2004 yılında çekildi.