1952'de St. Louis'nin Missouri şehrinde dünyaya gelen Goodman, henüz 2 yaşında babası Leslie Francis Goodman'ı kalp krizi sonucu kaybetti. Garsonluk yapan annesi Virginia, ekstra iş olarak çamaşırcılık yaptı. Lise yıllarında Amerikan futbolu ve tiyatroyla ilgilendi. Missouri State Üniversitesi'ne futbol bursuyla girdi, ancak yaşadığı bir sakatlık onu sporu bırakmaya zorladı. Sonrasında tiyatroya daha fazla yöneldi. Profesyonel bir oyuncu olabilmek için New York'a gitti. Geçimini sağlayabilmek için garson ve barmenlik yaptı, bazı reklam filmlerinde oynadı. 1980 yılından itibaren sinema ve televiyon projelerinde yer almaya başladı. Daha sonra birçok işte birlikte çalışacağı Coen Kardeşler'in 1987 yapımı Raising Arizona filminde oynadı. 1991'de oynadığı bir başka Coen Kardeşler filmi Barton Fink'teki performansıyla dikkat çekti.
1988'de başlayıp 1997'ye kadar süren Roseanne dizisinde Dan Conner rolüyle yer alan oyuncu, bu dizideki performansıyla, 1993 yılında Golden Globe Ödülleri'nden En İyi Erkek Oyuncu ödülünü kazandı. 1994'te Taş Devri'nin sinema uyarlamasında Fred Çakmaktaş'ı canlandırdı. 1998'de Blues Brothers 2000, aynı yıl yine Coen Kardeşler'in The Big Lebowski filmlerinde büyük başarı kazandı.
2001'de Pixars'ın Sevimli Canavarlar ve 2013'teki devam filmi Sevimli Canavarlar Üniversitesi'nde Sulley karakterini seslendirmiştir. 2012'de bol ödüllü film Argo, 2013'te Hangover serisinin 3. filminde oynadı.
1989'da Annabeth Hartzog ile evlenen John Goodman'ın Molly Evangeline adlı bir kızı bulunmaktadır.
