1968'de Daly City, California'da doğdu. Oyunculukla ilgilenen Pete Rockwell ve Penny Hess çiftinin çocuğudur. Sam iki yaşındayken ailesi New York'a taşındı. Önce Bronx'a sonra da Manhattan'a yerleştiler. Sam 5 yaşına geldiğinde annesi ve babası boşandılar ve babası San Francisco'a taşındı. Yazları babasının yanında San Francisco'da, diğer zamanlarda New York'ta annesinin yanında büyüdü. William Esper aktörlük stüdyosunda 2 yıl çalıştı. İlk oyunculuk deneyimini 20 yaşındayken, Victor Salva'nın Clownhouse (1988) filmiyle sinemaya başladı. J.E. McAteer Lisesi'nde okudu.
Birkaç TV dizisinde rol aldıktan sonra, 1994 yılında bir bira reklamında rol alarak ünlendi. Bu filmin ardından sinema oyunculuğuna daha ciddi bir şekilde eğildi. 1997 yapımı Lawn Dogs filmiyle dikkat çekti. 1999 yapımı Yeşil Yol (The Green Mile) filmindeki mahkum William Wharton rolüyle çok büyük takdir kazandı. Aynı yıl Galaxy Quest (1999) filmlerinde de rol alan Rockwell, 2002 yapımı Confessions of a Dangerous Mind filmiyle iyice şöhretini artırdı. Matchstick Men, Otostopçunun Galaksi Rehberi, Frost/Nixon, Moon, Conviction gibi filmlerle herkesin beğenisini kazandı. 2012 yılında Martin McDonagh'ın Seven Psychopaths filminde oynadı. 2017'de bir başka McDonagh filmi Three Billboards Outside Ebbing, Missouri'deki polis memuru Jason Dixon rolüyle En İyi Yardımcı Erkek Oyuncu dalında Oscar, Altın Küre, BAFTA ve SAG ödüllerinin sahibi oldu.
2007'den beri aktris Leslie Bibb ile birliktedir.