1968'de J.V. Bevan Olyphant ve Katherine Gideon'ın çocuğu olarak Honolulu'da doğdu. Andrew adlı bir ağabeyi, Matthew adında bir erkek kardeşi vardı. California'nın Modesto şehrinde büyüdü. Fred C. Beyer Lisesi'nde okudu. Gençlik yıllarında oyunculuktan ziyade yüzme, resim gibi ilgi alanlarına yönelmişti. Hatta 1986 yılında Amerika Şampiyonası'nda 200 metre bireysel karışıkta final yüzmeyi başarmıştı. Southern California Üniversitesi'ne yüzme bursuyla kabul edildi, ancak mimarlık hayal etmesine rağmen Güzel Sanatlar Bölümü'ne girdi. 1990'da mezun oldu.
Mezuniyetinden sonra önünde çeşitli seçenekler bulan Olyphant, New York'a gitti ve burada bir süre stand up yaptı. Oyunculukta devam etmeyi kafasına koyan oyuncu, William Esper Studio'da eğitim aldı. Kariyerinin ilk yıllarında dizi ve filmlerde küçük roller aldı. Scream 2, Gone in 60 Seconds, Go, The Broken Hearts Club: A Romantic Comedy, Dreamcatcher gibi yapımlarda yer aldı. 2004 yapımı Komşu Kızı'nda (The Girl Next Door) bir porno film yapımcısı olan Kelly'i canlandırdı. 2004'te başlayıp 2006'da sona eren Deadwood dizisindeki Şerif Seth Bullock rolü, ona şöhret kapısını açtı. 2007'de başrolünde oynadığı Hitman filmi, onu tüm dünyaya tanıtan rol oldu. Aynı yıl Bruce Willis'le Zor Ölüm serisinin 4. filmi Live Free or Die Hard'da oynadı.
2009-10 arasında Damages dizisinde Wes Krulik karakterini 11 bölümde canlandırdı. Bunların haricinde A Perfect Getaway, The Crazies, I Am Number Four, ve Rango gibi filmlerde de rol aldı. 2010'da başlayıp 6 sezon sonunda 2015'te sona eren Justified dizisindeki Raylan Givens rolüyle ödüller ve adaylıklar kazandı. 2017'de başlayan Santa Clarita Diet dizisinde yine başrolde oynadı.
1991'den beri Alexis Knief ile evli olan Olymphant'ın Grace Katherine (d. 1999), Henry (d. 2001) ve Vivian (d. 2003) adlarında 3 çocuğu bulunmaktadır.