1980'de Jillian-Alvin Segel çiftinin çocuğu olarak Los Angeles'ta doğdu. Adam adlı bir ağabeyi, Alison adlı bir kız kardeşi vardır. Harvard-Westlake School'da liseyi okudu. Lisede basketbol takımında yer aldı.
“Freaks and Geeks” adlı komedi dizisiyle çıkış yapan Jason Segel, dizinin yapımcısı, ünlü komedi yönetmeni Judd Apatow ile de bu sayede tanıştı. Yine Apatow'un yaratıcısı olduğu “Undeclared” adlı TV dizisiyle kariyerine devam eden oyuncu, 2004'te komediye ara vererek CSI'a konuk oyuncu olarak katıldı. 2005'te başrol karakterlerinden biri olarak yer aldığı How I Met Your Mother dizisindeki Marshall rolüyle tüm dünyada büyük şöhret ve sevgi kazandı. Bu rolü tam 9 sezon boyunca canlandırmayı sürdürdü.
Apatow ile ortaklığına sinema alanında hız veren Segel, 2007’nin ses getiren komedi filmlerinden Knocked Up'ın kadrosundaydı. 2008 ise aktör için verimli bir yıl oldu. Yine Apatow'un yapımcılığında oluşturulan kendi yazdığı ve başrolünde oynadığı “Forgetting Sarah Marshall” adlı komedi filmi büyük seyirci kitlelerini salonlara topladı. Ülkemizde de gösterime giren filmde Sarah Marshall rolünde Kristen Bell oynamıştı. 2012 yapımı The Five-Year Engagement filmini yazıp yine başrolünde oynadı. 2014 yapımı Kaset İşi (Sex Tape) filminde başrolü Cameron Diaz'la paylaştı. 2015 yapımı The End of the Tour filminde yazar David Foster Wallace'ı canlandırdı.