본명은 필립 에드워드 하트먼(Philip Edward Hartmann)이며, 캐나다 온타리오 주 브랜트포드에서 태어났다. 1960년대 후반 캘리포니아로 이주하여 그래픽 아티스트로 활동하며 앨범 커버 디자인을 하기도 했다. 1970년대 후반 코미디 그룹 '더 그라운들링스'에 합류하면서 코미디 연기를 시작했으며, 1986년부터 1994년까지 NBC의 코미디 프로그램 '새터데이 나이트 라이브'에 출연하며 큰 인기를 얻었다.
'새터데이 나이트 라이브'에서 다양한 캐릭터를 연기하며 뛰어난 코미디 연기력을 선보였고, 특히 빌 클린턴 대통령, 프랭크 시나트라, 찰턴 헤스턴 등의 유명 인사를 패러디한 연기로 유명하다. '심슨 가족'에서는 트로이 맥클루어와 라이오넬 허츠 변호사 등 여러 캐릭터의 목소리를 연기하며 성우로서도 큰 성공을 거두었다. 영화 '꼬마 유령 캐스퍼', '스몰 솔저', '솔로몬' 등 다양한 작품에 출연하며 폭넓은 연기 스펙트럼을 보여주었다.
1998년 5월 28일, 아내 브린 하트먼(Brynn Hartman)에게 총에 맞아 사망하는 비극적인 사건이 발생했다. 브린 하트먼은 약물 중독으로 인한 정신 불안 증세를 겪고 있었으며, 사건 직후 스스로 목숨을 끊었다. 그의 갑작스러운 죽음은 많은 사람들에게 큰 충격을 안겼고, 그의 사망 이후 '심슨 가족' 제작진은 그가 맡았던 캐릭터들을 더 이상 등장시키지 않기로 결정했다.