Heffelfinger stammte aus einer Familie, die aus der deutschsprachigen Schweiz in die USA ausgewandert war. Er wurde als Sohn eines Schuhfabrikanten in Minneapolis geboren und wuchs auch dort auf. Obwohl er 1884 noch die Central High School absolvierte, spielte er bereits an der University of Minnesota Football.
