史涣少年时就已经有任侠之风。在曹操开始发迹的时候，史涣就以门客的身份跟从曹操，任中军校尉。此后史涣就一直随着曹操东征西讨，多立战功。曹操任丞相时，置领军一职，由史涣担任，后更名为中领军。史涣的地位约与韩浩相当，二人均为曹操的亲信随从，以忠勇闻名，共同掌管禁兵，被封为列侯。至于领兵征伐方面，史涣多从曹仁、徐晃二将出阵。裴松之注《三国志》时引用鱼豢(huàn)《魏略》有其传记。
建安四年(公元199年)春二月，曹操回到昌邑。东汉大司马张杨的部将杨丑，杀了张杨，正要举众向曹操投降之际，其部将眭固又杀了杨丑，带了张杨的人马归附了袁绍。当时眭固屯兵射犬(今河南省武陟县西北)一带。夏天的四月，曹操进军临黄河，遣使史涣、曹仁领兵渡河讨伐眭固。眭固让张杨的旧长史薛洪、河内太守缪尚留守射犬，自己领兵北上向袁绍求救。眭固中途与史涣、曹仁相遇在犬城，双方展开了激烈的交战。史涣、曹仁大破眭固，斩了眭固的首级，尽降其军。曹操渡河，兵围射犬。薛洪、缪尚二人率众投降。 “大败眭固”这次战役是史涣功勋最为卓著的一场战事，其事散见于《武帝纪》的曹仁传和徐晃传。
官渡之战期间，袁绍派遣部将韩荀，正要从西道钞击曹军，却于鸡洛山遭到曹仁截击，于是袁绍再不敢行分兵钞道之计。乘此优势，史涣便与曹仁、徐晃一起抄截袁绍的运粮车，烧其粮草，大力打击袁军的士气。曹操击败袁绍后，继续追击袁氏于柳城，史涣认为远军深入的决定潜伏著一定的危险性，欲与韩浩一起进谏，然而韩浩却指我军现今士气如虹，势如破竹，作为领导中军的将领不宜打击军队士气为由作罢。虽然后来曹操的确能成功攻取柳城，但此事亦可看出史涣为人的谨慎。
建安十四年(公元209年)，史涣逝世，其子史静嗣其职爵。