高开道其家世代靠煮盐为生。少年时矫捷勇悍，跑起来追得上奔马。隋朝末年，赋役繁重，灾荒连年，民不聊生。大业九年(613年)，河间人格谦在豆子岗(今山东惠民境内)起义，拥众十万，自称燕王，高开道于是投奔义军。起初高开道不被格谦所看重。有一次格谦遭到隋兵围捕，左右奔散，不敢救援，高开道只身奋战，连杀数十名隋兵，解除围攻，格谦方才免难，随即委派他为将军。
大业十二年(616年)，隋将王世充受命剿灭起义军，格谦率军几经决战，兵败被杀。高开道率余党一百多人逃往海边。经过休整，军威复振，于是转战劫掠沧州，贼众渐附，因而北上攻掠戍堡，从临渝到怀远全都被他攻占。当时，隋朝右武卫大将军李景守卫北平(今河北卢龙)，高开道率兵包围北平，一年多未能攻陷。辽西太守邓暠领兵救援，李景带领部下迁到柳城;后来准备回幽州，在路上被强盗杀死。高开道于是攻取北平。武德元年(618年)，高开道率军攻陷渔阳郡(今天津蓟县)，拥有甲马(披有铠甲的战马)数千匹，徒众万人，自称为燕王，都城设在渔阳。
起初，怀戎县(今河北张家口)僧人高昙晟乘县令设斋来了很多百姓时，与五十名(《资治通鉴》作五千人)僧人裹胁参加斋会的人反叛，杀了县令以及镇守的将领，自称大乘皇帝，立尼姑静宣为耶输皇后(《资治通鉴》作邪输皇后)，建年号为法轮。当天晚上，高昙晟派人招降高开道，封高开道为齐王，高开道率领五千人归顺了高昙晟。三个月后，高开道杀了高昙晟，兼并了他的全部兵马。武德二年(619年)三月二十三日，高开道被唐朝营州总管邓暠打败。武德三年(620年)，高开道重新自称燕王，建年号为始兴(一作天成)，设置百官。
武德三年(620年)九月，唐将罗艺守卫幽州(今北京)，被窦建德军围困，罗艺向高开道求救，高开道率骑兵二千人前去援助，窦建德畏惧高开道军都是勇猛精锐之士，于是率军撤退。十月十九日(11月18日)，高开道便借助罗艺遣使奏请归降唐朝，唐高祖李渊下诏任命他为蔚州总管、上柱国，封为北平郡王，赐姓李氏。高开道率轻骑五百到达幽州，想对罗艺下手。高开道带领随从骑士数人进入都督府，观察罗艺动静，罗艺设宴与他畅饮尽欢，高开道明白不能下手，便离开幽州。
武德五年(622年)，幽州发生饥荒，高开道答应输送粮食。罗艺派遣老弱前往就食。高开道接待很周到。罗艺很高兴，不加提防，随即调拨兵士三千人，车数百辆、马驴千余匹前往借粮，高开道全都留下而不予遣返。于是北与突厥连兵，并且与罗艺断绝往来，重称燕王。同年，刘黑闼进犯山东，高开道与他联合共同抵抗唐军。高开道率军进攻易州，未能攻下而退兵。后又派部将谢棱诈降于罗艺，并请求派兵救援。罗艺率众接应，将到怀戎时，谢棱纵兵将其击破。接着高开道引突厥南侵，恒州(今河北正定)、定州(今河北定县)、幽州、易州(今河北易县)等州尽遭蹂躏。突厥颉利可汗因高开道部众善用攻城器具，与他一道攻拔马邑。当时群盗相继平定，高开道想归降唐朝，又怕多次反复，不能取信于人，仍然依仗突厥自保平安。但将士多是山东之人，思还家乡，众人更加厌恶作乱。
武德六年五月二十八日(623年7月1日)，高开道带领奚族骑兵侵犯幽州，被唐朝幽州长史王诜打败。刘黑闼反叛时，靺鞨首领突地稽带兵协助唐朝，将他的部落迁到幽州的昌平城。高开道带领突厥侵犯幽州时，遭突地稽带兵阻截，而被打败。武德六年(623年)七月，高开道掠夺赤岸镇以及灵寿、九门、行唐三个县之后离去。武德六年(623年)八月，高开道率领奚族军队侵犯幽州，被唐朝幽州军队击退。武德六年(623年)九月二十九日，高开道带领二万突厥骑兵侵犯幽州。
起初，高开道招募壮士数百人为养子，常在阁下护卫。刘黑闼部将张君立逃归高开道，高开道命张君立与爱将张金树分督其兵。武德七年二月十八日(624年3月12日)，张金树暗自命令左右数人装作与高开道诸养子嬉戏，到了晚上，进入阁内，偷偷地断其弓弦，又取刀矛藏于床下。天黑后，张金树率其部下鼓噪来攻，先前派出的几个人抱着刀矛跑出阁来。高开道诸养子准备出战，但找不到兵器。张君立又在外城举火相应，帐下大乱，诸养子感到困穷，争先归附张金树。高开道知道此难难免，披甲持刀据堂而坐。与其妻妾奏乐酣饮，张金树畏惧而不敢进逼。二月十九日(3月13日)天将亮时，高开道先缢死其妻妾儿女而后自杀(一说被张金树所杀)。