窦威年轻时性情沉静，器量不凡，而且博览群书。窦家世代勋贵，以武勇著称，子弟都喜爱武艺。窦威却偏好文史，因此被诸兄讥为书痴。
隋朝建立后，窦威得到内史令李德林的举荐，担任秘书郎。他在任期满后，仍然不肯调任，坚持留在秘书监，继续精研学问。当时，窦氏诸兄都因军功得授显职，对只任闲职的窦威非常轻视，对他道：“从前孔子积学成为圣人，仍是困顿失意，你又希求什么呢?”窦威笑而不答。后来，窦威被蜀王杨秀征辟为记室，因杨秀多行不法，便称病离职，返回乡里。仁寿二年(602年)，杨秀因罪被废为庶人，王府属官大都获罪，只有窦威得以幸免。大业四年(608年)，窦威升任内史舍人。他多次劝谏隋炀帝，结果违忤旨意，被调任考功郎中，后又坐事免职。
义宁元年(617年)，唐国公李渊攻入长安，立代王杨侑为帝，自任大丞相，并任命窦威为大丞相府司录参军。当时，李渊正筹建新朝，因窦威在隋朝任职多年，熟知朝纲礼仪和各项典制，便让他参与起草各项章程、制度条令的工作。武德元年(618年)，李渊代隋称帝，建立唐朝，是为唐高祖。窦威为高祖起草登基诏书，被拜为宰相，担任内史令。他议论政事得失，阐述清晰，并常引古事劝谕，深受唐高祖的亲近、器重。唐高祖常把窦威召入内室，与他促膝长谈。
同年六月，窦威患病，唐高祖亲自到他府中探视。不久，窦威病逝，遗命薄葬。唐高祖得知，追赠他为同州刺史、延安郡公。赐谥号为靖，并让太子李建成与百官一同前去送葬。 《旧唐书·卷六十一·列传第十一》《新唐书·卷九十五·列传第二十》《资治通鉴·卷一百八十四·隋纪八》《资治通鉴·卷一百八十五·唐纪一》 。