窦德玄,窦威从孙,洛阳(今河南洛阳)人。隋朝大业年间,起家为国子学生。起初,任唐高祖李渊丞相府千牛,在唐太宗李世民朝不太显贵,唐高宗李治因他是旧臣,从殿中少监提拔为御史大夫,这年又升任司元太常伯。
麟德初年,窦德玄进检校左相,他克己勤政,天子曾经临朝,询问其廉洁公正之事迹,加以赏赐。居位多年,辅助封禅事务,和李勣皆为封禅使。皇帝停驻濮阳,问古时所谓的帝丘,窦德玄回答不上来,许敬宗全部说出来龙去脉,皇帝称好。许敬宗向人自夸,窦德玄知道后,不和他计较,众人佩服他的度量。封禅礼告成,进爵两级。因弟弟窦德远没有爵位,愿意和他分封,下诏允许,所以窦德玄封钜鹿县男,都德远封乐安县男。窦德玄迎时取合,从来没有过失,但也没有其他补益。乾封元年(666年)去世,终年六十九岁,追赠光禄大夫、幽州都督,谥号恭。