杜黄裳年轻时考中进士，又中制举宏辞科，受到宰相杜鸿渐的器重，被朔方节度使郭子仪辟为从事。大历十三年(778年)，郭子仪入朝，命杜黄裳留守朔方，主持军务。李怀光趁机矫诏，欲诛杀大将温儒雅等人，以取代郭子仪。杜黄裳辨认出诏书乃是伪造，质问李怀光，使其阴谋未能得逞。
唐德宗贞元年间，杜黄裳入朝，担任侍御史，因与宠臣裴延龄不睦，十年未得升迁。永贞元年(805年)，唐顺宗继位，杜黄裳因女婿韦执谊拜相，得以升任太子宾客，后改任太常寺卿。当时，唐顺宗病重，不能理政。翰林学士王叔文当权，与韦执谊等人进行政治改革。杜黄裳加以反对，主张由皇太子李纯监国。韦执谊劝道：“您怎能刚升官就谈论禁中之事。”杜黄裳怒道：“我受三朝厚恩，怎能因一个官职便出卖自己。” 同年七月，唐顺宗命太子李纯监国，主持朝政，并擢升杜黄裳为门下侍郎、同中书门下平章事。八月，唐顺宗称太上皇，退居兴庆宫，并册立太子李纯为皇帝，是为唐宪宗，杜黄裳充任册立副使。唐顺宗去世后，杜黄裳又充任丧葬礼仪使。
元和元年(806年)，夏绥银节度使韩全义入朝。杜黄裳认为韩全义奸邪谄媚，毫无建树，勒令其致仕退休，任命李演为节度使。夏绥留后杨惠琳举兵拒命，被部将张承金斩杀。不久，西川节度副使刘辟叛乱。朝臣都认为蜀地险要，易守难攻，不主张出兵讨伐，只有杜黄裳主战。他要求罢免宦官监军，将军事委托给神策军使高崇文，并在朝中决策战略。西川平定后，百官朝贺，唐宪宗对杜黄裳道：“这都是你的功劳啊。”后来，杜黄裳与唐宪宗提到节度使任命问题，奏道：“德宗皇帝姑息藩镇，使的藩镇将帅权力膨胀，朝廷政令难行。陛下应吸取教训，严整法度，削弱藩镇权力，加强中央集权。”唐宪宗深以为然。杜黄裳又道：“为君者应修己任贤，掌握大政纲领。只要用人得当，责其尽职，有功必赏，有罪必罚，谁还敢不尽力?”唐宪宗听取了他的建议，着力整顿朝纲，扫灭齐蔡叛军，收复两河一带，使贞元以来的动乱局势有所改变。
杜黄裳虽有治国之才，但不拘小节，因而未能久居相位。元和二年(807年)，杜黄裳出镇河中府(治今山西永济)，担任检校司空、同平章事、河中尹、河中晋绛慈隰节度使，加封邠国公。元和三年(808年)，杜黄裳病逝，终年七十一岁，追赠司徒，谥号为宣。元和八年(813年)，御史台上奏宪宗，揭发杜黄裳曾接受高崇文的贿赂，杜黄裳之子杜载在受审时承认属实。唐宪宗念及杜黄裳之功，不予追究，并将杜载释放。 会昌六年(846年)十月，杜黄裳与裴度、李愬、高崇文等配享宪宗庭庙。