高郢的先祖自渤海徙卫州，遂为卫州人。九岁通《春秋》，能属文。天宝末，盗据京邑，父高伯祥先为好畤尉，安禄山陷京师，抵贼禁，加极刑。高郢时年十五，被发解衣，请代其父，贼党义之，乃俱释。后举进士擢第，应制举，登茂才异行科，授华阴尉。
尝以鲁不合用天子礼乐，乃引《公羊传》，著《鲁议》，见称于时，由是授咸阳尉。郭子仪节制朔方，辟为掌书记。郭子仪尝怒从事张昙，奏杀之;高郢极言争救，忤子仪旨，奏贬猗氏丞。
李怀光节制邠宁，奏为从事，累转副元帅判官、检校礼部郎中。李怀光背叛，将归河中，郢言：“西迎大驾，岂非忠乎!”李怀光忿而不听。及归镇，又欲悉众而西。时浑瑊军孤，群帅未集，高郢与李鄘誓死驻之。属怀光长子李琟候郢，郢乃谕以逆顺曰：“人臣所宜效顺。且自天宝以来阻兵者，今复谁在?况国家自有天命，非独人力。今若恃众西向，自绝于天，十室之邑，必有忠信，安知三军不有奔溃者乎?”李琟震惧，流泪气索。明年春，高郢与都知兵马使吕鸣岳、都虞候张延英同谋间道上表;及受密诏，事泄，二将立死。李怀光乃大集将卒，白刃盈庭，引郢诘之。郢挺然抗辞，无所惭隐，愤气感发，观者泪下，怀光惭沮而止。唐德宗还京，命谏议大夫孔巢父、中人啖守盈赴河中宣慰怀光，授以太保;而怀光怒，激其亲兵诟詈，杀守盈及巢父。巢父之被刃也，委于地，郢就而抚之。乃怀光被诛，马燧辟郢为掌书记。
未几，征拜主客员外，迁刑部郎中，改中书舍人。凡九岁，拜礼部侍郎。时应进士举者，多务朋游，驰逐声名;每岁冬，州府荐送后，唯追奉宴集，罕肄其业。郢性刚正，尤嫉其风，既领职，拒绝请托，虽同列通熟，无敢言者。志在经艺，专考程试。凡掌贡部三岁，进幽独，抑浮华，朋滥之风，翕然一变，拜太常卿。贞元十九年冬，进位银青光禄大夫、守中书侍郎、同中书门下平章事。唐顺宗即位，转刑部尚书，为韦执谊等所惮。寻罢知政事，以本官判吏部尚书事。明年，出镇华州。
元和元年冬，复拜太常卿，寻除御史大夫。数月，转兵部尚书。逾月，再表乞骸，不许。又上言曰：“臣闻劳生佚老，天理自然，蠕动翾飞，日入皆息。自非贡禹之守经据古，赵喜之正身匪懈，韩暨之志节高洁，山涛之道德模表，纵过常期，讵为贪冒。其有当仁不让，急病忘身，岂止君命，犹宜身举。臣郢不才，久辱高位，无任由衷沥恳之至。”乃授尚书右仆射致仕。六年七月卒，年七十二。赠太子太保，谥曰贞。