令狐楚与初唐十八学士令狐德棻同族，五岁就能写文章。唐德宗贞元七年(791年)，与状元尹枢同榜进士及第。当时李说、严绶、郑儋相继任河东节度使，都尊重令狐楚的才华和品行，召引他在幕府任职，从掌书记直到判官。德宗爱好文学，每次察看从太原府来的奏章，必然能认出令狐楚的手笔，多次赞美不已。
唐宪宗时，擢职方员外郎，知制诰。经判度支皇甫镈推荐，令狐楚入朝为翰林学士、中书舍人等职。元和十三年(818年)四月，出为华州刺史。十月，皇甫镈升任宰相，授令狐楚为河阳节度使。 令狐楚擅长治理地方，前任河阳节度使乌重胤改任横海节度使时，挑选河阳军三千人充任牙卒，前往横海赴任。河阳士兵不愿意离开家乡，中途叛逃，又不敢回到本州，集聚在州境一带。令狐楚听说后，快马疾驰至怀州，单骑前去劝晓抵达此处的逃军，使其解甲归顺，成为自己的前导。军士们也不敢骚乱。元和十四年(819年)四月，宰相裴度遭到皇甫镈等人排挤，被外调为河东节度使。七月，皇甫镈推荐令狐楚入朝，自朝议郎被授为朝议大夫，升任中书侍郎、同中书门下平章事。他与皇甫镈共同任相，深受其照顾。元和十五年(820年)，宪宗去世，令狐楚担任山陵使，因亲吏赃污事贬衡州刺史。长庆元年(821年)四月，令狐楚遇赦，被量移为郢州刺史，后升太子宾客、分司东都(洛阳)。长庆二年(822年)十一月，令狐楚获授陕州大都督府长史兼御史大夫、陕虢观察使。诏令下达后十天，经谏官奏论，唐穆宗又追回任命诏书，改授他为太子宾客，仍返回东都居住。这时令狐楚已经抵达陕州，并处理政务一天了。当时李逢吉为相，极力援助令狐楚，由于户部侍郎李绅的阻止，李逢吉才未能独断专行。
唐敬宗即位后，李绅失势被贬。不久，令狐楚便被起用为河南尹兼御史大夫。同年九月，令狐楚出任检校礼部尚书、汴州刺史、宣武军节度使及汴、宋、亳诸州观察使。宣武镇兵素来骄横，屡屡驱逐主帅。前任节度使韩弘兄弟先后以严峻的刑法予以约束，未能使其改变心性。 令狐楚抵任后，废除苛严的条令，以仁慈宽惠的方法治理，使军民全都心悦诚服，听从教化。按旧例，新授宣武节度使一到任，就从府库拿出钱二百万作为私产，令狐楚不取这笔钱，而是将其用于修建衙署及住所数百间。大和二年(828年)九月，令狐楚入朝为户部尚书。次年三月，改任检校兵部尚书、东都留守、东畿汝州都防御使。同年十一月，升任检校右仆射、郓州刺史、天平军节度使、郓曹濮诸州观察使。他奏请朝廷将原东平县改为天平县。当时，许多地区连年大旱，甚至发生人吃人的惨剧，令狐楚采取调节富救贫的办法，使辖区内少有流民。大和六年(832年)二月，令狐楚改任太原尹、北都留守、河东节度等使(河东节度使)。他长期在并州，熟悉当地民情风俗，顺随百姓认为有利的事因势利导，尽管连年旱灾，百姓无人迁徙。令狐楚从一介书生至及后赴试成名，都在太原，太原如同他的故乡。等到他出守河东镇时，当地乡民父老对他非常欢迎。令狐楚安定、治理有方，军民尽皆欢悦。大和七年(833年)六月，入朝任吏部尚书，仍为检校右仆射。按旧例，加“检校”衔于高一级官位的官员，即班列高位。令狐楚因自己的正官为三品，不应从就二品班列，奏请从就三品本官班列，文宗下诏嘉奖。
大和九年(835年)六月，转任太常卿。十月，代理尚书左仆射，进封彭阳郡开国公。十一月，“甘露之变”爆发，京师大乱。当夜，文宗召右仆射郑覃与令狐楚进宫，商量拟制敕令。文宗打算将二人都任用为宰相。令狐楚觉得宰相王涯、贾餗遭冤而死，在列叙他们的罪状时浮泛含糊。权宦仇士良等非常不高兴，因此将改授李石为相，令狐楚则以本职兼任盐铁转运使。 此前，宠臣郑注曾上密奏设置榷茶使，由盐铁使兼领。令狐楚就任后，奏请取消设置榷茶使;他又建议各镇节度使参谒谢恩时，只穿公服，不许备置仪仗及兵器;令狐楚还奏请取消用于修缮曲江亭的一万三千七百匹绢，改用为修缮尚书省。文宗对他的上述建议都予以采纳。开成元年(836年)三月初三上巳节，文宗在曲江亭宴请百官。令狐楚因为刚刚诛杀宰相等人，不应赏赐欢宴，于是独自称病不前往，受到议论者的称美。令狐楚厌恶宦官擅权，多次上疏请求解职。四月，令狐楚出任检校左仆射、兴元尹，充任山南西道节度使。
开成二年十一月十二日(837年12月13日)，令狐楚在山南西道节度使任上逝世，享年七十二(一作七十)岁。追赠司空，谥号“文”。后因其子令狐綯显贵，累赠太尉。