段文昌自幼客居荆州，为人豁达豪爽，不拘小节，节度使裴胄虽知其才，但却不能加以任用。贞元十七年(801年)，段文昌入蜀，被西川节度使韦皋辟为幕僚，授校书郎，后任灵池县尉。
元和元年(806年)，朝廷因西川节度副使刘辟讨要节度使之位，命大将高崇文征讨西川。高崇文攻入成都，将刘辟槛送长安，并向朝廷推荐房式、韦乾度等归降的西川参佐。段文昌也在归降官员之中，虽受高崇文重视，但并未得到举荐。 元和二年(807年)，李吉甫拜相。段文昌曾在李吉甫担任忠州刺史时前往干谒，因此得到提拔，被擢升为登封县尉、集贤校理，后历任监察御史、补阙、祠部员外郎。后来，唐宪宗欲授段文昌为翰林学士，但被宰相韦贯之阻挠。元和十一年(816年)，韦贯之罢相。段文昌得授翰林学士，并升任祠部郎中，获赐绯色官衣。元和十二年(817年)，宰相裴度平定淮西之乱。刑部侍郎韩愈奉诏撰写《平淮西碑》，大力歌颂裴度的功勋。李愬在平乱时功居第一，在碑文中却甚少提及，因此愤愤不平。其妻韦氏向皇帝申诉，称碑文内容不实。唐宪宗遂命人将韩愈的碑文磨去，让段文昌重新撰写。元和十四年(819年)，段文昌又加知制诰。元和十五年(820年)，唐穆宗继位。段文昌被召入思政殿，以备顾问，不久便被拜为宰相，授为中书侍郎、同中书门下平章事。
长庆元年(821年)，段文昌上疏，请辞相位。唐穆宗遂任命段文昌为西川节度使、同中书门下平章事。段文昌素知蜀地民情，到任后虽治政宽仁，但却法纪严明，深受蛮夷畏服。长庆二年(822年)，云南蛮族侵入黔中。朝廷接到黔中观察使崔元略的奏疏，非常担忧，诏命段文昌严加防备。段文昌派使者前往谈判，蛮族退兵而去。长庆四年(824年)，唐敬宗继位。段文昌被征拜为邢部尚书，后改任兵部尚书，并代理尚书左丞。826年(宝历二年)，唐文宗继位。段文昌升任御史大夫，进封邹平郡公，后又出镇淮南，授检校尚书右仆射、同平章事、淮南节度使。太和四年(830年)，唐文宗调段文昌为荆南节度使，改授检校左仆射。太和六年(832年)，段文昌再次出任西川节度使。
太和九年(835年)，唐文宗派宦官到西川赏赐春衣。段文昌可能是兴奋过度，刚刚受宣完毕便突然去世，时年六十三岁，被追赠为太尉。