李春芳生于明武宗正德五年(1510年1月14日)，嘉靖十年(1531年)，李春芳中举人。中举后勤学不倦，先后拜欧阳德、湛若水等大儒为师，又“请益”于王艮，受学于丁养晦。嘉靖二十六年(1547年)，李春芳擢进士第一，以鼎甲第一成丁未科状元，与张居正同科。授翰林院修撰，被挑选入西苑撰写青词，甚得明世宗朱厚熜赏识，与翰林侍读严讷一同被破格提升为翰林学士，旋即升为太常少卿，任礼部右侍郎，仍兼翰林学士，像之前一样到西苑值班。后来佐理礼部事务，升任礼部左侍郎，转任吏部侍郎。又代严讷出任礼部尚书，后升为太子太保。
嘉靖四十四年(1565年)，兼任武英殿大学士，入阁任职，与严讷一同参与机密大事的处理。世宗很宠爱身边值勤的大臣们，他们的升迁任命都出自特旨任命。李春芳自任学士到执政，共六次升迁，未有一次是由大臣推举的。李春芳入阁时，当时徐阶任首辅，很得世宗倚信。李春芳遇事必抬徐阶，徐阶也很看重他。隆庆元年(1567年)春，穆宗下诏修造翔凤楼，李春芳说：“皇上刚刚即位，就大兴土木，说得过去吗?”修楼事就这样停止了。
隆庆二年(1568年)，李春芳接替徐阶升任内阁首辅，成为中国历史上为数不多的状元宰相，后累加至少师兼太子太师，升任吏部尚书，改中极殿大学士。
最初使李春芳萌生退意的，应该是他被卷入徐阶、高拱之间的漩涡之后。高拱一党的监察御史齐康，弹劾首辅徐阶及次辅李春芳在内阁中狼狈为奸弄乱朝政。当年，李春芳两次乞休，奏疏没有提齐康弹劾的事，只讲了 “亲老身衰”的两个理由：父母亲 “年并七十有七，景逼桑榆，命同风烛”;自己年龄也大，精力衰减， “目花生而莫辩，心血耗而善忘”，不能再承担内阁重务。皇帝当然知道李春芳乞休的原因，当即下旨安慰挽留：“卿德望素著，年力未衰，朕方切倚任，用图治理，岂可遽求休退。宜即出供职，以副眷怀，不允所辞。”过了两年，李春芳又上疏乞休，这一次当是徐阶罢相他继任首辅之后，即明史中所指的 “始阶以人言罢，春芳叹曰： ‘徐公尚尔，我安能久?容旦夕乞身耳’”。奏疏中提出的理由是 “血疾陡作，不能供职”，左鼻几次衄血如注，医生认为 “病起积劳，非旦夕可愈”，希望皇上能够“悯臣多疾，放归田里”。皇上派了太医诊治，仍然不允所求： “卿辅弼之臣，忠勤素著，朕所倚任，岂可以微疾辄求休致。宜用心调理，痊可即出供职。”李春芳最后比较集中地提出乞休，是在隆庆五年。当时南京的给事中王祯揣摩高拱的意图，上书指责李春芳 “亲已老而求去不力，弟改职而非分希恩”，是为 “不忠不孝”。李春芳在乞休奏疏中也提到： “臣果忠实乎果欺诈乎，皇上圣明内蕴，无微不照，自然辨察”，但 “忝居丞弼，既经丑诋，岂可复玷班行之首”，要求皇上将其“即日放归田里”。隆庆皇帝很快下旨挽留： “卿辅弼之臣，忠诚体国，朕所眷倚，岂可以人言辄求休致。宜即出安心供职。不允辞。”这一次李春芳铁了心，连续上了4封奏疏，弄得皇上很不耐烦： “卿昨具辞已有旨勉留，何又有此奏?”“机务繁重，方切倚毗，岂可坚于自遂。宜即出辅理，慎勿再辞。” “卿屡疏求退，已屡有旨慰留，宜体圣怀，勉出辅政，勿再固辞。”等到李春芳上了第5封奏疏，隆庆皇帝没有办法，只得下了一道 《赐大学士李春芳归田敕》， “特从说请，用遂雅情”，并赐驰传遣官护行， “有司岁给舆隶八人，月馈官廪六石”。
李春芳还乡后，父母还都健在，一家人从早到晚摆酒食娱乐，乡亲们对他艳羡不止。父母谢世后数年李春芳才谢世。万历十三年三月十九日(1585年4月18日)，李春芳逝世，享年七十五岁，获赠太师，谥号“文定”。