后来，李鸿章谨言慎行，逐渐在公牍行文上锤炼得炉火纯青。李鸿章办理行文、批阅公文，起草书牍、奏章，深得曾国藩好评。不久，发生了安徽巡抚翁同书，即帝师翁同龢长兄，在与太平军打仗时弃城逃跑的事件。于是，便出现了曾国藩最负盛名的“天下第一折”《参翁同书片》。其实，这“天下第一折”就出自李鸿章之手。其折历数翁同书罪状，字字千钧，句句见血，并道出参奏的初衷，“臣职份所在，例应纠参，不敢以翁同书之门第鼎盛瞻顾迁就。”
就此一折，成功扳倒了翁同书，朝廷判其“拟斩监候”。曾国藩称赞李鸿章：“……将来建树非凡，或竟青出于蓝，亦未可知。”虽然，曾国藩因此更欣赏李鸿章的才华，但是，李鸿章也因此与翁同龢结下不共戴天之仇。后来，当李鸿章出任北洋大臣时，身为帝师的翁同龢处处刁难北洋水师，致使甲午海战，一败涂地。甲午海战大败，翁同龢难辞其咎。
咸丰十年，即1860年，李鸿章统带淮扬水师。湘军占领安庆后，被曾国藩向朝廷奏荐“才可大用”，命他回合肥一带募勇。
同治元年，即公元1862年，淮勇五营建立，李鸿章率13营淮军抵达上海，自成一军，称为淮军。当年3月经曾国藩推荐任江苏巡抚，12月改为实授。从此，李鸿章便真正脱离了秘书的岗位，走上了飞黄腾达的仕途之路。
毋庸置疑，曾国藩是个很有头脑的政治人物，他在一生官场的生涯中，十分注重物色和培养接班人。当选定李鸿章招募淮军又保举他为江苏巡抚的时候，曾国藩显然是把李鸿章作为理想中的接班人来看待。在曾国藩去世后，李鸿章执掌晚清军事、外交大权30年。当然，这一切都离不开他在曾国藩身边当了10年秘书的历练，以及曾国藩这样一位朝廷重臣精心的选拔与不懈的举荐。