1862年1月，清朝朝廷颁布旨意，任命曾国藩为协办大学士、两江总督，仍旧督办苏、皖、浙、赣四省军务。此时的曾国藩踌躇满志，调兵遣将，准备顺江而下，直取太平天国的都城天京。于是，双方在南京附近的雨花台爆发了一场空前激烈的大战，最终领兵三十万的李秀成，居然败给了三万湘军。
话说这年的3月，曾国荃、彭玉麟率领着湘军的水陆部队，离开安庆，顺江而下。湘军一路上攻无不克、战无不胜，在短短两个月的时间里，就突破了从安庆到南京之间的重重关卡。5月30日，曾国荃率军在雨花台附近扎营，彭玉麟的水师也停泊在南京护城河口。
消息传到城内，引起了洪秀全的惊恐，他立即从城内抽调军队，出城作战。6月8日，太平天国两万多人出城，结果被湘军击败。初战失败，更加剧了洪秀全的恐慌，他立即给在江苏境内的李秀成下诏，甚至一日之内下发三道诏书，让李秀成立即率军驰援天京。
当时，李秀成正率领大军攻打上海，将松江城团团包围，“正当成功之时”。李秀成并不想撤兵，但洪秀全不断派人前来催促。在诏书中，洪秀全威胁道：“三诏追救京城，何不启队发行?尔意欲何为?尔身受重任，而知朕法否?”此时李秀成的境遇，就像当年的岳飞。
李秀成认为天京城坊坚固，只要粮食、武器充足，完全可以坚守，不足为虑，等到湘军士气懈怠，在与其交战，则可解除天京之围。不过，洪秀全完全拒绝了李秀成的建议，还派亲信指责李秀成不忠，“云我有自图之意”。后来李秀成才知道，原来是洪仁达向洪秀全进谗言。
君命不可违，李秀成最终在9月率领十三王的人马驰援天京，号称六十万，加上后来的李世贤等人的军队，其实只有三十万人。此时，曾国荃等人率领的湘军只有三万人，然而雨花台之战的结果却出乎所有人的意料!双方激战四十六天，李秀成的大军惨败，湘军顽强守住了营盘。
双方实力悬殊，为何会出现这样的结果呢?首先，太平军人数众多，给养不足，而湘军能够得到充足的补给。曾国荃的湘军虽然被动防守，但运输线却没有被切断，彭玉麟的水师掌握着长江的运输线，源源不断的将给予运送到大营中。而李秀成的太平军从上海前来驰援，缺少粮草。
其次，湘军以守为主，拥有大量的火枪、火炮，利于防守。而太平军依然采用人海战术，根本无法突破湘军的防线。还有一点也很关键，李秀成原本就没想支援天京，因此缺乏坚定的作战意志，再加上他长期沉湎于奢华的生活，丧失了当年的锐气，其他诸王也是一样。雨花台之战的失败，为太平天国敲响了灭亡的丧钟。