蓑衣渡之战太平军虽然受挫，但并末停止攻势，逆转道州、郴州而直逼长沙。 但太平军围攻长沙近三月(82天)未克，便接受石达开的建议与安排，于11月30日从长沙撤围北上，经益阳，出湘阴，集民船数千越洞庭，占岳州，使得以沿长江水路东下，进军武汉，12月22日进抵武昌外围。长沙解围后，各路清军都迟疑不进，唯向荣率部尾追。
这时军事紧急，武汉前线统帅乏人，不久，朝廷令跟随向荣暂署湖北提留，并授为钦差大臣，专办军务，所有军营文武，统归节制，原钦差大臣赛尚阿被免职。
1853年1月12日，太平军攻陷武昌。2月9日。太平军做出惊天之举，弃守武汉，以号称50万之众。战船万余只，蔽江而下。两江总督、钦差大臣陆建瀛弃九江逃回金陵。向荣亲率清兵2400余人为前队，轻装兼程追击，企图抄截太平军，然太平军水陆齐进，所向无阻，进军异常神速。向荣于2月21日抵达九江，但前阻鄱阳湖，无舟不得继续前进，在此迟滞半月。当太平军的先头部队开始围攻金陵(南京)时，向荣方离九江取道水路东下。
太平军于咸丰三年二月十一日(1853年3月20日)攻占金陵城，改名为天京，并正式在此建都。同年3月24日，向荣自安庆抵芜湖，即舍身登岸，由陆路绕道秣陵关，于31日到达金陵城东沙子冈，并在金陵城外钟山南麓孝陵卫一带，建立起清军江南大营，卡住太平军南进之路，同时另一支清军还在扬州建立江北大营。两个大营互相策应，企图钳制太平军向东南和向北发展，当然最终的意图是想克复金陵，当时朝廷还寄希望于自己这支绿营兵。
太平军占领金陵时，队伍已号称百万，其中能战之兵也有数十万，而且拥有船只以万计，完全控制了这一带长江水道。但洪秀全、杨秀清对江南大营没有采取立即围歼的方针，也就是并不是很在意这支清军。而是抽出主力分兵两路.一路由林风样、李开芳率领，于四月一日由扬州出发北伐直隶;另一路由胡以晃和赖汉英率领，于四月十二日溯长江而上再西征两湖，这就使向荣的江南大营得以在金陵城外与太平军长期相持。
不久，北伐太平军过安徽，破归德(今商丘)，围开封，渡黄河，使京师受到直接威胁，清廷在北伐太平军胜利进军下十分惊慌，责令向荣加紧攻城，限夏末秋初之际收复金陵，以牵制北上之太平军。对于朝廷的谕旨，向荣当然不敢拒绝，但他心里明白，仅凭江南大营现有的兵力，要想攻下金陵是不可能的。
江南大营本来兵力就不多，太平军北伐和西征后，又先后调出3000余名尾追，兵力更加单薄，于无可奈何之中，只得勉强应付。向荣挑选了3000余名精兵，亲自与之沥血饮酒，誓师破城。显然，这是做给皇上看的。偌大的金陵城，绝不可能用此法收复。在江南大营建立的第一年内，向荣只是定期派兵对金陵进行零星的攻击，但这既不可能攻克城池，也不能使皇上满意，结果不断遭到咸丰帝的严责和痛骂：“似此等打仗，不过谨(仅)免大败……若不能攻克金陵，汝亦无颜见朕。”1856年6月，太平军西征军在湖北失利后回师天京，在杨秀清和秦日纲的指挥下攻破江南大营，向荣又被革去湖北提督之职，不久就忧郁而死。
太平军弃桂林入湘以后，朝廷急命赛尚阿尾追太平军，并又调川军、赣军入湘增援，又调陕军和豫军入鄂防堵，但这些清军在太平军面都不堪—击。当时朝廷严令参将以下官员，赔误军机者，“—面奏闻，一面军前正法”。
先是大学士赛尚阿领兵驰赴广西镇压太平军，但无论在广西和湖南攻击太平军都无建树，倒是湖南巡抚骆秉章提前几个月就修缮加固了长沙城墙，使太平军围长沙近三月未能攻克，且西王萧朝贵战死，于是太平军采纳翼王石达开的建议，弃长沙进洞庭湖，集民船数千只，取岳州，入湖北，于咸丰二年十二月攻占武汉三镇。咸丰三年正月，数十万太平军又顺江东下，二月占领金陵，并在金陵正式建立太平天国，改金陵为“天京”，离金田起事也就两年多一点。至此，清军在长江两岸的防御事实上已经完全崩溃，后来只得依赖湘军了。
其实，剿灭不了太平军也不能完全怪赛尚阿，关键是那时候的绿营军根本就已经没有战斗力了。前面已经说到，太平军起于广西时，主领广西驻军的广西提督是向荣，他的兵力其实远大于刚起事的太平军，但就是因为军队不肯作战，他只能跟在太平军后面走。
这样的绿营兵怎么能打仗，结果向荣的江南大营于咸丰六年四月被太平军攻破。
绿营兵是在顺治初期开始组建，曾经用来剿灭三藩，到咸丰年间兵力曾达六十万人，但早巳腐败衰弱，丧失了战斗力。这样的军队当然不敢与太平军作战，而且在太平军的打击下，自然也都是一打就垮，所以太平军就曾经两次完全击破清军绿营兵的江南大营。只是后来依赖湘军、淮军和楚军，朝廷最后才将太平天国镇压下去。所以太平天国的兴起当然对朝廷是一个巨大威胁，但这个外界危机也只经过十四年(1851—1864年)就被湘军、淮军和楚军平息了。