1861年，太平军忠王李秀成率领军队，气势如虹地攻破江南大营后，迅速挥师进入江浙地带，江浙一带的地主士绅如“丧家之犬”纷纷逃到上海。
然而，上海的局势也岌岌可危。太平军攻占苏州后，分分钟就可以向上海发起进攻。而上海地形易攻难守，防守的兵力又相当有限，除了英法洋兵和华尔洋枪队外，就只有根本派不上用场的绿营和团练。英法洋兵的主要任务是保护租界安全，他们才不管上海的安危呢。
为了避免上海陷入灭顶之灾，上海的士绅们赶紧自己想办法。想什么办法呢?他们派出钱鼎铭前往安庆湘军大营，找曾国藩搬救兵，承诺只要曾国藩派兵援救上海，军饷根本不是问题。曾国藩被打动了。因为湘军自成军以来，最大的问题就是筹措军饷。
曾国藩最初打算派曾国荃去上海，可老九一心一意围攻天京，不愿分身。接着又想派湘军宿将陈士杰去上海，陈士杰也不愿去。就在这时候，李鸿章主动请缨。于是，任务就交给了李鸿章。
随即，曾国藩的派遣下，李鸿章回到安徽老家，募集了6营淮军。曾国藩见淮军势单力薄，又从湘军划拨了8个营的兵力。于是，李鸿章就有了14个营的建制。
在操练一段时间后，上海战事紧急，李鸿章便率领9000名淮军从安庆启程奔赴上海。从安庆到上海，还有很长一段距离，其间要多次经过太平军的势力范围。如果这样硬闯过去，势必猴年马月才能抵达上海。而走长江水路的话，就要经过天京。天京长江两岸，都有太平军重兵把守。
最后，由上海士绅出面，请英国派商船护送淮军奔赴上海。
1862年2月，李鸿章率领第一批2000名淮军，乘坐英国商船沿着长江顺流而下。
李鸿章的幕僚周馥也随行。他后来回忆，当时长江两岸密布太平军的炮台和营垒，淮军官兵们都躲在底舱中，忍受着污浊的空气污浊不敢露头，怕遭太平军攻击。只是，由于太平军碍于洋船，没有上前检查。淮军士兵在经过天京江面时，纷纷出舱欢呼雀跃。太平军鞭长莫及，只能怒目而视。
经过两天两夜的航行，满载淮军将士的英国商船停靠在上海十六铺码头。淮军将士从船舱走出来，好奇地打望着眼前这座繁华而陌生的大都市。
他们身着芒鞋短衣，布帕包头，满嘴的安徽土话。因为很久没有洗澡，身上散发出浓烈的味道，再加上手中武器简陋，多是大刀长矛，看上去就像一群乞丐，英法军队见此情状，“皆笑指为丐”，把他们称为“叫花子兵”。
面对外界的讥笑，李鸿章鼓励淮军将士，说：“军贵能战，待吾破敌慑之。”只要能打仗，怕什么呢?很快，李鸿章就率领淮军接连打了虹桥、北新泾、四江口3次恶战，遏制住了太平军的势头，缓解了上海的燃眉之急，也让中外人士对淮军刮目相看。
淮军赢得了上海士绅的信任，军饷源源不断地送来。李鸿章用这些钱，购买大量洋枪洋炮，对淮军进行改装，并聘请外国教练按照西式制度进行训练。一支迥然不同的新式军队，就出现在大家面前。
李鸿章依靠淮军，在上海成功地站稳脚跟，这也成为李鸿章一生功业之始。