会防局”，依靠西方雇佣军保护上海；另一方面，派遣代表如钱鼎铭等人前往安庆，请求曾国藩派遣援军。
曾国藩最初考虑派曾国荃或陈士杰出兵支援，但由于种种原因未能实现。随后，他转向李鸿章寻求帮助。李鸿章欣然接受任务，开始着手组建淮军。
咸丰十一年（1861年）夏天，李鸿章奉命返回安徽招募淮勇。凭借之前在庐州组织团练的经验和在当地的人脉资源，李鸿章迅速得到了张树声、周盛波、潘鼎新、刘铭传等人的支持。这些人大多是皖籍地主武装的头领，与李鸿章有着直接或间接的关系，因此淮军的组建工作进展得非常顺利。
同治元年（1862年）春节后，淮军最早的四个营——“树”、“铭”、“鼎”、“庆”营陆续集结于安庆进行训练。这四个营分别由张树声、刘铭传、潘鼎新和吴长庆领导。与此同时，李鸿章还命令自己的弟弟李鹤章返回合肥招募旧部，包括内亲李胜、张绍棠，昔日好友王学懋，以及父亲李文安的旧部吴毓兰、吴毓芬等人。
曾国藩对这支新军极为重视，亲自召见各营将领，并为淮军订立了详细的营制和营规。为了增强淮军的实力，曾国藩从湘军系统中调拨了部分部队，其中包括“春”字营（张遇春）、“济”字营（李济元），太平军降将程学启率领的“开”字两营，以及湖南新勇“林”字两营（滕嗣林、滕嗣武）。此外，还有“熊”字营（陈飞熊）和“垣”字营（马先槐），以及曾国藩赠送的亲兵两营（韩正国、周良才）。
通过这些增援，淮军初步形成了14个营的规模，每个营配备正勇505人，长夫180人，总计685人。曾国藩亲自检阅了已经集结在安庆的淮军各营，并宣布淮军建立。随后，上海的士绅筹集了18万两白银，租用了7艘英国商船，将淮军分批运往上海。由于“济”字营需要留在池州，所以实际运抵上海的淮军共有13营，约9000人。
1862年三月十日，李鸿章随首批淮军抵达上海。不久之后，经曾国藩推荐，李鸿章被任命为江苏巡抚，并一度暂署办理通商事务大臣。李鸿章受任之时，上海正处于极为严峻的局势之中。太平军正在发动第二次大规模进攻，上海的安全受到严重威胁。面对这样的局面，李鸿章牢记曾国藩的教诲：