等攻克了浙江嘉兴。淮军一路推进至常州城下，李鸿章亲自督军攻打常州，于同治三年（1864年）四月破城，捕杀了太平天国护王陈坤书和佐王黄和锦。至此，苏南地区的太平军基本被肃清，清廷赏赐李鸿章骑都尉世职。攻克常州后，常胜军解散，留下的洋枪队和炮队并入淮军。
当时，湘军久攻天京不下，清廷多次诏催李鸿章率淮军前往会攻。考虑到与曾氏兄弟的关系，李鸿章担心染指金陵会被认为抢功，进而得罪曾氏兄弟。因此，他在苏、常两地按兵不动，转而南下攻入浙江，这一举动惹恼了闽浙总督左宗棠，后者上奏朝廷，指责李鸿章“越境掠功”。五月十三日，李鸿章得知湘军即将攻破天京城，又因朝廷不断催促，遂派刘士奇炮队及刘铭传、潘鼎新、周盛波等二十七营会攻天京。十五日，曾国荃接到李鸿章的出兵咨札，激发众将出击。次日，湘军攻克天京。事后，曾国藩对李鸿章表示感激：“愚兄弟薄面，赖子保全。”
太平天国失败后，在处理湘淮军的去留问题上，曾国藩与李鸿章采取了不同策略。曾国藩在攻下天京后不到一个月，即遣散了大部分湘军，主要是为了避免功高震主，给自己带来杀身之祸。而李鸿章则认为：“吾师暨鸿章当与兵事相始终，留湘淮勇以防剿江南北，俟大局布稳，仍可远征他处。”他认为，当前的威胁来自内部叛乱，但长远的威胁在于西方列强，因此主张保留湘淮军，不仅用于平定内乱，更要抵御外侮。
五、出击捻军
同治三年（1864年）十月，清廷命令曾国藩前往皖鄂交界地区，督军防堵从湖北东下的太平军扶王陈得才及捻军。与此同时，李鸿章被任命前往江宁，暂时代理两江总督的职务。这一时期，李鸿章负责协调地方军务和民政事务，为曾国藩的军事行动提供支持。
到了同治四年（1865年）四月，剿捻统帅博尔济吉特·僧格林沁在山东菏泽全军覆没，清廷随即任命曾国藩为钦差大臣，北上督师剿捻。李鸿章再次代理两江总督，负责调兵、筹饷等后勤保障工作。同年八月，李鸿章奏请购置上海虹口洋人铁厂的机器设备，并将这些设备与丁日昌、韩殿甲原有的两个工厂合并，成立了江南制造总局，责成丁日昌负责监督筹划。这一举措不仅增强了淮军的后勤保障能力，也为