，多次遭到夜袭，遭受严重破坏。无奈之下，曾国藩只得下令撤退。彭玉麟虽然尽力救援，但最终只能跟随残余部队返回武汉。自此，湘军水师被迫分裂为内湖和外江两个独立的部分。
不久之后，曾国藩指示彭玉麟带领尚存的七十多艘较为完好的战船前往沔阳州新堤进行修整。就在这个时候，武昌、汉阳再次落入太平军手中。彭玉麟随即在当地招募新兵并建造船只，逐渐恢复了外江水师的力量，使其人数达到了三千左右，由他和杨岳斌共同指挥。同年七月，应湖北巡抚胡林翼之邀，彭玉麟带领部队从金口出发，先是攻克蔡店及其周边地区，接着又成功占领了汉阳，并在此过程中俘虏了多名太平军高级将领。随后，他还接连夺取了五显庙、晴川阁等地，并在叶家洲焚烧了两百余艘敌船，进一步巩固了湘军在该区域的优势地位。
咸丰四年（1854年），湘军水师在从沙口返回沌口的途中遭遇了太平军的猛烈炮击。在这次战斗中，彭玉麟所乘坐的战船桅杆被炮火打断，船只无法继续前进，情况十分危急。就在此时，杨岳斌驾驶的战船经过，但当彭玉麟向他呼救时，杨岳斌却假装没有听见，迅速离开了现场。幸运的是，彭玉麟部下的成发翔恰好驾着一艘舢板经过，彭玉麟得以跳入其中逃过一劫。事后，湖北巡抚胡林翼上书称赞彭玉麟“忠勇冠军”，并指出其胆识与坚定。清廷也对此事给予了嘉奖，并以道员的身份记名。
随着战争局势的发展，塔齐布去世，萧捷三也在战场上阵亡，内湖水师失去了领导核心。在这种情况下，曾国藩决定调遣彭玉麟来江西接管内湖水师。当时彭玉麟正在长沙休假，接到命令后，尽管袁州、瑞州等地已被太平军占领，导致前往江西的道路受阻，彭玉麟仍然设法伪装成一名游学乞食者，穿着破旧的衣服徒步行走七百里，巧妙地避开了沿途太平军的盘查，最终成功抵达南昌的曾国藩大营。接手内湖水师后，彭玉麟进行了大规模的整顿和扩充，使得水师规模达到了十营六百艘船，大大增强了战斗力。
到了咸丰六年（1856年），彭玉麟因功被提拔为广东惠潮嘉道。在此期间，他在樟树镇、临江吴城以及涂家埠等地多次击败太平军，重新夺回了南康等地，展现了卓越的指挥才能。紧接着，在咸丰七年（1857年），由于