如荼之际，两广地区的反清情绪也随之高涨。为了生存，刘永福兄弟加入了钦州那良人郑三领导的起义军。然而，李保哥不久后去世，刘永福的直系亲属也都相继离世，这使得他更加孤身一人地面对未来的挑战。在郑三军中服役期间，刘永福并没有与清军正面交锋，反而在一次与其他起义军火并的事件中身受重伤，险些丧命。
咸丰十年（1860年），刘永福决定离开郑三，转而投奔了另一位农民军首领吴二。但由于待遇不佳，他又很快改投了王士林。在王士林的部队中，刘永福经历了五年的服役期。起初，每位士兵每天还能得到一斤大米和20文钱的供给，但随着时间的推移，供给逐渐减少，到了最后，士兵们甚至面临食物短缺的问题。在这种情况下，刘永福于同治四年（1865年）再次改投黄思宏的部队。然而，黄思宏不久便离开了军队，士兵们的处境变得更加艰难，每天只能领取18文钱，甚至连基本的食物保障都无法满足。
在这样的困境之下，刘永福于同治五年（1866年）率领愿意追随他的200多名士兵，投奔了当时广西南部最大的反清势力——延陵国领袖吴鲲（又称吴阿忠、吴亚终）。吴鲲给予了刘永福及其部下必要的支持，允许刘永福指挥自己带来的士兵，并提供粮食和金钱。刘永福在归顺州（今广西靖西）的安德北帝庙建立了黑旗军，并因其在战场上的优异表现，被吴鲲委任为左翼先锋。
然而，到了同治六年（1867年），吴鲲在与清军的交锋中受伤，其势力大幅削弱。意识到继续留在吴鲲麾下已无前途，刘永福决心另辟蹊径。他在自己的住处设坛，与部下歃血为盟，誓要共赴国难，并用剑毁掉了吴鲲所授予的左翼先锋印鉴。此时，黑旗军的核心成员包括潘哥招、邓阿英、陆满金等二十多人，他们之间关系紧密，彼此信任。
鉴于越南北部局势动荡，阮朝政府无力控制局面，刘永福决定率部300余人进入越南，希望能够借此机会发展自己的势力。他们首先到达了由邓志雄、梁俊秀等人占据的苏街大墟。虽然部下农秀业建议趁机消灭邓志雄和梁俊秀，但刘永福并未采纳此建议。相反，他选择向越南阮朝政府表明立场，最终被任命为宣光团勇头目
三、雄踞保胜
同治七年（186