，“收其卒二万”。这前后，十分有见识的李善长也来帮助朱元璋，从此形成了一支不平常的势力，领袖朱元璋有雄才，有勇将有谋士。这时朱元璋的根据地是滁州。朱元璋军事集团的北面有小明王，东面有张士诚干，西面有徐寿辉的，为他隔开了元朝的主力军。朱元璋利用这一地利，发展壮大了自己的力量。在打下徽州后为他向当地着名的儒生朱升咨询大计，朱升回答他九个字：“高筑墙，广积粮，缓称王。”也就是：巩固后方发展经济，不干树大招风的事，伺机再谋图帝王之业，并且遵照刘基“先汉后周”之策略，着手对江南各势力进行对抗。
陈友谅攻陷鸠州，随后弑主徐寿辉、称帝建国，国号汉，与张士诚合攻应天府。朱元璋采用“围魏救赵”之策，命胡大海进攻信州，促使陈友谅班师救援，并在龙湾设伏。随后朱元璋收复鸠州、安庆等地，而离间计，致使张士诚按兵不动。陈友谅率六十万水军进攻洪都，朱元璋亲率二十万部队驰援，双方在鄱阳湖交战，史称“鄱阳湖之战”。陈友谅自恃巨舰出战，采用炮攻，朱元璋险些负伤被擒。随后，朱元璋利用东北风而改用火攻，致使陈友谅部大量受损。之后朱元璋利用鄱阳湖水位降低便于小舟活动，改为分兵水路围攻陈友谅。陈友谅中箭身亡，汉军溃败。随后朱元璋围攻武昌，并尽占湖北各地，陈友谅之子陈理举降。
朱元璋发表檄文声讨张士诚，杭州、湖州先后投降朱元璋，平江成为孤城。朱元璋以重兵包围平江，发动平江战役。在围城的同时，朱元璋派廖永忠去滁州接小明王韩林儿到应天来，但在瓜州渡江时悄悄将船底凿漏，小明王沉于江底。接着，朱元璋宣布不再以龙凤纪年，，平江战役开始时，朱元璋筑墙围城，并造有三层的木塔楼，高过城墙，以弓弩、火铳向城内射击，还设襄阳炮日夜轰击。城内一片恐慌，张士诚几次突围都以失败告终，张士诚反复无常，贪图享受，对部下也十分放纵，平江被围困的最后一天，张士诚弟弟张士信在城头督战，仍不忘享乐，坐在银椅上饮酒，左右侍奉的人递桃子给他，结果桃子还没到口，恰好一炮打来，脑袋被打得粉碎。朱元璋曾多次派人劝降，都被张士诚拒绝。张士诚死守平江，粮尽后，便以老鼠、枯草为食；箭尽了，便以屋瓦为弹。朱元璋率军攻入平江城，张士诚则展开巷战