官升署都指挥佥事，隶属广东都司。
谭元清在新兴、恩平一带屡次叛乱，总督欧阳必进将此事交给俞大猷处理，俞大猷于是让百姓各自守卫自己的地方，自己带几个随从亲自去拜访各个首领，跟他们晓明厉害，并教他们击剑，有一个叫苏青蛇的人，能与猛虎格斗，俞大猷将他斩杀，让首领何老猫归还抢夺的民田，又招降许多首领，最终，俞大猷不费一兵一卒，平定新兴、恩平的叛乱。
右副都御史朱纨巡视福建，推荐俞大猷为备倭都指挥，这时正值安南入侵，欧阳必进上奏留俞大猷效力。此前，安南都统使莫福海去世，儿子莫宏瀷尚幼，大臣阮敬想拥立他的女婿莫敬典，另一大臣范子仪想拥立其党羽莫正中，二人相互仇杀。莫正中兵败，带百余人投靠明朝，范子仪收集残卒逃往海东。范子仪假称莫宏瀷已死，来迎莫正中回安南即位，范子仪侵略钦州、廉州，扰乱边境，欧阳必进传令俞大猷前往讨伐。俞大猷率军迅速前往廉州，范子仪正急攻廉州城，而俞大猷的水军还尚未抵达，于是俞大猷派人前往劝降，并声称朝廷已经调大军前来，范子仪不知实情，率军撤走。
不久之后，俞大猷水军就已经到达，俞大猷于冠头岭设伏兵伏击范子仪军，范子仪又侵犯钦州，俞大猷阻截范子仪军的战船，追打范子仪军，生擒范子仪的弟弟范子流，斩首一千二百级。俞大猷将范子仪军追到东云屯，传令莫宏瀷杀掉范子仪，莫宏瀷于是取范子仪首级来献给俞大猷。然而俞大猷讨平范子仪叛乱后，严嵩却将俞大猷的战功压下来不上报朝廷，只给了俞大猷五十两银子。
琼州五指山黎民那燕串通感恩、昌化黎民诸部共同反叛，欧阳必进又调俞大猷讨伐，并任命俞大猷为崖州参将。俞大猷与广西副将沈希仪前往征讨，斩首五千三百多人，招降三千七百人，战斗胜利后，俞大猷在征得欧阳必进的同意后单人匹马去与黎民约定，建立市镇，用治理汉人的方法治理黎民，海南一带得到安定。
倭寇进犯浙东一带，明世宗朱厚熜下诏调任俞大猷为宁波、台州诸府参将。当时，倭寇攻破了宁波昌国卫，俞大猷率兵击退敌人，倭寇又攻陷绍兴临山卫，并转攻至松阳，当地知县罗拱辰奋力抵御海寇的进攻，俞大猷在海上阻截敌人，取得较大的战果，但竟被朝廷以失事停俸