骑兵将领的人，大家都推举原来的秦朝骑士重泉人李必、骆甲，他俩对骑兵很在行，同时又都担任校尉之职，因此可以担任骑兵将领。
刘邦准备任命他们，但他们二人说：“我们原为秦民，恐怕军中士卒觉得我们靠不住，所以请您委派一名常在您身边而又善于骑射的人做我们的首领。”当时灌婴年龄虽然不大，但在多次战斗中都能勇猛拼杀，所以就任命他为中大夫，让李必、骆甲担任左右校尉，带领郎中骑兵在荥阳以东和楚国骑兵交战，把楚军打得大败。又奉刘邦命令自己单独率领军队袭击楚军的后方，断绝了楚军从阳武到襄邑的粮食供应线。
在鲁县一带，打败了项羽将领项冠的军队，部下将士们斩杀楚军的右司马，骑将各一人。击败柘公王武，军队驻扎在燕国西部一带，部下将士们斩杀楼烦将领五人，连尹一人。在白马附近，大破王武的别将桓婴，所统率的士兵斩都尉一人，又带领骑兵南渡黄河，护送刘邦到达洛阳，然后汉王又派遣灌婴到邯郸去迎接相国韩信的部队，回来到敖仓时，被升任为御史大夫。
灌婴以列侯的爵位得到了杜县的食邑平乡，以御史大夫的身份率领郎中骑兵，隶属于相国韩信，在历下击败了齐国的军队，灌婴所率领的士卒俘虏了车骑将军华无伤及将吏四十六人。迫使敌兵投降，拿下了临菑，活捉齐国守相田光，又追击齐国相国田横到嬴、博，击败齐国骑兵，所率领的士卒斩杀齐国骑将一人，活捉骑将四人。攻克嬴、博，在千乘把齐国将军田吸打得大败，所率士卒将田吸斩首。然后跟随韩信引兵向东，在高密攻打龙且和留公旋的军队，所率领的士卒将龙且斩首，活捉右司马，连尹各一人、楼烦将领十人，自己亲手活捉亚将周兰。
齐地平定之后，韩信自立为齐王，派遣灌婴单独率军去鲁北攻打楚将公杲的军队，获得全胜。灌婴挥师南下，打败了薛郡郡守所率领的军队，亲自俘虏骑将一人。接着又进攻傅阳，进军到达下相东南的僮城，取虑和徐城一带，渡过淮河，全部降服了淮南的城邑，然后到达广陵。
其后项羽派项声、薛公和郯公又重新收复淮北，因此灌婴渡过淮河北上，在下邳击败了项声、郯公，并将薛公斩首，拿下下邳。在平阳击败了楚军骑兵，接着就降服了彭城，俘获了楚国的柱国项佗，降服