昔日贾复请求统兵去攻打郾县的贼寇，光武帝笑着说：‘执金吾去攻打郾县，我还有什么烦恼呢？’你智谋胆略都胜过别人，现在正是你施展本领的时机，我允许您因利乘便，相机行事，不用再先向我请示。”又派护军夏侯儒、将军费曜等人领兵在他后面接应，张既率军到达金城，要渡过黄河，部下将领、守备都认为兵少路险，不可深入敌方腹地。张既说：“道路虽然险峻，却不像井陉那样狭窄，夷狄都是乌合之众，不会有李左车那样的计谋，现在武威郡很危急，应该迅速赶到那儿。”就断然下令渡河。
卢水胡骑七千余在鹯阴口，狙击张既的部队，张既扬言要由鹯阴口渡河，却悄悄地经过且次县到达武威，胡人都以为遇到了神仙，退却到显美县，张既已然占据了武威，费曜的接应部队才赶到，而夏侯儒的部队还没到达，张既犒劳赏赐部下，打算进军攻击胡人。将领们都说：“我方士卒疲倦，敌人却保存着锐气，很难同他们打仗。”张既说：“现在军中没有现成的粮草，应当就敌人处取得资用，如果敌人发现我方兵力聚集，就要退进深山，那时候再追击他们，道路既险峻难走，士兵又饥饿疲累；如果退兵不追，又会遭受敌人的抄袭。这样的话，部队就总也得不到休息，正应了前人所说的‘一旦放跑了敌人，危害会延续好几代’。”于是便领兵挺进到显美县，遭遇卢水胡的几千骑兵，要借助大风放火烧毁魏军的营盘，张既部下的将士都很恐惧。张既夜间埋伏下三千精锐士卒，让参军成公英督率一千多骑兵挑战，命令他们佯装败退，卢水胡果然争先恐后地来追赶，于是伏兵四出，截断了胡人的队伍，分别攻击他们的首尾，结果大获全胜，斩首俘虏一万多人。
曹丕非常高兴，下诏说：“君渡黄河，历险境，用疲劳的军队攻击有准备的敌人，以少数胜多数，功劳盖过了周宣王时的南仲，勤劳超过了尹吉甫。这个功绩不仅仅是打败了胡人，而是使河西一带永远宁静，让我再也不用顾虑西边的国土了。”曹丕转封张既为西乡侯，给他增加了二百户食邑，连同以前的食邑，一共四百户。不久后，酒泉苏衡反，与羌豪邻戴及丁令胡万余骑攻边县，张既与夏侯儒击破之，苏衡及邻戴等皆降，遂上疏请与夏侯儒修建左城，筑关隘，置烽火台、粮仓以备胡人。西羌惊恐，率众二万余投降。