不料到处碰壁，回家反遭到乡亲邻里的讥笑。吴起一气之下，杀了诽谤和侮辱他的人，决计外出求学。和母亲告别时，发誓不做上卿或相一级的大官，决不返回家园。
他先来到 鲁国，拜当时的儒家大学者 曾子为师，攻读儒学。不久，他的母亲去世，曾子要他回家去尽孝道。他感到，学业无成，自己立下的誓言没有达到，无颜回家去见母亲灵位，就没有去。曾子很恼怒，便把他逐走。吴起离开曾子后，便一心攻读兵书，研究韬略。
有一年，齐国发大军进攻鲁国，鲁君惊恐万分，在百般无奈的情况下命吴起为统帅，没有想到竟大破齐军。吴起立了战功，不但没有受到表彰，反而遭到鲁国贵族的疑忌和排斥，他们对鲁君说：“鲁国是个小国，打了胜仗，出了名，其他诸侯国就会一起来攻打我们，鲁国就算大难临头了”。鲁君听信谗言，吴起不得不离开鲁国。战功卓着吴起听说 魏文侯很贤明，正在任用 李悝衽实行变法，也极需要人才，他便来到魏国，魏文侯问李悝，吴起这个人怎么样，李悝说：吴起很会用兵打仗，即使齐国名将司马穰苴再世，也不能超过他。
魏文侯非常高兴便任命吴起为大将。吴起为将，治军有方，“爱兵如子”。他能与士卒同甘共苦，穿一样的衣服，吃一样的饭菜；行军时不坐车，与士卒一样背着行装和军粮；宿营时也跟士卒一样不铺设席子。有一回，他统帅魏军攻打 中山国，他发现了一个士兵生了毒疮，亲自用嘴替这个士卒将脓吸吮出来。这个士卒的母亲听到这个消息后，不禁痛哭起来。
旁人问她：“吴将军亲自为你的儿子吮出脓血，你为什么不感到高兴，反而这样悲伤呢？”这个母亲抽泣着，回答说：“从前我的丈夫生了毒疮，也是吴将军替他吮出脓血的，病治好后，他就英勇战死在疆场了。现在吴将军又亲自为我的儿子吸吮毒疮，我的儿子又必然以死相报，我不知道他将战死在什么地方，所以禁不住哭出来。”
吴起不仅能善待士卒，而且纪律严明，赏罚分明，同时还深知布阵和各种作战方法，特别精通各军兵种协同作战。魏文侯曾命吴起统率魏军步兵五万、命令全军：“三军将士要坚决服从指挥，明日迎战敌军的战车、骑兵和步兵，如果车战的不能缴获敌人的战车，骑战的不能虏获敌人的