约20人的中队部组成，规模约200人左右并配有1-2挺重机枪和步兵炮。
“大队”，地位在“营”、“团”之间，人数远大于营但又明显比团少。其包括3-4个步枪中队、一个运输大队、一个机枪中队和一个迫击炮小队约1200人规模并配有若干挺重机枪和少量步兵炮。
“联队”，它比“团”的规模更大，包括1个约60人的指挥部，3个步兵大队，1个炮兵大队，一个通信中队和一个反坦克中队，规模约4000人。日军还有炮兵联队，约2000余人，配备约40门野战炮。
“旅团”，独立混成旅团一般有7000人左右，而步兵旅团则是下属2个步兵联队约4000余人。
“师团”，是日本的主力基石，他的地位近乎于“军”，是日本陆军的最高编制，这个下面再细说。
侵华战争爆发后，日军又组建了10个四联队制的师团，其中新组建的是101、104、106、108、109、110、114、116师团，恢复番号的是13、18师团，连同原有的17个师团，合计有27个四联队制的师团。
这些四联队制的师团中既有挽马师团，也有驮马师团。区别就在于挽马师团中的炮兵联队配备的是野炮，而驮马师团中的炮兵联队配备的是山炮。
随着战局的发展，日军发现四联队制师团过于庞大，不能适应战场上多变形势。所以从1937年9月开始，组建了7个三联队制师团。1939年在本土又组建了10个三联队制师团，还从1939年10月开始，逐步将四联队制师团改编成三联队制师团。
1941年底以前组建的三联队制师团大多在师团司令部下设有一个步兵团司令部，这个步兵团司令就是步兵指挥官，后来这个步兵团司令部被撤销了，由师团长直接指挥各个步兵联队。
这些三联队制师团除了分为挽马师团和驮马师团以外，还分为三步兵联队一炮兵联队和三步兵联队一炮兵队两种，这里的炮兵队编制小于炮兵联队。
区别挽马师团和驮马师团的标准，不是看师团下辖几个步兵联队，而是看师团下辖的炮兵联队或炮兵队配备的是山炮还是野炮。因为每门山炮需要的人员和马匹要比野炮多，所以配备山炮的