山东，背靠中原，面临渤海、黄海，南接江淮，北迫平津，具有非常重要的战略地位，自古以来，就是兵家必争之地。
八路军此时在山东，主要有两股军事力量，其中一股，是原本就在山东的山东纵队。
在抗战刚刚爆发的1937年12月，拥有十万大军的国民党山东省主席韩复榘却在日军进攻面前望风而逃，致使山东153万平方公里的大好河山轻易沦于敌手。
而从1937年11月起，在各地秘密活动和刚刚从牢狱中出来的中共党员，响应北方局发出的“脱下长衫到游击队去”的号召。
他们与从延安派来的一批红军干部结合在一起，先后在冀鲁边、鲁西北、天福山、黑铁山、鲁东、徂徕山、泰（山）西、鲁东南、鲁南、（微山）湖西等地，发动了武装起义，建立了抗日武装力量。
由于这个时期，侵占山东的日军兵力单薄，只占领了主要城市和交通线，广大农村成为真空地带，各地抗日武装在这一有利形势下迅速得到发展，到1938年的6、7月间，已达四万人。
后来，在1938年底，成立了八路军山东纵队，由张、黎两人任指挥和政委。
这是一支在没有八路军主力支持的情况下，由党领导广大人民举行武装起义而创建与发展起来的较大的武装力量。
在这支抗日武装的控制下，初步开创了大大小小许多块抗日根据地。
从全国范围看，大部分抗日根据地是八路军和新四军主力开辟的，如晋察冀、晋绥、晋冀豫和华中的一些抗日根据地。
而山东却是由中共领导人民抗日武装起义开创的。这也是山东抗日根据地的特点。
同时，当中共在山东发动人民抗日武装起义的同时，山东各地国民党势力、地主豪绅、土匪兵痞也趁机拉队伍、抢地盘，出现了司令多如牛毛的局面。
1938年1月出任国民党山东省主席的沈鸿烈，成为这些游杂司令之首，影响或控制了大小股武装共达15万人，在数量和装备上都超过起义的人民武装。
中共要在山东独立自主地担负起抗战的责任，建立巩固的根据地，显然需要有一支主力部队作为骨干。
为此，在1938年的4月份