軍侵入山東，逼近濟南。山東人民在中共各地組織的領導下，先後在冀魯邊、魯西北、天福山、黑鐵山、魯東、徂徠山、泰西、魯東南、魯南、湖西等地區舉行了武裝起義，抗日烽火在山東大地迅速燃燒。

在冀魯邊區，“七·七”事變之後，中共冀魯邊區工委於文彬、馬振華就在鹽山組織了“華北民眾抗日救國會”。

11月，日軍侵佔鹽山等地，冀魯邊工委即在鹽山之舊鎮、樂陵之黃夾鎮及寧津、慶三、無棣等地，領導人民舉行了抗日武裝起義，建立了“人民抗日救國軍第1軍”。起義武裝先後數次襲擊鹽山之敵，1938年1至4月，曾攻克鹽山、解放無棣、收復慶雲縣城，部隊發展到2000餘人。同時，成立了樂陵、慶雲、南皮三縣民主政權。

在魯西北地區，全國抗戰爆發後，中共山東省委即對第6區專員兼保安司令範築先進行統戰工作。在中共黨組織的幫助和推動下，範築先於11月19日通電全國，宣佈誓死留魯西北地區堅持抗戰，並將第6區保安司令部改為“山東省第6區抗日遊擊司令部”。隨後，陸續收編了大批遊雜武裝，編成35個支隊，並在10多個支隊中建立了共產黨的組織。此外，魯西北特委還在堂邑縣組建了第1遊擊大隊，不久以此為基礎擴編成範部的第10支隊。

魯西南工委在曹縣組織了一支3000餘人的武裝，使用範部第35支隊的名義。

在膠東地區，1937年12月24日，中共膠東特委書記理琪在文登縣天福山領導武裝起義，組成“山東人民抗日救國軍第3軍”。翌年1月中旬，膠東待委又在威海衛組織了一支武裝，擴大了起義部隊。2月上旬，正式成立了山東人民抗日救國軍第3軍司令部，轄兩個大隊。起義武裝曾夜襲牟平城，收復福山縣城。在天福山起義的同時，中共掖縣、蓬萊、黃縣、萊陽等地黨組織也相繼舉行起義，組織了抗日武裝，並建立了掖縣、蓬萊抗日民主政府。第3軍於4月間將起義部隊分別編為第1、第2、第3、第4路，每路下轄若干大隊；掖縣起義武裝則編為