在5~7月,繼續“掃蕩”國民黨第24集團軍未投降的部隊(第27、第40軍),迫使這些部隊在8月4日前全部退出太南。
在太北的八路軍總部和第129師一直密切關注著太南形勢的急劇變化,4月25日,太行區黨委、第129師政治部即發出指示,部署組織南援遊擊支隊與隨軍地方工作團南下,支援太南友軍作戰。此後,又派出1個主力團南下豫北汲縣、淇縣西北地區,1個主力團南下太南陵川地區。7月10日,偽第 24集團軍暫編第5、第7軍和太行保安隊共2萬餘人,在日軍配合下,開始向平漢路西太南地區伸展,佔據點線,八路軍太行區的休縣縣城及其周圍地區亦為偽軍侵佔,一度進入太南的八路軍、地方工作隊北撤;同時,偽暫編第6軍及獨立第1、第2旅共約8000人,向平漢路東地區伸展,侵佔八路軍衛河以南滑縣、長垣間的焦虎集、瓦堽集地區,並企圖繼續東犯,以便與駐東明、濮陽地區的偽第2方面軍孫良誠部勾通聯絡。
為粉碎日偽軍在太南擴張的企圖,掃除建立太南新抗日根據地的障礙,八路軍第129師計劃實施林南戰役。八路軍總部同意實施林南戰役的計劃並指示冀魯豫軍區配合。於是冀魯豫軍區同時實施衛南戰役。(見附圖6)
冀魯豫軍區以第4軍分割槽之第16、第21團、人民自衛軍新4路、衛河支隊和騎兵團一部,由軍區副政治委員蘇振華、參謀長閻揆要指揮進行衛南戰役。7月30日,八路軍發動攻勢,在官橋營一帶殲滅正向八路軍作試探性進攻的偽軍1000餘人。7月31日襲擊駐焦虎集的偽暫編第6軍第7師師部,將其全殲。8月2日,又突襲瓦堽集,戰至3日上午,全殲偽獨1旅1600餘人。爾後,八路軍撤回根據地內休整。8月18日晨平漢路西太行軍區發動林南戰役。為配合作戰,次日,冀魯豫八路軍再次出動,奔襲駐袁莊之偽第7師殘部和獨2旅,迫其投降。當晚乘勝攻擊駐大範莊之偽暫編第6軍軍部,偽軍殘部逃回衛河以西。衛南戰役,八路軍共殲滅偽軍5600餘人,收復和開闢了衛河以南地區。
八路軍第129師於8月2日製定了《林南戰役綱要》,次日,召開作戰會議,傳達戰役綱要。計劃以太行軍區部隊、冀南軍區準備赴延安途經太行的兩個團(第20、第771團)、冀中軍區警備旅(1942年五·一大“掃蕩”時途經冀魯豫退到太行區),由師參謀長李達統一指揮,實施林南戰役。師決心集中優勢兵力,首先分割包圍和各個消滅林縣城偽軍指揮中樞及其周圍據點,爾後擴大戰果,繼續消滅林縣以南各據點偽軍;對掩護偽軍駐止或進擾之日軍,在有利情況下,堅決予以消滅。具體部署是:以第13、第771團全部和第1、第10、第34團、警2團各一部為東集團,由徐深吉、高揚、皮定均指揮,向林縣城北之姚村、城東之橫水、城東南之東姚等地偽軍進攻,重點指向東姚;以第769、第20、警32團全部及第2、第3、第32團各一部為西集團,由黃新友、何成柱指揮,向原康及其附近村落之偽軍進攻,重點指向原康;另以主力一部及地方武裝對平漢、白晉路之敵加強警戒,策應主力作戰。
林南戰役於8月18日零時30分發起進攻。東集團避開敵前哨據點,以主力部隊從東、西兩面鉗擊包圍林縣城東北的南北陵陽、蔣裡、東西夏城等偽軍據點,以吸引林縣城偽軍的注意力。西集團則乘勢集中主力向林縣城及城西、城北偽軍外圍據點發起進攻。激戰至12時,除偽第24集團軍前敵總指揮劉月亭負傷潛逃外,林縣城偽軍全部被殲;林縣日軍退集頭遁營據點,亦被包圍。當夜,八路軍集中力量對頭道營日軍展開攻擊,敵不支潰竄南關固守待援。19日,日軍飛機數架轟炸竟日,八路軍冒著敵機的狂轟濫炸,西集團連克馬圈、西壇等偽軍據點,全殲守敵,東集團也先後攻佔南北陵陽、曲山、姚村等據點。至此,除南關日軍據點外,林縣城及附近據點,全部被攻克。由於南關日軍兵力較大,憑堅據守,一時難以攻克,八路軍乃於20日移師南下,擴大戰果。東集團收復東姚,鶴壁、西侄樓地區;西集團收復合澗、原康及西平羅、臨淇等地。八路軍發動林南戰役的第2天,8月19日,日軍即出動航空兵,步兵救援林縣一帶的日偽軍,至24日,由安陽出動的日軍1000餘人進抵林縣,從輝縣出動的日軍400餘人到達臨淇。25日,日軍從林縣、臨淇出動,南北對進,26日佔原康,並西進至連家坡一帶。西集團實施反擊,將敵擊潰。日軍以一部在小安村抵抗,掩護主力撤退;日軍大部當晚渡淇河向林縣撤退,渡河時正值山洪