1940年春，國民黨頑固派強令江北新四軍南調。3月初開始，國民黨頑軍先後進攻皖東津浦路西和津浦路東新四軍。劉少奇連電請示中共中央調八路軍南下支援新四軍。3月16日，毛澤東致電彭德懷：“提議調344旅至隴海，淮河之間，協助彭雪楓創立根據地，並策應胡服，將來再調一部深入蘇北，使八路軍、新四軍打成一片。”4月1日，中共中央、中央軍委指示：國民黨頑軍在鄂中、皖東、淮北正大舉進攻新四軍，“我八路軍有抽調足夠力量南下華中增援新四軍……建設新的偉大抗日根據地之任務。此根據地以淮河以北，淮南鐵路以東，長江以北，大海以西為範圍。”＇中央檔案館：《中共中央檔案選集》第12冊，中共中央黨校出版社，1991年版，第346、347頁。＇

5月下旬，八路軍第2縱隊第一梯隊第344旅由劉震、康志強率領，從魯西南定陶出發，經曹縣、碭山在黃口附近跨過隴海鐵路。6月20日，先後到達渦陽縣新興集與新四軍第6支隊彭雪楓部會合。縱隊政治委員黃克誠率新2旅（欠第4團）於6月下旬到達新興集。第2縱隊南下部隊5個團共1。2萬人。

遵照中共中央軍委指示，彭雪楓、黃克誠兩部於7月合編為八路軍第4縱隊，彭雪楓任司令員，黃克誠任政治委員，下轄第2（原新2旅）、第4（原第344旅）、第5（原第6支隊第1、第2、第3團合編）、第6旅（原第6支隊第1、第3總隊合編）及遊擊司令部。隨後，八路軍蘇魯豫支隊也南越隴海鐵路抵達泗縣。

8月，黃克誠率第4縱隊第2旅、第4旅第7團等部，到達皖東北半城、魏營子、雙溝鎮一帶。根據中原局決定，將所有渦河以北、津浦路以東中共領導的部隊，統一整編為八路軍第5縱隊、以黃克誠任縱隊司令員兼政治委員，下轄第1支隊（八路軍蘇魯豫支隊改編）、第2支隊（第4縱隊第2旅、第4旅第7團改編）、第3支隊（八路軍隴海南進支隊、新四軍第6支隊第4總隊改編）和皖東北保安司令部（地方武裝改編）。併成立蘇皖軍政委員會，以黃克誠為書記。

重新整編後，第4縱隊轄第屯第5、第6旅，共9個團1。7萬餘人；第5縱隊轄3個支隊，共9個團約2萬人。

第4縱隊堅持豫皖蘇邊的游擊戰爭，並分別進軍懷遠、鳳台以及淮上等地區，擴大了抗日根據地。第5縱隊以一部堅持皖東北游擊戰爭，主力東渡運河，挺進蘇北沭陽、宿遷、淮陰、漣水、東海等地，初步開闢了淮海抗日根據地。堅持皖東北斗爭的第5縱隊第2支隊主力配合新四軍第5支隊開闢了淮（安）寶（應）地區，粉碎了日軍對淮南津浦路東的“掃蕩”，又在淮河北岸雙溝一帶擊退了敵1000餘人的進攻。

（二）江南新四軍北上，黃橋戰役

皖南、江南（即蘇南）新四軍根據中共中央1月19日“新四軍大江南北部隊，應在現地區力求發展”的指示，＇中央檔案館：《中共中央檔案選集》第12冊，中共中央黨校出版社，1991年版，第239頁。＇　1940年上半年繼續堅持皖南、江南陣地。

對於皖南、蘇南新四軍發展方向，中共中央一再指出：新四軍江南部隊應向北發展，皖南部隊除留一小部堅持外，軍部率主力渡江北上皖北，如無法直接從皖南渡江，則東移蘇南，與蘇南新四軍會合，在蘇南發展，或待機北渡到蘇北，開闢蘇北。

5月4日，中共中央向東南局發出《放手發展抗日力量，抵抗反共頑固派的進攻》的指示，提出在一切敵後地區和戰爭區域，應強調同一性，不應強調特殊性，否則就會是絕大錯誤；無論華北、華中或華南，無論八路軍、新四軍或華南遊擊隊，都應該“不受國民黨的限制，超越國民黨所能允許的範圍，不要別人委任，不靠上級發餉，獨立自主地放手地擴大軍隊，堅決地建立根據地，在這種根據地上獨立自主地發動群眾，建立共產黨領導的抗日統一戰線的政權，向一切敵人佔領區域發展”。＇《毛譯東選集》第2卷，人民出版社，1991年第2版，第753、754頁。＇

6月10日，陳毅向中央報告：冷欣部第63師與第40師等部對江南指揮部（溧陽竹簀橋）形成大包圍，向新四軍挑戰。

正在這時，蘇北形勢也發生了急劇變化。還在5月中旬，挺進縱隊返回蘇北吳家橋一帶。5月17日，與進犯日軍500餘人激戰一晝夜，將其擊退後，轉移至通揚運河以北郭村一帶休整。但“二李”在韓德勤煽動下，以“侵佔”其防地為藉口，於6月下旬向挺進縱隊下最後通牒，限令3天內