的喜峰口、羅文峪防禦戰，均打得很出色。在太原會戰的娘子關保衛戰中，孫連仲負責扼守娘子關正面陣地，日軍在飛機大炮的掩護下，向娘子關猛攻，不能越雷池一步。

但他們是國民黨軍隊中的一支雜牌部隊，名義上叫集團軍，實際上只管轄2個軍（30軍，軍長田鎮南；42軍，軍長馬安邦）。部隊的武器裝備極差，重兵器很少，槍械混雜，有計程車兵甚至僅有一把鋼製的大刀作為武器。

滕縣之戰結束之時，孫連仲的第2集團軍奉命在徐州北部的臺兒莊陣地進行佈防。李宗仁要求孫連仲部在臺兒莊附近佈下袋形的防禦陣地，以吸引日軍的攻勢，然後下令裝備與火力較佳的湯恩伯第20軍團，在外圍進行運動戰，當日軍的攻勢在臺兒莊受到阻擋之後，立即設法由外線進行包圍，攻擊日軍的背側，形成以內外夾攻的方式圍殲日軍。

當時孫連仲在臺兒莊的口袋陣地的部署，是以31師池峰城部，防守臺兒莊主陣地，30師與110師在臺兒莊以西，27師與獨立44旅在臺兒莊以東，分別建立陣地。這樣日軍一旦攻入臺兒莊，就會陷入第5戰區的口袋陣地之中。

3月21日，李宗仁在徐州第5戰區司令部親自接見了第2集團軍總指揮孫連仲和擔負主要防禦方向守備任務的31師師長池峰城，體現了第5戰區對第2集團軍所擔負堅守臺兒莊的高度重視，以及對將士們的關切之情。會見中，李宗仁高度讚揚了第2集團軍輝煌的戰史，以第20集團軍擔負此次防禦任務的重大意義。最後，專門向池峰城佈置作戰任務：31師到臺兒莊後，先接替第100師韓莊至臺兒莊沿運河防線，然後可向嶧縣出擊，並堅決在臺兒莊堵住敵人。當第20軍團進擊敵側背，全力壓迫敵人於運河北岸、微山湖畔一帶時，聚而殲之。李宗仁還特別交代：為了協同方便，31師暫歸第20軍團長湯恩伯指揮，待第2集團軍司令部到來後，部隊再歸建制。

受領任務後，孫連仲即令31師及獨立44旅作為集團軍先頭部隊，立即馳往臺兒莊及其附近地區，自己親率第27師、30師隨後跟進。

池峰城率第2集團軍先頭部隊抵達臺兒莊並接替第100師韓莊至臺兒莊沿運河防線後，立即開始構築工事。

22日，第20軍團司令部及52軍路經臺兒莊時，軍團長湯恩伯和52軍軍長關麟徵會晤了池峰城，特別強調31師務須努力堵擊敵人的南進。他要求31師以一個旅的兵力進至臺兒莊以北的泥溝附近，對嶧縣方面的敵人實行警戒。還答應在31師與敵接火後，他將率領第20軍團馬上抄襲敵人側背，協力夾擊敵人，31師只要能在臺兒莊一線堅守三日，即算完成任務。

池峰城按照戰區司令官李宗仁、本集團軍總指揮孫連仲和臨時直接領導湯恩伯的指示精神，對部隊進行了部署：康法如旅守衛臺兒莊及運河一線，乜子彬旅向嶧縣方面擔負搜尋警戒任務。

此時，蔣介石也高度重視這場作戰的重要性，3月24日，親自率領副參謀總長兼軍訓部長白崇禧、軍令部長徐永昌等人到徐州視察戰局，並且設法調動所有能夠動用的部隊，前往徐州的第5戰區增援，準備給予孤軍深入的日軍重大的一擊，不惜花大的血本，非要打敗這股不可一世的驕兵。

24日晚12時，白崇禧在孫連仲的陪同下，親臨臺兒莊前線視察。他們先來到韓家寺第2集團軍司令部，聽取孫連仲的彙報，然後又來到臺兒莊南站第31師師部瞭解戰況。當得知31師僅裝備有步機槍與迫擊炮，急需大炮支援時，白崇禧即在師部與徐州李宗仁、開封程潛通了電話，李、程答應即調野炮、戰防炮、坦克隊來臺兒莊。不久，炮第10團之第1、2兩營，重炮第1連，坦克防禦炮第1連，坦克第3中隊即調到臺兒莊一線。炮兵兩營裝備的是瀋陽仿造的克虜伯野炮，炮彈口徑為76毫米，最大射程13公里，每營配備此炮8門。重炮連裝備的是德國造萊因式重榴彈炮，炮彈口徑為150毫米，最大射程為15公里，炮連配備此炮3門。這種炮是當時國民黨軍隊中射程最遠、威力最大的野戰重炮。坦克防禦炮是由重慶五零兵工廠仿瑞士蘇羅通坦克防禦炮製造而成，炮彈口徑為37毫米，最大射程3000米，每分鐘可連續發射炮彈20發。此炮發射的穿甲彈，穿透能力強，對坦克很有威脅力，而發射的爆炸彈則可給人員造成大量的殺傷。此炮屬於30年代的新式產品，裝備於新近由裝甲兵團擴編的第200師。將配屬於第3集團軍的是200師炮兵第52團第8連，該連裝備此炮6門。以上這些重兵器，雖數量有限，但大大地增強