中国陆军第二集团军第四十二军第二十七师，三月二十四日从徐州以北的柳泉、贾汪抵达台儿庄战场后，一直处于外围防御的血战中。此前，没有多少人熟悉这支杂牌部队，仅知道这是原西北军中的一群粗鲁汉子。可是，自台儿庄作战开始以来，这支部队显示出前所未有的英勇无畏。他们不分白天黑夜，在与台儿庄咫尺之遥的外围阵地，没完没了地与日军进行拉锯战，坚守，失守，反击，再坚守，每一次战斗都出现巨大的伤亡，即使暂时没有阵亡的官兵也是军装破烂，浑身血污，他们被日军称为“叫化子部队”。但是，这些可以数日不睡觉，以至于连走路都东倒西歪的官兵，只要作战命令一到，就能立刻又虎狼般地向日军冲上去。他们的顽强作战，极大地牵制和消耗了直接攻击台儿庄的日军兵力。
鉴于日军第十联队和坂本支队都在向台儿庄地区推进，李宗仁认为围歼日军于台儿庄下的态势已经基本形成。他将第七十五军的第六师、第九十二军的第十三师紧急调至岔河地区，同时命令临沂方向的第五十七军第一一一师第三三三旅向西推进到鲁坊地区，统归第二十军团长汤恩伯指挥。晚八时，李宗仁下达了作战命令：一、敌第十师团及第五师团之一旅，自经临沂、台儿庄诸战斗后，伤亡极大，现参加决战之兵力，至多不过五个联队，附山炮野炮五十至六十门、重炮十门、战车数十辆。其一部约一-千人，在洪山镇北方秋湖附近被我军第二十军团包围，其主力向台儿庄东侧陈瓦房、凤凰桥一带运动，续向第二集团军右翼迂回攻击中。二、本战区以迅速合围加歼灭敌人之目的，决于明（三）日开始全线总攻击，保持重点于第二十军团之右翼，将敌包围于台儿庄北侧地区而歼灭之……
三日，被围困在台儿庄内的日军，获悉第十联队和坂本支队已到台儿庄以东地区后，开始了孤注一掷的反击。他们用十余门平射炮向第三十一师守军阵地连续炮击，日军战机同时向台儿庄内外狂轰滥炸，日军步兵在随后发起的冲锋中使用了催泪性瓦斯毒气。此时的第三十一师，没有伤亡的官兵仅剩一千三百余人，庄内的三分之二都已被日军占领，守军仅在南关一隅苦苦支撑。池峰城师长认为，继续苦撑下去，只有全军覆没，于是请示孙连仲，要求残部向运河南岸转移阵地。”李宗仁预计汤恩伯第二天即可到达台儿庄，如果此时让第二集团军放弃坚守，那么之前中国军队在台儿庄内外的所有苦战都将功亏一篑。鉴于此，他给孙连仲的答复是：“务必守至明天拂晓，如违抗命令，当军法从事。”孙连仲最后这样回答了李宗仁：“绝对服从命令，整个集团军打完为止。”
与此同时，在庄外防御的第二十七师官兵也面临着最后时刻。三日一大早，日军第十联队向第二十七师阵地发射了两千余发炮弹，阵地工事连同附近的村落皆被夷为平地。然后，在四十多辆坦克的掩护下，日军步兵不顾一切地向台儿庄方向突击。第二十七师连日血战，伤亡惨重，能够作战的官兵已不足千人，致使日军相继冲入园上、孟庄、邵庄等村庄，第二十七师仅剩的官兵不得不用身躯与凶悍的日军展开决死拼杀。
这一天，在台儿庄以北的外围线上，准备围歼日军的中国军队陆续抵达，汤恩伯的第十三军第一一o师向北洛、泥沟发动袭击；李仙洲的第九十二军第十三师一部抵达台儿庄浮桥接防；周?的第七十五军第六师一部也向当面日军发动了攻击；王仲廉的第八十五军第八十九师凌晨三时占领了朱滩和荣庄等村庄。只是，对于坚守台儿庄的第二集团军来讲，所有的增援都已经是太晚了。
五日，汤恩伯的部队距台儿庄仍有近二十公里。蒋介石终于忍无可忍了：台儿庄附近会战，我以十师之众，对一师半之敌，历时句余，未获战果，该军团各居敌侧背，态势尤为有利，攻击竟不奏功，其将何以自解！即应严督所部，于六七两日，奋勉图功，歼灭此敌，毋负厚望，究竟有无把握？仰具报！蒋介石很少对中央军嫡系部队将领如此质问连带斥责。既然委员长要求他“毋负厚望”，汤恩伯立即回复蒋介石，说他“已严令各军速向台儿庄攻击前进”，今明两天就能将当面日军“压迫于台儿庄北岸而歼灭之”。
第二十军团“攻击前进”的部署是：第七十五军以一部巩固岔河镇东南、西南一带据点，主力则向萧汪、东庄、台儿庄方向攻击前进；第八十五军向低石桥、燕子井、岔河山、刘家湖一带攻击前进；第五十二军一部巩固洪山镇、兰陵镇，主力向泥沟、北洛方向攻击前进。然后，汤恩伯主动给第三十一师师长池峰城发去一封电报，声称如果六日中午十二时第二十军团还没赶到台儿庄，“恩伯愿受军法处分”。——此时，距汤恩伯承诺回旋台儿庄的最晚时间，已经过去了整整十四天。
五日当晚，汤恩伯指挥的部队全线进入攻击地域，并随之向当面日军发起了攻击。日军坂本支队的后方完全被汤恩伯部切断，其所需给养必须从濑谷支队那里获得，而濑谷支队在台儿庄战场的正面，坂本支队在台儿庄战场的东北方向，日军自此开始出现混乱。毫无疑问，日军如果从台儿庄败退，将是日本陆军史上的耻辱。因此，无论当时还是战后，日本战史对一九三八年四月五日台儿庄战事的叙述始终含糊其辞。据说，坂本支队接到了第五师团的撤退指令。——日本人从来不愿意使用“撤退”一词，就像他们给侵略找出过一个又一个替代词一样，他们把撤退一律叫作“转进”：“支队迅速歼灭当面之敌后，应即转进攻下沂州。”这就是说，第五师团的坂本支队，不能与第十师团的濑谷支队一起，冒着陷入中国军队重围的危险，继续在台儿庄附近待下去了，应迅速向临沂方向撤退。
六日，日军的撤退仓皇而狼狈，大量的尸体和军用物资丢弃在台儿庄内外。池峰城的第三十一师残存官兵，以密集的火力和手榴弹封锁日军撤退通道，大量日军在撤退时被击毙，一些终无法冲出的日军开始自杀。四月七日，李宗仁下达了全面追击的命令。七日，汤恩伯的第二十军团第五十二军主力，在底阁、杨楼一带与日军激战后将其击溃；第八十五军第八十九师主力攻击大顾栅；第四师和第八十九师各一部联合攻击关庄、辛庄等地。孙连仲的第二集团军冲出台儿庄后继续追击，一七五团相机占领邵庄和裴庄，一八二团占领了刘家湖。同时，孙震的第二十二集团军渡过运河后向韩庄发起追击。孙桐萱的第三集团军第五十五军则在峄县以北堵截着日军。当晚，濑谷支队撤到峄县附近固守待援。
从九日直到十一日，中国军队全面迫近峄县，日军坂本、濑谷两支队集中兵力建立起坚固的阻击阵地，致使中国军队的追击进展缓慢且伤亡甚大。即使是汤恩伯武器装备尚好的第二十五师，一夜之间也会“伤亡达五六百人之众”。---“战况之烈，于此可见。”日方统计，台儿庄作战，第五师团战死一千二百八十一人，负伤五千四百七十八人；第十师团战死一千零八十八人，负伤四千二百三十七人。 日军总计伤亡过万，但“甚少被俘”。台儿庄胜利的消息，飓风一般迅速传遍全中国。台儿庄之战，中国军队付出了两万多名官兵的生命。