五月九日，蒙城陷落。在徐州主战场的西南方向，日军也已位于中国军队的侧后。李宗仁意识到了形势的严峻。此刻，北线鲁南地区的中国军队被日军第五、第十师团死死牵制着无法解脱，而南线日军的第三、第九、第十三师团全速北进的目的无疑是对徐州实施包抄。因此，必须在北线日军急速南下之前，阻滞南线日军的推进速度，以解徐州被南北合围之忧。但是，中国军队主力之前己大军云集北线，此刻让任何一支部队南下，不但会遭遇南线日军的猛烈打击，且相对于岌岌可危的战场态势而言，都已显得为时过晚。
五月七日，日军华北方面军下达徐州会战作战命令 。北线，鲁南战场完成牵制后，鲁西南的日军开始南下了。九日，日军第十六师团从济宁出发向西挺进，当天渡过了大运河；配属该师团的第十四师团酒井支队，于十一日夜占领郓城。南北两路日军合围徐州的战略意图已十分明显。日军的作战目的是一举消灭中国军队的主力。但是，蒋介石的判断却出人预料，在日军对于徐州势在必得的情形下，他仍旧认为徐州战场上的日军是在“自取败亡” 。
身在战场的李宗仁，已经意识到中国军队所处的危境。他认为，如果每一支部队在战术和作战上，都具备完成战略和战役所赋予任务的能力和素质，台儿庄血战胜利后也不会让战败的曰军重新组织起坚固的防线，以至于在鲁南战场上形成僵局，导致中国军队的主力被牵制在那里，而当淮南的日军开始北进，鲁西南的日军开始南下时，中国军队已无法调整战线分兵主力前去阻击。
为了落实自己的战略意图，蒋介石带着作战厅厅长刘斐和军令次长林蔚等幕僚飞往郑州。刘斐提醒蒋介石：鲁南部队在运河一带的防御，能否保持到主力部队对日军实施反包围作战的时候，还是一个问题；同时，南线日军的第一线兵力，苏北方向不过三千多人，淮北方向不过五千多人，但两路日军疾速挺进如入无人之境，因此，南线的中国军队能否击退淮北之敌然后再转身支持鲁南和鲁西南作战，确实稂难说。但是，蒋介石坚持他的见解。他生怕李宗仁不贯彻他的意图，到达郑州后又声称要亲自去徐州指挥作战。刘斐表示他和林蔚去就可以了，委员长不必冒这个险。刘斐和林蔚去了徐州。
此时，南线日军自蒙城出动，三天之内前行一百六十多公里。第十三师团进至永城，第九师团占领了百善，担任第九师团右翼保护的第十八旅团攻占了南坪集。——在永城、百善、南坪集以东，徐州已近在百公里之内。而在战场的正南方向，五月六日才从南京调入的日军第三师团，在蚌埠与怀远间集结完毕后，十五日进至宿县以南的大营集附近。十四日下午，日军第十三师团编成的快速挺进队抵达陇海路，炸毁了汪阁东面的铁桥。而这就意味着：中国第五战区后方唯一的交通大动脉陇海铁路被切断了。
在北线，日军第十四师团主力，五月十二日在濮城、杨集以南强渡黄河，直逼菏泽城下。菏泽守军第二十三师师长李必藩决心死守待援。日军对菏泽发起攻击，第二十三师官兵奋力抗击，日军突破中国守军的外围阵地后，菏泽陷入重围。日军调来重炮猛烈轰击城内，第二十三师官兵死伤惨重。最后时刻，第六十七、第六十八旅旅长信心动摇，率部后撤，致使菏泽城防瞬时崩溃，大批日军涌入城内。
北线的另一支日军，中岛今朝吾的第十六师团，十一日主力自郓城开始南下，击退了中国守军第七十四师的阻击，占领金乡和鱼台。之后，第十六师团也组织起一支快速支队，不顾一切地急促南下，于十五日早晨抵达陇海线，炸毁了汪阁东面的三段铁路后，与华中派遣军的快速挺进队会师。南北两路日军在陇海铁路会师，标志着日军对徐州战场上的中国军队的战略包围已经合拢。
十六日，南线日军第九师团推进到距徐州咫尺之遥的萧县。同一天，北线日军第十六师团占领唐楼，第十师团从沛县以东南下到距徐州只有六公里的地方。李宗仁急令从鲁南战场下来的第一三九师前往阻击。该师在师长李兆瑛的率领下即刻向萧县前进，中国守军进入县城的当天，萧县城外的高地和城关已全部落入日军之手。为了不让日军快速靠近徐州，李’宗仁又急令张自忠率第五十九军、第九十二军增援第一三九师死守萧县。但是，张自忠部受到日军的猛烈截击，根本无法靠近萧县。萧县四面被围，当日军步兵由北门冲入县城时，第一三九师粮弹俱绝， 守军官兵一边肉搏一边突围，李师长和石副师长均负伤，参谋长邓佐虞、副旅长吕汝爽、马骥德和团附陈芳荣以及营长李彦文、黄超云、李廷舟阵亡。
萧县失守，徐州战场上的中国军队深陷重围。日军知道中国军队除了突围之外别无选择。十六日，李宗仁下达了放弃徐州并全面突围的命令。抗战史上中国军队最大规模的突围行动开始了。 第五战区的突围命令刚一下达，十分熟悉地形和道路的‘数量巨大的中国军队，在迅速脱离包围圈的强大动力支持下，从战场上的各个缝隙蜂拥而出。日军虽然下达了猛烈追击的命令，但洪流一般的中国军队在徐州战场的各个方向狂涌不止，以日军有限的兵力能够追得上哪一股又能堵住哪一支？
偌大的徐州战场上，庞大的中国军队转瞬间就没有了踪影。日军目瞪口呆。日军追上的仅仅是因负伤或生病掉队的中国官兵。最后撤离徐州的中国军队，是卢汉的第六十军。无法得知李宗仁为什么命令这群在台儿庄附近已经血战数天且伤亡严重的云南人来死守根本无法防守的徐州。 第六十军没有固守徐州，虽然是最后突围的部队，但所幸大部分官兵冲出了日军的包围圈。