第八十四军不得不再次向西退向唐河、白河西岸。第八十四军的撤退使得鄂北中国守军的防线被日军撕开。第一七四师撤退时，遭到日军坦克部队的重创，师部副官何伟豪被俘。第一八九师撤退时，副师长兼第五六六旅旅长李宝琏竟然阵前叛变，而当李宝琏与汉奸取得联络后，第五六六旅官兵因不愿当伪军将李宝琏扣押，由于没有看管严密，李宝琏逃脱后只身投敌。
在汤恩伯的第三十一集团军方向，王仲廉的第八十五军在东岳庙给日军极大杀伤后退往江头店。九日，日军向江头店猛攻，第八十五军顽强激战一整天，日军的进攻没有取得成效。十日，从河南信阳出击的日军在战场的北面攻占了桐柏，汤恩伯鉴于他的部队面临腹背受敌的危境，决定将主力向西面的唐河方面转移。汤恩伯的第八十九师在战斗中伤亡很大，而该师一直是汤恩伯部的基本队伍，为此汤恩伯指责军长张轸有意牺牲第八十九师，导致蒋介石最终将张轸免职。
张轸，湘军将领程潜的爱将，历史上曾跟从程潜与蒋介石作战。蒋介石迁怒于张轸的原因不言而喻，而李宗仁对汤恩伯的指责是消极避战。公正地说，就这个方向的作战而言，汤恩伯并没有明显的避战意图。 从台儿庄战役到徐州会战，再到武汉会战以至随枣会战，日军始终在战场上寻找着汤恩伯部以求将其歼灭。 可是，由于汤恩伯每一次都能避锋而退，日军终是没能达到歼灭汤恩伯部的目的。
日军在鄂北的襄花公路上已经突进来时，鄂西方向的日军也在同时向北突进，当面的中国军队尽管顽强阻击却无法阻挡其攻势。在鄂西方向防守的中国军队是张自忠指挥的右集团军。 五日，日军第十六师团步兵在炮火和坦克的支援下，当晚突破了当面张自忠部的阵地，之后分兵向北和西北迅速突进。中国守军第一八o师退守长寿店，第三十七师退守姚家河，第三十八师退守流水沟。
六日，跟进的日军突破长寿店、流水沟一线，尽管张自忠部主力仍坚守着主阵地，但日军留下部分兵力牵制第一八o师和第三十七师，主力沿着襄河以东地区继续急促北进。面对已经恶化的战局，张自忠命令第三十七师占据肖家冲高地，第三十八师在清水桥一带集结，命令王长海的第一三二师渡过襄河向日军实施反击。
七日，冈村宁次认为合围枣阳附近中国军队主力的态势已经形成。无论在哪个方向上，中国军队都无法遏制日军的猛攻。张自忠部作战意志坚定，但是，战局并不是张自忠拼死所能挽救的。日军骑兵第四旅团七日推至长寿店以北地区；八日抵达郑家岗、方家集；九日从蔡阳、张集渡过滚河后，沿滚河北岸快速向新野、唐河推进。
日军第十三师团则从黄家集、坪坝镇向中国守军第四十五军发动攻击，六日突破王志远的第一二二师阵地，该师因伤亡巨大退守张家集。七日，日军晚上偷袭了陈离的第一二七师师部，占领双河。与此同时，在战场的北面，日军第三师团开始迂回枣阳的东北地区。骑兵第四旅团占领新野后，向东移动攻占唐河，与第十六师团会合。第十三师团则在枣阳东北地区与第三、第十六师团会师。
各路日军对枣阳的包围基本形成。日军的企图是：缩小包围圈，把中国第五战区主力，特别是汤恩伯的第三十一集团军，压缩在桐柏至枣阳间的狭窄区域内予以围歼。九日，李宗仁命令各部队迅速撤退，并规定了撤退方向和路线。蒋介石复电表示同意。这是一个把襄河以东全部放弃的决定。可能考虑到这样的处置过于悲观，蒋介石很快又改变了主意，来电补充了几点要求。蒋介石的意思是，部队不要全速撤退，要适时采取积极进攻的态势。而且，蒋介石甚至改变了庇护汤恩伯部的初衷，要求第三十一集团军暂时留在襄花公路一带牵制日军。
从积极防御上讲，蒋介石是对的。可是，这也正是日军所希望的，因为冈村宁次的作战目标就是在枣阳一带“击败和追击顽强抵抗的汤恩伯兵团的三至四个师”。此时，在枣阳的西面，日军第三师团追击纠缠着汤恩伯的部队；于是，日军第十三师团开始迅速北进，以期对汤恩伯部形成合围。汤恩伯发现自己已经成为日军围歼的目标。即使是蒋介石的命令，对于只想逃生的汤恩伯也没有用了。汤恩伯下令全军迅速撤离战场。
值得庆幸的是，汤恩伯的迅速撤退，使日军的作战目的没能达成。中国第五战区的其他部队也都相继撤出战场。谁也没想到的是，中国军队的后撤，客观上反而对前出的日军形成了反包围之势，这令冈村宁次感到不安，他决定不再进入战场纵深，命令部队原地掉头往回打。日军的突然掉头，出乎第五战区司令长官部的预料，因为当日军集结于枣阳周边的时候，中国方面仍认为日军即将发动新的攻势。
因此，尽管第五战区立刻下达了追击命令，但除了日军第十三师团在长冈地区遭到坚持在大洪山里的中国第十一集团军刘和鼎的第三十九军两个师的阻击外，其他各路日军均未受到严重阻击和追击先后回到了原出发地。中国军队除随县之外，跟在往回打的日军的后面，先后收复了新野、唐河、枣阳、桐柏等地。双方再次回到了战前的对峙态势。，随枣会战就这样突然终止了。
随枣作战，日方的战果统计是：中国军队“遗弃尸体约一万五千具，俘虏约一千六百名”，“我方战死约六百五十名，负伤一千八百名”。关于日军的损失，中国方面的统计为：“敌之伤亡达一万三千人以上。”随枣会战是中日战争进入相持阶段的第一场战役。
在以后漫长的战争进程中，萦绕在日本人心头无法根除又无法排解的最大心结是：“中国实在太大了！”尽管国土面积大并不意味着国家绝对强大，但是相比中国而言，日本又实在太小了。而在中国方面，战争进程至此，执政的国民政府认为，战争爆发以来中国军队一退再退，已到了退无可退的地步。从“国民精神”的角度上讲，此种状况不但是这一代国民的耻辱，也是这一代国民的罪恶。国土的广大并不代表着民族精神的强大。国民政府认为，生活在广大国土上的中国人精神必须强大起来。国民政府将振作中国人精神的运动，叫作“精神总动员”。