李宗仁这一作战计划的重要前提是：．让汤恩伯打冲锋。汤恩伯即刻发了脾气。汤恩伯的第三十一集团军，是蒋介石绝对嫡系的一支战略别动队，之所以被调入第五战区，是因为这里扼守着进入四川的门户，如果让日军长驱直入便可直接威胁重庆。因此，虽然调到了第五战区，可汤恩伯并不是来为李宗仁打头阵的，而是要作为总预备队使用的。长期与桂系勾心斗角的蒋介石也知道，只要汤恩伯到了第五战区，李宗仁肯定会让他承担最重要的作战任务，而李宗仁也会为他的部署找到最合理的借口，因为汤恩伯部是当时中国军队中极少数的精锐之师。于是，蒋介石三令五申：没有得到军事委员会的批准，第五战区不得擅自动用汤恩伯的部队。
第五战区参谋长徐祖贻专门打电报给军令部次长刘斐，称随县、枣阳南靠大洪山，北依桐柏山，战略位置极其重要，守住这两个要点，中国军队于南北东西皆能进能退；一旦守不住，不但会增加以后作战的困难，且因襄河以西不产粮食，第五战区的数十万军队“将成饿殍”。目前第五战区部队兵力单薄，不得已时是否可以动用汤恩伯的部队？还是无需死守随县、枣阳要点以保存实力？
徐祖贻的意思很清楚：要么可以动用汤恩伯的部队，要么大家都保存实力算了。刘斐立即回电称：只要保住大洪山和桐柏山，其他要点没有死守的必要，汤恩伯部绝对不能轻易使用。为了堵住第五战区的嘴，蒋介石专门从第一战区将下辖两个军的孙连仲部调给了李宗仁。
李宗仁不死心，见到汤恩伯时还是把他的设想说了，谁知李宗仁话未说完，汤恩伯便说：“不行，不行，你不能胡乱拿我的部队来牺牲！”李宗仁解释道：“你以桐柏山为后方，有什么危险？”汤恩伯不再搭理李宗仁，竟然“拂袖而去”。李宗仁不禁感叹道：“在任何战争中，当前线危急之时，部将不听主官约束而擅自行动，都是犯法的。可是抗战期中，所谓嫡系的中央军如胡宗南、汤恩伯等，皆习以为常。当时作战区司令长官的困难，也就可以想见了。” 汤恩伯有足够的胆量“拂袖而去”。因为即使在抗战期间，蒋与桂系之间的矛盾依旧存在。
日军的试探性进攻已经开始。四月二十二日，张自忠的第五十九军在钟祥以北、长寿店以南，与日军第十三师团和骑兵第四旅团接战。清晨五时，第五十九军第一八o师五三八团阵地突然遭到日军的炮火轰击和飞机轰炸，双方战至天黑，一营的阵地被日军步兵突破。日军向长寿店继续攻击时，受到五三八团和五三九团的夹击，日军被阻止在长寿店以南李家畈地区。
二十四日早晨五时，日军再次进攻时出动了十余辆坦克，向五三八团与五四o团的接合部猛冲，两个团的阵地均被日军突破。张自忠命令第一八o师把当面日军引诱到田家集、流水沟地区，并计划亲率第三十八师、第三十七师、骑兵师等主力部队在流水沟一带截击日军。与此同时，命令冯治安的第七十七军北出侧击日军的后方，第二十九集团军王缵绪部南下攻击日军侧背，并派出一部在京钟（京山至钟祥）公路上阻击日军的增援部队。二十五日晚，第三十八师经过一夜的顽强激战，顶住了日军的猛攻，日军因为伤亡严重被迫后撤。张自忠当即命令部队追击。
第三十八师将日军追至田家集地区，日军受到了中国军队的四面夹击。二十六日，日军大批增援部队抵达，十余门重炮也参加了战斗，中国军队经过两个昼夜的交战渐渐无法支撑。张自忠命令部队坚持最后五分钟，并派出骑兵部队冲击日军的侧背，日军攻势渐弱，分路向花园车站以及钟祥地区后撤。张自忠命令第五十九军猛追，并亲率部队渡过襄河侧击日军，截断了日军的补给线。
日军的试探性攻击，采取的是猛烈冲击后再撤回出发地的模式。无疑，这是即将开始大规模作战的战前预演。四月三十日，日军发动了正式攻击。中国战史所称的“随枣会战”开始了。日军按照预定方案，采用锥形突进、钳形夹击的战术，从鄂北和鄂西两个方向多路进攻，极力在战场上寻找中国军队主力，特别是汤恩伯的第三十一集团军，企图进行歼灭作战。
鄂北方向---中国第五战区的左翼---负责牵制作战的日军第三师团由应山出发，攻击之前因围攻日军而突前的中国军队，并采取向随县进攻和向枣阳东北地区迂回之势。第三师团第五旅团猛攻郝家店、孙家寨一线的中国守军第八十四军的阵地。覃连芳的第八十四军，下辖钟毅的第一七三师、张光玮的第一七四师、凌压西的第一八九师等部队，全军共三万余人。日军攻击的第一天便投入了大量的火炮、战机乃至毒气弹，大有长驱急进的态势。
第十一集团军总司令李品仙判定，日军的主要攻击方向应是随县北面的塔儿湾地区。五月一日晚，李品仙下达了部署命令。左集团军总指挥李品仙同时也是第五战区副司令长官，他不但给本集团军部队、右集团军部队、江防军以及从第一战区调来的孙连仲部下达了指令，且在日军发动攻势的第一天就动用了汤恩伯的第三十一集团军，这严重违背了蒋介石“不可过早使用”汤恩伯部，“使用必须得到军事委员批准”的严令。
二日上午九时，日军对第八十四军塔儿湾阵地发动攻击，遭到第一七三、第一七四师的拼死阻击。塔儿湾是由随县直达唐县镇以至枣阳、襄樊捷径上的一个要点，如被日军突破，向北可以席卷第一七三师的阵地，向南可截断第一七四师和第一八九师的后路，还可以对左翼的第三十九军形成包围之势。因此，双方在这个要点上展开了殊死战斗。
日军攻击的主要方向是第一七三师的主阵地。该阵地前面是宽三十米左右的蒋家河，水浅可以徒涉，两岸的麦苗仅数寸，没有任何隐蔽物可资利用。因此，第一七三师构筑在低矮土丘上的阵地，很容易被日军炮火所覆盖。武器处于劣势的中国守军，在土丘上做出很多伪装工事以吸引日军的炮弹，而在距离伪装工事不远处挖了许多散兵坑，并在炮火不能及的死角构筑起能容纳一个班的隐蔽部 。同时，在伪装工事的两侧，还设置了机枪阵地，以形成阻击日军步兵冲击的火网。
日军终于冲到第三十一集团军的阵地前，汤恩伯只有命令部队与日军接战。五月二日，日军第三师团第二十九旅团由徐家店向北进攻，与防守塔儿湾以北高城附近的张轸的第十三军发生激战。日军在炮兵和空军的支援下，向第十三军阵地数次投放毒气弹，第十三军第八十九师官兵毫无畏惧，不但守着阵地，还连续发动小规模的反击，双方一直混战到五日。
日军一部强行向桥头方向推进，马励武的第一九三师和张雪中的第八十九师一起对日军形成夹击之势，但是，中国官兵苦战多时没能击退日军。六日，日军攻陷高城。七日，日军数千人增援桥头，王仲廉的第八十五军第二十三师在师长李楚瀛的指挥下猛烈侧击日军。这时候，守卫塔儿湾的第八十四军因无力支撑开始全线后撤。襄花公路沿线都是平原，日军发挥机械化部队的威力，坦克在公路上横冲直撞，导致撤退中的第八十四军伤亡极大。