二十七日，第二军开始了作战行动。在这一中国方面认为的“次作战”方向，日军攻击强度之烈、推进速度之快，大大出乎了中国方面的预料。日军兵分两路从庐州地区出动，第十师团向六安、第十三师团向霍山发动了攻势。二十七日晚，第十师团击退中国守军第五十七军的警戒部队，包围六安城。第二天凌晨，日军开始攻城，中国守军第一一四师的两个团奋力抵抗终不支，六安于二十八日晚失守。
在霍山方向，日军第十三师团击退中国守军第七军的警戒部队后，陷于与中国守军第三十七师的拉锯战中。二十九日，第十师团继续向西推进。为协助第十三师团尽快攻占霍山，日军第一飞行团出动了五十一架战机对中国守军阵地实施毁灭性轰炸。师团长荻洲立兵把师团所有的山炮集中起来猛烈轰击，中国守军第三十七师的阵地被摧毁，官兵大部伤亡，当晚霍山失守。三十日，日军第十师团攻占了独山镇和杨柳店。
第三兵团总司令孙连仲连夜抵达商城，中国军队作出的反击部署是：第七十七军占领黑石渡至齐头山阵地；第五十一军占领齐头山至开顺街阵地；第七十一军以一个师占领富金山、下板桥一线阵地，主力集结在武庙集、段家集以北地区，并与第五十九军取得联络；第五十九军派一个师守卫固始城，主力集结在固始西面的潢川；第二集团军一部守商城，主力在小界岭和麻城之间为预备队。
九月一日，日军第十师团先头部队攻占乌龙庙。第十三师团由霍山向北与第十师团协同攻占了熊店。二日，第十师团攻占黎家集，第十三师团则攻占了开顺街。至此，节节后退的中国守军，隔着纵贯豫皖边界的史河，与从庐州一路西进的日军形成对峙。
三日，日军第十、第十三师团先后强渡史河，第十师团占领了中国守军第六十一师的警戒阵地南大桥，第十三师团则在炮兵、装甲兵和航空兵的配合下，向史河西岸中国守军第七十一军防守的富金山主阵地发动强攻。中国陆军第七十一军，军长宋希濂，是中央军序列中的精锐部队；而荻洲立兵的第十三师团，也是日本陆军中的精锐部队，两支部队在富金山撞在一起，随即爆发了激烈的攻防战。
第七十一军首当其冲的是陈瑞河的第三十六师。第三十六师的阵地沿山地的几条棱线呈梯形逐次配置，日军必须沿着山的棱线向上仰攻，这令他们每进攻一步都要付出代价。宋希濂的军指挥部设在山顶上，能把日军的进攻看得清清楚楚。第十三师团的仰攻很快就陷入困境，整整十天，未能突破第三十六师位于山腰一带的主阵地。
日军第十师团的进攻方向是固始。固始守军是钟松的第六十一师。面对日军的强势进攻，第六十一师的外围战打了四天，全师伤亡三千多人，等于损失了一个团，但多次击退日军的进攻。第二十七军团奉命接替第六十一师，其先头部队刚抵达固始西面的小河桥，第六十一师已经放弃固始西撤了。第六十一师对固始的放弃令人困惑。无法得知第六十一师到底接到了什么样的命令，不撤便罢，一撤就撤到几百公里之外的湖北去了。固始城当晚被日军第十师团占领。
但日军第十三师团对富金山的攻击依旧没有进展。鉴于第十三师团攻击受挫且官兵伤亡惨重，第二军司令部决定从第十师团抽调部队向南攻击富金山西面的武庙集，以切断富金山中国守军与后方的联络。第十师团第三十三旅团旅团长濑谷启率领一个步兵联队，七日从固始南下，部队刚出发就被宋希濂派出的侧翼侦察部队第八十八师五二三团一营发现了。一营营长梁筠决定采取伏击的办法，在濑谷启必经的坳口塘隘口设下埋伏，结果一举歼灭了五百多日军，濑谷启仓皇逃回了固始。
此时，奉命接防的第二十七军团仍在固始附近的小河桥与日军第十师团激战。为了争取主动，军团长张自忠指挥部队不断对当面日军实施反击。而日军第十三师团对富金山的攻击也仍在进行中，日军曾一度从中国守军第三十六师与第一一四师的接合部突入，结果第一一四师的一个团奉命反击，将突入的日军击退，但团长李超林阵亡。
两军混战之时，日军第十六师团抵达战场，日军工兵也把后方道路修好了，免去后顾之忧的第十三师团集中全力向宋希濂的第七十一军阵地发动猛攻。从九月十一日凌晨起，在二十余架战机和二十余门火炮的助战下，日军从富金山与石门口接合部再次突入。激战至下午，除富金山最高峰外，中国守军的主阵地全被日军攻占，陈瑞河的第三十六师全师仅剩下不足八百人，富金山失守。
富金山失守后，九月十六日，日军占领商城。十八日，刚刚加入作战的日军第十六师团在沙窝地区与中国守军发生激烈的攻防战，同日第十三师团在新店地区也与中国守军进行着苦战。二十日．日军第十三、第十六师团分别向中国守军发动全面攻势，中国守军第三兵团总司令孙连仲命令第三十、第四十二军利用大别山的险峻地形和幽深密林不断出击，与日军周旋作战。在北面的日军第十师团的攻击方向上，十九日，日军占领潢川；二十日占领光山；二十一日，日军突破胡宗南的第十七军团防线，占领罗山。---罗山，与平汉路上的信阳咫尺之距。
日军夹长江两岸向西攻击拟直取武汉。在长江以北，日军从安徽和河南分路向西，将从东面、北面对武汉形成包围之势。而在长江以南，由江西北部向西突击的一路日军，以三个师团的众多兵力于狭窄的战场地域里也开始全力攻击前进，目的是横穿江西北部进入湖北，对武汉的南部实施战略包抄。根据中国第九战区的部署，在这一地区御敌的中国军队是第一兵团，兵团总司令薛岳。在当时中国军队的诸多将领中，薛岳以作战风格凶狠著称。