这时，有人向商震建议，既然赵口河堤难以操作，为尽快完成任务，可集中力量在赵口以西的花园口决堤。花园口决堤任务交给了蒋在珍的新八师负责。在花园口，由于当地农民对决堤有抵触情绪，于是新八师把农民们赶走，选出八百名强壮士兵，分成五组昼夜轮流掘堤。坑道掘好后，炸药放置在数十口大水缸里，深埋之后引爆。九日凌晨，经过爆破，花园口黄河大堤被掘开，有水流出但仅是涓涓细流，远未达到一泻千里的程度。于是，蒋在珍师长请求调重炮打宽缺口。在一名炮兵连长的指挥下，重炮一连发射了数十枚炮弹，缺口被轰开了两丈有余。滔滔黄河水汹涌而出，大堤在湍流的冲击下再次垮塌，加上上游连降五天大雨，黄河水持续暴涨，从花园口决堤处涌出的河水与赵口涌出的河水汇成了滔天浊浪。
黄河水沿着贾河汹涌南下，贾河和涡河流域的乡村和城镇顿成一片汪洋。十四日河水抵达尉氏，十六日河水抵达鄢陵和扶沟，十八日河水抵达西华、太康和淮阳，二十日河水抵达周口，然后向着安徽境内的太和、阜阳席卷而去，进入淮河后，狂泻千里冲进洪泽湖和大运河，一路将淮河两岸完全淹没，蚌埠和宿县一带成为泽国。
滚滚黄河水恣肆于豫、皖、苏三省，形成了近五十万平方公里的浑黄水障。 日军第十四、第十六两个师团被漫无边际的黄水困住了。第十四师团的两千人被困在中牟县城里，华北方面军不得不派出一个工兵联队和六个工兵中队，携带着大量的舟艇前往救援。第十六师团第三十旅团被黄水隔离在新郑以南地区，日军官兵只能利用门板等简易工具逃生。深陷黄水中心地带的第十六师团主力，大批官兵被洪水卷走淹死，车辆、火炮和坦克都被淹没在大水中，那些还活着的士兵饮水和食物断绝，有的爬在草屋顶上随着泛滥的河水漂流，有的攀在树梢上等待着救援。华中派遣军只好出动临时航空团的轻重轰炸机，“全力以赴援助第十六师团方面的补给”。
日军攻击郑州的计划中此了。花园口决堤，使豫、皖、苏三省四十四个县市约六千万民众受灾，两千余万百姓流离失所，中国中原地区的上千万亩良田被淹没。对于被迫掘开黄河大堤，中国军队的将领们心绪复杂。参加掘堤的第三十九军参谋处处长黄铎五，目睹了当地百姓突遇的灭顶之灾：当局虽然也有安置居民的计议，实际徒托空言，到时只不过乡、保长们催促迁移罢了。仓促迁移，谈何容易，故迁徙者寥寥无几，一转瞬间，无情的洪流滚滚而来，哪里逃避得及。有的扒上屋顶，有的攀登树梢，一时嚎哭呼救之声杂成一片。
花园口决堤，破坏了日军企图南北两路夹击武汉的战略，基本上使南北两路日军仍旧处于隔绝状态，为武汉保卫战赢得了宝贵的时间。此后，在长达四年的时间里，日军只能隔着黄水泛滥区与中国军队对峙，这从大战略的格局上也有助于中国持久抗战的目的。但是，后来的战争进程表明，决口黄河的行动，仅仅起到了暂缓紧张局势的作用，并未给日军造成致命的打击，特别是没有严重损耗日军的有生力量。滔滔黄水过后，郑州和武汉仍然相继陷落，这说明“以水代兵”并不能彻底阻敌，更不可能就此赢得战争。
中日两军隔黄泛区形成对峙，标志着徐州会战遂告终结。徐州会战是继淞沪会战、太原会战之后，中国战场上的又一次大会战。会战历时四个多月，双方均投人数十万兵力。日军虽然打通了津浦线，扩大了占领区，但没能实现消灭中国军队主力和挫伤中国抗战意志的目的。中国军队的作战，再一次向全中国乃至全世界彰显了不惜一切抗击日本侵略者的坚定决心。
徐州会战，中国军队投入兵力约六十万人，伤亡官兵达十万以上；日军投入兵力约二十四万，伤亡近三万人。中国北方的大片国土，被滔滔黄水所覆盖，从此“黄泛区”成为一个专用名词。在战争过后的数十年里，黄泛区的善后工作一直持续，但那片广阔的土地所遭受的战争巨创始终没有平复。
我是一个大丈夫，我情愿做黄河里的鱼，不愿做亡国奴！亡国奴是不能随意行动啊，鱼还可以作浪兴波，掀翻鬼子的船，不让他们渡黄河！不让他们渡黄河！这首歌的名字叫《黄河之恋》。黄河，千百年来承载了中国人太多的爱恨情仇。萦绕在中国人心头的悲戚还在于：鬼子过不了黄河又能怎样？北方沦陷的国土难道不要了吗？在这个世界上哪一条河流能把善良与邪恶彻底隔离？——只是，一九三八年盛夏，中国人能够做到的是：不让鬼子过黄河！