山東陷落後，開封已不保，河南省政府隨即西遷，經鄭州遷往洛陽。在此前後，國民政府在徐州一帶與日本軍隊進行了一次會戰，雖然取得了台兒莊大捷，但整體來說，國民政府軍隊處於來自江蘇、山東兩個方向的日軍南北夾擊的不利局面。國民政府軍隊與日軍激戰數月，早已筋疲力盡，只有放棄徐州，退回到豫東、皖北休整。特別是一九三八年五月，日軍一部從黃河北岸偷渡黃河成功，之後沿隴海鐵路迅速西進，於六月初攻陷開封，接著跟蹤西進，抵達距離鄭州不足百里的地方。鄭州是隴海、平漢鐵路的交匯處，北扼黃河天險，鄭州一失，不但阻斷各個戰區間的鐵路交通，而且將會導致西安、武漢無險可守的嚴重局面。而此時在河南境內的國民黨主力部隊多為徐州戰場撤下的疲兵，尚未得到休整，已無力再戰。為了阻止日軍侵犯中原，國民政府在鄭州花園口決開黃河大堤。
單從軍事層面來講，決開黃河大堤是具有一定作用的：首先，它形成了新的黃河河道，形成了新的天險，從而阻止了日軍的西進，使得中原地區又多守了六年而沒有淪陷，保證了大後方的安全；第二，使得日寇遲遲不能打通「大陸交通線」，遲滯了日軍軍事調動和戰略物資運輸；第三，以水代兵，直接消滅了日軍精銳部隊萬餘。然而，從政治角度出發，當時戰局混亂，國民政府為了取得「洪水滔天」的奇效，對老百姓嚴格封鎖消息。等到洪水來臨，百姓躲之不及，造成了八十九萬人死亡的慘禍，這無疑是抗戰史上非常沉痛的一筆。
然而，我並不同意以往我國解放後一些歷史書所言決開花園口大堤是「蔣介石為了逃命」、「喪心病狂」等提法。因為，人們選擇的時候並不總是能夠在「好」與「壞」之間選擇，而是往往在「壞」與「更壞」之間選擇。是中原淪陷、既而導致整個大後方淪陷、中國被亡國，還是炸開花園口保住中原兩個糟糕的選擇之間，只有「兩害取其輕」。其時，中原附近的國民政府軍隊均已無力再戰，其他戰場上的國民政府軍隊馳援已力不能及，中國共產黨領導的武裝力量還相當弱小，不足以抵抗整個日寇的進攻。因此，在這種局面下，「以水代兵」是唯一現實的選擇。至於說蔣介石「逃命」，則更是站不住腳的，不用炸花園口，蔣介石什麼時候都可以「逃命」，大不了在英美成立個流亡政府。如果說花園口決堤這個責任要由誰來負，那就應該由發動侵華戰爭的日本侵略者來負，沒有他們發動的十惡不赦的侵略戰爭，什麼都不會發生。