10月24日，蔣介石正式下達放棄武漢的命令。國民政府軍事委員會在武漢舉行中外記者招待會，鄭重宣佈「我軍
自動退出武漢」。漢口市長吳國楨宣稱:「保衛大武漢之戰，我們是盡了消耗戰與持久戰之能事，我們的最高戰略是以空間換取時間。……我們的人口疏散，產業的轉移，已經走得相當徹底，而且我們還掩護了後方建設……」廣州淪陷後，10月24日，日軍切斷了粵漢鐵路，武漢已經很難堅守，-介石在日記中這樣寫道:「此時武漢地位已失重要性，如勉強保持，則最後必失，不如決心自動放棄，保全若干力量，以為持久抗戰與最後勝利之根基。」
當天下午16時30分，武漢金口，一代名艦中山艦在日軍飛機轟炸下，「失去動力，在波濤中旋轉，向下游漂流，完全失控。又因多處破損過重，堵漏失效，大量江水急劇湧入艙室，艦體繼續向左不斷傾斜，約傾至40度時，突然艦首稍昂，隨即轟然一聲巨響，水柱沖天」。終因負傷過重沉沒於金口龍床磯。
同一天，在武漢各機關團體已基本撤離之時，周恩來為《新華日報》漢口版出版最後一期報紙口授社論——《告別武漢父老》，聲稱:「我們只是暫時離開武漢，我們一定要回來的，武漢終究要回到中國人民的手中。」與此同時，郭沫若也為《掃蕩報》撰寫了《武漢永遠是我們的》的社論，指出:「我抗戰的中心力量並無虧損，反而爭取了主動地位，環陣於武漢的四周……我們的武漢並不是對於佛朗哥的馬德里，而是對於拿破侖的莫斯科！」
這一天晚上，作為戰時最高統帥的蔣介石和航空委員會秘書長宋美齡乘飛機離開武昌飛往湖南衡陽。臨行前，蔣下令:「將凡有可能被敵軍利用之虞的設施均予以破壞！」這道「焦土抗戰」的命令，使武漢整整燃燒了兩天。同時，武漢城內中國守軍按計劃開始撤離，至10月25日夜全部撤離市區。蔣介石於10月31日在《武漢撤退告全國國民書》中所言:「蓋抗戰軍事勝負之關鍵，不在武漢一地之得失，而在保持我繼續抗戰持久之力。」
實際上，在9月底，田家鎮要塞陷落後，武漢已無險可守，蔣介石和國民政府軍事委員會為了保留繼續抗戰的實力，就放棄了死守武漢的計劃。並開始有步驟地分批撤離黨政和地方政府機關，疏散城內老百姓。10月16日，國民政府軍事委員會根據武漢外圍戰鬥的形勢及日軍於10月12日在廣東大亞灣登陸的情況，決定放棄武漢，同時組織各部隊有計劃撤退:長江以北的主力撤至平漢路以西的漢水沿岸及大洪山區，廖磊的第21集團軍留在大別山區，開展敵後游擊戰;薛岳的第1兵團仍於九江以南抗擊敵人，並可視情況退往湖南;第2兵團依托幕阜山，掩護西面的粵漢鐵路;羅卓英指揮武昌以南金牛方面的作戰，掩護各軍撤退，整個武漢城區只留衛戍部隊一個旅(第185師第545旅)的正規軍作象徵性的抵抗。10月25日，日軍波田支隊向葛店發起猛攻，隨之突破中國軍隊第55師的陣地，佔領了葛店。當日凌晨，日軍第6師團先頭部隊推進到了漢口近郊，中國留下軍隊作象徵性抵抗。
早在南京淪陷、武漢成為戰時的軍事政治中心之時，蔣介石就曾電召軍事學家蔣百里（後來在武漢任軍事委員會高級顧問）。據同在軍事委員會工作的胡起祥撰寫的《蔣百里先生在武漢》記載，「蔣百里來到漢口，看到市面上秩序混亂、人心浮動不安現象，即向南京中央政府建議，應該立即採取措施疏散武漢人口，並提出具體辦法，由漢口市公安局挨戶調查人口，將老弱病殘者以及在武漢淪陷後能夠做敵後工作的人留下來。凡屬青年壯丁、婦孺兒童、各校教師學生、機關工作人員一律分配車輛和船隻，有計劃地分批撤退，運往後方。」他的這一計劃在當時各自為政的國民黨中央政府，執行得非常緩慢。
記者查閱的《武漢文史資料》記載，曾為戰干一團學員、任武漢衛戍總部見習秘書的程雪華回憶當時部隊撤退的情形:「9月底，各地戰況連連失利，敵軍已過九江，部隊所有官佐均已發槍，我當時系少校銜，也發了短槍。」廣州淪陷的消息對「保衛大武漢」的戰鬥是個沉重打擊。在兵荒馬亂之際，武漢衛戍總部突然通知幾十位軍官返漢述職，當時也有不少官兵開小差。10月20日左右，程雪華所在的部隊奉命緊急撤退。撤退部隊和單位把搬不走的設備用炸藥銷毀。「馬路上沒有行人，連交通警也不見了，遍地都是瓦礫和雜物，景象分外淒涼。遠處長江江面上煙霧迷濛，隱隱約約似可見掛旭日旗的敵艦在活動。我只好默默地拄著雙拐，匆匆擠上運輸船艦，揮淚告別了武漢三鎮。」
那時在軍事委員會工作的胡起祥隨著機關撤退，在徐家棚搶上南行的疏散火車，「在車廂內停了兩天才開動。沒有吃的東西，只能餓肚皮;要大小便擠不進廁所，只能隨地便溺。時值暑天炎熱，在車廂內悶熱得吐不出氣來，而且臭不可聞」。轉移陣地的軍隊和向後方逃難的人民群眾、機關、學校，為了搶奪交通工具，亂作一團。為了搶奪輪船而溺死江中的不知凡幾。逃難的人們將火車車廂擠得水洩不通，車篷和車廂底下，凡有空隙的地方都是人。有的用繩索吊在車廂旁邊像搖籃似的打鞦韆。火車開動只能看到車輪在轉，好似一座人山在爬行。
那些趴在車上車下的逃難群眾，由於車輪震動而死於途中者，慘不忍睹。胡起祥忍不住感慨:「真是不堪回首。當初如果能按照蔣（百里）先生的建議作有計劃的撤退，廣大生靈，何致遭此塗炭？」