就在日軍第11軍緊張地進行長沙作戰的各項准備工作時有關的情報源源不斷地被送到第9戰區司令長官薛伯陵的面前。特別是進入8月以後日軍進攻長沙的跡象日見明顯。先有日軍第6師團長到新牆河北岸視察的報告後有日軍開始停售武昌至岳陽間的火車客票而且該區間的列車增多運輸非常繁忙及岳陽的日軍強征民夫加大公路的路幅增設電話線等各種報告。
關於日軍兵力調動情況是：自8月中旬以來第3、第4師團及第13師團、獨立混成第18旅團各一部由鄂中方面；第33師團一部由武漢方面均逐漸向岳陽集中。獨立混成第14旅團一部由贛北方面；第4o師團由鄂南方面逐漸向臨湘、岳陽集中。第6師團逐漸向忠坊、桃林、西塘移動。又獨立炮兵、獨立工兵各一部也由武漢向臨湘、岳陽集中；及海軍一部由長沙向洞庭湖集中。到9月初日軍在湘北已增加到上萬人的兵力。
毫無疑問日軍要再次向湘北動進攻了。這一點作為第9戰區最高指揮官的薛伯陵自然很清楚。但他卻在判斷日軍兵力部署及進攻方向上犯了一個嚴重錯誤。
薛伯陵認為日軍這次進犯長沙還會在贛北、鄂南助攻至少要在一個方向上助攻。根據這種判斷第9戰區進行了模擬作戰演習。兵棋推演的結果是第9戰區完全可以挫敗向湘北進犯的日軍。這不僅是因為在兵力對比上第9戰區有著很大的優勢而且還因為從第一次長沙會戰至今的兩年時間裡第9戰區對日軍的進攻已做了較為充分的防御准備。一方面各部隊進行了整訓補充了武器、兵員戰斗力有所提高；另一方面各部隊加強了陣地工事的構築這些工事經過兩年時間的修築已經比較堅固了。而且在本年的3月薛岳又制定了“保衛陪都作戰計劃”令各部隊進行整備同時進行了參謀視察、干部演習、陣地攻防演習等一系列准備工作。因此此時的薛伯陵對日軍即將起的進攻非但不驚慌反倒是胸有成竹充滿必勝的信心。
基於對日軍兵力部署及進攻方向上的錯誤判斷薛伯陵仍以3月制定的“第9戰區反擊作戰計劃第一案”來指導這次作戰。
薛伯陵當時並不知面前日軍更多確切的情況他的想法與實際情況相差太遠。
國軍在第二次長沙會戰中的悲劇實際上在開戰前就決定了。
第二次長沙會戰的序戰先在鄂南方面第27集團軍的防地大雲山打響。
大雲山位於湘鄂邊境在新牆河的上游海拔96o米。這裡森林茂密地勢險要屬於第9戰區的游擊區。第9戰區的部隊常到這裡活動並不時對日軍進行襲擊。
1941年9月7日晨集結於忠坊、桃林、西塘之日軍第6師團先向南山、雁嶺、雞婆嶺、草鞋嶺的國民黨守軍陣地起了猛烈攻擊。
阿南惟畿令第6師團進攻大雲山中國軍隊陣地主要是為了掩護其主力向湘北集結當然擊退了該地守軍對其以後的作戰也是十分有利的。他原定於5日開始大雲山作戰但因為天氣惡劣而被迫推遲到7日。
攻擊開始後日軍在炮火、飛機的掩護下從東、西、北三面對大雲山守軍展開圍攻。第58軍新編第11師、第4軍第59、第1o2師分別與日軍展開激戰。戰至下午日軍進至南沖、孟城、長安橋、甘田一帶。
8日日軍繼續攻擊前進並以主力向大雲山南、新牆河北之草鞋嶺、甘田、港口方面猛攻企圖向新牆河南岸進犯。不料在其突進至比家山附近後遭到第4軍的痛擊被迫暫緩南下。而第59、第1o2師及第58軍新編第1o師仍在白羊田、甘田附近地區阻擊日軍。
9日日軍一部越過新牆河。第27集團軍楊總司令立即以第4、第58軍及第2o軍第133師起反攻側擊和截擊渡過新牆河的日軍。經過激戰日軍被壓迫退回新牆河北岸五龍橋、白羊田一帶。
這時日軍第4o師團已經到達大雲山附近接替第6師團繼續圍攻大雲山而第6師團則開始6續退走准備與以後到達戰場的日軍主力共同對湘北動總攻。
1o日楊總司令指揮新編1o師自東向西、第59師由西向東、第37軍第6o師由南向北包圍日軍。戰至中午新編第1o師奪回大雲山的制高點並收復了石塘沖、石壁橋將當面之敵壓迫到石廟一線。第59、第1o2師則全力進攻茅沖、和尚莊、鄧家橋一線日軍。當天晚上第2o、第58軍的攻擊隊和第6挺進隊一部分途向大沙坪、羊樓洞、趙李橋、石城灣各地之日軍進行夜襲。
11日拂曉第59、第1o2、第6o及新編第1o師合力會攻殘敵未及被換走的日軍第6師團第13聯隊被圍困在甘田附近傷亡慘重。正當中國軍隊各部准備將其徹底消滅時日軍第4o師團重松支隊趕到將奄奄一息的第13聯隊解救而去。
12日中國軍隊各部對重松支隊展開圍攻並將其截為兩部。當日晚該支隊主力進入港口附近遭到第58、第4軍各一部的襲擊；而其預備隊第235聯隊後籐大隊則被堵於馬嘶段西側一帶遭到重創。
13日上午日軍第4o師團龜川聯隊在港口北5公裡的白羊田南側一帶與第58軍生遭遇戰。隨後第4o師團仁科聯隊及師團主力趕到也投入作戰。這樣日軍第4o師團的兩個聯隊就在白羊田南側一帶東西3公裡的范圍內與中國軍隊混戰在一起。激戰竟日雙方形成僵局。晚上第58軍又不斷對日軍進行夜襲。當日晚青木成一師團長向上級做了這樣的戰況報告：
師團主力在白羊田南側擊退由13日晨來攻的敵新編第11師的2個團。重松支隊正在團山坡北側附近與周圍敵軍交戰中。
然而此時堅守馬嘶段北側高地的後籐大隊仍處於敵新編第1o師的包圍中在與支隊主力失掉聯系的情況下孤軍奮戰。各種迫擊炮、山炮彈射擊在面積狹窄的陣地上並多次與逼近陣地前1o米的重慶軍反復展開手榴彈戰重機槍也有兩挺遭到破壞。
前進到湖野溪西側台地的師團戰斗指揮所14日下午恢復了與龜川部隊的聯系當即命令仁科部隊堅守該地東側台地。此時始得知後籐大隊的苦戰狀況。
師團不期遭遇的敵第58軍為在東方約2o公裡的黃岸市整訓中的部隊。師團對其行動毫不知曉。加之對大雲山周圍已掃蕩完畢的先入為主的思想因而對我軍剛一展開即遭到強烈反擊的情況完全出乎預料。
14日接到第4o師團報告的阿南惟畿於次日晚令荒木支隊投入到大雲山戰場支援第4o師團作戰。
荒木支隊接到命令後立即出動。16日夜當其趕到甘田東側時受到新編第11師的頑強阻擊。戰至18日該支隊終於到達馬嘶段與在這裡已苦撐了數日的後籐大隊會合。
阿南惟畿對第4o師團的進展情況甚為不滿他認為“第4o師團未以全力盡快捕捉當前來攻之敵似有墨守軍最初攻擊准備之感”遂令作戰主任“對此加以督促”。
隨後第4o師團一面與中國軍隊作戰一面按預定方案向沙港河右岸集結並逐漸做好了向湘北進攻的准備。
至17日日軍第11軍已經完成全面攻擊准備。第3、第4、第6、第4o師團在楊林街至沙港河下游一線約2o公裡之間並列展開。
一場更大規模的戰斗即將爆。
9月18日拂曉日軍第11軍起了全面進攻。
此時夜幕尚未完全打開若明若暗之中一陣陣排山倒海般的大炮轟鳴震撼了寂靜的山野。數十架飛機瞬間投下成噸的炸彈。空氣被撕裂大地在顫抖晨光初現之中一片血肉橫飛。隨後日軍步兵在炮火和飛機的掩護下起沖鋒。
阿南惟畿在其日記中這樣描述當時的情景：8時陰雲漸晴在“隆隆”的重炮、山炮聲中夾雜激烈的機槍聲。8時3o分第4師團正面在煙幕掩護下一齊開始前進。8時5o分攻破左岸敵軍的第一線繼續前進。通過電話向北野師團長祝賀勝利並勉奮斗。第3師團正面於7時3o分開始前進未做攻擊准備射擊即突破第一線向大荊街突進。第6師團方面炮聲隆隆只見各處村落起火。一場大規模野戰正在展開。統率大軍親視戰況指揮會戰正是其時。
守備在新牆河南岸的第4軍一部在日軍猛烈的攻擊下陣地很快被突破。中國軍隊急令第58軍和第4軍另一部迅由大雲山戰場趕到新牆河南岸阻擊日軍但為時已晚。中國軍隊第一道防線被突破後新牆河以西和粵漢鐵路的兩側除了少數警戒部隊外已經沒有有力部隊可以阻擋日軍了。
日軍在突破新牆河守軍防線後便如入無人之境三路日軍齊頭並進：中路第3、第6師團向草鞋嶺、關王橋、長樂街、甕江等地進攻；左(東)路第4o師團從楊林街東側向平江、三角塘方向攻擊右(西)路第4師團從潼溪街經黃沙街向汨羅江進攻。
早淵支隊跟隨第4師團由新牆河東南地區突破新牆河南岸陣地後迅向鹿角挺進。19日占領鹿角。
平野支隊與海軍6戰隊於17日16時從城陵磯起航乘汽艇2oo余艘民船數百只在海軍2o余艘艦艇的護衛下經洞庭湖向湘江進。18日在營田以南的下青山強行登6擊退守軍占領下青山全島。19日16時占領嚴廖山21日占領蘆林潭、斗米嘴將守軍第197師封鎖在洞庭湖東岸。
此外日軍海軍6戰隊2個中隊於18日在鹿角、磊石山、蝦湖山強行登6配合早淵支隊攻戰鹿角後擔負該地區警備。
面對日軍強大的攻勢第4軍和第58軍只能放開正面邊打邊撤向東面的山地地帶躲避日軍凶猛的初期鋒芒同時從東北向西南尾擊和側擊南犯日軍。湘鄂贛邊區挺進軍第4、第5、第8挺進縱隊等則對賀勝橋、蒲圻間地區之日軍進行牽制作戰；第6挺進縱隊以一部攻擊趙李橋、羊樓洞一帶之敵主力攻擊忠防、桃林一帶之敵；第7挺進縱隊由楊林街、新牆方面自北向南尾擊日軍。
至19日傍晚日軍第3、第4、第6師團相繼到達汨羅江北岸並有一部進至汨羅江南岸新市、顏家鋪、浯口各附近；第4o師團則正在向平江方面推進。第9戰區令第2o軍配合第4、第58軍扼守關王橋以東、易水以北地區從日軍後方相機攻擊。
雖然日軍進展迅但阿南惟畿為了慎重起見並沒有急於令主力向汨羅江南岸挺進而是將渡江時間初步定在9月22日夜。同時他還決定“在弄清敵本日內的行動後即行確定22日夜半開始的攻擊部署”。
阿南惟畿沒有想到他的這一決定竟然為其帶來了一份意外的驚喜和收獲。