日軍在台兒莊戰役失敗後儘管日軍統帥部硬著頭皮說：「這不是一個敗仗只是指揮官的一次小小的失誤第5、1o師團的餘部不是潰敗逃跑而是做新的戰略轉移。」但惱羞成怒的日本政府立刻召開緊急會議表示：日本政府不能蒙受如此羞辱。
其實日本天皇原在2月16日的御前會議上說：「在８月以前絕不向新地區動進攻。」台兒莊慘敗後日軍大本營已經無法再考慮戰略上深入與分散的問題了日軍必須立刻設法擊敗中國軍隊以挽回「皇軍無敵」的聲譽。日本天皇立即決定：迅向中國大規模增加兵力動更大的進攻誓報台兒莊慘敗之仇。
日軍統帥部深知徐州不可輕取非調集重兵四面合圍否則斷難打通津浦線。4月間侵華日軍華北方面軍和華中派遣軍自平、津、晉、綏、蘇、皖一帶糾集了13個精銳師團約3o萬軍隊（其中包括磯谷和板垣兩師團從台兒莊撤退後重新集結補充休整兵力）並配有各種重武器飛機數百架兵分6路對徐州形成大包圍採取南北對進側翼迂迴的戰術企圖圍殲雲集在徐州一帶的第5戰區主力。
4月7日台兒莊戰鬥剛結束日軍前線指揮官電告大本營：徐州地區有一股中國軍的強大集團據可靠情報該集團約5o個師6o余萬人幾乎全部為蔣介石的精銳部隊。
6軍統帥部頓時驚喜若狂認為這是報台兒莊之仇的一次難得的戰機。
杉山元6相當即向天皇報告強烈主張動徐州會戰。他說：「對於集中在徐州方面的中國軍予以痛擊可以收到挫傷敵軍抗戰意志的巨大效果。因而6軍準備實施對徐州的殲滅作戰由於該敵差不多是中國軍隊的精銳主力並且已經處於孤立狀態我軍應不失時機以大的兵力以大的規模會戰使之一舉徹底殲滅該敵。本職認為只要達到了殲滅這股敵軍的戰略企圖就能使武力解決中國事變促使蔣政權屈服投降邁出決定性的一步亦可挽回我軍在台兒莊的不良影響。」
天皇見報頓時喜出望外亦認為這是剎住蔣介石正在進行的台兒莊勝利大宣傳的囂張氣焰的大好良機當即定案：圍殲徐州中國軍隊並要求：6軍此次進攻定要取得巨大戰果不使徐州地區5o個師的中國軍隊一人漏網務求全殲。
為求戰決不失這千載難逢的良機大本營6軍部於當日向華北方面軍總司令官寺內大將、華中派遣軍總司令官畑俊六大將下達第84號命令：
一、華北方面軍司令官應以有力之一部擊破徐州附近之敵佔據蘭封以東隴海線以北之地區。
二、華中派遣軍司令官應以一部佔據徐州以南津浦線附近。
日大本營在動員華北方面軍、華中派遣軍的主力投入這場戰鬥的同時還下令關東軍派軍支持。由於華北方面軍司令官寺內壽一大將與華中派遣軍畑俊六大將的官銜相同誰也不會接受對方的指揮因此只有緊急派遣大本營6軍參謀本部的作戰部長橋本群少將率領參謀本部的參謀軍官在濟南成立大本營派遣班組織包括華北與華中日軍的參謀軍官進行徐州會戰的作戰協調工作。
日軍以第16、第144師團增援北線的第5、第1o師團沿津浦路向南推進以引誘中國軍隊主力；以第14師團從濮陽渡黃河入魯西南和豫東斷隴海路從而阻遏援徐州之中國軍隊亦斷徐州守軍退路；以第13師團在南線的蚌埠、懷遠間集結；以第6、第9師團向鳳陽、合肥進逼；以第1o1師團向蘇北攻擊。
5月上旬南路日軍開始北上相繼攻佔徐州南面的龍元、蒙城、宿縣並攻陷徐州西邊的黃口車站包圍並切斷了徐州西南面的退路。
5月中旬北路又一股日軍從淮陽強渡黃河進入魯西地區迅攻佔了鄲城、菏澤、金鄉、魚台等重要據點。該地區雖有孫桐萱、龐炳勳、商震等部隊但在廣闊的魯西平原上無險可守日軍得以快推進。北路日軍與南路日軍相呼應自西北向徐州壓來。此時日軍對徐州的大包圍業已完成正從四方八面向徐州突進。
而此前一段時間的中國軍隊在做什麼呢？由於國軍自開戰以來一再的後退國土不斷淪陷國民政府內部開始出現了一些不同的聲音。少數人組織了一個非正式的所謂低調俱樂部在各種非公開場合宣揚所謂的抗戰亡國論說什麼抗戰必敗不抗日還能多活一段時間越抗日亡國越快不如不抗日。最港當局當然對於這些聲音的來源是心知肚明只是手裡實在沒有什麼可以拿得出來的戰果。現在國軍總算在台兒莊打了一個勝仗最高當局自然是希望能夠把這個勝利擴大化在徐州再來一個大勝仗消滅更多的日軍精銳部隊。這樣也就可以更加鞏固自己的地位爭取更多的國際同情和援助。所以最高當局採取了與日軍針鋒相對的方針從3月下旬起從各戰區調集大批軍隊使第5戰區的兵力由29個師增加到64個師又3個旅共達6o萬人。同時他還將中央軍胡宗南、黃傑、桂永清、俞濟時、宋希濂等部佈置於豫東作為徐州的後援力量試圖在徐州與日軍一決雌雄以一次大的會戰徹底改變戰場局勢。
蔣介石的上述想法早在台兒莊會戰之前就已表露。他親臨徐州督戰時就對白崇禧等人說：「徐州是這次會戰的核心。徐州位於黃淮之間地界魯、豫、皖、蘇四省之交為南北之通津中原之屏障。在中國歷史上徐州之得失有關國家之興替。」
何應欽附和說：「委員長的指示極為重要十分英明。徐州歷來是兵家必爭之地南守可略豫、魯北守可瞰淮河不可輕易放棄。」何應欽自從西安事變之後一度為蔣委員長所不滿加上自己又向來在國內有著軍中第一親日派的名號故而對蔣委員長採取了恭順的態度萬事都以蔣委員長的意見為自己的意見不敢有絲毫的不一致。
「我們一定要死守徐州!」林蔚也跟著隨聲附和。
劉斐認為徐州應該守但最終必然守不住。考慮到自己僅是個作戰組長不便公開與蔣介石「較勁」只好用眼睛盯著素有「小諸葛」之稱的白崇禧盼望他拿個好主意。白崇禧懂得劉斐眼光的意思但也不好正面反對蔣介石的意見。他打了個迂迴：「這次敵軍的第1o師團和第5師團進襲魯南氣焰十分凶狂呀!」
不等白崇禧說完蔣介石就說：「凶狂怕什麼?我們可以增調兵力。徐州必須死守因為在徐州決戰可以爭取時間保衛武漢。徐州守得越久我們爭取的時間就越多就可以把保衛武漢的準備工作做得好一點。」
「委員長的遠見令人佩服之至!」何應欽又出了讚美之聲。
白崇禧見蔣介石決心已下不好再說什麼了。
台兒莊勝利後蔣介石等人盲目樂觀情緒更為膨脹。
但身為第5戰區最高長官的李宗仁對形勢的判斷並不樂觀他深知徐州四周為平原地帶無險可守日軍是機械化部隊又多有空軍助戰在此處打起來中國軍隊要吃大虧。他認為：「我方在徐州一帶平原聚集大軍數十萬人正是敵方機械化部隊和空軍的最好對像」。李宗仁從持久消耗戰的戰略思想出認為在徐州同敵軍作陣地相持的消耗戰是愚蠢的。指出：「以中國軍隊的裝備只可相機利用地形條件與敵人作運動戰」。他為避免重蹈京滬戰場的覆轍提出撤離徐州的意見而軍事委員會中的少數人卻陶醉於台兒莊的勝利中。李的意見被否定之後即部署徐州會戰。
4月18日中國最高軍事當局令第五戰區集中兵力於徐州附近準備再次聚殲日軍。日軍改以部分兵力在正面牽制對方主力向西迂迴企圖從側後包圍徐州殲滅第五戰區主力。日軍第1o、第5師分別從山東嶧城(今屬棗莊)和臨沂西北的義堂地區南進對守軍第2集團軍和第2o、第3軍團及第27軍團第59軍實施牽制性進攻。守軍頑強抗擊至月底將日軍阻止在韓莊、邳縣(今邳州)和郯城一線。
4月29日這一天是日本的『；天長節『；。日本國的象徵—天皇的生日因而也成了日本的大慶紀念日。侵華日軍頭目企圖在一天之內一舉消滅駐武漢的中國空軍主力為天皇祝壽邀功領賞於是急忙調來海軍『；佐世保『；第2航空隊這支日本海軍航空兵序列裡的精銳來完成這一『；神聖『；使命。
然而日軍的這一意圖已預先被中國空軍獲悉4月2o日1架日本雙座偵察機在湖北孝感上空進行偵察時被擊落在死去的日軍飛行員身上搜到1個筆記本上面披露了這一重要情報。中國空軍立即做好迎戰準備。但日軍並不知曉這個情況。
早有準備的中國空軍第3、第4、第5大隊的19架⑽－15驅逐機和蘇聯志願航空隊的45架戰鬥機此刻已佔據有利高度等待日機進入布好的口袋。中蘇空軍的作戰方針是：以⑽－15驅逐機群在武漢東北巡邏相機與日戰鬥機纏鬥迫使其戰鬥機與轟炸機分離；⑽－15機群負責保衛武漢市區重點打擊日轟炸機。
日機群剛一進入武漢上空中國空軍第4大隊的9架⑽－15先迎了上去。此時敵我飛機數量之比為4︰1。第4大隊的空中勇士們不畏強敵奮勇突入敵編隊之中與敵展開空中『；肉搏『；戰。
少尉飛行員陳懷民擊落和重創3架日機之後引起了敵人的注意。5架日機瘋似地撲了上來猛烈地向陳懷民射擊。陳懷民的戰機多處中彈已難以操縱。在這千鈞一之際他本可再次跳傘求生但他看到敵機逞兇一時不禁怒火中燒毅然放棄了求生的機會開足馬力向附近的一架敵機機背高撞去。只聽「轟『；的一聲巨響兩條火龍翻滾著落向地面。陳懷民的英雄壯舉使日軍飛行員為之喪膽使地面上觀戰的中國軍民為之動容使仍在空中激戰的戰友為之驕傲！
在陳懷民英雄壯舉的鼓舞下中蘇空軍勇士們越戰越勇經3o分鐘激戰一舉擊落日機21架其中戰鬥機11架轟炸機1o架取得抗戰以來最輝煌的勝利。
5月5日蔣介石致電斯大林洽商軍火貨物交換方法。同日日軍開始從南北兩個方面向徐州西側迂迴包圍。在南面第9、第13師團從蚌埠地區分別沿北淝河、渦河西岸北進至13日陷蒙城、永城(屬河南)後向江蘇蕭縣、碭山(今均屬安徽)進攻；第3師團由蚌埠進入大營集地區向宿縣(今宿州)進攻。在北面第16師團由山東濟寧渡運河至14日連陷鄆城、單縣、金鄉、魚台後向江蘇豐縣、碭山推進；第14師團從河南濮陽南渡黃河陷山東菏澤、曹縣後直插河南蘭封(今蘭考)；同時第1o師團將韓莊、台兒莊地區的作戰交由第114師接替後在夏鎮附近渡過微山湖向沛縣(屬江蘇)進攻。日軍已形成對徐州的四面合圍態勢。
這一段時間的新編十四師正在師長劉建業的安排下進行武裝越野和長途拉練的訓練。
授過勳得過獎也在記者面前出過了風頭劉建業回到了師裡把副師長張建找了過來。
「老哥我有一件事情要你幫忙去辦一下這件事情關係到全師弟兄的穩定和生計你一定要辦好。」
「師長你就說吧我盡力而為。」
「軍委會獎勵給我們師大洋2o萬。我想呢1o萬大洋分給下面的弟兄們作為大家賣命打仗的一點賞錢。還有十萬大洋你把這筆錢換成銀行匯票帶上到貴州四川或者雲南去以部隊的名義買上連片的土地和山林給我們部隊的作戰負傷不能回到部隊的弟兄們一個立身安命的落腳地方讓他們能夠自食其力不至於流落街頭生活沒有著落。土地可以多買一些最好有山有水讓老兵們過得舒服一點。你看怎麼樣？」
「這件事情對我們師的弟兄們的確很重要我一定辦好。」
「你過回去找我的警衛黃峰讓他告訴你我家在西南一代的產業分佈和聯繫方式這樣你可以找他們幫忙事情也好辦一些。要是萬一錢不夠的話就先找他們拿一些報我的名字就行了。」
「好的師長我明天就出。」
「這件事情就托付給你了你可一定要辦好這可是弟兄們的保命錢。」
「師長你就放心吧我拚了命也要把這件事情辦好。」
劉建業這樣做也是為了避免手下的弟兄們萬一受傷不能再上戰場無法繼續跟隨隊伍的時候可以有一個地方自食其力養活自己。要是全靠著軍政部的那點可憐的傷殘費或者退伍費不敢講多至少一半以上的傷殘弟兄遲早會變成街上的乞丐。劉建業是不忍心看到這樣的場面的。弟兄們都是為了國家去拚命的受了傷不能再跟隨隊伍照理來說國家應該保證他們的基本生活。可是抗戰時期這樣的事情屢見不鮮。既然國家管不過來劉建業只有自己想辦法了。
作為戰區的直屬部隊台兒莊戰役一結束新編十四師就被戰區調到了徐州郊區補充了一些新兵準備迎接下一次的大戰。
作為出了風頭的副作用新編十四師的營區大門最近總是被人堵著。倒不是新編十四師的弟兄們軍紀敗壞這一點在土木系的部隊裡也是基本上沒有的而是部隊出了名不少人都想要到抗戰的英雄部隊裡來為國效力。這裡面尤以學生居多不少上海的蘇州的濟南的南京的大學生還有一些徐州本地的原本是想到延安投奔八路軍去的。路過的時候聽說在徐州也有抗戰的部隊就跑到了這裡來反正只要是抗日的隊伍不管是國民黨還是共**。儘管包括劉建業在內向這些學生們多次說了國家需要這些大學生們去建設自己的國土增強持久抗戰的能力戰場以外的地方更需要他們。可是這些熱血澎湃的學生大多數還是堅決要求參軍聲言不答應他們的要求他們就和軍隊持續耗下去。老是讓人堵著門這總不是個事。再說怎麼著劉建業也不可能下令強行驅散這些愛國的學生們。就連劉建業自己當年也是一個左翼的憤青很理解這些學生們的想法。沒有辦法了劉建業只好表態只要是想到這裡來的都留下了。男學生們單獨編組成一個教導大隊跟抽調出來的一些作戰經驗豐富的老兵和下級軍官們一起編組。這樣可以盡快讓他們熟悉軍隊的各項技能和條令而且以後可以比較快的補充上一些技術兵種的損失。至於女學生嘛都編入衛生隊和通訊連集中管理免得一些人犯下生活作風錯誤鬧出花邊新聞破壞部隊的形象。
當然劉建業也有心情好一點的時候。經過了台兒莊的血戰新編十四師這支部隊幾乎完整的經過了一次輪戰各戰鬥部隊都上過了前線使得原有的新兵們迅成熟了起來至少看上去有了一些真正軍人的殺氣不像原先只能算是有一些模樣。下面的事情就是經歷更多的戰鬥使部隊有了軍魂一種即使戰鬥到最後一個人都不會消失的魂。這種魂更準確地說是一種精神支撐整個部隊的精神形成起來要花很長時間要經歷多次的血戰惡戰。一旦這種精神形成整個部隊就會有脫胎換骨的變化。這個方面劉建業可是很欣賞小說《亮劍》裡面的團長李雲龍的。他的部隊就有一種亮劍精神使部隊無論遭遇什麼困難總能堅持住部隊不會垮。劉建業打算著經過不斷的戰鬥也給自己的部隊找到屬於自己的魂。