日軍正在由南北兩路同時向以徐州為中心的淮河以北運河和津浦鐵路沿線的第五戰區十餘萬部隊壓縮過來。原本第五戰區計劃由韓復矩的第三集團軍對正面的華北日軍節節抵抗再以其他部隊在運動中尋找聚殲敵軍的機會從而擊敗日軍打通南北兩個集團聯繫的行動。可是第5戰區司令長官李宗仁千算萬算也沒有算到身為山東省政府主席一向自詡為山東父母官的韓復矩公然違抗軍令大搖大擺地率軍大撤退讓日軍輕易穿過山東全境直逼第5戰區司令部所在地徐州使第5戰區原定作戰計劃頃刻間變為一片廢紙。這就給了這位桂系的第一號人物蔣委員長長期以來最為頭疼的地方實力派代表的新職位帶來了危機。
蔣介石命令李宗仁在徐州至少要守上3個月。李宗仁深知國軍新敗士氣低落且無天險可憑蔣介石此時啟用他除了危難之際無合適人選可用他要依靠李宗仁指揮的第5戰區以地方部隊為主構成的部隊把日本人拖在中原以便蔣的中央軍好抽出來整補部隊擴充編製。更重要的是其實還包含其險惡用心。蔣介石真是太精明了即使被日本人窮追猛打到這一步也沒放過李宗仁這個與他爭鬥了十來年的地方實力人物。
利用一切機會不擇手段地削弱自己對手的實力是老蔣的一貫作法。自張學良和他的一度實力強大的東北軍被蔣介石藉著整編瓦解掉後李宗仁的桂系便成了蔣介石一統中國的最大障礙打打和和十來年沒有解決。直到李宗仁赴京抗日前廣西實際上還是游離於南京之外的半獨立王國。在李宗仁和白崇禧的運作下整個廣西大建民團幾乎成了一座大兵營。憑借廣西的幾個軍的實力蔣委員長的命令在廣西根本行不通就連國民黨廣西省黨部也要看人家的臉色過日子。更令蔣介石頭疼的是李宗仁在廣西鬧自治引得四川的劉湘、雲南的龍雲西康的劉文輝也頗不安分對南京中央總是陽奉陰違這曾讓蔣介石傷透了腦筋。如今讓李宗仁統帥第5戰區一旦創造了奇跡蔣介石臉上有光武漢擴編、整補部隊也有了著落就是創造不了奇跡川、桂軍受到削弱李宗仁的聲譽受到打擊這也是蔣介石求之不得的。
因此他既要李宗仁在危難之際挑起重擔但不給配備精銳之師撥給第5戰區的都是一些裝備極差的雜牌軍只有很少一部分是中央軍部隊而且這些部隊基本上李宗仁也調動不了最好的例子就是第2o軍團湯恩伯部。蔣介石要與日本人在戰場上見只有繼續把川軍、東北軍舊部、西北軍和山東軍這些雜牌部隊投入中原戰場是死馬當做活馬醫。李宗仁很清楚蔣委員長此時「器重」他是把他放在日本人的槍口上可給他的究竟都是些什麼部隊呢？讓我們具體看一看：
第31軍軍長韋雲淞下轄3個師駐防蘇北海州。這是李宗仁可以指揮自如的桂系部隊班以上各級幹部多系北伐前後的舊班底頗有作戰經驗不過士兵多系新入伍的農民受訓時間短也無作戰經驗。韋雲淞雖為北伐老將無奈行伍出身沒有受過多少正規軍事教育打仗幾乎就是靠著一股的革命精神其實就是猛打猛衝面對鬼子那些正規軍事教育體系訓練出來的軍官恐怕很難佔到多少便宜。
第3集團軍總司令韓復矩下轄3個軍（12軍軍長孫桐萱；55軍軍長曹福林；56軍軍長谷良民）駐山東境內。該部訓練、裝備均較好只是能否服從命令拚死作戰卻大成問題。韓復矩被處決以後由東北軍老將於學忠出任總司令可是下面的各軍對他的命令一直陽奉陰違。沒有多久第3集團軍即由12軍軍長孫桐萱升任。
第57軍軍長繆澄流下轄2個師駐蘇北。該軍原系東北軍經過江陰要塞的一場保衛戰以後部隊損失很大軍政部的補充卻很遲緩戰鬥力一般。
第89軍軍長韓德勤下轄2個師駐蘇北。該部由江蘇省保安隊改編而成戰鬥力較差。（註：作者雖然是江蘇人可是也不得不承認一向以來江蘇部隊的戰鬥能力的確一般遠不能和廣西湖南相比。）
第51軍軍長於學忠下轄2個師駐青島後調津浦南段。該軍原系東北軍。於學忠是軍界老資格張少帥的親信舊人抗戰意志比較堅決在張少帥到南京以後奉少帥的指令統帥東北軍事務。無奈各部軍長相互不和東北軍土崩瓦解。
第3軍團軍團長龐炳勳下轄1個軍（4o軍龐兼軍長）駐碭山。該部原系西北軍裝備較差。全軍名為軍團只有一個4o軍4o軍只有一個39師所以第3軍團實則只有5個步兵團的實力。
蔣後來又將第22集團軍（川軍總司令鄧錫侯）像處理蹩腳貨一般塞到了第5戰區。
以上各部的共同特點是均系非嫡系部隊裝備、編製都不足。其將領們激於民族義憤欲同日軍一拼卻又擔心作戰損失得不到補充因之對於即將到來的大戰猶豫彷徨。畢竟在淞滬會戰裡為了掩護全軍撤退曾經在上海南郊和日軍血戰就連軍長吳克仁將軍也壯烈殉國的東北軍第67軍由於損失慘重就被撤銷了番號部隊被縮編為一個師即將被中央軍吞併。有了前面的例子這些依靠手上部隊吃飯的軍頭們難免會有顧慮。
雜牌軍悲慘局面以及導致的消極後果李宗仁在其後來的回憶錄中有深入的分析:
第一件令人不服的事便是硬把全國軍隊分成「中央系」和所謂「雜牌」。在武器、彈藥、被服、糧餉各方面中央軍得到無限制的補充雜牌軍則被剋扣。如川軍開到徐州我竭力請求補充中央破例補充了每軍步槍25o支。這真是「杯水車薪」何濟於事？因而在大敵當前之時並肩作戰的友軍有的食豐履厚武器精良氣焰凌人有的卻面有饑色器械窳劣。要他們同樣出死力而無怨尤又豈可得呢？
由這種歧視所產生的惡果則更是歷數不荊。就以「中央軍」而言上上下下都是具有「通天」本領的「天子門生」。大家惟領袖之命是從將帥不和上下傾軋作戰能力自然無法提高。但是犯起法來大家都是黃埔同學又官官相衛蒙蔽最高當局。茲舉一實例：民國3o年5戰區第1o補充兵訓練處第2團團長何中明（黃埔四期畢業）其團部駐老河口南3o裡的仙人渡曾將病兵3o餘人衣服剝光活埋致死。何的同事見此事太殘酷乃據情報告長官部。我便派軍法官及有關人員前往查辦並掘墳檢視情形確實慘不忍睹。因將何中明扣留交軍法處審訊屬實判處死刑。本擬就地槍決以申國法。不意中央當局聞訊電令押解重慶軍法總監部旋即釋放。因軍法總監部內高級人員多系黃埔畢業生狼狽為奸儘管何中明罪無可赦也可逍遙法外。
可是蔣先生卻最喜歡人家恭維黃埔畢業生是如何如何地好雜牌部隊是如何如何地不好。而他的左右又都是善於阿諛的人於是蔣先生朝夕所聽到的批評和看到的特務密告都正如他所想像的。因而成見愈深欲消滅雜牌部隊之心也愈切。
至於雜牌軍部隊本身呢在這種無法無天的局面之下也就竭力自救。他們都知道中央當局欲利用對日抗戰來消滅他們平時剋扣糧餉戰時不予補充等他們消耗得差不多了便將他們遣散或改編歸並其他部隊空出的番號便可以「嫡系」補充了。
此外李宗仁剛抵徐州之時正是上海新敗之際。大家感到中國軍隊在京滬線上陳兵百萬尚難保淞滬今敵軍挾新勝之威南北兩路向徐州而來李宗仁以十餘萬雜牌軍與之周旋真如「螳臂擋車」。徐州城內人心惶惶市面蕭條形同死城。為了安定人心李宗仁每日清晨或午後都要騎馬到城內主要街道巡視一番。「心情雖極沉重而態度故作悠閒」。可見當時李宗仁的日子的確不好過。世人都以不同心情猜測著由他領導的這支雜牌軍在勢頭正盛的虎狼之師的圍攻下的可能結局。但是也有一個方面的事情必須要得到注意那就是在經過蔣介石殺韓復矩以鎮軍威以後中國軍隊上自戰區司令長官下至普通士兵無不受到震動士氣大振。即使是向來擁兵自重的地方軍頭也不敢在這個時候效仿韓復矩落得被老蔣殺人立威的借口。
1月26日日軍第13師團向安徽鳳陽、蚌埠進攻。日軍以為拿下蚌埠已是易如反掌之事不料進至明光以南即為李宗仁部署的李品仙的第11集團軍和於學忠的第51軍利用淮河、淝河、匯河等地形堵截雙方血戰月餘不分勝負。第5戰區以第59軍軍長張自忠率部馳援進至固鎮地區協同第51軍在淮河北岸地區頑強抗擊日軍。敵軍在此停留竟不能越雷池一步這大出日軍主將畑俊六所料十分惱怒。於是畑俊六遂自南京調集援兵及坦克、野戰炮等重武器傾巢來犯。敵人洶洶而來李宗仁感到硬拚、硬堵要吃虧待敵援軍聚集明光一帶時李宗仁命坐鎮蚌埠的李品仙將31軍於1月18日自明光全線西撤山區伺機出擊將津浦路南端正面讓開；將於學忠的51軍南調佈防淮河北岸憑借險要地形拒敵越河北進敵援軍以餓狼撲食之勢猛撲明光結果撲了個空沒有捕捉到李品仙的主力。接著日軍攻下定遠、懷遠等地但一無所獲。此時西撤的31軍遵李宗仁指示從敵軍左側向東出擊將津浦路之敵截成數段圍而殲之。淮海前線之敵後路忽被斬斷不知凶吉費九牛二虎之力將31軍從津浦線向西壓。李宗仁遂命部隊採用敵進我退、敵退我進的戰術牢牢地盯住津浦線；此時參加淞滬會戰的21集團軍北調合肥以其第48軍固守爐橋地區第7軍協同第31軍迂迴攻擊定遠日軍側後迫日軍第13師團主力由淮河北岸回援。第59、51軍乘勢反攻至3月初恢復淮河以北全部陣地。第21集團軍和第31軍旋由淮河南岸向北岸集中淮河兩岸日軍尾難顧與中國軍隊膠著於津浦沿線從而使日軍對淮河流域的進攻宣告徹底破產。
徐州以南地區之戰日軍損失達三四千人中國軍隊取得了輝煌的戰績這次勝利除了中國軍隊的浴血奮戰之外皖北人民對軍隊給予了極大的支持。皖北人素稱強悍英勇善戰當地有句俗話說：「紙糊的江南鐵打的皖北」。當日軍侵入淮河流域之際皖北人民就自動組織起來協助中國軍隊阻擊日軍在定遠、明光等地日軍都遭到了當地民眾武裝的襲擊把日軍搞得像熱鍋上的螞蟻這些武裝的民眾潛伏在城鎮中、村莊裡、山林間日軍每到一村一鎮都會遭到他們的打擊。當時的紅槍會等武裝組織約有3ooo多人在皖北到處襲擊日軍攪得日軍日夜不得安寧。
這次淮河血戰雖然沒有把北犯日軍全部殲滅卻使日軍付出了巨大的代價並將日軍遲滯於淮河一線粉碎了日軍預定的「南北夾擊」的戰略迫使日軍改取「南守北攻」戰略從北面取道山東進攻滕縣、嶧縣造成孤軍深入的局面從而為中國軍隊在台兒莊殲滅日軍造成了良好的戰機。
徐州面臨的局勢也讓暫時駐紮在商丘的新編十四師部隊感到了一些緊張。這一段時間不斷有部隊從商丘路過調往徐州。劉建業感到空氣裡面已經有了一點火藥氣味估計自己的這支部隊很快也要上火線了。第五戰區不會讓自己手裡的這支人員充足裝備精良的部隊長期呆在後方而讓那些裝備很差的地方雜牌部隊和日本人拼的你死我活。如果這樣李長官就和第三戰區的顧長官沒有任何的不同了。