林彪估計國民黨出關兵團推進速度不可持久。事態的發展，證實了他的判斷。11月26日，國民黨軍隊佔領錦州後，杜聿明即令暫停前進，忙於收編日偽軍殘部和土匪，這樣就為林彪提供了喘息之機。東北局全力轉入對東北自治軍進行擴編、整訓。到12月底，東北人民自治軍改稱東北聯軍，總兵力達二十二萬人。為適應戰爭形勢的需要，聯軍總指揮部分為前方指揮部和後方指揮部，分工林彪率前總在遼西指揮作戰，羅榮桓則主持後總的工作，為林彪鞏固後方、整訓部隊、提供物資和兵源。
隨著山海關、綏中、錦州、錦西的相繼失守，東北民主聯軍陸續退出一些大中城市，聯軍總部也於12月底撤離瀋陽，遷駐本溪。東北局今後的任務只能是力爭在東北佔據一定的優勢和地位，徐圖發展。
陳雲1947年5月在給高崗的一封信中，把避免錦州決戰和成功地指揮四平街撤退作為進入東北前七個月的兩件大事加以肯定，並說，如果這兩件事當時有錯誤的話，那麼，東北就難有以後的好形勢。
林彪作為東北地區我軍最高指揮官和主要決策者，膽量、魄力和見識、決心確有過人之處，功不可沒。
林彪在東北戰場上之所以能夠運籌於帷幄之中，決勝於千里之外，縱橫捭闔，導演出現代戰爭史上的偉業，有兩個人在其中起的作用不容忽視。一個是人所共知的毛澤東，一個是羅榮桓。
羅榮桓曾在紅四軍時擔任過林彪的政委。對付冷僻、獨斷的林彪有一套辦法，對這一點，毛澤東十分欣賞。解放戰爭一開始，毛澤東就要羅榮桓暫緩治療腎病，「率輕便指揮機關，日內趕赴東北」。毛澤東對羅榮桓擔任林彪的政委感到放心。
羅榮桓對於林彪在指揮戰鬥中的各項重要處置，凡是得當的，符合黨中央精神和實際情況的，他即給予贊同和支持；凡是違反中央指示或與實際情況相悖的，他都毫不猶豫的表示反對。至於一些非原則的分歧，他常常採取諒解、寬容、等待的態度，不予堅持或把問題留待以後解決。
在東北解放戰爭初期，林彪和羅榮桓和衷共濟，協同配合。特別是進入1946年以後，林彪面臨的戰爭局面更不容樂觀，更需要羅榮桓為他排憂解難。
戰爭的空隙是短暫的。國民黨軍休整停當後，又於1946年春發起了新的攻擊。這次，林彪面臨的對手是在國民黨軍隊中有「小諸葛」之稱的桂系軍事領袖——白崇禧。
白崇禧也有「常勝將軍」的雅號，據說他從軍幾十年來還很少打過敗仗。白崇禧與杜聿明經過反覆商量，制定了一個「扇形攻勢」，計劃集結五個軍十個師的美式機械化部隊分南北兩路沿中長鐵路北上，首先攻奪南滿戰略要地四平，然後追擊撤退的共軍。蔣介石興奮
地說：「有『小諸葛』居中調度，東北之戰完全可以畢其功於一役。」
對於東北，雖然獨佔已不可能，但對於已奪之地域，毛澤東和中央作出了「寸土必爭」的決策。東北局在《東北大會戰部署》中，提出「此次作戰為決定我黨在東北地位之最後一戰」。「最後一戰」的口號在部隊廣為流傳，引起羅榮桓的警覺。他認為這種提法不妥：「如果打不贏，還要不要打第二仗、第三仗?我們是剛剛同敵人交手，怎麼能叫『最後一戰』呢?」他寫信給林彪，明確提出：「東北戰爭要作較長時間的準備，不要把和平估計過急，而應發展全面工作，要全力支持這一長期戰爭。」
林彪不置可否，率領前總移往前線，就近指揮。
四平保衛戰從4月18日開始。敵新一軍在飛機和猛烈炮火掩護下，以新三十三師沿鐵路、新三十八師沿公路，向四平市區輪番進攻。我守城部隊為保一旅一個團和七縱即萬毅部的二個團，共六千人。敵人進攻延續數日之久，進展甚微。
為了加強對敵防禦和迂迴，林彪變防守為進攻，以進攻代防守。他命令山東一師、二師和華中三師八旅、十旅、獨立旅向四平方向西北延伸，以華中三師七旅加強七縱的防禦陣地，七旅原在城北三道林子的防務由長春南下的山東七師接管，形成以四平市區為中心，從東到西蜿蜒伸展百餘里長的防線，鉗制住了蔣軍的攻勢。到4月27日，雙方經反覆拉鋸戰，形成膠著對峙狀態。
在四平激戰期間，黃克誠從西滿打電報給林彪，建議適可而止，不能與敵人硬拚。他理由是：「敵人一開始進攻的時候，打它一下子，以挫敵銳氣，這是可以的。現在的情況是敵人傾巢而出，與我決戰，而我軍暫時尚不具備決戰的一切條件。因此應該把大城市讓出來，讓敵人進來，我們則應到中小城市及廣大鄉村去建立根據地，積累力量，等到敵人背上的包袱沉重到走不動的時候，我們再回過頭去消滅它，那時候我們就主動了。」
黃克誠連續給林彪發去好幾封電報，建議他從四平撤退。但林彪既不回電，也不撤兵。黃克誠無奈，又給中央發去電報，對堅守四平提出異議。中央同樣不予回答。
對於林彪和中央的態度，黃克誠感到萬分奇怪。這個謎團直到十四年後才解開。在廬山會議期間，毛澤東與黃克誠閒聊。黃克誠談到四平保衛戰林彪決策有誤。毛澤東問道：「難道四平保衛戰打錯了?」黃克誠解釋說：「開始敵人向四平推進，我們打他一下子，這並不錯。但後來在敵人集結重兵尋找我主力決戰的情況下，我們就不應該固守四平了。」毛澤東說：「固守四平當時是我決定的。」到這時，黃克誠才知道林彪不回電是有難言之隱。
其實，林彪並不想死守四平。從錦州開始，他就竭力避免與國民黨優勢兵力進行決戰，他的口號是「撤退、撤退、撤退」，「被動、被動、被動」。但是，中央不同意撤退。四平保衛戰期間，中央多次發來電令：「時局正在變化，望死守四平，寸土必爭」，「要打到敵人精疲力竭」。在一次電文中，中央甚至把四平保衛戰稱為「中國的馬德里」。
5月上旬，國民黨部隊又開始大規模進攻與四平毗鄰的本溪市。兵力已增加到十七個團。本溪是中共東北局等黨政軍機關的住地，僅有遼東軍區的十一個團防守，防禦面既寬且廣，外圍突擊力量薄弱，工事也不堅固，戰鬥形勢十分不利。5月2日，遼東軍區鑒於敵眾我寡，電告林彪，「死守本溪將是孤注一擲，對於長期鬥爭不利」。林彪同意遼東軍區撤出本溪。
進佔本溪的國民黨軍隊迅速向四平集結。5月15日，白崇禧、杜聿明集中十個師的兵力，組成三個攻擊集群向四平街地區東北民主聯軍陣地發起全面進攻。
情況確是萬分危急，戰局的關鍵在四平右側的塔子山防線，這裡成為封閉東北聯軍的最後一個缺口。林彪電令三縱：「塔子山盡可能再支持一天。」不久，三縱回電：「新六軍攻佔西豐、平崗後，於晚六時進佔哈福站。」林彪厲聲重申：「再命塔子山守軍，至少明天要頂半天，不惜一切犧牲。」
林彪不顧中央電令，決心撤退，他把後方總政主任陳正人和野戰部隊政治部副主任陳沂叫到指揮部，口述《為撤退四平告全軍書》要點。他的心情十分複雜，說：「估計敵人明天就可佔領塔子山，廖耀湘(新六軍軍長)必定要以全力攻塔子山。塔子山如失守，敵人就可以從我後側迂迴，封閉四平我軍的退路，那時我們就完全處於被動，且有被殲之危險。」
對這次戰鬥，林彪用「頑強」來形容：「我們已經大量消耗了敵人，並贏得了時間。我們的保衛戰是頑強的，特別是我們每一個部隊，都在一定程度上得到了鍛煉。」說到這裡，他忍不住長歎一口氣，說：「只可惜我們後面沒有好好珍惜和利用這個時間。」看得出來，他對後方主持工作的負責人流露出強烈的不滿。他意味深長地對站在自己面前的所有人說：「和平空氣，在我們今天的東北是最害人的。我們對全部美械裝備的敵人還是估計不足，三縱的防線被新六軍迅速突破，影響保衛戰的全局，這是最大的教訓。」
林彪親自起草電文，向中央提出棄守四平。5月19日，中央終於發出了給林彪的撤退令：「如果你覺得繼續死守四平已不可能時，你應主動地放棄四平，以一部在正面遲滯敵人，主力撤到兩翼休整，準備由陣地戰轉變為運動戰。」
其實，早在5月18日當晚，林彪即指揮部隊且戰且走，開始大踏步後撤。
5月19日，彭真與羅榮桓趕到前總，找到林彪，隨後在公主嶺附近的范家屯開會，討論下一步行動計劃和作戰方針。會上，出現了兩種尖銳對立的意見。一種主張堅守長春，不能再退了；另一種主張果斷棄守長春，大踏步後撤，撤至松花江以北。
「固守長春，無異於劃地為牢。」林彪從軍事上舉出了一大堆理由：「長春人口九十萬，防線百餘里，需要大量的守軍。如果敵人先圍城，同時集中飛機、大炮、坦克掩護步兵攻擊一點，我軍則既不可能守住城市，又要喪失運動戰的機會。所以今後主力仍以打運動戰為好。」
林彪的意見沒有得到大家熱烈響應。四平血戰中，聯軍雖然殲敵萬人，但自己損失也達八千餘人之多。撤退中，聯軍又遭到國民黨軍機械化部隊的追擊，繼續受損，其中有一個師一個旅暫時失去作戰能力。各級指揮員中瀰漫著一種拚命情緒。彭真也不主張撤退過猛。
關鍵時刻，羅榮桓挺身而出，旗幟鮮明地支持林彪的意見。他說：「長春、吉林都是大城市，不利於防守，防線又寬，現在部隊打得很疲勞，如果守長春，敵人從梅河口沿奉吉線插到吉林，就會把我們的後方打個稀爛。到那時，不但長春防不住，非退到西滿和蒙古大沙漠不可。我贊成撤出長春，一直退到松花江以北。」
這種大規模的撤兵與中央當時指示的寸土必爭的指導思想大相逕庭。林彪於5月20日和27日，連續兩次發電報告中央，陳述自己的主張及其理由。他在電報中，特地提到羅榮桓已回到前線參予指揮，也同意他的意見。
撤兵的決定下達後，部隊許多幹部，包括高級幹部想不通，有怨言。羅榮桓逐個找幹部交換意見，要求他們服從林總的決策。