林彪視察地形後，更加胸有成竹。他將指揮所設在敖山廟內，命令三個連分作兩路，一路埋伏在敖山河的橋頭，一路埋伏在敖山圩，耒陽農軍也埋伏在道路兩旁的油茶山上。
16日下午五時許，敵先頭部隊陳壁虎一個團逶迤而來，陸續進入伏擊圈。陳壁虎見一路上風平浪靜，遠望敖山圩除了三五個農夫犁田點種外，沒有任何異常，遂下令部隊休息待命，自己帶著幾個衛兵向敖山廟走來。林彪見時機已到，朝天一槍，兩路設伏部隊從橋頭和山圩包抄過來，子彈像噴射的火龍朝敵群傾瀉，手榴彈雨點般砸向敵人。陳壁虎慌忙命令部隊向兩旁山上撤退，搶佔制高點。沒等爬上山坡，李天祐帥旗一揮，幾百門松樹炮迎面將敵人轟得人仰馬翻，八千餘名農軍刀槍並舉，從叢林中殺出。陳團調頭向山下跑，又與林彪率領的起義軍迎面相撞，雙方殺作一團。只用一個多小時，陳團一千餘人悉數被殲。
跟著陳團後面的李力聽見前面槍聲大作，以為陳團遇上了小股農軍，督促後續團往前趕，等他們來到戰場，禁不住傻了眼，漫山遍野躺著的都是陳團士兵的屍體。而戰場上，除了地上的死屍，竟然沒有一人。
正在李力詫異時，突然間，松樹炮像一陣驟風，噴射到面前，數不清的士兵從道路兩旁和叢林之中鑽出來，向他們包抄過來。李力以為遇上了朱德的主力部隊，急忙下令敵軍撤退。
耒陽是林彪的福地。他在這裡一戰出名，不僅令部下心悅誠服，而且還贏得了朱德的青睞。他像一枝鑽出水面的小荷，雖然甫露頭角，但給人以新鮮靈動的印象。如果沒有朱德的賞識，林彪的軍事才能不可能發現得那樣早。可惜，對於發現他的「伯樂」，林彪的感激之情只保持了很短的時間。
朱毛會師後，林彪把目光投向了毛澤東。
群山環抱的礱市，在初春的陽光沐浴下，顯得格外秀麗。清澈的龍江穿市而過，江畔屹立著一座古老而雄偉的建築——龍江書院。
1928年4月28日，在中國革命史上是一個神聖的日子。這天，朱德率領的南昌起義部隊與毛澤東領導的秋收起義部隊勝利會師了，兩雙巨手握在了一起。
對於這次具有偉大歷史意義的會師，作為毛澤東身邊聯絡員的何長工記得十分清楚。他回憶會師的情景時，曾這樣寫道：
毛澤東和朱德會見地點是寧岡礱市的龍江書院。朱德、陳毅先到龍江書院，當毛澤東來到書院時，朱德連忙偕同陳毅到門外迎接。我遠遠看見他，就報告毛澤東說，「站在最前面的那位就是朱德同志，左邊是陳毅同志。」毛澤東點點頭，微笑著向他們招手。
快走進龍江書院時，朱德搶先幾步，毛澤東也加快了腳步，早早地把手伸了出來。不一會，他們的兩隻有力的手掌就緊緊地握在一起了，使勁地搖著對方的手臂，是那樣熱烈，那麼深情。
當毛澤東、朱德的兩雙大手緊握在一起的時候，一位文學家用詩一般的語言，這樣描繪道：「地球一陣輕抖，歷史翻開了新的一頁。」
5月4日，兩支革命武裝舉行了會師慶祝大會。這一天，雲淡風輕，陽光明媚，遠近山坡上杜鵑花開得一片火紅，礱溪河兩岸的田野裡，黃燦燦的油菜花散發出陣陣幽香。一萬多人把會場擠得水洩不通。在熱烈的氣氛中，毛澤東、朱德發表了演講。陳毅宣佈兩支武裝合編為中國工農紅軍第四軍，朱德任軍長，毛澤東任黨代表。
此時的林彪，一位二十歲剛出頭的一營之長，資歷、聲望都不出眾，加之性格內向，拘謹靦腆，在會師過程中並沒有引起人們的注意。會師以後，原二十團一營營長李奇中調任他職，林彪調任為一營營長。
是星星，總有閃亮的時候。在井岡山的反「圍剿」鬥爭中，特別是在毛澤東親自指揮的三打永新和龍源口激戰中，林彪機智靈活、善用疑兵的戰術風格贏得了毛澤東的賞識。毛澤東以審視的目光注視著這位年僅二十一歲的營長。
1928年夏，湘贛邊界遭受了著名的「八月失敗」。但「八月失敗」卻給林彪帶來了機遇，使他得以從下級軍官的序列之中走上紅四軍中重要軍事領導人的行列。
這年7月下旬，中共湖南省委為了執行上級的「左」傾盲動政策，派杜修經以「特派員」身份來井岡山傳達省委指示，欲調部隊南下湘南作戰。杜修經等人在毛澤東沒有到會的情況下，利用二十九團中湘南籍戰士思鄉心切的情緒，擅自決定井岡山紅軍主力南下。在決定部隊行動的會上，紅四軍參謀長兼二十八團團長王爾琢和一營營長林彪等人都提出了反對意見，但未被會議接受。
部隊南進途中，毛澤東派人送來一封長信，請杜修經、朱德和陳毅重新考慮主力南下決策的利弊得失，建議將主力撤回邊界。杜修經不聽勸阻，堅持主力南下，攻打郴州。
7月24日，兵臨郴州城下。紅二十九團首攻未克，敗退下來，王爾琢又率領二十八團再次強攻。上午9時，林彪率領的第一營破關奪旗，率先登城。城內敵人遂倉皇撤至郴州城外北郊山下。
紅四軍全軍入城後，二十八團二營在營長袁崇全率領下擔負警戒任務，其餘部隊就地休整。不料，時值正午，北郊山之敵趁二營疏於防備，放鬆警戒之機，突然間發起猛烈的反攻。城內處於休整狀態中的紅軍主力猝不及防，來不及組織有效防衛，紛紛向城外退去。二十九團全團覆沒，二十八團也潰不成軍，倉促退守。見此情形，朱德不敢戀戰，他下令部隊立即向井岡山撤退。
俗語云：「福無雙至，禍不單行。」部隊在向邊界撤退途中，二營長袁崇全懼怕追究失敗之責，率部叛逃。在他的誘惑下，共有四個連的部隊被拖走。這時的形勢十分嚴峻。
革命的力量來之不易。朱德當機立斷，派林彪帶一營追蹤搜索，王爾琢自告奮勇，單槍匹馬追趕袁崇全，對他進行勸阻。
林彪率部疾追，很快便追趕上了二營，並包圍了二營駐紮的恩順圩。袁崇全命令反包圍。雙方一場血戰在即。正在此時，王爾琢也趕到了恩順圩，他高聲喊話，勸二營的士兵們不要受蒙蔽，做出親者痛仇者快的事情，紅軍不打紅軍。被脅迫和蒙騙反水的二營士兵聽到軍參謀長的喊話，紛紛放下了武器。袁崇全見事已敗露，惱羞成怒，舉槍對準王爾琢就是一梭子，然後遁逃投敵。王爾琢當場犧牲。
王爾琢是湖南省石門縣人，黃埔軍校第一期畢業生。大革命失敗後，他發誓不剷除反動派絕不理髮，因而蓄下了一頭烏黑發亮的長髮和絡腮鬍子，軍中人稱「美髯公」。從南昌起義到湘南暴動，再到會師井岡山，王爾琢親自參予了對革命軍隊的創建和領導，深得廣大紅軍官兵的擁戴。
王爾琢犧牲的消息傳開，紅四軍中一片痛哭之聲。親自率部前來接應主力的毛澤東聞訊，深感痛措。他連夜趕寫了一副輓聯，寄托自己的哀思：
一哭同胞，再哭同胞，同胞今已矣，留卻工作誰承受?
生為階級，死為階級，階級念如何，得到平等便甘心。
「留卻工作誰承受?」毛澤東、朱德思慮再三，決定由林彪接任王爾琢的職務，擔任紅二十八團團長的重任。
二十八團，是葉挺獨立團的老底子，並補充了南昌起義、湘南起義的精幹力量。全團一千九百多人，戰鬥力最強，是紅四軍中有名的「鋼鐵團」，一個團可以與國民黨軍一個師抗衡。委派年輕的林彪任此重職，表明了毛澤東對林彪的器重和希望。
嚴格地說，從林彪擔任紅二十八團團長始，他才開始了和毛澤東形影不離、「緊跟」毛澤東的歷史。王爾琢的倒下，換來了林彪的升起；王爾琢不死，林彪的歷史或許是另外的寫法。
井岡山時期，工農紅軍除了消滅敵人，保存自己之外，面臨的另一個艱巨任務就是如何把這支由農民組成的游擊隊鍛煉成為黨直接指揮下的人民軍隊，毛澤東經過深思熟慮，決定分兩步走，首先用鐵的紀律進行約束，然後從思想上徹底肅清各種非無產階級思想。在這兩步走的重大步驟中，林彪都發揮了引人注目的作用。毛澤東八年後對一位外國記者講述道：
紅軍在物質上和政治上的情況有了改進的同時，還存在著許多不良傾向。例如游擊主義就是一種弱點，反映在缺乏紀律、極端民主化和組織渙散上面；另一種需要克服的傾向，是流寇思想，不願意安心做建立政權的艱苦工作，喜歡流動、變換環境，喜歡新奇的經歷和事件。還有軍閥主義殘餘，個別指揮員虐待甚至毆打戰士，憑個人好惡，對人有所歧視或者偏愛。
經過多方面的努力，逐漸地，紅軍的群眾工作改進了，紀律加強了，新的組織方法也摸索出來了。……紅軍給戰士規定了三條簡明的紀律：行動聽指揮；不拿貧農一點東西；打土豪要歸公。後來在上述三條之外，又添了八項，這八項是：
一、上門板；
二、捆鋪草；
三、對老百姓要和氣，隨時幫助他們；
四、借東西要還；
五、損壞東西要賠；
六、和農民買賣要公平；
七、買東西要付錢；
八、要講衛生，蓋廁所離住家要遠。
毛澤東講到這裡，特地停頓下來，加以說明，「最後兩條是林彪加的。這八項注意執行得越來越成功，到今天還是紅軍戰士的紀律」。
毛澤東用人選將的重要原則是：用人不疑，疑人不用，用人放手，縱橫自由。他欣賞林彪，放手使用林彪，林彪也能充分施展手腳，發揮聰明才智，創造出一流成績。
1929年春，紅四軍重新整編，下分三個縱隊，林彪擔任主力縱隊——第一縱隊司令，與伍中豪、黃公略並稱為毛澤東手下的「三驍將」，深受毛澤東器重。
這年，林彪才二十二歲。
1929年春，在紅四軍高級幹部中發生了一場波及全軍、異常激烈的爭論。這場爭論由於主要在毛澤東與朱德之間展開，披上了一層神秘的色彩。在過去相當長的一段時間上，人們都諱莫如深，黨史上也語焉不詳。