吳佩孚雖然東山再起，可是他已沒有當年洛陽虎視的局面，他的討賊軍的賊字，這時是指的奉軍，他在查家墩司令部出兵討奉是分兩路，一路以靳雲鶚為主將，由隴海路東進。一路以寇英傑為主將，由平漢路北進，先削除奉張的兩翼，一翼是山東督辦張宗昌，一翼是直隸督辦李景林。這時，郭松齡尚未回師關外。
吳的兩路出兵，都要向河南假道，本來河南是吳的大本營，吳的舊部如陳久釗、王維蔚、王維城等，都還擁有兵權，吳派人去和河南督軍岳維峻商量，要把吳的舊部掃數調撥出來，由隴海路人魯，以靳雲鶚為豫東討賊軍總司令，一面以寇英傑率部由平漢路過豫入直，希望豫岳能予諒解和同意。
在岳維峻來說，吳的舊部分散在河南是岳的心腹之患，因此如能將其悉數調走，自然是求之不得，何況吳調軍的目的是為了討奉，此時國民軍也是以奉軍為假想敵，吳加入討奉，岳怎會反對。可是吳要寇英傑穿過河南心臟北上，用意莫測。馮玉祥密電岳，要他武裝保境，所以岳維峻遂以重兵防守鄂豫邊境，不許吳軍出武勝關一步，吳天天派員疏通豫岳，岳則日日支吾其辭；另一方面豫軍協助靳雲鶚軍由歸德入魯，佔領濟寧、曹州等地。
張宗昌在山東公然唱出擁吳論，李景林也亦步亦趨。張宗昌是山東人，與吳同鄉，他雖然曾遭吳的冷落，可是他內心卻佩服吳。二次直奉之役，他打著山東人不打山東人的口號，收編了大批吳軍殘部。當吳佩孚在漢口再起時，正是奉系和國民軍系發生暗潮的時候。張宗昌認為吳對馮玉祥是恨之入骨，如果拉攏吳佩孚和奉系重歸於好，在此時此刻是有可能的。因此他密派代表樊潛和、童好古到漢口去見吳的智囊張其-，進行「吳奉合作計劃」。吳不是個翻雲覆雨的人物，他剛宣佈討奉，自然轉不過臉來聯奉。
然而政治這玩意就是千變萬化，吳在無意中獲得國民軍密約湘、黔兩省夾擊武漢的情報，這個情報不一定是真的，也許是奉方離間之計，可是吳大受刺激，忿然作色說：「馮煥章簡直不是人，我還怎能和他們做朋友？」因此聯奉討馮的建議便被吳所考慮。
就吳當時的處境，是在四面受敵的情勢下，如果能增加友人，減少敵人，自然是最好的辦法。張宗昌知道吳已動搖，就天天打電報給吳，尊呼「大帥」，並請前山東省長熊炳琦（直系）到漢口向吳表示：張宗昌是山東人，吳大帥也是山東人，山東人不打山東人，張宗昌願服從吳大帥，歡迎吳大帥回山東。
吳佩孚自二次奉直戰爭戰敗後，到處都遇到打死老虎的部下，現在張宗昌雄踞山東，卻願把山東奉獻，部下雖親不及敵人親，吳佩孚大為感動不已。
奉張在楊宇霆被孫傳芳所逐前，就暗中進行聯吳，曾派員到岳州向吳祝壽，曾向段祺瑞要求釋放曹錕，迨吳在查家墩自封聯帥後，奉張亦派蘇錫麟到漢口表示願和吳取得諒解，提出三點：（一）釋曹，（二）奉軍出關，（三）擁王士珍為總統。奉張不是對吳有何特別好感，不過面對吳、孫、馮等聯合圍攻奉軍的形勢，竭力想衝破這個難關。至於吳佩孚呢？他雖不喜歡奉張，可是更憎恨馮玉祥，和奉張是舊恨，和馮卻是新仇，舊恨還可擱直，新仇則非算不可。
吳本有一支奇兵，是派宋大明為吉林討賊第一軍總司令，劉希聖為副司令。他們在雙城子設了司令部，雙城子距綏芬河僅一小站，準備做為吳的內應。不料14年11月22日郭松齡倒戈，奉張情勢危急，吳在查家墩司令部得到這個消息，為之震動，這和吳當年情況極為相近，吳情不自禁-須微笑，信口成吟：「而今始知循環理，斜倚欄干亂點頭。」他對張其-說：「我不乘人之危。」於是吳下令把宋大明、劉希聖的內應撤消，又把進攻山東的靳雲鶚兵團調回。
吳佩孚即然表示聯奉，而郭松齡又兵敗被殺，奉張的困難局勢轉瞬間竟能化險為夷，這真是張作霖始料所不及的。在14年秋冬之際，奉張最為艱苦，他三番兩次要下野，又要自殺，主要原因自然是郭松齡聯合馮玉祥向他倒戈，而馮玉祥又和孫傳芳以及吳佩孚組織了討奉的聯合陣線，如果這個聯合陣線真的很堅強，則奉張就會和曹錕、吳佩孚去年的命運一樣。可是討奉的聯合陣線並不堅強，只是因利害而暫時結合，加上郭松齡的回師關外未能把握時機以收迅雷不及掩耳之效，馮玉祥的國民軍又和李景林苦戰於天津，李景林聯合張宗昌組織了直魯聯軍，而張宗昌又搭上了吳佩孚的線，這一來反奉聯合陣營就四分五裂了。郭松齡失敗，奉張站穩了腳步，張宗昌、吳佩孚結合，聯合討奉變成了聯合討馮，馮玉祥忽然變得四面楚歌。
當馮玉祥的國民軍攻下天津時，北京和直隸完全落在馮繫手中，段祺瑞的策士曾毓雋被扣，段的靈魂徐樹錚被殺，一時馮系氣焰煊天，可是沒有幾天，局勢突然大變，吳佩孚於12月31日通電結束討奉戰爭，張作霖、吳佩孚、張宗昌結成反馮的聯合陣線，馮軍在京畿及直豫兩省的地盤受到奉軍和直軍的大包圍，而孫傳芳亦響應吳佩孚結束對奉戰爭，馮玉祥在這種險惡的環境下，只好通電下野。
15年1月1日馮玉祥通電下野，電云：
「（銜略）吾國苦於戰禍，十四年於茲矣。殺人盈野，所殺者盡為同胞。爭端百出，所爭者莫非國土。老弱轉於溝壑，少壯鋌而走險。鞭弭周施，相習成風。金錢萬能，群趨若鶩。禮讓之大節盡失，國家之信念無存。軍閥禍國，人民切齒，痛定思痛，於斯極矣。玉祥自去歲倡導和平以來，本期從此息止內爭，專意建設。是以遠投邊塞，拓土移民，舉凡開渠植樹修路造林諸端，無不提倡。恤貧、養老、兵士屯墾諸策，無不推行。以過事實，諒所共見。不期跋扈者，不戢其心，攀附者，助長其勢，屯軍淮上，飲馬江表，勢欲席捲海內，雄霸中原，橫暴既張，義忿斯動，以是群起對抗，雲集景從。孫馨督首義於浙，長驅北指。蕭珩督聲援於鄂，志切澄清。皖贛鄰封成破竹之勢，徐淮袍澤挫強敵之鋒，未至兼旬，潰退千里。人心向背，於斯可知。猶復野心未死，強逆趨勢。驅師入關，轉而圖北。用兵弗戢，陷於自焚。郭軍長（松齡）痛於東省人民水熱之困，深懷故國荊棘之悲，爰整師旅，為民請命。返旆之初，芳岑（李景林）原約援助。迨至榆關戰捷，孤軍深入，乃芳岑二三其德，對茂辰（郭松齡）則頓違前約，對玉祥則通電誣蔑。玉祥為促進和平計，不得已而用兵。現在芳岑潰逃，京津肅清，直省負責有人，中原不日底定。不圖郭軍長將近瀋陽，一朝顛覆。道路相傳，聞已殉死鄉國，未遂初衷，終成尸諫，果系事實，殊堪悼惜。雨亭（張作霖）經此痛創，漸有覺悔，善戰者當服上刑。舟中人盡成敵國，古訓昭垂，可資警惕！玉祥鑒於武人專斷，每恃戰勝餘威，把持政權。追溯往事，輒為痛心。此次僥倖克捷，勝亦不武。又何敢貪天之功，自貽伊戚。值茲千鈞一髮之機，徹底澄清之會，仍宜本和平之初衷，謀國家之改造。但願戰事從此結束，人民得資休養，玉祥個人應即日下野，以卸仔肩。如是，則造疑惑眾者，可以息止。而挑撥是非者，失所憑依。至於國家大計，執政碩德耆老，萬流仰鏡。子玉（吳佩孚）學深養粹，飽受挫折，當能不念前嫌，共謀國是，孫馨督（傳芳）、蕭珩督（耀南）、方耀督（本仁）、閻百督（錫山）、岳西督（維峻）、孫禹督（岳）共起義師，克奏奇勳，均為不世之功。從此延請國內賢豪，公開討論。建設大法，納諸軌道。凡關於國計民生，自宜各紓偉抱，共濟艱危。玉祥既無學識，又乏經驗。以之治國，無益蒼生。以之治軍，定累袍澤。與其遺誤將來，見譏國人，莫若早日引退，庶免咎戾。除另呈辭職外，當即時解任，還我初服。所有國民軍名義，早經通電取消。此後鹹屬國軍，不再沿用國民軍名義。自電達以後，凡以政事而見教之賓客，一律敬謝。凡因職位而惠賜之文電，恕不作答，以示決心。玉祥解職而後，擬即出遊，潛心學問，苟有一得之愚，竊願貢之國人。謹布腹心，敬祈鑒察。馮玉祥。東。印。」
馮玉祥辭職下野後，以張之江代理國民軍總司令。
馮的辭職通電是希望和吳佩孚捐棄前嫌，因此對吳有學深養粹的評語，且希望吳在飽經世變後，能夠不算舊帳。至於馮對奉張則一片聲討的口氣，好像此仇不共戴天。這就是北洋時代的特徵，今日為友，明日為敵，昨日之敵，今日之友。然而吳對馮是咬牙切齒，真正不共戴天，當吳再起時，不過想借討奉為手段，其真正目的是討馮，所以馮想和吳妥協，吳是不會接受的，何況吳、奉合作之局已成，吳勢不能棄新歡而修舊「好」。
吳佩孚在馮玉祥下野後，突然又成為各方生拉活扯的重要人物。據說段祺瑞欲任吳為「七省治軍使」。直魯聯軍通電稱吳為「我帥」。吳仍主張恢復法統，孫傳芳亦願移樽候教。而張之江則有世電：「願追隨我帥之後，勉效馳騁。」豫岳（維峻）直孫（岳）也為之效應。
這是吳佩孚失敗後再起的黃金時代，可惜吳不能把握這個黃金時代，運用政治手腕，以恢復當年四照堂未竟的全功。他個性倔強，有所不為，不肯在奉張形勢低潮的時候，乘人於危，所以他決定聯奉後就以討馮為目的，吳宣稱對各方均願化敵為友，只與馮一人為敵。
這時廣州革命勢力正如日東昇，廣州國民政府為促使北洋軍人一致覺悟，曾發表歌電，主張對內召開國民代表大會解決國是，對外取消不平等條約。這些意見本來和吳佩孚的政見是相同的，平心而論，吳在北洋諸將中算得上是一個富於革命性的人物，他自衡陽撤軍後，即以團結對外為鵠的，不過他的團結對外是以他自己為中心，因此廣州國民政府的呼籲，他並不重視，他不能參加革命陣營，對他是一個損失，對當時局勢也是一個損失。其實吳這時對護憲問題已不堅持，對曹錕復職，他亦不贊成，對南方無用兵之意，對北方腐敗勢力則久所痛心，所以他是北洋軍人最有資格可以參加革命陣營的，可惜他個人英雄主義色彩太重，同時又不願投機，因此不僅他參加革命陣營成為泡影，同時卻迫使馮玉祥和唐生智兩人參加了革命陣營。
吳這個人，不顧利害，不計成敗，想到哪裡就做到哪裡，結果這一次的再起，又只是曇花一現。
這是北洋混亂的時期，也可說是垂亡時期，有力量的如奉系正在自相殘殺，使其元氣大傷。在此以前北京政府的後台軍閥就是大老闆，如今則誰也不夠資格做大老闆了。
首先是直系，曹錕和吳佩孚在直奉二次戰爭以前算是北京的大老闆，曹錕賄選後，名譽掃地，直奉二次大戰，直系一敗塗地，吳佩孚窮無所歸。於是奉張和國民軍的馮玉祥成為北京政府的後台。奉張正在得意之時，楊宇霆、姜登選在長江被逐，郭松齡又聯結馮玉祥倒戈，張作霖幾乎變成喪家之犬，迨奉張轉危為安，吳佩孚武漢再起，馮玉祥又變成四面楚歌。至於段祺瑞則無兵無權，空頭執政而已。
當吳佩孚在武漢重振聲威之際，各方人士奔走華中，舉國注意力亦集中於吳，可是吳的聲勢就在武漢也經不起考驗。
鄂督蕭耀南死後，吳佩孚即派陳嘉謨繼任，派曹瑛和熊炳琦等治喪。陳嘉謨於2月15日宣告就職。17日曹瑛又傳死訊，吳的要角一一去世，湖北人士對吳委杜錫-為省長大為不滿，15日鄂省議會召開緊急會議，決議四點通電全國：（一）由省議會將蕭病逝電告各方。（二）請第二軍司令陳嘉謨以武漢警備總司令名義暫維治安。（三）省長鬚由省議會選舉，杜省長在未當選前，由政務廳長代理。（四）2月15日以後，鄂省公文非用政務廳長代理省長之名義不生效力。
這是湖北人藐視吳大帥的一項行動，尤使吳難堪的，是這種方式就是湖南省治的翻版，而吳是最反對省治的軍人。
不只是省議會，鄂省公團也紛紛開會反對吳的任命省長，將有聯席會議進行的醞釀。
北京在討吳，湖北又以省治來排吳，可見吳東山再起後，一切並不順利。然而北京也好，湖北也好，都只是空氣而已，因為北京政府沒有力量，討不討吳，絲毫不影響吳，北京所發表的鄂督盧金山和省長劉佐龍都是吳的部下，事實上盧和劉並不接受北京的新命。盧金山且於2月24日由宜昌乘輪到漢口，立即登岸拜訪陳嘉謨，並至蕭耀南墓弔唁，然後赴查家墩謁吳佩孚。26日盧致電北京，請辭鄂省軍務督辦職務，不啻變相打了北京政府一個嘴巴。湖北各法團醞釀的民選省長運動，亦只是曇花一現。
另一面，岳維峻於22日電北京，請明令派方本仁協攻吳佩孚，孔庚亦電北京，請政府責成方本仁收拾鄂局，2月28日段乃下令派方本仁率軍回鄂，會同軍民兩長查辦吳佩孚。方本仁奉令後即任蔣紹賓為援鄂總司令，鄧如琢為總指揮。
段祺瑞的討吳令是在馮系壓迫下發出，當計吳電發出後，盛傳馮玉祥將再度掛帥，擔任討吳軍統帥。馮下野時本宣稱要出國，可是他只是離開張家口，到平地泉去看風色，國民軍將領亦不希望馮出國。
討吳令下達後，馮系大將張之江、李鳴鐘、鹿鍾麟、宋哲元、劉郁芬、劉驥等聯名致電京內外名流，略謂：
「上年津沽之役，馮將軍功成不居，潔身高蹈。詎知人心丕變，時勢日窳。國家徒去元良，大局仍難挽救。信陽被兵，津南告警，豫東有客軍之侵入，復有鄰省之聲援。戰釁一開，烽煙四起。馮將軍憐此孑遺，潛焉出涕，即欲整裝去國，俾免目擊心傷，征車旦夕待發。竊之江等以今日邦家多難，元氣凋殘，此後戡亂定國，厥惟元戎是賴，比經聯名電挽，責以大義，始允暫緩去國，僅以私人資格從旁襄助，無如勸駕之心徒切，而在山之志仍堅。陳說百端，均不為動。諸公望重斗山，譽隆中外，關懷大局，應具同情。尚希共念時艱，一致贊助。」
馮系將領希望借這通電能博得海內外名流共同響應，使馮在大家殷切的敦促下出山，可是各方並沒有熱烈的反應。所以馮只好仍在平地泉，坐以待變。
段祺瑞於3月4日下令任馮為直豫陝宣撫使，馮仍未作出山的打算，並且由平地泉經庫倫出國，馮系的人希望因馮的出國而和緩了直吳、奉張雙方的壓力。馮出國後張之江宣佈繼馮統率國民一軍，做為國民軍名義上的領袖，不過只是名義領袖而已。張為人忠厚有餘，魄力不足，且其資望和國民軍其他將領如李鳴鐘、宋哲元、劉郁芬、蔣鴻遇等都差不多，所以名義上雖然好像是張之江代理馮玉祥，實際上則是集體領導。同時張之江對鹿鍾麟和李鳴鐘並不能指揮。
據說張之江是主張馮系軍隊撤出北京專力西北，以避免四面楚歌，腹背受敵。在當時馮系的形勢，這是很合理的，因為馮的老巢是在西北，如果國民軍全部主力撤到察哈爾和綏遠去，而把北京交給段祺瑞，就躲開了眾矢之的，讓其他各路諸侯來搶北京，促成奉張、直吳等短兵相接，相互牽制，這樣就減少了國民軍所受的正面和側面的壓力，然而鹿鍾麟在北京有權有勢，當然不想離開北京，不離開北京，國民軍就等於置身於鼎火沸湯之中，不僅是四面受敵，而且是兵力分散。