由於前秦苻堅在淝水大敗，中國北部的勢力分佈圖因而大大改變。預測到天下即將大亂、志願成為邊境長官的張軌子孫，於涼州建立「前涼」，在北方算來是稀罕的漢族政權，卻於公元376年張天錫時代為前秦所滅。
五胡十六國中，前秦為最強大的政權，並與東晉平分半壁江山。然而淝水之役後的前秦，國力急速趨弱，並在各地激起極大的漣漪。
鮮卑族慕容垂儘管對一敗塗地的苻堅伸出溫暖的手，卻沒有跟隨他返回長安。
「北方邊境的百姓會因為聽到王師戰敗的消息而人心動搖，為了預防他們受到他人煽動，我就留在此地鎮撫吧！」
慕容垂以這個借口留了下來。他後來成為「後燕」的始祖。
在出兵淝水的這一年年頭，苻堅為了威壓西域諸國，曾經派出呂光為將軍的遠征軍。當時西域諸國中，位於今日迪化的車師國，以及相當於樓蘭的鄯善等國都在前秦的勢力範圍內。呂光由這個地方前進，降服焉耆國後，進而攻打龜茲國（現在的庫車）。
雖然龜茲激烈抵抗，呂光卻已佔領其國都。主君苻堅在淝水大敗的消息就在這個時候傳來。
——這麼一來，我只有自立一途了！
呂光企圖在龜茲自立，因為這是西域諸國中最富庶的地方。然而，有人對此表示反對。這個人是龜茲國國師——佛僧鳩摩羅什。鳩摩羅什的父親是印度貴族，母親是龜茲王之妹，他曾留學印度，是被譽為天才的名僧，早就有使佛教普及於中國並為此而亟欲前往東方的願望。他意圖與呂光共赴中國，因此不希望呂光在龜茲落地生根。
「留在龜茲則凶，回歸東方為吉。」鳩摩羅什道。
這個時代，佛僧占卜吉凶是常有之事。
「既然如此，我就回東方去吧！」
呂光於是折返，在今日甘肅省武威附近一個叫姑臧的地方建立了政權據點。後世史家稱呂光政權為「後涼」。
呂光的後涼算是一個規模相當宏大的政權。此外，更有許多支配領域只及於一個城市的弱小政權紛紛建立。回到長安的苻堅，再也無法維持前秦的局面了。
羌族（西藏族的一支）領袖姚萇是曾出仕於前秦、在苻堅面前連頭都不敢抬的人，此時卻擺出強硬的姿態，要求因戰敗而沮喪不已的苻堅交出傳國之璽。傳國之璽是證明天下之主身份的玉製印鑒，要求這個東西，等於是擺明「我才是天下之主」。
傳國之璽的由來已久，後漢末期戰亂之時，曾經一度失落。袁紹等人衝入宮中殺戮宦官時，可能是玉璽官太監把這個東西丟入井裡。接著進入洛陽的董卓，挾擁獻帝並強迫廷臣遷都至長安。董卓為不使天子和廷臣留戀，因而燒燬宮殿，也把井埋掉。直到後來，進入洛陽的孫堅於修復宮殿之際，無意中發現這隻玉璽。因此，傳國之璽可能因此傳到三國之吳，後來向西晉投降時才將它獻出。
傳國之璽何時落入苻堅手裡，已無資料可稽。大概是前趙劉聰軍隊攻陷洛陽、擄獲懷帝和羊皇后時沒收的吧？這個東西後來輾轉落入苻堅手裡。
「汝輩小羌膽敢要求傳國之璽，僭越之極！」
苻堅暴跳如雷的應道：
「傳國之璽，朕已還給東晉了！」
姚萇毫不容情地攻打舊主苻堅。貫徹對各種族一視同仁之理想主義者苻堅，遂在他過去優遇的異族手下滅亡了。
苻堅於新平佛寺與張夫人一起自殺，是公元385年七月的事。
姚萇遂建立後秦政權，成為長安之主。後秦的壽命僅僅三十三年而已。
至此為止，北方諸政權的壽命如下：
·前趙（劉淵創始）二十五年
·後趙（石勒創始）三十二年
·前燕（慕容皝創始）三十三年
·後燕（慕容垂創始）二十六年
·前秦（苻堅創始）四十三年
北方政權全都如此短命。前述漢人政權「前涼」得以維持七十多年，算是最長命的紀錄（「代」這個始終只在塞外的政權，自屬例外）。
與之相較，南方東晉政權雖然問題層出，卻延續百年以上壽命，誠可謂不容易。事實上，東晉也曾經遭遇過多次危機，「王敦之亂」就是一個事例。這個事件過去後，有一個名叫桓溫的人抬頭，並且由於北伐成功，一度奪回洛陽，他的權力因而變得極大。
後來，桓溫企圖以禪讓方式取得東晉江山。以禪讓方式奪取後漢天下的是魏，而晉代魏，採用的也是禪讓的形式。
桓溫十五歲時父親被殺，十八歲時得報殺父之仇，因此揚名。他是個偉丈夫，由於娶明帝之女南康長公主為妻，之後平步青雲，官至荊州刺史。荊州乃東晉西方屏障，為國防上的要地。他在這個地方統轄荊梁四州之軍事，並兼任安西將軍，借此充實了自己在軍事方面的實力。
當時，長江上游有氐族的「成漢」政權，領袖是一個名叫李勢的人。桓溫不畏蜀道之險，率領少數精銳軍隊前往討伐。
建康（南京）朝廷有不少人為這次遠征的成敗擔憂，唯有一個名叫劉惔的廷臣道：
「桓溫一定會獲勝，這一點可以由他賭博的方式看出。除非篤定會贏，否則他絕對不會下注。因此，遠征之事不需擔憂。需要擔憂的是，戰勝蜀之成漢後的他，會不會跋扈於朝廷內。」
穆帝永和三年（公元347年），桓溫攻滅蜀之成漢國，並且擄獲李勢。穆帝這時候才四歲，輔佐人是皇族長老明帝之弟司馬昱。穆帝是明帝之孫。
司馬昱由於擔心桓溫的勢力過大，為了制衡，於是起用殷浩。殷浩以揚州刺史身份統轄五州軍事，並且趁後趙石虎死後北方混亂之際，發動北伐之軍。
起先，殷浩的北伐甚為順利，這是因為他利用了羌族領袖姚襄的兵力。姚襄原本是後趙的大將，石虎死後歸降東晉。殷浩是借對北方情勢甚為瞭解的姚襄之力，才有某種程度的戰果。
然而殷浩不但對姚襄多所牽制，並企圖派出刺客暗殺他。想不到刺客反而把這件事情向姚襄透露。姚襄遂對東晉絕望，準備投靠前秦。原來，在苻堅慘敗於淝水之役而返回長安時，向苻堅要求交出傳國之璽的姚萇，正是姚襄的胞弟。
姚襄離去後，殷浩自然一籌莫展。北伐得以順利，完全是靠姚襄羌族軍團出的力。此後，殷浩再無任何實績可言，他的北伐原本就是在勉強狀態下成行的，連有書聖之稱的王羲之都在給他的信中寫道：
——此時與其向外，不如對內使人民獲得休息較為重要。
對殷浩的失敗最感高興的，自然非桓溫莫屬。殷浩是朝廷為了對抗桓溫而安插的一顆棋子。現在這顆棋子失去作用了。桓溫於是將殷浩的罪狀上奏，請求朝廷將他解任。殷浩失敗的事實明顯擺在眼前，朝廷只有將他解任，降為庶人，流放至信安。這是永和十年（公元354年）的事情。
自此以後，東晉江山內外大權全歸桓溫掌握。
殷浩失勢後，桓溫再興北伐之軍。不過他對東晉的實力是頗有自知之明的，即使光復北方，東晉也根本沒有統治的軍力和財力。
「若只是為了蹂躪，這倒辦得到……」
桓溫有了這個想法。如果是以此為目的，就應使用另外的戰略及戰術。他於是率領軍隊攻到長安附近，卻沒有一鼓作氣攻陷長安，而是突然轉變方向，突襲洛陽，暫時佔領了這個地方。
桓溫為何如此做呢？——目的在於博得人心。
自從四十多年前舊都洛陽被異族奪走以來，東晉人民最熱切的心願就是光復北方。完成這件事情的人一定會成為民族英雄。桓溫佔領洛陽後，凱旋回歸荊州。他已是國內名氣紅透半邊天的人物。不久，他進入首都建康，開始掌管國政。
東晉穆帝不到二十歲就去世，繼位的堂弟司馬丕（哀帝）也在三年後歿故。在這之後即位的是哀帝之弟司馬奕。
桓溫這時已成為大司馬。
——男兒若不能流芳百世，就應遺臭萬年。
據說，桓溫嘴邊常掛著這句話。
想要以禪讓的形態成為天下之主，必須先把自己的力量顯示出來。什麼是最強大的力量呢？——將天子廢立，能夠做到這一點的人，當然是名副其實的大實力者。
皇帝司馬奕身體虛弱。桓溫便製造謠言四處散播：帝有痿疾。
「痿疾」指的是性無能。這樣的皇帝當然不可能傳下皇統，但司馬奕卻有三個兒子，這該做何解釋？
——那些都是將心腹相龍、計好、朱靈寶等人以侍從身份僱用，使之入宮與田氏、孟氏等女官交媾而生的兒子。
桓溫先使這個謠言流傳出去後，才廢了皇帝司馬奕。之後，在他的擁立之下，登基的是多年輔佐穆帝的皇族最大長老司馬昱，是為簡文帝。這個人雖已年逾五十，而且多年擔任國政，但得到的卻是「做事慢吞吞，腦筋不靈光」的批評。桓溫就是看中這一點才立司馬昱為皇帝的——這樣的鈍才當然守不住東晉社稷。
簡文帝即位不久後就病倒。正因為個性溫吞，於即位翌年死去的他，對禪讓之事並沒有做出決定。心急的桓溫，意圖在簡文帝在世期間完成禪讓大事。
——國家之事委由大司馬（指桓溫），如同諸葛武侯、王丞相。
這是簡文帝在遺詔中之語。只說「委由國政」，而沒有說「讓予帝位」。況且語中所提的諸葛武侯（孔明）和王丞相（王導）都是以宰相身份擔任國政的人，兩個人都沒有就帝位。簡文帝之子司馬曜即位，是為孝武帝。
桓溫為之切齒扼腕。
「等著瞧吧！我一定會以自己的實力登上皇帝寶座的！」
不管怎樣，他是一手掌握東晉軍權的人。由於做事溫吞的老頭子欠缺決斷力，所以禪讓之事一時拖延，但這個願望一定會有實現的一天。
然而這個願望始終沒有實現。因為在簡文帝死後翌年，桓溫自己也跟著死了。——這是公元373年的事。
而且，桓家於桓溫死後，發生圍繞著繼位問題而起的爭執，直到後來桓溫之弟桓沖決定讓溫之末子玄繼位，並且由自己擔任輔佐事宜，總算才諸事擺平。雖然桓家勢力因此得以保存，但想登上皇帝寶座的大計劃卻倒退許多步了。
這段期間以極快速度伸展勢力的，是出身名門的謝安。淝水之役中擊敗前秦苻堅的，就是謝安的侄子謝玄。
孝武帝在位二十四年，這在東晉歷代皇帝中是最長的紀錄。儘管治世期間最長，但治績並不良好，由於他實行的是極端的近臣政治，宮中因而成為佞人之輩的天下。
後宮中最得寵的，是一個叫張貴人的女人，眾女官處處得仰賴這個張貴人的鼻息。一天，喝醉酒的孝武帝卻對張貴人說：
「你已經年華老去了，應該考慮退休，讓年輕人替位吧！」
實際上，孝武帝這句話是鬧著玩的。然而張貴人卻不做如是想。長久居於後宮的她，精神已經畸形化了。對她而言，權勢是比生命還重要的東西，權力一旦被奪，生命便無意義。
結果，張貴人命令婢女，用棉被把皇帝活活悶死。