西晉末年政治**，社會大亂，中國歷史*了分裂割據的南北朝時期。在南方，司馬睿於公元317年在建康（今江蘇南京）稱帝，建立東晉，公元4世紀下半期，前秦皇帝苻堅統一了北方黃河流域。符堅因此躊躇滿志，欲圖以「疾風之掃秋葉」之勢，一舉蕩平偏安江南的東晉，統一南北。
公元383年5月，苻堅徵集了80多萬人的軍隊開始進攻東晉。東晉王朝在強敵壓境，面臨生死存亡的危急關頭，以丞相謝安為首的主戰派決意奮起抵禦。當時，晉軍將領是謝石、謝玄和劉牢之，總數只有8萬人。
10月，前秦軍隊攻佔壽陽（今安徽壽縣），苻堅派被俘的東晉將軍朱序到晉軍中去勸降。朱序到了晉營，趁機告訴謝石，前秦軍隊到達前線的只有25萬軍士，建議先發起進攻。謝石、謝玄經過一番商議，就派北府兵的名將劉牢之率領精兵五千人，先對洛澗的秦軍發起突然襲擊。守在洛澗的秦軍，不是北府兵的對手，勉強抵擋一陣，潰不成軍。
洛澗大捷，大大鼓舞了晉軍的士氣。謝石、謝玄一面命令劉牢之繼續援救硤石，一面親自指揮大軍，乘勝前進，直到淝水（今淝河，在安徽壽縣南）東岸，把人馬駐紮在八公山邊，和駐紮壽陽的秦軍隔岸對峙。
一天，謝玄以隔水不方便打仗為理由，請秦軍後退。苻堅想乘晉軍渡河時用騎兵猛衝，消滅晉軍，於是命令秦軍後退。謝石、謝玄得到苻堅答應後撤的回音，迅速整好人馬，準備渡河進攻。約定渡河的時刻到來了，苻堅一聲令下，苻融就指揮秦軍後撤。他們本來想撤出一個陣地就回過頭來總攻。沒料到許多秦兵一半由於厭惡戰爭，一半由於害怕晉軍，一聽到後撤的命令，撒腿就跑，再也不想停下來了。
謝玄率領八千多騎兵，趁勢飛快渡過淝水，向秦軍猛攻。此時，朱序又乘機大喊：「秦軍敗了！秦軍敗了！」前秦軍隊頓時大亂。晉軍趁機渡過了淝水，秦兵拚命逃跑，苻堅被箭射傷，只帶了十多萬人逃回長安。
這是歷史上有名的以少勝多的淝水之戰。淝水之戰後，前秦瓦解，北方又重新分裂。