唐高祖即位以後，封李建成為太子，李世民為秦王，李元吉為齊王。三個人當中，數李世民功勞最大。太原起兵，原是他的主意；在以後幾次戰鬥中，他立的戰功也最多。李建成的戰功不如李世民，只是因為他是高祖的大兒子，才取得太子的地位。
李世民不但有勇有謀，而且手下有一批人才。在秦王府中，文的有房玄齡、杜如晦等，號稱十八學士；武的有尉遲敬德、秦叔寶、程咬金等著名勇將。太子建成自己知道威信比不上李世民，心裡妒忌，就和弟弟齊王元吉聯合，一起排擠李世民。
建成、元吉知道唐高祖寵愛一些妃子，就經常在這些寵妃面前拍馬送禮，討她們的歡喜。李世民就沒有這樣做。李世民平定東都之後，有的妃子私下向李世民索取隋宮裡的珍寶，還為她們的親戚謀官做，都被李世民拒絕了。於是，寵妃們常常在高祖面前說太子的好話，講秦王的短處。唐高祖聽信寵妃的話，跟李世民漸漸疏遠起來。
李世民多次立功，建成和元吉更加忌恨，千方百計想除掉李世民。
有一次，建成請李世民到東宮去喝酒。世民喝了幾盅，忽然感到肚子痛。別人把他扶回家裡，他一陣疼痛，竟嘔出血來。李世民心裡明白，一定是建成在酒裡下了毒，趕快請醫服藥，總算慢慢好了。
建成、元吉想害李世民，但是又怕世民手下勇將多，真的動起手來，佔不到便宜，就想先把這些勇將收買過來。
建成私下派人送了一封信給秦王手下的勇將尉遲敬德，表示要跟尉遲敬德交個朋友，還給尉遲敬德送去一車金銀。
尉遲敬德跟建成的使者說：「我是秦王的部下。如果私下跟太子來往，對秦王三心二意，我就成了個貪利忘義的小人。這樣的人對太子又有什麼用呢。」說著，他把一車金銀原封不動地退了。
建成受到尉遲敬德的拒絕，氣得要命。當天夜裡，元吉派了個刺客到尉遲敬德家去行刺。尉遲敬德早就料到建成他們不會放過他。一到晚上，故意把大門打開。刺客溜進院子，隔著窗戶偷看，只見尉遲敬德斜靠在床上，身邊放著長矛。刺客本來知道他的名氣，怕他早有防備，沒敢動手，偷偷地溜回去了。
建成、元吉一計不成，又生一計。那時候，突厥進犯中原，建成向唐高祖建議，讓元吉代替李世民帶兵北征。唐高祖任命元吉做主帥後，元吉又請求把尉遲敬德、秦叔寶、程咬金三員大將和秦王府的精兵都劃歸元吉指揮。他們打算把這些將士調開以後，就可以放手殺害世民。
有人把這個秘密計劃報告了李世民。世民感到形勢緊急，連忙找他舅子長孫無忌和尉遲敬德商量。兩人都勸李世民先發制人。李世民說：「兄弟互相殘殺，總不是件體面的事。還是等他們動了手，我們再來對付他們。」
尉遲敬德、長孫無忌都著急起來，說如果世民再不動手，他們也不願留在秦王府白白等死。李世民看他的部下十分堅決，就下了決心。
當天夜裡，李世民進宮向唐高祖告了一狀，訴說太子跟元吉怎麼謀害他。唐高祖答應等明天一早，叫兄弟三人一起進宮，由他親自查問。
第二天早上，李世民叫長孫無忌和尉遲敬德帶了一支精兵，埋伏在皇宮北面的玄武門，只等建成、元吉進宮。
沒多久，建成、元吉騎著馬朝玄武門來了，他們到了玄武門邊，覺得周圍的氣氛有點反常，心裡犯了疑。兩人撥轉馬頭，準備回去。
李世民從玄武門裡騎著馬趕了出來，高喊說：「殿下，別走！」
元吉轉過身來，拿起身邊的弓箭，就想射殺世民，但是心裡一慌張，連弓弦都拉不開來。李世民眼明手快，射出一支箭，把建成先射死了；緊接著，尉遲敬德帶了七十名騎兵一起衝了出來，尉遲敬德一箭，把元吉也射下馬來。
東宮和齊王府的將士聽到玄武門出了事，全部出動，猛攻秦王府的兵士。李世民一面指揮將士抵抗，一面派尉遲敬德進宮。
唐高祖正在皇宮裡等著三人去朝見，尉遲敬德手拿長矛氣吁吁地衝進宮來，說：「太子和齊王發動叛亂，秦王已經把他們殺了。秦王怕驚動陛下，特地派我來保駕。」
高祖這才知道外面出了事，嚇得不知道該怎麼辦才好。
宰相蕭-等說：「建成、元吉本來沒有什麼功勞，兩人妒忌秦王，施用奸計。現在秦王既然已經把他們消滅，這是好事。陛下把國事交給秦王，就沒事了。」
到了這步田地，唐高祖要反對也沒用了，只好聽左右大臣的話，宣佈建成、元吉罪狀，命令各府將士一律歸秦王指揮。過了兩個月，唐高祖讓位給秦王，自己做太上皇。李世民即位，就是唐太宗。