李世民感到形勢緊急，連忙找親信商量。參與密謀的有李世民、長孫無忌、房玄齡、杜如晦、尉遲敬德、侯君集等人。
626年6月3日，親信們爭論了一天一夜，得出的結論是：「事急矣！若不行權道，社稷必危。周公聖人，豈無情於骨肉？為存社稷，大義滅親。今大王臨機不斷，坐受屠戮，於義何成？若不見聽，無忌等將竄身草澤，不得居王左右。」意思是：現在形勢已經很緊急了。如果不行「權道」，我們陣營就很危險了。周公這樣的聖人，都不顧骨肉親情。李世民為了國家社稷著想，應該大義滅親。如果當斷不斷，就是坐等他人的屠刀落下。那時候，我們這些秦王陣營的人就會四處逃匿，家破人亡了。
李世民下定決心，與親信謀劃了一個大計劃。
當天夜裡，李世民就進宮向父親李淵告狀。他哭哭啼啼地訴說太子和弟弟元吉是如何處心積慮地謀害他。為了增加自己的優勢，李世民還「檢舉」哥哥和弟弟兩個人竟然在後宮姦淫后妃、宮女。李淵聽到這樣令人震驚的消息後，與李世民設想的一樣，毫不為所動。最後，李淵吩咐宮人，明天一早將太子、齊王和幾位重臣都叫到臨湖殿來；又讓李世民第二天再來，大家一起討論一下如何處置所謂的「謀害秦王」和「姦淫後宮」案件。宮人按照吩咐去通知太子和李元吉去了。李世民要的就是這樣的結果。
李建成、李元吉自然從宮中眼線知道了李世民「告黑狀」的情況。也許，兩人對李世民此舉嗤之以鼻。李世民並沒有他們倆意圖謀殺秦王和在後宮亂搞男女關係的絲毫證據，肯定不能對李建成、李元吉造成實質性的傷害。在兩人看來，這無非是李世民近幾天來對權力被奪，心有不甘的情緒反應而已。兩人一商量，決定第二天一早進皇宮，向李淵說清楚情況，順便奚落李世民一頓。
六月初四，庚申。這天輪到禁衛軍將領常何值勤宮城北門的玄武門。
李建成、李元吉一同入朝必須經過玄武門。按例，皇子也不能帶士兵進宮。兩人這天早晨簡單帶著幾個隨從就向臨湖殿趕去。經過宮門的時候，常何還向太子和齊王行禮。李建成和李元吉覺得門口這個軍官似乎很熟悉，沒來得及細想，就進了宮門。
兄弟倆快走到臨湖殿時，經歷過戰陣的李元吉憑直覺覺得周邊情況不對頭，急忙拉著李建成一起往回跑。
宮中地域廣闊，建築眾多，加上綠林花卉叢生，埋伏人是很容易的。當日凌晨，李世民就帶領親信將領和所有秦王府的親兵埋伏在玄武門與臨湖殿之間。李世民終於決定徹底消滅與自己爭權的哥哥和弟弟了！誰想，李建成和李元吉還沒完全進入埋伏圈，就往回跑了。
李世民一聲吶喊，伏兵喊殺而出，撲向太子和齊王。
李建成和李元吉見狀，帶著幾名隨從拚命朝玄武門跑去。玄武門離太子東宮很近，那裡有數以千計的太子衛隊。李建成只要逃出玄武門，就能反敗為勝。玄武門越來越近了，誰想常何指揮禁軍士兵迅速地將宮門合攏。
「彭」的一聲，玄武門關上了。李建成痛苦地閉上眼睛，彷彿自己的生命之門也關上了。
李元吉一發狠，勒住馬，轉過身去，迎著背後的追兵衝過去。李建成本想勸住他，見事已至此，也只能帶領幾個隨從迎上前去，進行困獸之鬥。李元吉的箭術不錯，在生死關頭，朝著李世民連射三箭。誰知情急之下，年輕的李元吉發揮失常，竟然無一射中。李世民勒馬回射，箭沒有射向李元吉，而是朝著李建成飛去。李建成頭部中箭，當場墜馬身亡。尉遲敬德指揮親兵齊射，李建成一行人死亡殆盡，李元吉也受傷墜馬。
李世民目睹親哥哥被自己的箭奪走生命，那一瞬間的感覺只有他知道。我們可以推測，李世民當時愣了。畢竟血濃於水，那一瞬間的震驚讓他不知道怎麼做好了。結果，李世民的坐騎失去了控制，跑到了路旁的灌木林中。馬腿被樹枝所掛，撲倒在地，將李世民掀下馬來。
受傷的李元吉就躺在離李世民不遠的地方，這時他忍著痛向李世民撲過去。
李世民墜馬的時候受到撞擊，基本失去了還手能力。李元吉輕易就將他按在地上，用弓弦勒住他的脖子，要置他於死地。千鈞一髮之際，尉遲敬德大喝一聲，快馬衝過來。李元吉見情況不妙，慌忙放下李世民，朝著武德殿方向跑去。尉遲敬德快手射出一箭，李元吉撲倒在地，死了。肉搏戰就此結束，李世民全勝。
在這場肉搏戰中，宮中禁軍基本採取了中立態度，沒有參與戰鬥。但是禁不住他們傳播消息，政變的消息很快就被東宮的部將得知。李建成、李元吉兩府的援軍上千人，在馮立、謝叔芳的率領下，湧出東宮玄德門，沿宮牆奔向玄武門救援。
重要時刻，禁軍被捲入了政變，並為李世民所利用。秦王陣營的長孫無忌、高士廉兩人並沒有參加玄武門內的肉搏。高士廉利用職權，釋放了長安的囚犯；長孫無忌利用職權，給這些囚犯提供武裝，迅速建起了一支神不知鬼不覺的「囚徒軍」。長孫兩人一直在玄武門外等待狙擊東宮援軍的機會，「囚徒軍」見太子衛隊出動，衝上前去就是一片混戰。
在宮殿中出現一群武裝囚犯，禁軍不能不過問了。常何憑借自己的禁軍將領身份，鼓動一直在旁觀的禁軍去「消滅」這些囚犯。負責皇宮北邊的禁軍指揮敬君弘、呂世衡兩位將軍也覺得不成體統，倉促中率領北門禁軍去捉拿這些囚犯。請大家設想一下當時的情景，三方一旦混戰起來，誰還分得清楚敵我。結果，玄武門外發生的主要是禁軍與太子衛隊之間的激戰。
更為蹊蹺的是，禁軍將領敬君弘、呂世衡兩人在混戰中被斬。禁軍群龍無首，當天的值勤軍官常何就被大家推舉為臨時負責人。常何自然是指揮禁軍殺向太子一邊的人，禁軍的向背成了玄武門混戰成敗的關鍵。
李建成畢竟經營了多年，他的部屬也是人才濟濟，東宮的人越聚越多。對他們來說，參加玄武門激戰不但是為了李建成，為了表明政治立場，更是為了自己的前途，李建成的失敗就是他們的失敗，皮之不存，毛將焉附。常何率領的宮廷禁軍漸漸招架不住了，馮立、謝叔芳還高聲呼喊，要分兵去攻打秦王府。當時李世民等人已經傾巢而出，秦王府是座空城。玄武門內的人聽了，都憂心忡忡。
粗中有細的尉遲敬德親手將李建成、李元吉的頭割下，用力甩到宮牆外面去。片刻之後，玄武門之外一片寂靜；又片刻之後，外面傳來了武器紛紛落地的聲音。李建成陣營有的散去，有的呆立繳械……
李淵不知道這一切。在他的有生之年，都沒有人向他詳細匯報過真實的戰況。玄武門之變留給李淵的最深印象就是一身戎裝的尉遲敬德。他很不喜歡這個將領，還曾將他關進過監獄。現在尉遲敬德帶人一直將他「護駕」到臨湖殿上。
殿上，按時趕來參加議事大臣裴寂、蕭瑀、陳叔達、封倫、宇文士及、竇誕、顏師古等人都已經等候多時。他們比李淵早一小段時間知道了事情的結果。
尉遲敬德高聲宣佈李建成、李元吉陰謀造反，已經被殺。現在恭請皇上明下詔書，清算太子餘黨，「重賞」秦王李世民。
李淵沒有說話，環視了一下群臣。宰相裴寂低著頭，一言不發。蕭瑀、陳叔達兩人積極發言，請李淵明確褒貶。宇文士及本身就參與了密謀，現在幾乎是重複了尉遲敬德的話語。其他三人也統一口徑，極力稱讚李世民。六比零的表決結果，還有一個人棄權。
李淵知道大勢已定，輕輕地點了下頭。
玄武門前鮮血的清洗工作持續了整整一天。
當天晚上，政變後的父子終於相見。「上乃召世民，撫之曰：『近日以來，幾有投杼之惑。』世民跪而吮上乳，號慟久之。」
史書上這段記錄表明，李淵主動召見了李世民，並破天荒地「承認」了自己的錯誤。這裡有一個典故。魯國的曾參是孔孟之後的大儒。有一天，有人跑來告訴他母親，說曾參殺了人。當時曾母正在織布，不相信。後來陸續又有兩個人來告訴說曾參殺了人，曾母有點相信了，忙扔下紡織用的梭子逃亡去了。後來才查明，原來是一個與曾參同名同姓的人殺了人，與曾參無關。李淵引用這個典故，承認自己為小人蒙蔽，曾經作出過一些懷疑李世民的舉動。這些懷疑的舉動無非就是李淵借李建成、李元吉的口和手所做了削弱李世民權限的言行。這其實是李淵的本意，李淵現在這麼說是為自己找了個台階下，也為父子相見定下了一個基調。
既然父皇都認錯了，李世民還能說什麼呢？按照北方少數民族的習俗，李世民跪在地上，吮了父親的乳頭。「據說是來自北方民族的一個習俗，叫做『乳翁』。把父親當做母親一樣的尊重，其實只是儀式性質的動作，表示確認自己的生命之源。這是李世民對父親的承認和歉意表達。哭聲也在表達同樣的含義。」孟憲實：《玄武門之變後的父子相見》。父子倆抱頭痛哭。
在哭聲中，李淵和李世民肯定都想到了剛剛死去的李建成和李元吉。李淵為兩個兒子的死痛心；李世民則還沒適應兩個兄弟兼對手的離去，更沒有適應用骨肉親情換來的勝利。
三天後的癸亥日，李淵正式下詔立李世民為皇太子。詔曰：「自今軍國庶事，無大小悉委太子處決，然後聞奏。」
兩個月後的癸亥，李淵又下詔傳位於太子。李世民堅決推辭，李淵堅決要讓。甲子日，李世民正式即皇帝位於東宮顯德殿，大赦天下，史稱唐太宗。
三李世民修史之疑
李世民即位後，追封李建成為息王，謚號為「隱」，以禮改葬。李建成史稱「隱太子」。他的五個兒子：安陸王李承道、河東王李承德、武安王李承訓、汝南王李承明、鉅鹿王李承義都因為「謀反」罪名受到株連。李建成下葬的時候，李世民去宜秋門哭喪，之後以皇子趙王福為李建成的子嗣。貞觀十六年（642年）五月，朝廷追贈李建成為皇太子。
李元吉玄武門之變中被殺時候只有24歲。他的五個兒子梁郡王李承業、漁陽王李承鸞、普安王李承獎、江夏王李承裕、義陽王李承度也都受父親的牽連被誅殺。李世民即位後，追封李元吉為海陵郡王，謚曰剌，以禮改葬。隨後，李世民又追封李元吉為巢王，以曹王李明為李元吉的後裔。
新舊唐書都對整個玄武門之變的經過支支吾吾，北宋司馬光的《資治通鑒》寫得比較詳細。越是不詳細的描寫，越容易引起人們的猜測，給人創造發揮的空間。
《舊唐書·高祖本紀》是這麼描寫這次大變的：
六月庚申，秦王以皇太子建成與齊王元吉同謀害己，率兵誅之。詔立秦王為皇太子，繼統萬機，大赦天下。
《舊唐書·太宗本紀》的描寫是：
九年，皇太子建成、齊王元吉謀害太宗。六月四日，太宗率長孫無忌、尉遲敬德、房玄齡、杜如晦、宇文士及、高士廉、侯君集、程知節、秦叔寶、段志玄、屈突通、張士貴等於玄武門誅之。甲子，立為皇太子，庶政皆斷決。
野史對此的猜測紛紛擾擾。《朝野僉載》的一個記載很有代表性：
太宗極康豫，太史令李淳風見上，流淚無言。上問之，對曰：『陛下夕當晏駕。』太宗曰：『人生有命，亦何憂也。』留淳風宿。太宗至夜半，奄然入定，見一人曰：『陛下暫合來，還即去也。』帝問：『君是何人？』對曰：『臣是生人判冥事。』太宗入見，冥官問六月四日事，即令還。向來者又迎送引導出。淳風即觀玄象，不許哭泣，須臾乃寤。至曙，求昨日所見者，令所司與一官，遂注蜀道一丞。上怪問之，選司奏，奉進止與此官。上亦不記，旁人悉聞，方知官皆由天也。