了洛阳，拥有土地、精兵，再也控制不住。不如留在长安，只不过是一介匹夫，取之容易。"于是秘密派人劝阻了高祖。
建成、元吉知秦王府多强将，就千方百计收买他们，房玄龄、杜如晦也被谮告逐出秦王府，眼看秦王府重要的谋臣猛将一个个被调走，情势日益严重。秦王身边的人劝秦王及早动手除掉建成、元吉，双方的斗争已进入白热化阶段。
武德九年(626)六月二日，延留京城的房玄龄、杜如晦化装后与长孙无忌潜入秦王府内，尉迟敬德也由另外的路进秦王府，他们商量了一整夜，一个重大的行动计划出台了，于是分头布置。
六月三日，世民密奏高祖说建成、元吉淫乱后宫，而且说："臣丝毫不负兄弟，如今他俩想要杀臣，似乎是为王世充、窦建德报仇，臣如今枉死，永别君亲，魂归地下，实在耻见诸贼!"高祖很吃惊，注视着世民半天说不出话来，最后才说："明日早朝，建成、元吉和你都来，由诸大臣公断曲直是非。"
第二天，世民率领长孙无忌、尉迟敬德；候君集、张公瑾等人入宫，伏兵在玄武门(宫城北门)。张婕好事先从高祖那里知道了他和世民谈话的内容，怕有变故，骑马去告知建成。建成找元吉商量，元吉有些担忧，说："应当准备好宫府卫兵，托病不去上朝，看看形势。"建成却说："宫中已戒备森严，我和你应当上朝去，亲自问问情况虚实。"于是，他俩入宫，走向玄武门。这时高祖已召集裴寂、萧瑀等几位大臣准备审查他俩。
建成、元吉走到临湖殿，发现情况异常，立即拨马回头，世民已骑马迎面而来，元吉仓皇张弓，连射三箭，因控弦不开，皆没有中。世民却沉着地取弓还箭，建成当即中箭而亡。这时，尉迟敬德率兵赶到，他们把元吉射下马来。元吉弃马往树林逃去，世民纵马追去，跑进树林，不巧被树枝挂住衣服，坠马落地，元吉乘机跳过来，压在世民身上，元吉力大，眼看世民顷刻亡命，说时迟，那时快，尉迟敬德飞马赶到，一声怒吼，元吉吓得放开世民，跑向武德殿。尉迟敬德引箭便射，元吉中箭身死。
这时，太子东宫翊卫车骑将军冯立，与副护军薛万彻等人率2000余人来攻玄武门。在玄武门的秦府兵不多，难以抵挡，情势十分危急，尉迟敬德拿着建成、元吉的首级赶到，东宫、齐王府的将士们见主子已被杀，无心恋战，遂溃逃而去。
随即，李世民派尉迟敬德前往海池舟上面见李渊，尉迟敬德穿着铠甲、手持长矛，一直走到高祖所在的地方，高祖大惊，问道："今日作乱的是谁?卿来此做什么?"敬德回答说："秦王因为太子、齐王作乱，起兵杀他们，恐怕惊动陛下，派臣来保卫。"高祖问裴寂等人道："不想今日有这种事情，如何是好?"萧瑀、陈叔达都说："建成、元吉原来不参与起兵义谋，又无功于天下，嫉妒秦王，一起设计奸谋。如今秦王已经讨杀他们，秦王功盖宇宙，全国归心，陛下如果立他太子，交给他国事，就没有什么事情了!"高祖说："好!这也是我一向的心愿。"
这就是历史上著名的"玄武门之变"。
不久，高祖写手诏给裴寂等人说："朕要加尊号为太上皇。"八月，高祖便被迫传位给世民，是为唐太宗。
太宗是个大军事家，不仅在领兵出征上有着非凡的能力，在治理国家上也将有着不凡的表现。