李世民虽然连年在外打仗,但并不是对朝内情况一无所知。其实,他早在李建成周围安排了很多“卧底”,对李建成的一举一动了如指掌。他没有沉迷于当时的成绩,更觉得有必要解决自己权力路上的障碍。当了解到李建成的最新动态后,李世民决定先发制人。但到底如何处置这个皇太子呢?李世民手下将士们都很有顾虑,这毕竟是“老板”的亲大哥啊!李世民这时表了态:“有什么计策,你们尽管说,由我来决定是否执行。”大多数人的意见是将皇太子及主要同党囚禁起来,不让他们再干预政事。李世民当即反对:“李建成已经鬼迷心窍,囚禁起来不能从根本上解决问题。”众将士都明白了“老板”的意思,提出迫使李建成等进宫,但在途中进行截杀的办法。李世民这才同意,但由谁去负责做这个事情,他都不是很放心。于是,他决定由自己亲自来完成这一任务,并带上了对自己最为忠心耿耿的尉迟恭。
事情的进展依计进行。而李世民最担心的一幕也确实出现了。公元626年7月2日晚,玄武门前,大哥李建成和四弟李元吉在逃跑时,手下将士都不敢下手,包括这个尉迟恭。“不能让大哥跑掉,否则这么多年的苦心经营就全部白费了”,李世民射出了致命的一箭,正中李建成要害,当场毙命。而尉迟恭也立即解冻,射死了李元吉。
唐高祖李渊知道此事后,震怒!但也没有任何办法,眼下只有这么一个儿子了,而且兵权还在其手里。因此,不得不立李世民为皇太子。两个月后,自责和无奈中的李渊,将皇位让给了次子李世民。