于是下定决心要把李建成和李元吉除掉。
李世民去见李渊，说李建成和李元吉秽乱后宫，为了争夺皇位，兄弟混战就这么开始了。
李渊听后非常吃惊，说第二天把两人召入宫中问个究竟。第二天一早李世民提前率领人马在宫城北门的玄武门内埋伏好。常何是玄武门的禁军总领，他本来是李建成的人，可他事前已经被李世民收买，这天就没有上班。当李建成和李元吉骑马向玄武门走来时，李建成没有看到常何，立即意识到可能有危险，急忙调转马头往回跑，李元吉也跟着逃跑，李世民从后面叫住他们。李元吉率先张弓搭箭，准备射死李世民，但由于心慌意乱，一连几次都没能把弓拉满。
这时李世民也张弓搭箭，众人都以为他要回射李元吉，可他却一箭射死了帝国的储君李建成，尉迟恭也挥刀将李元吉砍死。
太子府的将领得到消息后，立即赶来帮助李建成。尉迟恭拿着李建成和李元吉的首级对他们说：“太子已经死了，你们再不投降，后果也与他们一样。”太子府的将士们这才散去。
当时正是武德九年六月，天气很炎热，唐高祖召集裴寂、萧瑀、陈叔达等重臣一起，正在太极宫里的海池里泛舟。
或许是为了排解抑郁的心情，又或许是并未意识到事态的严重性，反正当李世民手下的大将尉迟敬德浑身是血，穿着铠甲、握紧长矛冲进太极宫时，李渊才知道出大事了。
尉迟敬德闯进皇宫后，胁迫李渊写了一道手谕，要求所有军队全部接受秦王李世民指挥。
这时李世民进来跪地请罪，高祖伤心地说：“李建成和李元吉都是你的亲兄弟，现在竟然发生这样的事，怎么说也是可悲的啊。”李世民一头扎进李渊的怀里痛哭，不管是真哭还是假哭，李渊心里都是战栗恐怖的，他对李世民说，今天以来，我几次都有想“投杼”的感觉。
投杼，说的是孔子的弟子曾参杀了人，许多人都来说，曾母最终恐惧逃跑的典故。而对于李渊而言，他从51岁起兵，52岁创立帝国当上皇帝，此后九年间他的儿子和部下分别平定天下，眼看着人生已经功德圆满，不料家庭内部却发生了如此的惊天血案。
他内心感觉孤独、凄凉、莫名的恐惧，李世民假装落泪。宇文士及和裴矩等人劝慰了他们一番，李世民这才回到府里。
这时李世民已经掌握了长安城内外的绝对军权和政权，李渊这个当父亲的，也感觉到了内心的震撼和恐惧。
他怀疑