在李建成被李世民杀死、李元吉被尉迟敬德射死之后，唐高祖李渊还不知道政变已经发生，他还在宫中的海池里泛舟，李世民让尉迟恭入宫宿卫，当时尉迟恭还穿着铠甲，拿着长矛，直冲李渊过来了，李渊到了这个时候才知道出了乱子。
尉迟恭上前说明情况，李渊问裴寂等人的意见，裴寂说李建成李元吉这两个人本来就没有功劳，现在死了也是应该的，而秦王李世民功高望重，应该让他做太子，李渊看到李建成和李元吉已经死去，尉迟恭又甲胄在身，知道大势已去，只能表态说：
“善，此吾之夙心也。”，大意就是，好啊，让秦王李世民做太子本来就是我长久以来的心愿啊！真是非常地言不由衷。
这时长安其他地方的混战还没有停息，尉迟恭让李渊下令让各军队接受李世民的指挥，李渊当然只能照办，当他下了这个命令之后，战斗就都平息了。然后李渊又下令将东宫的将士都遣散了。
直到这时，李世民才去见李渊，他抱着李渊大哭，并且“吮上乳”，联想到李渊有三乳……说远了，我们可以想象李世民为什么要做这个动作，无非就是要保全自己孝顺的名声，而李渊此刻的心情，一定非常复杂，死了两个儿子，还不能表现出任何的悲伤，反而还要向李世民道歉，说之前自己误会了他。
李世民一旦大权在握，就立刻处死了李建成的五个儿子和李元吉的五个儿子，在玄武门三天之后，李渊便下了诏书，立李世民为太子，也就是在这一天，李渊还颁布了一道诏书，规定今后事无大小，都由太子决断，虽然诏书最后加了一句“然后闻奏”，但这只是李渊最后的一块遮羞布而已，他被迫交权，已经做好了退位的准备，就在这个月的十六日，他让裴寂选好日子好早点退位，但是李世民大概觉得太快影响自己的形象，于是李渊又做了两个月的皇帝。
也就是在这个月的六月四号，李渊颁布了几道诏书，一道是痛斥李建成和李元吉二人罪行累累，死有余辜；一道是运用了一切溢美之词夸赞李世民，这就是李渊留下的最后的政治活动。
退位之后，他迁居到大安宫，生活上还是没有什么问题的，父子俩的关系一直算不上缓和，直到贞观四年，俘虏了颉利可汗，李渊才有了少有的心情大好之时，因为李渊在太原起兵的时候，曾经向突厥称臣，在位期间也一直受到突厥的骚扰，现在往日的屈辱得以清洗，李渊大为高兴，便召来李世民等人在凌烟阁宴饮，李渊亲自演奏琵琶，李世民起舞相伴，共享天伦之乐。
从这之后，李渊的少数几次出场，也是为了配合李世民演出他的仁孝罢了。
