唐高祖武德九年，玄武门之变爆发，秦王李世民在玄武门杀了太子李建成和齐王李元吉，掌控了大局。
面对已发生的事实，李渊无可奈何，承认了李世民政变的合法性。不久，李渊立李世民为太子，并宣布即日起朝政大小事务全部交由太子处理。两个月后，李渊直接传位给太子李世民，正式登位。
对于李渊来说，李世民的所作所为和谋反无异，父子二人的关系已经名存实亡。不过顾及颜面，李世民是在东宫即位，并在那里主持朝政，李渊暂时并未搬出太极殿。
这是一个非常尴尬的局面，如果李渊拒不搬出，李世民也不好意思强行将他赶走。至于那些大臣们，更没有一个人敢于发表意见。
终于，贞观三年，事情出现了微妙的变化。这一年，李渊最为信任的宰相裴寂被赶出京城，还差点被扣上谋反的帽子。
或许是感受到了某种压力，是年四月，李渊在半主动半被迫的情况下搬出了太极殿，入居改名为大安宫的弘义宫，李世民正式搬入太极殿主持朝政。
然而，李世民和李渊的关系仍然非常紧张，一个不好意思面对，一个对被夺位还有点耿耿有怀。直到贞观四年，李靖大破突厥，生擒颉利可汗，父子之间才终于冰释前嫌。
唐朝初立时，为了防止突厥在背后捣乱，李渊被迫向突厥称臣，所以他心里一直感到耻辱。现在，突厥被灭，颉利可汗被擒，李世民算是为李渊挣回了面子。
李渊主动邀请李世民和重臣十几人以及诸王、妃、主到凌烟阁聚会，置酒畅饮，李渊亲自弹琵琶伴奏，李世民欣然起舞，父子之间的隔阂瞬间瓦解。
贞观六年，李渊重新修缮了隋朝的仁寿宫，并改名为九成宫，作为避暑所在。当李世民准备前往九成宫避暑时，监察御史马周上书道：
“陛下所居宫殿在宫城正中，而太上皇的大安宫却在宫城之西，建制规模也要小很多。这在天下人眼中看来，未免有些不妥，应该整修扩大大安宫，以满足天下人的愿望。
再者说，太上皇春秋已高，陛下应该朝夕侍奉。如今九成宫离城三百多里，太上皇如果思念陛下，陛下赶得回来吗?另外陛下此次出城避暑，太上皇却还留在大暑天气里，不符合儿女侍奉父母要让他们冬暖夏凉的礼制。陛下这样做，臣感到很不安。”
这是大臣首次就李世民的父子关系提出进谏，李世民深以为然。是年十月，返回京师后，李世民第一件事就是赶往大安宫侍宴，和长孙皇后一起轮流为李渊端上饮食及用具，直到深夜才罢席。宴席之后，李世民还想亲自给李渊抬轿子，李渊不允，最后由太子李承乾代劳，将李渊抬回寝宫。
贞观七年十二月，李世民在汉代未央宫旧址侍奉李渊饮宴。心情大好的李渊命令颉利可汗起身献舞，并让南蛮首领冯智戴吟咏赋诗，笑着说：“胡、越一家，自古未有也!”
李世民起身敬酒道：“如今四夷都成为大唐的臣民，都是陛下教诲的结果，非臣智力之所及。从前汉高祖曾在此宫中为太上皇祝寿，妄自尊大，臣不敢这样做。”这是李世民成为皇帝后第一次在李渊面前自称臣，李渊高兴不已，殿堂上众人齐声高呼万岁。
第二年夏天，李世民屡次邀请李渊一起到九成宫避暑，但李渊很忌讳隋文帝是在那里驾崩的，坚决不去。于是，李世民决定修建大明宫，专门给李渊作为避暑所在。
然而，没等到大明宫建成，李渊却病了，直到贞观九年五月驾崩，始终没有成行。
李渊是个幸运的皇帝，打江山的时候有儿子在前面冲锋陷阵，自己坐享其成。虽然玄武门之变让李渊很伤心无奈，但李世民对李渊很好，所以李渊的晚年生活已经过得很好了。