在玄武门之变之前，李世民是没有下定决心除掉李建成和李元吉的，而秦王府的地位却岌岌可危，李渊有意的削弱秦王李世民的势力，不但调走了房玄龄和杜如晦，且令他们不得与秦王有任何联系。
李渊又借李元吉出征之即，调尉迟敬德入李元吉帐下听征，从文、武方面都对李世民进行限制和削弱，李渊的考虑当时是为了巩固太子的地位，他深知李世民对太子的威胁和对权力的觊觎。
而李世民从一开始是没有下定决心做出弑兄逼父的抉择的，玄武门之变前一天晚上还在犹豫是否去参加李元吉的出征仪式，当晚是尉迟敬德来到秦王府，对李世民呈明利害，让李世民痛下了杀兄决心。
其中尉迟敬德有句比较著名的话：秦王，你如果再不有所作为，起兵谋划，我和长孙无忌只有今晚就逃命去了。李世民这才意识到问题的严重性和自己的地位、性命危机，他立刻招回房玄龄和杜如晦进行商量，谋划。据说房、杜二人也是尉迟敬德拿刀“请来”的。
抛开尉迟敬德随秦王东征西讨、阵前救驾那些事不说，单在“玄武门之变”中他就立了奇功两件。
一是射杀李建成，太子派群龙无首，逐渐放弃抵抗，太子心腹如薛万均薛万彻之流最后都作鸟兽散。
二是海池劫驾，也就是囚禁李渊。要知道，“玄武门之变”中，即使李世民杀掉李建成和李元吉，但整个长安城乃至天下都还是李渊说了算。所以，杀太子、齐王只是“玄武门之变”的第一步，第二步也是最关键的是控制李渊——天下是李渊的天下，也就是说“玄武门之变”的最终目的是老子，而不是大哥和三弟——尉迟敬德武装入宫，向李渊汇报说太子、齐王谋反，已经被秦王诛杀。李渊审时度势，迅速认栽。并且尉迟敬德让李渊写下手敕，长安城所有部队归秦王节制。玄武门——皇宫——长安城——天下，李世民迅速完成从权力中枢到整个大唐的实际控制。
史书中说李渊庸碌昏聩，浑浑噩噩，在政变中自动让权。这都是胡说八道，其实，“枪杆子里面出政权”，李渊自己打出来的江山，这一点他比谁都清楚。如果没有尉迟敬德的武力胁迫，他不会束手就擒并乖乖让出皇权的。
正因为尉迟敬德完成了“玄武门之变”中最重要的一步拼图，才在后面的论功行赏中被记了首功。