玄武门事变并不是一件孤立的事，实际上它是唐初内部权力分配失败后，矛盾的集中爆发。当然消灭太子李建成是夺取大唐权力最关键的一步，但却并不是最重要的一步，最重要的就是拿下李渊所控制的禁卫军。
首先说一下，李渊被夺权实际上从唐初定都长安城就已经埋下了种子。
公元616年七月初四，李渊在山西晋阳誓师起兵，四个月后的十一月初九，李渊顺利攻入长安城。第二年五月，李渊登基称帝，李建成被立为皇太子，此时距离李渊起兵仅仅过去了10个月。
战争出奇的顺利使得李渊过早的称帝，当然早早的称帝也有好处，一来可以牢牢的占领大义，吸引人才，二来也还可以有效的管理国家，制定法令。但在战争频繁的时候过早称帝，国君留守国都就出现了大问题，那就是国君会逐渐的失去了对军队的控制权。
李渊当时也发现了这一问题，由于李世民军功威望的提升，自己逐渐失去了对军队的控制权。为了制约李世民，李渊采取了制衡的策略。即在外由李世民、李元吉共同带兵作战，双方共同牵制。另外赋予太子李建成一定的权力，让李建成有足够的实力制约李世民。
很可惜李元吉不争气，李世民基本上是百战百胜，而李元吉则是百战百败。留守太原老家时把老家都丢了，最后由李世民给他擦的屁股。之后李渊又派李元吉跟随李世民南征北战，李世民将刘黑闼的主力打败后被调回长安，这是一个明摆着给功劳的机会，结果李元吉还是没抓住，被刘黑闼的败军追着跑。
军队内以李元吉制衡的手段失败了，李世民的权威也顺利达到了顶峰，官职也做到了司徒、尚书令、中书令。最后封无可封的时候，李渊将李世民封为了天策上将军，并且允许了李世民开府治事，位置在诸王之上。
唐高祖武德九年六月初四，在太子建成和齐王李元吉认为皇宫的一举一动完全掌握在自己手中的时候，李建成的弟弟、李元吉的哥哥李世民悄然发动了政变。此处有较为重要的一点，原本是太子建成亲信玄武门禁卫总领常何被李世民策反。
常何的策反决定了玄武门的关闭，也决定了禁卫军和东宫兵马的无法增援。在秦王避祸之后，已意识到杀兄夺位已是势在必行，与太子入宫的同一日带领文臣武将长孙无忌、尉迟恭、侯君集、房玄龄、程知节等人入朝，并在玄武门的树林下设下伏兵。
而在李建成和李元吉行至临湖殿，感觉不对时。李元吉率先动手拿起弓箭射杀李世民。但此时李元吉心中慌忙不已，连射三次都没有射中李世民。李世民也被吓得跌落马下，李元吉乘势过来想勒死李世民。说时迟那时快，尉迟敬德驾马疾驰而来，大喝一声将其喝住。李元吉自知不敌，掉头就跑，结果被尉迟敬德当场射杀。
与此同时，李世民也追到了逃跑中的李建成，立马将其射杀。太子的部下，翊卫车骑将军冯立和副护军薛万彻听闻之后带领东宫和齐王府将士共两千余猛攻玄武门，力攻不下。遂即商议进攻秦王府。就在此刻，尉迟恭提太子和齐王首级示与冯立等人，攻城将士迅速溃败，落荒而逃。李渊的禁军一直都在，可惜被李世民掌握或来不及支援。
史书中这样记载:
“六月庚申，秦王以皇太子建成与齐王元吉同谋害己，率兵诛之。六月四日，太宗率长孙无忌、尉迟敬德、房玄龄、杜如晦、宇文士及、高士廉、侯君集、程知节、秦叔宝、段志玄、屈突通、张士贵等于玄武门诛之。”
在杀了太子和齐王后，李世民令尉迟恭去守卫高祖，实际上是为了控制李渊。将其软禁不能让其发布任何有效命令。因为在封建王朝，造反的人绝对是得不到原谅，基本上死路一条。而且李渊还生养了包括滕王李元婴在内的二十位小皇子，完全可以替代李世民。