在唐朝，都城的皇家宫殿是帝王居住和听政的主要场所，亦即政治权力中枢，所以太极、大明两宫和洛阳宫城的宫殿建筑格局完全一样，都是沿着南北向轴线对称排列，分为外朝、内廷两部分。
外朝主要是皇帝听取朝政、举行宴会的宫殿和若干官署，内廷则是皇帝和后妃的寝宫和花园，是帝王后妃起居游憩的场所。而最关健的是，外朝位于皇宫南部，内廷则处在皇宫北部。
因此，皇宫城墙北面诸门就对内廷的安全起着主要的作用，这其中，作为北面正门的玄武门，就更是有着举足轻重的地位。
唐代皇宫城墙各门都由宫廷卫军把守，而玄武门外就设有两廊，宫廷卫军司令部驻在这里，称为“北衙”，有着坚固的工事和雄厚的兵力。
据此，政变发生时首先控制玄武门的意义就不言自明了：因为控制了玄武门便可以控制内廷，而控制了内廷也就可以控制皇帝，从而控制中央政府，乃至整个国家。
武德九年“玄武门之变”发生前，玄武门的守将常何曾是李建成的部属，所以李建成认为玄武门是他的势力范围，才能在已获知世民有不正常举动、形势一触即发的情况下，毫无防备地和元吉经玄武门进宫参加早朝，殊不料常何已被李世民暗中收买，所以李世民得以控制玄武门。
事变的消息传出后，东宫和齐王府的精兵二千人由建成的僚属冯立、薛万彻率领，向玄武门进攻，玄武门守兵应战，守玄武门的云糜将军敬君弘和中郎将吕世衡都战死，但东官和齐王府的军队始终攻不进玄武门，足见玄武门卫军战斗力不凡，待到尉迟敬德出示李建成、李元吉的头颅后，东官和齐王府的兵就作鸟兽散了。
随后，李世民派尉迟敬德下玄武门入宫，控制了正在内廷“泛舟海池”的高祖，并逼他“手诏诸军听秦王节度”，于是胜利才最后归于李世民。