府兵并非唐代唯一的兵种，承担宿卫的还有保卫宫廷，屯驻北门的禁军(见六军)，与十二卫所领府兵对称南、北衙军。出征和防戍则有名为“募”而实也是“征”的兵募，以后还有防戍本州的团结兵、士镇兵等。在出征和防戍中，兵募的数量往往超过府兵，但府兵在唐初具有较强的战斗力，他们是军队的骨干。
唐代府兵制在太宗和高宗统治前期曾经有效地实行，但自高宗后期以至武后时就逐渐被破坏，到玄宗统治时终于被废除。破坏的原因：战事频繁、防御线延长、兵役繁重。原来防戍有一定的番休期限，后来常被强留以至久戍不归，导致人民避役，兵士逃亡(兵募也是这样)。府兵地位的低落。唐初承前代遗风，对于卫士比较尊重，但到武后时，番上卫士往往被贵族官僚借为私家役使，导致社会上以充当府兵为耻辱。
高宗以后，土地兼并日益严重。府兵征发对象主要是均田农民，随着均田制的破坏，府兵征点制失去了赖以实行的经济条件。这样，玄宗统治初期，府兵逃散的情况日渐增多，以致番上卫士缺员，征防更难调发。
开元十年(722)，宰相张说以宿卫之数不给，建议召募强壮。次年，募取京兆、蒲、同、歧、华等州府兵及白丁为长从宿卫。
十三年，改名“ 骑”，分隶十二卫，基本上代行了府兵宿卫的任务。征防兵士中﹐府兵本来就少于兵募，武后时出现了防卫本州的团结兵;玄宗初，军镇又出现了来自召募的健儿。那时，军府空虚，府兵番上宿卫已经不能足额，征防必然更难从府兵中征发，实际上除了被强留下来的以外，诸军府兵员的缺额大概很少得到补充。
开元二十五年(737)，玄宗下诏命令诸镇节度使按照防务需要制定定额，在诸色征行人和客户中召募自愿长住镇戍的健儿，“便令常住”。二十六年，又下诏说诸军召募的长征健儿业已足额，以后不再从内地调发，原有兵士(包括兵募﹑键儿等)非长征者一律放还。这就在法令上停止了调发府兵征防。
天宝八载(749)鉴于军府无兵可交，遂停折冲府上下鱼书，府兵制终于废止。此后，折冲府只有兵额和官员，既没有兵，也没有驮马、武器等各项军资。但终唐之世，军府空名仍然存在。