府兵制度，起于西魏而盛于唐。中经北周到隋代，因为时代更革，自然免不了发生许多变化，可惜府兵材料保存到今日的太少，差不多没法研究。唐朝初期实行的是府兵制，中央设置军府，府中的士官从老百姓中挑选而来，他们平时耕种，战时召集到一起。府兵制不仅节省了国家的军费开支，还保障了经济农业建设。其实一个制度成立，其发生背景和演化经过，最是值得注意，如果研究府兵制度的本身，也应当先从起源和演变入手。
西魏设置府兵经过，《玉海》卷一三八引《后魏书》云：“西魏大统八年，宇文泰仿周典置六军，合为百府。每府一郎将统之，分属二十四军，开府各领一军。大将军凡十二人，每一大将军统二府，一柱国统二大将军，凡柱国六员，复加持节都督以统之。十六年籍民之有才力者，为府兵。……”又引《邺侯家传》：“初置府兵于西魏大统中，周文帝与度支尚书苏绰之谋也。自三代之后，无与为比;虽战国之教士卒武技击皆不及。……”初置府不满百，每府有郎将主之，而分属二十四军，每军以开府一人将焉，每二开府属一大将军，二大将军属一柱国，大将军仍加号持节大都督以统之……”
府兵起于西魏大统中，两记载相同;制度方面，两说亦符合;府兵创始人为宇文泰与苏绰，也没有问题。不过府兵制度，不会是突然产生，一定有其产生的背景，因此我们不能不溯源到北魏之“镇”和“坊”的制度。《资治通鉴》卷一七七“开皇十年”诏：“魏末丧乱，军人权置坊府，南征北伐，居处无定，家无完堵，地罕包桑，朕甚愍之!凡是军人，可悉属州县，垦田籍账，一与民同，军府统领，悉依旧式。”从上引诏书内容，可以得到两个考证线索。
府兵制的形成大致分为三个阶段：第一阶段，西魏大统八年到恭帝三年(556年)，主要把乡兵和增募豪右纳入六柱国统领系统之内，构成一个新的军事体系，即宇文泰当政时期;第二阶段，北周明帝元年(557)到建德元年(572年)，主要是乡兵经过初步整顿，二十四军确立和巩固，即宇文护专政时期;第三阶段，建德元年到大象二年，主要是进一步扩充府兵，府兵担任侍卫及制度化，主要是北周武帝掌政时期。