府兵具有中央禁卫军性质，番上宿卫的府兵“十五日上，则门栏陛戟，警昼巡夜;十五日下，则教旗习战。无他赋役”。随着中央集权制的加强，北周武帝建德二、三年间(573～574)改府兵军士为“侍官”，意思是侍卫皇帝，表明府兵是皇帝的亲军，不隶属国。同时，又广募汉民入伍，免其服役。一人充当府兵，全家即编入军籍，不属州县。军人及其家属居城者置军坊，居乡者为乡团，置坊主、团主以领之。这种军民异籍的制度直到隋代才改变。隋文帝杨坚开皇十年(590)下诏：“凡是军人可悉属州县，垦田籍帐，一与民同，军府统领，宜依旧式。”这是个划时代的改变，标志着兵农合一的完成，但府兵本身归军府统领的组织系统不变。
唐初一度恢复骠骑﹑车骑府旧称。贞观十年(636)外府更号折冲府，内府更号中郎将府。折冲府置折冲都尉﹑左右果毅都尉、别将(后置)，作为府一级的将领。武后垂拱时府分三等。早自北周武帝时，府兵番上宿卫，分隶于中央的司卫、司武、武候三府。
隋初，左右卫、左右武卫、左右武候六个府各领军坊、乡团，统率府兵，继承周制。炀帝统治时，原先不领府兵的卫或府也都加领，这样领府兵的就有翊卫(左右卫所改)、骁卫(备身府所改)、武卫、屯卫(领军府所改)、御卫(加置)、候卫(武候府所改)，各分左右，共十二卫。
唐代因袭隋制，只是改屯卫为威卫、候卫为金吾卫、别置领军卫、废御卫、也是十二卫分领府兵宿卫(见十六卫)。此外，自北周、隋以来，领府兵的还有侍卫东宫的率府，唐代为左右卫率、左右司御率和左右清道率，称为东宫六率，但领府很少。
内府置中郎将，副为左右郎将，以下团﹑旅﹑队的设置略同外府。内府有亲﹑勋﹑翊的区分，兵士分别号为亲卫、勋卫、翊卫，合称三卫。统领内府三卫兵的是：左右卫，统亲府一、勋府二、翊府二，共五府;左右卫率，统亲、勋、翊府各一;其余卫、率，各统翊府一。
内府卫士取二品至五品官的子孙充当，外府卫士取六品以下官的子孙及白丁无职役者。在此范围内，征发原则是先富后贫，先强后弱，先多丁后少丁。府兵虽然包括官僚子弟和一般地主，但仍以均田农民为主体。
府兵制创立以后，规定三年一拣点以补充缺额(玄宗时改为六年)，其服役期限为二十一岁至五十九岁(玄宗时曾有缩减)。服役期间，府兵本身免除课役，但军资、衣装、轻武器(弓箭、横刀)和上番赴役途中的粮食、均须自备。每一火(一火十人)还得共备供运输的马六匹(或用驴)，即所谓“六驮马”。自备资装对于农民是沉重的负担。