商周时期就已经有了征兵制，当时规定，每个部落成员在战争期间，都有当兵作战义务。军队的核心是王族与贵族子弟，基础力量则是由平民组成的甲士。那时作战用战车，每辆车上有驾车、持干、戈、和拿弓矢的作战人员三名，俗称“三甲士”。在每辆车的两侧与车后，配有步兵几十名，由奴隶充当。他们既是战斗员，又是伺候奴隶主的杂役。
战国时期，各国相继变法，开始建立了郡县制，兵役制也发生了新的变化。当时已经建立常备兵制度。常备兵是军队的基干，他们都是经过挑选而来。挑选时比较严格，如著名的魏武卒、秦铁鹰锐士，魏武卒要求参加考选的人穿“三层之甲”，拿一张要用几百斤力才能拉开的硬弓和装有五十支箭的箭囊，扛着戈，头带铁盔，腰配剑，带三天粮食，在半天之内走完百里路还能投入战斗。凡是中选的人，免除全家的赋税、徭役。秦铁鹰锐士相比魏武卒对体能要求更严格，还进一步增加了骑射的训练。
秦统一全国后，便出现了全国规模的征兵制。征兵以郡县为单位，郡守有征发一郡壮丁作战的权力。当时农民是兵员的主要来源。秦朝兵役和劳役都很繁重。当时全国大约有两千多万人，而被征发服兵役、劳役的就有二、三百万人。
汉承秦制，当时规定男子年满二十岁就要在官府登记，根据三年耕一年储的原则，从二十三岁起正式服役，直到五六十岁止，服役两年。一年在地方服役，名为正卒;另一年戍守边郡，叫做戍卒。正卒在本郡服役，划分兵种，加以训练。屯戍各分为两种：在都城屯戍的称“卫士”，在边郡屯戍的称“戍卒”。服役期满后，役男即可返乡，不过仍有随时应召服役的义务。汉武帝时，还出现了招募北方少数民族组成“胡骑”，招募南方少数民族组成“越骑”。东汉末年，由于军阀割据，坞堡林立，大批农民为军阀豪强所霸占，成为依附于他们的部曲，很多壮丁成了坞堡主的家兵，全国征兵制度遭到严重破坏。
三国时期开始出现了“世兵制”。“世兵”就是该户男子终生当兵，父死子承，兄终弟及。年老之后也不能退役，还要从事后勤方面的工作。兵籍与民籍分离，另立专项管理的户籍，这种兵家户籍不属郡县，而由军府管理，称为“士家”、“军户”。
南北朝后期，北朝出现了“府兵制”。西魏的宇文泰在大统九年(公元543年)，广泛招募各地汉族豪强地主从军，通过他们的从属关系，带来了大量家兵、部曲等私人武装。西魏政权根据他们所带军队的众寡，授予各种不同爵位。这种使地方割据的私人武装中央化的办法，不但增强了朝延军力，同时使鲜俾部落兵与汉族封建逐渐结合，进而创建了“府兵制”。府兵由六个柱国大将军率领，每柱国下面设两位大将军，一大将军下面又有两个开府将军，共二十四军。当时府兵与民籍分开，不属于郡县管辖，他们只管打仗，不负担其他赋税。府兵制到了隋朝起了很大的变化。军府称为骠骑府，以骠骑将军为长官。军士开始编入户籍，从事生产。到隋炀帝时，府兵直接从民间征调。男子年满二十一即可参加府兵。全国府兵由十二卫分领。大业三年改骠骑将军府为鹰扬郎将。军人称“卫士”，卫府制度趋于完善，中央集权在军制上得到加强。
唐初全国共有六百三十四个府，均由十二卫和东宫六率分领。改隋朝鹰扬府为折冲府，每府府兵归折冲都尉管辖。并规定在设府的地方，人民有充府兵的义务。服役年龄是二十至六十岁。应征充当府兵的人，平日务农，征发时自备兵器，粮食。这实际上是一种兵农结合的兵役制度。征调服役的人，定期宿卫京师或者戍边。战时出征，战事完毕，即“兵散于府，将归于朝”。
唐朝中期，边患不断，府兵戍边期长，权贵还奴役府兵从事各种苦工，在这种情况下府兵大量逃亡，折冲府名存实亡，府兵制受到严重破坏。为了补充兵员，就采取了招募的办法。唐玄宗开元十一年招募蒲、同、岐、华、京兆等州逃亡的府兵和白丁充当宿卫，称“长从宿卫”，以代替府兵定期轮流宿卫的旧制度。开元二十五年下令各军镇招募长驻边疆的健儿，其家属愿意同去的，分给田地房屋。后来组成边兵，由藩镇操纵。府兵制度就基本结束。
募兵制是宋朝的主要兵制。当时有四种不同的军种：禁军、厢兵、蕃兵、乡兵。禁军是皇帝的亲兵，驻守京师，兼备征伐，是正规军。厢兵是各州募集的地方军，不进行军事训练，只给地方政府服杂役。蕃兵就是招募边疆少数民族，充当边境屯戍守军。乡兵，有招募的，也有当地征发的，经过训练作为地方防守部队。
元朝在取得全国政权前，实行部落兵制。本部落的男子十五岁以上，七十岁以下全部当兵，下马放牧，上马攻城。本族人建立的“蒙古军”与后来吞并各部落建立的“探马赤军”是它的主力。进入中原后，抽调二十岁以上的汉人壮丁建立“汉军”。作为戍守当地的地方军。
明朝实行“卫所制”。军队组织有卫、所两级。一府设所，几府设卫。 1名卫设指挥使统帅5个千户所，统兵5600人。千户所由1名千户统领，辖10个百户所，共1120人，百户所由百户带领，辖2个总旗,共112人;总旗辖5个小旗,共50人;小旗10人。遇有战事，兵部奉旨意调军，任命领兵将官，发给印信，率领从卫所调发的军队出征。战争结束，领兵将官交还印信，各军各回卫所。兵士有军籍，世袭为军，平时驻防或开荒屯田，如朱元璋所说“吾养兵百万，不费百姓一粒粮”。
清朝早期实行“旗兵制”。开始，以部落为单位组成“旗”，旗是军政合一的组织，旗民平时为民，战时为兵。因此，旗兵制就是部落兵制。公元1615年，努尔哈赤将满、蒙、汉族力量编成八个旗，分别用正黄、正白、正红、正蓝、镶白、镶红、镶蓝八种色旗作标志。这就是“八旗军”的由来。清统一全国后，参照明朝卫所制以汉人为基础组成了“绿旗军”(以绿旗为标志，又名“绿营兵”)。绿营兵以营为建制单位驻守全国各地，兵员时有增减，最多时达到了六十多万人。清朝后期为了镇压太平天国运动，清朝允许各地招募壮丁兴办“团练”助剿，规模最大最出名的便是“湘军”。和以往招募士兵不同的是湘军内部奉行将必亲选，兵必自招的原则，简单来说就是一个营一名统领，统领亲自挑选营官，营官亲自挑选哨官，以此类推。如要撤换某个将领就要把该将领下面的军队全部解散，新任将领重新招募，另起炉灶。后来清朝统治者仿效“湘军”制度在各地创建“练军”。甲午战争后，清政府开始仿效德国和日本军制，创办新军，并将原来各地军队改为巡防营。