在中国，军训最早可追溯至夏商时期。根据记载，在商代，由于诸侯间战争增多，统治者对军事训练日益重视，除了对正规军队进行训练外，还通过学校对各级贵族进行军事教育。从西周开始，官学分“国学”与“乡学”，并有“小学”和“大学”两级。
其中的 “大学”，即以“六艺”为标准课程，“礼、乐、射、御、书、数”成为学生需要掌握的六种基本才能，其中的射、御，即为古代的军训，教师一般直接由军官担任。到了诸侯纷争的春秋战国时期，“兵者，国之大事，死生之地，存亡之道，不可不察也”。
各国更加重视军事人才教育和训练，军训成为官办学校教育的重要内容，就连孔子的“民办学校”私学也很重视军训。孔子作为中国国民教育的开创者，他在教育过程中，将射御之术看得与礼乐教化一样重要，《孔子家语·观乡射》就记载有孔子教射的内容。
孔子说，“射御足力则贤”，把军事技能优劣，视为一个人贤能与否的标志，认为“以不教民战，是谓弃之”。孔子曾在矍相的园圃亲自教弟子学习射箭的事，他在教弟子习射的同时，还不失时机地对民众进行礼的教育。可见，孔式教育理念是讲究文武兼修的。
秦汉时，统治者对学生军训的重视程度逐渐减弱，学校军训则开始走下坡路，随着儒家学术被奉为正统，“六艺”也变身为儒学六经，军事教育内容消失，军训的职能弱化为一种礼仪程式。其实，秦在建立统一政权之前，仍对军训十分重视。但在一统天下之后，除加强边防，用兵的机会变得极少。为防范平民造反，便下令拆除各诸侯国的城郭，收缴天下兵器，连老百姓家的菜刀也是几家合用。
虽然秦汉时期学校军训逐渐萧条，却并未废止，因为在地方学校教育中仍有军训的内容。东汉王莽执政时，每年春秋之际，经学家刘昆都会带领五百多名弟子习武，以致王莽怀疑其图谋不轨，把他及家属都关了起来，也就是说，当时连民办学校都不能从容搞军训了。不过可见，私学以传授经书为主，但也包括射御等军事训练的内容。
隋朝时更是开始“偃武修文”大力削减武力装备，国家教育重点由学武转为修文，科举也逐渐开始成为主流。唐朝在开国之初便确立了战时重武、平时重文的国策，但唐太宗李世民于贞观元年(627年)曾说：“朕虽以武功定天下，终当以文德绥海内。” 唐朝的取士之法仍偏科举，学校沦为科举附属品，军训废止。
此外，理学开始萌芽，逐渐形成重读书轻实践，重静坐轻活动的教育理念。武则天时，文武科举分开，文举不考武艺，为谋取功名，学生们无暇学习军事课程，军训渐被弃之不顾。到了宋朝，兴文教、抑武事的政策被推向高潮，武将地位被书生士子全面赶超。宋太祖认为，武将握兵权而强，君主失军权而弱，为保赵氏江山稳固长久，必须铲除藩镇割据势力，坚持崇文抑武的国策。
而且宋代程朱理学主张“内无妄思，外无妄动”，憎恶尚武之风，把习武与赌博等同，视之为无益之事，禁止学生参加。学校以科考为主，一切以中举为导向，读书人“两耳不闻窗外事，一心只读圣贤书”，军训自然废止，尚武之风偃旗息鼓。
明清之际的教育家颜元曾对此深恶痛绝地说： “朱子重文轻武，……，其遗风至今日，衣冠文士羞与武夫齿，秀才挟弓矢出，乡人皆惊，甚至子弟骑射武装，父兄便以不才目之，长此不返，四海溃弱，何有已时乎?”
明、清两朝开国皇帝都以武得天下，自然重视学校的军事教育，朱元璋力图在学校恢复孔子的“六艺”。他在洪武三年(1370年)批示，要求国子学和县学学生都要习射，命国子监辟射圃赐诸生弓矢，并在科举考试中加试“射”、“骑”科目，有了考试的引导和政府对器械的投入，促进了学校军训的发展。
清承明制，开国之初举办教育是文武并重。从官学、国学到地方学，学校的课程多数是文武兼备，都开设骑射课。文科考试先试骑射，八旗子弟武功不及格者不能参加文科考试，风气所及，学校军训热情大为高涨，民间也竞相效仿。一些学校除了开设骑射课，还开设武术、举重等必修课，致力于培养文武全才。但是，武功根本敌不过科举八股，军训成了形式主义。
明、清初的学校军训终究未能从复兴走向发展，这是因为程朱理学仍是明清社会的显学。终明一代，程朱理学都受到最高统治当局的极力推崇，仍是“半日读书，半日静坐”。到了清末，清政府惨遭列强羞辱，1894年，中日甲午战争的惨败更是让全国上下意识到了“强兵尚武”的重要性，遂又兴起一波尚武的小高潮。