目前世界上设有校级军官军衔的国家，其级别一般设上校、中校、少校3级。而我军增设了大校这一级，使校官的军衔等级发展到4级，成为世界上少有的设大校军衔的国家。那我军为什么要设大校军衔呢?
早在1952年11月26日，总干部部在给毛主席并军委的报告中，就提出将来人民解放军实行军衔制度时军衔等级怎么设置的问题。报告说：“实行军衔制度我们尚无经验，主要是根据苏联顾问介绍的经验及所提方案并结合中国情况进行研究。”
报告着重指出，“我们曾与顾问卡苏林同志多次交谈，得其帮助很大，但有些特殊问题尚未能取得一致的意见”，特报请军委决定。总干部部领导与苏联顾问意见不一致的问题中，首先是少将与上校之间要不要再设一个级别的问题。
苏联顾问提出的方案是，将官军衔设上将、准上将、中将、少将4级;校官军衔设上校、中校、少校3级。总干部部认为：“少将与上校之间似有必要增加‘准将’一级，因为我军军、师干部共分6级(注：军、师各分正、副、准3级)，实行军衔虽然有些等级要作合并，但如果将军长和副师长都合并为少将一级，在这一级内存在的悬殊很大，则不够合理;如增加准将一级，即可基本上解决问题，但卡苏林未同意。”
1953年1月9日，中央军委发出《关于实施军衔制度准备工作的指示》，同时草拟了《中华人民共和国人民解放军军衔条例(草案)》。在这个条例草案中，提出我军军衔设6等21级，其中将官设大将、上将、中将、少将4级，校官设大校、上校、中校、少校4级，否定了苏联顾问的主张，在少将与上校之间设置了大校军衔称号。
此方案在1955年2月8日第一届全国人民代表大会常务委员会第六次会议通过的《中国人民解放军军官服役条例》中，得到了国家法律的确认。按当时的规定，授予大校军衔者多数是1952年被评为正师级的干部，也有少数抗日时期入伍的准军级和个别副军级干部，还有少部分红军时期入伍的副师级干部。全军首次被授予大校军衔的不足1300人，占准尉以上人数的0.2%，仅为少将人数的1.6倍，可见那时大校的授衔条件是相当严格的。
1988年实行新的军衔制度时，要在少将与上校之间设置一个等级，上上下下的意见都比较一致。但是设准将还是设大校，则存在分歧。一开始多数人主张设准将，但是经全军若干个典型调查单位的“试套”，仅总部某机关的一个管理处就可出现9名准将。按若干试套单位的实验数据推算，全军可出现准将大概几千名。
这一情况向军委“恢复军衔制领导小组”汇报后，小组决定在条例草案中放弃设准将的方案，改设大校。但是在再次征求意见当中，有的单位还是建议设准将。为此，总政有关部门作了进一步的说明：准将在美国算将，英国则不算将，在我国“准将不管是不是将，但毕竟挂个‘将’字，给人的感觉总是个将，这样将官数量显得多了一点。因此，军委决定设大校不设准将，正师职大多数授大校。”
设准将还是设大校的认识在军内统一后，需要向全国人大常委会说明的重点是为什么要设大校。因为委员们都知道，世界上多数国家没有大校。1988年4月13日，总政治部在向全国人大常委会作的《关于〈中国人民解放军军官军衔条例(草案)〉若干问题的说明》中，对为什么要设大校军衔，是这样表述的：“校官分为4级，主要是考虑我军正师职军官数量较多，如大部分授予少将军衔，将官总数显得太多，大部分授予上校军衔，又显得低了些，因此设置了大校军衔，这样既可以控制将官数量，又可以使师级职务军官的军衔与团级职务军官的军衔有所区别。”