在众人印象中，特种兵是近代才有的产物，是从国外引进的洋玩意。实际上中国古代早就有了类似特种兵的部队，他们是各个时期统治者手中的王牌部队，是各个统治阶级花费巨资组建的拥有超强能力的精英团体。
早在春秋战国时期，一些军事强国就已经很重视组建特种部队，魏国的魏武卒曾经以凶悍而威震列国，然而当他们面对秦国“锐士”时就显得如此不堪一击。原本秦人和敌军作战总是落於下风，数次都险些亡国灭种，从商鞅变法后，秦国开始实行新的军制，组建了一支有20万人组成的新军。他们的士兵从此被称为锐士，其中最精锐的士兵由司马错统领，号曰“铁鹰锐士”，他们不仅剑术超凡，还要马战步战样样精通，在20万新军之中只有1600人才有资格入选“铁鹰锐士”。
到了东汉末年群雄纷争之时，各大有野心的军阀都开始组建了自己的特种部队。曹操组建了“虎豹骑”，刘备有“白毦兵”，孙权有“解烦兵”，但要说起三国时期最强的特种兵非吕布麾下“陷阵营”莫属。陷阵营由吕布账下中郎将高顺统帅，步卒不过七百人，却将刘关张所率数千人马杀到狼狈而逃，吕布能多次战胜刘备，高顺及其陷阵营居功至伟。然而遗憾的是吕布不是帅才，虽然知道高顺忠勇却不知道如何使用它，最终吕布战败，陷阵营也随之消失在历史的长河之中。
东晋时期的中原王朝实际上已经日渐飘零，他们的统治者和精英阶层早已腐化，然而有谢玄组建的北府军却成为当时的一支劲旅。谢玄组建北府军最初目的是为了应对前秦苻坚的压力，他从北方逃来的流民中组建了这支军队。后来这支军队在淝水之战中一举击败前秦大军，后来谁拥有这支北府军谁就能真正掌握超全，刘裕称帝建立刘宋王朝靠的就是手中这支北府兵。而他用却月阵以2000步兵打败北魏3万精锐骑兵靠的也是北府兵。
隋朝有一支只流传在民间的特种部队，他们被传得神乎其神，传闻靖边侯罗艺又一支精锐骑兵燕云十八骑，他们他们腰佩弯刀，脸戴面罩，头蒙黑巾，只露双眼，身披黑色长披风，脚踏胡人马靴，马靴配有匕首。众人背负大弓，每人负箭十八支，同时都配有清一色的圆月弯刀。燕云十八骑一般都是在大漠活动，曾一夜之间诛灭辽人进犯部队，就连靠山王杨林都是畏之如虎，然而罗艺死后，罗成将其解散。不过虽然故事传得神乎其神，燕云十八骑却是彻头彻尾的“演义”，任何史书上都没有关于他们的记载，唯一相似地方就是蜀汉大将张飞有一支亲兵队伍就是燕云十八骑 ，是18个燕云骑将组成的队伍。