《庄子·养生主》说:﹝庖丁﹞所解数千牛矣，而刀刃若新发于硎。
于是，有一种帝王随身携带的防身御刀，叫做"千牛刀"，名字就是典出《庄子》，寓意"锐利可斩千牛"。
关于"千牛刀"出现的记载，较早可见于南朝刘宋。萧子显(萧道成的孙子)《南齐书》:"玉夫(杨玉夫)与其党陈奉伯等二十五人同谋，于毡屋中取千牛刀杀苍梧王(南朝宋"后废帝"刘昱)"。说的是一场著名的宫廷政变:南朝宋元徽五年(公元477年)七月七日半夜，杨玉夫和杨万年潜入仁寿殿，乘刘昱熟睡如泥时，用皇帝刘昱自己的千牛刀杀掉了皇帝。
北朝北魏的时候，出现了一种高级禁卫武官，他们除了负责皇帝的安全，还掌执御刀"千牛刀"，这种禁卫武官就是--"千牛备身"。
最初"千牛备身"出现的时候，似乎并没有一个专门的机构来统领这些武官。后来，北魏孝明帝中期出了"领左右"，很可能就统领着"千牛备身"。再往后，历朝历代统领"千牛备身"的机构名称不断变化，在唐高宗显庆五年(公元660年)称"左右千牛府"，到了唐中宗神龙元年(公元705年)，改为"左右千牛卫"。"千牛卫"，正是因为它统领着禁卫武官"千牛备身"而得名。
唐代禁卫军分为南、北两衙，左右千牛卫是南衙卫兵。
南衙卫兵就是"十六卫"，是国家军队。 唐朝实行"府兵制"，在"南衙十六卫"中，除左右千牛卫和左右监门卫不领府兵、只负责警卫外，前"十二卫"都遥领全国府兵。
北衙禁军由"北门屯营"逐渐发展为"北衙六军"等，其中最为有名的一支就是"羽林军"。北衙禁军是皇帝私人军队，是"募兵"，由皇帝亲信指挥。
南北衙禁卫军共同卫戍皇宫和京师，并相互牵制。但盛唐之后，"南衙府兵"逐渐衰败，"北衙禁军"逐渐成为中央政权的唯一依靠。
在电视剧《神探狄仁杰系》中，李元芳是检校千牛卫大将军，狄仁杰的卫队是千牛卫。连武则天的内卫在名义上也属于千牛卫。
唐制，官员有虚衔和实授两种，检校千牛卫大将军是虚衔(相当于现代的军衔)，并无实际权力，相当于荣誉职务。王孝杰、桓斌、权善才这三个大将军虽掌握有实权，但和汉朝的大将军并不完全一样，唐的大将军很多，大将军只是军衔(相当于现代的上将吧)，不被实授指挥权的话就是个闲人，不象汉朝的大司马大将军，那是全国军队的司令。唐朝的军区司令在早期叫某某道大总管(只管军，不能管政)，全国共分十五道， 比如河北道行军大总管就相当于现代的北京军区司令，但并不 一定是大将军担任，狄仁杰就做过河北道行军副大总管(正的是太子挂了个名，他实际是正的)，到唐玄宗时改名叫节度使， 全国分十节度，统管辖区内一切军、政事务，这一变化正是唐衰落的原因之一。
所以在电视剧《神探狄仁杰》中，李元芳这个"检校千牛卫大将军"实际上是相当于现代的陆军上将，给总理做跟班。
而检校千牛卫大将军， "检校"，是"诏除"(皇帝下诏单批)而非"正命"(通过吏部正式任命)的"加官"。在唐代官制中有两种可能的情况：
第一，"兼领"或者"代理"，即本来就有一定的职位，"兼领"平级/低级的另一种职位。如唐初南衙十六卫的将领经常"检校"北衙羽林将军--"某卫大将军(正三品)检校羽林将军(从三品)";长孙无忌以"太尉(正一品)"身份"检校中书令(正三品)"。
第二，并不需要真正地履职的额外加官。类似于现代的荣誉主席的意思。如杜甫"检校工部员外郎"，但实际上他根本不需要到工部去任职。
所以从剧情上看，李元芳的"检校千牛卫大将军"更可能是属于第二种情况，因为他之前只是"千牛卫中郎将(正四品下)"，级别比"大将军(正三品)"低两级，不属于"兼领平级/低级官职"的情况，而且李元芳并不在"千牛卫"管事、不参与大型朝会、仪仗，只是跟着狄仁杰四处查案。
到了北宋，府兵制早已土崩瓦解，"南衙十六卫"更是不复存在。宋朝的"十六卫"只是一种虚衔，并不是职能机构，只是设有"上将军、大将军、将军"等官职，没有职能、没有权力、没有属兵、没有定额。作为"十六卫"之二的"左右千牛卫"，在宋代，被用来封降君，"千牛卫"早已有名无实。