在各种抗战电视剧中，日本军官虽说各式各样，但都有一个标配，那就是腰里的军刀。按照当时的认识，似乎能够佩戴军刀的日本军人都有军官。但在真实的历史中，日本军队并不是这样。日本军队规定了严格的制度，不仅军官使用军刀，就连那些高级士官也可以使用军刀。当然，对于贵族出身的军官来说，他们根本看不上这种军刀，他们有自己的特殊标志。
在19世纪70年代，日本开始了影响重大的明治维新运动。日本在经济、教育等各个方面学习西方国家，在军事领域也不例外。日本军队的学习对象是法国，法国人一直号称自己拥有欧洲大陆最强的陆军。除了采用法式军服和法式步枪之外，日本军队也学习了欧式长剑。当时，几乎欧洲各国军队的军官都使用长剑。但是对于欧洲国家的军官来说，这仅仅是一种装饰品。可日本军官有带头冲锋的传统，这就彻底坏事了。
欧式长剑只能刺，不能砍，在战场拼杀中并不适用。在日俄战争期间，日本军官吃了大亏。因此在这次战争结束之后，日本军队取消了长剑这种装备。在随后的将近20年时间里，日本军队没有使用军刀。但是在昭和天皇裕仁继位之后，日本国内的军国气氛明显提升。在这样的大背景之下，1930年，日本军队开始佩发军刀。军刀的样式借鉴了古代武士刀的特点，只不过短了一点。日本军队佩发军刀，是国内军国化的一大体现。
按照日本军方高层的规定，所有的军官都可以得到军刀。除了军官以外，军曹和曹长也可以得到军刀。也就是说，使用军刀的不一定就是日本军官，还有可能是高级士官。当时，不同的军官使用的军刀也不同，总的来说分为：将官刀、佐官刀、尉官刀和士官刀。在电视剧亮剑中，后勤主任就请李云龙帮忙弄一把佐官刀。在二战期间，日本军官们最喜欢擦拭军刀，一旦战败，有的军官还会用军刀自杀，这样的例子比比皆是。
认真的说，在二战中，各国武器都已经开始进入速射化时代。属于冷兵器时代的军刀根本没有多少实际作用，日本军官们的军刀，除了刷自我存在感，就只能欺负老百姓。在二战爆发之前，日本军队只有17个常备师团，总计50多万兵力。此时日本还有能力为军官和士官们佩发军刀，可是到了二战爆发之后，日本军队的数量大幅度扩大。日本无力继续免费佩发，所以，日本高层要求军官们需要花钱购买军刀。
在二战中，一些日本皇室成员也参军入伍。这些贵族们很有意思，这些贵族军官根本不使用军队佩发的军刀，而是都使用自己家族祖传的战刀。有的战刀不仅有皇族特殊的菊花图案，而且刀把上还镶着玉石。战争中，很多贵族战刀被盟军部队缴获。到了二战结束以后，日本那些贵族家庭，费了很大功夫也要赎回自己家族的战刀。