历史上，何时开始出现“吃空饷”现象?先秦时代，由于是世袭贵族社会，无论是地方的“官”，还是军队里的将领，都是有分封领地的贵族，并不领取“俸禄”，而且士卒当兵打仗只是服劳役，也没有军饷可领，因而自然也就不会有所谓“吃空饷”的问题。只有到了秦汉大一统之后，随着世卿贵族社会的解体，由朝廷付给的俸禄代替了此前的封地，“吃空饷”才有了存在的可能。1975年在湖北云梦出土的《睡虎地秦简》中，就出现有“不当禀军中而禀者，皆赀二甲”律文，即是专门针对冒领军粮的处罚，说明到了秦代军中已经出现了虚报名额冒领军粮的现象，可谓中国古代“吃空饷”最早源头。
中国古代军队出现大规模“吃空饷”弊端，是中唐以后的事情。随着时间的推移，隋唐时期一直实行的府兵制到了唐代中期已经名存实亡，不得不改为了募兵制，士卒载于军籍并由朝廷按册支付军饷、供给，由此给统兵将领打开了虚报兵额、冒领军饷物资的方便之门，军队“吃空饷”现象也就十分普遍。唐代宗时期的大诗人白居易，形容当时军队“吃空饷”的乱象时说：天下各地统兵之将，无不捏浮报军籍以冒领粮饷，按实核计，真正实存的兵数不到十之六七，如果出现战死、逃亡情况，则十年之内实际兵数又将减少十之二三。全国军队“有籍无人”的比例竟然已达到了一半以上，足见其时“吃空饷”问题之严重。不仅如此，即使实际在籍的兵员中，还存在很多隐形“吃空饷”的现象，不少士卒不过是按时应卯，平时却各有营生，甚至有士卒终日市场摆摊做小买卖。
延至宋代，军队“吃空饷”的现象更是激增。据《宋史》《续资治通鉴长编》等史书记载，北宋开国之初军队“吃空饷”的问题就已经极为严重。例如，宋仁宗时期的中央禁军，按照正常编制，应该是以马军四百、步军五百为一指挥，但是“额存而兵阙”、不满编的情况比比皆是，大多数指挥仅有马军数十骑、步军也不过二百余，虚报兵额超过半数。一直困扰北宋始终的“三冗”之弊中，因“吃空饷”而起的就有“冗兵”、“冗费”两项，三占其二。“吃空饷”泛滥，军队虚空，最终也导致了北宋国防虚弱不堪。
明清时期，军队“吃空饷”现象可谓花样翻新、变本加厉。本来，明朝肇建之初，明太祖朱元璋鉴于宋代募兵制造成的“冗费”、“冗兵”之害，回头改行“兵农合一”的“军户”制度，被划为“军户”之家能分到一块土地，战时出征，平时务农，并不从朝廷支取粮饷，因此也一度杜绝了“吃空饷”的可能。但是，这种不分良莠、强制限定军籍的军户制度，时间一久不可避免地会走上僵化、衰落之路。由于军户兵弱不堪用，明代后期又重行募兵制，“吃空饷”的历史老问题也就如影随形地出现，到了明代末期已相较之唐、宋有过之而无不及。
明末军队“吃空饷”严重到了何种程度?从袁崇焕诛杀毛文龙后，向朝廷报告毛文龙的罪状书中，我们可以略窥其大致情形：按照袁崇焕的报告，毛文龙任左都督、平辽总兵，所辖东江(皮岛)加上老幼平民总数不过四万七千余人，其中实际士兵数额不足两万，但是虚报朝廷其兵数为“十万”，私设领兵将领多达千人。以不足两万之数，虚报十万之众支取粮饷，其中将近八万之“空饷”，自然是落入了毛文龙以下各级将领的私囊。按照史书记载，毛文龙在被袁崇焕诛杀之前，因为“上事多浮夸，索饷又过多，岁百二十万，兵二十万，朝论多疑而厌之”，可见其部队“吃空饷”早已不是什么秘密。明末军队“吃空饷”之害，仅此就可见一斑。
清代入关之后，军队编制有八旗与绿营之分，两者差别很大，但都普遍存在有“吃空饷”的严重问题。八旗军属于职业兵，旗人除了当兵吃粮之外被禁止从事其他各业，因此未当兵的旗人实际上可以合法地“吃空饷”。清乾隆皇帝曾一度核查云南绿营驻军粮饷情况，结果发现绿营上下“吃空饷”早已是不成文的规矩，如开化镇额定驻军应该有一百八十五人，但实际兵丁数仅七十一人，有一百一十四人是在“吃空饷”，有营官甚至将自己不满十岁的亲属编入册籍支领钱粮。而且还出现了军队里的空饷名额不仅可花钱贿买，还可以父子相传，并且美其名曰“荫粮”、“荫德”，“吃空饷”俨然已经走向了公开化、合法化。