地方政府的官员必须住在衙署内，出于履行职责、方便工作、环境安全和廉政保密等多方面的需要。据《东观奏记》等史书记载，唐代宣宗时，崔郢任京兆尹，发生了“囚徒逸狱而走”事件，皇帝遂“命造京兆尹廨宅”于衙内，并严申“京兆尹不得离府”。因知这个制度至少在唐代就已经有了。《水浒传》第二十一回，写唐牛儿想帮助正被阎婆缠住的宋江脱身，撒谎说：“知县相公在厅上发作，着四五替公人来下处寻押司……”阎婆立刻揭穿他道：“这早晚知县自回衙去，和夫人吃酒取乐，有甚么事务得发作?”这里所谓“回衙”，就是回到郓城知县和夫人住房所在的内衙。所以这一段对话，也是宋代地方官员及随任家属都住衙门的佐证。这个制度，一直维持到明清。宜加说明的是，长官及其眷属所住的院落，通常都是相对而言位置最好的所在，通称“上房”;复以男女防嫌的缘故，其封闭性也很强，特别是女眷，一般是不走出来的。哲学家冯友兰的父亲曾在晚清时署理崇阳知县，所以他也有过跟着父母居住后衙的经历，其在《三松堂自序》里回忆说——
进了宅门，往西边拐，就是花厅，是县官会客的地方。花厅西头，有一个套间，叫签押房，是县官办公的地方。花厅后边，隔一个院子，就是上房。母亲领着我们都住在上房里面。还有厨房和其他零碎房屋，都在东边的院子里。这个格局和体制，大概各州县衙门都是一样。其实，如果是条件较好的衙门，内衙生活区内尚有池榭假山、凉亭台阁等人工景观，供那些被圈在院子里的太太小姐等女眷走动散心。如明代嘉靖《江阴县志》卷1述江阴县衙内的建筑，就有若梅亭、练江亭、翠光亭、漾花池、莲风阁等多种名色。
书吏们的宿舍，多盖在衙署大堂以南、仪门以内的两侧。明代嘉靖《江阴县志》记载县衙建制，谓“吏胥居庐则分列六房廊舍之后”，有一定的代表性。又嘉靖《南宁府志》卷4记载该府所属宣化、武缘、横州、永淳、上思、隆安共两州四县的衙门建设，多有“吏舍”一项，可知吏员应住机关宿舍，在明代还是普遍现象。吏员宿舍的多少，大约同在编吏员的人数有关。如万历《营山县志》卷2记县衙建筑共有“吏舍二十二间”，以每间居住三到四人计，推算该衙门约有七八十个在编制内的吏员。弘治《句容县志》卷2记该衙门的建筑，吏舍有40间，那么其在编吏数就可以一百四五十人推度了。
吏员的宿舍，多处在夹院位置，居住条件比内衙要差得多。如正德《新乡县志》卷2述该县衙署的吏舍，“墙不及肩，茅不蔽日”，不堪忍受者“甚有寄居市井的”，不过这又违背了严禁吏员在衙外住宿的制度。后来新知县到任，“遂废旧址，构新屋。以连计，七;以间计，六十有六，极为完美”。对吏员而言，此为碰上了关心下级生活的好领导;对领导而言，则是同时落实了规章制度，所谓两全其美。不过制度都是写在纸面上的东西，是否切实遵守又是一回事。比如《水浒传》里的宋江，不就是在“县西巷内讨了一所楼房”，包养了一个带丈母娘的小蜜阎婆惜吗?再往后他的同事张文远也和阎婆惜姘上了，“如胶似漆，夜去明来”，又是一个不守规矩的好押司!