追根溯源，中国的监狱起源于夏代的丛棘，亦称“棘丛”。棘，植物名，亦称“酸枣树”，多生于山中和野外，开绿色小花，叶呈椭圆形，茎上多尖刺，秋后枝干老化，尖刺更加坚硬锐利。为了惩罚战俘和奴隶，奴隶主就到山上砍来山枣树，编成围墙，将囚犯困人丝棘之中，“系用徽墨，(置)于丛棘。”到了商代监狱逐渐发展为“牢”。《说文解字》译为“牢，闲养牛马圈也”，也就是为了防止奴隶脱身，奴隶主将奴隶用绳索捆绑起来，圈于“牢”内，不使脱逃，后又发展为“画地为牢”。意为画地为圈，坐圈为牢。传说周文王会推算八卦，犯人不能越圈。这只适用普通罪犯，对重要人物，则另行关押。周文王就是被囚禁于河南汤阴姜里城的，现已成为旅游区。周代的监狱多称作“圜土”，“筑土表墙，其形圜也”。也作囹圄，意为令囚犯闭门思过，改恶为善。春秋战国时代将监狱称之为“狴犴”。“狴”、“犴”是两种传说中的兽名，因在牢门上常画它们的形状，故将监狱称之为“狴犴”。其实，“狴犴”是牢狱一种，且多为石室。越王勾践就是被囚于吴国的狴犴--石室。秦代的监狱逐步分为中央狱和地方狱，李斯和赵高均囚于成阳狱。
经过风雨的洗涤，岁月的锤炼，历史的演义，监狱到了汉代逐步炼成，也就是说将囚禁罪犯的场所逐渐称之为“狱”，是从汉代开始的;把囚犯细化、分类是从汉代开始的;把监狱的设置、管理，以及对囚犯的惩罚和劳作提到议事日程是从汉代开始的。据史料记载，西汉时期，郡县普遍设狱，且名目繁多，全国约有两千所监狱，仅京城直属监狱就达26座，主要囚禁将相大臣、郡县主官、宫中嫔妃、无赖、凶犯、强盗等。除了监狱规格、体制、管理在汉代得到了发展之外，汉代的治狱策略也逐步成形，如“优礼长吏”，即狱卒不得辱骂、殴打有罪官员;“颂系”，意宽容，即对老年犯和孕妇犯不得上刑;“呼囚录囚”，即囚犯感觉冤枉可以上述;还有“病给医药”、“听妻入狱”、“纵囚归家”、“孕妇缓刑”等，基本上奠定了中国监狱的基础。
“廷，平也，治狱贵干，古以为号。”，“尉”，是武官的名称，因武官与狱官共制，故称刑狱之官为“尉”。廷尉诏狱，是廷尉按皇帝旨意管理的监狱，主要囚禁将相大臣、皇亲国戚。
汉代名将周勃曾率兵击败项羽，屡立战功，又与陈平合谋诛杀诸吕，立刘恒为帝。但在他归隐后有人告他谋反，文帝将其逮捕，关押于京城廷尉诏狱。周勃一生，为人诚实，缺少文化，面对冷墙铁壁，一筹莫展。后在狱卒的点拨下，才敢传书薄太后，并让自己的儿媳、文帝的公主作证，才幸免一死，官复原职。老周虽逃过了牢狱之灾，但小周亚夫却未能幸免，终因“谋反之罪”，重蹈覆辙，被关押于廷尉诏狱，后绝食身亡。