关于监狱的说法源远流长，最早有关这一工具的出现是在夏朝，那个时候还统称为“夏台”或者是“圜”，商朝的时候，有了一个新的称呼叫做“圉”。现在看这俩字有点陌生，因为无论是“圜”还是“圉”都是甲骨文中的说法，发展到后来，这俩字逐渐演变成了很多人所熟悉的监狱的俗称，那就是“囹圄”，所谓身陷囹圄，就是出源于此。
从春秋开始，牢狱开始被用来重点关押犯人，但那个时候很少会对人处以极刑，多是劳改、教育为主，直到秦朝，伴随着封建帝制的出现，监狱才产生了新的用途，被当成刑罚的工具使用。与此同时产生的，还有管理犯人的《囚律》的出现。当然，狱这个字的出现，是在汉朝。
也正是从那个时候开始，牢狱开始分门别类，划分等级，比如说内宫，居室，保宫等等。不完全统计，当时汉朝的监狱，已经超过了2000多间，而且这么多的监狱，都是统一规划，统一管理，堪称是“连锁店”性质。同时产生的，还有通俗一点称呼的天牢和地牢。
天牢这个词，泛称地势险峻，易入难出的地方，古代行军打仗的时候，经常被提及。相对来说，地牢就简单得多了，最开始的地牢，有点像现在的地窖，就是挖地为狱，将人囚禁。
定义的不同，也代表着进入两个场所的对象的待遇有所不同。通常来说，历来的天牢都是设立在京城之内的，进来的犯人，非富即贵，通常只有皇帝御审，才有资格被关进来。所以相对来说，在天牢，所谓的屈打成招并不多，除了少数站错了队的，其他的都是按照皇帝的意愿来执行。但没有屈打成招并不代表没有冤案，毕竟很多事情都在皇帝的一念之间。而且进来的人，也通常明白金口玉言这样的道理，除非有特别硬的关系或者大聪明的人，很少有翻供的情况出现。
相对而言，地牢不但环境恶劣，还以私刑横行而著名。毕竟越往底层，一些律法无法管制到的也就越常见了。当然，没有对比就没有伤害，只要有钱，在这里除了没有自由，其它的其实统统和外面一样。举个例子，甲午中日战争期间，因为不战而降被关押到地牢的将领叶世超就曾坦承，进了监狱，完全就是享受来的。当然，代价也有点大，那就是“日实用六千四百金”。所谓的有钱能使鬼推磨，大抵如此。相反，如果没有打点的钱财，则只能在身体上付出点代价了。