相信很多人心中的帝王形象都源自于《诗经》中的这句“普天之下，莫非王土;率土之滨，莫非王臣”，总感觉他们高高在上，可以为所欲为。实际上，帝王的权利并没有想象中大，他们不仅要与以宰相为首的士大夫共治天下，很多时候还受到“相权”的制约。
宰相制度源自于战国时期的“相府”，形成于秦汉时期。宰相“辅翼国家，典领百僚，协和万国”，位望极尊、权利极大，以至于朝廷经常出现两个权力中心，即“皇权”和“相权”。二者之间由于没有严格的分界线，皇权时常受到相权的制约，有时甚至被相权架空。
朱元璋创立明朝后，为防止受相权掣肘，做了一个大胆的决定，那就是废除宰相一职，仿照宋朝设立“华盖殿、武英殿、文渊阁、东阁诸大学士”，“特侍左右，备顾问”。
洪武时期，殿阁大学士只承担参谋的工作，皇帝“自操威柄，学士鲜所参决”。之后内阁权力虽然不断加重，中后期甚至出现夏言、严嵩等权臣，但因皆无善终，内阁始终未能对皇权产生冲击。
清军入关后，统治者有感于明朝的灭亡，对朋党防范甚严。同时由于清朝入关前采取议政制，即各部首领共同商议国策，清朝统治者决定沿袭明朝的内阁制，将权力集中在皇帝手中。铲除鳌拜党羽之后，康熙一度发出“天下大权当统于一”，“今天下大小事务皆朕一人亲理，无可旁贷，若将要务分任于人则断不可行”等感慨。
雍正元年，蒙古和硕特部首领罗卜藏丹津在青海爆发叛乱。叛乱虽然很快被年羹尧平定，但蒙古准噶尔部首领策妄阿拉布坦却也闻风而动，企图将蒙古、西藏、青海和新疆分裂出去，清帝国遭到了巨大的挑战。
战场局势瞬息万变，为了高效处理军情，同时也为了保密，雍正四年，怡亲王允祥、大学士张廷玉、户部尚书蒋廷锡奉旨在户部组建“军需房”，总管军需事务。
军机房的产生是临时性的军事需要而产生的，但西北用兵结束后，不仅没有被裁撤，反而在雍正十年变为“办理军机处”，铸造“办理军机印信”，从而成为常设机构。
乾隆即位之初，曾以军机处以“前朝败政”为由将其裁撤，同时成立以宗室亲王为核心的“总理事务处”。总理事务处本质上与军机处没有任何区别，两年后年轻的乾隆皇帝遂又令大学士鄂尔泰重设“军机处”，并将“办理“二字去掉，从此正式成为清政府核心权力机构。
军机处位高权重，却始终不在清政府正式衙门编制之列，军机大臣的所有权力均源自皇帝，仅以“秘书”机构的形象存在，“只供传述缮撰，而不能稍有赞画于其间”。
军机处的出现直接导致皇权专制被清政府发展到了一个极端的状态，但这却是个意外的结果。皇权专制是清朝入关后的重要决定，军机处成立之前，雍正因继位的合法性问题受到多方威胁，而采取强硬手段将权力高度集中在皇帝手中。
其实雍正并不需要军机处来加强皇权，只不过在处理临时军务时，但雍正却发现了军机处作为“秘书”机构的好处。正如乾隆皇帝曾说：“乾纲独断，乃本朝家法。自皇祖皇考以来，一切用人听言，大权从未旁假。即左右亲信大臣，亦未有能荣辱人、生死人者。盖与其权移于下，而作威作福，肆行无忌，何若操之自上，而当宽而宽，当严而严。此朕所恪守前规，不敢稍懈者。”
可即便皇帝如何勤政，心力体力总是有限的，康熙晚年诸事均以“宽仁为尚”，盖因力不从心，无法面面俱到。雍正费劲千辛万苦才将大权独揽在手中，又怎肯下放给议政大臣和内阁学士，军机处的出现正好破解了这一难题。