其实在明朝建立之初的时候，是有丞相这一职位的，并且明代有很多人担任过丞相一职。但是由于“胡惟庸案件”发生之后，朱元璋就直接废除可丞相这个职位。因为朱元璋是一个很勤奋的皇帝，他可谓是“夙兴夜寐”。但是自己一人的精力是有限的，他在组训中又亲自废除了这个制度，永远不设立丞相，并不是每个皇帝都是朱元璋，那么就只能变通一下内阁首辅就应运而生。
内阁首辅最大的权力，就是在朝廷重要文书上拟定处理意见，供皇帝采纳。这就是通俗所称“票拟”。皇帝经过审阅后，用红笔对“票拟”进行拍板定案，这就是通常所称“批红”。内阁首辅权力的大小、地位的高低，取决于皇帝对“票拟”的采纳程度。皇帝采纳得越多，内阁首辅自然权力就越大、地位就越高、面子上就越又光彩。反之亦然。内阁首辅，即内阁中位列第一的辅臣。在明代，“首辅”是对内阁大学士(少数以翰林学士入直内阁)中位居第一者的尊称，与内阁”次辅“、”群辅“相对，一说大致产生于明英宗天顺年间，始自李贤;另有从明仁宗时大学士初兼师保之官的杨士奇起算从明成祖创建内阁时起算从明世宗在位期间起算等说法。朱棣设置了以殿阁大学士为主体的内阁，成员有数人不等，官秩为正五品，主要为皇帝提供咨政建议。及至后来，内阁大学士的权力越来越大，不仅仅是为皇帝提供咨政建议，还参与到军国大事的决策。到嘉靖时期，内阁大学士上朝的班次已在六部尚书之上，成为事实上的中书省。内阁首辅，虽然没有丞相知名，然而已经成为事实上的丞相。
建文四年(1402年)八月，朱棣派翰林院官员解缙、胡广、杨荣等七人入午门值文渊阁，参预机务，渐有“内阁”之称。起初，内阁诸辅臣虽有位次先后，但地位相近，职权也没有明显差异。后来，阁臣逐渐分化，“三杨”和陈循相继在内阁中拥有了相对特殊的地位。
大致到天顺、成化年间李贤为首席辅臣期间，“首辅”产生并逐渐制度化。到嘉靖年间，在谕旨、诏令中，明世宗首次正式使用首辅、元辅、首臣、首相等对首席内阁大学士加以称呼。
嘉靖、隆庆至万历初年，内阁首辅权力较重。在内阁中，他们趋于专断票拟，不仅主稿，而且不容其他阁臣置喙;在内阁外，他们对六部的影响力也较为强大。
与此同时，张璁、夏言、严嵩、徐阶、高拱、张居正等人相继围绕首辅之位展开激烈争夺。至张居正，内阁首辅的权力达到顶峰，一方面他是内阁的长官，阁僚则降为首辅的属员;另一方面，部院员缺，特别是吏、兵二部尚书的推用，实际也均由张居正决定。
张居正死后，内阁首辅的权力在皇帝的不信任、内阁与六部的斗争以及宦官权力再次膨胀的情况下走向衰落。包括内阁首辅在内的内阁大臣大都碌碌无为，浮沉守位，没有再出现此前一类”权臣“。