另设内阁供皇帝做为顾问。内阁大学士的权力不如宰相，只有「票拟」权力，先送宦官，再由宦官上呈与皇帝。从此明朝名义上再无丞相一职，后来在永乐帝后由内阁首辅实质取代。
洪武十三年(1380年)，明太祖以“谋不轨”罪诛宰相胡惟庸九族，同时杀御史大夫陈宁、中丞涂节等数人。洪武二十三年(1390年)，朱元璋颁布《昭示奸党录》，以伙同胡惟庸谋不轨罪，处死韩国公李善长、列侯陆仲亨、已故的滕国公顾时的子孙等开国功臣。后又以胡惟庸通倭、通元(北元)，究其党羽，前后共诛杀3万余人，时称“胡狱”。
背景
洪武六年(1373年)，淮西朋党集团的领袖李善长推荐其同乡兼姻亲胡惟庸担任右丞相。洪武十年(1377年)九月，胡惟庸升任左丞相。他做了七年丞相，任期内在朝中遍植朋党，不遗余力地打击异己，使得淮西朋党集团的势力不断膨胀。譬如，浙江青田人刘基，曾辅佐朱元璋，立下过汗马功劳，但由于他与淮西朋党集团的矛盾，一直未受重用。
明朝开国后，朱元璋大封功臣，刘基仅封为诚意伯，岁禄只有240石。而李善长则功封韩国公，岁禄4000石。翌年，刘基告老还乡。然而，由于他曾对朱元璋说过胡惟庸不宜入相的话，故而深受后者的嫉恨，被解雇革去岁禄。洪武八年(1375年)，刘基生病，胡惟庸派医生前去看望，但刘基服药后不久便一命归西。
当然，排斥异己还不是胡惟庸案的关键所在。事实上，胡案的症结在于——他为人过于独断专行，许多生杀黜陟等重大案件，他往往不向朱元璋请示，就擅自加以处理。这自然让权力欲极强的朱元璋，深感宰相专权、皇权旁落的危机。
经过
洪武十三年(1380)正月，丞相胡惟庸称其旧宅井里涌出醴泉，此为祥瑞，并借此邀请朱元璋前来观赏。朱元璋欣然前往，走到西华门时，太监云奇紧拉住缰绳，急不能言，拼命指向胡家。朱元璋感觉事态严重，立即返回，登上宫城时，发现胡惟庸家上空尘土飞扬，墙道都藏有士兵。大怒，以“枉法诬贤”、“蠹害政治”等罪名，当天处死胡惟庸、陈宁等。
同时藉辞穷追其友好，包括开国第一功臣韩国公李善长等大批元勋宿将皆受株连，牵连致死者三万余人，史称胡惟庸案。胡惟庸案与蓝玉案合称胡蓝之狱，诛灭直到洪武二十五年(1392)方告结束。
洪武十八年(1385)，有人告发李存义与其子李佑，曾同胡惟庸谋逆。洪武十九年(1386年)明州卫指挥林贤通倭事发，经审讯得知，是受胡惟庸指使。李善长为了大兴土木，向信国公汤和借用卫卒300名。汤和暗中向朱元璋报告。朱元璋颁敕李善长以“元勋国戚，知逆谋不举，狐疑观望怀两端，大逆不道”，其妻等70余人被。
陆仲亨的家奴告发陆仲亨与唐胜宗、费聚、赵雄三名侯爵，曾串通胡惟庸“共谋不轨”。宋濂的孙子宋慎亦受牵连被杀，宋濂本人贬死四川茅州。朱元璋特地颁布《昭示奸党录》。
然而经历史学家考证，并没有太监拉缰绳从而阻止朱元璋进入胡家这回事。云奇这个人物也仅仅是正史捏造出来的。