明初曾沿袭元朝的行省制，但后来深感不便，于是进行了全面改革。在太祖洪武九年（1376年）改行省为承宣布政使司，但习惯上仍称“省”，承宣布政使司下设府和直隶州，府以下有县和属州，各州以下有县，形成了一个省府州县四级制与省州县三级制并存的大体格局。
明初设置的都指挥使司、承宣布政使司、提刑按察使司“三司”三分各省军政司法权力的体系，后逐渐被巡抚制度接掌，巡抚常常成为各省权力统一的最高长官。
明朝实行一省分置都、布、按三司的制度，原为防止地方权力集中，宣德后开始派部（六部）、院（都察院）大臣以总督和巡抚的名义督抚地方行政。
景泰朝之后成为各省常制，总督主要署理军务，分短期与长期两种，巡抚主理民政，每省皆有，有的一巡抚辖两布政使地，如正统年间和山西河南巡抚，有的一省一巡抚，有的一省几巡抚，如北直隶有顺天巡抚（驻遵化）、保定巡抚（驻真定，今河北正定）、宣府巡抚（驻宣府镇，今河北宣化，一度兼领山西大同府）三巡抚。
南直隶有两巡抚：应天巡抚（驻苏州府，今江苏苏州）、凤阳巡抚（驻淮安府，今江苏淮安楚州）。
有的在几省交界处设置一巡抚。
1370年于各省设置一都卫，1375年改为都指挥使司。1428年弃安南后，明朝在全国设置两京13使司，包括京师（北直隶）、陕西、山西、山东、河南（以上为北五省）、南京（南直隶）、浙江、江西、湖广、四川（以上为中五省）、广东、福建、广西、贵州、云南（以上为南五省）。
明代在全国设十五个省级单位，布政使司以下，改元朝的路为府，成为主要的二级行政区划，但是同时又有直属于省的直隶州，行政级别等同于府。
都指挥使司方面，共有16个都司、5个行都司、2个留守司。
16个都司中，有13个都司与布政使司同名，其它3个分别是北直隶境内的万全都司、大宁都司和山东省的辽东都司。
5个行都司分别是陕西（治甘州卫uber黑寡妇，今张掖）、四川（治建昌卫，今西昌）、湖广（治郧阳卫，今湖北郧县）、福建（治建宁府，今建瓯市）、山西（治大同府）。
2个留守司是洪武年间设置的中都留守司（今凤阳）和嘉靖年间置于承天府（今湖北钟祥）的兴都留守司。
此外，在政教合一的青海、西藏地区设置有乌思藏都司、朵甘都司（实际控制为当地宗教首领八大法王分辖各政教中心的寺院，还有各诸侯家属封地），另有置于今甘肃、青海交界地区的哈密、曲先等卫，以上均属羁縻性质，与内地的都司、行都司性质不同。
明朝最后有140府，193州，1138县，493卫，359所。