自元代开始，中国出现了一种新的行政区划制度，其最高一级的行政区划单位为行省(简称为省)，因此称为行省(省)制时期。此时期从13世纪后期至20世纪初，历经元、明、清三代。
省名起源甚早，魏晋时期已有尚书省、中书省之称，然皆为中枢要署，不直辖地方。隋文帝于开皇八年(588年)伐陈，曾置淮南行省于寿春，但不久即废。金入主中原之初，曾出现过行省制度，在外地设立行尚书省，但为时短暂。
蒙古人兴起之后，仿金实行行省制度。元世祖一方面将尚书省并为中书省，总理朝政;另一方面，在地方设立若干行中书省，作为朝廷中书省在外地的代理机构。它最初是一种临时设置，并只管军事，后演变为兼管民政，其长官也由中央官吏演变为地方官吏。其间从伐金到灭宋，历经70余年，平宋以后成了元朝的行政区划单位 。
蒙古在太宗三年(1231年)即灭金的前三年，始立中书省，以著名的政治家、地理学家耶律楚材为中书令。入主中原后于宪宗初年(1251年)，在燕京等处置设行尚书省。
中统初年(1260年)，元世祖忽必烈改置行中书省，其后屡屡增多，但是一直到元贞年间(1295—1296年)行省的设置和辖区还都很不固定，即在忽必烈统一中国(1279年)后的20年中行省制并未固定下来，直到13世纪末、14世纪初的元成宗时期才开始固定，逐步形成元代省制行政区划。
元英宗至治时(1321—1322年)，全国划分为12个一级行政区：1个中书省、11个行中书省。
中书省为中央机构中书省的直辖地区，又称都省、腹里，包括今北京、天津、山西、河北、山东以及河南和内蒙的部分地区。
十一行中书省为岭北、辽阳、陕西、河南、江浙、江西、湖广、云南、四川、甘肃、征东。其中，征东行省即高丽国，行省负责人由高丽王兼，性质与内地行省不同，所以也有人认为只有10个行中书省。
元末，又分出许多行省，如中书省分出山东行省，江浙行省分出福建行省;有些行省区域过大，又划置分省，如福建行省内置建宁、汀州、泉州分省。可见，元末行省制也已开始混乱。