朱元璋幼时贫穷，曾为地主放牛。1344年(元至正四年)，入皇觉寺，25岁时参加郭子兴领导的红巾军反抗元朝，1356年(至正十六年)被部下诸将奉为吴国公。同年，攻占集庆路，将其改为应天府。1368年(至正二十八年)朱元璋击破各路农民起义军后，在应天府称帝，国号大明，年号洪武。后结束了蒙元在中原的统治，平定四川、广西、甘肃、云南等地，最终统一中国。
明朝建立之处，在哪里建都朱元璋颇费了一番脑筋。
虽然已经在南京(应天府)称帝，但朱元璋对在南京建都并不是很中意。他认为，自古大的王朝都是在北方建都，南方毕竟偏居一隅，不太适合统治天下，且定都南京的六朝几乎都在魏晋南北朝期间诞生，国祚都相对较短，60年算是最长的了，也就算是个割据政权罢了。
洪武元年(1368)四月，朱元璋亲率大军北去汴梁(今河南省开封市)视察，想就北宋汴梁都城之旧日。视察后，改汴梁路为开封府，准备在那里营建都城。但是开封也有一个致命弱点，就是四面受敌，无险可守，当年北宋之所以弱，跟定都汴梁有很大关系。为了防御敌国入侵，北宋在汴梁集结重兵，号称八十万之多，以至于消耗太大，最终把国家拖垮，所以有历史学家认为北宋就亡在“养兵”。宋亡之鉴犹在眼前，朱元璋权衡利弊，把定都汴梁的想法放弃了。
经过反复斟酌和考虑，朱元璋决定以家乡临濠(濠州于1367年改为临濠府今安徽省滁州市凤阳县)为中都。在洪武二年(1369)，以新王朝之威势，集中人力物力，派李善长等督建中都凤阳。大肆营造宫室，雕龙画凤，一切堪称精美。
不想此举遭到群臣驳倒，大家认为凤阳并不适合营为都城，另外营造这样奢侈、糜掷强大的工程，和元末舍本逐末骄奢淫逸步履有何不合?群臣的慢慢相似当头棒喝，把朱元璋敲醒了，遂停建中都。
洪武二十四年(1391年)，朱元璋派太子朱标巡视关中，并详细考察了西安地形，倾向于选择西安为国都。然而世事难料，朱标第二年四月不幸病逝，年近七十的朱元璋受到沉重打击，迁都之事遂罢。
直到最后朱元璋才正式将南京作为都城。明初的南京城自外而内，有外城、京城(内城)、皇城、宫城四层。内城周长九十六里，外城周长一百八十里，是当时世界上最大的城市。
传闻，朱元璋在南京建都时命刘伯温占卜选址。当城墙修好后，刘伯温陪朱元璋巡视。朱元璋见工程坚固，很是高兴,说:“这墙谁能越过?”刘伯温随口答道：“除非燕子飞过!”南京城墙很坚固，历经600多年风雨，甚至在日军炮火下都坚决耸立。不过当时刘伯温的话里有话，一语成谶，数年后，“燕子”确实飞过了南京城。这只“燕子”就是燕王朱棣，攻破南京，夺去了江山。