1368年，平民天子朱元璋强势建国，新兴的大明王朝只用了不到一年时间就终结了元王朝在中原地区的统治。
这也创造了一个奇迹，历代王朝统一都是北方政权征服南方，而这一次，历史的快车诡异地颠倒了顺序，崛起于南方的明王朝一举灭亡了北方王朝，而这个北方王朝的强大曾经让欧亚无数帝国为之战栗不已。
明朝虽然灭亡了元朝，但是残元实力仍然十分强大。
谷应泰《明史纪事本末》第十卷记载当时的情形:“顺帝北出渔阳，旋舆大漠，整复故都，不失旧物，元亡而实未始亡耳。於时忽答一军驻云州，王保保一军驻沈儿塔，纳哈出一军驻金山，失喇罕一军驻西凉，引弓之士，不下百万众也，归附之部落，不下数千里也，资装铠仗，尚赖而用也，驼马牛羊，尚全而有也。”
元顺帝带领政府要员成建制地撤出到漠北，他身边的禁卫军得以完整地保留下来，而且漠北蒙古上都等处依然驻守着大量战斗力惊人的镇戍部队。就拿洪武元年的政治态势来说，山西有王保保，陕西有李思齐，各自拥兵数十万;陕甘地区有张良弼、脱列伯等各自拥兵万人;辽阳行省还得以成建制地保存下来，也先不花、纳哈出、刘益各自拥重兵据守;梁王巴匝刺瓦尔密占据云南，效忠北元。
各地元军有战斗力的军队不下百万之众。
为了防备北元南下，朱元璋在北疆设立诸多羁縻卫所、修筑长城和设立重镇。
他深知北元是明王朝最强大的敌人，时刻准备迎接来自塞北的挑战。北元屡次侵扰，朱元璋口中的“奇男子”王保保成了明军的劲敌，明军吃了好几次他的大亏。
洪武五年(1372)，朱元璋登上御武楼，跟诸位将领谈起了边事。看到皇上忧心忡忡的样子，魏国公徐达主动请缨，朱元璋命魏国公徐达为征虏大将军，统率中路军;曹国公李文忠率东路军，宋国公冯胜出西路。三路大军共十五万出击北元。这次大战也被称作岭北之战，一向谨慎的徐达这一次大战中了王保保诱敌深入之计。
这也是蒙古骑兵惯用的战术，先示弱而退，引诱敌军进入包围圈，然后给予敌军致命一击。
东路军一开始进展顺利，但是得知了中路军战败撤退的消息后，担心自己成为孤军的李文忠下令撤军。在途中明军迷路，很多士兵饥渴而死。
在与北元军交战中，损失了宣宁侯曹良臣、周显、张耀等将领。这一次北征遭到了重创，这也是明与北元战史上，明朝方面最惨重的一次失败。之后明朝与北元在北方开展了拉锯战，双方互有胜负。
后来蓝玉虽然取得了捕鱼儿海大战的胜利，但是随着一大批开国功臣的凋零，朱元璋只好把北部边防的重任交给了自己的儿子们。直到朱元璋病逝之前，最令他牵挂的还是北方的边防。