1367年，朱元璋在平定南方的陈友谅势力后，率领大军开始北伐元朝战争。外强中干的元朝面对朱元璋的北进锋芒，迅速败退，仅十个月时间，便攻进了元朝大都，将元朝的残余势力赶回了漠北地区。
迅速败退的元朝在退至漠北士依然拥有着强大的军事力量，并且征服了漠北地区其他势力，重新建立起了政权，后世史学家称其为“北元”，北元终明一朝都是明朝的最大的敌人。
面对有着保存着强大力量的元朝残余势力，当时主持北伐的徐达和常遇春为何不趁势一举消灭?这个问题着实让人有些不解。其实不对元朝残余势力做出消灭性打击是朱元璋的主张，而朱元璋做出这个决定也不是因为大意，而是对当时天下形势进行详细分析而做出的重大的战略决定。
明军虽然驱逐了元朝残余势力，开始了对天下的统治，但是明朝的江山并不稳固。首先便是北元势力依然强劲。据史书记载北元：
“引弓之土，不下百万众也;归附之部落。不下数千里也。”
虽然这里元军号称不下百万之众，有吹嘘的成分，但是不能否认元军此时依旧实力强劲，有再次发动战争的实力。
当时明军虽然占领了北平，但是对北平周围的北元势力并没有肃清。北平北方是元朝的岭北行省，更是直面北元的地区，北元左侧是元朝辽阳形成，北平左侧是元朝的陕西行省和甘肃行省。当时的北平可谓是三面受敌，北元可以随时三面出击进攻北平。
如果此时贸然出兵进入漠北，便是孤军深入，很大可能就是羊入虎口，而且北元势力可能迅速反扑，威胁明朝统治。
北元在除了北平周围控制着大量的领土，远在云南地区，这一地区的统治者元朝开国皇帝的后裔梁王依然称臣于元顺帝。
面对依然有些强大的势力的北元，朱元璋审时度势，以天命气运之论决定不继续对北元进行打击，转向致力于加强对已经占领地区进行统治。
朱元璋放弃趁胜消灭北元，但是北元却没有放弃对中原的反扑。1369年，北元经过两年的准备，在明军助力转战其他地区的时候，陪也速率领能征善战的骑兵4万余奔袭北平。
面对北元的骑兵攻势，北平守军采取了正确的防御措施，用火器给也速也沉重打击。同年，移军陕西的明军消灭了陕西诸州的北元势力，将陕西行省纳入明朝通知。
在明军经营陕西之时，也速再次率军进行反扑。朱元璋急命常遇春和李文忠率军回防北平，不但击退了也速军，而且出兵进入漠北，把元顺帝赶到更北地区。
与此同时，名将徐达率领明军对退守甘肃的王保保发动了猛烈的攻击，一举消灭了王保保的势力，明军得以遏守住了太行山两侧，解决对北平最直接的威胁。
朱元璋为了巩固在新占领地区统治，在这些地区广置卫所，同时还把自己的三个儿子分封到这些地区作藩王，其中三子朱棣被封为燕王，镇守北平，势力最为强大。
朱元璋在占领北平后，便着力对北平周围的北元势力进行清扫。经过多年的努力，终于稳定了国防，而且明朝国力逐渐强大，朱元璋决定派徐达、李文忠、冯胜兵分三路企图彻底消灭北元。
由于明军对气候的不适应和地理的不熟悉，再加上孤军深入，徐达和李文忠所率大军遭到了北元军猛烈攻击，伤亡惨重，只有冯胜军取得一定的胜利。
此次战败后朱元璋吸取经验，改变了作战方案，采取避开北元主力，而绕道两边，攻其两翼。虽然北元取得了胜利，但也付出了很大的代价，一时无力对明朝发动进攻，只得等待实力的恢复。
在这段时间内，北元不但没有恢复实力，反而由于王保保和元昭宗的相继去世，导致实力大损。
面对北元实力的衰退，朱元璋决定再次对北元发动进攻。1382年明军攻灭了云南的梁王势力，1387年明军降服了纳哈出，1388年明军与北元对峙决战，结果大获全胜的，摧毁了北元政权，北元大汉脱古思帖儿败逃，但在逃跑过程中被也速迭儿用弓弦勒死。
北元政权覆灭后，漠北草原陷入混乱之中，所以在1402年朱棣发动靖难之役时，蒙古各部落忙于内战完全没有时间南下反扑北平，而且北京在朱棣的经营下，实力强劲，蒙古部落也不敢南下。