1368年，元惠宗妥欢贴睦尔退至上都(今内蒙古正蓝旗境内)。蒙古贵族在退回北方草原后继续保持着政权，这个政权史称"北元"。
南北对峙的开始
统治全国的元朝灭亡之后，蒙古贵族仍然企图重新入主中原，不断组织力量反攻。明朝为了巩固自己的统治，对蒙古采取征讨和招抚并用的策略。其结果，双方都没有能够如愿以偿，形成了南北对峙的局面。
北元初期，蒙古贵族依靠的力量主要有三枝：元河南王扩廓帖木儿(又名王保保)率领十余万军队，占据山西、甘肃方面。北元丞相纳哈出拥二十余万众据守辽东。元梁王管辖之下的云南还有十余万军队，策应北元皇帝的军事行动。此外，北元与东面的高丽、西面的畏兀儿地区仍旧保持着政|治经济的联系。
1368年冬，惠宗命扩廓帖木儿从山西出兵夺回大都，军行途中，明将徐达乘虚袭击他的后方太原。扩廓帖木儿回师救援，正中计谋，被明军袭破大营。折兵四万，仅率十八骑逃入甘肃。山西被明朝占据。
1369年春夏，北元远相也速几次进攻通州(今北京通县)，都被明军击退。明军乘势北进。惠宗从上都退往应昌(今内蒙古克什克腾旗达里诺尔西岸)，宗王庆生、平章鼎住被明军追及擒杀，一万将士被俘。
上都陷落。
1370年四月，驻守在沈儿峪口(今甘肃定西县北)的扩廓帖木儿与徐达率领的明军激战。扩廓帖木儿大败，仅与妻子和少数随从北渡黄河，跑到漠北和林，陕西、甘肃也被明朝占据。
是月，惠宗死于应昌。五月，明军围应昌城，一日而下，惠宗之孙买的里八刺及后妃、诸王、官吏等多人被俘，解往京师。惠宗之子爱酞识理达腊率数十骑逃往和林，与扩廓帖木儿会合。
这一年，爱酞识理达腊即皇帝位，称必力克图汗，年号宣光(137I一1378)，后诺昭宗。
北元节节败退，明朝打算乘胜彻底打垮它的势力，以绝后患。1372年，明军十五万分东西中三路进攻北元。东路军一直进至胪朐 河(今克鲁伦河)、土刺河、阿鲁浑河(今鄂尔浑河)和称海(今蒙古西北哈腊乌斯湖南)，打败了所遇到的北元军队，但因征程辽远，常乏水草，又遭到北元军顽强的抵抗，自身的损失也很严重。西路军在甘肃永昌、扫林山〔在肃北〕等地击败数枝北元军，并进至亦集乃路(今内蒙古额济纳旗境)，降其守军，再入瓜州(今甘肃安西东)、沙州(今甘肃敦煌西)，取得了一定的胜利。中路军由徐达统率，在土刺河打败扩廓帖木儿的军队，随后扩廓贴木儿与北元将领贺宗哲合军，向徐达的主力发起进攻，将徐打败，明军死亡万余人，中路军的另一枝军队也被打败。总的看来，这一次明朝对北元的战争，以失利告终。明朝在短时期内再不敢深入北方草原作战，北元则争取了喘息时间，双方在边境地区不断发生拉据式的冲突，其中以北元方面的失败居多。1375年〔宣光五年，洪武八年〕，北元皇帝倚为股肱的扩廓帖木儿死于漠北，使北元军队失去了一位能征惯战的骁将。这一年纳哈出进攻明朝辽东州城，屡被击败。l380年.北元国公脱火赤等经常进扰明边，在亦集乃遭征讨被俘。次年，北元平章乃儿不花在边境地区被徐达击败。
1381年，据守云南的元军遭明朝大军的征讨。白石江(今云南曲靖县东北)一战，元军十余万溃败，被俘二万。梁王把匝剌瓦尔密见大势已去，带着妻、子一同投滇池自杀。与漠北蒙古贵族逐相呼应的这支力量被消灭了。
明朝在不惜劳师费财屡征北元的同时，对主动投降和战争中被俘的大批北元贵族、官吏和军民，都给予优厚的待遇并予安置。明朝希望借此招引更多的北元人马。明初几十年问，确实有大量的蒙古人和汉人从北方跑到内地，成为明朝的臣民。当然，明朝的最终目的是招降北元皇帝。朱元漳曾封昭宗爱献识理达腊之子买的里八刺为崇礼侯，不久将他送还漠北，并几次遣使给爱酞识理达腊送信，劝他及早归降。但是明朝皇帝从来没有得到北元皇帝的回音。
脱古思帖木儿的败亡
根据明代史书记载，脱古思帖木儿可能就是爱猷识理达腊之子买的里八剌。1370年他在应昌被明军俘虏，1374年被送还。1378年爱猷识理达腊死去，他继任北元皇帝，称乌萨哈尔汗，年号天元(1379-1388)。他对明朝继续坚持毫不妥协的立场。
明朝在进攻脱古思帖木儿之前，需要消灭纳哈出。被誉为知兵善战的纳哈出率二十余万众驻扎金山(今吉林双辽县东北)一带，始终没有受到很大的军事冲击。这支强大的势力，使明朝攻打北元汗庭时的掣肘之患。
1387年，明朝派二十万军队北征纳哈出。明军步步为营，修筑宽河(今河北宽城县)、会州、富峪(均在今河北平泉县境)、大宁(今内蒙古宁城县)四座城，用以存积粮草，当作根据地。随后大军直趋金山。
明军压境，纳哈出深感不安。这时明军派来了使者，劝他投降，不久纳哈出的部将全国公观童归降了明朝。经过一番犹豫动摇，最后纳哈出投降了，二十万部众除一些逃散的之外，都作了俘虏，其中仅官员将校就有三干三百多人。纳哈出被明太祖封为海西侯。
纳哈出举众投降，使形势发生了巨大的变化。明太祖立即委任蓝玉为大将军，征讨下一个更主要的目标--脱古思帖木儿。他认为"肃清沙漠，在此一举"，因此要求蓝玉勿失时机，必取成功。
1388年三月，蓝玉率师十五万北进。四月，来到捕鱼儿海(今贝尔湖)附近，距离脱古思帖木儿汗帐不过百余里路程。脱古思帖木儿以为明军与纳哈出作战不久，粮草匮乏，不会深入北方再战，没有作迎敌的准备。而明军前锋奔袭他的大营之时，恰好风沙弥天，几十步外不见人。明朝兵马突然出现，脱古思帖木儿根本不能作有效的抵抗，太尉蛮子仓促上阵，很快战败被杀。脱古思帖木儿带着太子天保奴、知院捏怯来、丞相失烈门等数十人逃往和林方向。这一次战役，脱古思帖木儿的次子地保奴、嫔妃公主一百二十三人、官员三千余、人口七万七千多、马驼牛羊十五万多头，以及大量印章、图书、兵器、车辆，都被明军俘获。
脱古思帖木儿一行逃亡途中，在土剌河遇到也速迭儿。他和太子天保奴一起被也速迭儿杀死，捏怯来、失烈门逃去，南下投降了明朝。
捕鱼儿海战役使北元贵族遭到最大的失败。如果说在此之前他们或许还有着重振势力入主中原的希望，那么这个希望到这时就完全破灭了。自脱古思帖木儿死，蒙古内部开始陷入连绵不断的内讧之中，其间虽然有过几次统一，但对明朝始终未能构成倾覆性的威胁。北元一明朝的南北对峙，从脱古思帖木儿败亡之后成为定局。
明朝的北方设置
明朝在二十多年间，对北元进行了一系列军事征讨，取得了很大的胜利。然而他们知道，这离彻底消灭蒙古势力还差得很远。蒙古的军事力量虽然在元朝后期一度衰败,但是一旦回归草原，蒙古人很快就恢复了昔日剽悍勇武的素质再次表现出吃苦耐劳、能征惯战的特点。同时，明朝大军尽管三五次深入北方作战，可是由于后勤、生活习惯诸方面原因，并能永久占据草原地区。北元一蒙古终始是明王朝的巨大威胁。《明史·兵志》说："终明之世，边防甚重"，主要就是指对北方蒙古防御而言的。为了保障北方边境的安全，明朝在一系列军事胜之后，在能够控制的蒙古地区和蒙明边境建立了许多设置。这些设置，有的旋设旋灭，有的长期存在并有所变化。
(一)设立羁縻卫所。这类卫所以降附明朝的首领为都督、都指挥使、指挥使、千户、百户、镇抚等官职，自己管理内部事务定期向明廷朝贡。蒙古地区最著名的是泰宁卫(今吉林洮安一带)，初以辽王阿札失里为指挥使;福余卫(今齐齐哈尔一带)，以海撒男答奚为指挥同知;朵颜卫(今绰尔河流域)，初以脱鲁察儿为指挥同知。泰宁、福余、朵颜三卫统称兀良哈三卫或朵三卫，一直存在至明朝末年。在三卫的的西北面还曾设立斡难卫(今鄂嫩河流域)、坚河卫(今额尔古纳左旗根河一带)、海剌千户所(今海拉尔一带)、哈剌孩卫(今哈刺哈河流域)等，这些卫所在设立后不久都消亡了。在今包头、呼和浩特、集宁地区一度设立官山、失宝赤、五花城、斡鲁忽奴、燕只、瓮吉剌等千户所，随着蒙古势力的逐渐南下，这些千户所也很快消亡了。
在明朝的西北地区，即今甘肃、青海西部，以及新疆东部先后设立安定、阿端、曲先、罕东、罕东左、沙州、赤斤蒙古、哈密等八卫，以蒙古族首领为指挥使等官，有的还封以王号。
(二)修筑长城壕垣。从鸭绿江起，沿着今抚顺;昌图，辽河下游、黑山、义县、山海关一线，修筑了壕垣。东从山海关起，西至嘉峪关，经过十八次大兴土石，修筑了长城，称为边墙，其中宣化、大同之南还修筑了内长城，称为次边，这就是今日见到的万里长城。这些化费了无数人力、物力、财力而修筑的长城和壕垣，基本上都是为了防御蒙古骑兵的南下。
(三)沿长城壕垣设置重镇，派驻重兵。自明初至中叶，明朝先后设置了九个重镇统领前线军士，这九个重镇统称九边镇，即：辽东镇(治广宁，今辽宁北镇)、蓟州镇(治三屯营，今河北迁西县西北)、宣府镇(治宣府，今河北宣化)、大同镇(治所在今山西大同)、山西镇(治所在今山西宁武)、延绥镇(治所在今陕西榆林)、宁夏镇(治所在今银川)、固原镇(治所在今宁夏固原)、甘肃镇(治所在今甘肃张掖)。各镇都有总兵官、巡抚，数镇之上还有总督。这些封疆大吏统领的兵力，多时达百万，少时也有几十万，约占全国兵力的三分之二。如此众多的兵力，当然基本上也是为了阻止剽悍的蒙古骑兵。