元朝末年蒙古统治者残暴，人民受到空前压迫。公元1351年，元廷征调农民和兵士十几万人治理黄河水患。“治河”和“变钞”导致红巾军起义爆发。朱元璋收到儿时伙伴汤和的来信，邀请他参加郭子兴的义军。于是朱元璋毅然投入起义军的队伍中。后朱元璋南征北战终于平定南方，公元1368年朱元璋称帝，国号为大明。
于是乎，朱元璋将目光放到了北方。公元1367年11月，朱元璋命徐达为征虏大将军，常遇春为副将军，率领25万大军进行北伐。在北伐檄文中提出“驱逐胡虏，恢复中华，立纲陈纪，救济斯民”的口号。元顺帝此时信任喇嘛僧，沉迷于天魔舞与声色欢娱之中。
十一月初，徐达军至下邳，命张兴祖率一部军先由徐州北上，攻取济宁和东平。这时，王宣、王信父子降而复叛，并往莒州募兵，企图阻止张兴祖北上。徐达立即进兵沂州，王宣被杀，王信逃往山西。附近峄州、曹州、海州、沭阳、日照、赣榆、沂水等地元军闻风而降。徐达在沂州稍事停留，命韩政扼守黄河，自率大军进攻益都。十一月底，元益都守将普颜不花力战不敌，遂克益都。徐达乘胜攻取寿光、临淄、昌乐、高苑等地。元乐安、长山、新城等地皆相继归附。
十二月初，张兴祖至东平，逼走元将冯德，追至东阿，安山，迫使元将陈璧、杜天佑、蒋兴等各率所部归降，进而围攻济宁，元守将陈秉直接逃走。十二月上旬，徐达带领士兵至济南，元将多尔济投降，密州、蒲台、邹平的元将，亦先后请降。徐达决定继续向东略地，命傅友德进攻莱阳，自己带兵返回益都，东攻登、莱二州。元惠宗见山东形势危急，命中书右丞相伊苏、太尉知院托和齐、中书平章政事呼琳岱、陕西行省左丞相图噜等进军山东，然而诸将都不听从命令。
公元1368年三月，徐达在基本上占领山东之后，从济宁进攻汴梁，同时派一部分军队经河南永城、归德趋许昌，并命邓愈率襄阳、安陆、江陵之兵北攻河南南阳，策应北征主力作战。三月底，徐达进抵陈桥，元汴梁守将李克彝夜驱军民西遁，元将左君弼率所部投降。徐达进入汴梁后，立即率步骑经中湾西攻洛阳。
四月上旬，徐达军自虎牢关进至洛阳塔儿湾，元将托音率5万元军在洛水以北列阵，被常遇春强行突破，退至陕州。驻守洛阳的元梁王阿哩衮见大势已去，率官民出降。徐达继续挥兵略取嵩、陕、陈、汝诸州，并命冯国胜率所部进攻潼关。由汴梁退守潼关的元将李思齐和张思道，听说明军又逼近潼关，急忙率领部队西逃。明军向西连续攻克陇、秦、巩昌、兰州等地，进逼临洮，李思齐末路穷途，只好投降。徐达命薛显进攻西宁，亲率主力进攻庆阳。
五月初，连续攻下安定、会州、靖宁、隆德，经萧关前往平凉，一方面分兵进驻战略要地延安及泾州，另一方面派张涣率骑兵侦察庆阳的动静。张思道早在明军攻克临洮时，便留下弟弟张良臣与部将姚军守庆阳，自己则逃往宁夏，结果被库库擒获。张涣派人招降张良臣，张良臣得知其兄被库库治罪，决定降明，但迅即又叛。徐达下令四面包围庆阳城，张良臣恃险顽抗，并向塞外的库库求救。库库为救庆阳，兵分三路牵制明军，一路攻大同欲下太原，一路攻风翔，一路攻泾州。七月中旬，库库部将哈南下攻原州，致使战局为之大变。徐达见库库兵势甚猛，暂取守势，命徐礼守驿马关、叶石真守彭原、韦正守郐州、傅友德、薛显守灵州，控扼各处要害。不久，哈布攻下泾州，致使徐达大军腹背受敌，幸得冯国胜自驿马关引兵来救，才将哈札儿击退。八月上旬，张良臣在庆阳粮饷已尽，外援无望，其部将开城投降。数日后，库库派往大同和凤翔方面的军队，亦被明军击溃。
公元1368年七月二十七日，徐达攻克通州。八月二日，包围大都，然而大都无人守卫。元朝亡。
元朝灭亡后，蒙古残军仍然在不断进攻，而元大将王保保拥兵十万，坐守山西太原，是明朝的最大劲敌。徐达率军进入山西，很快先取了泽州、潞州，先行站稳脚跟。王保保却急于与除达一决雌雄。由太原北去，向大都的方向，欲与徐达决战。
徐达接报，依刘伯温定的计谋，并不回师救大都，反而决定径取太原。王保保听说太原告急，慌忙回师救援，率数万骑兵驰回，在太原城下扎营，邀徐达决战。
徐达按兵不动，先消磨元兵锐气，在晚上突出奇兵，夜袭王保保军营。徐达身先士卒，骑着降服的乌骓马，黑夜中犹如天降神兵，所向披糜，王保保未及披甲出战，便被败兵护著逃跑了。 ·
王保保逃到大同，由大同移军定西，在公元1369年冬，率军围攻明军于兰州。徐达率主力赶到，在定西以北对垒。这次徐达决定与王保保决战，双方交锋之下，徐达全歼王保保军八万多人，王保保仅带了妻儿亲兵数人，逃去元人的发源地上都，保元顺帝的太子去了。
公元1369年二月，徐达挥师西渡黄河。大军进抵鹿台，元将张思道闻风而逃。徐达连克奉元、秦州、伏羌、宁远、巩昌，派大将冯胜进逼临洮，元将李思齐不战而降。又分兵攻克兰州、平凉，张思道逃奔宁夏。不久，庆阳断粮，张良臣的部将打开城迎降，徐达率车冲入城中，擒斩张良臣父子。庆阳之战，标志着徐达彻底平定陕西。
公元1370年正月，徐达受命为征虏大将军，兵分两路。李文忠率东路军出居庸关，北追元惠宗;徐达与冯国胜、邓愈、汤和率西路军出潼关，往安定西击库库。在出征前，朱元璋又命华云龙、金朝兴、汪兴祖等先期进攻云州，以吸引敌人注意力，并策应徐达、李文忠作战。二月，华云龙攻破云州，金朝兴攻克东胜州，汪兴祖攻克武州、朔州。
徐达率西路军出征。四月，进抵安定。元将库库正围攻兰州，知道徐达军队已至，遂撤围转赴安定迎战，库库屯军于安定以北的车道砚，徐达命冯国胜率军趋沈儿峪列阵，双方激战一日，未分胜负。库库于是派千余人由间道潜劫明军大营，使明军陷于混乱。徐达亲自迎战，将来敌击溃。次日，徐达整军出战，大败元军，库库仅率数名随从北奔和林。库库兵败后，徐达命汤和进军宁夏，邓愈西攻河州，自己则向南攻取沔州、兴元等地。
李文忠的东路军于二月出居庸关后，经野狐岭至兴和，迫降当地元军守将，继而经骆驼山，进攻察罕诺尔，擒获元将珠孟和沙达哈等。五月，元惠宗死，李文忠兼程赶到应昌，擒获元惠宗嫡子买的里八剌及诸王将相数百人。元惠宗的另一个儿子爱猷识礼达腊，率数十骑逃走。李文忠在回师途中，又攻破兴州，擒获元将江文青，俘降元军37000人。大军奏凯而还，朱元璋亲迎于龙江，犒赏三军，并下诏大封功臣，授徐达开国辅运推诚宣力武臣特进光禄大夫、右柱国、太傅、中书右丞相、参军国事、改封魏国公、岁禄五千石、赐世袭文券。
公元1371年正月，爱猷识礼达腊与库库聚集在和林，借塞外地域辽阔之势，休养生息，准备卷土重来。鉴于此，徐达受命赴北平训练士卒，修缮城池，又迁沙漠遗民32000户屯田北平，以加强防御。七月，徐达奉命转赴山西练兵。此时，元丞相伊苏，元将高家奴、哈剌章、纳哈出等分别占据辽东之开元、辽阳、沈阳、金山等地，伺机南下。
公元1372年重新发兵征扩廓。徐达作为征虏大将军进取中路，左副将军李文忠从东路进攻，征西将军冯胜从西路进攻，各率领五万骑奇兵出塞。徐达中路轻敌冒进，初战不利，伤亡数万人。朱元璋因为徐达功劳大，并不过问。文忠军亦不利，不久撤军。只有冯胜统军获全胜。公元1373年，徐达又率领诸将远征边疆，胜利后还军北平，戍守边防，过了三年才回到京城。