在中国历代王朝中，汉唐是被公认的武功强盛的王朝，比起汉朝横扫匈奴的威武，大唐战无不胜的风光。而大明的军队，更是“远迈汉唐”。明军开国的起点是非常高的，甚至说对比之前其他历代封建王朝，明军在大明开国战争中所遭遇到的对手、是极其强大的。它所战胜的，是在中世纪曾横扫欧亚的世界最强骑兵——元朝蒙古骑兵。
而且它还完成了两个奇迹：第一，它是中国历史上继西汉之后，又一支以农民起义军的身份脱胎而来，最终完成改朝换代大业的军队。第二，它完成了中国古代军事史上一件空前的壮举，第一次以由南向北的形式北伐成功，实现了中国的统一大业。这两件事，更是绝对的高难度动作。元末天下大乱，四方起义四起，按照评书里的说法，就是“十八路反元”，这其中最重要的反元起义军，就是南方“红军”，也叫“红巾军”。明朝皇帝朱元璋，最早也是红巾军的一员，他一开始投奔濠州红巾军领袖郭子兴，虽然郭子兴很赏识他，并把养女马氏(明朝开国第一任皇后马皇后)嫁给了他。
但他始终得不到信任，为了壮大自己的力量，元朝至正十三年(1353年)六月，二十五岁的朱元璋以红巾军将领的身份，回到家乡安徽凤阳募兵。这次募兵一共招募来七百多名青壮。看似人数不多，但在历史上却有重要意义——如果朱元璋回乡募兵的日期，在历史上有精确到哪一天的纪录的话，那么这一天绝对可以算作大明王朝的“建军节”。当时的朱元璋并不受红巾军信任，相反处处受气，后来朱元璋带着这支军队打了几仗，地位也节节攀升，但也继续在红巾军内部受挤兑。
不得已转战定远，这支七百人的队伍中，他挑选了二十四名亲信随行，这二十四人，就构成了大明开国将领的雏形阵容：徐达，常遇春，宋朝用，郭英等后来的名将都在其中。之后朱元璋带着这二十四人招兵买马，在老领导郭子兴过世时，他已经有了数万军马，坐拥和州，定远等地盘，并趁元王朝麻痹大意的机会攻克了南京。大明王朝后来争雄天下的本钱，就这样打下来了。朱元璋从早期拉队伍开始，一直奉行的策略，就是谋士朱升所提出的“高筑墙，广积粮，缓称王”，这个策略说白了，就是不争出风头，耐住性子发展力量，尤其是军事实力。
早期明军的力量，也是在这个过程里暗暗壮大。然而力量壮大，却不等于军力强大。特别是占领南京之后，朱元璋在军队建设上最苦恼的事情，就是军队的纪律松弛。《明实录》里记载，当了皇帝的朱元璋，有次与大臣们回忆早年往事时，说过这样一个事情，一次他骑马巡逻，突然看到一个孩子在野地里哭，一问才知道，孩子的父亲被抓进军营当劳工，母亲也被劫掠进去，只留下孩子一个人。
朱元璋当场大怒，愤而下令彻查，结果查明孩子的父母确在军营，并在朱元璋的关照下得以一家团聚。然而令朱元璋更加震惊的是，这个孩子一家的遭遇，在朱元璋军中绝非个例，相反比比皆是，之后连续十天的彻查，查明因军队劫掠而导致夫妻离散的家庭，竟然有数百家之多，虽然在朱元璋的严令下，这些家庭得以团圆并给与优厚的抚恤，但是明军当时的纪律状况，却可见一斑。
《明实录》说，即使二十多年后，朱元璋在回忆这事的时候也感叹，如果明朝军队一直都是这种风纪，大明怎么可能取得天下?那时的朱元璋，看似是一方枭雄，面临的局面却是极其严峻的。朱元璋占领南京后的中国，其实是四角鼎立。北方是以中央政府自居，占有中原以及蒙古草原和西域的蒙元。南方除了占有淮西以及南京的朱元璋外，更有占有湖北荆襄平原的“汉王朝”陈友谅，以及表面向元朝称臣，其实却占据苏南地区割据自立的枭雄张士诚。
在这四家里，朱元璋不但是力量最弱的，而且还是处境最危险的，他的地盘其实是夹在三家中间。论军队实力，他比不上陈友谅，论经济实力，他比不上张士诚。而且更严峻的形势是，就算打败了张士诚和陈友谅，如果想统一天下，就必须要战胜元王朝，也就是要打败当时天下最强的骑兵——蒙古骑兵。