朱元璋在寺庙里呆了一段时间之后，寺庙里的和尚因有人反对元朝，结果寺庙被烧毁，和尚有的被抓走，有的则被驱赶，朱元璋因为当天不在寺庙逃过一劫，当他第二天回来后，发现寺庙已经空无一人，于是也决定离开这里，可是到底去哪里，他一时间难以决定。
投靠元朝朝廷，自然是不行的，因为当时元朝已经声名狼藉，那就投靠农民起义军，可是起义军的首领很多，究竟投靠哪一个呢，思来想去，朱元璋决定投靠郭子兴，因为他听说郭大帅为人狭义，对待手下也比较宽容，于是朱元璋就前来濠州。
朱元璋从郭子兴的一名普通士兵，做到郭子兴最为亲信的将领，只用了很短的时间，而且朱元璋从孙德崖手里救过郭子兴的命，还把干女儿许配给了朱元璋，因此在郭子兴死后，朱元璋就成为了这只起义军的首领，朱元璋很有远见，也比较重视人才，很快时间就成为了农民军中，比较厉害的一支。
不过，此时的朱元璋，还不能算老大，还有两只农民军力量不可小觑，一个是陈友谅，一个是张士诚。张士诚是一个盐贩出身，胸无大志，小富即安心里，在占领高邮之后就急忙称诚王，后来杀死刘福通后有称吴王，此人不足为虑。
朱元璋真正可怕的对手，还是陈友谅，此人先杀主子倪文俊，后来又把天完政权的皇帝徐寿辉给弑杀，登基称帝，国号为汉。陈友谅比较有野心，也想要统一中国，而且此人的水军特别厉害，朱元璋的战船与他相比，简直就是小渔船与航空母舰的对比级别，因此在几次水战中，朱元璋都吃了大亏。
双方的生死之战发生了鄱阳湖上，陈友谅率领60万大军，决定于朱元璋决战，可是此人为了报仇，竟然在洪都耽误了很长的时间，错过了最佳的进攻机会，给了朱元璋充足的准备，即便如此，在战斗之初，朱元璋也是一败涂地，只是后来朱元璋利用火攻，才将陈友谅连在一起的巨型大船烧坏，从而赢得了战争，陈友谅也战死。
鄱阳湖水战，对朱元璋留下的印象很深，一方面他在登基之后大力发展水军，另外一方面对陈友谅的痛恨丝毫没有消减，他下令：凡是陈友谅的子孙，永远不能上岸，只能生活在水中“，朱元璋真是有仇必报。