在那個群雄并起的年代，有槍便是草頭王。話說到了1356年，各路起義軍都搶到了一定的地盤：劉福通擁韓林兒為帝，擁有安徽、江蘇、河南、山東等大片領土，并不斷向北方和西北進攻。徐壽輝稱帝于武昌，擁有湖北、湖南、江西等地。張士誠稱王于蘇州，擁有江蘇、浙江等地。

明玉珍則殺入四川、云南，也欲稱帝。這四支隊伍是消滅黃河以南元朝勢力的主力軍，他們已控制了黃河以南絕大部分地區。此時的朱元璋占據安徽中部的滁縣、和州一小塊地方，他手中只有兩三萬兵馬，這還是繼承其岳父郭子興的遺產。

他力量雖弱，但慧眼獨具。他發現南方當時還有一塊地盤在元朝手里：那就是張士誠和徐壽輝勢力中間的江蘇中西部直到浙江中西部的一長溜地方。這里人口眾多，物產豐富，而且其中還有一個虎踞龍盤的歷史名城建康(南京)。于是朱元璋立即發兵，由采石磯偷渡長江。攻下南京后，又繼續向南進攻。用四年時間，一直打到浙江的金華、衢州。

此后朱元璋在南方就一直和其他漢人武裝打，再也沒有打過蒙古人。元朝在黃河以南的軍隊大部分被滅于其他起義軍之手，朱元璋所部消滅元朝軍隊最少。這期間，劉福通領導的紅巾軍大舉北伐，分四路向元朝進攻。他自己在中路，打下了河南全部，并遷都于開封。北路沿山西一直打到元朝的大都。東路打下了山東。西路一直打到陜西鳳翔。一時間，紅巾軍號稱百萬，幾乎掀翻元朝。

本來，按照劉福通的力量，完全有可能徹底推翻元朝。但劉福通的戰略出現大的失誤，他沒有集中兵力猛攻北京，卻是兵分四路，四面出擊。結果是分散了自己的力量，讓元軍得以各個擊破。再者，元朝出了一個奇人察罕貼木爾。此人出身布衣，卻精通軍事。在短短十年間，他依靠自己建立起來的軍事力量，在北方全力對抗紅巾軍，創造了幾乎百戰百勝的奇跡，并終于打敗了百萬紅巾軍，維持了元朝搖搖欲墜的半壁江山。

紅巾軍潰敗后，朱元璋在安徽的領地，直接處于察罕帖木爾的威脅之下。如果察罕帖木爾揮師南下，首當其沖的就是朱元璋。以朱元璋當時的實力和南方四分五裂的局面，是絕對無法與之相抗的。天助朱元璋。正在這時，元軍內部開始沖突。

貴族出身的元朝悍將博羅帖木爾，嫉妒察罕帖木爾這樣布衣出身的人實力和地位都將超過自己，竟然提兵向察罕帖木爾的軍隊進攻。察罕帖木爾也不甘示弱，于是雙方軍隊在山西、河北不斷發生摩擦。蒙古人沒完沒了地同室操戈拉開了序幕。1362年6月，察罕帖木爾遭手下叛將的毒手突然死亡，元朝痛失頂梁柱。察罕帖木爾一死，朱元璋再無后顧之憂，于是傾全力和南方各支漢人武裝大打出手。1363年與陳友諒大戰于鄱陽湖，取得決定性勝利并取得江西全部。1364年攻下武昌，取得湖北。1365年平定湖南、廣東。1367年又完全打敗張士誠、方國珍。基本統一了南方。