八月二十九日，朱元璋亲率二十万大军来援。两军相遇在鄱阳湖中，大战四天不分胜负。这四天中陈友谅损失惨重，麾下大将陈普略和两个弟弟陈友仁、陈友贵先后战死。同样的，朱元璋的损失也不小。据记载，朱元璋率水军与陈友谅大战于鄱阳湖，相持四日，胜负未决，朱元璋心中十分焦虑。看来真是到了性命相搏的时刻，连朱元璋自己都没有必胜的信心。
这时候，刘基提出“移师湖口”的建议，就是将战舰全部转移到湖口，封锁鄱阳湖通往长江的水道，将陈友谅的水师困在鄱阳湖中。朱元璋立即采纳这个计策。九月初二，朱元璋的战舰尾部都升起灯笼，陆续驶往湖口，封住了鄱阳湖进入长江的水道。至此，鄱阳湖成了一只扎住陈友谅水军的口袋。很明显，陈友谅的巨舰在相对狭窄的湖口水面上远远比不上朱元璋的战舰那样灵活有用，所以相持十数日，陈友谅始终不能突破湖口的封锁。这个时候，陈友谅的许多将领提出，放弃水军船只，从陆路返回武昌，整军再战。由于意见不统一，汉军内部发生了激烈争吵，接着，竟然出现了叛逃事件。更要命的是，双方相持日久，陈友谅军中粮食已尽，而派去抢粮的五百艘船又被洪都守将朱文正放火烧毁，陈友谅陷入困境。
陈友谅粮尽援绝，无奈之下，企图冒死突围，逃回武昌。他亲自带领楼船百余艘奔赴南湖嘴，被此处守军击退而不能通过。于是，只得再转往湖口，准备从此突入长江。朱元璋与刘基指挥各军围追堵截，用火舟火筏冲击楼船。陈友谅舟船散乱，狂退数十里，滞留在湖中。战斗自清晨持续到午后，两军相搏，顺流而下，直至江口，陈友谅遭重兵伏击，中流矢而死。朱元璋的军队听到这个消息，欢呼雀跃，士气大振，更加奋力杀敌。陈友谅大军失去主帅，大溃而散。陈友谅的太子陈善、平章姚天祥被俘，枢密使李才以全部楼船军马来降，朱元璋得人马五万余。汉国太尉张定边用小船载陈友谅尸体及其子陈理星夜逃回武昌。鄱阳湖大战至此以朱元璋大获全胜而告终。
此次大战，刘基与朱元璋同船督战，直接参与谋划与指挥，功盖诸将。在大战之前，朱元璋是没有把握的。刘基为朱元璋分析了当时的形势，认为知己知彼，百战不殆，敌我双方各具优势，敌方的优势是，大军号称六十万，我方只有二十万。水军船舰，敌方高大坚固，连舟布阵，长达十余里。我方小船难以仰攻，故在人力和装备上，我方处于劣势。但是我方也占有优势。首先，我军士气高涨，能够同仇敌忾。敌方已经围困洪都八十余日，死伤惨重，已是强弩之末；其次，敌方战舰相连，虽可以抵挡大江上的风浪，但行动不便。我军舟小体轻，操纵灵活，进退自如；还有就是陈友谅这个人寡恩多疑，上下离心，而我军则上下一心。最后一点就更为重要了，即敌人的后路已被切断，而且对方空国而来，粮尽兵疲，无援可待。而我方却有应天大后方源源不断的接应。综合起来看，我方的优势多于劣势，因此此战必胜无疑。朱元璋听后，树立了决战到底的信心。
鄱阳湖之战是朱元璋削平江南群雄的一次重要战役。此次双方投入兵力之多、战斗激烈程度与持续时间之长，在我国战争史上也是少有的。此次战争的胜利对朱元璋来说，意义是重大的。可以说朱元璋之所以最后能够削平群雄，推翻元朝，建立了延续276年的大明皇朝，鄱阳湖之战是一场决定性战役。正如朱元璋自己所说的那样，统一天下的大业，是从鄱阳湖大战的胜利开始的，从此以后就没有什么可值得忧虑的了。
陈友谅的太尉张定边回到武昌后，立陈友谅的儿子陈理为帝，但是此时汉国已无实力与朱元璋相抗衡。在鄱阳湖大战的次年，朱元璋采纳刘基之策，溯江而上，率大军直指武昌，张定边战死，陈理出降，汉政权正式宣告灭亡。
灭了陈友谅，大军凯旋回应天，按照刘基的策略，下一步便是全力征讨张士诚。自此以后，劲敌已灭，从征讨张士诚开始，朱元璋与刘基便不再亲自出征了。但是，每次命将出师的用兵部署以及大的战役计划，朱元璋仍旧和刘基密议以后才决定。经常是朱元璋到刘基的住处，或者召刘基入府中，两个人就天下大事还有征讨方略秘密议定，然后由朱元璋向诸将部署，由诸将执行。朱元璋知道刘基的一片赤诚之心，所以无论什么事都要找刘基商量。刘基自己也感到和朱元璋乃是不世之遇，犹如汉高祖之遇张良，也做到知无不言，遇有急难之事，刘基勇气奋发，计划立定，往往能够成功。正因为刘基是这样一个难得的人才，所以自从朱元璋得到刘基以后，每战必胜，每攻必克，遂能扫平群雄，一统天下。正因为这样，朱元璋对刘基非常尊敬，常呼老先生而不名。
江南群雄中在此时能与朱元璋相抗衡的只有张士诚了。灭亡张士诚，早在刘基的策划当中。张士诚在鄱阳湖大战之时，没有答应陈友谅夹攻朱元璋的请求，而是观望不前，失去了消灭朱元璋的最佳时机。而经过讨灭陈友谅的战争，朱元璋声势大振，实力也大大增强。等到陈友谅彻底败亡之后，张士诚才意识到自己的危机，遂派兵进攻朱元璋。这时候发动进攻，非但不能取胜，反而为朱元璋制造了战争借口。至正二十五年（1365年）十月，朱元璋在打退张士诚的进攻后，发布文告，命令徐达等进兵征讨张士诚割据的苏北地区。到至正二十六年（1366年）四月，苏北之地已全部落入朱元璋手中。随着苏北与淮南之地的失陷，至正二十六年五月，朱元璋命徐达为大将军、常遇春为副将，起兵二十万，向江南张士诚的腹心地区发起进攻。
至正二十六年，徐达和常遇春先后攻下了湖州、杭州、嘉兴、绍兴等地，十一月形成了对平江的包围。张士诚手下大将吕珍和李伯升先后投降了朱元璋。但平江城城高墙厚，硬打很难攻下，朱元璋便下令在平江四周筑起长围，在长围上建起三层高的木塔，名为敌楼，监视城中动静，每层敌楼上都装有弓箭火炮，又用巨石炮日夜轰击。朱元璋派人送信给张士诚，劝他投降，降将李伯升也去劝降，但张士诚仍是不降。张士诚派他的弟弟张士信守城，张士信倚仗城池坚固也满不在乎，在城墙上督战时还带着美女与好酒寻欢作乐，结果中炮身亡。
平江城长时间被围，张士诚内无粮草，外无救兵，只好拼命突围，但没有成功。终于，在至正二十七年（1367年）九月，城被攻破，其手下守城将领投降，张士诚亲自率人进行巷战，最后见无法挽回败局，下令把户籍图册全部烧毁，把国库里的金银财宝和绫罗绸缎全部分给百姓，然后放火烧死妻子家小，自己上吊自杀，但自杀未遂，被李伯升救下，交给常遇春送到应天。过了几日，他乘人不备，又自缢而死。此后，江南只有方国珍与福建、广东二地没有扫灭，而这些势力根本不足以与朱元璋相抗衡。现在朱元璋要做的就是北伐中原，攻取大都，灭亡元朝。
至正二十六年十一月，当朱元璋兵临平江，筑起长围，张士诚已经成为瓮中之鳖的时候，朱元璋又在十二月派廖永忠去滁州迎接小明王的銮驾至应天，当小明王在瓜步乘船渡江时，廖永忠派人把船凿沉，小明王韩林儿和他的家属都成了江中冤魂。
廖永忠此举实是受了朱元璋的指派。以前朱元璋要发展自己需要打着龙凤皇帝的招牌，用恢复大宋江山为幌子，收买人心。等到至正二十六年十二月的时候，天下形势已经大不一样了。几年来，朱元璋按照刘基为他指定的征伐大计，一步一个脚印走了过来，最强劲的对手陈友谅已经被消灭，张士诚的灭亡也只是时间问题，朱元璋下一步就要自己当皇帝，这时候小明王就成了他的一个障碍，除掉他是必然的了。小明王既死，龙凤政权也就不存在了，龙凤年号也自然废止，于是朱元璋在至正二十七年称吴王，改当年为吴元年，这离他登基称帝只有一步之遥了。
吴元年（1367年），朱元璋按照刘基制定的“征讨大计”，几乎同时进行了南征和北伐。
吴元年九月，当朱元璋攻克平江后，随即兵分两路进攻方国珍。当时的方国珍已是惶惶不可终日，一筹莫展。他感到自己已是穷途末路，便搜集珍宝，征集海船，准备全家入海逃跑。朱元璋见方国珍不可理喻，便在九月派兵进占台州和温州，派汤和率大军攻打庆元，方国珍逃入海中，汤和率军追击，大败方国珍于海上。十一月，朱元璋又派廖永忠率舟师入海，与汤和合击方国珍，方国珍纳款投降。
吴元年十月，在平定方国珍时，朱元璋命胡廷瑞为征南将军，何文辉为副将，率军征讨福建的军阀陈友定。陈友定虽然割据福建，却是大元朝的福建行省参知政事，闽中八郡皆属他管辖。他是元朝真正的忠臣，屡次为缺粮的大都从海上运粮，大受元顺帝的嘉奖，命他总领福建。这时候福建与朝廷的联系已经隔断，陈友定成了福建的土皇帝。
这次朱元璋派军南征陈友定，一路上势如破竹，陈友定的部将纷纷投降。十二月，朱元璋又令汤和与廖永忠等人率舟师自庆元取福州。到了洪武元年（1368年），明军攻建宁，进围延平，陈友定服毒自杀未死，俘送应天，不久被杀。此后福建的各路州县相继投降，福建平定。
福建平定后，朱元璋继续南征。这时除了四川的明玉珍，云南的梁王有相对孤立的割据政权外，两广还未平定，但是这些力量比较分散，不能阻挡朱元璋。很快朱元璋便夺取了两广之地。
此时朱元璋要做的就是实现刘基为他设计的蓝图中最重要的一步，北上灭元。这个时候，元朝统治集团更加腐败不堪，内部倾轧，军阀混战，已经到了不可收拾的地步。在丞相脱脱被贬杀后，元顺帝失去约束，更加怠于政事，皇太子掌握政权，与元顺帝又发生冲突，几乎到了兵戎相见的地步。自从脱脱死后，元军更是不堪一击，只有依靠各地军阀来镇压农民起义。此时，依靠地主武装起家的察罕帖木儿、李思齐、张良弼等人迅速崛起。可是这几家各怀鬼胎，都想保存实力，壮大自己，四家争权夺利，相互攻伐不已。与此同时，宫廷内部的争斗也到了白热化的地步。在这种形势下，朱元璋开始进行北伐。
吴元年十月，朱元璋命中书右丞相徐达为征虏大将军，平章常遇春为副将，率大军二十五万北伐。朱元璋在和刘基商定之后，提出了北伐的具体方案：先攻取山东，打掉大都的屏障；再回师河南，斩断大都的羽翼；攻取潼关坚守，不让陕西的元军出关；这时候再进军大都，大都就成了一座孤城。攻下大都后，再派军从潼关进攻陕西，这样关陇、云中、九原就可以席卷而下。刘基在这个时候一再提醒朱元璋，此次北伐是吊民伐罪，推翻大元朝廷，一定要申明军纪，不可滥杀无辜，最重要的就是平定中原，使百姓生活安定，同时他还提出，为了争取中原百姓的支持，北伐还要宣传光复汉室江山的意义。
按照计划，北伐的第一步是攻取山东，徐达率军抵达淮安，派人招抚，元朝山东守将或降或逃，山东平定。接着进军河南。徐达亲自率军进攻北宋旧都东京汴梁，元朝守将左君弼等投降。这时候的朱元璋已于至正二十八年（1368年）在应天登基称帝，改国号为大明，改元洪武。洪武元年五月，朱元璋北巡汴梁，准备进军大都。此时的大都已成了孤城一座，李思齐被困在陕西，王保保战败于河南，大都彻底失去了外援的支持。同时明军在河南也取得大胜。北伐大军随即在德州会齐，步骑舟师沿运河北上，直取直沽。元守将纷纷逃遁，大都震动。当明军进抵通州时，元顺帝率太子后妃开德胜门北逃上都。八月初二，徐达率北伐大军进入大都，至此，统治中原97年的元朝终于被推翻。元朝被推翻后，朱元璋在刘基的策划下，派大军开始了清除各地残余势力的战争，取得全国的统一。