此时，对刘福通作战的“义军”首领察罕帖木儿已被刺身亡，他的养子扩廓帖木儿（原为汉人，本名王保保）称霸河南，孛罗帖木儿占领山西，二人为争夺地盘而互相攻伐。京城里，御史大夫老的沙准备搞掉太监朴不花，皇太子爱猷识理达腊母子两人又来攻击老的沙，老的沙逃到山西孛罗帖木儿的军营里。皇太子向孛罗帖木儿要人，孛罗帖木儿不给，皇太子让搠思监下令削去他的官爵，解除他的军权。孛罗帖木儿于是造反，派兵一直打到居庸关，进逼大都。大都方面只得将搠思监、朴不花二人交去做了替死鬼。皇太子爱猷识理达腊向河南的扩廓帖木儿求救兵，扩廓帖木儿当然求之不得，马上带兵攻打太原。但是孛罗帖木儿却只留下太原一座空城，带兵直奔大都。在兵临城下的情况，妥欢帖睦尔只得任孛罗帖木儿为右丞相，统率天下兵马。
孛罗帖木儿独揽大权以后，下令削去扩廓帖木儿的官职。扩廓帖木儿带兵来打，孛罗帖木儿大败。妥欢帖睦尔此时设计杀死孛罗帖木儿，让扩廓帖木儿当右丞相。这时候，奇皇后又要扩廓帖木儿出面逼顺帝让位，扩廓帖木儿不肯，皇太子母子就怀恨在心，加上妥欢帖睦尔本来就对扩廓帖木儿不信任，扩廓帖木儿只好请求带兵到外地去。妥欢帖睦尔便封廓帖木儿为河南王，统率天下兵马，南下去与朱元璋作战。谁知廓帖木儿反而把枪口对准李思齐等关中诸将，杀得难解分。不久，又罢削了廓帖木儿的兵权。
元朝内部的混乱正好给朱元璋创造了机会，他于成功消灭了陈友谅，张土诚两股割据势力后，于至正二十六年（1366）十二月命廖永忠迎小明王，刘福通来应天（今南），在途径瓜步时，廖将他们沉水中溺死。
第三年十月，朱元璋任命徐达为征虏大将军常遇舂为副将军，率领25万主力军开始北伐，同时又分出一部分兵力继续南征，消灭浙江的方国珍、福建的陈友定以及湖广地方的割据势力。北伐军一路势如破竹，席卷河南河北。至正二十八年（1368），朱元璋在应天称帝，国号“大明”，年号“洪武”。闰七月，明军会集德州，从水陆两路沿运河北上，占领长芦，攻克青州，到达直沽，近逼大都。
七月二十八日夜间，妥欢帖睦尔弃了大都，逃奔上都。八月初二，徐达率明军进人大都。元朝灭亡。
后来朱元璋问众臣：“我朝谁为好男子？”众臣有说徐达的、有说是常遇春的，朱元璋都笑笑摇头，最后他说：“王保保才是好男子啊！”这其中的秘密大概只有天知地知。
朱元璋虽然为人聪慧，在戎马倥偬中不断向周围的文人请教，以致“文学明达，博通古今”，“能操笔成文章”，但对字音字义、文理文脉、用典藻饰等文法不过是一知半解，对于文人高手写下的玄妙诗句，自然难以完全理解。可是他又不愿也不能请教臣子，因此在自卑和疑心的作祟下，他总是望文生义，从意义或形声上加以曲解，一旦生疑，就是宁信其有，不信其无。暴虐的本性发作起来，只有士人的鲜血才是平息怒气的惟一有效方法，必欲除之而后快。
根据明初的制度，每到元旦、冬至、皇帝生日等喜庆的日子，各级官员都要呈上贺表以示祝贺。这些贺表都是官样文章，写些颂扬吹捧的句子也就可以交差了。但朱元璋却能在这些文章中，鸡蛋里挑骨头，读出讥诮讽刺的味道来，害得许多执笔文人莫名其妙地丢了性命。
据记载，北平府学训导林伯瑾在《贺冬节表》中有“垂子孙而作则”一句，本来是颂扬朱元璋和他的子孙都是百姓的楷模。可是，朱元璋却认为“则”暗藏“贼”的意思，是讽刺他在早年曾做过盗贼。于是，林伯瑾被杀。
杭州府学教授徐一夔的贺表更为典型。他写到：“光天之下，天生圣人，为世作则。”富于联想的朱元璋看后大发雷霆，他不仅把“则”附会为“贼”，还把“圣”附会为“僧”，而“光”是暗喻自己曾剃过光头。于是，徐一夔被处死。
陈州训导周冕则更是冤枉。他在《万寿贺表》内写有“寿域千秋”一句。好端端的一句话，在朱元璋眼中，“寿”就是“兽”；把“域”又误读为“或”字，认为是“祸”的意思。于是，周冕被杀。
朱元璋书《教说大将军》（局部）德安府训导吴宪作《贺立太孙表》，内有“天下有道，望拜青门’之句，本来也是颂扬的话，可朱元璋却认为“有道”就是“有盗”，“青门”就是“寺庙”，这句话先骂他是强盗，后又讥讽他曾是和尚。于是，吴宪被杀。
另据吴晗在《朱元璋传》一书中统计：“处州教授苏伯衡以表笺论死；太常卿张羽坐事投江死；江南布政使徐贲下狱死，苏州经历孙贲曾为蓝玉题画，泰安州知州王蒙尝谒胡惟庸，在胡家看画，王行曾做过蓝玉家馆客，都以党案被杀；郭奎曾参朱文正军事，文正被杀，奎也论死；王彝坐魏观案死；同修《元史》的山东副使张孟兼、博野知县傅恕、福建佥事谢肃都坐事死；曾在何真幕府的赵介，死在被逮途中；曾在张士诚处做客，打算投奔扩廓帖木儿的戴良，得罪自杀。不死的，如曾修《元史》的张宣，谪徙濠州；杨基罚做苦工；乌斯道谪役定远；顾德辉父子在张士诚亡后，并徙濠梁，都算是十分侥幸的了。”
朱元璋是濠州人，和他一起打天下的如李善长、徐达、常遇春、汤和、胡惟庸等人都来自濠州及其附近地区（即淮西一带），朱元璋的这些老乡在朝堂上形成了一个庞大的势力集团，即淮西集团。淮西集团居功自傲，在朝政上为所欲为，极力排挤非淮西籍的大臣。在明王朝这个新兴的统治阶层内部，逐步形成了淮西功臣集团与非淮西功臣之间争权夺利的局面。
这时的朱元璋不但没有安抚群臣，制止党争，反而坐山观虎斗。放任这两股势力内斗，名臣刘基的被害就是这场斗争的恶果。刘基是浙东地主集团的代表，知识渊博，博通经史，是朱元璋建国过程中功勋卓著的军师谋士，屡出奇策。立国后，明朝的礼乐、刑罚、科举等典章制度的确立也渗透着刘基的见解和思想。刘基性格刚毅，疾恶如仇，与淮西功臣不合，被淮西功臣视为眼中钉，即便刘基告老还乡后，淮西人也不肯放过他。胡惟庸等人不断在朱元璋面前进谗言，最终革掉了刘基的岁禄。不久，刘基忧愤成疾，一命呜呼。当时也有说法是刘基生病时，胡惟庸派医生来看过，而刘基服药后不久就死了。不管刘基是否真的是胡惟庸毒死的，在刘基忧郁成病的过程中，朱元璋不闻不问，其用心是很明显的。
然而，淮西功臣集团的得意只是短暂的。当他们替朱元璋料理了其他功臣之后，他们最后的利用价值也就没有了。当这些功臣还天真地把天子当作从小一起长大的玩伴时，朱元璋早已为他们准备了杀戮的屠刀。
胡惟庸，淮西定远人，朱元璋的故旧。洪武三年（1370），胡惟庸进人中书省，任参知政事。在李善长的推荐下，几年内胡惟庸连升三级，官拜中书左丞、右丞相、左丞相。洪武十年（1377），胡惟庸已经变成了皇帝之下第一人，位极人臣了。
起初，胡惟庸还知道收敛，但随着时间的推移，权力的欲望不断膨胀，他开始专权用事，朝廷上人命生死、官员升降等大事都要得到他的批准才能处理，朱元璋自然对这种大权旁落的景况十分不满。再加上，朱元璋发现胡惟庸和陆仲亨、费聚等淮西功臣往来密切，这种丞相和军事将领的勾结更成了朱元璋的心腹大患。
于是，洪武十三年（1380），朱元璋以“擅权枉法”的罪名，抓捕胡惟庸，处以极刑，御史大夫陈宁、御史中丞涂节等数人同案被杀。但是，“擅权枉法”并不构成死罪，为了把此案定成铁案，朱元璋将胡惟庸的罪名升级，变成了私通倭寇，阴谋造反，而此时胡惟庸已经被处死，死无对证。
胡惟庸案成为一个引线，在随后十年中，朱元璋以此为借口，同谋犯越查越多，无数功臣被冤杀。在胡惟庸案爆发十年后，洪武二十三年（1390），朱元璋以发现李善长和胡惟庸共同谋反的线索为借口大开杀戒。已经77岁的太师、韩国公李善长被赐死，全家70余人被一同处死，只留下了朱元璋的亲生女儿临安公主和她的丈夫、李善长的长子李祺，以及他们的两个儿子，这也许是朱元璋大屠杀中惟一的一次例外。
朱元璋还特意编撰了一本名为《昭示奸党录》的书，附录李善长的供词，昭告全国。
至此，胡惟庸案才算告一段落。十年中，唐胜宗、陆仲亨、费聚、赵庸等功臣宿旧和依附胡惟庸的六部官属，约3万多人被株连杀害。
胡惟庸一案使淮西集团文官势力被铲除殆尽，剩下的就是武将势力了。为此，朱元璋又兴蓝玉之狱。
蓝玉是明初的一员猛将，骁勇善战，数次统兵出征，立了大功，被朱元璋比喻为大破匈奴的汉代名将卫青和唐代名将李靖，并封蓝玉为凉国公。但是，明朝建国后，蓝玉日益骄横起来，在自己的庄园里豢养了几千名庄奴和家丁，横行乡里，侵占民田，无恶不作。御史前来按问，也被他鞭打驱逐。此外，蓝玉北征归来，到达喜峰关关口，还不等关吏开门，便率领手下兵丁毁关而人。种种恶迹令朱元璋忍无可忍。
这第二次屠杀的过程和胡惟庸案大致相仿，只不过此时朱元璋年事已高，时不我待，因此杀戮更为迅速。洪武二十六年（1393），蓝玉被告谋反，立即被逮捕下狱，第三天就被处死，满门抄斩。