为了从严治官，从公元1385年至公元1386年间，朱元璋三次编制《大诰》，其汇编了案例一万多件，都是惩治全国各地贪污官吏的案件和官吏滥杀无辜百姓的记录。他将此件大量刊印，要求每户都要有一本。朱元璋在序言中说：“将害民的事例昭示天下，各级官吏敢有不务公而务私，在外贪赃酷民者，务必追究到底，加以惩处。”在朱元璋整个执政期间，对那些违法乱纪、贪污受贿的不法官吏，除去平时的连续不断的打击之外，还进行过几次大规模的清洗。其中以惩处郭桓一案的规模为最大。公元1385年，有人告发北平二司与户部侍郎郭桓勾结舞弊，贪污税粮，朱元璋派人查实，追出赃粮七百万石。朱元璋大怒，下令将六部左、右侍郎以下的官吏全部处以死刑。供词又牵连到各部政司的官吏，又杀了数万人。追赃还牵连到全国各地的一些富户，以致中产之家为此被弄得倾家荡产。
就是如此严厉地惩处贪官污吏，但贪官污吏还是不断出现，不能根绝，急得朱元璋跺着脚说：“我欲除贪赃官吏，奈何朝杀而暮犯！今后贪赃的，不分轻重都杀了。”贪官污吏虽然随杀随犯，旧杀新出，但朱元璋也下决心随犯随杀，新出新杀，决不手软。这样大规模的诛杀运动，一直到朱元璋死去才慢慢缓和下来。
朱元璋不仅对普通官吏执法严厉，即使是皇亲贵戚、权臣名宦也决不偏袒。他说：“法不行，无以惩后。”法是天下之法，无论是谁犯了法，都要依法严惩。在战争年代，朱元璋因粮食困难，为严明军纪，严禁酿酒。大将胡大海的儿子胡三舍犯了酒禁，朱元璋要严惩他。有人劝说朱元璋：“现在胡大海正在绍兴打仗，杀了他的儿子，岂不会引起胡大海的反叛？”朱元璋说：“宁可使胡大海叛我，不可使我法不行！”自己拔刀亲自杀了胡三舍。明朝建立之后，他的亲侄子朱文正，因“亲近儒生，胸怀怨望”，违法乱纪，朱元璋废了他的官职。重臣汤和有一个姑夫，自以为有靠山，隐瞒常州的田土，不纳税粮，朱元璋指责他“不惧法度”，把他杀了。朱元璋的女婿、驸马都尉欧阳伦，出使办事时，贩带私茶，也被依法处死。由于朱元璋带头执法，从严治官，大张旗鼓地重惩贪官污吏，这对于刹减贪风，改良吏治，的确起到了一定的作用。
朱元璋从严治理官吏，目的是为了缓解官僚统治阶级同广大人民之间的矛盾，防止官逼民反。但是对农民的欺压除了官吏之外，还有那些富豪之家。朱元璋说：“富民多豪强，故元时此辈欺凌小民，武断乡曲，人受其害。”因此，在从严治官的同时，朱元璋也采取了一些抑制豪强的措施。
明朝初年，他多次召见富民，警告他们不准胡作非为，并让一些人担任地方上的粮长小职，以示恩宠。然而，这些富民总是贪得无厌地欺压、剥削百姓，用各种手段兼并、霸占土地。特别是不少地主担任地方粮长官职后，利用皇上给予的权力，更加重了对农民的盘剥。朱元璋对这些人深恶痛绝。他采取了两种手段，第一是用严刑重法消灭“奸顽富豪之家”，不少人家被诛灭九族。第二是采取汉朝刘邦“徙天下富户于关中”的策略，把大量的富户迁离本土，到京师或凤阳定居。如洪武三年（公元1370），移江南富民14万户到凤阳。公元1391年，徙天下富民5300户到京师，后又移富民14300余户到京师。这些富家豪族离开了原来的居住地，失去了原来的社会地位和政治地位，到了新居住地后，还必须承担各种差役。这样，减少了当地百姓所受的欺凌和压迫，打击了地主富豪的霸道势力。
另外，朱元璋对宦官的管理也是非常严格的。宦官本是皇帝的家奴，但由于他们同皇家朝暮相处，不少人参与朝政，窃取高官，成为一股最有权力的势力。汉、唐从强盛的顶峰走向衰败、灭亡，宦官的祸乱是一个重要原因。朱元璋对此是十分清楚的。特别是唐朝的宦官乱政，对朱元璋触动很大。朱元璋知道，这种人在宫廷里是少不了的，但必须从严限制他们。宦官只能做奴隶使唤，洒扫奔走，人数不可过多，也不可用做心腹耳目，做心腹则心腹病，做耳目则耳目坏。驾驭他们的办法，就是要使他们守法，守法就做不了坏事。不能让他们有功劳，一有功劳就难于管束了。不能让他们有文化，有文化便会思图不轨。朱元璋定下规矩：凡是内臣一律不许读书识字。又铸铁牌子于宫门旁边，上边刻着：“内臣不得干预政事，犯者斩。”所有的内臣不得兼外朝文武职衔，不许穿外朝官员的服装，官品不许超过四品，每月领一石米，穿衣吃饭由朝廷供给。并且规定，外朝各衙门不许同内臣有公文来往。这样，使宦官成为宫廷中名副其实的奴仆。这种对宦官的限制，同过去历代相比，可算是最为严格的了。
朱元璋通过改革，使行政、军事、监察三大系统各自独立，互不统属，直接对皇帝负责。这就使皇帝的权力大大加强。即使这样，朱元璋还不放心，又专门设立了“锦衣卫”组织。“锦衣卫”是特务机构。朱元璋派自己的心腹做头领，专门秘密侦察大小官吏的不公不法之事，并随时向他报告。锦衣卫设有专门的法庭、监狱，具有侦察、逮捕、审讯等大权。洪武年间，锦衣卫系统的大小特务，遍布街坊路途，渗透各个系统，严密监视着朝内外的文武百官。
谋杀权臣，为子孙铺路
胡惟庸是开国功臣李善长的女婿。他靠着李善长这个后台当上了左丞相，在朝中大权独揽，独断专行，官员升降、生杀大事，都自作主张；朝野内外的报告，凡对自己不利的全扣下来；想做官、升官的人，失意的功臣、武将，都进出于他的府中；收受金银、绢帛、名马、玩物不计其数。他四处网罗自己的党羽，培植自己的亲信，组织自己的小集团，打击异己力量，权倾朝野。
胡惟庸如此胡作非为，不仅危及明王朝的安定，而且和权力欲极强的朱元璋也必然会发生尖锐的冲突。朱元璋下决心寻找机会要除掉这个心腹大患，以巩固皇权。一天，胡惟庸的儿子乘马车在南京城里招摇过市，不小心从车上跌下摔死了，胡惟庸判车夫抵命。朱元璋知道后，十分气愤，他非要胡惟庸偿命不可，胡惟庸再三请求，向车夫家人赔偿金帛以了此事。朱元璋坚决不准，胡惟庸听了十分紧张，遂坚定了起事政变的决心。
公元1380年正月，胡惟庸入奏，诡称其住宅中井出醴泉，请朱元璋去观看。朱元璋信以为真，也就匆匆驾车出西华门。正行进中，内使云奇突然冲上跸道，拦住车马。朱元璋以为不敬，即令左右侍卫棍锤乱下。顿时，云奇右臂被砸断，生命垂危。但他仍用左手直指胡惟庸的宅第摇晃。朱元璋猛悟，急忙返驾登城，远远望见胡惟庸宅第中绕有兵气，以此定胡惟庸谋逆，立即发御林军逮捕胡惟庸，将其抄家灭族。
胡惟庸被诛后，朱元璋借题发挥，将那些行为跋扈的、心怀不满的、危及皇家统治的，统统罗织为胡党罪犯，处死抄家。胡惟庸案株连蔓引，前后持续了数年，共杀掉了官员3万多人，连位居“勋臣第一”、已经年逾古稀在家养老的李善长，及全家70多口人也一齐被杀。
随着朱家王朝的不断巩固，昔日与朱元璋一同打天下的将领，现在成了新王朝的显贵。他们官封公侯，爵显禄厚，在个个弹冠相庆之余，有的渐渐骄横放纵起来。
开国大将蓝玉是洪武后期的主要将领。他麾下骁将十几人，威望都很高。蓝玉作战勇敢，立有赫赫战功，官封凉国公。他自恃功劳大，便骄傲起来，恃势横暴。他家里私蓄奴婢假子有数千人之多，到处敲诈勒索，霸占民田，百姓向御史告状。御史官依法提审，蓝玉竟命人将他们乱棍打走。朝廷明令禁贩私盐，他却令家人进行走私活动。
这些勋臣宿将们的腐化堕落，不仅严重地妨碍了朱元璋统治效能的提高，而且功高震主。为了自己江山的长治久安，朱元璋在1393年开始对蓝玉这些功臣展开了无情的镇压。锦衣卫告发蓝玉谋反，朱元璋即命锦衣卫发兵抄捕。蓝玉被砍头，并抄斩三族。凡与蓝玉有接触的朝臣、列侯均坐党夷灭。蓝玉案先后诛杀15000人，把军队中功高位显的元勋宿将几乎一网打尽。
除胡惟庸、蓝玉两案外，所剩无几的功臣也先后被以各种罪名赐死、鞭死或砍头。徐达曾被朱元璋列为开国第一功臣，他生背疽，这病最忌吃蒸鹅。朱元璋在他病重时偏偏赐蒸鹅给他吃。徐达知道皇帝是在要自己的命，只好含着泪水，当着使臣的面吃下了蒸鹅。没几天，徐达就辛酸地离开了人世。功臣冯胜、傅友德、廖永忠、朱亮祖等也因失宠，先后被处死。
这样，功臣宿将能够善终的寥寥无几。只有与朱元璋同村长大的汤和知道朱元璋现在对老臣宿将不放心，他就主动交还兵权，告老还乡，绝口不谈国事，才保住了性命。
朱元璋这种杀功臣立威、以猛治国的策略，自己虽然没有公开忏悔过，但在他临死之前曾下令后人不准学习他这种做法。他说，这套办法只是权宜之计，希望在他之后，大明朝尽快步入正常的轨道，尽快出现一个繁荣安定的局面。
朱元璋的这种行为，其最终目的还是为子孙铺路。朱元璋认为太子柔弱，难以驾驭桀骜不驯的功臣，因此他要在死前为子孙铲除。太子老师宋濂，早年追随朱元璋襄赞军事，立有大功，官至学士承旨知制诰。朱元璋借故杀宋濂，太子见老师问斩，流着眼泪替老师求情。朱元璋为了开导太子，就拿来一根满是棘刺的木杖放在地上，命太子去拾取。太子面有难色。太子为人虽柔弱但却十分聪明，他明白朱元璋的用意，然而还是委婉地劝谏朱元璋说：“上有尧舜之君，下有尧舜之民。”言外之意是，为君者不能太残暴。朱元璋十分恼怒，随手抄起一把椅子向太子砸去。可见，朱元璋坐上龙椅之后，把功臣视为棘刺。他深知，取天下要在马背上，守天下要在马下。天下一统，武臣的权力不能过大，朱元璋为了子孙的安全，就要向他们开刀。虽用文臣治天下，朱元璋仍不放心，所以从中央到地方大力加强皇权，他把中央集权制度发展到顶峰，成为历史上权力最大的君主。