朱元璋出身于贫苦的佃农家庭，对地主豪强贪婪残酷的本性和作威作福的行径深有体会，所以当他登上皇位后，在吸收地主富民到各级政府担任官职的同时，又采用严酷的手段，限制和惩治他们的不法行径，给这些人以极其沉重的打击。明人记载说：“皇明受命，政令一新，富民豪族，铲削殆尽。”
朱元璋小时候家无一陇之地，父母兄长相继染病而亡，竟无葬身之处，幸得刘继祖施舍田地，才将亲人草草埋葬，所以朱元璋最了解农民无地的痛苦，对地主富民利用各种手段兼并土地深恶痛绝，予以限制打击。明初抛荒田地很多，不少地主豪强倚仗权势财力，大量圈占土地为自家产业，却并不从事实际开垦。针对这种情况，朱元璋规定：回乡复业的富户，即使原来拥有的田产较多，也要根据现有丁力占田，如果多占余田而又使土地荒芜，要加以治罪；而原来拥有土地较少或无地的农民，则由政府按照丁力多少拨给荒田耕种。这条法律的实施，对豪强地主趁机多占土地是一个有力的限制，而大量贫苦农民，则因此拥有了赖以安身立命的田地。洪武三年（公元1370年），朱元璋发现临濠仍存在富民多占田地的情况，便下令让中书省根据丁力情况分配土地，以使“贫者有所资，富者不得兼并”。他申明：“如果兼并之徒多占土地以为己业，而转租给贫穷农民耕种，都要治罪。”洪武五年（公元1372年），他将在临濠实行的计丁给田的办法推广到全国，再次重申：“丁力少而旧田多的富户，不许按原来的数额占田，敢有多占者，严加治罪！”
元朝时期，豪强地主大多横行乡里，尤以江南地区为甚，成为严重的社会问题。大致说来，其危害主要表现在两个方面：第一，是大肆占夺土地，役使贫民，逃避赋役。如大德三年（公元1299年），中书省在一份奏疏中提到，福建等地的豪强地主占据百姓们的田地，让百姓们做自家的佃户，却不让他们承担国家的差役。至大四年（公元1311年），中书省和御史台又上奏说，江南地区“民多豪富兼并之家”，这些人专门让子弟穿华衣，骑骏马，交结官府，恃势隐瞒田地，不当差役。第二，是与官府勾结，欺压良民，成为地方公害。如大德七年（公元1303年）中书省福建江西道奉使宣抚在一份呈文中说，豪强地主家有的人曾当官吏，有的曾充军役杂职，有的是泼皮无赖，“皆非良善，以强凌弱，以众害寡，妄兴横事，罗织平民，骗其家私，夺其妻女，甚则害伤性命，不可胜言”。豪强地主肆无忌惮的不法行为使得民怨鼎沸，也引起地方政府和中央最高统治者的不满，采取了一些约束措施，但几乎毫无成效。
对于豪强地主的横行霸道，朱元璋了然于胸，十分愤恨，决心下大力气加以清除，再也不能让他们像在元朝时那样骑在小民头上作威作福。洪武三年（公元1370年），他向户部了解天下富民的情况，户部回奏说，从纳税数目看，江浙一带富民巨室最多，以苏州府为例，纳粮在一百石以上的富民共554户。朱元璋说：“富民大多是豪强，元朝时，这些人欺凌小民，武断乡曲，百姓颇受其害。”他下令把富民都召到京城，亲自接见，训谕说：“古人说过：‘民生有欲，无主乃乱。’天下没有君主，就会强凌弱、众暴寡，富者不得自安，贫者不能自存。现在，朕成为你们的主人，建立法律制度，使富者得以保其富，贫者得以全其生。你们要遵守法律，只有遵守法律才能保全自身。不要欺凌弱者，不要吞并贫者，不要虐待小辈，不要欺侮老人，孝敬父兄，和睦亲族，救济贫穷，谦逊待人，这样就是良民。如果还像过去那样胡作非为，就不是良民了。”尽管朱元璋出身贫苦，但他并不是故意要和所有富民为仇，他恨的是那些为非作歹的豪强。他召见这些富民，是出于保全他们的善意，想让他们有所醒悟，有所收敛。可惜，这些人为受到皇帝的召见沾沾自喜，而对皇帝召见他们的本意却不加深思，言者谆谆，听者藐藐，大部分仍是我行我素，不肯改过自新。
既然“导之以礼”效果甚微，朱元璋便改为“齐之以刑”了。他仿效汉高祖刘邦迁徙天下富民填实关中的先例，把江南地区的大批豪强地主迁离故土。其实，早在吴元年（公元1367年）攻下苏州不久，他就曾下令迁徙当地富民充实自己的老家濠州（后改为临濠，又改为凤阳），只是规模较小。到洪武七年（公元1374年），因当时正大举营建中都凤阳，朱元璋又下令从江南迁移14万户居民到凤阳屯种，其中有不少豪强地主。洪武二十四年（公元1391年），朱元璋对工部大臣说：“昔汉高祖迁徙天下豪富于关中，朕最初不赞成这种做法，现在想来，京师是天下的根本，才知道事有当然，不得不这样做。”他下令各地政府起送富民，结果有5300户富民被强行迁到南京。到洪武三十年（公元1397年），又曾起取江浙等处上户4500余家填实京师。朱元璋迁徙富民，一方面是为了增强凤阳和京师的经济实力，另一方面则是为了把豪强从他们赖以作威作福的土地财产和乡族关系中剥离出去，从而彻底抽掉他们的权力基础，使他们不能够再飞扬跋扈，祸害乡里。为了防止富户逃回原籍，朱元璋颁布法令，规定富民私归者处以重罪。这些人不敢公开回籍，便伪装成乞丐，以逃荒为名，潜回老家扫墓省亲，后来竟相沿成俗，著名的凤阳花鼓，就是这样代代流传下来的，歌词是：“家住庐州并凤阳，凤阳原是好地方。自从出了朱皇帝，十年倒有九年荒。”
对朱元璋来说，迁徙是打击豪强地主的一种比较温和的方式，更严厉的手段则是抄家、充军、杀头等。洪武年间，朱元璋为了打击贪污官员或铲除功臣宿将，曾兴起过多次大狱，每次大狱，都有一批豪强地主被牵连进去，以致丧身灭家。如在“户部侍郎郭桓贪污案”中，派人到处追查赃物下落，家中有些财产的人家往往被指为窝赃点，于是“民中人之家大抵皆破”。在“胡惟庸谋反案”和“蓝玉谋反案”中，攀扯上大量江南豪强地主，以致有记载说当时“尽洗富土之民，而夷其室庐”。仅苏州府吴江一县，罹祸的富民就不下千家。直到朱元璋在位的最后一年，他还借上年举行科举考试时发生的“南北榜”事件，把江南富室巨族当作“窝主”，让他们互相告发，趁机清除了一批豪强地主。
元朝时期征解税粮由州县吏胥负责，他们总是寻找各种缘由敲诈勒索，给百姓造成许多额外负担。为了消除此弊，朱元璋在江南税粮多的地区推行粮长制，让他们负责征解税粮。粮长都是从田粮多的富民中佥派的，为了鼓励他们尽心尽力，朱元璋给了他们许多优待，有些粮长还被提拔做官。但是，由于朱元璋赋予粮长较大权力，不少粮长便恃权欺压小民，有的把自家的税粮摊派到别人身上，有的巧立名目科敛百姓，百姓稍有不从，就被吊起来鞭打。对于成为地方公害的粮长，朱元璋斥责他们“虐民之心，甚如蝮蛇”，一经发现，必用严刑峻法加以惩治。有一次，朱元璋一下子就把160个害民粮长杀头抄家。还有一次，朱元璋梦见陛阶下跪着一百个无头人，十天后，正好有一百名粮长解粮入京朝见，而且都是逾期交纳，朱元璋联想到他们平日作恶多端，下令都拉出去砍了，刑部认为罪状不明，朱元璋说这些人哪有好的，执意不饶，一百名粮长霎时都成了刀下鬼。
总起来说，朱元璋对豪强地主的打击是比较残酷的。亲眼目睹了当时社会状况的贝琼记述说，三吴巨姓，“或死或徙，无一存者”。方孝孺也说，朱元璋“以神武雄断治海内，疾兼并之俗，在位三十年间，大家富民多以逾制失道亡其宗”。吴宽在追述明初情况时，则谓“一时富室或徙或死，声销景灭，荡然无存”。这些记述肯定有所夸大，但豪强地主在明初遭受了巨创，则是不争的事实。地主富民受到王朝如此沉重的打击，这在中国历史上恐怕是绝无仅有的，因为真正出身穷苦、同情小民的皇帝，除朱元璋之外，再也找不到第二个。
在中国古代，国家虽然在一定程度上代表地主阶级的利益，但两者之间也常发生矛盾：国家希望地主富户按田纳税、按丁服役，而地主富户却总是千方百计隐瞒丁田、逃避赋役。贫富分化的加剧，社会矛盾的激化，以至王朝的衰落和灭亡，与此大有关联。许多朝代也曾想清查土地，抑制兼并，最后总是以失败告终。最有名的一次，是东汉建立后，光武帝刘秀发布“度田令”，要求各地清丈田地，受到豪强地主的顽固抵制，还引发了一场社会动乱，最后只好不了了之。明朝建立后，朱元璋却大刀阔斧，雷厉风行，进行了田地和人口清查，编制了赋役黄册和鱼鳞图册。他在这方面的魄力和成绩，确实超越了历代帝王。
在元末长期的战乱中，各地的田地簿籍大多散失，保存下来的，和实际的土地占有状况也早已不相符合。为了解决这一问题，在明朝建立前，朱元璋就曾在占领区进行土地清理，编造图籍，据以确定赋税和徭役。如龙凤四年（公元1358年），在徽州让人民“自实田”，即自己如实报告田产数额。龙凤九年（公元1363年），又下令“使民自实田，集为图籍”，并对各人自报数额进行复核。所谓“图籍”，是南宋以来流行于江南地区的一种土地簿籍，其中记载着每块土地的亩数、土质、以及田主姓名等，并绘制成图，因图上田地一块挨着一块，很像鱼鳞，所以被称为鱼鳞图册。在占领区进行的这些土地清理，虽然不很彻底，但也颇有成效，为朱元璋顺利地征发赋役、争霸天下奠定了物质基础。
大明王朝建立不到10天，朱元璋就派遣国子监生周铸等164人到土地隐瞒现象最为严重的浙西地区核实田亩。之所以派学生去做这项工作，固然有国家初立、百废待兴、人手缺乏的因素，但更重要的原因是，出身于赤贫佃农家庭的朱元璋对官吏怀有天然的不信任感，他觉得学生比较纯洁，弄虚作假的可能性要小得多。临行前，朱元璋谆谆教诲说：“你们一定要据实办理，切不可徇私情，不可妄加增损。否则，国法不容！”不久，朱元璋又命中书省议定役法。他指出，国家初建，工程量大，为了防止徭役过多地落到穷困的小民身上，应采用验田出夫的办法佥派徭役。由于徭役负担是与田地多少挂钩的，土地清理就成为新役法是否成功的基础。经过中书商议，决定每田一顷，出丁夫一人，不到一顷的，用别的田补足，称为“均工夫”。洪武三年（公元1370年），根据上述原则，在直隶应天等18府州以及江西饶州、九江、南康等三府编制了均工夫图册，计田出夫，每年农闲时节，到京师服役30天。如果田多丁少者用佃户充役，要出米一石作为佃户的费用。如果雇佣他人应役，则要每亩出米二升五合。从均工夫役法中，我们可以看出朱元璋头脑中还存留着一些农民的平均主义思想。
到洪武三年（公元1370年），北方地区的局势基本稳定下来，进行大规模户籍清理的时机已经成熟。这年十一月，朱元璋下了一道口谕给户部，命令清查户口，推行户帖制度。这道口谕保存下来，成为洪武年间传世的为数极少的白话谕旨之一，特照录于下：“说与户部官知道：如今天下太平了也，只是户口不明白哩。教中书省置天下户口的勘合文簿户帖，你每（们）户部家出榜去，教那有司官将他所管的应有百姓，都教入官附名字，写着他家人口多少，写得真着，与那百姓一个户帖，上用半印勘合，都取勘来了。我这大军如今不出征了，都教去各州县里下着，绕地里去点户比勘合，比着的，便是好百姓，比不着的，便拿来做军。比到其间有司官吏隐瞒了的，将那有司官吏处斩。百姓每（们）自躲避了的，依律要了罪过，拿来作军。钦此。”从这道口谕可以看出，朱元璋设计的清查程序，既严密，又严酷。其程序是：先由中书省印造户籍户帖，印制时户籍与户帖两联合为一纸，在骑缝处统一编号，加盖印章，户籍与户帖上各有印章的一半，称为“半印勘合”，下发到各地方政府；然后由户部发布榜文，让各地方政府通知所辖百姓，都到官府去登记自家的户口和财产情况，经初步核实后，官府每家发给一份户帖；然后再调派军队下到乡村，按照登记底册挨户比对，逃避比对的人或经比对所报不实的人，一律发配充军；有关官吏弄虚作假者，一经发现，立即处斩。在清查完毕后，户籍上交户部留存，户帖则由各户收执。朱元璋利用军队清查户口，一方面是因为当时全国大部分地区都已平定，军队不用再出征，另一方面是因为他不相信官吏，认为军队能更好地理会他的意图。
洪武十四年（公元1381年），朱元璋又在户帖制度的基础上建立了黄册制度。其方法是，政府把户帖发给各户，让他们详细填写籍贯、姓名、年龄、丁口、田宅、资产等内容，政府每年都要派人核查，每十年一次，根据户帖编制黄册，黄册要一式四份，一份上交户部，其他则由布政司、府、县各留一份。因上交户部的册面要用黄纸，故称“黄册”，又因黄册是征收赋役的依据，所以又叫“赋役黄册”。黄册制度实行后，朱元璋觉得还不够严密，地主富户仍有可能隐瞒田地，所以到洪武二十年（公元1387年），又下令进行大规模的土地普查，并将普查结果编制成鱼鳞图册，图册中详细载明每块田地的亩数、质量、方圆四至以及田主姓名等。黄册以户为主，以人为经，以田地为纬，鱼鳞图册则以田地为主，以地域为经，以人为纬，两种册籍相互配合，相互补充，相互核对，相互牵制，构成一套完备严密的户口、田地和赋役管理制度。
在进行户口和田地清理的同时，朱元璋还采取严厉措施，打击豪强地主隐瞒田产、逃避赋役、转嫁负担的行为。他曾降谕申斥浙西、浙东和江西的地主富户说：“做我的百姓，应当安守本分。承担国家赋役，就是应尽的本分。安守本分，就是忠孝仁义的百姓，可以保全父母妻子，使家道富裕昌盛，刑罚也不会落到身上。近来两浙、江西有些百姓，不遵守法纪，家里有田不肯出租，有丁不肯应役，结果自身受罚，还连累了官府，真是愚蠢极了。现在我特地诫谕你们，你们要立即改过从善，做我的良民。如果怙恶不悛，不但国法不容，就是天道也不能容！”他制定了一系列法令条例，对这种行为进行重点惩治。他规定，如果有人将田地诡寄在别人名下，允许受寄之家告发，所寄田地就赏给告发者为业。他还下令，凡有隐瞒田土者，一旦事发，就要处以抄没家产的重刑。在编制黄册时，如果官吏、里长、甲长串通各户欺瞒作弊，官吏、里长、甲长都要处死，隐瞒入户除家长处死外，家庭其他成员还要被迁往边境荒凉地区。朱元璋甚至还规定，对于转嫁负担、行为不法的豪强地主，受害人和当地耿直豪杰可以不必告知地方官府，而将他们捉拿起来，直接送到京师，被拿者的罪行查实后，全家都要迁发到荒凉的边境地区，其田产赏给受害人。
在朱元璋的大力清理整顿下，明初对田地、户口的管理趋于规范化，地主富户隐瞒田产、逃避赋役的现象大为减少，普通百姓的负担得以减轻，提高了劳动积极性，促进了社会经济的恢复和发展。