同前代帝王一样，朱元璋多妻多子。从28岁到68岁的40年间，朱元璋和他的后妃们共生有26个儿子，16个女儿，平均每年生有一个子女，使朱家从仅存的朱元璋一人变为当时海内成员最多的家庭。
在元璋的所有女人中，他的结发之妻马皇后最为杰出。马皇后对元璋的支持与帮助，使元璋终生不忘。到元璋当了皇帝，后宫无数，也一直与老妻感情很好。这一方面是元璋不忘糟糠之情，另一方面，也因为马皇后始终是元璋打江山坐江山的贤内助。
当朱元璋率众驰聘大江南北之际，其妻马氏紧随其照料着朱元璋饮食起居，替他掌管文书。有一段时期，因遇天灾，军中缺粮，马皇后宁愿自己忍饥挨饿，也要设法贮存一些干粮腌肉，保证朱元璋的营养。朱元璋攻取应天之后，东张士诚，西陈友谅，朱元璋面临着东、西两面的夹击。马氏便率领军中诸将妻妾不分昼夜地赶制衣服鞋子，让前线的将士及时得到衣物补给。朱元璋在军中的公文书信，也全由马氏整理保管。无论朱元璋需要查询什么，她都能快速准确地提供给他。
开国以后，马皇后对元璋的帮助也不小。元璋对他的妻妾要求很严，不许她们干预政事，不许她们奢侈腐化。对此，皇后能不能统帅六宫，做出表率，是至关重要的。而马皇后的器局比元璋希望做到的还要好，这使元璋十分钦佩。元璋登基之后，为报答马皇后的恩情，平慰她自幼的孤苦，便设法访得了她的族人，要授予官职。马皇后经过慎重考虑，认为不妥，就向元璋说道：“国家的官爵应该授给贤能的人。妾家的亲属未必有才。若是庸才，因此而得了官，势必恃宠骄横，于国不利，于家不祥。妾听说前代外戚之家往往因为骄奢淫逸，不守法度，搞到家破人亡。这不是妾所希望看到的。倘苦皇上要加恩妾的家族，给他们一些赏赐也就足够了。”这一番议论不仅高蹈之极，而且顺情人理，使元璋极为赞赏。其他妃嫔自然也就不敢借着皇家的威严和皇帝的恩宠，为自己的父兄邀官邀爵，借势张狂了。
元璋一心要做节俭皇帝，马皇后也相夫教子，以身垂范。她在平常总穿很粗糙的帛绸，洗了又洗，已经破旧了，还舍不得扔掉。她还叫人将一些零碎的布帛补缀成衣服，给诸王与公主穿，让他们知道蚕桑的艰难。一遇荒旱年景，她就亲自带领宫中妃嫔吃素，祈祷上苍，有时甚至吃粗麦饭野菜粥。她还建议元璋在乡村普遍建立义仓、预备仓，储谷备荒。元大都攻克之后，很多宝物运抵南京。宫中一片欢悦。马皇后却从这些战利品中想到了失败的教训和亡国的悲凉，她对元璋说：“前朝有这些东西，终究流散，妾想，帝王是不是还有比珠玉更珍贵的宝物呢？”元璋想了想，笑说道：“你说的是得贤为宝吧。”马皇后拜谢道：“诚如陛下所言，妾与皇上同出贫贱，好不容易才有今天。常怕奢侈带来骄纵，细微处隐伏着危亡。所以愿得贤德的人与皇上共治天下。”又说：“法不可以经常变更，否则这法就残破无用了；民不可以经常搅扰，经常搅扰，百姓便难以为生。”元璋觉得很有道理：“你的话可为座右。”其实，这一直是开国后马皇后的基本想法。她想效法西汉初年的无为而治。而朱元璋作为开国皇帝，需要开规模，立章法，清污秽，除积弊，强主干，弱枝末，那是很难用“无为”来要求的。不过，马皇后以仁慈为心、清净为本的思想，恰恰对元璋在大刀阔斧之中所出现的许多严酷、猜忌和专断的过激行为，做了不少的矫正与补救。
宋濂是明初的功臣，又是太子的老师，朱元璋起先对他十分尊重。当他告老还乡以后，朱元璋还写信向他问好。后来他的孙子宋慎卷进胡惟庸一案中，宋濂坐逮京师判了死刑。马皇后听说了，向朱元璋求情，要求赦免其罪。她说：“宋学士退休在家，怎么能够知道孙子的罪事。百姓人家请个先生，尚能始终尊敬保护他，何况是太子的老师呢？”
朱元璋听后，不予采纳。并说妇道人家不懂这种事，更不应该干涉此类事。到了吃饭的时候，马皇后特意撤去酒肉，面带忧伤。朱元璋感到奇怪，便问为何这样，马皇后说：“妾哀痛宋学士所遭受的刑辱，想替几个儿子为他们的老师服心丧而已。”朱元璋听了极不高兴，扔下筷子，离席就走。可经过冷静的思考后，朱元璋第二天还是赦免了宋濂的死罪，改流放茂州。若非马皇后全力营救，朱元璋便结束了宋濂的老命。一次，有人上告参军郭景祥的儿子持矛欲杀其父，朱元璋听后大发雷霆，儿子杀老子如同犯上作乱。他立即下令将此不孝之子千刀万剐，以儆效尤。马皇后对朱元璋说：“景祥就这么一根独苗，他人的言论也许不实，如果枉杀了他的儿子，老郭就断子绝孙了。”朱元璋觉得皇后说得有理，便着人去调查，果然冤枉了郭景祥之子。他对马皇后说：“如果不是你及时提醒，险些错杀。”吴兴富民沈万三，为了讨好朱元璋，进献了一个聚宝盆，并答应承担修筑应天城墙的三分之一，又请求朱元璋让他捐资犒赏三军。沈万三曾支持过张士诚，朱元璋对他的这一经历怀恨在心，正找不到借口。他一听沈万三如此大胆，觉得有了下手的机会。他勃然大怒：“沈万三这个匹夫，口出狂言，竟要犒赏天子的军队，一定怀有反意，其罪当诛。”马皇后对朱元璋说：“沈万三自己掏腰包犒赏军队，虽不合适，但并未犯有死罪。刑法是用来杀不守法人的，并不是用来滥杀的。”朱元璋认为她说的在理，便赦了沈万三的死罪，将他流放到云南。有一次，朱元璋怒斥宫人，马皇后为了消除朱元璋的怒气，也假装怒不可遏。当朱元璋治宫人罪时，马皇后坚持要求交付宫廷内部的执法部门宫正司来定罪。并对朱元璋说：“帝王不能以个人的喜怒来定赏罚。当陛下震怒之际，难免定罪偏重，只有交付宫正司，才能斟酌其过失。”朱元璋认为马后言之有理，便随了她意。
在遏制朱元璋暴烈脾气的同时，马皇后也关心民众疾苦和关注时事。她常常规劝朱元璋要广施仁政，选贤任能。有一天，她问朱元璋：“现在天下百姓生活安宁吗？”朱元璋说：“这不是你应该过问的事情。”马皇后接着说道：“陛下是天下之父，妾也算得上是天下之母。子民安宁与否，为母者怎么不能过问呢？”有一次，当朱元璋从国子监参加祭孔的典礼回到宫中后，马皇后问监中有多少太学生。朱元璋说有好几千。马皇后又问太学生是否带有家眷，朱元璋回答说大多数太学生带有家眷。马皇后便说：
“治理天下者，以贤才为本。如今人才辈出，可喜可贺。但监生由国家供应衣食，而他们的妻子的衣食却没有保障，这怎么能使他们安心读书呢？”
朱元璋听从了马皇后的建议，下令设立红板仓，贮存粮食，专供太学生家属，每人每月领米6斗。从此以后，太学生家眷伴读，由政府支付口粮，马皇后为太学生做了一件功德无量的大好事。
由于过度劳心劳力，洪武十五年（公元1382年）初，马皇后忽觉身体恹恹，到八月便一病不起。群臣上书，恳求为皇后祈祷，并遍请天下名医为皇后调治。马皇后自知病危，既然御医们已经束手无策，也就没有什么指望了。她恳切地对元璋说：“生死由命，富贵在天，祈祷又有何益？即使扁鹊再世，也是治得了病，治不了命。一旦找来的郎中投药无效，陛下一定会因爱妾心切而杀这些郎中的。这岂不是让他们白白送命而增加了妾的罪过。”
从此，马皇后连所有医者开的药都不吃了。元璋心里很是难过，劝她说：“药还是要吃。万一无效，我也会为你宽恕他们。”马皇后知道丈夫的脾气，她不愿意让这些郎中和服侍的人受牵累，而正是马皇后的这个最后善举，不知使多少人免了杀身之祸。临终前，元璋问还有什么要交待的，马皇后说：“愿皇上求贤纳谏，慎终如始，子孙皆贤，臣民得所。但能如此，妾虽死而无憾。”八月初十，马皇后病近，享年51岁。
元璋为遣中怀，决定为皇后大做佛事，他相信，马皇后一定是菩萨娘娘转世，现在撒手归去，也是回到西方净土去了。可是，九月二十四安葬这一天，忽然狂风大作，雷霆电闪，又使元璋的信念有所动摇，为什么不是景星庆云，风和日丽，花香鸟语，来迎接菩萨归天，而偏偏是这样的天昏地暗，雷雨交加？他把高僧宗泐召来责问。好在宗泐还算沉敏，应声而道：“小僧有四句偈语，皇上可愿听。”元璋道：“念。”宗泐诵道：“雨落天垂泪，雷鸣地举哀。西方诸佛子，同送马如来。”元璋觉得吉庆，怒气渐渐消融。可巧，不久，竟至雨过天晴，元璋更加高兴起来，他真地相信这位马菩萨真的荣登仙境了。
马皇后的去世，也使宫内外一片哀伤。尤其是那些受过马皇后恩惠的宫女们，一个个哭得死去活来。她们感激马娘娘的仁爱、体恤和保护。她们不知道今后会碰上什么样的主子，面临着怎么样的命运。一些女官将人们对马娘娘的深情与怀念写成一首歌，很快在宫中流传开来。歌词写道：“我后圣慈，化行家邦。抚我育我，怀德难忘。怀德难忘，于斯万年。毖彼下泉，悠悠苍天！”
除马皇后以外，朱元璋共有多少嫔妃？史无明文。其中郭惠妃是郭子兴与小张夫人的女儿。她自小与马皇后一起长大，郭子兴没后，便由其母作主，嫁给了朱元璋。郭惠妃生有蜀王朱椿、代王朱桂、谷王朱穗和汝阳公主、永嘉公主等三男两女。
众嫔妃中，最得朱元璋欢心的要数孙贵妃了。她18岁嫁给了朱元璋，比马皇后小10岁。孙贵妃聪慧漂亮，善解人意，马皇后对她也十分喜爱。她在后宫的地位仅次于马皇后，名列众嫔妃之首，协助马皇后料理后宫事务。可是因为身患不治之症竟于洪武七年（公元1343年）亡故，年仅32岁。因孙贵妃无子，朱元璋便让孙贵妃曾经抚养过的周王朱柿以亲子之礼，为她服丧三年，足见朱元璋失去孙贵妃的悲伤之情。
胡充妃也为朱元璋所宠爱。她与朱元璋是同乡，品貌非凡。为人妻不久，丈夫便命丧黄泉，她一直随母守寡。朱元璋为了把她弄到手，多方打听她的下落和思量着如何占有她。当得知她的父亲是赵均用的部下时，朱元璋便写信给赵均用，请求促成他与胡氏的这一桩美事。赵均用为了拉拢讨好朱元璋，满口应允。不久，便将胡氏母女送给了朱元璋。朱元璋得到胡氏后，欣喜若狂，对其倍加怜惜。胡充妃生有楚王朱桢。
李淑妃寿州人，父亲李杰，任职广武卫指挥，死于战阵。她在龙凤元年（公元1355年）生下了朱标。后来，又生了秦王朱楱和晋王朱榈。由于马皇后只生有宁国公主和崇庆公主两个女儿，没有儿子，她所生的三个儿子都由马皇后抚养。李淑妃心怀智术，处事果断。在为马皇后服丧三年期满后，朱元璋让她代行马皇后的权力，总摄六宫。李淑妃死后，朱元璋又让郭宁妃代摄后宫。郭宁妃也是朱元璋的同乡，父亲郭山甫，哥哥郭兴和郭英。据说郭山甫善于看相算命，他在给自己的两个儿子看完相面后说，他们将来都能封侯。而能给他的儿子封侯的人就是朱元璋。于是他让两个儿子跟随朱元璋渡江作战，把女儿也送给朱元璋，做她的小妾。郭兴后来因战功显赫被封为巩昌侯，郭英被封为武定侯。女儿郭氏被封为郭宁妃。郭宁妃生有鲁王朱檀。
被朱元璋所接纳的嫔妃渊源有三：从民间挑选而来的，如李淑妃、郭宁妃、胡妃等人；自元廷中选用的，其中有蒙古人、高丽人等，如硕妃、翁妃、韩妃、周妃等人；收纳陈友谅的。
像对待群臣一样，朱元璋对众妃在宠爱有加的同时，也施以残暴。伴君如伴虎，在皇帝的眼皮下生活，稍有不慎，便遭不测。如曾受朱元璋宠幸的胡充妃，就在朱元璋的猜忌下死于非命。有一年，在御河中发现了一具堕胎，朱元璋大怒，要求内侍调查此事。凡有嫌疑的宫人，一律被处决，胡充妃也牵涉了进去。在未弄清事实真相之前，朱元璋下令将胡充妃处死，弃尸应天城外。当消息传到武昌时，楚王朱桢立即来朝，在朱元璋面前嚎啕大哭，然后遍找母亲的尸体，最后只找到一条练带，将其带回埋葬在楚王府中。郭宁妃、李贤妃、葛丽妃三人同时获罪，朱元璋一怒之下将她们处死。并命令把三具尸体同时装在一只大筐中，埋在应天太平门外。事后，朱元璋怒气消退，后悔自己做得有些过分。便想将三人分开，重新安葬。但刨开一看，三具尸体已经烂成一堆，无法辨别。只得照旧掩埋，在上面拥了三个土丘，以表示是三个妃子的坟墓。
朱元璋生前任意对待嫔妃，死后也要把妻妾成群的生活带到另外一个世界去。临终之前，要求众妃为他殉葬。最后有40余人活活地与之葬于孝陵。朱元璋以这种落后残忍的方式给他的人生划上了句号。
在元璋的女儿中，有7人嫁给公侯勋臣的儿子。皇家的儿女姻亲无不带有强烈的政治色彩。一方面用来密切勋臣与朝廷的关系，一方面又用来平衡与牵制勋臣。她们往往只是朝廷政治格局的一个棋子，一个砝码。
帝王之家的金枝玉叶，自幼锦衣玉食。但从另一个方面说，这些公主又不像人们所想象的那样惬意和幸福。她们中多数人是不幸的。当时流行早婚。这些小公主便做了早婚的模范，一般在十三四岁就去为人妻母了。过早地沉沦于封建礼教的漩涡，没有父母的疼爱与守护，这对她们身心的摧残无疑是很重的。还有的丈夫早逝，年轻守寡。更可悲的是，有些女孩做了当时政权斗争的牺牲品。
欧阳伦是安庆公主的丈夫，安庆公主是宁国公主的亲妹妹，都是马皇后所生。欧阳伦仗着自己是皇亲国戚，正宫娘娘的女婿，为非作歹，为害地方。朝廷多次申诫，他都置若罔闻。欧阳伦相当贪婪，除强占土地、隐匿赋税之外，还插足商业，走私贩私，特别从贩卖私茶中谋取暴利。明初，盐茶都由国家专卖，严禁私贩私运。在西北边防，还实行官方垄断的茶马贸易制度。茶的来源，主要在四川，其次是陕西的汉中。明政府在这里对种茶园户按茶树棵数征税，其余部分由官家折价收买，严禁私售，这些统称为官茶。官茶由政府派丁夫或军士运往秦州、洮州、河州、雅州等茶马司，而后按规程与西番交易。这种带有政府性质的官方贸易，极易形成居高不下的垄断价格，因而使私下贸易有利可图。那些敢于干犯国家法纪走私贩私的，多数是勋戚大僚。朱元璋对此屡申禁令，但是言者谆谆，听者藐藐。到洪武末年，这种走私活动已经到了相当严重的地步。洪武三十年（公元1397年），元璋连下几道勒令，严申茶马私贩之禁，规定，有以川陕官茶私贩出境者，处以重法。这位驯马爷认为，朝廷的法律禁令只是约束惩治平民百姓和小官小吏的，哪里管得他！他仍率领一帮豪奴恶仆照旧横行于川陕之间，地方封疆大吏只得仰承鼻息。洪武三十年（公元1397年）四月，正当春耕农忙时节，欧阳伦在陕西督运一批私茶向西赶运到河州。他传令陕西布政司下公文给沿途州县，让他们备办车辆。他们走到兰县河桥巡检司，被检查拦阻，家奴周保将司吏捆起来吊打。巡检司吏忍无可忍，冒死上奏。元璋见到这份奏报，十分气恼，命令锦衣卫派人飞速上道，将欧阳伦、周保一干人犯锁拿进京，立即斩首。宁国公主跪在父皇面前苦苦哀求，元璋最后答应给她们个面子，命欧阳伦自裁。陕西布政使屈从压力，搅扰百姓，知情不报，也一并处死。而河桥吏不避权贵，如实反映情况，受到朝廷嘉奖。元璋言出法随，始于近贵，毅然将他的女婿处死，震动朝野，为后世留下了大义灭亲的口碑。
元璋26个儿子当中有24个长大成人。有一句民谚：皇帝爱长子，百姓喜小儿。元璋称吴王时就立朱标为世子，洪武元年（公元1368年）登基伊始，便封他为皇太子。这年朱标14岁。从某种意义上说，元璋半生拼搏挣下的这份大产业，都是为着朱标和其他儿子们的。元璋花了很大的精力对朱标和他的兄弟们进行诸多方面的培养与教育。
朱标，6虚岁开始启蒙，他的老师是当时的大学问家宋濂。宋濂循循善诱，博得了元璋的好评，也赢得了朱标的尊重与爱戴。十几年的师徒，他们之间建立了很深的友谊与感情。宋濂的学问人品，对朱标的品德性格产生了很大的影响。
朱元璋选拔天下名儒到宫廷做太子及诸王的教师。又从国子学中挑了十几个聪明俊秀的青年做伴读，但元璋特别告诫老师，这些人同太子相处，一定要“端其心术，不流于靡”，为了考察教学情况，元璋经常到太子读书的大本堂去，或品评文字，或赐宴赋诗，或讨阅古今得失。元璋认为，帝王之学与平民之学不同，他曾对讲授经书的孔克仁说道：“朕诸子将有天下国家之责，功臣弟子将有职任之寄，教之以道，正心为本，心正则万事理矣。”他要求对他的儿子们“辅以实学，毋徒效文士记诵词章而已。”“必先养其德性，使进于高明。于帝王之道、礼义之都及往古成败之迹、民间稼穑之事，朝夕与之论说。”为此，他命令东宫和王府负责教育的官员将古人可为楷模，可资鉴戒的言行辑为一编，作为太子和诸王的教科书。
朱标作为太子，接受的是传统儒家教育，视听言动，一切循理而行。严格的儒家教育，加上朱标自幼身体虚弱，性格内向，这就造成了他的柔顺与宽仁。当时宫内外佛道信仰的气氛很浓，朱标因而倒喜欢读一些佛经道藏之类的书籍，这就使这位皇太子更显得如同活菩萨一般。言必称尧舜，行必遵礼教，对父母忠孝，对弟妹友爱，这一切都使元璋喜欢，但皇太子的柔顺、怯懦，缺乏阳刚之气、威武之概，又使元璋遗憾与担心。为此，元璋曾动了不少脑筋。一天，他命人满载一车尸骨从朱标面前经过，希望由此激起他强梁之性和对死亡恐惧的适应，孰料朱标见此情景却生出无限的悲伤，面对辚辚而过的白骨，合掌而叹：“善哉，善哉！”元璋听到这个报告，很是莫可奈何。
元璋决定让他在政事的实践中历练个性，增长才干。洪武六年（公元1373年），朱标20岁，元璋命令各衙门“今后常事启皇太子，重事乃许奏闻。”洪武十年（公元1377年）六月，“命群臣自今大小政事皆先启皇太子处分，然后奏闻。戴星而朝，夜分而寝，日有未善，寝亦难安，此尔所亲见也。尔能体而行之，天下之福，吾无忧矣。”元璋尤其告诫朱标：不被别人所左右，不被书本所牵制，遇事勤于思考，善于明辨，果于决断。经过几年的临政模拟，朱标的处事能力确有很大提高，但同元璋的作风路数依然相去甚远，在洪武十年（公元1377年）十二月，他命太师李善长等几个大臣予以协助，在朱标裁断各衙门请示的时候，“参决可否，然后奏闻。”手把手地教会太子如何文武弛张，继承元璋的断制与风范。
然而，父亲担心儿子过于软弱，儿子也觉得父亲诛杀太虐，阴晴难测。父子之间难得一致，朱标也就不可能放手处理政务。他的所谓历练政事，不过是听从李善长他们的主意，如何去适应元璋的想法。洪武十三年（公元1380年）胡惟庸案，朱标无所适从，心情更为压抑。一天，他听说老师宋濂也被捉了来处死。他跑到元璋面前哭诉哀求，说：“儿臣愚憨，没有别的老师。恳请父皇可怜，免他一死。”元璋正在气头上，训斥道：“等你做天子的时候再去宽恕他吧！”朱标痛苦极了，他埋怨父亲的冷酷，痛恨自己的无能。他抽泣着离开了父亲，御河桥边，雁影鱼踪，大约只有它们才是自由的。于是，轻生之念蓦然而生，纵身跳下河去。附近的太监顿时傻了眼，几个反应快的，随即跳下水去，左拉右拽，拖他上岸来。元璋听到消息，立即赶来，一看没有事，才放下心来。一边笑着安慰他，道：“傻小子，我杀人，你犯得着去死。”随后，对那些紧急入水、衣鞋浸湿的太监都连升三级，而那些解衣脱鞋下水的，都立即处死，对他们说：“太子落水，还等得你们磨磨蹭蹭吗？”马皇后为了安抚太子，亲自去为宋濂说情，元璋才免了宋濂一死。一场风波过去，朱标对这位一向爱抚他的马皇后十分感激。于是，他把马皇后的懿德懿范暗中绘为画图。他听人说，有一次父亲作战受伤，被陈友谅的兵士追及，幸亏马皇后赶上，背着父亲逃走，才免遭不测。这同她窃饼焦胸的故事一样令人感动。他便满怀激情画了一幅背负图。两年以后马皇后逝世，朱标很是感伤，他经常把这幅背负图揣在怀中，以寄托一片哀思。马皇后之死，使元璋看到了自己的桑榆晚景，眼见太子柔弱，似乎处处荆棘，处处险象，情绪更为烦躁，诛杀朝臣的事屡屡发生。朱标想到皇后的仁德与恻隐，便决定向父亲进谏，说道：“父皇诛杀太滥，恐怕伤了天地的和气。”元璋听到这个话，一时酸甜苦辣咸，五味俱全，不知从何说起。第二天，元璋把朱标叫去，地下放一根带刺的枣木枝，让他举起来，朱标不知用意，就垂首侍立，默不作声。元璋于是说道：“它身上满是刺，你无从下手，拿它不起。我现在把它的刺全削掉，打磨光了，再留给你，这不好么？今天我杀人也是这个道理。我杀的都是天下的奸险人物，你很难制服他们。铲除了他们，天下才能太平。我把一个太平江山交给你，正是你的福分，天下百姓的福分。”元璋原想借此一片苦心，使儿子幡然醒悟，没料想朱标固执地跪地顿首说道：“上有尧舜之君，下有尧舜之民。万望父皇陛下三思。”元璋一向自视很高，连唐宗、宋祖都不放在眼里，他的理想就是恢复尧舜禹三代之治。今天，他在苦口婆心教育儿子的时候，不但没有获得儿子的谅解与感激，反倒受到反唇相讥。元璋这一怒非同小可，他也顾不得王家体统，皇帝尊严，起身抓起屁股下的坐垫就砸过去。太子还是遵照“小杖受，大杖走”的儒家明训，拔腿就跑，元璋追打出来。旁边的官员太监都吓坏了，可是又不敢阻拦。朱标知道自己闯了祸，急中生智，从怀中掏出背负图扔在地上。元璋捡起一看，不由想起与老妻相濡以沫，创业艰难，以及为儿子的基业，为大明江山苦苦奋斗的艰辛与委屈，不觉悲从中来，像个孩子似的，放声长哭。
洪武二十二年（公元1389年），元璋已是62岁的老人，太子也中年了。元璋为太子建立了独立的辅佐与办事衙门詹事院，有些事情也更放手地让他去作。这时，朱标批阅奏章，多有从宽量刑的情况，元璋也照准照行了。但太子的宽仁，越发增加了元璋的心理压力，越发增加了他对勋戚将帅专横跋扈的担忧。他认为，通行的原则与规范，不是宽仁，而是震慑；不是爱心，而是威权；不是温情，而是冷酷。这个道理，要在现实斗争中去领悟。做父亲的只好再次打起精神，作砍角削刺的工夫，为儿子安排好一切，好叫他做太平天子。洪武二十三年收拾胡党再起高潮，就是元璋赐给太子朱标的又一份礼物。
谁知朱标并不领情。他与父亲的距离越来越大，彼此无法沟通，难于理解，矛盾又痛苦。洪武二十三年（公元1390年）五月初一，以封绩的审讯为契机，牵出李善长通虏之案，大批勋臣将帅被处死。朱标知道父亲的良苦用心，但是，这样大的案情，朱标是不敢犯颜相谏的。在三法司向他禀报时，他只能按照父亲的指示和意图办理，而不能表现出丝毫的犹豫与迟疑。内心的愁苦无法宣泄，郁结成疾，六月初背部便生了一种恶疮。他认为，这就是一种报应。经多方调治，固然转危为安，然而抑郁的心情终难畅怀。洪武二十四年（公元1391年），元璋有迁都之意，令朱标由文武大臣扈行考察关中形胜。一路风尘，返京之后，朱标一病不起，洪武二十五年（公元1392年）四月二十五日，朱标病死，享年38岁。朱标有两个妃子，一为常遇春之女，一为寿州人吕本之女。他们共有五个儿子，四个女儿。长子雄英，次子允炆，三子允熥，四子允烂，五子允熙。长子雄英于洪武十五年8岁天亡，朱允炆成为元璋的皇长孙。朱允坟生于洪武十年（公元1377年），此时他16岁。
朱标的次子朱允火文是一个很讨元璋喜欢的长孙。朱允炆自幼聪慧好学，孝亲敬上，懂得礼法，为元璋颇添绕膝之乐。14岁那年，朱标患痈疽恶疾，他日夜守护在父亲的病榻前，听到父亲的哀号，他痛不欲生，亲自用口把脓疡吮出，以减少父亲的痛苦。朱标病逝后，他居丧尽礼，连着几天汤水不进，以至把身体搞得很虚弱，倒使元璋去劝慰他：“你诚然应该为父亲尽礼尽哀，但你就不为你年迈的皇爷爷着想吗？”足见元璋的疼爱。元璋经过一段思考和观察，于洪武二十五年（公元1392年）九月，决定立朱允火文为皇太孙，作为自己的继承人。
朱允火文的个性气质很像他的父亲朱标，仁厚温和，而不善心计，在治法方面崇尚轻刑薄敛，道德感化。但很多方面他又不如朱标，尤其在年龄上，只是个小孩子。再者，元璋年事已高，时常连上朝的力量都没有，说不定哪一天就撒手归西了。他对后事的担心，比较起太子朱标时要沉重十倍。元璋最后孤注一掷，将差不多所有勋臣大将屠戮一空，正是在以上疑虑紧张心理支配下演出的一幕社会悲剧。元璋自以为这样一来，朱家江山就可以固若金汤，他的皇太孙就可以稳坐南京。谁曾想到，他死后不久就祸起萧墙。第二年，燕王朱棣就以“清君侧”的名义发动“靖难之役”，三年以后，朱允火文连同他的皇宫御座灰飞烟灭，惨死在叔父之手。
在元璋的26个儿子中，长子朱标封太子，最小的儿子朱楠一月夭亡没有受封，其他24个儿子都封了王。随着儿子们的不断降临人世，共有三次三批封王。第一次在建国初洪武三年（公元1370年），从第二子到第九子，共封九个王。第二次封王在洪武十一年（公元1378年），自十一子朱椿到十五子朱植，共五个王。第三次封王在洪武二十四年（公元1391年），自十六子朱檹至二十五子朱彝，共10个王。
元璋的儿子们很小就封了王，他们要在宫廷内接受很好的教育与培养。元璋对他们的要求也很严格，学文之外，习武，练习击刺驰骋，六韬三略。元璋交给他们的任务是“屏藩皇室，磐石社稷”，帮助皇帝震慑四方，维护朱家江山，传诸万年。
分封的各王一般是成年十八九岁以后到封国去，称作就藩，或之国。元璋给了藩王很丰厚的生活条件，很高的地位，很大的权力。藩王（又称亲王）在封地设有亲王府，王府的规模相当宏伟。今天，西安秦王府还保存完好。元璋亲自给王府宫殿起了名字，三大殿，前曰承运殿，中曰园殿，后曰存心殿。宫城四门，南名端礼门，北名广智门，东名体仁门，西名遵义门。意思是，要达到祈天承运的目的，必须存心，必须遵照仁义礼智三纲四维去想去做，因而元璋说道：“使诸王能睹名思义，斯足以藩屏帝室，永享多福矣。”他预先为太子及诸王分别定下子孙世系的名字排行。如太子朱标皇帝一系为：允文遵祖训，钦武大君胜，顺道宜逢吉，师良善用晟。诸王中，如燕王一系为：高瞻祁见佑，厚载翊常由，慈和怡伯仲，简靖迪先猷。然而朱标一系只传了“允”字一辈，就由燕王朱棣的“高瞻祁见佑”诸子孙承袭皇位了。王府官属开始设左右相，左右傅，洪武十三年（公元1380年），中央废丞相，王府也罢除相傅制度，设长吏负责王府管理。王府拥有武装，称护卫，少的有甲士3000，多的至19000，达到三个多卫的兵力。诸王的冠冕、服饰、仪仗、府第低天子一等，公侯大臣都要叩头膜拜，在地方俨然国中之国。亲王长子封世子，长孙封世孙，庶子次子封郡王，郡王的庶子次子封镇国将军，诸孙子封辅国将军，诸曾孙封奉国将军，四世孙封镇国中尉，五世孙封辅国中尉，六世孙封奉国中尉。各封爵都颁赐禄米。又规定“郡王嫡长子袭封郡王者，岁赐比始封郡王减半支给”。一方面可以看到元璋给他的儿孙们设想安排的周密而久远；另一方面，也可以看到朱元璋对诸王儿孙们的倚重。
在明初的政局中，元璋同文臣武将勋戚将帅的斗争，客观上把朱氏家族更加紧密地联结在一起。洪武十一年（公元1378年）以后，几个年长的儿子渐次被派到封国去，震慑一方。
元璋的儿子们拥有超乎常人的威福权力，有的便免不了骄奢淫逸，胡作非为。但他们无不忌惮于父亲治国操家的凛然与森严，因此都不敢过于出格。