开皇初年，纳言苏威曾对文帝说：“臣先人每诫臣云，唯读《孝经》一卷，足可立身治国，何用多为！”提出以孝治国的伦理原则，深得文帝赞同。
当时，各个阶层、各种学派基本上都接受孝悌伦理，具有最为普遍的意义，即所谓“自天子至于庶人，孝无终始，而患不及者，末之有也”。魏晋丧乱以来，儒家理论受到猛烈冲击，唯有孝却更受尊崇，各朝各代统治者无不把孝抬高到至高地位，强调“五刑之属三千，而罪莫大于不孝。”然而，在统治阶级内部，父不慈，子不孝，骨肉相残，刻毒已极，其惨烈之状，屡见不鲜。在封建统治内部，经过实用主义改造的孝道，被扭曲以至走到反面，成为压抑甚至扼杀人性的专制政治工具。
隋朝初年，国子博士何妥当场批驳苏威道：“苏威新学，非止《孝经》。顾父若信有此言，威不从训，是其不孝。若无此言，面欺陛下，是其不诚。不诚不孝，何以事君！且夫子有云：‘不读《诗》无以言，不读《礼》无以立。’岂容苏绰教子独反圣人之训乎？”并且指斥苏威虚伪不诚，本身就不合乎孝道，岂能信任？内史令李德林也以为，孝是人的天性，根本用不着人为地灌输说教。后来，其见解竟成为遭贬黜的罪名，文帝数落他道：“朕引孝治天下恐斯道废阙，故立五教以弘之。公言孝由天性，何须设教。然则孔子不当说《孝经》也。”
文帝曾对群臣评论苏威道：“世人言苏威诈清，家累金玉，此妄言也。然其性很戾，不切世要，求名太甚，从己则悦，违之必怒，此其大病耳。”然而，以爱慕名利和人格的诚信作为尺度去衡量官员，未免太过书生气了。所以，文帝对何妥所言，一笑置之。然而，对李李德林的批评，文帝却耿耿于怀。
李德林认为孝是一种天性，确实打中要害。李德林本人，是有名的孝子，父亲去世，他亲驾灵车，归葬故里，时值严冬，他只穿单薄的蓑衣，赤着脚，跋涉而至，让州里人感铭至深。后来，母亲去世，他辞官还乡，哀泣五天，粒米未进，因而大病一场，遍体疮肿，几致丧命。李德林和何妥都不出身于北周。李德林为北齐名士，齐亡后入周，隋文帝赖其筹划布置而顺利篡周。何妥虽是西域胡人后裔，但出生在繁荣的梁朝，以才学著称于世，江陵陷落后入周，大得周武帝赏识。李德林和何妥都不是反传统的偏激人物，大概他们都看不惯源于北周的军事管制体制，以及这种社会氛围，看不起关中土生土长的政治人物狭隘的排外性和功利主义的短视。像苏威这种缺乏政治想象力的人物，关中有才华的人士也不看重他，如杨素就“视苏威蔑如也”；鲜卑贵族元善甚至当面对文帝说：“苏威怯懦”，没有宰相的才具。然而，苏威主张对社会生活的各个方面进行无所不至的干预管理，却与察察为明的隋文帝性格相合。
苏威所主张的孝治，其实就是文帝的思想。他曾亲临国于学祭奠孔子，在隆重的仪式上，令国子祭酒元善讲《孝经》，并结合现实，大加阐扬。讲毕，文帝亲自为之授奖，赐绢百匹，衣一袭。开皇初年，功臣之子田德懋因父亲去世而还乡治丧，在父亲墓旁搭庐守制，哀毁骨立。文帝一听说，马上将此事作为楷模，颁布玺书予以嘉奖道：“朕孝理天下，思弘名教，复与汝通家，情义素重，有阐孝感，嘉叹兼深。派遣员外散骑侍郎元志前往吊祭。不久，又下诏旌表其门间，厚加赏赐”。通过这些事例，文帝明确向世人宣告“孝治天下”的政治主张。
对于隋朝来说，贯彻孝治以期移风易俗，成为提高中央权威的重要方面，具有重要的政治意义。太原文水郭俊，家族七世共居，和睦相处，据说其孝义感天，以至乌鸦都和喜鹊同巢，猪狗则互相哺乳。地方官发现这一奇迹，上报朝廷。文帝欣然相信，特地派遣大臣前往其家慰问，治书御史柳彧则在巡省河北时，专门旌表其德。原北周治下，世族多以孝道和骑射相标榜。京兆韦师，阅读《孝经》后，掩卷感叹道：“名教之极，其在兹乎？”弘农杨尚希十八岁时，在太学讲《孝经》，让听讲的周太祖惊奇不已，赐其鲜卑姓普六茹氏。北周在关中推行的这一套，竟远承秦国绪风。商鞅教秦孝公耕战之术，秦国丞相吕不韦总结道：凡为天下，治国家，必务本而后末。所谓本者，非耕耘种情之谓，务其人也。务其人，非贫而富之，寡而众之，务其本也。手本莫贵于孝。人主孝，刚名章荣，下服听，天下誉。人臣孝，事君忠，处官廉，临难死。士民孝，则耕耘疾，守战固，不罢北。夫孝，三皇五帝之本务，而万事之纪世。夫执一术而百善至、百邪去、天下从者，其惟孝也。这也是隋文帝所希望达成的目标。《孝经·广扬名章第十四》说道：子曰：“君子之事亲幸，教忠可移于君。事兄悌，故顺可移于长。居家理，故治可移于官。”
在儒家学说中，《孝经·天子章第二》所谓“爱敬尽于事亲，而德教加于百姓，刑于四海，盖天子之孝也”。韩非子曾道：母之爱子也倍父，父令之行于子者十母；吏之于民无爱，令之行于民也万父母。父母积爱而令穷，吏用威严而是听从，严爱之策亦可决矣。且父母之所以求于子也，动作则欲其安利也，行身则欲其远罪也。君上之于民也，有难则用其死，安平则尽其力。亲以厚爱关子于安利而不听，君以无爱利求民之死力而争行。明主知之，故不养恩爱之心而增威严之势。故母厚爱处，子多败，推爱也。父薄爱教笞，子多善，用严也。
韩非子认为，上对下的恩爱纯属妇人之仁，只会滋长下属简慢之心，败事有余。所以，他坚决主张用威严代替仁爱，以法、术、势临下，使之产生畏惧之心，由惧生敬，“则人主虽不肖，臣不敢促也”。在其理论中，不但忠孝是下级绝对服从上级的片面义务，而且，爱敬之类也不例外，由此形成极度专制的理论。
东汉时代的《大戴礼记·曾子大孝俯第五二》说道：身者亲之遗体也，行亲之遗体，敢不擞乎？故居处不庄，孝也；亭君不忠，非孝也；莅官不敬，非孝也；朋友不信，非君也；战阵无勇，非孝也。五者不遵，灾及乎身，敢不敬乎？这种国家伦理的孝道，十分投合隋文帝，他就曾对臣下说道：“礼主于敬，皆当尽心”，要求群臣忠诚于他。所以，文帝提倡的孝道完全是国家的统治伦理，提倡臣下百姓学习的《孝经》，就是在灌输忠君思想。
开皇三年（583年）七月，文帝特向全国通令嘉奖在反对尉迟迥战争中倾家荡产佑护忠臣的济阴郡（今山东省曹县西北）省事杜猷：“行仁蹈义名教所先，厉俗敦风，宜见褒奖”。
当年，文帝还是北周丞相时，李安向他密告其叔与北周赵工一道谋反，使文帝得以借机诛锄北周五王。后来，文帝下诏褒奖李安道：“先王立教，以义断恩，割亲爱之情，尽事君之道，用能弘奖大节，体此至公。往者周历既穷，天命将及，朕登庸惟始，王业初基，承此浇季，实繁奸宄。上大将军、宁州刺史、赵郡公李安，其叔璋潜结籓枝，扇惑犹子，包藏不逞，祸机将发。安与弟开府仪同三司、卫州刺史、黄台县男悊，深知逆顺，披露丹心，凶谋既彰，罪人斯得。朕每念诚节，嘉之无已，懋庸册赏，宜不逾时。但以事涉其亲，犹有疑惑，欲使安等名教之方，自处有地，朕常为思审，遂致淹年。今更详按圣典，求诸往事，父子天性，诚孝犹不并立，况复叔侄恩轻，情礼本有差降，忘私奉国，深得正理，宜录旧勋，重弘赏命。”
隋文帝大力提倡孝道，目的在于培育不受制约的君权，以及专制君主领导下具有高度权威的政府。隋朝正直的大臣李谔曾向文帝上书道：臣闻古先哲王之化民也，必变其视听，防其嗜欲，塞其邪放之心，示以淳和之路。五教六行为训民之盘，《诗》、《书》、《礼》、《易》为道义之门。故能家复孝慈，人知礼让，正俗调风，莫大于此。这样一来，政治专制便得到伦理的支持。
为了更好地笼络人心，稳定国家政权，隋文帝除了勤政节俭、亲临四方等等之外，还拒不封禅。
开皇九年（公元589年），朝野上下都以平定南陈、天下太平为由，请求隋文帝到泰山举行封禅大礼。隋文帝认为南陈刚刚平定，隋朝的盛世尚未到来，而且举行封禅大礼要耗费很多财力，因而严词拒绝，并下达诏书说：“岂可命一将军除一小国，遐迩注意，便谓太平。以薄德而封名山，用虚言而干上帝，非朕攸闻。而今以后，言及封禅，宜即禁绝。”同年冬十一月，考使定州刺史豆卢通等人又上表请求封禅，隋文帝依然不予允许。
开皇十四年（公元594年），关中大旱，民饥，文帝使令关中灾民就食于洛阳。闰十月，隋文帝行幸洛阳，登洛阳城北邙山，陈叔宝随从侍，并赋诗一首：日月光天德，山河壮帝居。太平无以报，愿上万封书。
陈叔宝为隋文帝歌功颂德，不顾关中饥民相继来洛阳就食的事实，说什么现在已是太平盛世，应当到东岳泰山封禅，并且向隋文帝上表请求封禅。此时的隋文帝与6年前严词禁绝封禅的态度不同，在接到陈叔宝的上表之后，“优诏答之”。不久，晋王杨广率百官上表直言，坚持请求到泰山举行封禅典礼，隋文帝命牛弘创定封禅的礼仪。礼仪既成，隋文帝审视之后说：“兹事体大，朕何德以堪之，但当东巡，因致祭泰山耳。”
在天下受灾的情况下，隋文帝不取封禅之名，以东巡的名义，行毁祭泰山之实。同年十二月，隋文帝车驾东巡。开皇十五年（公元595年）正月，隋文帝车驾到达齐州（治所在今山东济南市），筑坛于泰山，“柴燎祀天”，以对天旱“谢愆咎”，礼仪如同南郊祭天时的礼仪，又亲祀青帝坛，赦天下。