而且，政绩优异的地方官还经常被选拔到中央任职。相州刺史樊叔略，“政为当时第一。上降玺书褒美之，赐物三百段，粟五百石，班示天下。……征拜司农卿”；刘仁恩“有文武干用。初为毛州刺史，治绩号天下第一，擢拜刑部尚书”等等。对于官吏的升迁，隋朝也有一定的规则，原则上是逐级提升，上述房懿恭由县令迁州司马，再升任刺史；房彦谦由县令擢为州司马等，都属于正常情况。至于超常拔擢者，如刘旷由县令提升为刺史，刘仁恩由刺史入京任刑部尚书等，越级幅度并不太大。对于政绩优异的官吏，文帝更多给予实物奖赏，而较少采取直接升官的办法，以维持人事制度的严肃性。粱彦光政绩突出，文帝对他赏赐颇丰，但并不立即予以提升，只是允诺：“三载之后，自当迁陟”。究其原因，大概是梁彦光任岐州刺史尚未期年，故文帝遵循正常程序。侯其任满方予升迁。由此可知，文帝对官吏的升迁不光看政绩，还十分注重经验资历。
把考核政绩作为澄清吏治的中心，文帝为此呕心沥血，对于考绩优异的官吏，他经常召见慰勉，下诏褒奖，“虽啬于财，至于赏赐有功，亦无所爱吝”，而且，只要可能，他便亲自主持考课，“尝大集群下，令自陈功绩”，开皇八年（588年），还“亲考百僚”。在他主持下，隋朝的官吏考课制度得到严格而公正的执行，不但保证了各级国家机器高效率运转，而且，也确实造就一批清廉勤政的官员。
不仅如此，隋文帝在用人方面还注重对官吏进行严格的监察，对非法行为严惩不贷。赏罚分明是吏治之本，赏不可滥，而罚必求其公正。仁寿三年（603年）七月，文帝在对古代治乱经验进行反思之后总结道：自王道衰，人风薄，居上莫能公道脱御物，为下必踵私法以希时。上下相蒙，君臣义失，义失则政乖，政乖则人困。盖同德之风难利，离德之轨易追，则任者不休，休者不任，则众口铄金，戮辱之祸不测。兴衰在于得人，得人务须“公道”，赏罚不公会造成离心离德的恶果。对此，文帝给予高度重视，以身作则。
对于身边亲信触犯法规，文帝亦不宽贷。李圆通为其家奴出身，自幼侍奉左右，典宿卫，预朝政，最受宠信。但他随奏孝王出镇并州期间，不懂得奉公自律，故孝王以奢侈得罪，圆通亦坐免官。文帝身为表率，不偏袒亲信旧部，使得有关机构对百官的监察可以不必过多顾忌人事背景，执行得比较严格。
仁寿年间，杨素贵宠擅权，大理卿粱毗直接上封事给文带，指斥杨素“所私皆非忠谠，所进成是亲戚，子弟布列，兼州连县。天下无事，容息异图，四海稍虞，必为祸始。夫奸臣擅命，有渐而来。”文帝阅后大怒，亲自诘问梁毗，梁毗非但不惧，反而慷慨陈词道：“素既擅权宠，作威作福，将领之处，杀戮无道”。引起文帝的警惕，不再专任杨素。
仁寿二年（602年）春，文帝到仁寿宫休养，命苏威代理朝政。回京后，御史弹劾苏威不理职事，文帝大怒，颇加谴责。宰相亦在宪官纠弹之列，则朝廷百官自不待言，平日言行举止，颇以宪官纠弹为意，不敢过于放纵。平陈后，文帝曾亲临晋王广府第，大宴群臣。虞庆则和杨素相互争功揭短，有失大臣之体，御史当场就要加以弹劾，为文帝所止。故文帝提议群臣宴射行乐时，虞庆则连忙告饶道：“臣蒙赉酒食，令尽乐，御史在侧，恐醉而被弹。”只有在文帝将御史支走后，大臣们才敢放情尽欢。高级将领的庆功宴会尚且如此，则平时情形可想而知。
对于地方官吏，文帝则经常派遣中央官员外出巡省，考核黜陟。巡省或黜陟大使对于地方官员的升迁任免具有重大影响。赵轨任齐州别驾，连续四年考绩最优，持节使者粱子恭将其事迹上报，文帝大喜，予以褒赏，调任京官。公孙景茂同样因为巡省大使杨纪的美言而迁任淄州（今山东省稻博市淄川）刺史。对于不遵法度乃至为非作歹的官吏，巡省大使确实能够起到相当的抑制作用。皇甫诞在刑部颇有能名，迁治书侍御史，“朝臣无不肃惮”，旋被委任为河南道大使。治书侍御史柳彧“持节巡省河北五十二州，奏免长吏赃污不称职者二百余人，州县肃然，莫不震惧”，文帝知道后，大加奖励，仁寿初年再度委派他持节巡省太原道十九州。正因为有文帝撑腰，所以巡省大使敢于秉公监察，使得封疆大员甚至宗室亲王都有所顾忌，收敛避让。
执法的官员同样受到其他官吏的监察。南陈降将萧摩诃在妻子病危时，奏请让其子回江南收取家产，御史见而不言。尚书左丞元寿立即上表纠弹，认为萧摩诃不顾妻子病重，让其子远出敛财，实在是重利忘义的行为，大亏名教，而监察官员竟然不加弹劾，断难饶恕，请将他们送交大理寺审判。文帝阅后，“嘉纳之”。文帝视监察官员为耳目鹰犬，督励甚严。为了防止他们懈怠苟且，还允许百官对其进行监督，造成百官之间相互纠察的局面，以此保证国家机器稳固而高效地运转。而且，隋朝还通过创建公文档案制度，对各级机关的行政过程进行全面监察。吏部尚书牛弘曾对政府部门吏员倍增而公务益烦现象大惑不解，向名儒刘炫咨询，刘炫作了一段饶有意思的回答：古人委任责成，岁终考其殿最，案不重校，文不繁悉，府史之任，掌要目而已。今之文簿，恒虑覆治，锻炼若其不密，万里追证百年旧案，故谚云“老吏抱案死”。古今不同，若此之相悬也，事繁政弊，职此之由。
与此相适应，隋朝对官吏的监察就不限于行政执法、政风官纪，忠诚廉洁、仪容仪表等公务方面，还深入涉及到官吏的品行操守等私生活领域。上柱国郑译与母亲别居，为宪司所劝。除名为民。大司徒王谊的儿子尚文帝第五女，不久，其子病死，一年后，王谊以公主年少为由，奏请提前免其孝服，遭到御史大夫杨素的严词弹劾。应州（今湖北省广水市）刺史唐君明母丧期间，娶雍州长史厍狄士文堂妹，被治书侍御史柳彧纠弹，唐君明和厍狄士文双双获罪入狱。就连一代名相高颎之子高弘德被封为应国公时，申请门户列戟以示尊贵，也披柳彧严词驳回。对伦理道德的强调，经常以提倡贞操和勤俭为开路先锋。文帝和独孤皇后过着俭朴生活，在家庭伦理方面，他们共同起誓“无异生之子”。
官吏品行成为行政监察的重要对象。监察官员自然成为伦理道德的坚定捍卫者，开皇年间的治书侍御史李谔就是其典型。当时，妇女改嫁的情况颇为常见，特别是官僚家庭，子孙嫁卖父祖遗妾侍婢成风，李谔为之扼腕，以为太伤风化，上书痛陈，请予禁止。此事得到儒士刘炫的支持，《隋书·刘炫传》记载此事缘由为“风俗陵迟，妇人无节”，可知所针对的不只是变卖父祖妾婢现象，应该还包括一般的改嫁。文帝读罢李谔奏文，大为赞同，遂于开皇十六年（596年）六月，“诏九品已上妻，五品已上妾，夫亡不得改嫁”。此外，在提倡俭朴、力戒轻薄浮华、纠正文风和改变官吏自矜浮夸等方面，李谔都曾上书直言，大得文帝赞赏，并将其“前后所奏颁示天下，四海靡然向风，深革其弊”。
《隋书·柳彧传》说：“隋承丧乱之后，风俗颓坏，或多所矫正，上甚嘉之。”其实，把伦理道德政治化以及对官吏进行严厉的行政监察，无不是针对分裂时代风俗颓坏而发，不仅为了救时厉俗，还因为激进的道德主义乃是实现集权的有力武器，其不近人情甚至泯灭人性的方面随道德主义的激昂而增大，并为统治者所赞同，史称“高祖之世，以刀笔吏类多小人，年久长奸，势使然也”。
开皇初年，文帝曾与安德王杨雄、上柱国元谐、长孙览、李充、左仆射高颎、内史监虞庆则及吴州总管贺若弼等新朝要员同宴，动情地说：朕昔在周朝，备展诚节，但苦猜忌，每致寒心。为臣若此，竟何情赖？朕之于公，义则君臣，恩犹父子。朕当与公共享终吉，罪非谋逆，一无所问。北周时代，他曾备尝猜忌之苦，深知其涣散人心的恶果，故于登基之后，思革前弊，乃与群臣相约推诚接物，共享终吉。实际上，由于北周派阀政治的遗俗和文帝相对软弱的权力根基，决定了这些话不可能真正做到。