从贞观三年（629）起，房玄龄进入了他一生中最繁忙、最重要、也是最辉煌的时期。
房玄龄作为宰相总理国政，日夜操劳，尽心竭力，不容许有一点事情处理不当。他为人毫无妒忌之心，听说哪个人的优点，就像是自己的优点一样高兴。他会使用各种方法手段处理政务，而他的这些做法又都显得温文尔雅。
他审议决定法令，务求宽缓公平。他从来不用自己的长处去要求别人，选取人才不求全责备，即使是地位卑微的人，也都能根据其能力加以任用。如果因为什么事受到皇帝的责备，必定叩头请罪，惊恐不安，看起来像无地自容的样子。
这一年春天，太宗改封房玄龄为魏国公，并拜为太子少师，掌教诲养训诫太子，赐绢五千匹。但房玄龄觉得自己身上的职务和荣誉够多的了，坚持把太子少师推让掉，最后仅以尚书左仆射的身份代理太子詹事，并兼礼部尚书。
这一年夏天，房玄龄受命监修国史，即七年后修成的“五史”；同时修订唐律，即十年后修成的《贞观律》。
这一年秋天，太宗又授命房玄龄对朝廷机构进行精简。房玄龄身兼数职。
当时正处于新旧交替时期，旧体制日渐束缚生产力的发展，而新的机制才刚刚萌芽。在这种特殊局面下，吏治混乱确是主要矛盾。于是太宗说：
“要把国家治理好，最根本的就在于用人谨慎。根据才能大小授予官职，一定有减少官员人数。《尚书》中说，‘只能任命贤才做官。’又说，‘官员不必多，只在于任用合适的人选。’如果任用了有才能的人，虽然人数少也能满足需要，如果都是些无能之辈，纵然人数多又有什么用？古人也曾把任官不得其人比作在地上画饼，认为同样不中用。《诗经》中说，‘谋士虽然很多，事情却因此没有结果。’孔子也说，‘一人一职，花费就多。没有人兼职，怎么能说是节俭呢？’而且古人说得好，‘上千张羊皮，也不抵一只狐狸腋下。’这些话都记载于经典著作里，不能一一列举，应当而且必须进一步合并和减省官职和名额，使每一位官员都各当其任，那么朝廷可以无为而治了。你应该认真思考这一道理，根据需要定出官员的编制。”
修史和治律并非一日之工，分派下去让别人先干着就是了，而机构改革、定编裁员则是当务之急。机构改革是件大事，太宗把这样重要的使命委任于他，一来是因为他身为首席宰相，二来也是看他力能胜任。于是，房玄龄根据太宗的旨意，开始着手裁减朝廷冗员。
入仕之初房玄龄就曾担任过隋宫里的校书郎，投奔秦王以后又在府中做过十年记室，对于案牍文书之类事情，他可谓行家里手。他明达吏事，又饰以文学，本来是生硬枯燥的事情，在他那里却显得有声有色。他不以求全取人，也不以己长格物，无隔疏贱，一视同仁。但仅有这些还不够，就像会写字的人未必就是作家一样，他必须以策划政治体制为基础，对整个国家机器的运作方式有一个通盘的把握。把握不准就将导致滞塞失灵，决策失误就会偏离正轨，那可是关乎社稷存亡啊？
要维持国家机器的正常运转，从中央到地方都必须拥有大量的官员。但官员过多过滥，则不仅无益于事，反而互相掣肘，影响行政效率。每一个官员都享受一定的俸禄，其衣食所寄皆取自于民，官员人数越多，人民的负担就越重。
所以太宗明确指出：“官在得人，不在员多。”
当时吏治方面积弊甚多。一方面经过十多年的战乱，人民大量死亡和逃散，人口锐减，另一方面却由于种种原因，官员人数却大大膨胀。高祖李渊进军关中，为了争取更多的人的支持，曾大量封官，一边询问前来归附者的功业行能，一边手写委任对方的官职，一天之内居然封官一千多人。隋朝末年，各地“英豪并起，拥众据地，自相雄长”，李渊占领长安前后，他们相率归附唐朝，为了使每一个人都有官做，高祖还采取了“割置州县，以宠禄之”的办法，用增加州县来扩大官员数额，以满足归附者求官的愿望。因此唐初州县之数，比隋代成倍增加。
不仅如此。在长期的战乱中，一些士大夫亲眼看到隋朝官吏大量被起义军屠杀，因而心怀余悸不愿做官，这就使得很多人做官却无任职的能力，而有能力的又不愿意出来做官。官员人数不少，而能充职胜任的却不多。为了调动人们做官的积极性，当时高祖让吏部把选官文书下到各州府，请各州府派人到京城接受选任，同时派官员持补官文牒到各州府巡察，发现好苗子就发给他红色文牒。对于路途远的，吏部供其衣食。这些人到了京城，就根据情况授以不同的官职。为了尽快把统治机构建立起来，高祖简直是饥不择食，必然造成官员的多滥。
面对历史形成的如此庞大的官僚队伍，要想解决人浮于事、机构臃肿、官多民少的现状，就必须大刀阔斧地进行改革。
首先是朝廷。调整后的机构设置是这样的：
皇帝以下地位最高的是“三师”和“三公”。“三师”即太师、太傅、太保；“三公”即太尉，司徒、司空。这都是正一品的职位，但属于名誉性质的，没有具体职责，因而不设府僚。因太宗不愿意有任何特权凌驾于自己头上，房玄龄便对太宗说，眼下朝中还没有人有足够的资格晋升三师三公之位，可以暂且保留隋朝的这一制式，虚位以待之。太宗认为这样做很好。
朝廷的核心部分是三省六部，即尚书省、门下省、中书省。尚书省下设吏、户、礼、兵、刑、工六部。
尚书省是执政机关，长官为尚书令，总领百官。因为太宗在唐初做过尚书令，别人不好再坐这把交椅，所以副职左、右仆射即为尚书省长官，从二品。两位仆射要经常与宰相班子里的其他成员一起议政决策，所以分管六部的是其下属左右丞。左丞分管吏、户、礼三个部，右丞分管兵、刑、工三个部，又有郎中、员外郎、都事、主事等直属官员。各部长官为尚书，正三品；其副职为侍郎，正四品。每个部又下设四司，六部凡二十四司，各有郎中、员外郎、主事、令史、掌固之属。六部之中也分为三行，吏部和兵部是前行，户部和刑部是中行，礼部和工部是后行。各部官员的迁转也是按照这个次序递升的。
门下省掌出纳帝命，总典吏职，赞相礼仪，佐天子而统大政。凡是军国大事，均与中书省协商处理。门下省的长官全称叫门下侍中，一般就称侍中，正二品。设门下侍郎二人，为侍中的副职，正三品。另设左散骑侍郎，正三品，为侍从顾问，掌规讽得失。
中书省执掌军国政令，佐天子而执大政。长官为中书令，正二品；下设中书侍郎二人，为中书令的副职，正三品，可参议朝廷大政。另设右散骑常侍，正三品。又有中书舍人六人，掌侍奉进奏和参议表章，根据皇帝的旨意和有关规章制度，替皇帝起草诏书玺册。省内下属还有谏议大夫、直学士、侍读学士、修撰官、校书正字、史馆修撰等员。
这三省之间的关系是这样的：尚书省的一切政令由仆射和六部尚书“会而决之”。三省形成制命、出命、行政三权分立、互相制约的格局，而又通过宰相会议决策使三省职责联结贯通，共同向皇帝负责。
与三省并列的是一台、九寺、五监。“一台”即御史台，这是在隋朝三台基础上精简合并而成的，其地位与三省不相上下。长官为御史大夫，正三品，执掌刑法典章，纠正百官罪错。副职是御史中丞，正四品。
九寺即太常寺、光禄寺、卫尉寺、宗正寺、太仆寺、大理寺、鸿胪寺、司农寺、太府寺。九寺虽然也很重要，但毕竟不属于国家要害部门，因而其地位比三省一台略低一些。
——太常寺以太常卿为首，正三品；太常少卿为职副，从四品。其职责主要是执掌礼乐、郊庙和社稷之事，领长安和洛阳两京郊社、太乐、鼓吹、太医、太仆、廪牺、汾司七署。下属有丞、主簿、博士、奉礼郎、协律郎、录事等员；各署有令、丞。
——光禄寺以光禄卿为首，从三品；光禄少卿为副职，从四品。其职责主要是经管国家酒醴和膳馐，领大官、珍馐、良酝、掌醢四署。下属有丞、主簿、录事等员；各署有令、丞。
——卫尉寺以卫尉卿为首，从三品；卫尉少卿为副职，从四品。其职责主要是经管国家器械和文物，领两京武库、武器、守宫三署。下属有丞、主簿、录事等员；各署有令、丞。
——宗正寺以宗正卿为首，从三品；宗正少卿为副职，从四品。专管皇族亲属的一应事务，归口管理的还有国内各陵台，各太子庙，各太子陵。下属有丞、主簿、录事、知图谱官、修玉牒官、知宗子表疏官等；各台、庙、陵还有庙令寺丞等。
——太仆寺以太仆卿为首，从三品；太仆少卿为副职，从四品。掌管朝廷马厩、牧猎、辇舆之政，领乘黄、典厩、典牧、车府四署。下属有丞、主簿、录事等员，各署有令、丞。各署以下还有牧监、上牧监、中牧监、下牧监，以及副监、监丞、主簿；东宫九牧监、丞、录事也归其隶属。
——大理寺以大理卿为首，从三品；大理少卿为副职，从四品。专司折狱详刑，下属有正、丞、主簿、录事、狱丞、司直、评事等司法官员。
——鸿胪寺以鸿胪卿为首，从三品；鸿胪少卿为副职，从四品。掌管朝廷来往宾客及丧葬礼仪，领典客、司仪二署，有丞、主簿、录事，以及典客令、丞等员。
——司农寺以司农卿为首，从三品；司农少卿为副职，从四品。经管仓库储积，下属官员数额是九寺中最多的，有丞、主簿、录事，领上林、太仓、钩盾、导官四署。署下有太原、永丰、龙门等各仓库、庆善、石门、温泉汤等疗养院、京都各宫苑，以及司竹、九成宫屯府等等。有丞、主簿、录事等职，各署亦有令、丞、监事、主簿等。
——太府寺以太府卿为首，从三品；太府少卿为副职，从四品。其职责主要是经管国家财货、廪藏和贸易，领两京诸市、左藏、右藏、常平四署。下属有丞、主簿、录事；各署亦有令、丞、监事。
五监是国子监、少府监、将作监、军械监、都水监，地位跟九寺相等。
——国子监长官名为国子祭酒，从三品；副职为司业，从四品，负责儒学训导。下属有丞、主簿、录事、博士、五经、太学、各文馆负责人，以及律学、书学、算学等各学科的博士助教。
——少府监长官就叫少府监，从三品；副职为少监，从四品，掌管百工技巧。下设中尚、左尚、右尚、织染、掌冶五署。属官有丞、主簿、录事，各署又有令、丞、监作，并辖各冶监令、丞、监牧、监作、铸钱监、互市等基层官员。
——将作监长官为将作监，从三品；副职为少监，从四品，掌管土木工匠。下设左校、右校、中校、甄官等署。属官有丞、主簿、录事，各署又有令、丞、监作，并辖百工、就谷、库谷、斜谷、太阴、伊阳监、副监、丞、监作等官员。
——军械监长官为军械监，正四品；不设副职，掌管盔甲弓箭维修，随时出库入库。内设弩坊、甲坊二署，属官有丞、主簿、录事；各署又有令、丞、监作。
——都水监长官名为使者，正五品；无副职，掌管江河湖泊、津池渠堰。下设舟楫、河渠、津口等署，属官有丞、主簿，各署又有令、丞以及河堤谒者。
武职部分有南衙十六卫和北衙十军。南衙十六卫是左右卫、左右骁卫、左右武卫、左右威卫、左右领军卫、左右金吾卫、左右监门卫、左右牵牛卫。各卫设上将军一人，大将军一人，将军二人，执掌宫禁宿卫。府属有长史、参军等。北衙共有十军，乃是左右羽林军、左右龙武军、左右神武军、左右神策军、左右神威军。各设统军、大将军和将军。南衙多为仪仗之用，北衙则是禁军的实力。
太子东宫则是相对独立的一套系统，其建制与中央政府差不多，内属齐全，只是人员略比中央政府少一些。这是由皇权封建社会的祖制所定，历朝历代无不如此。
太子以下有六傅，即太师、太傅、太保，少师、少傅、少保，亦称东宫三师三少，三师为从一品，三少为正二品。他们的职责是辅导太子。
另有太子宾客一人，负责侍从规谏和赞相礼仪。
东宫有三府，即詹事府、左春坊、右春坊。
——詹事府总管东宫事务，相当于朝中尚书省，设詹事和少詹事各一人，分别为正三品和正四品，掌统三寺十率府之政。三寺即家令寺、率更寺、仆寺，相当于朝中卿士。十率府即左右卫率府、左右司御率府、左右清道率府、左右监门率府、左右内率府，相当于朝中十六卫。
——左春坊相当于朝中门下省，设左庶子和中允各一人，分别为正四品和正五品，主管侍从规谏和驳正启奏。内属有司议郎、左谕德、左赞善大夫、洗马、学士、文学、校书、典膳、药藏、内直、典设、宫门等局郎丞。
——右春坊相当于朝中的中书省，设右庶子和中舍人保一人，分别为正四品和正五品，执掌侍从献纳启奏。内属有舍人、通事舍人、右谕德、右赞善大夫，以及宫、仓、厩官员。
除此之外，还有三个小省，即秘书省、内侍省、殿中省。它们主要是负责经籍图书、出入宫掖、奉宣制令、乘辇官服等，都是秘书机构。
以上这种机构设置虽然在整体框架上继承了隋制，但有了很大变化。其中最主要的变化是政务中枢，即宰相制度。根据太宗“君臣共治”的主体思想，新政体形成了一个皇帝领导下的宰相集体，而不是某个人，即由中书省中书令、门下省侍中、尚书省左右仆射，以及御史大夫等参加的处理政务的首脑机构。这是根据魏晋以来相沿的习惯整理之后加以巩固的，却与秦汉的丞相远远不同。这些人以宰相身份在尚书省政事堂议政。后来又有所增加：凡是参加政事堂会议而带“同中书门下三品”、“同中书门下平章事”等职衔者，都是宰相。时任御史大夫是杜淹，亦即杜如晦的叔叔。在唐代，以他官参与朝政，自此始成惯例。不久魏徵也以秘书监的身份参与朝政，这是太宗对魏徵特别赏识，太宗希望在最高决策层里能有敢于坚持不同政见的人。
宰相对皇帝负责，总揽政务，是最高决策班子和统治中枢，职任繁重。原则上是中书省决策，门下省审议，尚书省执行，而实际上三省长官只是一种名分，本身直接指挥的权力很有限。宰相们除了办公文的低品级职官以外，没有僚属，所以也没有独立的机构，虽然与皇帝十分接近，但遇事只能以皇帝的名义发令，这就有效地避免个人专权和权力的过于集中。
自太宗执朝以来，直至贞观二十三年五月去世，君临天下二十三年，总共任用过二十八位宰相。其中有高祖旧相六人，即裴寂、萧瑀、陈叔达、封德彝、杨恭仁、宇文士及。其他二十二人是：高士廉、房玄龄、长孙无忌、杜淹、杜如晦、李靖、王珪、魏徵、温彦博、戴胄、侯君集、杨师道、刘洎、岑文本、李世勋、张亮、马周、褚遂良、许敬宗、高季辅、张行成、崔仁师。在后二十二人里面，山东人占了十一位，关中人六位，南朝系统的五位。家世最高的是高士廉，其次是房玄龄，其余多为寒门。这里有太宗存立新门阀的用意。
至于三省的组织，依然是正规机构。三省的官员如中书省的中书舍人，门下省的散骑常侍，谏议大夫，尚书省的员外郎以上各官，都是所谓清望官，通常都由进士出身的有名望的人担任。
在当时，构建这种“一言堂”底下的“群言堂”，或者说是以天子为绝对权威的集体领导制，已属难能可贵。在确立这种新的宰相制度的过程中，也体现了房玄龄的创造性、灵活性和杰出的政治才能。
三省之中，尚书省才是行政的总汇。新体制下的尚书省组织比隋朝更加齐整严密，由隋的六曹固定为六部，每个部在尚书侍郎以下置四司，各置郎中、员外郎为部员骨干。这种机构形式一直沿用到清代，基本上没有改变。左右仆射是代表尚书令而作为尚书省长官的，位高而不任省内事务，实际负责人是左右丞。
用了两个多月的时间，房玄龄根据新体制，把朝廷文武官员减少到六百四十三人。跟隋代朝廷官员二千五百八十一人相比，一下子减少了四分之三。这在唐初的政治改革过程中，实在是一个很大的动作，其魄力之大，在历史上怕也十分罕见。
太宗对房玄龄的工作给予了充分肯定，并让他以此为契机，结合定岗定编，彻底整肃吏治，把整个官制来一个脱胎换骨，以适应新形势的要求。
一道政令的形成，首先在中书省。中书省负责诏书起草和参议章表工作的主要是中书舍人。中书舍人有六名，分别联系尚书省的六部；他们按尚书省六部的工作性质，分工起草诏书和参议表章。朝廷各部门的表章都通过六部上奏，当这些表章送达中书省时，每位中书舍人再分别对军国大事提出处理意见，另外五名则“各执所见”，讨论后“杂署其名”，即每个人都要签署自己的意见和名字。
房玄龄把这种制度称为“五花判事”。
中央机构调整完毕，接着是地方州府合并。这项工作花了近两年时间。据统计，合并后全国州府共三百五十八个，比并省前少了三分之一；县共有一千五百五十一个，比并省前减少了二分之一。
为了便于中央对地方的控制，根据山川地理形势，房玄龄还颇有创造性地把全国分为十道，即关内道、河南道、河东道、河北道、山南道、陇右道、淮南道、江南道、剑南道、岭南道。这十个道不是行政区划，而是监察大区。
贞观四年八月，房玄龄主持制定了品官服色。
虽然是一项触及许多人切身利益的深刻改革，但由于大得人心，加之房玄龄及其僚属们工作周密稳妥，最终顺利完成，没引起任何动荡不安。
大规模裁减之后，太宗告诫房玄龄等人，一定要杜绝用人过滥的现象。他说：“从此以后，如果有乐工杂类各色人等，假如他们的技艺超过他们的同行，只能专门赏赐钱帛，表彰他们，未必非得授其官职爵位不可，让他们和朝廷贤臣君子比肩而坐，会使官员们感到羞耻。”
为了防止官员再度冗滥，朝廷在《官职令》中对政府机构、人员编制和官吏员额都做了明确规定，使之有章可循。对于违令超编任命官职的行为以违法论罪，在房玄龄负责修订的《唐律》中，还专门有一项处罚条例。具体内容是：“各种官职都有一定的员额，如果署置官吏的人数超过规定的界限，不应该署置而未经申奏朝廷署置了的，署置一人就打一百大棍，署置三人罪加一等，署置十人则判二年徒刑。后来接任的官员，明知前任官员有违令之举却不加纠举和告发者，比其前任减罪一等处罚。求官的人被编外署任，算是从罪。被征召做官的人，虽然是编外授官，不以犯罪论处。”
贞观六年（632），太宗又下诏设置三师，即太师、太傅、太保。太宗说：“我最近研究经史，历代明王圣帝何尝没有师傅？现在我朝却没有三师的位置，我认为这是不合适的。为什么呢？黄帝学大颠，颛顼学录图，尧学尹寿，舜学务成昭，禹学西王国，汤学威子伯，文王学子期，武王学虢叔。前代这些圣王如果没有这些师傅，其功业就不会著称于世，名声也不会在史册里流传下来。何况我承百王之后，智慧不及圣人，如果没有师傅的教诲，怎么能统治百姓呢？”由此，朝中始设三师之位。
完成了机构调整和官吏队伍压缩，还只是整肃吏治的一半。为了督促各级官吏尽职尽责，房玄龄又经过一段时间的调查研究，制定出一套相当完善的考课制度。
所谓考课，就是按照一定的标准考察官吏的德行和政绩，对他们的功过善恶分别等级，并按照考察的结果进行升降赏罚。新制规定：官员一届任期为四年，每年有一小考，每四年有一大考。小考要评定出被考官吏的等级，大考则综合四年中的几次等第来决定其升降、奖惩和任免。尚书省的吏部设考功郎中和考功员外郎各一人，他们的职责就是“掌文武百官功过，善恶之考法及其行为表现。”
具体的考课方法是：每个部门的行政长官，每年都要比较他的部下每一位官吏的功劳和过失，把他们的政绩分成九等，当众宣读。凡是流内之官，即有品位的官员，都从四个方面提出要求，称为“四善”：一是德义有闻，二是清慎明著，三是公平可称，四是恪勤匪懈。这是对各级各部门官吏总的要求，除此之外，对各个部门的官吏又根据其工作性质分别提出具体要求，称为“二十七最”：
一是献可替否，拾遗补阙，为近侍之最；
二是铨衡人物，擢尽才良，为选司之最；
三是扬清激浊，褒贬必当，为考校之最；
四是礼制仪式，动合经典，为礼官之最；
五是音律克谐，不失节奏，为乐官之最；
六是决断不滞，与夺合理，为判事之最；
七是部统有方，警守无失，为宿卫之最；
八是兵士调习，戎装充备，为督领之最；
九是推鞫得情，处断平允，为法官之最；
十是雠校精审，明于刊定，为校正之最；
十一是承旨敷奏，吐纳明敏，为宣纳之最；
十二是训导有方，生徒充业，为学官之最；
十三是赏罚严明，攻打必胜，为军府之最；
十四是礼义兴行，肃清所部，为政教之最；
十五是详录典正，词理兼举，为文史之最；
十六是访查精审，弹举必当，为纠正之最；
十七是明于勘覆，稽失无隐，为勾检之最；
十八是职事修理，供承强济，为监掌之最；
十九是功课皆允，丁匠无怨，为役使之最；
二十是耕耨以时，收获成课，为屯官之最；
二十一是谨于盖藏，明于出纳，为仓库之最；
二十二是推步盈虚，究理精密，为历官之最；
二十三是占候医卜，效验多者，为方术之最；
二十四是检察有方，行旅无壅，为关津之最；
二十五是市廛无忧，奸滥不行，为市司之最；
二十六是牧养肥硕，蕃息孳多，为牧官之最；
二十七是边境清肃，城隍修理，为镇防之最。
这“四善”和“二十七最”是每个流内官的努力方向和奋斗目标，也是朝廷考核每个官员政绩的标准。每年的考课就是依据这些标准，对官员们的德行政绩分出九个等级。
划分等级的具体办法是：
一最四善为上上，一最三善上中，一最二善为上下；
无最而有二善为中上，无最而有一善为中中，职事粗理，无善无最，为中下；
爱憎任情，处断乖理，为下上，背公向私，职务废阙，为下中，居官谄诈，贪浊有状，为下下。
对于有些不便于用上述标准衡理等级的官职，则考虑其具体情况加以区分。例如在国学任教的博士、助教，就统计他们全年讲授的课时多少，以此分出高低。京城皇宫卫士则根据行能功过，只分为上中下三等。对于流外官，即不入九品的官吏，以行能功过分为四等。清谨勤公为上，执事营私为中，不勤其职为下，贪浊有状为下下。
官员考课的操作过程，也是经过房玄龄潜心研究了的，目的是尽量做到公正无误。
每年各地各部门都要把考评的结果上报给尚书省备案，吏部的考功郎中判宣京官的考课，考功员外郎判定外官的考课，考定上奏。三品以上的大臣，要把他们的功过状上奏皇帝，由皇帝亲自裁决。每年还要选两名位高权重的大臣任考使，对京官、外官的考课进行核校。
新制还规定，中书省的中书舍人和门下省的给事中各一人参与此事，对考课工作进行监察。如果发现有不公正的情况，可以进行驳正，被称为“监中外官考使”。有关官员们的考课，朝廷下发的诏敕如有不够妥当的，允许有关官员执奏，能够纠正违失之处，则提高他本人的考课成绩。
新制实施以后，房玄龄就以宰相身份连任了几年考使。每年的考课一般都在年底完成，考定后张榜公布，发给考牒作为凭证。
考课的结果是官员任免升降和赏罚的依据。具体做法是：考课成绩在中上以上的，每进一等就奖赏一季的俸禄；考课成绩为中中的，无赏无罚，俸禄不变；中下以下，每降一等就扣发一季俸禄。一中上考，官品晋一阶；一上下考，官品晋两阶；如果有上考应该晋升，可是又有下考应该贬降，则互相抵消。有下下考的，削除官职。
同居宰相之位的萧瑀虽为开国元勋，但几年来政声一直不好。他不能为国家擢选贤才，却任人唯亲，把诸如孙洪、吴士贤一类庸才提拔为官。房玄龄依据新颁考课条例，给他评了个“下中”，说他“背分向私，职事废阙”。这一来，萧瑀的宰相地位就保不住了，太宗让他改任太子少傅，不再参与朝政。
通过考课施行奖罚，这就对官吏们恪勤职守奉公守法造成了激励机制，使吏治得到了有效的加强，提高了工作效率。
在朝廷内外官员中，太宗最重视的是宰相和各州的都督刺史。他把前者视为股肱，把后者视为耳目。这体现了他君臣一体的思想。为此，房玄龄亲自把各州都督刺史的名单抄录在太宗的屏风上。太宗得知哪一位做了好事，就一条一条记在他们名下。
为了及时了解各州官员的表现，房玄龄还建立了朝集和巡视制度。所谓朝集，就是各州长官或上佐每年十月二十五日集中到京师来，称为朝集使，十一月初一由户部带着他们朝见皇帝，朝拜仪式结束后，再到尚书省会见朝廷官员，然后聚会于考堂，汇报各地情况，反映意见和要求，进行政绩考课。到第二年正月初一，他们把各地进贡的物产陈列于殿堂，整个朝集工作至此算是正式结束。
地方官员的政绩考核，是沟通中央和地方的一个重要途径。对此太宗本人也深知其重。
一日，太宗对房玄龄说：“古时候诸侯入朝，有专门的住宿沐浴之所，有专门供应他们车马的草料，以客礼相待。白天坐在正殿论事，晚上朝见时要在院子里点燃大烛，皇帝急于跟他们见面，对他们行旅劳苦进行慰问。汉朝还在京城里为各郡修建旅馆。最近我听说，地方来使都赁屋居住，与商人杂居仅有睡觉的地方，这不行。”
于是，房玄龄让有司在京城空闲的街坊修建了旅馆。旅馆建成时，太宗亲临现场视察。
因为有新法的约束机制，加之太宗、房玄龄等君臣率先垂范，朝廷上下渐渐形成了廉洁自律、勤政奉公之风。岑文官居中书令，却长期住在低矮潮湿的房舍里，室内连帷帐之类的简单装饰都没有。有人劝他置办一些家产，他叹息道：“我本是汉南一介平民，并无汗马功劳，只会舞文弄墨，如今做了中书令，仕途就算是到了顶点。享受朝廷那么优厚的俸禄，已经是愧领了，怎敢再去经营产业呢？”
戴胄后来死于户部尚书任上，他的家宅破漏不堪，连个设灵堂的地方都没有。房玄龄建议为他修一座小庙，让天下官员以戴胄为榜样，廉洁奉公。
“四善”、“二十七最”考课新法，是房玄龄为相期间的一大创造，也是对我国古代吏治思想的一项杰出贡献，为完善官吏考核制度和唐朝吏治清明奠定了一个良好的基础。长达二十余年的“贞观之治”，与他的考课新法有着密切关系，也与他卓越的吏治思想是分不开的。
作为一位出色的政治家，房玄龄忠实执行和贯彻了唐太宗的主体思想，以他的远见卓识和殚精竭虑的努力，不仅确保了大唐江山的稳固，而且为后世治国留下了宝贵的经验。