唐朝是一个泱泱大国，大国就要有大国的气度、大国的文化。所以，天下平定后，唐太宗要『偃武修文』，加强大唐的文化建设，大力倡导周孔之道。这个任务，就交给了房玄龄。
经过了魏晋南北朝的乱世，现在要用儒家经典来统一人们的思想，使社会重新恢复秩序。房玄龄的第一件工作是考订经文。在他的主持下，秘书省考订了《周易》、《尚书》、《毛诗》、《礼记》、《左传》等五经，由唐太宗批准，颁布全国，成了官定的统一课本。
自贞观元年房玄龄迁为中书令，贞观二年又进拜门下省侍中，越明年又代长孙无忌而拜为尚书省左仆射，这样他就把朝廷三省的“一把手”全都做过了，从此成为朝中首席宰相。因他辅佐君王有功，为人正派廉洁，诚实可信，成为朝廷决策机构里总领百司的核心人物。太宗封他为梁国公，封食邑一千三百户，还把自己的女儿高阳公主嫁给房玄龄的次子房遗爱为妻，同时韩王又娶了房玄龄的宝贝女儿为妃。这样一来，房玄龄便成了皇亲国戚，更是位极众臣之上了。
人都说房玄龄胆小，因为平常总见他笑容可掬，甚至在皇上面前唯唯喏喏，却不知这并不是他故意装出来的，而是谦虚谨慎的人格使然。实际上每临大事，他自有主见，但他不像魏徵那样直言相谏，也不同于封德彝们阿谀奉承，更不像尉迟敬德那一路武夫式地动辄光火，他谦恭谨慎，夙夜辛劳，尽心竭虑，同时处事得体，善于把握分寸。
刚正不是形式上的表演，身为宰相，协助君王治理好国家才是根本，所以必须协调好大臣之间、君臣之间、衙署之间的各种关系。房玄龄已是五十岁的人，既有丰富的政治经验，又有多年在基层的磨炼，加之他人品正派，所以由他做宰相是再合适不过的。可见太宗用人很有眼光。一个锋芒毕露的宰相肯定与阁僚搞不好团结，一个平庸无才的人又不足以服众，一个小肚鸡肠的人呢，不用别人弹劾他，自己怕是一天也干不下去。故而有“宰相肚里能撑船”之说。
房玄龄之廉，既廉在他为人处事严谨无私，也廉在他身居高位有为有功。一个州官很容易获得清名，两三件政绩，两袖清风，家徒四壁，再有那么一两次抗旨不遵（当然是昏君之旨），就可以名垂青史了。当朝宰相则有所不同，一方面要匡正天子的某些言行，一方面要把握住大政方针，同时还要调动起满朝文武的工作积极性，以使国家富强、人民幸福、长治久安。这就是高层次的廉了。房玄龄就是这样的一个人，他善于协调而又不失原则，功丰绩伟却能推功于主，大权在握却从不谋取私利。人说他“不欲一物失所，闻人有善，若己有之。”可见他的高风亮节。
有一件小事很能体现房玄龄的风格。太宗平时威容庄肃，百官进宫看见他一脸严肃，经常吓得手足无措。房玄龄便对太宗说：“臣小时候在靖池里居住时，常听隋朝大臣宇文恺讲故事。一日宇文先生说，虎因为凶猛而被人畏惧，猫因为柔善而被人豢养；但用紫檀木雕成的老虎也被人家放在堂上，为什么？木头雕成的老虎在向人微笑。人们总是愿意看见笑脸，正所谓‘巧笑倩兮，美目盼兮。’和善的人容易获得友爱。”
听了这一席话之后，太宗每见人奏事，即便心情不快也要做出和颜悦色的样子，希望以此听到谏诤，了解政教得失。一日他对众公卿说：“玄龄让我懂得了一个道理，人若想知道自己是什么样子，必须有明镜；君王要想知道自己的过失，必须借助于忠臣。君王要想自贤，就必须有大臣们来匡正。实际上道理很简单，君王如果失去了他的国，臣子们也不能独全其家，君臣的出发点是一致的。你们看过去，隋炀帝暴虐，臣下钳口不言，致使他不闻其过，最终导致隋朝灭亡，国家一灭，虞世基等大臣也被诛死了。前事不远，自应借鉴。以后每当你们看到有什么不好的事，一定要极言规谏。”
房玄龄就是这样，用很委婉的方式来说服人，而不是生硬的批语或简单的说教。对皇上如此，对同僚也是如此。
五十岁的房玄龄是一张瘦长脸，细高身材，眉如横剑，目似秋潭，双鬓须髯花白。他和善稳重，衣着简朴，说话慢声细语，从不随便说话。他的牙不好，所以经常嘴里啧啧作声，这使他显得平易近人。
别看太宗嘴头上经常挂着俭约啊，反对奢侈腐化之类，随着东突厥被平定，边境地区的紧张局势有所缓和，经济形势也大为好转，他也在一片颂扬声中渐生骄奢之心。
从贞观元年起，太宗就想建一座自己的宫殿，砖瓦木料都备齐了，因为众臣谏阻，这才半途停下。回头他又对群臣说：“自古以来，帝王要有所建树，必须以顺应民意为贵。过去大禹凿开九座山，疏通九条河，动用了大量人力，却没有人怨声载道，为什么？原因就是人心所向。秦始皇营造阿房宫，人们却不少非议，那是因为他出于个人私欲，不能和大家共同享受利益。我之所以停止修建这座宫殿，就是想起了秦始皇的事。古人说得好，不做无益的事情来妨害有益的事情。”
贞观三年（629）四月，太上皇李渊觉得自己退位以来还一直住在国家正式的朝政宫殿里不大合适，便主动提出迁到武德五年修建的弘义宫中居住，从此，太宗搬进太极宫，另建皇宫一事才算休止。但太宗此愿未了。
夏秋之交，有人对太宗说：“按照《礼》的要求，季夏之月可以居高台楼阁。现在夏天的暑热还没消退，秋天霖雨季节刚开始，陛下住的屋子又低又潮，何不建一座阁楼住？”
魏徵与房玄龄忙又谏阻，说眼下民不聊生，皇宫里大兴土木，恐有损皇上威信。太宗这才说：“我有气疾，本不适合住在又低又潮的屋子里，但既然你们这样说，想必造楼阁一定浪费很多，那就罢了。”又说，“过去汉文帝将建露台，想到花费的钱财相当于十户人家的家产，就停工了。我的功德不如汉文帝，可是浪费的钱物却超过了他，这哪是为民父母应该做的呢？”
正月里，前来京师朝集的各州长官们即将散回各地的时候，赵王李孝恭领衔上表一道奏折，说如今四境胡狄均已降服，国家出现了东汉以来未有过的大一统局面，足可以告慰于天地祖先了，所以请求朝廷往泰山封禅。
封禅是封建社会的一项大典，“封”便是在泰山极顶设坛祭天，“禅”是在泰山附近的小山上祭地，以这种形式“告成功于天地”，实际上是为天子歌功颂德。
房玄龄接到奏折，就替太宗拟好了持否定意见的诏书，然后把奏折和诏书草稿一起呈给太宗。太宗看过之后说：“封禅典仪浩繁，耗资巨大，况且民众生计尚未小康，我怎能冒昧地效法前代国君去封禅呢？你的意见与我完全一致，看来你很了解我的心愿。”
话是这么说，可总归有个情结憋在心里，早晚要露头。贞观四年（430），太宗将巡狩东都，下诏调发士卒修葺洛阳乾元殿。经房玄龄推荐入朝做了给事中的张玄素上疏力谏此举不当，言辞十分激烈，说皇上奢欲比隋炀帝还要严重。太宗很恼火，厉声问张玄素道：“你说我不如隋炀帝，那么我就是商纣王了？”
张玄素说：“乾元殿是隋炀帝的旧宫，如今陛下一定要修它，那就跟商纣王一样，会导致国家动乱！”
太宗回头又问房玄龄：“我是有正经事要去东都，总不能住在染着隋炀帝臭气的地方吧？你看如何是好？”
房玄龄知道太宗此举并非只为了去住几日，年初太宗把高阳公主嫁给房家时，就曾许诺把洛阳宫作为陪嫁，实际上他是想把洛阳宫修好之后，送与高阳公主和房遗爱住的。说心里话，房玄龄不赞成这种做法，皇上是金口玉言，当着众臣的面，房玄龄怎好让太宗收回成命？便暗中去找长孙皇后，请她说服太宗放弃这个打算。
长孙皇后多方劝谏，太宗始终认为这是区区小事，拒不收回成命。皇后便回头又来请谨小慎微的亲家公，说：“皇上还是肯听你的话，此事又关乎你房家。”
房玄龄说：“有关此类事情，皇上几次都被阻止，再去劝阻，他肯定会发火的。如果是在从前，我还敢仗义执言，如今是亲家了，他会说我仗着国戚身份欺君呢？”
长孙皇后便让人拿出一瓶药酒，让房玄龄壮壮胆，逼其进谏。房玄龄喝了皇后赐的药酒，果然酒壮英雄胆，直入太宗寝宫，犯颜直谏。太宗大怒道：
“你一向洁身自好，如今居然满口酒气前来面君，莫非以为你是我的亲家，我就不好治你的罪了么？”于是将其软禁于宫院，派一队侍卫严加看管。
恍惚之中，房玄龄自己也觉得有些失礼，但事已至此，后悔也来不及了，只好以绝食挟之。他将送来的水罐打碎，把食物扔得到处都是，还指名道姓让太宗亲自过来说话。侍卫们素知房仆射的为人，竟被他此举弄得十分诧异，向太宗禀报说：“房仆射一味说疯话，还呕吐不止，想必有危险了！”
为了保全亲家公的性命，长孙皇后将计就计，一面让房玄龄装死，一面到处散布说：太宗御赐毒酒，硬逼着房玄龄进食，房玄龄这才痛饮醉卧，现已死了。
消息传到三省，尉迟敬德等人无不号啕大哭，遂闯入宫中痛斥太宗：“玄龄出生入死跟随皇上，你如何忍心让他屈死？况且他又不是贪赃枉法，不过是为了维护陛下的声望，陛下这样狠心，以后诸臣谁还能为你效忠了？”
高阳公主也来向父皇索要公爹，房夫人更是不依不饶。那卢绛儿原本就是个天不怕地不怕的主儿，竟指着太宗讨还丈夫。太宗也为误伤股肱悔恨万分，不禁痛哭自责。
恰在此时，房玄龄酒醒了。但他以为自己已经死了，此时是在阴阳两界奈何桥上与太宗说话，于是也便忘乎所以，尽吐肺腑之言。他涕泣道：“张玄素之言何过之有？若依老臣看来，陛下连隋炀商纣也不及呢。商纣还知道廉耻，陛下却口头上冠冕堂皇，欺民枉下！”于是痛哭流涕，“只可惜我房某人十余年精忠保主，到头来竟是这等下场！”
太宗从未见过房玄龄这等情状，若非气极，何以至此？这才幡然醒悟。长孙皇后又适时说明事情真相，太宗只好收回圣命，好言安慰房玄龄，并赐给御酒一坛，以示广开言路，言者无罪。
此事有点像闹剧，有可能是后人添油加醋制造的笑话。但有一点是真实的，那就是太宗最终还是在众臣、特别是房玄龄的极力劝阻下，暂缓了修葺洛阳宫的计划。
但为传者也不能替贤者讳，在直言劝谏方面，房玄龄的确不如魏徵等人，为此还受过太宗的严厉批评。
那是贞观五年，张蕴古时任大理寺丞。相州有个名叫李好德的人，向来有疯病，时常说些妖言谬语，太宗下令审问此案。张蕴古便与太宗说：“李好德疯疯癫癫是有证据的，依法不应治其罪。”太宗本打算赦免李好德了，谁知张蕴古竟偷偷将太宗的旨意告诉了李好德，又招来李好德跟他下棋。这件事被治书侍御史权万纪知道了，权万纪是个阴暗小人，惯于落井下石，便公开弹劾张蕴古。太宗大怒，下令将张蕴古拉到东市斩首示众。张蕴古本是位良臣，曾向太宗呈奏《大宝箴》，引经据典陈述君王之道，词美意深，颇为朝中称赞。未几，太宗翻出《大宝箴》来重读，觉得将张蕴古处死实在是个错误，心中懊悔不迭，遂责怨房玄龄道：“你们身受君主的俸禄，就必须以君主之忧为忧，事情不论大小，都应处处留心。现在朕若不问你们，你们就一声不吭，看到不合理的事也不劝阻，那要你们还有什么用处？如张蕴古身为法官，与囚犯玩局戏并泄露朕的话，罪是严重的，但按正常的法律不至于判死刑，朕当时因为太气愤了，就下令处决，你们竟没有一个人说句话，主管官署也不再奏就杀了，难道这是治国之道么？”
房玄龄当即跪下，十分自责地说：“臣等敬畏圣上的威德，本能地以为圣上所有旨意都是正确的，所以未能深思熟虑。当时臣也在堂中，臣是想，近年来圣上与众臣亲切友爱，难免滋生疏狂大意，重申圣上的威仪也是必要的，而圣上以往处决大臣时，一般不是立即问斩的，谁知由于臣等一时迟疑，竟铸成大错。几天来臣也十分不安，蕴古的音容笑貌总在臣眼前浮现，为此臣茶饭不思，每每暗自垂泪。臣从这件事上得到教训，以后凡判处死刑，虽下令立即处斩，也须经过五回请奏，这样就能确保无冤枉了。请圣上明示。”说罢长跪不起。
太宗叹了口气说：“好吧，反正事情已经过去了，你能从中获取教训，可谓亡羊补牢。为了避免冤案，从今以后，门下省复审，若有按律该判死刑而又确实情有可原者，都要记录下来上奏。”