房玄龄属于那种为人忠厚的老实人。虽然在总揽国政方面身怀雄才大略，甚至在包括“玄武门之变”这样的重大事件中表现得深谋远虑，但从个人品德修养上说，他深得儒学真传。他从不以权势压人，也不以高官自傲，不以物喜，不以己悲，温良恭让，平易近人。
他待人和蔼随便，却又不放纵。对下属，他总是多谈别人的优点，有谁言语过激了，也不去跟他较真。对皇上，偶尔因事受到太宗的责备，就会一连数日低头请罪，满怀惶恐深深自责，觉得情面上过不去。当时和房玄龄交往的人，都说他是一代名相。
有一次，右卫将军陈万福从九成宫赴京，半路上违法拿了驿站里几石面麸。有人举报，太宗要免其官。房玄龄说：“陈将军强取驿家面麸，影响是很不好。但老臣了解过，他是因为马队里草料不足，怕耽误行程才这样做的，按律可轻罚。依臣之见，可赐其面麸，让他自己背着面袋回去，让他感到羞耻就行了。”
违纪受罚的陈将军果然自负面麸出宫，从此不敢再犯。
太宗经常四出巡幸，多数时候房玄龄都陪同前往。房玄龄不是为了游山玩水，而是为了更多地了解下情，并利用亲随皇上左右的机会匡正太宗的言行。久而久之，太宗形成了习惯，每次出巡若没有房玄龄陪伴，就觉得形单影只，有时本来是面对别的大臣说话，口里却叫出房玄龄的名字。
一次行至汉太尉杨震墓前，太宗伤其因为忠贞而死于非命，便亲自为杨震墓撰文以祭之。房玄龄进曰：“杨震虽是当年蒙冤枉死，数百年后却遇到了圣明君主。圣上停舆驻跸，亲降神祚，杨震可谓虽死犹生，殁而不朽了。如今臣等伏读天文，且感且慰，凡百君子，焉敢不勖励名节，知为善之有效？”
贞观十二年，有一次房玄龄随太宗出巡，来到蒲州地面，想起隋朝鹰击郎将尧君素曾在大业年间受任河东。房玄龄对太宗说：“圣上可记得尧君素么？此人固守忠义，克终臣节，诚如疾风劲草。”
太宗感慨道：“卿言是矣。尧君素是个忠臣，可惜隋炀帝无德。今天来到这里，追怀往事，朕也感触良多。”
房玄龄便暗中请当地官员代为察访，终于找到尧君素的儿媳。原来自尧君素死后，尧家流落到河东乡间，给士族人家当佃奴。房玄龄来到村中，见尧家数口住在马厩旁边的一间窝棚里，里面蚊蝇纷飞，臭不可闻。尧君素的孙子名叫尧承让，时年十五岁，此时正一个人坐在树林边习书。见有官人前来，那少年起身施礼，行止颇有风范。
房玄龄遂与随从感慨道：“将门之后，诗礼犹存。若任他流落僻野，岂不可惜？”
回头见了太宗，房玄龄具告所访之事，并说：“尧家小子天资聪颖，却只有这一个男丁。圣上可诏令他人国子学就读，其母由县府封地供养，解除家奴的契约。”
太宗允奏，当即命房玄龄起草诏书，恢复尧家的士族地位，并追赠尧君素为蒲州刺史，让房玄龄把这个消息告诉尧家人。
夏天，太宗巡幸洛阳宫，泛舟于积翠池上。但见湖中水与天青，波平如镜，岸上杨柳依依，草绿花红。太宗不由感慨言道：
“此一处宫观台沼，本是当年隋炀帝所修，所谓驱役生民，穷此雕丽，复不能守此一都，以万民为虑。只因他好行幸不息，使得民众不堪其苦。诗人曾云：何草不黄？何日不行？小东大东，杼轴其空。说的就是这种情形。遂使天下怨叛，身死国灭，今其宫苑尽为我有。隋氏之所以倾覆，岂止是君王无道？也是因为没有好的股肱大臣啊。如宇文述、虞世基、裴蕴之徒，居高官，食厚禄，受人委任，却只知谄佞行恶，蔽塞聪明，要想让国家平安无危，怎么可能呢？”
房玄龄在一旁言道：“隋氏之亡，自是两方面原因。君王杜塞忠谠之言，臣子苟且自保，左右有了过失，开始时不纠不举，寇盗滋蔓了也不照实奏陈。所以说，隋亡不仅是天道所定，君臣不相匡弼也是个重要原因。”
一批新人入朝担纲，房玄龄担心太宗冷落了那一班老臣，便与太宗说：“陇右民间有个风俗，每年春天祭井。祭井时不但要供奉井神的牌位，还要在井碑前烧香，以歌赞之，‘吃水不忘打井人’。这样做的意义在于让村民懂得爱护井，以保持井水长清不涸为荣。”
太宗很受启发。一次宴集，尚书左仆射萧瑀等老臣在座，太宗对房玄龄说：“自武德六年以来，太上皇有了废立之心，朕当时不为兄弟们所容，实有功高不赏之惧。那时萧瑀不为厚利所诱，不为刑戮所惧，真乃社稷良臣也。”于是赐诗曰：“疾风知劲草，板荡识诚臣。”
萧瑀拜谢道：“臣特蒙圣上诫训，许臣以忠诚，臣虽死之日，犹生之年。”不禁泫然泣下。
太宗复谓公卿曰：“朕端拱无为，四夷咸服，岂是朕一个人的能力所能达到的？实在是有赖诸爱卿齐心合力啊？还望你等善始善终，永固鸿业，子子孙孙，递相辅翼。使丰功厚利施于后世，令数百年后读我国史的人们，能看到鸿勋茂业粲然。到那时，人们就不止是称颂周、汉两代的兴隆，也不止讲述建武、永平年间的故事了，我大唐贞观之治，也必定为人们所景仰？”
房玄龄接言道：“天下治理升平，本是陛下圣德，却推功于群下，臣下何力之有？唯愿陛下能够有始有终，则天下永赖。”
太宗又说：“朕观古先拨乱之主，都是年逾四十始成霸业，只有汉光武帝年三十三。但朕十八岁便举兵，年二十四定天下，年二十九是为天子，此则武力方面略胜于古人也。少从戎旅，不暇读书，贞观以来，手不释卷，知风化之本，见政理之源。行之数年，天下大治而风移俗变，子孝臣忠，此又在文治方面强过古人也。自周、秦以降，戎狄内侵，今戎狄稽颡，皆为臣属，此又在怀远方面胜古人一筹也。此三者，朕何德以堪之？既有此功业，何得不善始慎终耶？”
言语之间，虽有谦逊之怀，却不禁沾沾自喜。
越王李贞是长孙皇后所生，因他自幼聪敏绝伦，所以太宗特别宠爱他。一次，李贞对人说：“现在三品以上的大臣，都因受皇上宠信而轻蔑诸王。”意在谮谤侍中魏徵等人，以激怒太宗。太宗得知此事后，御驾齐政殿，请三品以上的大臣们入座之后，满面怒色地说：
“现在朕有一句话，特向公等申明。从前的天子是天子，如今的天子就不是天子么？往年的皇子是皇子，今日的皇子就不是皇子了？我见隋朝杨家诸王，无论做官的还是未做官的，都不免被其父皇踬顿。如今朕的儿子，自不许其纵横，所以公等觉得容易过，竟至相共轻蔑。朕若骄纵他们，岂不踬顿公等？”
房玄龄等人闻听，全都紧张战栗，跪拜谢罪。只有魏徵正色而谏道：“当今群臣，必无轻蔑越王者。然而从礼制而论，大臣与皇子理应是一例，《左传》上说，皇子虽然年纪小，列入诸侯之上。诸侯用之为公，即是公；用之为卿，即是卿。若不为公卿，便只能给诸侯做士。如今三品以上大臣列为公卿，而且深得陛下宠信，纵然有些小毛病，怎能轻易被越王折辱？如果国家纪纲废坏，臣所不知。以当今圣明之时，越王岂得如此。且隋高祖不知礼义，宠树诸王，使行无礼，寻以罪黜，不可为法，亦何足道？”
太宗听了魏徵的话，不由转怒为喜，对群臣说：“只要是说得在理，不可不服。方才朕之所言，是出于私爱考虑，魏徵所论，是国家的大法。朕方才一时愤怒，自己觉得蛮有道理，听了魏徵的话，才觉得远不是那么回事。”于是大发感慨，“身为人主，说话也不是件简单的事啊？”
随即召房玄龄入内宫，严厉批评他不能及时提醒自己。太宗说：“你是我最信任的大臣，位列众卿之上，竟不如魏徵敢于直言？难道你愿意看到我变成一个无道昏君么？”
挨了训斥的房玄龄自知有过，心中十分内疚。检省起来，随着自己年纪渐渐增高，直言善谏方面的确是大不如从前了。他本来就是个老实人，以与人相善为本，而且很注意工作方法，但近些年来确实不如魏徵那样敢于说真话了。
回到家里，他把此事说与夫人卢绛儿听，卢绛儿说：“你的顾虑也不无道理。越王毕竟是圣上的亲生儿子，弄不好会落得个离间他们父子关系的罪名，这岂是你宰相应该做的事？”
房玄龄自责说：“正是这些顾虑，才不是我这相国者应该放在心里的啊？”
卢绛儿宽慰他说：“你生就这样的人，不愿意惹是生非，况且身为相国，自有大事要挂怀。尺有所短，寸有所长，魏大人直言善谏，自是他的擅长，你又不是谏议大夫，何必以此为意？”
房玄龄喟然叹道：“玄龄不如人者多矣？实在愧为众臣之首。如今又年事老迈，不如引退，也好让锐气新人担纲理政。”
卢绛儿笑说：“那倒也好了，你我夫妻一世，总得享受些天伦之乐，强似这成天价当牛做马为驱使。”
翌日，房玄龄进言太宗，赐魏徵绢帛一千匹，以表彰他直言之义。同时又向太宗表达了自己引退的意愿，太宗仍是不允。
为了让房玄龄安心于相国之职，太宗又于贞观十三年春加封房玄龄为太子少师。房玄龄自以一居端揆十五年，屡次上表辞位，太宗优诏不许。
房玄龄道：“为臣少小时候，家父就曾告诫臣说，为官切忌盈满。臣跟随圣上十数年，一向承蒙错爱，视为臣如手足，所被殊荣厚禄，岂是车载斗量？只怕为臣难堪隆恩，头重脚轻，倒失了做人本色。中书令与仆射之职，已是为臣人生之极矣，自当勉命于职任，须臾不敢松懈。只是臣已进花甲之年，心有余而力不足了，愿乞一陋室休养至终。”
太宗听罢，表情一时惘然如在梦中，俄顷面带泪水，执手深情言道：“玄龄啊，朕能有今天的大唐江山，一半是你送与朕的。这且不说，贞观以来，朕每日披阅奏章或处理巨细事务，眼前总有你的身影，有你在，朕才心里安稳。如今如晦已然故世，你若再辞职，朕必会觉得庙堂空空，一如巨舟断桅一般了。朕不能让你辞官，哪怕任你闲散行走于朝，也是朕的定船之锚啊？”
可见太宗对房玄龄所倚之重，所寄之深。
后世史家认为，在整个贞观年间，作为当朝宰相，房玄龄为了推功于太宗而心甘情愿地做了无名英雄。有名与无名，主要在于史书上记载了多少，而记录贞观年间史实者，便是房玄龄本人。他本人不肯多记自己的言行故事，甚至不肯留下蛛丝马迹，旁人自然就无从知晓了。