贞观三年（629），天下渐安，被胡夷掠到塞外去的中原百姓纷纷返回家园，加上归降之众，共有一百二十余万人。
其时，太宗已基本完成了朝廷最高领导层的人员调整，逐渐形成了由高士廉、房玄龄、长孙无忌、杜如晦等人组成的宰相集体，并让魏徵、李靖、温彦博、王珪、戴胄等大臣同知国政。前朝老臣如陈叔达、宇文士及、萧瑀等人被罢去相职，裴寂也被流放到南方。这样，贵族和士族力量相对削弱了，而关东寒族地主在朝廷中有了他们的代表人物，这对于执行向农民让步的政策，起了重要的保证作用。
一天，太宗邀大家一同侍宴，闲谈之间问王珪说：“王爱卿识鉴精通，尤其善于谈论，自玄龄等，咸宜品藻。又可自量孰与诸子贤？”
王珪说：“在孜孜奉国、知无不为方面，臣不如玄龄。每以谏诤为心，唯恐圣上不及尧、舜者，臣不如魏徵。才兼文武，出将入相，臣不如李靖。敷奏详明，出纳唯允，臣不如温彦博。处理国家大事，众务必举，臣不如戴胄。至于激浊扬清，疾恶好善，臣跟他们比起来，亦有一日之长。”
太宗很高兴王珪这样评价众人和自己，便说：“你们都是朕的左膀右臂，国家治理好了，也是做大臣的光荣啊。”
房玄龄说：“在座的各位大人都是柱国之材，如果朝廷能有更多的人才效忠圣上，何愁江山不固？”
太宗说：“要治理天下使之安宁，最根本的就是要有治国的人才。朕一直请你们推举贤才，你们应当理解朕的用意。”
如今百业待兴，国家正是用人之际，太宗的心思自是不难理解。房玄龄原本就很重视人才，多年来经他推荐提拔的文武官员足有百十之数。
贞观初，禁卫府有个名叫李大亮的青年军官，演武较擂时得了第一名，口才也十分出色。此人门第虽不很显贵，但品德优秀，知道关心百姓疾苦，为官十分清廉。他生活简朴，忠于职守，宿值时必定通宵不眠。
房玄龄了解到这些情况之后，便向太宗推荐，称他有王陵、周勃之气节，遂提升他为左卫大将军，兼领太子右卫军和工部尚书。李大亮一身三职，忠贞不贰，深得太宗信任。此后太宗每次出巡，多让他居守。
后经房玄龄再荐，李大亮出任凉州都督。一次，有位朝廷使臣到凉州，见当地有极好的猎鹰，就暗示李大亮进献给皇上。李大亮秘密地给太宗写了道奏章说：
“陛下已经很久没有畋猎了，而使者前来要猎鹰。如果是陛下的想法，就大大违背昔日的旨意；如果是使者自作主张，就是使者用非其人了。”
太宗将此事说与房玄龄，房玄龄盛言称赞了李大亮一番，并且以太宗的名义给他回了封信。信中说：“因你兼有文才武略，胸怀刚毅，所以委任你为边陲重镇的守将。近来，你在凉州声威远扬，又能不曲意奉迎别有用心之人，足见你一片忠心。”
薛收也是房玄龄举荐的人才之一。薛收文才横溢，文章言辞敏捷。经房玄龄举荐，太宗召问经略，果然辩对有致，皆合旨要，便收入帐下，负责起草檄文捷报。后来薛收英年早逝，太宗还时常对房玄龄悲叹：“薛收如果还活着，朕要拜他为中书令呢。”
还有张亮。张亮出身寒微，但房玄龄不计出身，认为此人在与隐太子李建成的斗争中经受住了严峻的考验，倜傥而有大节，有智谋，便推荐其做了刑部尚书。
房玄龄现在身居要职，更有便利条件了，希望朝廷上下都能举贤任能，广荐人才。
太宗还对房玄龄和杜如晦说：“你们身为仆射，应当替朕多操些心，主要是广开耳目，求访贤哲。朕经常听人说，你们听受辞讼，每天竟有数百件之多，像这样阅读符牒犹自应顾不暇，怎能帮助朕求访贤士呢？”于是敕令尚书省，琐碎事务都交付左右丞去办，只有那些冤滞大事需要研究上奏的，才让他们二人过问。
为此，房玄龄开辟多种途径，广集贤良，精心挑选，大胆起用，破格授职。
景州有个录事参军，名叫张玄素，房玄龄在考课中发现此人颇有才干，便将他推荐给太宗。不日太宗召见张玄素，问他：“房公说你胸怀大志，官职卑微然不忘君国大事，朕想听听你对治理政务的见解。”张玄素说：“隋朝的皇帝喜欢独揽政务，不信任大臣，大臣们都害怕，只知领命行事却不管正误都不敢违抗。以一人智慧去治理天下繁杂事务，即便是得失各占一半，谬误就不少了。臣下阿谀奉承，皇帝受到蒙蔽却沾沾自喜，国家不灭亡才怪呢。陛下若能慎用大臣，让他们分担朝廷事务，高居皇位考察他们的成败，然后加以处罚或奖赏，何必担心国家治理不好？还有，隋末之乱，依我看真正想争夺天下的也不过十几个人，多数人都是为了保全自己的父老乡亲和妻子儿女，盼望明主而归服。这就可以知道，百姓思乱的很少，只是做皇帝的不能使他们安定罢了。”
太宗大喜道：“卿要朕总揽朝纲，而不是事必躬亲，说得太好啦！”于是把张玄素破格提拔为侍御史，并奖赏房玄龄举荐之功。
戴胄原也是个小官，后因房玄龄举荐做了大理寺少卿。大理寺执掌折狱详刑，少卿是负责常务的长官，必须是秉公执法、铁面无私的人才能胜任。房玄龄考核多日，最后才确定了戴胄。戴胄上任之后，果然不负所望，他执法必严，违法必究，而且不徇私、不唯上，深得世人敬佩。
这些人都是寒族阶层的代表人物，提拔这些人进入最高层，也是整个国家新形势的需要。
有一次吏部尚书长孙无忌被召进宫，不解佩刀直入东上阁门，出阁门以后才被监门校尉发觉。尚书右仆射封德彝提议：“监门校尉未发现长孙无忌带刀上殿，该当死罪，而长孙无忌误带刀面君，应判徒刑二年，并罚铜二十斤。”太宗同意了。但戴胄认为这种处罚不合法度，反驳说：“校尉未能察觉无忌带刀入内，其错误是一样的。陛下如果是记录其功勋，那我宪司管不着；但如果是依法治罪，仅罚他几块铜板，怕是法理难容的。”
太宗说：“法又不是朕一人之法，乃是天下之法，怎能因为无忌是皇亲国戚，就凌驾法律之上呢？”于是令有司重新定罪。未几，封德彝又一次呈上处理意见，却还是原先的方案，太宗便打算签署同意。戴胄又驳奏道：“校尉是因为无忌才致罪的，按法律当比无忌罪轻才是。如果论其过失性质，倒也不算什么了不起的事，我只是觉得两人处分差距如此之大，所以冒死固请。”太宗于是免了校尉之死。
当时，朝廷大开选举之门，在隋末科举的基础上更为制度化和规范化了，从而为选拔人才开辟了一条通途。士庶书生无不潜心就学，以便通过科举考试而鲤鱼跳龙门，实现入仕为官的愿望。但其中也有一些人，以伪造出身门第等手段来骗得人选资格。太宗得知此事，便令他们自首，不自首的则定为死罪。
不久正好有一个诈伪者事迹败露，戴胄据法断案以异议奏之。太宗说：“朕刚刚颁下诏敕，不自首者死罪，如今你又说依法来断，这是让我示天下以不信哪？”
戴胄说：“陛下如果立即杀了他，那不是臣所能阻拦的，既然交付所司处置，臣不敢违法行事。”
太宗说：“你倒是守了法，却要让朕失信于天下么？”
戴胄说：“国家凭借法律而布大信于天下，某句话则不过是当时喜怒所发。陛下本是一时之忿要杀他，现在知道不可，便照法律办事，此乃忍小忿而存大信之举，臣希望陛下珍惜这个机会。”
俄顷太宗说道：“朕法有所失，卿能正之，朕复何忧也？”
天策府及文学馆随着太宗即位而撤销了，房玄龄对太宗说：“陛下凭武功平天下，但最终还是要靠文治德化来治理国家。”建议继承秦王府文学馆的传统。
太宗十分认同，便在弘文殿收藏经史子集各类书籍二十多万卷，分列甲乙丙丁四部，并在弘文殿旁边另设了弘文馆。除了原先文学馆的馆士之外，房玄龄又为太宗精选天下文儒，以本官兼署学士，每日供给五品官才能享受的珍膳。不久，太宗又下诏让勋贤三品以上官员的子孙，为弘文学生。
实际上，弘文馆的馆士们是个很实用的顾问班子，太宗在贞观初年治国问政中所表现出来的聪明智慧，有许多都是从弘文馆讨论中得来的。
随后，太宗又依从房玄龄的建议，下诏停止拜周公为先圣，开始在国学里辟立孔子庙堂，稽式旧典，以孔子为先圣，颜子为先师。
这一年，朝廷还广收天下儒士，赏赐绢帛，让他们集中到京师来，经过考试，录取名单张榜公布。学生精通一大经以上的，都可以署得官吏。弘文馆增建了四百余间学舍，国子、太学、四门、广文等学院里也增置了生员，书、算各科设置博士、学生两级，以备众艺。
太宗多次亲往国学，让祭酒、司业、博士上台演讲，讲完还各赐以束帛。四方儒生纷纷背着书本云集京城，一时数以千计。没过多久，西域吐蕃、高昌，东方的高丽、新罗等诸夷酋长，也派遣子弟请求入学。于是，国学之内，“鼓箧升讲筵者，几至万人，儒学之兴，古昔未有也”。
太宗认为，现存的经史典籍因为时代久远，抄来刻去之中难免文字讹谬，便诏前中书侍郎颜师古，于秘书省考定五经。等到考定完毕，又诏尚书左仆射房玄龄，指派他聚集儒林学究们重加详议。
当时众学究也都是沿袭师傅之说，舛谬已久，与弘文馆馆士们的意见不一致，于是异说蜂起。房玄龄便让颜师古辄引晋宋以来的古本，随方晓答，援据详明，皆出其意表，众儒林莫不叹服。此后好长一段时间里，太宗多次赞许颜师古，并赐给他绢帛五百匹，加授通直散骑常侍，颁行颜师古所修订的书籍于天下，供学者研习。太宗又嫌文学多门，章句繁杂，诏令颜师古与国子祭酒孔颖达等诸儒，撰定五经疏义，凡一百八十卷，定名为《五经正义》，交付国学作课本。
可见当时从天子到群臣，崇尚知识已蔚然成风。
这年还有一件大事，那就是名僧玄奘启程赴印度求经。太宗与房玄龄等诸臣送玄奘于城西金光门外，赐河西白马和木棉袈裟，十数卫士锦仗西行。
大兴教育之风、求学之风，成为贞观初年一道亮丽的风景。房玄龄等一批大臣深知知识和人才的重要性，他们高瞻远瞩，胸怀宽广，崇尚文治教化，为“贞观之治”打下坚实的基础。
太宗十分真诚地对房玄龄说：“为人处世须有大学问才行啊。我从前因为群凶未定，成天东西征讨，躬亲戎事，无暇读书。后来四海安静了，却又身处殿堂之上，不能自执书卷，只好让别人读书给我听。君臣父子、政教之道，全都在书里。古人有言：‘不学习，面如墙，每临大事必慌张。’不是白说的。我也想自己年轻时有许多错处，原因就是学识不足啊。”
唐代大兴学校，是从太宗开始的。这当然与房玄龄总理朝政不无关系。除了原先的国子学、太学、四门学和地方上的州学、县学、乡学扩大生员规模之外，还创办了一些新官学，从而使教育体制渐趋完备，学校类型齐全，学生来源广泛。在当时的学校中，既有官学也有私学，官学又分为中央和地方两种，既有综合性的又有专科性的。各级各类学校在教师生员配备、招生对象、入学年龄、修业年限、教学内容、考试办法和规章制度等方面，都有严密细致的规定。
国子学、太学和四门学是综合性学校，是政府培养各级官吏的地方。文武官三品以上和国公的子孙、二品以上的曾孙可以入国子学就读，文武官五品以上和郡县公的子孙、三品以上的曾孙可以入太学就读，文武官七品以上的子孙以及庶人为俊士者可以入四门学就读。
边疆少数民族上层统治者的子弟和外国酋长的子弟，也可以入上述诸类学校就读。在这些学校里，就有高丽、百济、新罗、高昌、吐蕃等国贵族或酋长的子弟。贞观年间国学最兴盛时，生员多达八千余人，史书上称之为“国学之盛，近古未有”。
除了中央官办的这些高等学府之外，地方上州、县兴办的学校也很多。按人口比例确定教师和学生名额，不但以经学培养政治人才，还开办了医学科。
为弥补官学的不足，政府大力提倡民间兴办私学。国子监所属的各官学，在学生入学资格上都有严格的限制，庶族地主和普通百姓子弟，一般是不能入官学的，但他们有参加科举考试的资格，可以通过科举考试出仕做官。他们要读书学习，想通过科举步入仕途，要么入乡学，要么靠家庭教育。因此私学得以发展。
江南有个精通儒学并且擅长论辩的马嘉运，早年曾出家当和尚，还俗后做学问，又以学问为官。贞观初年，马嘉运辞去越王东阁祭酒之职退隐白鹿山谷，便开办了一所私学，聚徒授业，各地前来从师者竟达上千人。这便是素称中国四大书院之一的白鹿洞书院的肇始。
正因为注重教育，举国上下逐渐形成了浓厚的学习风气，才使得一大批人才脱颖而出，并为后来整个大唐王朝的文化发展开辟了先河。中国文学史上，唐代涌现出那么多大诗人、大文学家，贞观初年的兴学兴教不能不说是一个重要源头。
在选才用人上，房玄龄坚持任人唯贤，不避仇过，才行兼具，行重于才，扬长避短，明赏慎罚，用人不疑，严办告讦等原则。所以，在太宗周围，不仅有杜如晦、长孙无忌、高士廉等一批旧部臣僚，也有魏徵、王珪、韦挺等昔仇夙怨之辈，不仅有世袭权贵的高祖旧部萧瑀、封德彝等元老，也有出身寒门资历不深的马周、戴胄、张玄素等新秀。由于坚持了“不求备以取人”的原则，做到“智者取其谋，愚者取其力，勇者取其威，怯者取其慎”，使各路人才各有所施。
也有人见房玄龄屡屡安排人事，私下里议论他培植亲信。这种议论历朝历代都有，散布流言蜚语则是无师自通。但是太宗对房玄龄非常信任，一次有房玄龄在场时，太宗故意对侍臣们说：
“朕如今孜孜求士，想要专心政道，闻听哪儿有杰出人才，则抽擢驱使。可是竟有人议论，说他们都是宰臣亲故！你们举贤荐能，都是出于公心，自不必在乎这些言论。古人尚且懂得‘内举不避亲，外举不避仇’，只要是有用之才，即便是自己的子弟或有仇嫌的人，该举荐的一定要举荐。”
事后，太宗要给直言进谏的大臣们以奖赏，房玄龄说：“要赏就赏张玄素罢，位卑却敢于批评尊贵者的行为，自古以来就不容易做到。如果不是张玄素正直，怎么能做到这一点呢？”于是太宗奖给张玄素两百匹绢。太宗还发表了一段演讲，他说：
“修建高大华丽的宫殿，到池苑高台游乐赏玩，是帝王喜欢做的事情，却是百姓深恶痛绝的。帝王喜欢是因为放纵娱乐，百姓痛恨是因为劳民伤财。孔子说，‘有一言可以终身行之者，其恕乎？己所不欲，勿施于人。’朕身为帝王之尊，富有四海，什么事都可以按自己的意愿去做，但只要百姓不愿意，朕就应该顺应他们的意愿。”
从这番话里，可以感觉到唐太宗的明智和对房玄龄的极度信任。