在房玄龄十岁这年，父亲房彦谦成为隋朝中央政府官员，到长安任职。朝廷让他携家眷到长安大兴城里居住。房彦谦欣然从命。这样既可以给家人必要的照应，同时更便于玄龄拜师求学。
果然，房彦谦为儿子找了一位名师，他就是当朝名士卢恺。
卢恺是涿郡范阳人，门第显赫。范阳卢氏在魏晋隋唐时期可是大姓，与清河崔氏、荥阳郑氏、太原王氏齐名。卢恺的卢柔在北魏做过中书监，卢恺在隋朝做过吏部侍郎、礼部尚书。他气宇不凡，擅长诗文，与薛道衡、陆彦师等名流经常有诗歌往还。
受房彦谦之托，卢恺刻意对房玄龄加以培养。房玄龄本就聪颖过人，除学习四书五经、诗词歌赋之外，还兼学治国之道。在这种特定的环境之下，耳濡目染，可谓是近朱者赤，在学业上突飞猛进。虽说他才小小年纪，却已显露出早熟的智慧和见识。
一次，房玄龄私下里对父亲说：“当今圣上，本无多大功德，只是一味地蒙蔽欺骗百姓，从不为子孙后代作长久打算。不能恰当地处理好几个儿子之间的关系，至使嫡庶名分混淆，相互之间明争暗斗。皇子们又骄奢淫逸，荒纵无度，长此下去，终究会演绎为互相残杀的局面，势必导致家国难保。莫看现在风平浪静，太平无事，将来矛盾一旦爆发，定当是骨肉相残，血染当场，家破国亡之期不远矣！”
房彦谦当时虽然斥责房玄龄，不许他乱说，在心里却以为然，他不仅被儿子精辟的判断所震撼，同时也暗暗赞许儿子的看法。后来朝政的发展，果然未出房玄龄之料。
开皇十二年（592），卢恺受朝中反对派弹劾，被隋文帝免官。这件事让房氏父子喟叹不已，实感时局败坏，命运莫测。
房玄龄满十八岁时，预备参加进士科拔贡考试。
当时，皇上诏令，五品以上的京官及各州总管刺史，均可以按“志行修谨”、“清平干济”这两科来举荐贤能之士。地方官察举本地人才，这是汉代的遗风，但通过考试来鉴定人才却是科举制度的先声。
“志行修谨”便是品德，“清平干济”便是才能。朝廷需要德才兼备的士人来治理天下。身为司隶刺史的房彦谦也兼管这方面的事务，所以父子俩都很高兴。待房玄龄行过成人之礼，便准备参加科举考试。
卢大人罢官别居郊外以后，授业之事便另托了吏部侍郎高孝基。高孝基是原北齐皇室的亲王，也是房玄龄母亲高芸若的堂叔，此时执掌考核选拔官员，以善于识别人才闻名。每年殿试都在仲冬时节进行，高侍郎这厢作为举荐人，夏至时节便写好了书面材料，将房玄龄在“志行修谨”方面的诸多表现列出若干条来，无非是说他知孝有节，忠直勤恳，待人友善，举止合法度，无任何恶习等等。还要特别注上他的家族门第出身，便从房谌起始，历经房法寿、房翼等，直到司隶刺史房彦谦。
此时房玄龄的外祖父高孝珩已然亡故。北齐宗室的成员大都短寿，活不过四十岁就死了。北齐灭后，高孝珩曾受封为开府县侯，后来周武帝在云阳宴请齐朝君臣，命高孝珩吹笛，高孝珩说：“亡国之音，不足听也。”将笛子举到嘴边，不禁泪如雨下。当年十月，高孝珩突染大病而死，葬于齐朝故都邺城。
至于“清平干济”方面，则主要是通过考试来检验的。当时考试已有明确的程式规定：凡是关于经史知识方面的，有帖文、口义、墨义三种。帖文亦称帖经，取应试人所习的专经文句，遮掩其上下文，从几个字中测验其能否记忆全文。墨义是提问书中的事实，让应试者录于卷纸上，“直书其义，不假文言。”口义即口试经文大意。关于时务方面，采取“策试”之法，也就是汉代策问的继续。关于文艺方面，有诗赋、杂文两种文体；杂文是指箴论表赞这几种文体，诗赋则是检验应试人的文学修养。总体上说有笔试和答辩两种方式，试卷主要是看学识水平和诗词文章，答辩则是博涉经史，兼有经邦治国方略等等。原则上说，这些都是不能含糊的，即使是有“后门”可走，大体上也得说得过去。
房彦谦告诫儿子说：“如今辟立举士新法，意在不许门阀大族再行把持选举，从而使天下才学之人多了些仕进的机会。这是任人唯贤的善举，同时你也多了一批竞争对手。此次是高孝基大人为你提的名；虽说举贤不避亲，但我不能利用自己的职权谋私，你还应凭借自己的学识修养来求得进身。你不会让高大人失望吧？”
房玄龄自信地说：“父亲放心。孩儿虽不才，却时刻谨记父亲教诲，或许志大而才疏，但决不敢做志微之人。修身齐家方面，父亲是看着孩儿长大的，失礼无矩之处尝为父亲匡正。才学方面，经史典籍读过不下两三遍，其中著名篇章自认得其精要。孩儿常以父亲与汉相萧何为榜样，不管天下如何动荡，孩儿定做柱国之石！”
房彦谦闻听很高兴，口里却说：“戒骄戒躁，古之训也。况且你弱冠之年，懂得什么干济之道？进了考场，切不可狂言欺人。为人应当进退有度，唯慎盈满，谦则受益，满则招损，这可是经验之谈啊。”
当时科举考试一般有两种渠道：一种是由学馆报名参加考试的，叫作“生徒”；另一种是由州县推举报名的，叫作“乡贡”。房玄龄没有在正式学馆里就学，因而只能在雍州报名。雍州是京城所在地的州治，行过饮酒礼，由州府官员先行选拔，称为“贡选”；贡选合格者送交朝廷户部集阅，再由考功郎进行课试。
州里贡选很顺利，户部集阅也没有问题。考试整整进行了五天。上千名考生，房玄龄竟是最后一个走出考场的，考官们以为这后生必是什么地方卡住了，直担心他卷子的质量。及至答辩完毕，两项评分累计后分出上中下三等，房玄龄名列上等第一名！
房玄龄初试得第登科，又经过吏部再试宏词拔萃，以身、言、书、判四事相考。这叫作“铨官”，又叫“释褐试”。身是看身体是否健康丰伟，言是看言词辨正，书是看字写得如何，判是取其文理优长。四事合格者，才能授以流内最低品级的从九品官。
高孝基对身边的考官说道：“我观察的人多了，没有能超过房玄龄的。这是个治国的人才，只可惜啊，我看不到他出人头地了。”高侍郎确已老迈年高，不久便过世了。但房玄龄一举进士，却是他加盖的印鉴。他给房玄龄写的评语是：“怀兼谋勇，襟容柔刚，为人恭让，志在四方。”
第二年春天，房玄龄授职于太子东宫，司任羽骑尉，籍属禁军备身府，为从九品。
当时，朝中像他这等校尉也不知有几百上千人，同品级的官吏就更多了。如同其父房彦谦一样，房玄龄每日司职勤勉，凡事用心，半年下来，渐渐便将东宫内外事务详识在胸。他为人谨慎，待人和善，从不多说一句话，经常替同僚值班或办些杂事，所以与众人相处甚是融洽。
在东宫任职期间，房玄龄发现晋王杨广野心勃勃地图谋太子之位，杨勇已逐渐失宠。他预感宫中将有一场风雨。
一天，房玄龄求见吏部薛道衡大人，说自己生性不宜行武，还是做文职更合适些。薛道衡见他外表确是显得有些柔弱，瘦长身材，面庞白净，未脱书生模样。便翻检了半天花名册，却见秘书省正有一个校书郎的空缺，一拍脑门说道：“哦，有个姓曹的校雠，双亲不久前死于伤寒，回乡守孝去了。不如你去补了，日后若有新缺，再迁你吧。”即让他去了秘书省，补了个正九品校雠。
秘书省并非朝中显要部门，只掌管些文书典籍，官员数额也较尚书、门下二省少许多。秘书省长官为监令，以下领著作、太史二曹，属下有丞、郎、校雠、正字、录字等职。除去随时记录皇上及宫中一应流水事务之外，修史撰文便是秘书省的主要工作。校雠相当于今天的编辑，倒也使房玄龄从前所学的文史知识派上了用场。案头刀笔，不招风也不淋雨，每天日出入署衙视事，至正午时下班回家，半个月轮流值日一回，逢旬和节日有休假。房玄龄自觉得其所哉。
开皇二十年（600）正月，高丽和契丹遣使臣来朝奉献礼品，二月熙州人李英林率众起事，朝廷派兵镇压。四月，隋文帝下令兵分三路攻打西突厥，大胜……房玄龄正埋头修撰这些文稿，忽有卢恺家人来报：卢大人病危，急见房家父子。房玄龄不敢怠慢，赶忙跟曹官告假回家，与父亲一起疾往城郊赶去。
卢恺自从削职为民以后，心情一直郁闷难遣，身体每况愈下，此时已然难撑了。卢家的资产尽被没收，佣人悉数遣走，郊外的茅屋透风漏雨。
俗话说“一日为师，终身为父”，知遇与授业之恩重如泰山。房玄龄俯身病榻前，望着形销骨立的卢大人，不禁失声痛哭。卢恺已临弥留之际，遂执手嘱咐房家父子道：
“我膝下有一养女，乳名唤作绛儿，正与玄龄同庚稍长，常跟他一起读书习字。每见他青梅竹马，情同姐弟，常有连理之心。绛儿三岁即为老夫收养，其父曾为边关守将，门第不微。小女虽然不善工织，性情刚烈或同男儿，却难得她知书达理心怀大义，日后必为玄龄贤内助。老夫这一生，显也显过了，贱也贱过了，年过花甲，不算短寿。遍观尘世，今日是猫狗，明天或为虎狼，夫复何求？我儿已年长，不愁过活，只是这个小女，模样也还标致，我怕她落入虎狼之手，欲将她许与玄龄为妻，不知肯否给老夫个薄面？”言罢目视天棚，一口气含在嘴里，难吸难吐的样子。
此时的房玄龄已是二十一岁的青年，虽曾立志“业不立不成家”，却也难辞卢大人的一片诚意。当下便由卢大人的儿子卢义恭取来纸笔，房彦谦具了婚契文书。那卢恺已然写不得字了，只在纸上按了手押，遂瞑目而去。
七七四十九天之后，两家择期行聘不提。