魏征年老多病，退职让贤之后，依然以诤谏为己任，规劝唐太宗的不足之处，至死方渝，从而博得“人镜”、“千秋金鉴”的英名，世代流传。
长年劳累，超负荷运转，严重损害了魏征的健康。祖上曾有过的高血压的各种症状在魏征身上迅速反映出来，最突出的是视力模糊，使他难于正常履行职责。贞观十年（636年）六月，魏征要求辞去职务，太宗说：“黄金当它还是矿石的时候有什么值得珍贵的呢？全靠高明的工匠冶炼之后将它做成器具，人们才把它当成宝物。我现在把自己比作金矿，而将你比作高明的工匠。你虽然有病，还没到衰老的程度，怎么能就这样告退呢？”然而，此时此刻的魏征确实病了，他常感到力不从心，早在一年前的贞观九年（635年）就打算请辞，但恰逢太宗的父亲、太上皇李渊病逝，不管太宗在内心深处对他父亲的真实感情怎样，他都必须不胜悲痛，才得稍补杀害兄弟、逼父让位的内疚之情，同时掩人耳目。所以太宗在父亲去世后，即将国家大事完全交太子承乾处理，自己则一心守丧以示伤痛；后经群臣多次请求，才勉强答应主持政务，一般事务仍由太子决断。在这样的情况下，魏征怎么好提出辞职呢？贞观十年（636年）正月，太宗开始主政，而魏征的健康也每况愈下，于是便在六月请辞，开始太宗不同意，经多次请求，不得已才答应免去侍中，任为特进。特进是正二品文散官，散官一般没有具体职责，只享有相应待遇。但魏征任为特进后，仍要主管门下省工作，具体日常行政事务他可不问，但有关国家大政方针、重要决定及判决流放以上的徒刑，都必须向他报告。另外，关于俸禄赏赐以及警卫、属员等，都和职事官一样，这是对魏征的特殊优待。
魏征辞去相职后，也没能完全休息，他以带病之躯，潜心著述。贞观七年（633年），“五礼”修定虽已完成初稿，但由于初次修定，而且时间紧迫，难免不甚完备，太宗又下令继续修改，令左仆射房玄龄、侍中魏征、礼部尚书王珪主持，并邀著名学者颜师古、孔颖达、李百药等参加，使之完善。现几年过去了，此事尚未完成，魏征即集中精力抓紧进行，仅几个月时间终于在贞观十一年（637年）三月定稿，名为《贞观礼》。
《贞观礼》共100卷，计《吉礼》61篇，《宾礼》4篇，《军礼》20篇，《嘉礼》42篇，《凶礼》11篇，共138篇。《吉礼》用于祭祀天地、鬼神、山川，《宾礼》用于朝觐、聘问、会盟，《军礼》用于征战、田猎，《嘉礼》用于婚嫁、宴饮、庆贺，《凶礼》用于丧葬、灾祸。吉、宾、军、嘉、凶，合称“五礼”，基本包括了当时政治、军事以及社会生活的主要方面，成为人们活动与交际的行为准则，对社会安定影响深远，保证了“贞观之治”的形成。
《贞观礼》披沙拣金，集古今礼制之大成，甚为时人称道。魏征自始至终参与了这项工程的全过程，历时近9年，他和王珪均以修定“五礼”得封一子为县男，另颜师古、孔颖达、李百药等亦因功晋爵为子。现《旧唐书》卷46《经籍上》载“《大唐新礼》（即《贞观礼》）100卷，房玄龄等撰”。署名房玄龄因他是左仆射，地位最高，实际上他是挂名。两《唐书》本传均不记他有修礼事，所有修礼的人都获赏，唯不及房玄龄，表明魏征是《贞观礼》的真正撰著者，他为此书的撰写竭思尽虑，作了深入研究，费了大量心血，他的研究成果，除了融合在《贞观礼》中之外，另有他个人独立撰著的《类 礼》20卷。魏征认为，西汉戴圣所传授的《小戴礼记》（即收入今本《十三经注疏》中的《礼记》）编排混乱，不合规范，特地加以整理，将内容相同的放在一起，以类相从，删去重复，择善而从，采纳前代学者的注释，深思熟虑多年才完成这部著作。太宗读罢认为很好，赐物（绢布等）100缎，命人抄写多部赐给太子及诸王，将魏征所进原本送皇家书库珍藏，这更表明了魏征在唐初礼制建设中的作用和贡献。
摆脱了繁杂的行政事务，魏征得有余力从事安邦治国的理论研究。这事他已准备多年，在主编《群书治要》时，他对前代各家各派的治国思想作了全面考察；在主持撰写“五代史”时，他对历代兴亡作了深刻的历史反思；现在，他决定对贞观以来的施政得失做系统的理性思考。这时他敏锐地发现，随着社会生产的发展，人口增加，国力增强，四方朝贡，周边少数民族尊太宗为“天可汗”。文治武功的成就，使太宗逐渐滋长了骄逸之心，特别是贞观十年（636年）六月长孙皇后病逝后，太宗的变化尤为显著。
长孙皇后于隋仁寿元年（601年）生，小太宗3岁。13岁与太宗结合，在共同生活的23年中，二人一起经历了惊心动魄的艰难岁月的煎熬。那时太宗受到建成、元吉的夹攻，李渊和后宫对太宗多有不满，长孙皇后小心侍奉父皇，对嫔妃恭敬顺从，尽力替太宗弥缝，真正起到了内助的作用。玄武门事变时，太宗带领将士入宫，出发时长孙皇后亲自慰问鼓励，随从士卒莫不感动，人人意气风发，竭力死战，对政变的成功，起到重要积极作用。
太宗即位后，长孙氏作为皇后，格外节俭朴素，服饰用具都只是够用而已。自古以来，在一夫多妻家庭，妻妾们的争风吃醋，最是难办，许多纠纷由此而生，但长孙皇后却毫无嫉妒之心。太宗出身贵公子，生来好色，长孙皇后对此却很宽容，她不仅不恼怒争吵，还主动为太宗物色美人，对此，太宗从内心感到无比温馨。
太宗常对长孙皇后谈到关于对臣下的赏赐和惩罚的事情，她总是回答说：“妇人干政，对国家不利。我是妇人，怎么敢过问国家大事。”太宗坚持要同她讨论，她便不回答。皇后的哥哥长孙无忌早就是太宗的好朋友，又由于帮助太宗登上皇位立有大功，深得太宗信任，太宗打算任命他掌管朝政，皇后坚决反对，每有空就对太宗说：“我已经身在皇宫，尊贵到极点，实在不愿意兄弟侄儿们都在朝廷任事掌权，汉代的吕家、霍家败亡，那可是深刻的教训，特别希望你不要用我的兄长为宰相。”太宗不听，仍用长孙无忌为左武侯大将军、吏部尚书、右仆射。皇后又悄悄让长孙无忌要求辞职，太宗不得已才同意了，改任从一品文散官开府仪同三司，皇后才高兴起来。
太宗有子14，女21，长孙皇后为他生了3男4女。长乐公主行五，因是长孙皇后所生，太宗格外喜爱。贞观六年（632年）下嫁时，命有关部门准备嫁妆，比永嘉长公主多出一倍。魏征进谏说：“从前汉明帝打算封他的儿子，他说：‘我的儿子哪能和先帝的儿子一样呢？可以按楚王、淮阳王的一半封赐。’前代史籍都把这事作为美谈。天子的姊妹为长公主，天子之女为公主，既加‘长’字，实在因为比公主地位尊贵。感情上虽然可以有亲疏的不同，但礼仪上同为正一品就不应有等级的差别。如果让公主的礼仪超过长公主，道理上恐怕讲不通，希望陛下考虑。”太宗认为这意见很好，就把魏征所说的话告诉皇后，皇后很感叹地说：“曾经知道陛下您敬重魏征，可一点不了解原因，今天听到他的诤谏，原来是他能以礼义使人君克制自己的感情，真是一心为国的忠良之臣啊！我和陛下刚成年便结为夫妻，承蒙您以礼相敬，情深义重。但我每当进言，也要先看您的脸色，还不敢轻易冒犯您的威严，何况作为臣下，感情疏远，等级森严呢？所以韩非称劝诫帝王是难事，东方朔也说这事很不容易，确实是有原因的。忠言逆耳利于行，对国君来说最为紧要，采纳忠言国家就太平，拒绝它朝政就将混乱。真诚希望陛下仔细考虑，那天下百姓就万分幸运了！”于是请求派宫中使者带了500匹帛，到魏征家里去赐给他。
长孙皇后生来仁慈孝顺，好读书，经常与太宗从容不迫地讨论古人的一些事情，趁机提出一些意见和建议，对太宗很有帮助。太宗有时无故发脾气责罚宫女，长孙皇后也假装跟着生气，请求让她亲自审问，于是下令禁闭，待太宗气消了，再慢慢为她们申辩，所以在后官，没有冤枉受刑的人。豫章公主从小失去母亲，皇后收养她，关心爱护超过自己亲生的儿女。嫔妃以下有人生病，皇后亲自看望安抚，把自己常用的药停了，拿去送给她们，后宫的人都衷心爱戴她。
太宗曾经患病，一年多都没痊愈，长孙皇后照顾太宗，昼夜不离左右。她身上带有毒药，常自言自语说：“假若皇上不测，自己也绝不独自偷生。”贞观八年（634年）正月，太宗去九成宫，长孙皇后一道前往。她一直有气管炎，一天半夜，镇军大将军、行右骁卫大将军柴绍等报告有紧急事变，太宗穿上铠甲走出卧室门外询问情况，皇后带病跟着出来，身边侍候的人劝阻她，皇后说：“皇上都已经受到震惊，我怎么能独自安心呢？”因此受了风寒，病情更加严重。太子承乾对皇后说：“现在医药都全用了，但病情不见好转，想奏请皇上赦免罪人并派人替皇后出家，希望能得到神灵赐福。”皇后坚决不同意，她说：“赦免罪人是国家的大事，次数不可过多。道教、佛教是你父王一贯所不喜欢的，怎么可以因我个妇人而让皇上做他所不喜欢的事呢？如果你一定要按你的意思做，我还不如早一点死。”太子不敢奏，私下把他的意思告诉房玄龄，玄龄报告太宗，太宗很悲痛，准备大赦，皇后又坚决制止。
皇后的病更重了，自知不起，临危时她向太宗诀别。当时房玄龄由于受到责备回到家中，皇后对太宗说：“玄龄侍奉陛下已经很久了，小心谨慎，奇谋秘计，从来没有泄漏过，如果没有大的问题，希望不要抛弃他。我的本家，因为亲戚关系得到官职，并不是由于德行而被任命，很容易跌倒遭祸，要想让他们的子孙平安无事，千万不要使他们处在机要位置，只是以外戚身份参加定时的朝见就够了。我在生时没给百姓做什么好事，死后更不能损害百姓，希望不要因为安葬我而使天下人过分破费，只要依山为坟，陪葬器物用一般陶器及木制品就行了。另依旧希望陛下亲近君子，疏远小人，接纳忠谏，拒绝谗言，减少劳役，停止出游打猎。”于是拿出她藏在上衣的毒药给太宗看，并对他说：“我在陛下您患病的叫候，已经下定决心一死跟随您，绝不充当吕后（吕雉）的角色。”交代完后事，表明了心志，皇后慢慢地闭上双眼，安详地离开她眷念不已的人世，享年36岁。这样一个顾大局、识大体的政治盟友，这样一个温柔体贴、善解人意的生活伴侣在芳龄正茂之时黯然长逝，使太宗在感情上受到从来没有过的沉重打击，他几乎不能自持，身为帝王，在他身边女人有的是，但她们之中有谁能替代长孙皇后填补他心灵的空虚呢？
太宗将皇后安葬在昭陵，那里也是他将来安息的地方。他亲自撰文刻石为皇后送行，盛赞皇后节俭，遗言薄葬。他说自己本人也是这个意思。帝王以天下为家，何必一定要把珍贵器物埋在陵墓中，才认为是自己所有呢？
送走爱妻之后，太宗仍思念不已，他专门建筑一个高台，不时登台瞭望皇后陵墓。一次他带着魏征一同到台上，他让魏征远眺。魏征仔细眺望半天说：“我眼睛不好，看不见。”太宗特为他指点，魏征意味深长地说：“我以为陛下您在望献陵，如果是昭陵，那我当然是看见了。”魏征暗示，为儿女私情过分伤感而超过父子之亲有亏圣德，太宗听罢，泪如雨下，因此把台观给毁了。
毁掉台观，太宗内心更觉空荡，他转而寻找新的刺激。太宗祖上历代武将，有好畋猎的传统。他父亲李渊，在位9年，除武德元年和武德九年外，每年必出猎，有时一年多至5次。太宗同样爱好打猎。初即位时，政务繁忙，国家经济困难，他暂时控制了自己嗜好，但从贞观四年（630年）起，随着形势好转，他便开始畋猎，引起皇后和大臣们不少谏言，他不得不割爱。自贞观八年（634年）以来，太宗已经3年没畋猎，现在他又恢复了过去的喜好，而且有不可收拾的倾向。以前畋猎，主要在内苑，现扩大到禁苑，乃至陪都洛阳。以前出猎，主要在秋冬，庄稼已收割完毕，现则集中春天农忙时，种子刚播，大规模畋猎，难免不伤庄稼，而一贯自诩爱民的太宗，为自己娱乐，竟不顾百姓生计，这就反常了。
此外，太宗又开始大规模修筑宫殿，以供享乐。从道理上，太宗懂得人君不应追求个人享受，早在武德四年（621年）五月，他攻下洛阳时，看到隋时的宫殿穷奢极侈，曾感叹说“让奢侈之心得逞，使个人的无穷欲望都得到满足，能够不亡国吗？”下令把隋氏的宫殿拆的拆了，烧的烧了，毁的毁了。可是他当皇帝不久，物欲的诱惑便引发了他对华丽宫室的向往。在修九成宫时，太宗拟在洛阳修筑宫殿。九成宫在长安附近，由隋仁寿宫改建，主要是装修，所费不多，隋唐是我国历史上的温暖期，全国平均气温比现代高好几摄氏度，长安气候炎热，作为皇上也需要有避暑的地方，所以大臣们都无异议，但在远离都城800多里的洛阳大修宫室，则再次遭到反对，戴胄七表进谏：“刚遭离乱，百姓凋敝，国库空虚，倘若营建不已，巨大开支无论是国家还是百姓都无法承受。”如果说几年以前太宗尚能耐心听从意见的话，现在则不同了，他不停地在长安、洛阳大修宫室，恐臣下诤谏，便事先宣称“假若不这样做，对我很不方便”，那谁还敢再说话呢？
眼见太宗奢侈之心与日俱增，魏征十分忧虑。魏征深知，太宗作为一国之君，他的一举一动都关系着国家的盛衰安危，与百姓的祸福息息相关，自己不能等闲视之。在这众人钳口之时，魏征深切感到，只是像往日一样的诤谏、就事论事已经不够了，为国家的长治久安，他决定对自己的政治观点作全面、系统的论述。从贞观十一年（637年）正月起，他在半年之内连续4次上疏，根据太宗即位以来施政得失，引经据典，畅论国事，这就是现存《魏郑公文集》的4篇著名的《论时政疏》。其后，魏征又就有关治国的重大问题撰写了《论君子小人疏》《论御臣之术》《论治道疏》《理狱听谏疏》《十渐疏》等专题论文，集中反映他的政治思想，归纳起来主要有两方面：一是积德修身的治国理论，二是深沉而强烈的忧患意识。
魏征上疏使太宗十分震动，他亲自执笔撰写诏书作答。他说：“连续看到你直言疏奏，确实非常忠贞诚恳。言无不尽，情真意切。我一读起来就忘记了疲倦，常常翻阅到半夜。要不是你关心国家的感情深厚，看重君臣大义而启发开导我，怎么会将这些治国良谋写出来给我看，以补救我的不足呢？”太宗表示一定要将魏征的疏奏放在桌上，随时提醒自己。
话虽这样说，但作为封建帝王，太宗经常是说到做不到，因此魏征依然继续随时谏诤。
史载太宗“性刚烈”，其实就是暴躁，遇事好发脾气，不能控制自己感情，所以长孙皇后都说她想进言也得先看太宗脸色。好发脾气，感情用事，在一般常人，也容易出问题，何况帝王，处九五之尊，处理问题不能冷静克制，小则关系臣下祸福乃至身家性命，大则弄出乱子。太宗知道自己个性长短，当皇帝后，也颇注意扬长避短，但不顺心时，仍不时逆鳞伤人。在后宫，长孙皇后在世时常为他弥缝，在外庭则只有魏征能担当此任。
类似之事非一，如陈仓（今陕西宝鸡市）折冲都尉鲁宁做事犯法被关在监牢里，他依仗自己官阶高，谩骂陈仓县尉刘仁轨，被仁轨用棍棒将鲁宁打死。岐州（今陕西凤翔）官员把此事上奏，太宗大怒，下令将仁轨斩首，还不解恨，说：“县尉是什么东西，胆敢杀我的折冲。”命令先押送长安当面质问。仁轨说：“鲁宁是我管辖的百姓，还这样侮辱我，我实在气愤不过将他杀了。”刘仁轨言辞从容，神色自若。当时魏征正在太宗身边侍立，进言说：“陛下知道隋为什么灭亡吗？”太宗说：“你认为是什么原因呢？”魏征说：“隋末，像鲁宁这样的强横百姓到处都是，欺凌地方官员。”经过魏征提醒，太宗顿时高兴起来，不再追究刘仁轨，后来还将他提升为栎阳（今陕西临潼北）县丞。就是这个刘仁轨，以后在高宗李治和武则天时期，出将入相，成为一代名臣。
又司门员外郎韦元方给宦官办理出关凭证稍微慢了一些，宦官回宫告状，太宗很生气，将韦元方贬到华阳（今属陕西）去当县令。魏征知道后，即进谏说：“帝王震怒，不可轻易发作。前次为给宦者办凭证事，竟连夜发出诏书，好像出了军机大事一样，谁不震惊恐惧。何况宦者之类人物，自古以来就难整治，随便乱说，加油添醋，很容易产生祸害，让他独自一人出使州县，非常不恰当，不能继续下去，应当十分谨慎。”太宗也认真采纳了魏征意见。
魏征的随事上谏，不仅保护了一批中下级官员，更保护了一些元老重臣。几年前曾发生过这样的事情：右仆射李靖、侍中王珪奉命去九成宫，回京路过围川县（位于今陕西武功县西北），有宫人先住了上房，李靖等后到，围川县的官员就让宫人搬出，安置了李靖等。接着又有宫人出使到始平县（今陕西兴平），县令已经安排好了，尚书右丞带着家属后到，又让宫人移动。这两件事被人告了，太宗大发脾气，认为地方官员都不向着他，全向着李靖、王珪他们，而李靖、王珪等人见到宫人都不以礼相待，可见他们是多么傲慢。命令杖打始平县令100棍并予撤职，又下令调查围川官员及李靖等的罪证。如此小事便要给人治罪，封建帝王是何等专横，公认的明君唐太宗竟然也不例外。于是魏征进谏说：“李靖、王珪都是懂得礼法的，一定不会准许移动宫人，自己得好处。这可能是反映情况的人夸大了事实，故意惹陛下您生气。如果事情真是那样，也是可以体恤宽恕的。为什么呢？李靖等人是陛下您的心腹大臣，而宫人是给皇后扫除的仆人，李靖他们接受委托处理的事情不同，比较轻重，完全不在一个等级。又李靖等出使在外，地方官员要向他们询问朝廷的法令制度，回到京城陛下您要向他们了解民间疾苦，李靖等人自然不能不与地方官员相会，地方官员也不能不参见他们。至于宫人出外办事，并不与州县直接打交道，只要能够给他们供给饮食就行了，此外也没什么参见侍候。假若因此而归罪于地方官员并责罚他们，对陛下您的美好声誉没有好处，只是使天下的人感到震惊。”太宗顿时感悟，忙说：“你的话很正确。”于是免去地方官员的罪过，停止调查李靖等人。
贞观十四年（640年）太宗亲自检阅军队训练，由于部队布置排列不整齐，即命大将军张士贵杖打中郎将等，因打得轻，太宗大怒，把张士贵交法庭审判。魏征劝谏道：“将军的职责，是国家的‘爪牙’，让他拿起棍棒打人，已经不是值得后人效法的了，更何况因打得轻而交法庭审判呢？”太宗听魏征这样一说，才赶紧将张士贵给释放了。
太宗作为封建帝王，不以天生圣明自居，公开承认自己常做错事，愿意接受臣下监督，努力改正缺点和错误，就凭这一点，便可以是明君了，而魏征则自觉地以维护太宗圣德自任，知无不言，言无不尽，君臣和谐，成为千古佳话。尽管太宗小错不断，可大错则得以避免。贞观时期，君臣同心，上下一体，魏征的协调弥缝之功昭然卓著，在他同时代的人中，无人可与伦比。