魏征出生在公元580年，正是隋初。他是巨鹿下曲阳（今河北晋县）人。幼年丧父，穷困失意，扔下家产不经营，有远大志向，对于各种书籍、学问能够融会贯通。正如史书所载：“魏征，少孤贫，落拓有大志，不事生业。好读书，多所通涉。”史书中关于魏征政治生涯的记载，最早是在隋末大业年间，大概是这么说的：武阳邵丞元宝藏是魏征的朋友，他在大业十三年起兵响应李密时，让魏征掌管文书。当然，魏征地位是很低的，基本上没有任何发言权。
隋朝末年，由于隋炀帝无道。天下大乱，农民起义纷纷而起。尤其以李密领导的瓦岗农民起义势力为最大。大业十三年，武阳郡丞元宝藏起兵响应李密，让魏征掌管文书。李密每次得到元宝藏的书信，总称赞写得好，后来听说是魏征写的，马上把他召来。自从魏征参加瓦岗农民起义以后，一直积极参与谋划，他上书向李密献策，提出“西取魏郡（今河北临漳），南取黎阳仓（在今河南浚县西南）”的主张、李密按照其建议，瓦岗军很快夺取了黎阳仓，连同以前夺取的洛口仓、回洛仓，隋在中原的三大粮仓，已全部被瓦岗军控制。这样，就使隋军陷入缺粮的困境，自然也解决了起义军的粮食供给问题，加之他们开仓赈济，又扩大了瓦岗军的影响，壮大了起义队伍，河南一带的起义军大多归附了瓦岗军。李密非常欣赏魏征，就召他为行军元帅府的文学参军，主管军中文书。
当隋朝大将王世充领兵据守洛阳，与起义军展开了生死搏斗时，魏征很是清醒地看到了起义军存在的问题，曾经主动进谏说：起义军虽然有很重大的胜利，但伤亡也是很大的，军费开支也很紧张，并且赏罚不均，不应当和隋军进行硬拼。应当待敌军粮尽，等敌军撤退，再追击，一定可以获得胜利的。但李密并没有听魏征的正确意见，被王世充用火攻打了个措手不及，此战，使瓦岗军彻底覆灭了。后来，李密投降了李渊，魏征也跟着降了李渊。
魏征随李密降唐，自愿去安抚山东地区，被提拔为秘书丞。魏征认为李唐是很有前途的，就自愿去招附李密的旧部。
当时，李密的一个大将李勋还在为李密守黎阳，魏征写信给他说：“当初魏公由叛逆者而起兵，振臂大呼，四方响应，有部下数十万之众，势力达到的地方有半个中国那么大，然而，一失败就再也振作不起来，最后终于归附唐朝，因此知道天命已有所属。现今您处于兵家必争之地，如果自己不及早谋划，那么大事就会无可挽回！”李绩得到信，终于定计归附唐朝，并拿出粮食来，赠给唐淮安王的军队使用。同时，魏征也说服了元宝藏归顺了唐朝，为唐的统一作出了贡献。
后来，李密又反，想招呼旧部，重新再来，但很快兵败被杀。魏征在征得了李渊同意后，以国君之礼葬了李密，在写碑文的时候把李密写成了项羽，而不怕李渊的追究。对李密作的描述也是实事求是。他的这种精神得到了时人和后世的赞扬。也由此并没有指责他投降了李唐。
619年10月，魏征还没有回到长安，河北的窦建德攻陷黎阳，抓获了魏征，让他担任起居舍人。而魏征做得也很好。
武德四年，窦建德在武牢关被李世民打败，魏征与裴矩西行人渲关。唐太子李建成欣赏魏征才华，让他担任太子洗马，主管东宫的经籍图书。
武德五年，河北刘黑阔再次起兵，十月李元吉出兵河北，被刘军打败。十一月，太子李建成请求平定河北，他采纳了魏征的建议，利用人心思安的情绪，释放俘虏，动之以情，晓之以理，没费多大劲，就平定了河北，使唐在河北、山东一带的统治稳定下来。魏征在随李建成的河北之行中，表现出超人的才于，从而很受李唐统治者的重视，而李世民在这个时候就已注意魏征了。
魏征见秦王李世民功高，曾暗中劝说太子早定对策，但李建成却迟迟不能下定决心。
武德九年六月四日，秦王李世民先发制人，发动了血染萧墙的“玄武门事变”，诛杀太子李建成和齐王李元吉。之后秦王责问魏征说：“你让我们兄弟互相斗争，这是为什么呢？”魏征毫不紧张，从容地说：“太子早听魏征的话，就不会死于今天的祸乱。”李世民器重魏征敢于直言，并没有怨恨他的意思。李世民即位后，拜魏征为谏议大夫，封巨鹿县男。
这个时候，在河北州县过去跟随巢王元育的人都觉得不安全，往往成群藏匿思谋作乱，魏征禀告太宗说：“不向天下人显示天子至公无私，灾祸不能解除。”太宗说：“你去安抚和开导一下河北的人。”魏征在出使河北途中，遇到太子千牛李志安、齐王元吉府护军李思行被解往京师，他就说：“正好有诏令，前东宫、齐王府的旧人一律免罪，现在又解送志安等人，谁心里不怀疑？我们虽前去传达天子的旨意，人们一定不会相信。”便立即赦免志安等人而后上报天子。出使回来后，太宗非常高兴，对魏征日益亲近，拜为传中，一直留在太宗身边“参与朝政”，成为太宗的重臣之一。贞观七年，魏征由于忠于职守，勤勤恳恳，积劳成疾，恳求太宗免去他侍中职务，太宗一再挽留，但他坚辞，后被任命为特进，仍旧参与门下省事务，实质转为加官的顾问，直到去世。
魏征不只是因进谏而受重用，他在政治上和治理国家的方略上都有一定的主张和建议。
在政治方面，他主张怀柔招抚，而反对镇压。在治理国家的方略上，主张轻摇薄赋。在治理国家的整体方略上，尤其是在大乱之后拨乱反正，主张宜快不宜慢。在执法方面，魏征主张宽缓明确。反对严刑酷法。他还主张取信与民。
因此李世民非常欣赏魏征，把他提升为谏议大夫，这正是得其所长了。把他经常引入内廷，询问政事得失。魏征喜逢知己之主，竭诚辅佐，知无不言，言无不尽。加之性格耿直，往往据理抗争，从不委曲求全。有一次，唐太宗曾向魏征问道：“什么样的皇帝是明君，而什么样的皇帝是昏君呢？”魏征回答说：“皇帝如果是一个明君的话，那么他什么都能听得进去。如果是昏君的话，他只会听信一些奸臣阿谀奉承的话。以前秦二世居住深宫，不见大臣，只是偏信宦官赵高，直到天下大乱以后，自己还被蒙在鼓里；隋炀帝偏信虞世基，天下郡县多已失守，自己也不得而知。”太宗对这番话深表赞同。
贞观元年，魏征被升任尚书左丞。这时，有人奏告他私自提拔亲戚做官，唐太宗立即派御史大夫温彦博调查此事。结果，查无证据，纯属诬告。但唐太宗仍派人转告魏征说：“今后要远避嫌疑，不要再惹出这样的麻烦。”魏征当面反驳说：“君臣之间应该互相协助，我们应该是一体的。如果不能秉公办事，只是怕别人的闲言碎语，那么国家的昌盛或者灭亡真的说不定了”。
这时的魏征说了一句名言，要太宗让自己作良臣而不要作忠臣。太宗询问忠臣和良臣有何区别，魏征答道：“使自己身获美名，使君主成为明君，子孙相继，福禄无疆，是为良臣；使自己身受杀戮，使君主沦为暴君，家国并丧，空有其名，是为忠臣。以此而言，二者相去甚远。”唐太宗听后深受感动。
628年，魏征被授秘书监，并参掌朝政。不久，有人听说一位姓郑的官员有一位年仅十六七岁的女儿，才貌出众，京城之内，绝无仅有。便告诉了太宗，请求将其纳入宫中，备为嫔妃。太宗便下诏将这一女子纳为妃子。魏征听说这位女子已经许配陆家，便立即入宫进谏：“陛下为人父母，抚爱百姓，当忧其所忧，乐其所乐。居住在宫室台谢之中，要想到百姓都有屋宇之安；吃着山珍海味，要想到百姓无饥寒之患；嫔妃满院，要想到百姓有室家之欢。现在郑民之女，早已许配陆家，陛下未加详细查问，便将她纳入宫中，如果传闻出去，难道是为民父母的道理吗？”太宗听到后很是吃了一惊，当即表示不知，向魏征认错。并决定收回成命。但房玄龄等人却认为郑氏许人之事，子虚乌有，坚持诏令有效。陆家也派人递上表章，声明以前虽有资财往来，并无订亲之事。这时、唐太宗半信半疑，又召来魏征询问。魏征直截了当地说：“陆家之所以否认此事，是害怕陛下以后借此加害于他。其中缘故十分清楚。不足为怪。”唐太宗这才恍然大悟，便坚决地收回了诏令。
由于魏征能够犯颜直谏，即使太宗在大怒之际，他也敢面折廷争，从不退让，所以，唐太宗有时对他也会产生敬畏之心。有一次，唐太宗想要去秦岭山中打猎取乐，行装都已准备停当，但却迟迟未能成行。后来，魏征问及此事，太宗笑着答道：“当初确有这个想法，但害怕你又要直言进谏，所以很快又打消了这个念头。”还有一次太宗得到了一只上好的鹞鹰，把它放在自己的肩膀上，很是得意。但当他看见魏征远远地向他走来时，便赶紧把鸟藏在怀中。魏征故意奏事很久，致使鹞子闷死在怀中。
贞观六年，群臣都请求太宗去泰山封禅。借以炫耀功德和国家富强，只有魏征表示反对。唐太宗觉得奇怪，便向魏征问道：“你不主张进行封禅，是不是认为我的功劳不高、德行不尊、中国未安、四夷未服、年谷未丰、祥瑞未至吗？”魏征回答说：“陛下虽有以上六德，但自从隋末天下大乱以来，直到现在，户口并未恢复，仓库尚为空虚，而车驾东巡，千骑万乘，耗费巨大，沿途百姓承受不了。况且陛下封禅，必然万国咸集，远夷君长也要扈从。而如今中原一带，人烟稀少，灌木丛生，万国使者和远夷君长看到中国如此虚弱，岂不产生轻视之心？如果赏赐不周，就不会满足这些远人的欲望；免除赋役，也远远不能报偿百姓的破费。如此仅图虚名而受实害的事，陛下为什么要干呢？”不久，正逢中原数州暴发了洪水，封禅之事从此停止。
633年，魏征代王珪为侍中。同年底，中牟县丞皇甫德参向太宗上书说：“修建洛阳王宫，使百姓非常的困苦；而所收的地租又太多；妇女喜梳高髻，宫中所化。”太宗接到上书后非常的愤怒，对宰相们说：“德参想让国家不役一人，不收地租，富人无发，才符合他的心意。”并想治皇甫德参诽谤之罪。魏征谏道：“自古上书不偏激，不能触动人主之心。所谓狂夫之言，圣人择善而从。请陛下想想这个道理。”最后还强调说：“陛下最近不爱听直言，虽勉强包涵，已不像从前那样豁达自然。”唐太宗觉得魏征说得入情入理，便转怒为喜，不但没有对皇甫德参治罪，还把他提升为监察御史。
贞观十年即公元636年，魏征奉命主持编写的《隋书》、《周书》、《梁书》、《陕书》、《齐书》（时称五代史）等，历时七年，至此完稿。其中《隋书》的序论、《梁书》、《陈书》和《齐书》的总论都是魏征所撰，时称良史。同年六月，魏征因患眼疾，请求解除侍中之职。唐太宗虽将其任为特进这一散职，但仍让其主管门下省事务，其俸禄、赏赐等一切待遇都与侍中完全相同。
贞观十二年，魏征看到唐太宗逐渐怠惰，懒于政事，追求奢靡，便奏上著名的《十渐不克终疏》，列举了唐太宗执政初到当前为政态度的十个变化。他还向太宗上了《十思》，即“见可欲则思知足，将兴缮则思知止，处高危则思谦降，临满盈则思捐损，遇逸乐则思搏节，在宴安则思后患，防拥蔽则思延纳，疾谗邪则思正己，行爵赏则思因喜而盾，施刑罚则思因怒而滥。”
贞观十六年，魏征染病卧床。魏征一生节俭，家无正寝，唐太宗立即下令把为自己修建小殿的材料，全部为魏征营构大屋。不久，魏征病逝家中。太宗亲临吊唁，痛哭失声，并说：“夫以钢为镜，可以正衣冠；以古为镜，可以知兴替；以人为镜，可以知得失。我常保此三镜，以防己过。今魏征姐逝，遂亡一镜矣。”
我们看文史资料，看到的不应该只是表面上的东西。魏征是一代名臣，在臣中有很高的地位。但我们也能从文中发现一个问题，魏征说的非常有道理的地方，太宗都会从之，而如果我们换一个角度，把唐太宗换成其他的一个皇帝，那么魏征就不会有这么多施展才能的机会了。魏征之所以能成为一代谏臣和唐太宗李世民的英名是有很大的关系的，在李世民成为一代雄主的背后，我们应当看到魏征等忠心耿耿的大臣。而我们在感叹魏征的直言不讳时，也该庆幸魏征遇到了一代雄主。