顺治十一年（1654），徐元文在乡试中考中举人。顺治十六年（1659），在殿试中又高中进士第一名。当时他才21岁，顺治皇帝福临在乾清门召见了徐元文，对他抚慰有加。回宫后福临高兴地对孝庄皇太后说：“今年我大清得了一位好状元。”下旨赐予徐元文冠带、蟒服，任命徐元文为翰林院修撰。
徐元文在翰林院的任职期间，多次被顺治皇帝召见。有次他扈从顺治皇帝到西苑，顺治皇帝特赐他乘坐御马。他特意写下“空传枚马金门侍，只倚雕虫事武皇”的诗句以记此事。有一天，徐元文随顺治皇帝造访僧斋蕉园方丈，向方丈请教佛家典籍，事后，徐元文对方丈没有表示谢意。顺治皇帝也没有难为他，却说：“此人大有见解，他当状元是朕亲自选拔的。”
翰林院的日常事务很简略，徐元文就利用空闲时间研究学问。他不但钻研诗文，且努力通晓历史，求本探源，总结可以借鉴的历史经验。
二、主持学政请废捐纳
自清初以来，江南地区拖欠钱粮现象一直非常严重。康熙初年，皇帝责成当地巡抚，按察使严加查办，江宁巡抚朱国治细加勘察得出一个数字：苏州（府治今江苏苏州）、松江（府治今上海松江）、常州（府治今江苏常州）、镇江（府治今江苏镇江）四府，未交齐钱粮的文武官绅共计13517名。徐元文也在其列。依照惯例，对徐元文应予以处罚，降职调任銮仪卫。徐元文以此事为借口请假回家，分辩解释这件事情的原委。经过四年的时间，事情终于澄清，才恢复了徐元文的原职。唐熙八年（1669），徐元文充任陕西乡试主考官，他主持陕西乡试期间，注意选拔人才，被录取的多数是政治上无所攀援，出身于下层的地主阶级知识分子或贫寒之士，在陕西很有影响，陕西有人甚至这样说：“士子能够刻苦勤奋读书，就是从徐元文这次主持乡试开始的。”接着迁任他为秘书院侍读。
康熙九年，徐元文升任国子监祭酒，充任经筵讲官。他感慨学校废弛，毅然以师道自任，他认为：“自古人才盛衰，全看学校的兴废。汉唐以来，太学子弟都是认真选拔、精心培育的，所以人才辈出，清自开国以来，推行尚文皇道的政策，但是每年入太学的，除了官荫以外，只有缴纳贡品一条途径，由府、州、县学推荐入监的学生寥无几，而且多为年齿颓废之人，所以难于成才。”他请求按照顺治八年和十一年的旧例，让各省两年或三五年推举一批优等生，选送品学兼优的青少年入太学。并请求按照顺治时的办法，各置省乡试，取副榜生若干名，送入太学。这样，各地的才智出众的学士都集聚于太学，对培养经世致用的人才大有好处。他的建议被采纳，并颁布实施。对于捐纳一事，徐元文说那是因为平定“三藩”（吴三桂、尚可喜之子尚之信、耿精忠）叛乱所需的军饷既多又急、朝廷迫不得已采取的权宜之计。他请求等到收复云南后，立即降诏停止捐纳。他指出捐纳造成四大弊端：（一）官府养士育才没有比质量更重要的，而捐纳却造成了官员平庸冗杂；（二）由官府主持的考试是入太学的正途，学习期满考取太学，必须学习三门科目，用九年的时间。而捐纳者就不计年限，随捐随考。这就形成了对依靠正途考取的学士严厉苛刻，而对捐纳入太学者却优先照顾。这样，势必会“阻寒士攻苦之心，长富儿骄情之气。”（三）质量观念和考取方式已经混乱，而原来又没有把不称职的差等生革除的先例，考课难以进行，学士之风日益淡薄；（四）历年来吏部考核官员授予职衔，需要派任州县助理方面的职员不少于数千人。现在考取途径积弊很多，补缺授职的日子遥遥无期。可是一经授职，就会着官服、坐车乘轿，一副官太爷模样，招摇乡里。这样选官制度混乱，朝政实在让人忧虑。疏上，皇帝令吏部商议，最后决定：捐纳之事“自河工外，得一切停止。”
徐元文就任国子监祭酒四年，任职期间各种规章制度得以认真遵守执行，端正了学风。他还同其他学者一起致力于教授众监生，徐元文举止文雅端庄，学识广博，他的讲解流畅明了，声音洪亮，学生们都很敬佩。他离开国子监以后，康熙皇帝曾经对群臣说：“徐元文为祭酒，条规严肃，满族子弟不认真学习的，也一定要加以斥责，甚至鞭挞，至今监生们还畏服他，以后难得这样的人了。”
三、伴驾侍读君臣切磋
康熙十三年（1674）五月，徐元文升任内阁学士兼礼部侍郎、重修《太宗实录》副总裁。第二年四月，改任翰林院掌院学士，兼礼部侍郎，充任日讲起居注官。每天在弘德殿进讲，颇受康熙皇帝赞许。熊赐履任经筵讲官时，“非尧、舜之道不讲，非儒家经典不言。”他盛誉孔孟程朱之学，视为思维和行为的准则。这时康熙皇帝已经22岁，讲官谈论的儒家学说，已不能满足他的要求，他很想知晓历代王朝成败得失的经验教训，他对讲它们的人说：“朕孜孜不倦求学的目的，无非是想明白义理，对治国有所帮助。朕学过的道理很希望能实践一下；仅仅玄谈义理，不是朕所追求的。”有一天，康熙皇帝对徐元文说：“《四书》屡经讲解，已通晓文义，每观《资治通鉴》，详细地记载了前代得失，很有利于治国理民，应与《四书》掺杂讲解”。于是徐元文从《通鉴纲目》中选择那些有关国君的品德，治国理民的方式的事例，让翰林院分别撰写讲章，他亲自审订，按照顺序为康熙皇帝讲读。聪明好学的康熙皇帝仍感到不满足，便规定讲官讲完以后，他也讲解一番，相互切磋，徐元文对此很高兴。在他进讲时，采用先儒的评论，加上自己的看法，推理发挥，务求重点突出，观点鲜明，结合现实问题立论。这一年的经筵讲读结束后，徐元文把讲义呈给康熙皇帝，希望皇上经常浏览，进一步体会。康熙皇帝对于徐元文等人讲授的《通鉴》非常满意，称赞他们筵讲的各章都很精当详细，对于他的学问和处理政务都有很大帮助。为了表达他是尊师重教的，特令徐元文等讲官一讲结束后，免于行礼。
康熙十五年冬，徐元文母亲去世，去官回家服丧。康熙十八年，设立史局。二月，徐元文丧服尚未满，康熙皇帝诏令他出任《明史》监修总裁官。他到任后，请求征购民间遗书文献，推荐李清、黄宗羲、曹溶、汪懋麟、万言等共同编纂，吏部没有批准。最后，是康熙皇帝下诏批准了他的建议，但因李清、黄宗羲、曹溶三人年事已高，没能参编。
康熙十九年，徐元文升为都察院左都御史，兼经筵讲官。受命任职那天，他到乾清门谢恩，康熙皇帝降旨嘉奖他从前的讲解之功，赐给他手迹二幅，其中一幅写的是“鸢飞鱼跃。”
四、直言敢谏蒙君嘉许
徐元文在中央官署任职，遇事敢言，从不阿谀奉承。有一次，朝中举行九卿会议推举江西按察使人选，有人推举兴泉道张仲举，御史唐朝彝极力宣扬说，张仲举在福建没有做出好的成绩。九卿准备上书弹劾唐朝彝，可是副都御史李仙根、给事中李宗孔二人不愿在书上签名，于是连这两人一起弹劾。经吏部商议，把李仙根、李宗孔降五级调用，将唐朝彝革职，康熙皇帝认为对他们的处分太重。徐元文上奏说：九卿会议推举人选，本是朝廷中正当的讨论，大家各抒己见，怎能怕有分歧呢？现在因意见不一致，就对他们如此处分，如果所推举的不是有才能的人，那谁还敢提出驳议与更正意见呢？而且从原则上讲通过科举途径考中可以成为后备官员的，在公布名单时，必须全部列上，在讨论推举官员时，应当允许对所推举者提出相反的意见，如果任凭一二名势力大且强暴者对持反对意见的人妄加抨击，众人只能随声附和。这样的话，后果不堪设想。康熙认为有道理，应对他们免予处分。徐元文再一次上奏说：“凡是免予处分的，都是有罪之人，但是皇帝圣恩予以宽免。唐朝彝等人却是无罪之人，如果圣旨只说不必处分，就周全多了。”康熙同意了他的建议。
当时三藩之乱即将平定，吴三桂的几十万叛军陆续投降，如何处置他们关系重大。徐元文上疏说：“对于受胁迫而参与叛乱的人，应格外施恩宽赦，允许他们悔过自新。但如果让他们留在云南，却不是长久之计；移调到其他地方又耗资巨大；如果改换将领，会导致兵将的互相猜疑，终将留下隐患；划归各旗，又怕难以管理，所以应该区别对待。凡是可以留用的，应该与绿营、八旗将士一样录用，剩下的一律遣散为民，由各道安置，参加生产。这样既可以减少俸禄的开支，军需用品也可以逐渐宽裕。至于耿精忠、尚之信、孙延龄的老部下与嫡系，尤其应予解散，绝不能让他们仍用藩旗的名目。三藩作乱期间，受害严重的是广东、福建、云南、贵州等省，叛贼在这些省份广征关税、贸易税，加重盐税，圈占了大量土地，无恶不作。现在，三藩已相继被消灭，而他们占夺民利破坏国政的事却由来已久，现在，朝廷大军势如雷霆，该处百姓渴望早日救他们于水火之中。应当先发布敕令，命令将军、总督、巡抚自进入贼境之日，马上废除以往所有的苛政。”康熙皇帝对这些建议很赞赏，下令讨论实行。
三藩之乱平定以后，有的大臣对康熙皇帝歌功颂德，请求登封泰山，而徐元文独持反对意见，他认为国家当务之急，不是搞那些礼仪活动，而是“振纲纪”、“核名实”、“崇清议”、“厉廉耻”，乘此武定功成之时，应该明白告谕大小官员，清除疑虑，共成千秋大业。革除沿袭下来的苟且积习。不要安于现状，要奋发进取。疏文写好后，同僚们觉得他的言辞太直，劝他不要上奏。而徐元文却坚持己见，毅然上奏。康熙皇帝对徐元文的建议颇为称赞，认为是合理的。于是登封泰山的典礼就被免除了。
清朝初期曾经多次下令清查大户人家隐占土地，来充裕国库的税收。规定：凡查出隐占田地的人户，或充军，或下狱。州县官吏为了升级进爵，捏造事实上报，以冒领功俸，这种现象不断出现，造成极大危害。徐元文通过查访得知：隰州蒲县（今属山西）庠生王命新、曹大明被迫出卖子女，康生贾松平竟把自己卖到平阳军营，夫妇同去服役，来交纳赋税。因此，徐元文极力陈述朝廷下令清查隐占田亩案，在具体实施中的弊端，他说：“有些土地，本来就是无主的，不是人们有意隐占不报。地方官吏谎称是诡诈的人隐占，错误地依靠惩罚人来解决问题，实际上是把无主之地强行摊派于人，然后借此搜刮钱财，敲诈勒索，到现在这种做法已沿袭多年。百姓不堪其苦，许多人举家逃亡。这样做名义上给国家增加粮产，实际上是虚耗粮产；名义上是清除弊端，实际上这才是弊端的根源”。督抚们在做之前共同进行欺骗，在做了之后又为做的事作掩盖。徐元文极力请求进行整治：“凡是以前假报的，实行自己检讨、主动坦白和互相检举，这些姑且予以宽免，始终掩盖不讲实情的，应加重给予治罪。”徐元文任左副都御史三年，兢兢业业致力于重振纲纪，整顿吏治。他与同他同属一个等级的官吏相处非常融洽、和睦，但是遇到问题却敢于极力争辩非弄清楚不可，没有什么顾忌。关系到八旗之内的事，众人大多退缩畏惧，不敢直言，唯独徐元文敢于讲话，敢于坚持自己的主张。先后上奏弹劾福建总督姚启圣纵恣谲诈，妒功喜能；浙江副都统高国相纵兵虐民，两淮巡盐御史徇私包庇贪官。将军马哈达提出民间有很多隐名逃亡的人，请求自行拘捕，不移交地方衙门。徐元文认为不能这样。他说：文武兵民的划分，历来如此，现在以拘捕窝藏的逃犯为名，辗转倾害，必将扰民。满员大臣主张，应当命令以将军为主和督抚共同协商去处理。徐元文认为：这样仍然是将军为政，应当以督抚为主会同将军去处理。双方争论不已。最后，康熙皇帝听从了徐元文的主张。徐元文认为，吏治清明首先要严格官吏的选拔，清朝初年连年用兵打仗，国库已告贫困，于是决定实行捐纳授官。规定凡是捐纳做官的人，任期满3年以后，称职的给予升迁或转任，不称职的则予以罢免。但是，却没有坚持实行下来。后来又规定3年满期，如果再有捐纳，则一律升迁转任。这样实行捐纳就造成了吏治腐败。那时各部寺院有数千名笔帖文书一类的小官，他们一致要求依照旧例捐纳当个州县官吏。徐元文极力主张不可以这样。有些人惧怕激成事端，主张让步，满员大臣也好言相劝。徐元文和他们争论了三天，他对同僚们说：“这事除此别无他法，若出了事，由我一人承当，绝不连累大家。”
五、修史撰书任职两部
康熙二十二年（1683）冬，九卿会议推举道员王垓、胡悉宁为湖北按察使。康熙认为两人人才平庸，追问是由谁推举的。为此事，徐元文受到牵连，但是他并没有申辩，吏部商议将他降三级调用。康熙二十三年二月，康熙皇帝又命他专门管理史局，负责监修《明史》。当时，史局已建立5年，但修书未成。这时他既然不参与政事，于是便专心修史。他取来史局的人们所写的纪传稿，考订史实，参用诸家之说，以年为经以月为纬，亲自编辑。如果遇有疑难问题，就写信花钱请来熟知前朝典故的人，虚心求教，细心商榷，经常直到深夜。徐元文为修史，终日孜孜不倦，经过一年的努力，完成十分之六七的传记，缮写7卷本纪，撰稿15卷列传，呈进宫内。
修史名义上是学术性工作，但在清代，却包含着极强的政治敏感性。关于南明诸王及其大臣史事如何撰写，是《明史》编纂体例中最为敏感的问题，处理不好，会触怒皇上。历史上，由于秉笔直书而触犯皇上、遭致被革杀的史官，也不在少数。一些人出于顾虑，主张以崇祯十七年三月明朝覆亡为断，南朝诸帝不必写入。徐元文不同意，他认为南明诸王是客观存在的史实，不写入他们，《明史》何以为史书。争论不决之后，他毅然上疏，提出了关于编纂南明诸王史事的意见。他认为：《明史》的编写，本纪可以崇祯帝终止，但南明福、唐、桂三五史迹，不可以不著，如何写入？请援用《宋史》益、卫二王和《辽史》耶律大石之例，将三王著入附传。至于明末诸臣尽忠前所事者，凡考之有据者，都应当采摭。康熙帝看了徐元文的奏本，一时也难以处置，他召见徐元文，详细询问原由。康熙帝沉思很久，点首同意徐元文的编纂意见。南明诸王及为其尽忠的大臣们的史事，由于徐元文的力谏，在《明史》中得以再现。
徐元文为人外和内刚，直言无忌。他为政不畏权贵，遵礼守法。然而由于家门子侄不贤，巧取豪夺，为恶乡里，给政敌提供不少口实，使得徐元文一再遭劾。先是副都御史许三礼劾他入阁拜相后，收受贺银五千两。康熙帝置之不究。不久两江总督傅拉塔纠劾他及其子侄家人：“以官生理，公然受贿，扰害地方。”此次是满族封疆大臣的弹劾，康熙帝不能不问，追查结果，所讦各条虽多为徐元文子侄和家人所为，但他未能辞其咎。康熙帝法外加恩，让他致仕回籍，徐元文回乡后，昔日煊赫热闹的门庭变得门可罗雀。他感慨人情万端，官场险恶，终于抑情成疾，一病不起。不到一年，在康熙三十七年闰七月二十七日，这位清代名臣便郁郁而终。