张之洞晚年的时候，资产阶级革命迅速发展，清朝的统治处于四面楚歌，面临覆灭的危机。为了延缓革命的爆发，欺骗人民，以慈禧为首的统治集团宣布实行所谓“新政”。将已71岁的张之洞调往北京，任军机大臣，兼管学部工作。于是，张之洞处心积虑地为清朝的统治出谋划策，妄图延长清王朝的寿命。在教育方面，他做了两件有影响的大事：一是积极参与废除科举制度的活动；一是在他主持下制定新的学校制度。
(一)废除科举制度
科举制度自建立以来，1300年间几经变化，到清朝末年日益腐败，不断遭到批评，一些开明士绅纷纷建议停罢科举，广兴学校。张之洞也是积极主张废除科举的一员。
清代科举制度的废除，大致经过三个步骤。
首先，改变只重儒学，增加实用科目。清代科举考试内容沿袭前代，题目多出自“四书”、“五经”，这种考试很难选取真才实学的人才，遭受到朝野人士强烈的反对，纷纷建议改革。例如光绪十年，潘衍桐奏请设“艺学科”，“凡精工制造，通知算学，熟悉舆图者，均准与考”。光绪二十四年一月，严修请设“经济专科”，考试内容包括政治、外交、算学、法律、机器制造、工程设计等专门知识。同年五月，张之洞提出“改考试诗赋小楷之法”。他指责八股文“纤巧苛琐浮滥，不能阐发圣贤之义理”，必须改革。不仅如此，只重书法小楷的旧习也应该革除。他认为“小楷则有艺而无文，其损志气，耗日力，废学问较之八股诗赋殆有甚焉”。他建议，以后科举应以实学实政为主。清政府接受建议，明令“嗣后一切考试均以讲求实学实政为主，不得凭楷法之优劣为高下，以励硕学而黜浮华。”
其次，递减科举取士名额。光绪二十七年五月，张之洞、刘坤一联合上书，请求递减科举取士名额。他们说：“拟将科举略改旧章，令与学堂并行不悖，以期两无偏废，俟学堂人才渐多，即按科递减科举取士之额，为学堂取土之额。”并提议立罢武科。两年后，张之洞又建议自“丙午科起每科递减名额三分之一”，直至科举完全废除。但他指出，当前“并非废罢科举，实乃将科举学堂合并为一而已”。最后，在张之洞、袁世凯等人多次请求下，清廷于光绪三十一年八月，宣布“自丙午科为始，所有乡会试一律停止，各省岁科考试亦即停止。”从此，科举考试完全废除，封建时代的旧教育制度在形式上完全结束，是中国教育史上一件大事，中国教育开始走上一个新的发展阶段。在停罢科举的活动中，张之洞是有贡献的。
(二)建立新学制
洋务运动时期建立了许多新式学堂，但完整的学校体系，实始于1902年管学大臣张百熙拟定的《钦定学堂章程》，制定了中国第一个新学制，史称“壬寅学制”。然而这个学制并未施行。
1903年张百熙、张之洞、荣庆重新拟定《奏定学堂章程》，制定了“癸卯学制”。这个学制将普通教育分为初等、中等、高等三级，另外有师范教育和实业教育两系统，并制定了各级各类学校的具体章程，形成一套完整的教育法规。“癸卯学制”是由国家正式公布在全国施行的学制，它自公布之日起，一直沿用到1911年清朝被推翻时止。
这是中国近代教育史中十分重要的一个学制，以后学制的制定都是在此基础上演变而成的。在制定新学制的工作中，张之洞起着重要作用，《奏定学堂章程》主要出自张之洞之手。
张之洞自掌管学部事务以来，精心规划了各级学堂的规模和实施的办法与步骤，亲手拟定了各学堂的冠服(校服)程式，制定了各级学务官制细则，撰写了学堂歌(校歌)及军歌(学生整列入学、放学，或列队体操时歌唱)。这一切都有助于新式学校的发展。
张之洞晚年，看到封建政权岌岌可危，忧心如焚，还没来得及为清朝的统治补苴罅漏，就于宣统元年离开了人世，结束了奔波劳碌的一生。他的着作由许同莘编为《张文襄公全集》，共229卷。
张之洞是中国近代史上有影响的人物。他在不同的历史阶段有不同的表现，甚至在同一历史时期，也往往是正确与错误，进步与保守集于一身。当他是清流派时，主张抗法，弹劾崇厚，抨击李鸿章。
在甲午战争时，他力主抵抗，反对投降，维护领土主权，反对割让台湾，支持台湾人民自主保台。这些都符合民族利益，是爱国的行动，应当肯定。但他主张镇压农民运动，反对人民群众的反洋教斗争，反对资产阶级改良派的改革和资产阶级革命派的民主革命，维护清朝的封建统治，是地地道道的卫道士。
在教育方面，他改革旧教育，创立新学堂，改革以儒学为专一的教育内容，增添近代科学知识。积极主张废除科举制度，参与新教育制度的制定，对中国近代教育的发展做出一定贡献。但是，在他的教育思想中，三纲五常封建伦理思想占着重要地位，不论在旧式书院，或是新式学堂中，他念念不忘“旧学”，甚至到了清朝行将灭亡的时刻，他还创立存古学堂，宣扬“以崇正黜邪为宗”，“以忠孝为归”，“以圣经贤传为本”。这种新与旧，先进与落后交织一起的情况，充分说明处在新旧交替、错综复杂历史阶段人物的思想意识也是复杂的。
事实证明，一个正面人物，不一定总是站在正确的一边，一个反面人物，在一定条件下，也能够做出好事情。在同一个人身上，这一方面的行为、思想很开通，很进步，另一方面却可能很保守，很落后。所以，我们必须辩证地把握人们生活中的多样性和复杂性。对待历史人物，只有在历史当中去考察、去分析，才能客观地予以评价。对待张之洞的评价，当然也不例外。