元康年间，皇权衰落，“政出群下，纲纪大坏，货赂公行，势位之家，以贵陵物，忠贤路绝，谗邪得志，更相荐举，天下谓之互市也”。在这种政治形势下，张华的亲朋好友都为他的处境而忧心忡忡。他的少子张韪曾以灾兆劝张华逊位。“志不在功名”的张华，身处政治斗争的波峰浪谷之间，亦曾有过告老还乡的想法。他在《答何劭诗二首》中，自叹年老体衰，“忝荷既过任，白日已西倾。道长苦智短，责重困才轻”，无力应付复杂的明争暗斗，难以改变奢糜腐化的时代风尚，故时时感到“恬旷苦不足，烦促每脊余”，常常“负乘为我戒，夕惕坐自惊”，唯恐因力不胜任和出现失误而被政敌暗算中伤。他希望有朝一日能够“散发重阳下，抱杖归清渠，属耳听鹦鸣，流目僬鱼，从容养余日，取乐于桑植”。但是，由于时代和阶级的局限，尽管张华对“吏道何其迫，窘然坐自拘”的处境极为反感，但在上有帝后相制，左右政敌瞩目的形势下，他却无法解决自己的矛盾苦闷，脱离骚乱动荡的政界，实现他憧憬的超脱世俗的田园生活，只能继续自己“缨矮为微墨，文宪岂可逾”的从政生涯。既然他找不到一条更有意义的出路，遂不得不安于现状，用“天道玄远，惟修德以应之耳，不如静以待之，以俟天命”去答复好心的亲友，聊以自慰。
但是，张华在辅政期间，并没有仅仅局限于自我修德和无为而治。为了封建王朝的根本利益，他亦以“修德”作为辅政的主要方针，希望通过封建礼教来改变时弊，实现比较清明稳定的政治局面。
贾后为人凶险，擅权专政，是造成朝纲不振的主要根源。张华并不为一己之私利去逢迎贾后，以承风望旨、仰人鼻息的方式苟且偷安。他“惧后族之盛，作《女史箴》以讽”。《女史箴》以封建伦理道德和纲常名教为宗旨，隐喻贾后要以“妇德尚柔，含章贞法”当作行为的准则。他列举了樊姬不食禽兽肉三年以劝谏楚庄王狩猎，齐恒公夫人因齐恒公好听淫乐而不听郑卫烈音，冯昭仪以身挡熊以保护汉元帝，班婕妤为正名位而不与汉成帝同毒的典故，劝诫贾后应恪守妇道，行仁义礼教以辅佐惠帝。他辩证地指出“宠不可以专，专实生慢，爱极则迁，致盈必损”的利害关系，规谏贾后不要因君宠而得意忘形，利欲熏心。他认为“美者自美，翩以取尤，治容求好，君子所仇”，希冀贾后摈弃佞幸小人，杜绝文过饰非。贾后看了《女史箴》之后，虽未有什么痛改前非的变化，但碍于张华的正言规谏，在元康九年（公元299年）以前，一直未敢有太严重的僭越之举。
尽管“贾后虽凶妒，而知敬重华”，但她执政的本身却使得乱政隐患越来越表面化。为此，当时辅政的侍中裴颁深感不安，遂与侍中贾模和张华共议废贾后而立愍怀太子的生母谢淑妃为皇后。张华对此表示异议，他说：“惠帝自己并无废黜贾后的意思，如果我们擅自废立，惠帝会认为是僭越之举。况且宗室王势力强盛，朝廷内又有持异议的朋党，恐怕一旦进行废立就会出现动乱，招致杀身之祸，引起政治危机，这对国家是没有好处的。”裴颁说：“情况确实与你的担忧相符，但贾后这样昏庸残暴的人，做事毫无顾忌，不考虑后果，肯定会在不久的将来发生动乱，那又该如何办呢？”张华说：“我们二人现在还能被贾后所信任，只要经常在她身边进行规谏，申明祸福利弊，估计她不会做出什么大的僭越行为。幸好现在天下局势还比较安定，我们照此行事，可能会一直维持平安无事的局面的。”谋废贾后遂未能进行。
张华辅政期间，统治阶级内部蕴藏着深刻的矛盾和危机。朝野百官大臣，非司马氏宗室，即贾后亲族，或豪门望族。他们不仅各有朋党，相互倾轧，而且亦各有短长，良莠不齐。面对如此错综复杂的政治势力，张华亦能坚持修德的方式去息事宁人，维持了数年相对稳定的局面，确实是很不容易的。
司马氏宗室诸王，或于中央任职，或出镇方面。他们仗“雍容贵戚，进不贪功，退不惧罪”，多成事不足，败事有余。张华虽无力改变自武帝以来形成的诸王强盛的局面，但他尽可能做到对诸王敬而远之，虚授职官，不委重任。如关中氐羌少数族爆发起义，梁、赵诸王“士卒虽众，不为之用”，张华即及时调离二王，委任虽出身低下帮有“文武材用”的孟观率宿卫兵赴关中。结果孟观“大战十余，皆破之”，镇压了起义。赵王伦调回京师后，任有职无权的车骑将军、太子少傅，伦“深交贾、郭，谄事中宫，大为贾后所亲信”，遂“求录尚书”，张华“固执不可”，又求尚书令，张华复不许。
与张华共同辅政的大臣，多是贾后亲族。如侍中贾模，是贾充族子，他“潜执权势”，“至于素有嫌忿，多有中陷，朝廷甚惮之”，此外又“贪冒聚敛，富拟王公”。待中裴颁，出自河东裴氏，亦是贾充妻之从子，为人“欲而无厌”。琅玡大族王戎，是裴颁的岳父，与“贾郭通亲”，时任尚书左仆射，领吏都，他“苟媚取容”，“驱动浮华，亏败风俗”，“性好兴利，广收八方园田水碓，周遍天下”。庶族出身的张华，对这些地位与自己相当的权臣的丑恶行为，自然无可奈何。他一方面超脱世俗，不与之随波逐流，尽可能做到出污泥而不染，严于律己，不营资财，惟“雅爱书籍，身死之日，家无余财，唯有文史溢于机箧”。另一方面又能够善于找出与这些权臣之间的共同点，与之通力合作。如贾模为了本宗族的私利，对贾后擅权心怀忧惧，尚能“尽心匡弼”；裴颁“虽后之亲属，然雅望素隆，四海不谓之以亲戚进也”，多次上书进表，陈述“多任后亲，以致不静”之弊，主张“当先其疏者，以明至公”。这与张华的思想是基本一致的，故张华尽可能与贾、裴二人保持比较密切的政治关系，利用他们的力量规谏贾后，以推行和实施自己的政见，达到稳定封建统治秩序的目的。
（2）选拔人才
张华在辅政期间的最突出的政绩就在于选官任人方面。当时门阀世族极力垄断和控制选官权，拒寒素于政权之外。尚书左仆射王戎领吏部典选，“未尝进寒素，退虚名，但与时浮沈，户调门选而已”。张华出身庶族，对没有门阀背景的人进仕之路的坎坷不平，颇有切身感受，他之所以能跻身政界，主要是凭借自己“世无与比”的博物洽闻和卓越的政治才能。因此，他重视知识，雅爱书籍，“天下奇秘，世所稀有者，悉在华所”，搬家时，曾“载书三十乘”，以至于“秘书监挚虞撰定官书，皆资华之本以取正焉”。正由于此，张华亦重视人才，敢于打破“户调门选”的用人标准。他“性好人物，诱进不倦，至于穷贱侯门之士有一介之善者，便咨嗟称咏，为之延誉”。许多两晋之际著名的政治家、文学家和史学家，都或是经他延誉称咏，或是由他荐举征辟而成名的。这方面的例予是很多的。
他重视南士，不因他们是孙吴亡国之余而怀有偏见。太康末年，陆机、陆云人洛。“陆机兄弟志气高爽，自以吴之名家，初入洛，不推中国人士”。这种清高，实际上是南士与北士之间存有芥蒂的反映。
当时北方士人亦自恃征服者而对南士有所轻侮。张华则不然，他素重二陆兄弟，见之如旧相识，说：“伐吴之役，利获二俊。”他称赞陆机“天才秀逸，辞藻宏丽”，“人之为文，常恨才少，而子更患其多”。陆云为人不拘小节，而张华“多姿制，喜欢用帛绳纏束胡须，陆云”见而大笑，不能自己“但张华对此毫不介意，仍将二陆荐之于诸公，为其延誉（同上）二陆遂对张华倍加钦佩，待之以师资之礼。又薛兼、纪瞻、闵鸿、顾荣、贺循号为南土”五俊“入洛，张华见而奇之，称其为”皆南金也“他常常用”龙跃z津凤鸣朝阳东南之宝这样的话语品价南士，并随才授职。
他举人荐士公允，不囿于门第出身，唯以吏斡文义为准。陶侃早孤贫，为县吏，举孝廉人洛，张华与之交谈，“异之，除郎中”。名士牵秀，“博辨有文才，性豪侠”，帝舅王恺诬陷他有秽行而被免官，但“司空张华请为长史”。成公简虽家世二千石，但他“性朴素，不求荣利，潜心味道，有干其志者。”张华对成公简十分赞赏，经常对人说：“简清静比杨子云，默识拟张安世”。刘弘“有斡略政事之才……张华甚重之”，因而出镇幽州，“甚有威惠，寇盗屏迹，为幽朔所称”。张轨“明敏好学，有器望，姿仪典则，却未受高品，”张华与轨论经义及政事损益，甚器之，谓安定中正为蔽善抑才，乃美为之谈，以为二品之精“成公绥”博涉经传，性寡欲，不营资产，家贫岁饥，常晏如也。少有俊才，词赋甚丽……张华雅重绥，每见其文，叹伏以为绝伦，荐之太常，徵为博士“陈寿有”良史之才“张华对陈寿说：当以晋书相付、耳”欲举陈寿为中书郎，为苟勖所阻而未遂。左思出身于地位卑微、世业儒学的家庭，他博学多识，文赋情采富丽，耘《三都赋》，通过对蜀、吴、魏自然风光的描写，抒发了自己渴望四海为一的政治抱负和理想。张华读赋而叹日：班张之流也，使读之者尽而有余，久而更新。“一时间豪贵人家竞相传写，遂有”洛阳为之纸贵的美谈。
正由于张华能够像何劭赠诗中所说的那样：“既贵不忘俭，处有能存无，镇俗在简约”，故他“尽忠匡辅，弥缝补阙”的努力在一段时间内取得了较好的效果。《晋书·张华传》日：“虽当罔主虐后之朝，而海内晏然，华之功也。”
但是，张华的种种主观努力，只能暂时地缓和社会各种矛盾的激化，却没有也不可能消除造成这些矛盾的根源：即宗室王势力强盛，后族外戚擅权乱政，门阀世族奢侈纵欲，恣意聚敛。就在所谓“海内晏然”时，关中地区少数族就频繁起义，极大地动摇了西晋王朝在这一地区的统治。而且统治阶级内部亦危机四伏，大有一触即发之势。张华对此是深有认识的。他之所以反对废黜贾后，就是担心因此而造成危机的总爆发。但贾后权欲无穷，她时时欲废非已所生的愍怀太子，打算长期操执朝政。幸赖张华、裴颁等人极力反对，这一阴谋才迟迟未能实现。而诸王因不满贾后擅政，也时刻虎视眈眈，觊觎皇位，寻找时机，以求一逞。元康五年（公元295年），武库发生火灾，张华就因怀疑是诸王叛乱，而“先命固守，然后救火”，致使累代异宝及二百万人器械一时荡尽。事后张华说：“武库火而氐羌反，太子见废，则四海可知。”预见到太子废黜将会成为统治阶级内乱的总导火索。事实证明他的预见是正确的。
元康末年，辅政大臣之一贾模失宠于贾后，忧愤而卒，制约贾后的力量遂大为减弱。随着贾模的失势，一向与贾后沆瀣一气的贾谧（贾充的外孙）操持权柄，“迁侍中，专掌禁内，遂与后成谋，诬陷太子”。在这种情况下，张华原来的“勤为左右陈祸福之戒，冀无大悖”的方针已难以奏效，所以，愍怀太子的亲信，太子左卫率刘卞去找张华，打算与张华合作，发动武装政变以制止这一阴谋。但张华却推说不知贾后欲废太子事。刘卞说：“我原是寒悴之人，受到您的赏识，才由须昌小吏到今天的地位。我因感恩戴德，才向你谈论此事，您为什么却对我有所怀疑呢？”张华说：“假如有这件事，你打算怎么办？”刘卞答道：“太子东宫内人才济济，有精兵万余人。您身为宰辅，又是太子少傅，如果您下令召太子入朝，让他录尚书事，废黜贾后于金墉城，这不过是两个黄门侍郎即可完或的事情，肯定会万无一失。”张华拒绝了刘卞的建议，他回答说：“现在惠帝仍在位，太子是他的儿子。我又没有受命辅助太子执政，忽然立太子而废贾后，这是无君无父，以不孝示天下。即使能够成事，我也难免要身负不忠不孝的罪名。况且权臣贵戚当朝，威柄不一，我以此举授人以口实，怎么可能安然无恙呢？”废黜贾后之事再度成为泡影。
元康九年（公元299年）十二月，贾后设计，将太子灌醉，因使太子书写犯上谋乱之书，然后当惠帝于式乾殿会群臣时，出太子手书遍示之，群臣看后，未敢有异议，均附和贾后赐太子死的建议。时只有张华坚决反对，他说：“废黜太子并赐死，这是国家的大祸。自汉武帝以来，每次废黜太子，往往导致丧乱。在大晋据有天下不长时间的今天，废太子事更应慎重考虑。”尚书左仆射裴颁也认为应核对笔迹，以防诈妄。贾后遂将手书与太子过去奏事笔迹相对照，果然是太子所书。张华等人无言相对，但却仍坚持自己的意见。贾后知道难以让张华等人改变主意，遂上表把赐太子死改为废为庶人，惠帝下诏同意。
太子被废后，引起东宫将士和诸王的强烈不满。东宫左卫督司马雅，常从督许超等人，谋废贾后，复太子。他们“以张华、裴頠安常保位，难与行权”而赵王伦“执兵之要，性贪冒，可假以济事”，遂与赵王伦密谋此事。赵王伦与其佞幸谋臣孙秀，一向朋比为奸，皆是野心勃勃之徒，当然不会放弃这一良机。他们先劝贾后在永康元年（/A元300年）三月杀了太子，借贾后之手除掉了夺权的障碍，接着又策划政变，以废贾后。在起兵之前，四月二二日夜晚，赵王伦和孙秀为了使叛乱得到更广泛的支持，派司马雅去张华处，说：“现在国家处于危难之机，赵王想与您共匡朝政，成霸王大业。”张华知道赵王伦、孙秀等人得手后一定会有僭越篡权的逆行，义正辞严地予以拒绝。司马雅恼。羞成怒，说：“刀都架在脖子上了，还敢如此说话。”遂看也不看张华就扬长而去。四月三日整整一天，张华亦未发赵王伦之谋。可见他还是赞成废黜贾后，只是不愿与赵王伦共事并直接卷入这种不忠的活动中而已。
当天夜晚，赵王伦发动兵变矫诏废贾后为庶人。他亦因对张华的宿怨新恨，以党附贾后的罪名，将张华和裴頠等人收执于殿前马道南。张华责问主事的（中书）通事令史张林说：“你想要害忠臣吗？”张林称诏诘责张华说：“你身为宰相，太子被废，为什么不能守节廷争！”张华说：“式乾殿朝议废太子事，我是力谏的，这有文字记载为证。”张林问：“既然劝谏未被采纳，为什么不辞职去位！”张华无言以对。过了一会儿，使者至，下达了斩张华、裴颓并夷三族的命令。张华临刑前慨叹道：“我是武帝时的老臣，一片丹心。我并不惜命，只是担心今后国家将有不测之祸难。”遂被杀害，时年69岁。
张华被害，“朝野莫不悲痛之”。闫缵抚张华尸体痛哭道：“早语君逊位而不肯，今果不免，命也夫。”刘颂哭之甚恸，他得知张华子孙有逃脱免难者的消息后，又转悲为喜，说：“茂先，卿尚有种也！”陆机、陆云兄弟，都为张华作诔文，又写了《咏德赋》来怀念他。
永宁元年（公元301年）五月，齐王同、成都王颖、长沙王义等三王起兵，诛杀赵王伦、孙秀，齐王同执掌朝政。齐王同上奏惠帝，请求给张华昭雪。太安二年（公元元303年）、朝廷正式下诏，恢复张华盼宫职和爵位以及所没财产，为张华洗刷了冤案。