1975年1月，在四届人大第一次会议上，叶剑英被任命为国防部长，继续主持军委日常工作。他全力支持刚刚恢复工作的邓小平对国民经济各条战线进行整顿。6、7月间，叶剑英和邓小平主持召开了具有重要历史意义的军委扩大会议，他在会上就整顿军队问题作了重要讲话。会议前后，他同许多高级干部个别谈话，向他们打招呼：毛主席对江青、张春桥、王洪文、姚文元“四人帮”提出了严厉批评，不容许任何野心家插手军队搞阴谋活动。他关照大家要谨慎从事，少说话，不“授人以柄”。要注意形势，坚定立场，稳住部队，发挥骨干作用。紧接着，经党中央、毛泽东批准，他主持六人领导小组，对全军二十几个大单位的领导班子进行了调整配备。这些对稳定军队与全国形势，为后来粉碎江青反革命集团起到了重要作用。
与“四人帮”反革命集团作针锋相对的斗争，保证社会主义共和国稳定的基石——军队的稳定。领导粉碎“四人帮”斗争，为新时期的社会主义建设、军队工作、祖国的统一大业鞠躬尽瘁。
1976年1月8日，周恩来总理与世长辞。清明节前后，上百万群众从全国各地汇集天安门广场，举行悼念周恩来和缅怀革命先烈活动，愤怒声讨祸国殃民的“四人帮”。
天安门广场的悲壮场面深深地感染叶剑英这位老革命家，他坚信：党心、军心、民心是向着光明的，一切违背人民意志的行为终究是要失败的。
在“四人帮”咄咄逼人的气焰下，叶剑英和其他许多老同志早将个人荣辱进退置之度外，对党和国家的前途和命运，忧心如焚。何以解忧？惟有除害。他们在思考和酝酿除害救国的战略决策。
然而，面临的形势是异常严峻的。当时，毛泽东的病情继续恶化。在此期间，王震多次到叶剑英那里密谈。叶剑英在与王震接触中，问他首都附近有什么熟悉的、可以信得过的人，嘱他要与之保持密切联系，做到随时能够讲上话。王震说：“我听老帅的，做老帅的联络参谋吧!”在此期间，聂荣臻也特地从城内搬到西山，靠近叶剑英住处。他们摒弃左右，从天下事谈到“上海帮”问题，甚为忧虑。经过多次密议，得出这样一些看法：“这几个东西闹腾的不得了，一定要设法解决。”“投鼠忌器。特别是那个人，不太好办。但不解决也不行。”“看起来，得想个办法，不能用正常手段解决。”
叶剑英冷静地观察江青一伙的动向及事态的发展，他不只同聂荣臻等同志交谈，也主动走出去，同其他同志接触，交换对形势的看法。他要求办公室的同志全面了解国内每天发生的大事，不论工作怎样忙，他每天都要听两次汇报，做到全局在胸，了如指掌。
灾难不断降到中国人民头上。7月，德高望重的朱德委员长突然病逝，唐山又发生了自古少有的强烈地震。1976年9月9日，毛泽东与世长辞。在全国人民沉痛悼念的日子里，“四人帮”加紧了篡党夺权的步伐。
这时，担任党中央第一副主席、国务院总理的华国锋由于历史的原因，难以有力地制止“四人帮”的猖狂活动。而邓小平、陈云等老一辈革命家又正遭到不断的打击、迫害和严密监视、封锁。在这种情况下，人们瞩目于叶剑英。因此，粉碎“四人帮”的伟大斗争，把叶剑英推向70年代中期中国历史舞台的中心。这位老革命家也意识到肩负责任的重大，毅然挺身而出承担起历史赋予的使命。
处在这场斗争的漩涡里，叶剑英高瞻远瞩，审时度势，分析估量全国的形势和人心的向背。他清醒地意识到，解决“四人帮”问题，也是继承毛泽东的遗志。但是，这需要做艰苦细致的思想工作和组织工作。
在这项工作中，首先要取得华国锋的支持。华国锋担任党和国家的主要领导职务，是由毛泽东提议，经中央政治局一致通过的。从党的组织原则出发，叶剑英很尊重这位党中央主要领导人。要解决“四人帮”问题，他征得了华国锋的同意。他又亲自几次找汪东兴，并利用在西山的隐蔽住所，继续进行酝酿准备工作。
“四人帮”预感到人民力量的威逼，打击可能来临。他们争分夺秒，加紧从政治上、组织上进行反革命夺权准备。
形势越来越紧张，“四人帮”和党内健康力量的较量逐步升级，已到了最后阶段。叶剑英在这一期间，除了与华国锋经常接触和交谈之外，继续同老同志保持联系，酝酿消除党内的隐患。
十月，风雷激荡的十月，政治局和“四人帮”之间的斗争达到了白热化的程度。华国锋遭到“四人帮”连日的“逼宫”，处境越来越困难。叶剑英了解到他的困境，彼此之间来往频繁，进一步密商粉碎“四人帮”的战略决策。叶剑英与汪东兴反复磋商，周密部署，从警卫人员的挑选，到“隔离审查”的方式、场地，每一个细节都不放过，最后由汪东兴负责具体落实。为了防止“四人帮”闹事，特别加强了警卫工作，并且由中央警卫机关和部队物色了一批对革命事业忠实可靠的同志，分别组成几个执行特殊任务的小组。对小组成员进行了细致的思想和组织工作，做到精确慎密，万无一失。同时，叶剑英还和军委总部的一位领导同志打招呼，要他掌握好总部机关、防空军和海军边防，加强战备。
一切准备就绪。10月5日下午，决定按计划方案行动，于10月6日晚8时在中南海怀仁堂正厅召开政治局常委会议。会议内容，事先发了文件通知，主要是审议《毛泽东选集》第五卷的清样；研究毛泽东纪念堂的方案；商议毛泽东中南海故居的安排等事宜。按照规定，出席会议的只有华国锋、叶剑英和王洪文、张春桥。为了让姚文元参加，以修订文献、改动文字的名义，通知他列席会议。
怀仁堂像往常一样，灯光闪烁，肃穆安谧。只有少数执行特殊任务的人员，担任着警卫。叶剑英此刻在怀仁堂正厅，正襟危坐，胸有成竹，他和华国锋正等待着“开会”。在正厅的屏风后面，汪东兴紧张地注视着门口，负责“会议”的安全。时针指向8时。张春桥、王洪文、姚文元逐个到来。每走进正厅一个，华国锋就代表党中央严肃地向他宣布所犯下的反党反社会主义的罪行和“隔离审查”的决定。宣布以后，立即执行，由监护人员一个一个送到候审的地方。同一时间，由另外的执行任务小组对住在中南海的江青、毛远新采取了同样的措施。对其他少数人由卫戍区负责解决。这样，前后不到1小时，没费一枪一弹，没流一滴血，就从组织上打垮了“四人帮”反党集团。结束了历时十年之久的“文化大革命”的灾难。这是正义战胜邪恶、智慧战胜愚顽的胜利。
解决“四人帮”之后，当天夜里，叶剑英回到玉泉山，立即通知作战部、情报部等，密切注视国际上的动态和反映，加强戒备，随后出席政治局会议，商议党和国家的大计。会议由华国锋主持，华国锋、叶剑英作了报告，与会同志完全赞同处置“四人帮”反革命集团所采取的果敢行动。会议一结束，就开始分片分口传达。叶剑英想到的第一件事，就是把粉碎“四人帮”的喜讯迅速告诉一直被“软禁”的邓小平和其他被迫害的老同志，邓小平对这个伟大斗争的胜利由衷地感到喜悦。陈云高兴地说，叶剑英同志是一个真正的共产党员，做了一个共产党员应该做的事情。聂荣臻、徐向前两位老帅表示完全支持对“四人帮”所采取的果敢措施。胡耀邦和许多老同志激动地说，叶老帅在关键时刻，又一次为我们党和国家立下了不朽的功勋!
1977年8月，叶剑英在十大上作《关于修改党章的报告》。粉碎江青反革命集团之后，叶剑英高瞻远瞩，排除阻力，力主请邓小平、陈云等老一辈革命家立即出来担任党和国家的领导工作，主张明确肯定1976年春的“天安门事件”为革命运动，尽快平反一切冤假错案，并为此做了不懈的努力，取得了成效。
1977年3月，叶剑英再次主持军委日常工作，他以极大的魄力，领导全军清除林彪、江青反革命集团的流毒和影响，恢复和发扬我军的优良传统，加强现代化的革命军队建设。在党的十一届一中全会上，叶剑英当选为中央副主席。
1978年3月5日，在五届人大第一次会议上，当选为全国人大常委会委员长。在党的十一届三中全会上，他同邓小平等中央领导同志一起，作出了把工作重点转移到社会主义现代化建设上来的战略决策，实现了党的指导思想上的拨乱反正，重新确立了党的马克思主义的思想路线、政治路线和组织路线。
1980年9月，叶剑英担任宪法修改委员会主任委员，主持制定了五届人大第五次会议通过的《中华人民共和国宪法》和其他国家法规，为健全和完善我国的法制做了大量的工作。
肩负党和国家、军队重任的叶剑英，以耄耋之年，不辞劳苦，跋山涉水，经常奔走于全国各地，深入实际，深入群众，进行实地考察，指导各地区的经济建设和军队的现代化建设。他积极主张实行各项改革和对外开放的政策，视察了深圳和蛇口工业区，支持和倡议深圳作为“特区”，对外开放，并亲自主持“人大”会议，给以立法批准。
这一期间，叶剑英对于军队的军事训练、战备工作、政治工作、后勤工作、国防工业建设、军事科学研究等方面的工作，作了一系列重要指示，并亲自主持会议、调查研究、了解新情况、解决新问题。
台湾是中国领土不可分割的一部分。叶剑英高度重视并积极努力促进祖国统一大业的实现。为此，他直到晚年，以带病之躯竭尽全力做了大量艰苦细致的工作。1978年12月26日，他主持召开五届人大常委会第五次会议，就统一祖国问题作了重要讲话。会议一致通过了《中华人民共和国全国人民代表大会常务委员会告台湾同胞书》，并于1979年1月1日正式发表。1981年9月30日，在中华人民共和国成立32周年和辛亥革命70周年前夕，叶剑英向新华社记者发表了有深远意义的《关于台湾回归祖国，实现和平统一的方针政策》的谈话，进一步提出了实现祖国统一的九条方针政策，建议举行国共两党对等谈判，实现第三次合作。叶剑英这次谈话，在国内外引起了强烈反响，得到了全国政协和各民主党派及群众团体的负责人、海外侨胞以及许多友好国家、国际友人的拥护和支持。
叶剑英十分关怀香港、澳门各方面的工作，提出了许多有利于调动港、澳同胞和海外侨胞积极性的意见，并做了大量工作。他经常同回国观光，探亲的港、澳同胞和海外侨胞会晤、洽谈，关心他们的事业和生活，鼓励他们为祖国统一和现代化建设多贡献自己的力量。
叶剑英在党和国家的领导岗位上，十分重视党的干部队伍的新老交替工作，并身体力行，带头退休让贤。党的十一届三中全会以后，他更是多次请求中央同意他退下来的愿望。
1985年9月，中共中央举行了十二届四中全会，叶剑英同其他63位老同志致函全会，请求不再担任中央委员和候补中央委员，以便让一批年富力强、德才兼备的同志进入中央委员会，全会同意了他们的请求。自此，叶剑英退出了他在党中央和中央军委的所有领导岗位，再次以自己的模范行动，为促进中央领导机构成员的新老交替作出表率。
1986年10月22日，叶剑英在北京与世长辞。叶剑英逝世第一个周年，他的灵骨安葬在广州起义烈士陵园。在陵园的一角，巍然矗立着一个巨幅石雕胸像。在像座下端镌刻着邓小平同志题写的金光闪闪的三个大字：叶剑英。在巨幅雕像下面，中国共产党中央委员会特地立了一块别致的长方形的红褐色卧碑。碑文是：
叶剑英同志是中国人民解放军的缔造者、中华人民共和国的开国元勋之一，我们党、国家和军队的卓越领导人。他由一个正直的民主主义者转变为彻底的共产主义者，在漫长的充满艰难险阻的革命道路上，在复杂斗争的转折关头，面临危难，无私无畏，表现了非凡的革命胆略，为中国人民的解放事业和社会主义建设事业奉献了毕生精力，建立了丰功伟绩。他盛德若愚，雄才经纶，谦虚谨慎，风范长存。矢志共产宏图业，为花欣做落泥红。
这100多字的辞约旨丰的碑文，概括了叶剑英的光辉一生。
(范硕)