处在这场斗争的漩涡里，叶剑英高瞻远瞩，审时度势，分析估量全国的形势和人心的向背，同时想到了毛泽东在弥留之际，想托以后事又欲语不能的情景。他深切感到，毛泽东不愧是一位伟大的马克思主义者，尽管他在晚年错误地发动和领导了“文化大革命”，但他毕竟察觉了江青等人阴谋篡权的活动。他在政治局会上宣布他们一伙是“上海帮”、“四人帮”，并进行过严厉批评，表示要加以“解决”。同时，从组织安排上，堵住了他们妄想爬上党和国家最高领导位置的路。叶剑英认为这是毛泽东对付“四人帮”的“两着棋”。毛泽东还多次向老同志讲过汉朝周勃、陈平铲平吕氏叛乱、巩固汉室政权的故事。解决“四人帮”问题，也是继承毛泽东的遗志。毛泽东从1974年起对“四人帮”几次提出批评，1975年5月3日批评他们破坏党中央团结时说：“问题要解决，下半年不行，明年，明年不行，后年。”后来因整邓小平就把这件事拖下来了。毛泽东生前没来得及解决，现在到了非解决不可的时候了。叶剑英这位跟随党为共产主义事业奋斗多年的老党员、老战士，眼看着党又一次面临生死存亡的严重关头，决心不负众望，挺身而出，团结众人，坚持斗争，挽救危局。
叶剑英经过长时间的观察和思索，意识到，解决“四人帮”这场斗争，不是轻而易举的，需要有一个从酝酿到决策的过程。在酝酿阶段，接触面不妨宽一点，做些涮查摸底，听取各方面的意见，思考对付“四人帮”的办法；一旦酝酿成熟，形成决策，付诸实施，便带有极大的机密性，只能守口如瓶，限于极少数几个人知道。这是不能含糊的，否则将会误大事。
就在叶剑英警惕地注视着“四人帮”的动向，苦心思索着在什么时机，采取什么办法来收拾这伙丑类的时候，其他的老一辈革命家也在考虑这个关系着党和国家的前途、命运的大事。他们虽然各在一方，受到“四人帮”的监视和“软禁”，但是思想是相通的。他们团结一心，坚如磐石，密商对策，力挽狂澜。在毛泽东病危和逝世后治丧期间，有些人就悄悄地互相关照，酝酿此事。老一辈无产阶级革命家’邓小平、陈云、谭震林、李先念、邓颖超、康克清等都曾先后直接找过叶剑英交谈，对他抱着殷切的期望。叶剑英利用各种时机和场合，同其他政治局委员和一些同志个别交谈。他邀请乌兰夫前来就国内形势问题征求意见。两人谈得很深，乌兰夫明确表示支持他的主张。告别时一再嘱咐他身负国家、民族重托，要多多珍重。叶剑英送他到门口握别，流下了热泪。他还同京外的军队高级将领韩先楚、杨得志、吴克华等打招呼，要注意形势、掌握好部队。有一次李德生从东北来京参加会议，抽空去看望叶剑英。叶剑英利用这个机会向他谈起江青一伙利用窃取的权力，打击迫害邓小平的事。叶剑英沉思片刻之后，特意打开身旁的收音机，问道：“当前全国形势严峻，到底是抓组织重要，还是抓生产重要？”李德生为了听清他的话，动手把开着的收音机关了。叶剑英又去把收音机打开，压低声音说：“现在斗争很复杂，开着好。”接着自解自答地说：“我看，还是抓组织重要。”李德生终于听明白了：叶帅说的“组织”不是别的，而是指“中央”，用这种方式暗示他，当务之急，就是要果断解决“四人帮”的问题。还有其他一些军队和地方上的老同志，或访问，或探病，或捎口信，采取各种方式，直接间接地向叶剑英反映情况，表示对形势的关注和忧虑。一天晚间，叶剑英和女儿楚梅邀请冯玉祥将军的女儿冯理达夫妇来家作客。据冯理达回忆，她同叶伯伯谈起邓小平主持工作，形势刚有好转，又挨批，不可理解。叶剑英伸出左掌，用右指划了一个“三点水”，低声说：“这个人，毛主席、党中央对她是有看法的，群众对他们也有看法，她周围那一帮上海人也不得人心。毛主席是掌握分寸的。不要看他们一时得意，根本不可能主宰我们的党，终究不会改变中国历史的进程。他们长不了，成不了气候！”
叶剑英经过与党内、军内的一些领导干部个别接触和交谈，心里有了底，增强了战胜“四人帮”的信心。但是，这位政治阅历和斗争经验非常丰富的革命家在思考着这样一个问题：粉碎“四人帮”这场斗争不是个别人的行动，而是在党的最高层组织内部的一场斗争，亦即中央政治局内多数成员与“四人帮”的斗争。“四人帮”在政治局中虽是少数，但一个是党的副主席，一个是中央政治局常委，一个是以“夫人”身份假借毛泽东名义作威作福、野心勃勃的阴谋家，一个是掌握全部宣传舆论工具的吹鼓手。他们人数虽少，能量颇大。不仅以上海“第二武装”为后盾，有恃无恐，而且在北京也从各方面做了反革命政变的准备。特别是在毛泽东病重期间，又来了一个所谓“联络员”毛远新，上呈下达都要经过他，许多事情都走了样。当时政治局的叶剑英等老同志为了顾全大局，为了毛泽东的健康，对这种不正常的情况一直采取克制的态度。毛泽东逝世以后，客观形势出现了变化，“投鼠”已不必“忌器”，只要政治局团结一致，齐下决心，就可以使“四人帮”遭到毁灭性的打击。但是，这需要做艰苦细致的思想工作和周密的组织工作。
在这项工作中，首先要取得华国锋的支持。他担任党和国家的主要领导职务，是由毛泽东提议，经过中央政治局一致通过的。从党的组织原则出发，叶剑英尊重这位党中央主要领导人。毛泽东逝世的当天夜里，当江青在政治局会议上大叫大嚷“批邓”不力，干扰毛泽东治丧工作，给主持会议的华国锋施加压力，进行刁难时，叶剑英站出来支持华国锋，厉声说：“当前最重要的事情是紧紧团结在以华国锋为首的党中央周围广大煞了“四人帮”的威风。在解决“四人帮”的问题上，取得华国锋支持，是个重大的组织原则，也是合法解决“四人帮”的一个必要条件。叶剑英亲自到史家胡同华国锋住处交换看法，劝他多到老同志那里走走，谈谈。这时华国锋也在考虑如何对付“四人帮”的问题，也准备要找叶剑英等老同志摸底。两个人经过交谈，沟通了思想，下定了斗争的决心。华国锋说：“叶副主席同‘四人帮’斗争是很坚决的。他找到我那儿，和我商量，他说，我们和‘四人帮’的斗争是你死我活的斗争。在那段时间里，我和政治局不少同志都进行了接触，进行过酝酿。”叶剑英又到中南海，几次找汪东兴交谈，商议除害大计。汪也正在酝酿此事。他们取得一致看法，认为这是一件有关中国党和中国革命前途的大事。如果让“四人帮”得势，党和国家就要遭难。但当时还不是很有把握，有些提心吊胆。他们说，个人的命运就不考虑了，要考虑党和国家的命运。
五“西山不可久留”
长期以来，采取“稳住上海，搞乱全国，乱中夺权”反革命策略的“四人帮”，此刻正在争分夺秒，加紧从政治上、组织上进行夺权的准备。毛泽东刚刚逝世不久，他们就在9月16日的《人民日报》、《红旗》杂志、《解放军报》联合发表的社论巾抛出了“按既定方针办”的所谓毛主席的临终嘱咐，并连篇累牍的大肆宣扬。9月19日，江青打电话给华国锋，要求中央政治局召开紧急常委会，讨论“重大问题”，但却不要中央副主席叶剑英参加会议。相反地无理提出，她和姚文元、毛远新（三人都不是常委）必须列席会议。华国锋问：会议讨论什么问题，江青说有紧急事情，你来中央不久，你不懂。并要立即答复！江青一伙到人民大会堂，找到华国锋纠缠不休，要求将毛泽东的文件档案、书籍交给毛远新清理。经过一番争论，华国锋否定了他们的无理要求，决定毛泽东的文件档案由中央办公厅汪东兴负责封存。9月21日，张春桥在北京单独接见徐景贤，听取他与南京军区司令员丁盛等一起密谋武装暴乱的情况汇报。他们在上海、湖南、安徽等地制造和购置大量武器装备。9月23日，王洪文打电话给王秀珍，要上海搞40万民兵，还要用大炮武装民兵。9月28日，张春桥又派秘书萧木去上海，通知上海革委会负责人马天水、徐景贤、王秀珍等人“要提高警惕”，“要准备打仗”。
“四人帮”以为上海武装力量准备就绪，于是向中央政治局发难。他们在9月29日的中央政治局会议上，作出了拙劣的表演。在这次会议中间，江青提出：“毛主席逝世了，党中央的领导怎么办厂王洪文、张春桥一唱一和，要求安排江青的工作，实际想让她当党中央主席。会议开不下去了。华国锋当场念了毛远新给党中央写的信，讨论毛远新是否回辽宁的问题。华国锋、叶剑英、李先念等认为毛远新留在北京已无事可做，要他回辽宁。江青大发雷霆，张春桥随声附和说要毛远新留下处理毛泽东的文件、档案，还提出要他“准备三中全会的政治报告”。实际上他们是要通过召开三中全会，公开篡党夺权。这些无理要求，当即遭到多数政治局委员拒绝。江青大吵大闹，要“没有事的都走”，终于搅散了会议。会后，江青又向汪东兴索要毛泽东的文件。汪东兴问叶剑英怎么办？叶剑英回答说：要坚决顶住！
形势越来越紧张。政治局与“四人帮”的斗争逐步升级，已到了最后阶段。双方都在抓紧准备，和时间赛跑。按照叶剑英的分析，“斗争已趋于白热化”，在这样的紧急时刻，犹豫观望就等于自取灭亡。叶剑英在这一期间，除了与华国锋经常接触和交谈之外，继续同老同志们保持联系，酝酿消除党内的隐患。
9月21日，已从西山返回城内住地的聂荣臻，派杨成武上山找叶剑英，一再嘱咐说：“四人帮”一伙是反革命，什么坏事都干得出来的，要有警惕，防止他们先下手。如果他们先下手把小平暗害了，把叶帅软禁了，那就麻烦了。采用党内斗争的正常途径来解决他们的问题，是无济于事的，只有我们先下手，采取果断措施，才能防止意外。叶剑英听了，很高兴，让杨成武转告聂帅：“告诉聂总，请他放心。他跟我想到一起来了，有事随时通报商量。”他还诙谐地说：“狡兔三窟哟，我要立即搬家。你告诉聂总，也要注意安全。”
“四人帮”为了监视叶剑英，派王洪文跟进西山，在靠近他的地方住下。叶剑英察觉到这条猎犬的来意，表现非常镇静，悠闲自在，“游山玩水”，示人以缓。他同身边的同志散步谈心，讲今论古，比赛背诵长诗《长恨歌》、《琵琶行》和孙髯翁的昆明大观楼长联。有一次在山间凉亭一带散步，问那段山路叫什么名字？大家答不出，他就说，叫“好汉坡”吧！他又称常去的那个亭子叫“风雨亭”。以后又改叫“放鹤亭”。他在亭子上低声吟诵苏东坡的《放鹤亭记》：“鹤飞去兮，西山之缺，高翔而下览兮，择所适。……鹤归来兮，东山之阴，其下有人兮……归来归来兮，西山不可以久留。”过了几天，他从容不迫地转移到玉泉山。
玉泉山有“玉泉垂虹”胜境，乃燕京八景之一。时值秋高气爽，景色清丽。可惜叶剑英此时此刻已无意流连于山水之间，他在宽敞幽静的9号楼住下，加紧筹划解决“四人帮”的大事。王洪文发觉叶剑英走了，就去质问汪东兴：“为什么让他搬到那里去了？”汪东兴告诉他，9号楼是周总理住过的。他生前交代过，让剑英同志住那栋房子。王洪文跟踪不得，无可奈何。
叶剑英住进9号楼，表面上沉静如常，深居简出，吟诗作赋。他在湖边垂钓，吟着郑板桥的《道情》（十首）：“老渔翁，一钓竿，靠山岸，傍水湾……。”他行踪不定，独自往来于西山、玉泉山、军事科学院2号楼、城内后海小翔凤之间，行踪莫测，利用各种条件和时机。继续约一些老同志，个别密商，准备捉妖。有时一天之内要交谈多次。有时借垂钓之机与倪志福等交流情况。一天，邓颖超刚走，陈云即来访。叶剑英见了这位老革命家非常高兴，首先给他看了毛泽东生前的一次谈话记录，其中谈到解决“四人帮”问题，然后简要谈了一下根据毛泽东遗愿，解决“四人帮”的设想，征求陈云的意见，问他怎么样？陈云说，这场斗争不可避免，同意叶剑英的意见，要设法解决。康克清也特意从城里来看望叶剑英，向他转达了朱老总临终之时的愿望。陈云、邓颖超、康克清等老同志的来访，对叶剑英最后作出粉碎“四人帮”的决策并付诸实施，起了重要作用。
叶剑英还接见军事科学院主要领导人粟裕、宋时轮等，了解外界情况，磋商机宜，要他们注意掌握部队和各方面的动向，“眼睛要明，耳朵要张，嘴巴要紧”，防止意外事件的发生。同时，他还与空、海军领导人张廷发、吴富善、萧劲光、苏振华以及北京军区、北京卫戍区的傅崇碧、吴忠、吴烈等领导人保持密切联系，要部队加强战备。他特意派办公室主任到空军医院去看望生病住院的张廷发，打招呼，“病要治，部队也要管”，张当天就出院，到作战值班室坐镇，加强对飞行训练的具体领导。