1975年1月，邓小平被任命为中央军委副主席兼中国人民解放军总参谋长。1月中旬即分三次召集三总部、各大军区和空军、海军的负责干部进行座谈，讨论压缩军队定额和解放老干部、落实干部政策等问题。在1月19日各大军区负责人座谈会上，邓小平根据毛泽东“军队要整顿”的指示提出：军委只准备两项工作，第一是召开军委扩大会议，其中一个大题目就是军队要整顿。第二是战备，要准备打仗，解决战备方针、装备等问题。又指出：搞派性的军队非调走不行。所有闹派性的人一律调走，一个兵都不留，一个干部都不留。凡是有两派的地方，派性没有解决的地方，民兵一律不建立，枪也不要发。还指出：军队也有安定团结问题。不管几项工作任务，今年内每个党委第一条是要安定，要团结。
1月25日，邓小平在总参谋部机关团以上干部会议上和大家见面，发表《军队要整顿》的重要讲话，传达毛泽东“军队要整顿”的指示，分析军队的现状，批判林彪主管军队造成的混乱，提出军队整顿的两项最主要的任务：一是消肿；二是恢复优良传统和作风，坚持党指挥枪。并提出三项具体要求：提高党性，消除派性；加强纪律性；落实政策。邓小平的这篇讲话，是1975年军队整顿的动员令和号召书。在年初对军队整顿作出部署之后，军委在叶剑英主持下，为军委扩大会议的召开和军队的整顿进行各项准备工作。
6月24日至7月15日，军委扩大会议在北京举行，讨论、部署军队整顿，军队领导干部七十多人参加。会议分析了国际国内形势，认为战争虽不可避免但可能推迟，军队可以从处于临战状态转变为备战状态，争取时间，集中精力进行自身建设，准备打仗。会议集中讨论精简整编，研究解决压缩军队定额、调整编制、安排超编干部和调整领导班子问题。同时也讨论了加强部队思想建设，增强党性，反对派性，纠正不正之风，恢复发扬优良传统和作风，加强军事训练等问题。
邓小平在7月14日发表重要讲话，提出“军队要整顿”、“要准备打仗”，这是“军队工作的纲”。军队整顿，就是要克服“肿、散、骄、惰”的问题。这次会议研究精简整编，就是解决肿的问题，搞好军队的编制整顿、体制整顿。整编要配备、健全各级领导班子，就要解决“软、懒、散”的问题。在解决编制和班子问题以后，接着要抓装备，军队装备要有规划，科研要走在前面；还要抓战略，研究战场、作战、训练等问题；还要提高干部的指挥水平、管理水平。
叶剑英在15日作会议总结讲话，强调“军队要高度集中统一，决不允许资产阶级派性存在”。他特别指出：现在有的人到处送书、送材料、写信，把部队思想搞乱了。以后没有军委的同意，任何人不得这样做！不容许任何野心家插手军队，搞阴谋活动。叶剑英还通过个别谈话、出席小组会，把毛泽东对“四人帮”的多次批评告诉大多数与会人员。要他们听从指挥，注意形势，掌握动向，站稳立场，看清方向。
1975年7月19日，中共中央批转了中央军委《关于压缩军队定额、调整编制体制和安排超编干部的报告》以及叶剑英、邓小平在军委扩大会议上的讲话，确定三年内军队总定额减少160万人。8月7日，中央军委转发了总政治部《关于安排超编干部方案》。9月转发了总参谋部《压缩军队定额、调整编制体制方案》。按照这个方案，陆军比例减小，海军空军比例增大；机关、保障部队比例减小，战斗部队、院校和科研单位比例增大。实施这个方案，军队编组情况有较大改善，可以适应不同规模（小打、中打、大打）现代战争的需要。把压缩定额节省下来的军费用于加强军事工业，提高装备水平。从1975年第四季度开始，各军区、军兵种即按新编制进行整编，裁减部队，调整机构。为加强训练，10月成立了以副总参谋长李达为召集人的三总部训练小组。这年全年各军区和军兵种共组织了17次军事演习。为提高管理水平，增强纪律性，11月中央军委颁发了内务条令和纪律条令。
军队整顿的关键是调整、配备好各级领导班子。军委扩大会议决定，1975年下半年首先调配好各大军区、各总部、各军兵种和军以上单位的军、政一把手，然后配好师以下的领导班子。为此，成立了由叶剑英、聂荣臻、粟裕、陈锡联等为成员的领导小组。在叶剑英主持下，对各大军区、各总部、各军兵种和北京卫戍区、国防科委、军事科学院、军政大学等二十多个大单位的领导班子，进行考察、调配。8月30日，中央军委发出《通知》，发表经中共中央、毛泽东批准的中国人民解放军上述大多数单位的主官名单。10月1日，又发表北京军区主官和一些单位部分主官的名单。经过调整配备，绝大多数大单位建立起了一个精干的、敢字当头的、强有力的领导班子。
军委扩大会议及会后采取的一系列整顿措施，不仅开始解决臃肿、分散等军队的问题，而且对全国局势的稳定、各条战线的整顿产生了积极的影响。特别是抵制了“四人帮”插手军队，较好地解决了军队的领导问题，为1976年秋粉碎“四人帮”奠定了可靠的精神和物质基础。
军委扩大会议后，中央军委于7月20日至8月4日在北京召开了国防工业重点企业会议，有四百多个厂、所领导干部参加。国防工办自3月贯彻中央9号文件以来，已采取“调虎离山”的办法，把各主要军工企业的派头头召集到北京开会学习，开始扭转生产形势。4月，邓小平主持召开了一次国防工业重点企业汇报会，研究搞好常规武器的十年发展规划，要求缩短战线，精简型号，加强管理，狠抓科研。同月，叶剑英主持召开了国防工业和部队装备问题汇报会，毛泽东对会议情况汇报作了“要在三年左右时间内把失修装备突击修好”的批示，强调要对武器装备的研制生产方面的混乱状况进行整顿。当时海军装备失修状况最为严重，舰船在航率下降到40%左右。会后海军召开了专门会议，落实了以解决南海舰队抢修问题为重点的抢修工作安排。
这次国防工业重点企业会议进一步研究了军工企业的整顿问题。邓小平8月3日到会讲话，提出建立敢字当头的领导班子、坚持质量第一、关心群众生活三条措施。叶剑英强调要警惕大大小小的野心家。李先念讲了要建立和健全总工程师、总会计师的责任制，保证企业的正常生产秩序。在这次会议推动下，军工生产全面好转。