1953年12月7日，全军军事系统党的高级干部会议开幕，朱德致开幕词，彭德怀作《四年来的军事工作总结和今后军事工作的几个基本问题》的报告。经过充分讨论，会议对军事建设的许多基本问题取得了一致认识：确定把建设一支优良的现代化革命军队，作为我军军事建设的总方针、总任务；明确规定军队的总员额，把各特种兵在现有基础上巩固提高，减少进口武器装备，挤出钱来发展重工业和国防工业；确定现代化建设中长期的、经常的中心工作是训练部队，而训练干部，又是这一中心工作的中心。会议最后还确定加强党对军队的领导，采取在党委集体领导下的首长分工负责制。
这次会议，体现了新的历史条件下大胆改革的精神，又注意继承和发扬我军的优良传统，是全军历史上一次划时代的会议，对建国后我军的建设起了重大的指导作用。
全国政权的建立，朝鲜战争的结束，有计划的经济建设的开始，使解放军进入一种全新的历史环境。过去行之有效的制度，许多已不能适应建军的新要求。全国军事系统党的高级干部会议后，彭德怀集中精力准备实行军事制度的改革。这些改革的主要内容是：废除志愿兵制，实行义务兵役制；废除军官生活的供给制，实行军官的薪金制；建立军衔制；建立颁发勋章、奖章制。在当时实行和建立这些新的制度，正如彭德怀所说，“是我国当前国防建设的根本起点”，不如此，就会延缓军队现代化、正规化的进程，就会妨碍军队应付大规模的现代战争。
上述4项重大制度，加上军官服役和退役的规定，至1955年均陆续实行，使军队建设又迈出重大的一步。
1955年9月，彭德怀被授予中华人民共和国元帅军衔。
为加强对全军干部的训练和培养，在全国军事系统党的高级干部会议结束不久，彭德怀召开军委例会，讨论南京军事学院和高级步兵学校的教学问题。他指出，军队有了现代化武器装备，如果没有现代化的指挥干部和专家来掌握使用，再好的武器也是一堆废物，而这些干部和专家，都必须依靠学校来培养。
1955年9月，毛泽东为彭德怀授勋。随后，在军队已有的100多所学校的基础上，又陆续筹建起高等军事学院、海军学院、炮兵学院和军事科学研究院等高等学府和学术机关，构成军队培养各类干部的完整体系。同时，由军委选派各类干部到国外学习、参观，彭德怀自己也率领高级军事代表团出国参观外国军事演习。
为继承和发扬解放军的优良战斗传统，彭德怀在1954年要全军挑选5万多名有实战经验的战士进学校学习，1955年又从年轻战士中留下20万名战斗骨干，分批送进学校培养。
1954年9月4日第一次全国人民代表大会后，彭德怀被任命为国务院副总理兼国防部长和国防委员会副主席。
同月，中央政府人民革命军事委员会撤销，恢复了中共中央军事委员会，彭德怀任军委委员。在毛泽东主席主持召开的第一次军委会议上，确定以后在一般情况下，军委会议由彭德怀主持。
这就是说，党和国家关于军事方面的日常工作，由彭德怀统管。“一身系得几安危”，保卫国家和人民安全的领导重任，落到他的肩上。
1956年3月，彭德怀主持召开军委扩大会议，着重讨论和阐释战略方针问题。他在会议上作了题为《关于保卫祖国的战略方针和国防建设问题》的报告，提出“我国的性质、任务和外交政策，都很清楚地说明，我军在战争爆发之前的战略方针只应当是防御的”。但是，他接着说，绝不能采取消极防御，必须采取积极防御的战略方针。他具体阐明：这种“积极防御的方针，应该是不断地加强我国的军事力量，继续扩大我国的国际统一战线活动，从军事上和政治上来制止或推迟战争的爆发。当帝国主义不顾一切后果向我国发动侵略战争的时候，我军要能够立即给予有力的还击，并在预定设防地区阻止敌人的进攻”，掩护全国由平时迅速转入战时状态，以便逐渐剥夺敌人在战略上的主动权，使我军逐渐由战略防御转入战略上的进攻。根据这个战略方针，他还进一步明确了阵地战和运动战相结合的作战形式，提出了作战指导上的诸多重要问题。
按照这一战略方针，他在报告中要求各部门提出平时军队所需要的数量；各军种、兵种的比例，各军种、兵种自身建设的重点；需要逐步筹建的各种军事工程，需要国家修建的铁路、公路和疏浚的河道；战时扩充部队需要的各类军官和士兵的培养储备计划，各种战略物资储备和动员计划；以及军事科学和军事技术研究的规划等。
彭德怀对战略方针的系统阐释，使全部军事建设工作有了具体的标准和依据，更加有计划地进行起来。
1956年后，国家大幅度缩减军费，军队大幅精简名额。到1958年9月，全军的总额实际减少到240多万人，这是新中国建立以后全军人数最少的一年。
常备军减少，后备兵员就必须增多，否则，就会削弱应付敌人突然袭击的能力。
经过反复思考，彭德怀提出了在义务兵役制基础上大量积蓄预备兵员的措施，即把预备役同民兵两种组织合而为一，以复员军人为骨干参加并带领民兵进行训练，来达到储备和训练大量预备兵员的目的。实践证明，这一措施较好地解决了“平时养兵少、战时用兵多”的问题。
庐山会议上，彭德怀向毛泽东写信提出质疑，却被扣上“右倾”、“反党”的罪名，遭到批判，被撤职，移居吴家花园。又被诬为“里通外国”，他上万言书以表心迹，后到“三线”工作。十年内乱，彭德怀大义凛然，直至生命最后一刻。
1958年，在中共中央八大二次会议提出“鼓足干劲，力争上游、多快好省地建设社会主义”总路线，掀起“大跃进”后，彭德怀和其他许多同志一样，为报纸和各地报告中描绘的“大跃进”的奇迹和群众的热情所鼓舞。
12月8日，彭德怀在中共八届六中全会上发言，“完全同意全会关于人民公社若干问题的决议，完全同意会议对于1959年工农业生产指标的安排。”但是由于“浮夸风”的反映越来越多，他对1958年的粮食产量发生怀疑。会议闭幕以后，他到湘潭县的乌石、韶山两个公社作了深入调查。
乌石是他的故乡，他亲眼看到，乌石峰上的参天大树，峰脚茂盛的茶林，化作了炼铁小土炉和公社食堂灶下的灰烬1958年12月16日，彭德怀回家乡与社员们亲切握手。。他不相信一个接一个放出的高产“卫星”，自己跑到田地里去查稻茬，数稻穗。他的求实态度使生产队的干部向他说了实话，乡亲们也纷纷来诉说“浮夸风”和干部强迫命令、打人骂人造成的种种痛苦。到了毛泽东的故乡韶山，情况也略同。
底层群众的据实相报，增添了他的忧虑，也促使他进一步向中央反映情况。
1959年6月，彭德怀接到中央在庐山召开会议的通知，遂于29日离京，怀着忧虑的心情上了山。会议于7日2日开幕，他被编到西北地区组。从3日到10日的8天里，他在小组会上7次发言（或插话），以惯有的直率，表示了他对去年北戴河会议以后国内经济形势的意见。在这期间，他还从会议文件、会议简报以及同志们的交谈中，更加明确认识到，目前国民经济已经严重比例失调，工作中的浮夸风和命令主义已经造成严重危害。但是，直到7月10日以后，他觉得会议还没有真正注意这些情况，而有些同志仍在盲目乐观，这就使他焦急不安起来。于是，他决定给毛泽东写一封信，他希望出现的问题能得到毛泽东的重视，以便采取有力措施，扭转当时的被动局面。
彭德怀的信共分两部分，信中写道：大跃进的成绩肯定是有的，但也要注意其中的问题与教训。毛泽东看了这封信后，对彭德怀信中讲的问题和教训接受不了，认为其观点右倾，应对其批判。
在8月2日，正式召开中共中央八届八中全会，在会上，毛泽东对彭德怀等人进行了更严厉的批判。最后，在决议上把彭德怀和曾在会上会下同意彭德怀意见的张闻天、黄克诚、周小舟定为“以彭德怀为首的反党集团”。从此，彭德怀等人遭到了错误的批斗。
1959年9月29日，彭德怀从中南海迁居于北京西郊挂甲屯的吴家花园。他是被迫挂甲，从数十年为之奋斗的事业中退身，来过一种与他整个生涯格格不入的谪隐生活。
1961年10月31日，彭德怀乘火车去湖南。在家乡进行了一些调查，并给中央写了报告。1962年1月召开的七千人大会，不仅没有给彭德怀平反，而且加了新的莫须有的罪名。彭德怀含着无可名状的忿恚，伏案数月，给党中央写了一封长达8万余字的信，信成了新的“罪证”。
1962年9月，中共八届十中全会撤销了彭德怀的政治局委员的资格，他被指斥为“里通外国分子”，中央成立了彭德怀专案审查委员会，对其进行审查。
1965年7月，他在对中央党校负责人的一次谈话中，说他“做梦还在打仗”。9月11日，彭真在人民大会堂宣布中央决定派他去任大三线副总指挥。彭德怀表示不去，并表示自己愿意去农村，并给毛泽东写了一封信，表示了自己到农村去的愿望。
1965年9月23日，周恩来亲自打电话给彭德怀，告诉他，毛泽东约他去中南海谈谈。在中南海颐年堂，彭德怀见到了毛泽东。毛泽东告诉他：“昨天下午接到你的信，也高兴得睡不着。”接着，风趣地说：“你这个人有个犟脾气，几年也不写信，要写就写八万字。”对于1959年庐山之事，毛泽东说：“也许真理在你那边。”毛泽东要他去战略后方西南，担任三线建设副总指挥，说：“你去西南，这是适当的，将来还可带一点兵去打仗，以便恢复名誉。”毛泽东又转向在座的其他人，说：“我过去反对彭德怀同志是积极的，现在支持他也是诚心诚意的。”毛泽东的谈话使他深为感动，虽然他知道在这种处境下工作的困难，还是接受了去三线的任务。
1965年11月30日，彭德怀抵达成都，住在成都永兴巷7号。第二天，中共中央西南局第一书记兼大三线建委主任李井泉指示各局负责人向彭德怀介绍情况，介绍是全面的，但对彭德怀十分关心的军工生产建设却谈得很少或避而不谈。
原来在到成都前，西南局便形成一个原则：不让彭德怀了解军工生产建设的情况，不参加军工生产建设会议，不能参观军工厂。外出时，得有一名局长陪同，以了解其活动。关于彭的分工，当时建议就分管煤炭和天然气生产的后勤工作，彭没有表态。
12月12日，彭德怀到重庆参加三线建委政治工作会议。会后去内江、自贡等地参观天然气和煤炭生产情况。1966年1-2月间又在成都参加了三线建委年度总结计划会。
会议结束后，彭德怀便去渡口参观攀枝花钢铁基地建设，沿途视察了成昆铁路建设现场，西昌专区石棉县石棉矿，又特地去了大渡河的安顺场渡口，并给了船工10元钱。
1966年4月19日，彭德怀视察川南煤矿。在这里彭德怀寻找当年遵义会议后，红三军团派往此地开辟川、滇、黔边新根据地的干部战士，但得到的消息是全部壮烈牺牲。彭德怀听后，不胜感叹。
“文化大革命”运动开始后，形势对彭德怀越来越不利。5月27日彭德怀被从大理召回成都，学习《五一六通知》。学习会变成了批彭大会，彭德怀被“撤销三线副总指挥职务”。
12月27日，江青唆使北京地质学院的红卫兵把彭德怀“押”抵北京，关押在五棵松北京卫戍区的一处营房里。以后，又被多次转移，受到残酷的批斗、迫害。他伤势惨重，身上多处青紫，两根肋骨被打折，一根错位，肺部受伤。
1967年8月10日，彭德怀被北京师范大学造反组织“井冈山”揪斗。在所谓万人批斗会上，已被解除了师大党委副书记职务的浦安修被拉去陪斗。他们已经有两年没有见面了，怎堪相逢在此时！浦安修几乎昏了过去。这一幕“史无前例”的悲剧，成为他们30年夫妻的最后一面。
此后直到1973年春，彭德怀是被监禁的重要“案犯”，2000个日夜，囚窗紧闭，与世隔绝。
在残无人道的折磨下，彭德怀的身体每况愈下，1973年4月10日下午，彭德怀一次便血800至1000毫升，检查结果是直肠癌，已到晚期。实际上从1970年就时常便血，1972年冬曾几次昏倒。彭德怀的病情迅速恶化，被送到三○一医院住院治疗。
1974年9月，彭德怀病势垂危，叶剑英指示人去看他。去的人报告，他已“左侧肢体偏瘫，右下肢浮肿，小便失禁，舌头发硬，说话不清”。他留下最后的话：“我犯有很多错误，但我不搞阴谋，在这一点上我是清白的。”“已经审查我八年了，现在还没有作出结论。”他向党作了最后申诉。
以后，他经常处于昏迷状态，呼吸困难，不能进食。11月29日14时52分，他的心脏停止了跳动。
1976年10月，党中央粉碎“四人帮”。1978年12月，党的十一届三中全会根据陈云的提议，审查和纠正了对彭德怀所作的错误结论，重新肯定了他为中国人民革命事业建树的伟大功绩。12月24日，党中央在北京为彭德怀举行隆重的追悼大会，邓小平代表党中央致悼词。悼词说：彭德怀是我们党的优秀党员，老一辈无产阶级革命家，是我们党、国家和军队的杰出领导人。他为中国革命战争的胜利，为人民军队的成长壮大，为保卫和建设社会主义祖国作出了卓越的贡献。
(王焰、何定、蒋宝华、吴序光、张希)