解放后，长期担任中央办公厅主任一职，日以继夜地工作，当好中央领导的好助手。“文革”逆境中，身陷囹圄，相忍为党。
1954年，杨尚昆同毛泽东在北京。中华人民共和国成立后，杨尚昆继续担任中共中央副秘书长、中央办公厅主任，同时兼任中央军委秘书长、中直机关党委书记等职。为了及时处理毛泽东等中央领导人交办的各项事务，他日以继夜地工作。为了使中央办公厅的工作适应开国初期面对的新任务的需要，他领导调整和健全中央办公厅工作机构，创立了行之有效的为党中央服务的工作运转机制，为提高机关办事效率，为保障党的路线、方针和政策的实施，为保证各项任务的圆满完成，作出了显着贡献。
1950年6月朝鲜战争爆发后，在毛泽东直接领导下，杨尚昆参与抗美援朝战争的各项准备工作。他在担任中直机关党委书记的十几年间，坚持实事求是，在多次政治运动中，尽可能地保护干部，避免了过火斗争给机关工作带来更多的消极影响。
1956年9月，在中国共产党第八次全国人民代表大会上，杨尚昆当选为中央委员。在中共八届二中全会上，当选为中央书记处候补书记。
1962年2月，在国民经济处于严重困难的紧要关头，杨尚昆临危受命，担任中央精简小组组长，协助刘少奇、周恩来、陈云和邓小平等全面贯彻调整国民经济的“八字方针”，特别是致力于减少城镇人口2000万的工作。到1963年6月，精简小组圆满完成任务，为争取国家财政经济状况的根本好转创造了重要条件。
1964年冬到1965年夏，杨尚昆带领中央办公厅的干部到陕西省长安县斗门公社牛角大队搞“四清”。他们注意从调查入手，对干部存在的问题作出比较实事求是的处理，在当时“左”倾错误严重发展的情况下，能够这样做是难能可贵的。
1965年10月，“文化大革命”运动即将开始，杨尚昆在极不正常的情况下，被迫离开了中南海，离开了中央办公厅主任的岗位。杨尚昆先后21年一直在这个岗位上工作。在杨尚昆70年的革命生涯中，中央办公厅的工作占了1/3以上的时间。21年中杨尚昆宵衣旰食，不敢有一丝懈怠，杨尚昆曾诙谐地说：“打麻将不是有个叫‘听用’的牌吗？办公厅的工作好比是‘听用’，需要干什么就干什么。”杨尚昆甘心在党的中枢，在毛泽东身边做一块“磨灭方休”的“马掌铁”。
11月初中央通知免去杨尚昆的中办主任职务，到下面工作两三年。11月10日应杨尚昆请求，毛泽东约见了杨尚昆。毛说：“你下去，我给你个任务：第一，看中央和国务院下达的政策措施，有没有不适于当地实际情况的，如果有，你给我写个报告，提出你的意见；第二，中央各部门下达了些什么东西，有没有同中央、国务院相矛盾的，如果有，你给我理一下。就这么两个调查研究的任务。”
“这是一个很大的任务，我可能完不成，我努力去做就是了。”杨尚昆答。
“你决定到广东去，广东那么热，你跑那里去干什么？!”没等杨回答，毛主席又说：“既然你已经定了，你去两年到三年，把这个任务完成，先在珠江流域；以后，我把你调到黄河流域，再搞两三年。”毛泽东亲切的谈话，使杨感到他对干部的关怀和期望。毛泽东接着说：“这次主要是了解地方党政机关是不是按照中央精神结合本地实际来进行工作的，更主要的是条条下达的任务有没有互相打架的情况。我知道有些地方打架打得很厉害。”谈话的气氛使人感到这是一次正常的调动工作。
12月10日，杨尚昆怀着对自己政治前途的迷惘和困惑，完成毛泽东委托任务的使命感，登上了南下的列车。12月30日，中央正式通知，任命杨尚昆为中共广东省委书记处书记。
1966年5月，杨尚昆被打成所谓“反党集团”成员，5月22日，中央通知：“停止”杨尚昆中央书记处候补书记职务，“免除”广东省委书记处书记，改任中共广东省肇庆地委书记。接到降职通知的第二天，杨发电报请求中央调换一个工作地区。28日中央同意杨改去山西，任临汾地委书记。5月30日，杨尚昆离开广州，到山西临汾上任。但随着“文革”发展，“横扫一切”，“打倒一切”的运动席卷全国。7月3日，杨尚昆被宣布“监护审查”，从此他与外界包括家属失去一切联系。
不久杨尚昆从山西被“揪”回北京，从此整整9年里，杨尚昆不断接受群众批斗，写不完的“交代”，作不完的“检查”。1975年2月杨尚昆被解除“监护”，6月去山西临汾，6月下旬“四人帮”控制的专案审查委员会派人向他宣布所谓“阴谋反党”等的“结论”，并提出“清除出党”的处分。杨尚昆忍无可忍了，7月18日，上书毛泽东，信中驳斥“专案委员会”的“结论”：“把我说成自从参加革命起，就是阴谋反党的。这不合事实。”他明确表示“不能接受”。
杨尚昆的上书，自然是泥牛入海，杳无音讯。但杨尚昆坚信，历史终将还他以清白。
人间正道是沧桑。杨尚昆平反后，又一次回到了政治舞台，长期担任着国家和军队领导人，在新的时期做出了新的贡献。
党的十一届三中全会后，党中央为杨尚昆彻底平反，恢复了名誉。1978年12月至1980年底，杨尚昆担任中共广东省委第二书记、副省长，中共广州市委第一书记、革命委员会主任，兼任广东省军区第一政委、党委第一书记。1979年7月，杨尚昆任第五届全国政协常委。9月，在中共十一届四中全会上被补选为中央委员。1980年9月，被补选为第五届全国人大常委会副委员长兼秘书长。
1981年7月，杨尚昆任中央军委常委兼秘书长，第二年9月，任中央军委常务副主席兼秘书长。他协助中央军委主席邓小平主持军委日常工作，和其他军委常委一道，坚决贯彻党中央和邓小平关于新时期军队建设的思想和军事战略，严格执行党中央和中央军委的决策，对“文化大革命”中由于林彪、“四人帮”的干扰对军队造成的严重破坏进行了拨乱反正，对新的历史条件下军队现代化的一系列重大问题作了深入探讨和研究，强调中国人民解放军应减少数量、提高质量，走有中国特色的精兵之路。
杨尚昆坚决贯彻执行军队建设指导思想的战略性转变、改革军队体制、精简整编、建立新军衔制和各种条例法规、改进政治思想工作、加强基层建设、组建武装警察部队、加强后勤建设、调整国防工业体制、加速实现武器装备现代化等一系列重大措施，保证人民解放军走上和平时期，建设现代化、正规化革命军队的轨道。
杨尚昆根据党中央对国际形势的正确分析和判断，积极贯彻邓小平关于新时期军队建设的指导思想。他强调，全军要认真学习和领会邓小平建设有中国特色社会主义理论；在党和国家工作重点转移到以经经济建设为中心的新的历史时期，军队要坚决支持国家集中力量进行经济建设，同时也要大力加强国防建设，保持一支常备不懈的、战斗力很强的人民军队，为国家经济建设和改革开放提供安全保障。他指出，军队建设要以现代化为中心、以战斗力为标准，加强军事训练；要重视经略海洋，维护海洋权益，加强对海岛、海岸线的实际控制，以扞卫国家主权和领土完整。他和中央军委其他领导人一道，具体组织合并大军区，组建集团军，调整军事院校，创办国防大学，加强海空军、战略导弹部队、民兵和预备役部队的建设，突出重点，建立过硬的“拳头”部队，使军队建设和国防建设取得了重大成就。
杨尚昆坚决贯彻执行邓小平提出的关于精简整编的战略决策。1982年6月，他主持召开中央军委座谈会，提出改革军队编制、精简指挥机关、裁并重叠机构、精干领导班子的具体原则和措施。通过实施会议制定的《军队体制改革、精简整编方案》，军队组织臃肿庞杂的状况有了初步改变。在军队已经进行多次精简的基础上，1985年中央军委按照邓小平裁军100万的重大决策，在杨尚昆的具体主持下，胜利地完成了这项光荣而艰苦的任务。
杨尚昆坚决贯彻执行邓小平关于坚持党对军队的绝对领导的思想，始终不渝地加强军队中党的政治建设和组织建设。他强调必须从军队实际出发，贯彻执行党中央关于整党的决定，领导军队的整党工作，增强党的凝聚力。在他主持下，中央军委《关于新时期军队政治工作的决定》明确规定了新时期军队政治工作的指导思想和主要任务，指出“政治工作是军队的生命线，生命线的真正含义是在建设现代化军队和完成各项任务中发挥‘保证’和‘服务’的作用”。
在1982年和1987年召开的中共第十二次、第十三次全国代表大会上，杨尚昆当选为中央委员，在第十二届一中全会和第十三届一中全会上当选为中央政治局委员，继续担任中央军委常务副主席兼秘书长。他作为以邓小平为核心的第二代中央领导集体的重要成员，参与党和国家各项重大决策，为新时期社会主义现代化建设和改革开放事业作出了重大贡献。
1983年6月1日，杨尚昆和胡耀邦一起交谈。在1983年召开的第六届全国人大第一次会议和1988年召开的第七届全国人大第一次会议上，他被任命为国家军委副主席。在1989年11月中共十三届五中全会上，他完全赞成邓小平的意见，维护和支持以江泽民为核心的第三代中央领导集体，对以邓小平为核心的第二代中央领导集体向以江泽民为核心的第三代中央领导集体顺利过渡，发挥了重要作用。在这次中央全会上，他被任命为中央军委第一副主席，协助中央军委主席江泽民主持军委的日常工作。他认真贯彻党中央的指示精神和中央军委主席的意图，兢兢业业地组织和实施军队各方面的工作，保持了军队建设的连续性和稳定性。
杨尚昆坚决贯彻党中央关于“和平统一、一国两制”的方针，积极开展对台湾当局和台湾人民的工作，以各种方式推进祖国的和平统一事业。他广交朋友，团结和争取大量港、澳、台和海外爱国知名人士。他在会见这些人士时指出：海峡两岸虽然因历史原因隔绝了几十年，但祖国的统一是大势所趋、人心所向，台湾的出路在于祖国统一，“一国两制”是实现祖国统一的最好办法，如何实现“一国两制”，应由国共两党平等地坐下来商谈。他呼吁台湾当局顺应民心，以实际行动化解敌意，消除障碍，促进两岸人员交往和经济合作，使两岸关系有一个新的发展。他的讲话，在海内外产生了广泛影响。
1988年4月，在第七届全国人大第一次会议上，杨尚昆当选为中华人民共和国主席。他不辞辛劳，深入调查研究，坚持到工厂、农村、部队、建设工地和经济开发区视察，关心人民群众疾苦，广泛听取干部群众和各界人士意见，了解经济发展和改革开放的进程，指导工作，解决问题。他同党和国家其他领导人一道，处理了发生在1989年春夏之交的政治风波，维护了国家的独立、尊严、安全和稳定。
他密切关注国际形势的发展与变化，参与制定和调整新时期的国家外交政策，同时承担繁重的外事活动，会见了来访的许多外国领导人和民间重要人士，并先后出访亚洲、非洲和拉丁美洲许多国家，向世界各国阐明中国独立自主的和平外交政策，介绍中国改革开放和社会主义现代化建设的巨大成就，进一步增进了中国政府和各国政府，中国人民和世界人民之间的了解和友谊，为提高中国的国际地位，为维护世界和平和人类进步事业，做了大量工作，赢得了国际社会的尊敬和信任。
1992年10月和1993年3月，杨尚昆以实际行动响应邓小平关于废除领导干部职务终身制的号召，先后从中共中央政治局委员、中央军委第一副主席和国家主席的领导岗位上完全退下来，但他仍然关注国家社会主义现代化建设事业和祖国统一大业，对祖国的繁荣富强、兴旺发达和完全统一寄予厚望。
1998年9月14日凌晨1时17分，杨尚昆走完了人生91年的历程，因病在北京逝世。
杨尚昆作为一个革命者，一个老共产党员，一个具有传奇色彩的军事家，将永远值得我们怀念。
(董明发)