为了防止“文化大革命”悲剧重演，为了适应全党工作重心的转移，为了推进改革开放的事业，早在十一届三中全会前后，党中央决策层就深深感到了政治体制改革的必要性和紧迫性。这一时期，尽管没有明确提出“政治体制改革”这一概念，但以党和国家领导制度改革为中心的政治体制改革事实上已经起步。参见郑谦、张占斌等：《当代中国政治体制发展概要》，中共党史资料出版社1988年版；张占斌：《当代中国政治体制的沿革(之四)》，载《党史通讯》，1987年12期；张占斌、汤应武：《中国政治体制改革的回顾与前瞻》，载《革命春秋》，1984年创刊号。
这一时期的改革，由于经济调整和各种社会思潮的影响，没能全面展开，更多的侧重在接受“文化大革命”的教训，而加强党内民主制度建设和干部新老交替方面，但一些非常重要的思想已经提出，比如：提出必须从制度上特别是党和国家领导制度上着手进行改革，制度化建设是带有根本性、全局性、稳定性和长期性的问题；提出要把最终在经济上赶上发达的资本主义国家，在政治上创造比这些国家更有切实的民主，并且造就比这些国家更多更优秀的人才作为检验改革成效的标准；提出精简机构是一场革命，是对体制的革命，如果不搞这场革命，可能要亡党亡国，等等。这些重要的思想，为进一步改革做了强大的理论和实践准备。这一时期的探索，为后来的进一步改革提供了经验。
关于政治体制改革的思想，酝酿于十一届三中全会前后。但在具体表述上有一个不断认识的深化过程。1978年9月召开的国务院务虚会即指出：“进行社会主义现代化建设，是一场广泛、深刻的革命，这场革命既要大幅度地改变目前落后的生产力，也就必然要多方面地改变生产关系，改变上层建筑，改变工农业企业的管理方式和国家对工农业企业的管理方式，改变人们的生活方式和思想方式，使之适应于现代化大生产的需要。”
同年10月邓小平在工会九大的致词中重申了这一思想，并且指出：“经济战线不仅需要进行技术上的重大改革，而且需要进行制度上、组织上的重大改革，进行这些改革，是全国人民的长远利益所在。”这就明确提出了要改变生产关系、上层建筑和管理方式的问题，并指出要进行制度上的改革。
到十一届三中全会前后，党在酝酿和提出把全党工作重点转移到经济建设上来的同时，也开始考虑和提出了政治改革的问题。1978年12月，邓小平在中央工作会议闭幕会上作题为《解放思想，实事求是，团结一致向前看》的讲话，再次提出改革生产关系和上层建筑，而且还提出和论及了加强党内民主、克服党政不分、下放经济管理权限、切实保障人民民主、加强法制建设、克服官僚主义、改变用人标准、改革国家机关等一系列问题。
十一届三中全会肯定和吸收了邓小平这篇讲话的思想，指出：“实现四个现代化，要求大幅度地提高生产力，也就必然要求多方面地改变同生产力发展不适应的生产关系和上层建筑，改变一切不适应的管理方式、活动方式。”
全会着重从经济体制的角度提出改革的任务，同时也提出和涉及到了政治体制上需要着手改革的问题：
（1）下放经济管理权限，精简经济行政机构；
（2）解决党政企不分，以党代政、以政代企的现象；
（3）实行分级分工分人负责和实行考核、奖惩、升降等制度；
（4）调动人民的积极性，切实保障人民的民主权利；
（5）加强社会主义法制建设，使民主制度化、法律化；
（6）健全民主集中制和集体领导的原则。
尽管这些改革更多的侧重在经济方面，也没有明确提出进行“政治体制改革”的概念。但公报中的一些改革思路，已鲜明地表述了中国共产党人进行政治体制改革探索的愿望。因而党的十一届三中全会实际上就成为我国政治体制改革开始的标志。
十一届三中全会后，政治体制改革在探索中前进。1979年3月30日邓小平在题为《坚持四项基本原则》的讲话中指出：“没有民主就没有社会主义，就没有社会主义的现代化。”“我们过去对民主宣传得不够，实行得不够，制度上有许多不完善，因此，继续努力发扬民主，是我们全党今后一个长时期的坚定不移的目标。”
9月29日，叶剑英在国庆三十周年大会上提出：“我们要求在改革和完善社会主义经济制度的同时，改革和完备社会主义政治制度、发展高度的社会主义民主和完备的社会主义法制。”
10月，邓小平在中国文学艺术工作者第四次代表大会上又一次提出，“我们要在大幅度提高生产力的同时，改革和完善社会主义的经济制度和政治制度，发展高度的社会主义民主和完备的社会主义法制。”在此之前，都是采用改革生产关系和上层建筑的表述方式，叶剑英和邓小平的这两篇讲话则第一次明确提出要改革和完善社会主义政治制度并将其确定为党的主要任务之一，第一次明确提出了发展高度的民主和完备的法制的思想并将其确立为党长远的、根本的奋斗目标。
在这一阶段，我国政治发展的根本特点，在于拨“文化大革命”之乱，使我国的政治体制大体上恢复到“文化大革命”以前的状况；这种拨乱反正，初步纠正了“文化大革命”时期的畸型政治体制，恢复了正常的社会政治秩序。
十一届三中全会根据历史的经验教训，决定健全党的民主集中制，健全党规党法。会议提出“党内一律互称同志，不要叫官衔；任何负领导责任的党员包括中央领导同志的个人意见，不要叫指示。”会议指出：“一定要保障党员在党内对上级领导直至中央常委提出批评性意见的权力，一切不符合党的民主集中制和集体领导原则的做法应该坚决纠正。”为了维护党规党法、切实搞好党风，全会选举了以陈云为第一书记的由100人组成的中央纪律检查委员会。会后，中央以下的各级机构也重新设置了纪律检查组织，使“文化大革命”中被完全破坏的党内监督机制开始恢复。
1980年2月召开的十一届五中全会，为改变权力过分集中于少数人甚至个人的状况，通过了《中共中央关于成立中央书记处的决议》，决定重新设立中央书记处，作为党中央领导下的经常工作机构，这是党在新老交替方面初步考虑而进行的一项改革。其目的在于使年事已高的老同志逐步摆脱繁重的日常工作，而让相对年青的一些干部逐步充实到党的核心领导岗位上来。
叶剑英当时还形象的谈到了一线和二线的问题，即书记处处于一线，中央常委、政治局处于二线。并认为这样做有利于解决接班人问题，有利于中央常委、政治局抓大事，更主动更有预见性，有利于中央领导能有时间下基层了解情况，有利于中央领导到国外考察参观学习，把“外国的经验当作一面镜子照照自己。”叶剑英：《在党的十一届三中全会第一次会议上的讲话》，载《三中全会以来重要文献汇编》上，人民出版社1982年版，第481—482页。
这次全会讨论和通过了《关于党内政治生活的若干准则》，这是保障党内政治生活正常进行的重要法规，着重强调坚持党的集体领导制度，反对个人崇拜和个人专断；发扬党内民主，保障党员的民主权力，选举要充分体现选举人的意志，党内真正实行民主选举，各级领导干部要接受党和群众的监督；等等，这次全会还讨论了《中国共产党章程（修改草案）》。章程草案对党的民主集中制作了比较完善的规定，对党的干部制度作了一系列的规定，包括废止干部职务实际上存在的终身制。1980年4月，中央政治局会议讨论通过了《关于十二大代表选举工作几点意见》和《关于丧失工作能力的老同志不当十二大代表和中央委员候选人的决定》，7月，中央发出《关于坚持“少宣传个人”的几个问题的指示》。8月，中央书记处决定，在今后二三十年内，一律不挂现任中央领导人的像，以利于肃清个人崇拜的影响。
为了适应现代化建设事业的发展需要，党的主要职能部门和一些五十到六十年代曾经设置但后来又被取消或停止工作的组织机构，陆续恢复设置并开展工作。1977年，中央组织部、统战部恢复日常工作，中央党校复校，1978年，中央宣传部、中央政法小组恢复工作，1980年，又恢复了中央财经领导小组，等等。
1978年五届人大一次会议修改通过了第三部《中华人民共和国宪法》，对全国人大和地方各级人大的组织和职权以及代表的选举、撤换和质询权等作了明确的规定，从此恢复了人大常务委员会的日常工作，并恢复了全面行使国家元首的职权。1979年五届人大第十一次常务委员会议通过并公布了《关于省、自治区、直辖市可以在1979年设立人民代表大会常务委员会和将革命委员会改为人民政府的决议》。这样，在“文化大革命”中产生的“革命委员会”体制即宣告结束。
省、直辖
市、自治区革委会成
立时间宣布撤销革委会的人大会
议届、次和召开时间撤销革委会
后当选的人
大主任撤销革委会后
当选的省长或
市长、主席黑龙江1967.1.31五届二次，1979.12.21-12.26赵德尊陈雷山东1967.2.3五届二次，1979.12.15-12.22赵林苏毅然上海1967.2.23七届二次，1979.12.24-12.29严佑民彭冲贵州1967.2.13五届二次，1980.1.15-1.19徐健生苏钢山西1967.3.18五届二次，1979.12.7-12.13阮泊生罗贵波北京1967.4.20七届三次，1979.12.7-12.13贾庭三林乎加青海1967.8.12五届二次，1979.8.20-8.28谭启龙张国声内蒙古1967.11.1五届二次，1979.12.18-12.27廷懋孔飞天津1967.12.6九届一次，1980.6.23-6.30阎达开胡启立江西1968.1.5五届二次，1979.12.22-12.27杨尚奎白栋材甘肃1968.1.24五届二次，1979.11.30-12.6王世泰冯纪新河南1968.1.27五届二次，1979.9.13-9.19胡立教刘杰河北1968.2.3五届二次，1980.2.1-2.6江一真李尔重湖北1968.2.5五届二次，1980.1.9-1.17陈丕显韩宁夫广东1968.2.21五届二次，1979.12.17-12.26李坚真习仲勋吉林1968.3.6五届二次，1980.3.31-4.4栗又文于克江苏1968.3.23五届二次，1979.12.24-12.30许家屯惠浴宇浙江1968.3.24五届二次，1979.12.13-12.18铁瑛李丰平湖南1968.4.8五届二次，1979.12.22-12.28万达孙国沼宁夏1968.4.10四届二次，1980.1.8-1.15马青年马信安徽1968.4.18五届二次，1979.12.25-12.31顾卓新张劲夫陕西1968.5.1五届二次，1979.12.23-12.29马文瑞于明涛辽宁1968.5.10五届二次，1980.1.23-1.29黄欧东陈璞如四川1968.5.31五届二次，1979.12.20-12.25杜心源鲁大东云南1968.8.13五届二次，1979.12.25-12.31安平生刘明辉福建1968.8.19五届二次，1979.12.18-12.33廖志高马兴元广西1968.8.26五届二次，1979.12.23-12.26黄荣覃应机西藏1968.9.5三届二次，1979.8.6-8.14阿沛·阿
旺晋美天宝新疆1968.9.5五届二次，1979.8.26-9.5铁木尔·
达瓦买提司马义·
艾买提
粉碎”四人帮”后，我国公、检、法机关相继恢复重建并开展工作。1978年五届人大一次会议通过了新中国的第三部宪法，随后进行了加强社会主义法制观念的宣传教育，十一届三中全会在总结历史经验教训的基础上强调指出：“为了保障人民民主，必须加强社会主义法制，使民主制度化、法律化，使这种制度和法律具有稳定性、连续性和极大的权威，做到有法可依，有法必依，执法必严，违法必究。从现在起，应当把立法工作摆到全国人民代表大会及其常务委员会的重要议程上来。检察机关和司法机关要保持应有的独立性。”
根据这一要求，从1979年起，中共中央和全国人大为恢复和健全民主与法制做了大量的工作，1979年2月17日至23日五届人大常委会第六次会议决定，设立全国人大常委会法制委员会。
6月17日至7月1日，五届人大二次会议讨论并通过了《中华人民共和国地方各级人民代表大会和地方各级人民政府组织法》、《中华人民共和国全国人民代表大会和地方各级人民代表大会选举法》、《中华人民共和国人民法院组织法》、《中华人民共和国人民检察院组织法》、《中华人民共和国刑法》、《中华人民共和国刑事诉讼法》、《中华人民共和国中外合资经营企业法》7个重要法律，这表明我国全面的立法工作已经逐步展开，我国人民民主向制度化、法律化迈出了重要一步。
为了使全党和全国充分认识法制的重要性，保证各项法律的顺利实施，1979年9月中共中央发出了《关于坚决保证刑法、刑事诉讼法切实实施的指示》。同月，五届人大常委会第十一次会议决定，设立中华人民共和国司法部。1980年1月中共中央又决定成立中央政法委员会，以加强对政法工作的领导。同年，五届人大常委会通过《中华人民共和国律师暂行条例》。从而使1957年夭折的律师辩护制度得以恢复，随着律师制度和公证制度的重建，全国各地的法律顾问处、公证处开始相继建立。
1978年2月24日至3月8日，全国政协五届一次会议召开，通过了《中国人民政治协商会议章程》。从此恢复了人民政协的工作。政协委员由上届的1199人增加到1988人。这是1964年四届一次会议闭幕后政协召开的第一次全国代表大会。
1979年6月召开的五届政协二次会议上，邓小平指出各民主党派“都已经成为各自所联系的一部分社会主义劳动者和一部分拥护社会主义的爱国者的政治联盟，都是在中国共产党领导下为社会主义服务的政治力量”。同年10月19日，邓小平在接见出席各民主党派和工商联代表大会的全体代表时，强调坚持“长期共存，互相监督”的方针，并且指出：“在中国共产党的领导下，实行多党派的合作，这是我国具体历史条件和现实条件所决定的，也是我国政治制度中的一个特点和优点，”这表明党重新明确了多党合作的方针。
1979年10月11日至22日，我国的八个民主党派和全国工商联分别在北京举行了各自的全国代表大会，从而结束了各民主党派和工商联二十余年没有召开代表大会的历史，标志着我国政治上多党合作制度的恢复。
1978年9月至10月，中国妇女第四次全国代表大会、中国工会第九次全国代表大会、共青团第十次全国代表大会在北京举行，会议分别选举了各自的领导机构。从此，全国妇女联合会、全国总工会、共青团中央的日常活动恢复正常，逐渐发挥各自的职能。
从十一届三中全会到1980年8月，中国共产党初步纠正了“文化大革命”时期畸形政治体制的弊端，并开始从体制上考虑改革的问题，从而形成了政治体制改革的初步思想，提出了一些重要理论观点，为政治体制改革作了一定的思想理论准备：
（1）把解放思想、实事求是、发扬民主作为一个根本的方针，为政治体制改革确立了正确的指导思想，为政治体制改革解决了思想的前提；
（2）提出社会主义生产关系和上层建筑都必需要改革的思想，并明确提出了改革和完善社会主义政治制度的任务，为政治体制改革解决了理论的前提；
（3）提出坚持党的领导，就必须改善党的领导的重要理论观点，阐明坚持党的领导与改善党的领导的相互关系，为政治体制改革解决了政治的前提；
（4）提出没有民主就没有社会主义现代化，并把高度的民主和完备的法制确定为我们党的根本目标，为我国政治体制改革指明了方向。
1980年8月18日至23日中央政治局召开扩大会议，主题是讨论党和国家领导制度的改革及其有关问题，邓小平代表中央政治局常委在会上作了题为《党和国家领导制度的改革》的讲话，郑重提出：“为了适应四个现代化建设的需要，为了适应党和国家政治生活的民主化的需要，为了兴利除弊，党和国家的领导制度必须进行有计划，有步骤而又坚决彻底的改革。”
这篇讲话深刻分析了我国现行政治体制中存在的弊端及其产生根源，系统精辟地论述了政治体制改革的目的、意义和主要内容，形成了较为完整的政治体制改革的基本思想，标志着党的政治体制改革思想和理论纲领的基本形成。1987年中共十三大评价说：这篇讲话是我国政治体制改革的指导性文件。
邓小平代表党中央于1980年提出政治体制改革的任务，主要是基于以下三方面的原因：
第一，是中国共产党工作重心转移后，集中精力进行现代化建设的迫切需要。党的工作重心转移到经济建设上来以后，我国现行政治体制的弊端逐渐暴露出来。尽管从“文化大革命”结束到1980年，我们做了大量工作，初步纠正了“文化大革命”时期畸形政治体制的弊端，但基本上还只能恢复到了“文化大革命”前的那种体制，还不能适应经济、政治、文化等多方面现代化建设的需要。最为突出的现象是权力过分集中和官僚主义严重。在一元化领导的口号下，把一切权力集中于常委特别是第一书记，这种高度集中的政治体制使得党和国家缺乏活力，工作效率较低，官僚主义严重，基层和人民缺乏积极性，如果不努力革除政治体制中存在的权力过分集中等种种弊端，就不能适应现代化建设的需要，过去出现过的一些严重问题就有可能重新出现，中国共产党就会严重脱离广大人民群众。
第二，是贯彻和保证十一届三中全会路线的连续性和稳定性的需要。从十一届三中全会开始，经过十一届四中全会、五中全会，中国共产党确立了一条正确的思想路线、政治路线和组织路线。要保证这条路线的连续性和稳定性，承担起现代化建设的繁重任务，就必须改革现行干部制度，把大批优秀的中青年干部提拔起来，解决好交接班的问题。当时，各级领导人员普遍老化，而我们的组织制度和人事制度又不利于选拔和使用“四化”急需的人才，干部队伍面临后继乏人的严重局面，1980年党中央提出要减少兼职过多，权力过分集中的现象，目的之一，也是为了给青年干部腾出位置。讲话中很大篇幅着重讲了干部制度改革、干部年轻化的问题，可见这一问题在当时的迫切性。
第三，是从制度上保证实现政治民主化，防止“文化大革命”悲剧重演的客观要求。随着拨乱反正的展开和深入，中国共产党逐步认识到，中国共产党过去所发生的种种错误，固然有党的领导人思想上、作风上的错误方面的原因，但更重要更根本的原因还在于我们长期受封建主义因素的影响，在领导制度、组织制度方面存在严重缺陷。要防止“文化大革命”悲剧的重演，要实现国家的长治久安，就必须肃清封建主义思想，从党和国家领导制度上着手进行改革，从制度上保证党和国家的政治生活的民主化、经济管理的民主化、整个社会生活的民主化。
关于反封建主义的问题，德高望重的李维汉在中央政治局扩大会议上有个讲话，他说：《李维汉选集》，人民出版社1987年版，第579页。
我曾向小平同志建议，要补上反封建主义思想这一点，并且由他来补。今天我还是坚持这个建议。昨天小平同志的报告，补了很好的第一课。我感到非常高兴。
中央政治局讨论通过了邓小平《党和国家领导制度的改革》的讲话。在此基础上，党对政治体制改革的思想理论进一步进行探索，1981年6月中共十一届六中全会通过的《关于建国以来党的若干历史问题的决议》指出：“我们的社会主义制度由比较不完善到比较完善，必须要经历一个长久的过程。这就要求我们在坚持社会主义基本制度的前提下，努力改革那些不适应生产力发展需要和人民利益的具体制度。”这就明确了我们所要改革的是某些具体制度，而不是社会主义的基本制度。决议还指出：“逐步建设高度民主的社会主义政治制度，是社会主义革命的根本任务之一。”
1982年9月中共十二大再次重申：“建设高度的社会主义民主，是我们的根本目标和根本任务之一。”报告提出：“我们一定要按照民主集中制的原则，继续改革和完善国家的政治体制和领导体制，使人民能够更好地行使国家权力，使国家机关能够有效地领导和组织社会主义建设。”报告指出：“党和国家领导体制、领导机构的改革，主要是消除权力过分集中、兼职副职过多，机构重叠、职责不明、人浮于事、党政不分等种种弊端，克服官僚主义，提高工作效率。”
同年12月五届人大五次会议通过的新宪法序言中规定：要“不断地完善社会主义的各项制度，发展社会主义民主，健全社会主义法制”，“把我国建设成为高度文明、高度民主的社会主义国家”。
这就将政治体制改革的任务载入了宪法，并将前一段政治体制改革的成果用法律的形式固定下来。