20世纪50年代，中国共产党第一代领导人毛泽东、周恩来，曾试图"在可能的条件下，争取用和平的方式解放台湾"，但限于当时的国内外环境，无法将这一主张进一步系统化和理论化。党的十一届三中全会以后，以邓小平为核心的党中央领导集体，根据国内外形势的深刻变化，在继承第一代领导人集体智慧的基础上，提出了"一国两制"的伟大构想，从而为以和平方式实现祖国统一大业开辟了道路。
一国两制的前身："一纲四目"
实现祖国统一，是中华民族的根本利益所在。自1949年以来，中国共产党和中国政府一直把完成祖国统一大业作为自己的神圣使命，在新中国成立前后的一段时间里，人民解放军曾准备渡海作战，解放台湾。
20世纪50年代中后期，从海峡两岸人民的共同利益出发，中国共产党提出用和平方式解放台湾的方针。
1955年5月31日，周恩来总理在第一届全国人大常委会第15次扩大会议上，表示："中国人民解放台湾有两种可能性的方式，即战争的方式和和平方式，中国人民愿意在可能的条件下，争取用和平的方式解放台湾。"这是祖国大陆第一次公开提出"和平解放台湾"的主张，引起全世界的强烈反响，认为这标志着中共对台政策有了重大调整。
1956年，中国共产党和政府鲜明地亮出了"和平解放台湾"的原则、方针和政策。2月，周恩来在政协二届二次会议上首次提出"为争取和平解放台湾、实现祖国的完全统一而斗争"的口号。不久，中共中央发出《关于加强和平解放台湾工作的指示》，确定了对台"多方影响、积极并且耐心争取的"工作方针，及"通过各种线索，采取多种方法，争取以蒋氏父子、陈诚为首的台湾高级军政官员"的工作重点。
进入60年代以后，尤其是国共两党在"金门炮战"中共同成功地挫败了美国意图制造"两个中国"、"划峡而治"的阴谋后，中国共产党和中央政府根据形势的变化对解决台湾问题提出了许多新的原则和政策，开始由"和平解放"转变为"和平统一"。
1960年5月22日，毛泽东主持中共中央政治局常委会议，研究并确定了对台工作的总方针。会议认为，美国正在对台湾当局施加压力，企图推行"两个中国"政策。为了粉碎美国这一政治图谋，宁可让台湾掌握在蒋氏父子手里，也不要落到美国人手中。对蒋我们可以等待，解放台湾的任务不一定要由我们这一代来完成，可以留给下一代去做。现在要蒋过来也有困难，应逐步地创造条件，等待时机成熟。
1961年6月，毛泽东主席在与印尼总统苏加诺会谈时，首次谈及容许台湾保持原来的社会制度。他说："如果台湾归还祖国，中国就可以进联合国。如果台湾不作为一个国家，没有中央政府，它归还祖国，那么台湾的社会制度也可以留待以后谈。我们容许台湾保持原来的社会制度，等台湾人民自己来解决这个问题。"
1963年，周总理根据两岸关系的最新形势，在总结10年来对台工作的基本经验的基础上，将中国共产党对台政策归纳为"一纲四目"。"一纲"是指台湾必须回到祖国的怀抱，这是原则问题，不容商量。"四目"则是具体的操作方案：一、台湾回归祖国后，除外交必须统一于中央外，当地军政大权、人事安排等"悉委于"蒋介石，由蒋介石安排；二、台湾所有军政费用和经济建设一切费用的不足部分，全部由中央政府拨付；三、台湾的社会改革可以从缓，等到时机成熟后，尊重蒋介石的意见协商后再进行；四、双方互约不派特务，不做破坏对方团结的事情。周恩来并指出，今日台湾问题之首要关键，在于促成国共第三次合作，使海峡两岸实现统一。只要海峡两岸实现统一，其他一切问题悉尊重台湾领导人意见妥善处理。
"一纲四目"对台方针的提出和实施，是中国共产党对台政策由"解放台湾"向"和平统一"方向转变的标志，其中已经隐含后来"一国两制"的意思，为解决台湾问题、推动祖国完全统一描绘了一幅壮丽蓝图。但是，1966年夏，祖国大陆爆发了"文化大革命"，极"左"路线和政策严重干扰了对台工作和祖国统一大业，原来朝统一方向前进的两岸关系转趋恶化。
70年代，国际国内出现了对完成统一大业有利的形势：1971年10月，联合国通过了恢复中华人民共和国在联合国合法席位的决议；1972年2月，中美发表《上海联合公报》。当时已是91岁高龄的章士钊自告奋勇，要求再赴香港为国共谈判疏通渠道。在毛泽东、周恩来的周密安排下，章士钊于1973年5月25日乘专机前往香港，随身带有中共关于和谈条件，即希望尽快举行国共两党谈判，台湾承认是中华人民共和国的一部分，中央可给予台湾省类似当年陕甘宁边区的地位，经费不足可以由中央政府负担。如果台湾认为谈判条件不成熟，可以先进行官方或私人及团体互访，作一定接触，暂不举行谈判。但章老因年事太高，又频繁活动，6月下旬病倒，7月1日逝世。章老逝世后，时任香港中国文化协会副主席许孝炎等表示要尽快将章老带来的中共和谈条件转告台湾方面。蒋介石经过一年多时间的考虑，1975年春节期间指使陈立夫以"总统府资政"名义向中共中央发出邀请毛泽东到台湾访问的信息，这说明蒋介石有重开两党谈判的愿望。但由于众所周知的原因，大陆"文化大革命"还在进行之中，而且蒋介石不久于4月5日去世，毛泽东也于1976年9月9日去世。历史留下了遗憾。
"一国两制"初步构想阶段（1978年-1980年）
"一国两制"构想的提出，是从考虑如何解决台湾问题开始的，它最初萌芽于党的十一届三中全会前后。早在十一届三中全会召开前，邓小平就阐述了解决台湾问题要尊重台湾现实的思想。
1978年10月8日，邓小平在会见日本文艺家江藤淳时就指出："如果实现祖国统一，我们在台湾的政策将根据台湾的现实来处理。比如说，美国在台湾有大量的投资，日本在那里也有大量的投资，这就是现实，我们正视这个现实。"此次谈话透露出祖国统一后中国政府将从实际出发、尊重台湾现实和保护外国人投资的最初思考，这是邓小平涉及"一国两制"构想的最早谈话。
同年11月14日在会见缅甸总统吴奈温时，邓小平第一次明确谈到统一后台湾的某些制度和生活方式可以不动。他说："在解决台湾问题时，我们会尊重台湾的现实。比如，台湾的某些制度可以不动。美、日在台湾的投资可以不动，那边的生活方式可以不动。"
1978年12月24日，中共十一届三中全会发表公报，指出："随着中美关系正常化，我国神圣领土台湾回到祖国怀抱、实现祖国统一大业的前景已经进一步摆在我们面前。欢迎台湾同胞、港澳同胞、海外侨胞，本着爱国一家的精神，共同为祖国统一和祖国的建设作出积极贡献。"
1979年1月1日，全国人大常委会发表《告台湾同胞书》，郑重宣告了中国政府和平解决台湾问题的大政方针，呼吁两岸就结束军事对峙状态进行商谈。表示在实现国家统一时，一定"尊重台湾现状和台湾各界人士的意见，采取合情合理的政策和办法"。《告台湾同胞书》在海内外炎黄子孙中引起了强烈的共鸣。
1月1日这天，国防部长徐向前就台海局势问题发表声明。声明指出："台湾是我国的一部分，台湾同胞是我们的骨肉兄弟。为了方便台、澎、金、马的军民同胞来往大陆省亲会友、参观访问和在台湾海峡航行、生产等活动，我已命令福建前线部队，从今日起停止对大金门、小金门、大担、二担等岛屿的炮击。"从1958年开始的炮击金门军事活动，终于画上了句号，中国共产党开始营造台湾海峡的和平氛围。
1月5日，邓小平接受美国记者采访时，又谈到了台湾问题。他说，我们多次声明，解决台湾问题，完成祖国的统一大业，这完全是中国的内政。正是在这个基础上，我们实现了同美国关系的正常化。当然，在双方达成建交协议的时候，卡特总统曾经表示了一种愿望，希望能够用和平方式解决台湾问题。我们注意到这个愿望。但是我们同时也表示这是我国的内政问题。我们当然"力求用和平方式来解决台湾回归祖国的问题"。在这个问题上，我们不能承担这么一个义务：除了和平方式以外，不能用其他方式来实现统一祖国的愿望。我们不能把自己的手捆起来。如果我们把自己的手捆起来，反而会妨碍和平解决台湾问题这个良好的愿望。至于时间表，中国是有耐心的。邓小平指出：1月1日，我们全国人民代表大会常务委员会发表了《告台湾同胞书》，这是我们采取的第一步。我们将采取多种方法同台湾当局，特别是同蒋经国先生商谈祖国统一的问题。他说：就我个人来说，我希望今年就实现这个愿望。就我的健康状况来说，至少还可以活10年，但那就太久了。中共中央领导人公开提出与蒋经国先生商谈祖国统一的问题，在海内外一时成为谈论的主题。
1979年1月29日至2月5日，邓小平访问了美国。出访前夕，他在会见美国时代出版公司总编辑多诺万时谈到了中国政府的对台政策构想。他说："我们尊重台湾的现实，台湾当局作为一个地方政府拥有它自己的权力，就是它可以有自己一定的军队，同外国的贸易、商业关系可以继续，民间交往可以继续，现行的政策、现在的生活方式可以不变，但必须是在一个中国的条件下。这个问题可以长期来解决。中国的主体，也就是大陆，也会发生变化，也会发展。总的要求就是一条，一个中国，不是两个中国，爱国一家。"
1月30日，正在美国访问的邓小平同美国参众两院议员谈话说："我们不再用'解放台湾'这个提法了。只要台湾回归祖国，我们将尊重那里的现实和现行制度。"他还指出，台湾作为一个地方政府当局拥有它自己的权力，但必须是在一个中国的条件下，所谓保留就是它有自己一定的军队，同外国的贸易、商业关系可以继续，民间交往可以继续，现行的政策、现行的生活方式可以不变，资本主义经济可以不变......这个要求就是一条，一个中国，不是两个中国。同一天，邓小平在参加美中友协、全美华侨协会和在美华侨招待会时致词指出：中美关系正常化之后，台湾回归祖国，和平统一祖国的问题，有了更好的条件。中国政府解决这个问题的时候，一定考虑到台湾的现实，重视台湾人民的意见，实行合情合理的政策。