1963年10月21日至11月4日，富尔访问中国，同毛泽东、刘少奇、周恩来和陈毅外长举行了多次会谈。在与周恩来的会谈中，富尔转达戴高乐对中法关系的看法。他说，戴高乐觉得像中法这样两个大国的领导人现在还不能举行会谈是不正常的；法国一开始没有承认中华人民共和国，保持同国民党政府的关系，结果产生了很多问题。现在如果中国愿意同法国谈判建立外交关系，法国将不管其他国家的态度，独立自主地作出决定。周恩来对富尔的建议作出积极回应，并赞扬戴高乐坚持走独立的外交路线。周恩来指出，在戴高乐执政的这几年中，在维护国家独立和主权方面采取了勇敢的步骤，有些大国可能不高兴，而我们认为一个国家应该这样；另一方面，法国多年来没有解决的阿尔及利亚问题，已经根据阿尔及利亚民族自决的意志得到解决，法国承认阿尔及利亚的独立，这是件好事。周恩来还表示，法国没有在部分禁止核武器试验条约上签字，中国也反对这个条约；双方事先并没有就此问题交换过意见，但表现出来的行动却是一致的，因为中法两国都要维护自己的独立和主权，不愿受任何外国的干涉和侵犯。我们都主张在国际上应该维护世界和平，反对几个大国垄断国际事务。只有世界所有国家取得平等地位，大家都有权过问世界事务，才能真正维护世界和平。周恩来强调了中法之间的共同之处，指出两国建交的时机已经成熟。富尔同意周恩来的分析。
在建交的具体步骤上，富尔表示，法国准备承认中华人民共和国，承认只有一个中国，但希望中国不要坚持法国先主动同国民党政府断交。“对法国来说，同台湾断绝一切关系有困难，因为岛上存在着一个事实上的政府，而且戴高乐将军没有忘记在战时他同蒋介石站在一起，不愿突然切断关系”。对此，周恩来回答说，关于台湾问题，有两种情况：一是主张“台湾地位未定”，这就不是一个小问题，那会导致“两个中国”；另一种情况是作为一个复杂问题，蒋介石集团和法国互设有使领馆，为了结束这一关系，需要采取一些手续，这不是个大问题。富尔表示法国的问题属于后者。
考虑到中法建交有助于利用美法矛盾来破坏美国孤立中国的政策、有助于抵制美苏垄断和操纵国际事务的倾向、有助于推动中国同欧洲和非洲国家关系的发展、有助于削弱国民党政权的国际地位，中国领导人在坚持反对“两个中国”的原则立场的同时，对中法建交的具体步骤采取了有别于其它资本主义国家的灵活措施。在中法双方就法国承认中华人民共和国是中国的唯一合法政府达成默契的情况下，接受法国提出的中法先宣布建交从而导致台湾与法国断交的方案。
12月13日，周恩来率政府代表团开始访问亚、非、欧十四国。虽然身在国外，但他仍十分关系中法建交的进展情况。在他访问阿尔及利亚期间（12月21至27日），他叫一个中国派到法国工作的人员到阿尔及利亚去，以便听取他汇报有关中法接触的情况，并要求早日实现中法建交。陪同周恩来出访的总理办公室主任童小鹏后来回忆道：“那时周总理对戴高乐的估计是正确的。首先，周总理认为戴高乐反法西斯是坚决的；其次，认为戴高乐在从阿尔及利亚撤兵的问题上是开明的。”
在周恩来出国访问期间，邓小平副总理任代总理，负责指导和协调相关部门对中法建交事宜的处理。1964年1月24日，他出席全国人大常委会会议，介绍中法建交的有关情况。他指出：中法建交是国际事务中的一件大事，是在西方打断一个链条，其影响会越来越深远。同日，他还主持起草中共中央下发的《关于中法建交的宣传要点》的通知。起草后，他随即将通知稿和《宣传要点》稿报批毛泽东和刘少奇等人核阅，并说明：“这是我们集体修改的，此件必须早日发出。”第二天，邓小平又审核《人民日报》社论稿《祝贺中法建交》，并报送毛泽东和刘少奇等人核阅。
1月26日，外交部将中共中央下发的《关于中法建交的宣传要点》登载在《外交通报》第13期上，转发给各驻外使馆、代办处和各驻外机构。《宣传要点》既分析了中法建交的积极意义，又指明了它的局限性，要求驻外人员在宣传此事件时，不要对法国“抱有任何不切实际的想法”，不要“过于渲染”，不要给人“造成我有求于法国和过分重视这一事件的印象”。在论述中法建交的正面意义时，《宣传要点》指出：“这一事件不仅直接打击了美帝，加深了帝国主义国家间的矛盾，而且也打击了苏修的美苏合作解决世界问题的阴谋。中法建交后，有些非洲法兰西共同体国家、欧洲共同市场国家以及在对华政策上尚在观望的国家，可能继起效仿，从而导致我对外关系进一步开展的局面，对今后国际局势发展的进程将会产生重大的影响。”对于中法建交的局限性，《宣传要点》明确说明：“戴高乐政府虽然反对美帝，但法国是一个帝国主义国家，它对我国的态度以及在‘两个中国’问题上的立场也存有两面性。同时，法国影响的非洲、欧洲某些国家，也会采取不同的态度和不同的作法。”《宣传要点》特别指示驻外人员在谈论中法建交时，强调中国反对“两个中国”的立场没有改变，中国没有降低建交条件和门槛。
富尔访华之后，法国外交部欧洲司司长雅克·德博马歇（Jacques de Beaumarchais）和中国驻瑞士大使李清泉在伯尔尼就建交的具体事宜进行谈判，双方最后在1964年1月27日发表联合公报，宣布建立外交关系，在三个月内任命大使。与此同时，根据双方事先达成的协议，中国外交部发言人于1月28日就中法建交发表声明，指出：“中华人民共和国政府是作为代表中国人民的唯一合法政府同法兰西共和国政府谈判并且达成两国建交协议的。按照国际惯例，承认一个国家的新政府，不言而喻地意味着不再承认被这个国家的人民所推翻的旧的统治集团。因此，这个国家的旧的统治集团的代表不能继续被看作是这个国家的代表，同这个国家的新政府的代表同时存在于同一个国家里。或者同一个国际组织中。中华人民共和国是根据这样的理解，同法兰西共和国政府达成中法建交和互换大使协议的。中国政府认为有必要重申，台湾是中国的领土，任何把台湾从中国的版图割裂出去或者其他制造‘两个中国’的企图，都是中国政府和人民绝对不能同意的。”
中法关于建交的联合公报发表后，中国外交部加紧筹备先遣队去巴黎建立使馆。西欧司副司长宋之光被任命为临时代办，先遣队成员包括张锡昌。由于中法联合公报发表后台湾当局对法国只抗议不“断交”，法台关系的下一步走向就成为外交部非常关心的问题。赴法建馆先遣队的一个重要任务就是同法国政府交涉，尽快“驱蒋”，逼走国民党驻法“大使馆”，为实现中法如期交换大使创造条件。
以法国国民议会法中友好小组主席弗朗索瓦·贝纳尔为团长的法国议员代表团的来访，给中国领导人一个再次向法方强调中国反对“两个中国”政策、希望法国尽快与国民党政府了断的机会。1月29日，邓小平会见该代表团。他在谈话中指出：“我们在台湾问题上的立场是清清楚楚、毫不含糊的，也是不可能改变的。台湾是中国的一部分，这是改变不了的。”会谈结束后，邓小平致信毛泽东，报告会见法国议员代表团时的主要谈话内容及该团成员多次表示要求见毛泽东一事，提议：“我意如可能，请主席见他们一次。”
毛泽东接受邓小平的建议，于次日会见法国议员代表团。毛泽东在谈话中指出：
你们不要学英国在台湾问题上的态度。英国同我们只有一个分歧，就是它对台湾的地位不肯定。英国同美国都搞“两个中国”，这点上表明它是美国的代理人。我们同英国已有十五年的外交关系，它也像你们那样，要我们派大使去，它派个大使来。我们说不行，再搞十五年，甚至几十年也可以，我们不派大使去。联合国进不了，那也不要紧。十五年没有进联合国，我们也活下来了，再让蒋介石大元帅在联合国呆上十五年、三十年、一百年，我们照样活下去。要我们承认“两个中国”或者是“一个半中国”，那都不行。你们要派就派个大使来，不要学英国那样，搞了十几年，还是个代办，不要钻进美国的圈套。这一点不搞清楚，我们不接纳你们的大使，我们也不派大使到你们那里去。事先讲个清楚，我见富尔先生时，也同他讲清楚了这个问题。我们外交部发表过声明，也在瑞士和你们打过招呼，取得了协议。你们要同英国区别开来，要痛痛快快地把话讲个清楚。我是个军人，打过二十二年仗，戴高乐将军也是个军人，讲话不要弯弯曲曲，不要搞外交手腕。
2月4日，邓小平在审阅外交部关于法国建馆先遣人员来中国和中国建馆人员赴法问题的请示报告后，作出批示：“我找外交口同志谈了一次。（一）我同意外交部意见，即通知法方，我代办等六人可于二月十五日左右到达巴黎。我们考虑，目前我们派代办去，没有危险，反而迫使法方对台湾态度明朗化。代办去后，如法方再玩‘两个中国’把戏，充其量搞成英国那样的局面，于我无损。看来，这对法方来说是不利的。（二）我代办去后的活动方案，由外交部迅速拟出送批。（三）此事是否需在主席处一谈，请主席决定。”很显然，中国领导人希望迅速派代办去巴黎，以迫使法国政府赶快在台湾问题上明确立场。与此同时，中国领导人也作了退一步的准备：如果法国继续和台湾保持官方关系，中国就将像对待英国那样，把中法外交关系定格在代办级水平。
2月5日，邓小平在会见老挝爱国战线党主席、老挝民族团结政府副首相苏发努冯时，谈到中法建交问题。他说：美国在极力鼓动法国搞“两个中国”，企图以此来破坏中法建交。但是，戴高乐听不听他们的，还靠不住，因为法国同中国建交是戴高乐采取的主动。在开始谈判建交时，我们已谈清楚了，一点也不含糊，戴高乐既已下决心同中国建立外交关系，又要搞“两个中国”，这对他有什么好处。
2月7日，邓小平在审阅外交部关于赴法临时代办的工作方针和任务的报告后，作出批示：“拟同意。我明日约他们面谈一次。”“我代办十五日以前可到巴黎。原则上，在蒋帮在法保留领事馆的情况下，我不宜派出大使，对这点不能含糊。至于蒋帮不在法国保留领事馆，而法国却在台湾保留领事馆，这种可能性较小。如未出现这种情况，我可暂时置之不理，等情况发展再说。”