1973年1月11日，日本驻中国大使馆开馆。2月1日，中国驻日本大使馆开馆。
3月27日，中国首任驻日大使陈楚乘中国民航专机到达东京。翌日，陈楚拜会日本外务大臣大平正芳，转达了周恩来总理和姬鹏飞外长对大平外相的问候，双方进行了亲切友好的会谈。大平外相说：“日本要根据日中联合声明总精神，为逐一解决各个问题而努力。”
3月31日，日本首任驻华大使小川平四郎到达北京。4月3日，小川大使向董必武代主席递交国书。
在这之前，日本与台湾当局断绝了外交关系。1972年9月29日，日本外务省次官法眼先生召见台湾“大使”彭孟缉，提前通知了联合声明的内容，告诉他：“台湾和日本的外交关系虽然不能继续下去了，但我们希望今后继续同台湾保持经济和其他方面的业务关系。”9月29日晚，台湾方面发表外交部声明，宣告与日本断绝外交关系。台湾当局肺都快气炸了，但还是忍住了心头怒火，命令警察保护日本的使馆、企业和日侨。9月30日，日台双方的大使馆不再升旗。10月28日，台湾“大使”彭孟缉乘飞机离开日本。
随着中国和日本两国邦交正常化、两国外交关系的建立和大使馆的设立，中日两国的友好往来出现了“官民并举，相辅相成”的局面。两国政府和民间的交往与日俱增，遍及政治、经济、科技、文教等各个领域，其浓度和广度都是前所未有的。
中日建交后，两国政府部门达成的第一个协议是1973年5月4日签署的关于建设海底电缆的协议。协议规定：“在中国与日本国之间，共同建设一条具有足够电容量的海底电缆，供中日两国间通信使用。”中方由上海市电信局为承建单位，日方由国际电报电话公司为承建单位。
1974年1月，两国政府又签署了中日政府间的贸易协定。规定：“双方在有关进出口物品的一切关税、国内捐税和其他税费，以及上述各种税费的征收办法、海关规章、手续方面，相互给予最惠国待遇。”姬鹏飞外长和大平正芳外相分别代表中国和日本两国政府在协定上签字。同年6月22日，协定正式生效。
接着，两国政府还签署了海运、渔业和航空协定。
在这些协定中，以签订航空协定，实现中日通航为重要的困难。中日空中“架桥”可以结束多年来远绕香港进行交往的历史，对中日两国不用说都具有重要的意义。但由于涉及到如何处理台湾问题，所以成为一项特别关键的谈判，较之前面签订的协定更费了一番周折。
中日建交以后，日台双方断绝外交关系并互撤使馆，但由日本航空株式会社和中华航空公司经营的日台航线仍在运行，每年有数十万人来往。日本仍希望维持这条航线，中国也同意用它作为民间来往的工具，但是中方认为中华航空公司的名称及机上的“国旗”标志，不符合中日联合声明的原则，这个问题成为签订协议的一大障碍。
中日复交后，日本自民党内的亲台派议员先后组织了“日华关系恳谈会”和“青岚会”，继续策划搞“两个中国”的阴谋活动，百般阻挠和破坏航空协定的谈判，致使谈判迟迟未能取得实质性的进展。
大平外相冒着风险为早日缔结航空协定积极奔走，协助田中首相在执政党内做工作，统一思想。为打破谈判僵局，大平不顾自民党内亲台派势力的反对，于1974年1月3日毅然抱病访问了北京，同周总理和姬外长进行了友好商谈。周恩来总理考虑到日方的具体处境，做出了一些谅解和让步，在航空协定的问题上达成默契：作为过渡性措施，日台之间只能有限制地维持地区的民间来往。
大平回国后，根据访华商定的基本精神，拟订了日本政府关于谈判的“六点指导方针”，对原有的日台航线作了部分修改和调整。但就是这个方针，仍遭到亲台派议员的强烈反对，对大平多方责难，并泄露谈判的具体细节。一向温厚的太平被激怒了，“即使粉身碎骨也要签订日中航空协定！”4月20日，日本驻华大使小川平四郎受命同中国外长姬鹏飞在北京签署了《中日航空运输协定》。同日，大平在东京举行记者招待会，明确宣布：日中之间的航空运输协定是国家间的协定，日台之间是地区性的民间航空往来。
中日航空协定签订后，来自台湾的压力和自民党内亲台派的反对达到顶点。4月20日，台湾当局宣布停止日台航线。自民党内的亲台派议员也叫嚷要把恢复日台航线作为批准该协定的前提条件。但大平外相不为所动。5月7日和15日，该协定分别为日本国会众、参议院审议通过。
1974年9月29日，在庆祝中日复交两周年之际，东京和北京分别飞出了首航班机。中日两国友好访问团也分别乘坐各自班机，进行友好和睦的互访活动。
两国正式通航后，犹如在浩瀚汪洋中架起了一道空中桥梁，把中日两国直接联系起来，大大“缩短”了两国之间的距离，经济往来与友好交流也就更方便了，到1979年中日贸易额已增至67亿美元，日本成为中国对外贸易的第一位伙伴。