（一）《满蒙新五路协约》
1927年6月的“东方会议”之后，日军分两路出击：一路出兵山东阻止蒋介石“步北”；另一路乘机向张作霖索要所谓的“满蒙权益”。
1927年7月20日，田中训令日本驻奉天（沈阳）总领事吉田茂，要他同奉天当局交涉所谓“满蒙问题”，力求在短时期内实现“新铁路计划”。
接到命令后，吉田茂不敢怠慢，立即前往奉天府同奉天省长莫德惠举行会谈，提出由日本修建吉会（吉林至朝鲜会宁）铁路之敦化—图们江段铁路、在东北租借土地和商租权等无理要求。莫德惠没有当场给予答复，而是采取了拖延的策略。
此时，田中内阁准备了两套方案对付张作霖：其一是“内科方案”，对张作霖软硬兼施；其二是“外科方案”，即以武力解决张作霖。
7月19日，田中任命山本条太郎为日本满铁社长，并作为“首相的代表”直接同张作霖交涉。8月27日，山本到大连走马上任。山本条太郎一到大连，就立即命令与张作霖有密切关系的江藤丰去北京，劝说张作霖接受日本提出的“满蒙新五路”方案。于是，江藤怀揣“满蒙铁路计划”，急匆匆地赶往北京去见张作霖。奉系军阀头子张作霖，出身土匪，因日本的扶持他才得以长期盘踞在东北，成为显赫一时的“东北王”。1927年6月，张作霖在北京就任“中华民国陆海军大元帅”，组建“安国军政府”。从那以后，张作霖以为自己成了“中央”，而“中央”便是张作霖，于是乎，对日本人也就不再是言听计从了。他脚踏3只船，同苏联也保持着联系，还用英美的钱修建了大虎山至通辽、沈阳至海陇的铁路。
张作霖接过江藤递交的“满蒙铁路计划”，不看也就罢了，看了后不由大吃一惊：“这不是日本准备跟俄国开战的铁路吗？”张作霖自然清楚，这条铁路一旦建成，对他来说，无疑是“怀里抱着炸弹”，随时都有爆炸的可能。
想到这，张作霖倒吸了一口冷气，开始犹豫不决了。“如果你不合作，日本军队将帮助你的敌人蒋介石。”江藤看出了张作霖的心思，就乘机恫吓他。
这句话触到了张作霖的痛处，他担心的正是这一点。结果，在江藤的再三劝说下，张作霖提起笔在计划书上哆哆嗦嗦地圈了4条铁路。
江藤一看，怎么还留下一条铁路没圈。这可不行，必须全部答应。他又怂恿张作霖，将剩下的一条铁路也给圈了。江藤十分高兴，将划着5个红圈的计划书交到山本手上。
然而，事情即使到了这一步，山本仍然放心不下。为了探明张作霖的承诺是否可靠，山本又想出一招，将其夫人派往北京，别出心裁地搞起了“夫人外交”。
对山本夫人的到来，张作霖自然是百般殷勤，还让自己的夫人陪同山本夫人到八达岭长城游览一番。事毕后，张作霖又赠送山本夫人许多珍贵礼品。
经过这番精心准备之后，山本亲自出马了。10月13日，在“夫人外交”结束后，山本赶到北京拜会张作霖，并送给张作霖500万元作为见面礼。
10月15日，经山本等人的软硬兼施，张作霖在《满蒙新五路协约》上批了个“阅”字。这5条铁路是：敦化至图们江，长春至大赉，吉林至五常，洮南至索伦，延吉至海林。
这几条铁路一旦修建，将会使日本的侵略势力深入到吉林、黑龙江腹地。张作霖自感压力很大，以至写完“阅”字后，步履“蹒跚踉跄”，一夜之间便“憔悴万分”。
（二）张作霖退回东北
转眼到了1928年春天，蒋介石的势力急剧膨胀起来，不断向北推进，置奉军于不利地位。
此时，田中内阁更是变本加厉地向张作霖施加压力，逼他签订“满蒙新五路”的全部承建合同。对张作霖来说，这个时候他很需要日本的支持。所以，张作霖痛痛快快地答应了。
5月13日，张作霖遂以中华民国“大元帅”的名义在《洮（南）索（伦）
延（吉）海（林）线承包合约》签上“阅，准行”的字样。15日，张作霖又命令赵镇以“交通部代理次长”的名义在吉敦路延长线（敦化到图们江）、长（春）大（赉）路两项承建合同上签字。至于吉五路（吉林至五常）的合同，张作霖决定留待以后再议。
5月17日深夜11时许，张作霖正兴致勃勃地在顺天府同梁士诒、李宣威等人打麻将。芳泽突然来访，他引诱张作霖说：“如果大元帅能够答应我们的要求，大日本帝国的皇军就可以采取措施，阻止北伐军渡过黄河北上。”
谁知，张作霖不吃这一套，回敬了一句“：我们家的事，不劳邻居费心，谢谢你们的好意。”
“哼，你们打得过北伐军吗？”芳泽冷冷地问道。“若打不过他们，我们可以退出关外。”张作霖显然有备无恐。“恐怕未必能回得去吧！”芳泽想断张作霖的退路。
“关外是我们的老家，愿意回就回去，有什么不行的呢？”张作霖轻描淡写地说。
“张宗昌的兵在济南杀死了几十名日本侨民。”芳泽威胁道。“我没有接到报告。”“张宗昌是你的部下，你应该对此负一切责任。”芳泽边说边把“备忘录”递给张作霖。“大势已经如此，为使战祸不波及京津，收拾军队返回满洲，以维持满洲治安，我想无论对中国国民还是对奉天派都是万全之策。”
“如果东北军不愿意被解除武装，就应该毫不犹豫地立即撤退。”芳泽继续威胁张作霖。
“要我撤出北京……我多年来不是白干了吗？我绝对不干。”张作霖不服气地说：“我还统率着60万大军，至少还能跟南军干一仗。”
张作霖认为日本人逼他签合同，这分明是落井下石，便破口大骂道：“日本人不够朋友，竟在人家危急的时候，掐脖子要好处。老子不能出卖东北，以免后代骂我卖国贼。老子什么也不怕，我这个臭皮囊早就不打算要了！”
张作霖越说越生气，竟把旱烟袋猛地往地上一扔，那宝贵的翡翠烟嘴即刻便被摔成了两半。
此时，日本华北驻屯军参谋浦登江也在劝张学良、杨宇霆等奉军“新派”退回关东。在此情况下，张作霖见大势确实已去，也就只好忍痛答应先退守关外，再从长计议。
5月30日，蒋介石的北伐军攻占了河北重镇保定，前锋直指北京。张作霖顿时慌了手脚，连忙召集张学良、杨宇霆等紧急磋商，决定退却。
正当张作霖打算退回东北老家时，森恪在东京主持召开由外务、陆军、海军、大藏各省主要官员参加的会议，讨论对东北问题的处置方案。经过6天的争论，仍然各执己见。最后，森恪决定：“按既定方针进行。”看来，日本要明目张胆地将“满蒙”从中国版图分离出去了，由日本负责东北3省的“治安”。
6月1日，北京居仁堂。张作霖在这里举行招待会，同各国外交使节告别。次日，张作霖发表“出关通电”，说了一通冠冕堂皇的话：“本为救国而来，今救国志愿未偿，绝不忍穷兵黩武，整饬所部退出京师（北京）。”通电发出后，张作霖想想自己辛辛苦苦地从关外来到关内，只当了一年的“大元帅”，现在又要打道回府，不禁潸然泪下。
2日晚8时许，张作霖在文武官员前呼后拥下走进火车站。这里竟然有仪仗队，还有乐队，就连撤退，这位“大元帅”也忘不了还要摆摆威风。
与张作霖同行的有大元帅府的人员、卫队和他的六夫人，还有靳云鹏、潘复等。专列共有22节（有的说是20节），张作霖的豪华包厢位于中间，以前是慈禧太后的专用车厢。