1927年6月间，亚洲局局长木村，向日本外务省提出一份《有关中国时局对策的考察》的报告，指出：“总是以张作霖为惟一支持的目标，是极为短见的，而且是颇不策略的。”因为“从张作霖的现状来看，他在中国国内各政治家、各团体、各军人中间的无威信已成定论，现在恢复他的政治威望，不过是空想。”“必须抛弃和他生死与共的想法，为此，对他不但要绝对不予援助，必要时对他施以相当压力，亦在所不辞”。这表明，日本外交界及军界的强硬派，开始对张作霖产生“卸磨杀驴”的念头。新上任的田中首相兼外相，在听取了上述建议后，并没有立即表态。田中准备召开一个讨论对华政策的重要会议，来制定新的对华政策。
这个后来被称为“东方会议”的重要会议，于1927年6月27日至7月7日在东京召开。参加会议的有日本驻华公使、驻华各领事馆总领事、满铁社长、关东军司令、关东厅长官及外务省有关官员。在讨论对华政策，特别是“满蒙政策”时，与会者虽然在某些具体做法上看法有分歧，但在基本的方针上却完全一致。最后，田中在会上作了训示。会议根据田中训示的精神，通过了一个《对华政策纲领》。纲领首先强调：“鉴于日本在远东的特殊地位，对中国本土及满蒙，自不得不有所不同”。接着，该纲领对有关“满蒙问题”作了几条规定，它虽然说是隐晦曲折，不像吉田、森恪、斋藤等人说得那么露骨，用日本人自己的话来说，即用糯米纸包装了一下，但其实质仍是要将东北与中国相分离，并决心在必要时以武力来达到这一目的。正如后来森恪所承认：东方会议就是要“使满洲脱离中国本土，置于日本势力之下”，“如果这样露骨地说，可能招致麻烦，所以给它包上了‘东方会议’的糖衣”。
《对华政策纲领》虽然也没有像吉田、木村等人那样明确地表示要抛开张作霖，但在字里行间也包含了这样的意思。即如果张作霖回心转意，愿对日本言听计从，日本可继续支持他；反之，则日本将予以断然处置。实际上，东方会议之后，日本就是这样做的。这里的关键，是要看张作霖究竟能不能满足日本的条件。
东方会议期间，与会者还研究了如何在“满蒙”推行“积极政策”的具体办法，并一致认为，应首先逼迫张作霖控制的东北当局或北京政府，同意铺设具有高度战略和经济价值的几条铁路，并以此作为突破口。会议还决定，在“满蒙铁路计划”中，应首先落实吉林至会宁、长春至大赉、昂昂溪至齐齐哈尔、通辽至鲁和新丘运煤线等五条新铁路。这些铁路线将把日本殖民地朝鲜同中国吉林、黑龙江两省的铁路联接起来，日本军队将来可以通过朝鲜直接侵入到“北满”地区。这既有利于日本加强对整个东三省的军事控制，又便于它掠夺东北的经济资源。
会后不久，田中便双管齐下，一方面指示吉田与奉省当局继续举行谈判，压迫其答应日本包括建筑“新五路”在内的各种要求；另一方面，任命山本条太郎为满铁社长，让他以首相代表的身份，寻找机会直接与张作霖秘密交涉，迫使张作霖接受日本的条件。
在1927年7月20日的训令中，田中指示驻奉天总领事吉田说：须对奉天当局采取软硬兼施的政策，可暂时默认奉方征收海关二、五附加税，以此作为“胡萝卜”，诱惑奉方，奉方如仍不答应日本要求，则示之以“大棒”，即“暗示”奉方，日本将不准奉方利用南满铁路送运军队和军用物资，不准京奉路上奉方的军用列车通过南满铁路交叉点；拒绝向东三省的兵工厂供应煤炭和其他原料，取消该地区所有日本机构同奉方的合作，等等。
一向以傲慢、强硬态度著称的吉田，虽然在以往的交涉中多次碰壁，但并未从中吸取教训。现在又自以为有了尚方宝剑，更不把奉天当局放在眼里了。7月23日，他开始同奉天省长莫德惠举行谈判，吉田气势逼人，一再迫奉方当局反省，莫德惠则默不作声。7月25日，吉田与莫德惠再次会晤。据吉田的报告说，这一次莫德惠虽“和颜悦色地屡试闲谈”，却“显示了极力回避接触交涉案件的态度”，而吉田则促其对日方要求反省的备忘录作出回答。他恫吓莫德惠说：“历来奉军有赖于我方之处甚多。田中首相在东方会议上就对华方针问题已经说明，如不尊重我方特殊地位，不取得政局稳定，帝国政府将不予支持。若无帝国政府之支持，则奉军前途可想而知。”在吉田的一再逼迫下，莫德惠只好表示，当在四五天内以书面作出答复。
吉田在这两次交涉中的态度，充分表现出了日本帝国主义的蛮横和霸道。吉田的计划是，先在气势上将奉方压下去，然后迫其答应日本的各种要求，特别是关于建筑新铁路的要求。
但是，吉田的如意算盘并未实现。张作霖对于吉田的蛮横十分反感，决定不予理睬。因此，几天过去了，莫德惠并没有给吉田任何“答复”。在这种情况下，吉田决定将田中所说的威胁措施向奉方明确提出，并准备予以实施。
8月4日，吉田让峰谷领事代表他与莫德惠见面，宣布日本决定将于8月7日起停止京奉线的军用列车通过南满铁路及其附属地区。
吉田的蛮干和独断独行，不但激起了奉张的反感，也引起了日本驻华公使芳泽、武官本庄繁及关东厅长官儿玉秀雄等人的不满。张作霖在接见本庄繁时愤怒地说：“阻止军事运输之类的恫吓，对我这样的老人来说毫无用处。这样做的结果，只会使我排除万难，自主地修建铁路。”本庄繁等人也纷纷致电东京，表示不赞成吉田的做法。田中也看出过于强硬结果是适得其反。因此，8月5日，他急电吉田委婉地否定了吉田使用强硬手段的做法，此后，吉田实际上就被晾在了一边。
此时，一个反对日本侵略的群众斗争浪潮，正在东三省掀起。东三省民众的反日运动，最初是由日本想在帽儿山强行设立“领事分馆”引起的。1927年5月间，愤怒的民众包围到达临江县城的日本副领事，捣毁了“领事分馆”。同年8月，日本与奉天当局开始谈判后，奉天各团体成立了“外交后援联合会”，明确提出“反对东方会议决议”“反对田中内阁的‘满蒙积极政策’”“废除二十一条”等口号。奉天、洮南、长春、哈尔滨还举行了反日示威游行，参加者最多时达几万人。东三省民众的反日斗争，与全国民众反对日本出兵山东的运动相呼应，声势越来越大。
田中内阁见强硬手段不灵，同时也觉得与东北地方当局的低级别谈判根本不起作用，于是决定将“满蒙问题”的官方交涉从奉天移到北京，由驻华公使芳泽直接与张作霖、杨宇霆进行。
8月23日，芳泽在北京拜会刚当上“陆海军大元帅”的张作霖，将田中的亲笔信函和所赠礼物转交张作霖，同时送上日本方面有关解决“满蒙悬案”的备忘录。张作霖借口自己不知详情，让芳泽与杨宇霆交涉。8月27日，杨宇霆会见芳泽时，按照张作霖的指示，提出有关“满蒙”的问题应交由地方当局交涉，实际上是进行拖延。杨宇霆还批评吉田盛气凌人，使奉方难以忍受，希望芳泽转告吉田把脾气放好些。芳泽说地方当局解决不了问题，坚持要在北京交涉。
就在芳泽与张作霖、杨宇霆的直接交涉开始后不久，奉天的反日运动再起高潮。9月3日，奉天市民在总商会内召开反日大会；9月4日，民众又进行大规模的示威游行。日本外务省的情报记述了这次反日斗争的具体情况，写道：
各家各户门口挂起了排日宣传旗，约两万群众各自手持排日口号的三角形小旗，以消防汽车开路，女子师范学生、商工团体、男学生团体跟在其后，开始了示威游行。途中高唱排日宣传歌曲，愤怒高呼“打倒田中内阁”“打倒帝国主义”“取消二十一条”等口号，散发排日宣传传单。他们在城内各个街道游行后散去。5日、6日，发生了过路的日本人遭到谩骂侮辱事件达数十起，日本商人的大门也遭到敲打和破坏……中国人对日本人的态度越来越凶恶。
面对中国民众的强烈反日情绪，田中内阁十分怀疑奉张在幕后唆使，从而以民意为借口拒绝日本条件。日本的怀疑缺乏足够的根据，但奉天当局并未阻止大规模的反日浪潮，这倒是事实。
9月6日，田中首相兼外相对北京芳泽公使发出了要求张作霖表明态度，制止反日运动的严厉训令：
关于此次满蒙交涉，如所知悉，中国方面采取种种毒辣的对抗办法。最近奉天的排日示威运动，终于提出了打倒田中的口号，理应说纯粹是对帝国政府的轻侮行为。因此，希台端立即会见张作霖，本大臣以特别命令提出如下要求，并将会见结果电复本大臣：
在中国各地历来出现排外示威运动，但未曾指出友邦内阁之名，亦未标榜打倒此内阁者。南方激进分子亦未敢作如此有意侮辱外国政府之异举。
然而，这种运动发生于历来口称对日亲善、对日本内阁最表敬意之张作霖之根据地――奉天，而且公然于白天在本国官民面前进行。根据掌握的情报，上述运动之中心――商务总委员会预先取得张作霖本人的同意，由此得到鼓舞，进行大规模示威运动。
希向张作霖追究，查明其真意，张作霖对此运动究竟是否表示同意？对提出侮辱日本现内阁之口号，进行示威活动，是否默认？对此情报内容，张作霖是否知悉？如张作霖未予同意，即应取缔，参与运动者自不待言，其唆使者亦当取缔。
希同时告知，此次排日运动以及最后在满洲其他地方对日关系之恶化，有东三省当局之幕后怂恿，此种情报屡有传入本国。历来对张作霖表示同情的日本朝野，也对张的态度不满。在对张的关系方面，议论顿有变得强硬之征兆。朝此方向发展下去，结果日本将来与北京和满洲地方当局的关系，令人甚为忧虑。
第二天，即9月7日，芳泽便遵命会见张作霖，向他提出严重抗议。9月9日，芳泽又宣布暂时中止交涉。在这种情况下，张作霖也担心与日本发生公开冲突，不得不下令取缔反日运动，并撤消莫德惠的奉天省长职务。以刘尚清取而代之，希望缓和与日方的紧张关系。
关东军“卸磨杀驴”
通过芳泽公使的政府间交涉虽然暂时停止了，以首相特使山本条太郎为主角的秘密外交，却在悄悄地加紧进行。
8月27日，山本赴大连就任满铁社长。他先派与张作霖关系密切的江藤丰二，到北京进行试探和疏通。曾担任过“中日实业公司董事长”的江藤，带着东方会议通过的“满蒙铁路计划”会见张作霖。张作霖见到这一计划后十分吃惊地说：“这不是日本准备跟俄国开战的铁路吗？”他清楚地知道，修了这些铁路，犹如“怀里抱着炸弹”一样的危险，故表示不能接受。江藤立即威胁说：“如果你不合作，日本军队将要帮助你的敌人蒋介石！”张作霖踌躇再三，终于圈了四条铁路。江藤仍不满足，催促张作霖说：请再圈一条吧。这不过是五十步与百步的区别。于是，张作霖又圈了一条。张作霖拿笔的时候，似乎浑身都在哆嗦。圈完，他一再叮嘱江藤：“这只是预备性商谈，你们暂且不要发表。”
江藤的试探成功之后，便回大连向山本报告。山本又派自己的妻子到北京探虚实，在听说张作霖对山本夫人的款待非常热情、隆重时，他认为时机已经成熟，便决定亲自出马。
10月8日上午，山本抵达北京。当天午后，山本便带着江藤和张作霖的顾问町野，到大元帅府拜访张作霖。山本的风格与吉田、芳泽不同，他故意把大事加以轻描淡写，利用张作霖豁达的性格，在嘻嘻哈哈中谋求成功。
不过，真谈到要害问题时，张作霖并不那么容易上钩。当他们于10月12日再次会见，山本提到铁路问题时，张作霖仍借故推脱，非要把杨宇霆请来一起谈。杨宇霆则坚持要对山本提出的协约草案进行修改。此事一直拖到10月15日，张作霖实在挨不过去了，不得不在协约上签了个“阅”字，但仍不愿签自己的名字。日方则不管这些，即以此证明张作霖已同意协约。
这一协约规定：中国政府委托“满铁”承办建造五条铁路，即敦化经老头沟至图们江江岸线、长春至大赉线、吉林至五常线、洮南至索伦线、延吉至海林线。协约还规定：上述五条铁路竣工移交后，承包款项即应付与满铁，如不支付，即转为“借款”。作为交换条件，山本同意东三省当局修筑吉林至海龙铁路，但不准将打虎山至通辽铁路扩展到通辽以北，也不准修筑开通至扶余的铁路。协约的最后一条写道：“本协约签字后须两国政府的代表正式签字。”这说明，此协约目前仍系草案。
获得此项成果后，山本还不满足，企图再让张作霖同意签署政治和经济两项协定草案。他得寸进尺地对张作霖说：“苏联从北方威胁你，蒋介石的北伐从南方袭来，你的处境太危险。日本愿协助你保住满洲。为此，双方应建立政治与经济联盟。”
所谓的政治协定，就是《关于维持东三省治安案》。此案实际上是一份以“中华民国政府外交总长”的名义致日本政府的“换文”草稿，内称：“日本政府鉴于东三省之治安与日本领土之安宁和经济利益具有重大影响，因此，‘当东三省之治安混乱或有可能遭受破坏时，不问其原因来自民国外部或内部’，为‘维持地方治安’，日本政府‘将采取必要之措施’。”
所谓的经济协定则规定：日本人在“满蒙”享有自由居住往来、经营商工农林矿等业和商租土地的权利；“满蒙”生产制造的一切货物得自由出口；实施“二十一条”中将旅顺、大连和南满铁路的租借期延长为九十九年的条款；有关“满洲”的其他一切中日条约继续有效。
显然，山本提出的这两个协定草案，实际上是要使日本接管东三省并实行军事占领合法化，是要使“二十一条”有关东三省的条款得到全面落实，为将东三省从中国分离出去扫清道路。张作霖一看到山本的草案就明白了日本的意图。事关东北的存亡，张作霖既不愿意，也不敢接受日本的要求。不论山本如何威胁利诱，张作霖均加以拒绝，故山本的这一目的没有达到。
由于山本所进行的秘密外交，对日本驻华公使芳泽也加以隐瞒，因此，当芳泽偶尔从杨宇霆口中得知此事后，十分不满。他致电田中指责满铁社长越权插手外交事务，要求田中加以制止。山本实际上是田中指派的，但此时田中却加以抵赖，他复电安慰芳泽说：“本大臣毫无所知，山本所为实在不妥，已予告诫。”其实，芳泽虽对撇开自己搞秘密外交的做法不满，但对山本获得的侵略成果并不反对。因此，当风波平息之后，田中便让芳泽出面重开交涉，将山本的草约变成政府间的正式协约。田中担心，张作霖仅在草约上写了“阅”字，连名也没签，他将来很可能不承认这一并无正式效力的草约。田中认为，只有让公使出面，把以私人名义达成的草约用官方的形式确定下来，才真正靠得住。
1927年11月间，芳泽根据田中的训令，与张作霖等人会商。他提出，以大元帅张作霖与首相田中交换外交函件的办法，把山本的草约变成政府的协定。芳泽觉得，这种方式既有两国政府间正式缔约的效力，又不易为外界所察觉而遭到反对。
然而，世上没有不透风的墙。张作霖与山本交涉的消息终究还是透露了出去。南方和北方的报纸激烈地抨击张作霖，斥责他“把‘满洲’送给日本”，“想依靠日本援助而当武宪皇帝”，等等。张作霖本来就心虚，如此一来，也十分紧张。他一方面让杨宇霆发表公开谈话，否认此事，一方面则千方百计地拖延与田中的“交换函件”。
可是，拖延术并不能帮助张作霖摆脱困境。由于日本方面催逼得太紧，张作霖不得不最终于12月5日致函田中。也许是为以后推翻承诺留条后路，张作霖在函中故意含糊其词，只是说：“日前山本社长来京所谈之事，敝意深愿以诚意商议”，“各该案详细规定，现拟饬由各该地方官逐项拟订。”也就是说，张作霖并未对山本所提要求表示赞同与否，只是同意进行协商。但是，对张作霖秉性一清二楚的日本决不肯让他再玩花招，田中在复函中一口咬定：“关于铁道问题一节，必须以阁下与山本社长之间达成之协议为基础，以期圆满解决。”以后，日本方面又多次片面地强调，这次“交换函件”已完成了由田中首相与张作霖大元帅间签订大纲协定的法律手续，剩下的步骤只是按照协定的规定，由“满铁”与中国铁路当局签订具体的“承建合同”了。
张作霖虽然被迫答应了日本建造新五路的要求，但从内心讲，他实在并不情愿。不过，到了这种地步，张作霖已无其他办法，只好在签订“承建合同”上做文章了。他的办法还是两个字：拖延。因为拖着不签“承建合同”，协定仍不能实施。所以，张作霖尽可能地拖，一直拖到1928年5月份，“承建合同”仍未签订。
然而，就在张作霖拖延不签“承建合同”的几个月里，国内政局的发展却对张作霖越来越不利，终于把他逼到了绝境。
南京国民党阵营内的各派在争吵了几个月之后，终于在1928年初达成暂时的妥协。同年1月，蒋介石同国民党内的其他实力派冯玉祥、李宗仁、阎锡山等人取得了谅解，重新上台，再一次当上了北伐军总司令。接着，所有参加北伐的军队组成四个集团军。由蒋介石、冯玉祥、阎锡山、李宗仁分别担任第一、第二、第三、第四集团军的司令。4月初，以蒋介石为首的北伐军，向张作霖的所谓“安国军”发起了全面攻击。
1928年2月间，针对即将开始的蒋介石等人的北伐，张作霖在北京连续召开几次军事会议，商讨军事部署。会议决定，“安国军”对京汉路、津浦路暂取守势，对山西方面则取攻势。会议还决定，以张学良的第三、四方面军主力及张作相部进攻山西，以第三、第四方面军的一部分配置于京汉路，对豫北取守势；以褚玉璞、孙传芳、张宗昌部驻大名、济宁、临沂一线。防御北伐军从豫西、鲁西南、苏北发动的进攻。张作霖的意图是：首先扫除晋军来自山西的威胁，解除后顾之忧，同时以防御战挡住蒋、冯、李各军的进攻，然后再伺机“反攻”。
而北伐军的部署，则以蒋介石的第一集团军沿津浦路北上，次第向泰安、济南、沧州进攻，最后直捣天津；以冯玉祥的第二集团军自新乡向彰德、大名、顺德一带前进，进攻京汉路以东、津浦路以西敌军；以阎锡山的第三集团军沿正太路东进，出娘子关，截断京汉路；以李宗仁的第四集团军沿京汉路北上，占领正定、望都后，与第三集团军会合，进攻保定、北京。
从蒋介石和张作霖双方的部署看，真可谓针尖对麦芒。但就双方的实力和士气而言，北伐军显然占有很大的优势。因此，4月间战斗一开始，张作霖的“安国军”便连连受挫。