作为一方军阀，张作霖不管是否具有爱国心，但此时此刻，他对拥有超强实力的日本只能是巴结讨好，希望在自己羽翼丰满之前不至于遭到日本人的攻击或暗算。他深知，在日本人的势力圈内，只有取得日本人的支持，才能站稳脚跟，渐次发展。为此，他便不遗余力地讨好日本，以图取得日本人的好感，并进一步得到日本人的支持。
日本人不是傻子，知道张作霖这样的中国军阀们利用他们想干什么，但此时的日本还没有做好全盘侵华的准备，只能利用中国人维护地方秩序，巩固他们在东北的既得利益，于是双方自然开始接近。有了日本人的支持，张作霖就没有了后顾之忧，这为他扩张势力打开了方便之门。
然而，志得意满的张作霖没有想到，就在他刚刚和日本拉上关系不久，一场由日本人策划的针对他的暗杀计划正在悄悄进行。那么，日本人既然要利用张作霖为他们服务，为什么又要暗杀他呢?
原来此时的张作霖已经掌握了奉天省的军政大权，有了相当的地位。在日本统治集团的内部，对张作霖却存在截然不同的两种看法。
这些看法和当时日本极力推行的“满蒙独立运动”紧密相关。所谓“满蒙独立运动”，其实就是日本人想把内蒙古东部和整个东北变成一个实体，成为一个独立的国家，建立满蒙王国，由日本托管。
温和派认为，要想彻底实现满蒙独立，必须利用张作霖在东北的地位，积极鼓动张作霖宣布独立，这样东北就会脱离清廷，而日本就可以借自己超强的实力控制局面，进而事实上占领东北。温和派的代表人物是日本参谋本部次长田中义一、日本外务省和日本驻奉总领事等人。
而强硬派却认为，要达到这个目的，就必须依靠宗社党和内蒙古叛匪。他们的主要代表人物是日本浪人川岛浪速等，他们认为张作霖是实现“满蒙独立运动”的最大障碍，必须除掉。
这两派在政见上水火不容，自然互不联系，各干各的。于是，川岛浪速一伙暴徒策划了一个暗杀张作霖的阴谋。他们认为“擒贼先擒王”，企图杀死张作霖，然后趁乱夺取省城奉天，使东北成为宗社党的天下，日本便可乘机操纵之。
5月27日这一天，天皇之弟闲院宫载仁亲王回日本时经过奉天，张作霖为表示尊敬，就到奉天车站去迎送，还特率其部下27师53旅旅长汤玉麟等乘五辆豪华俄式马车，在骑兵卫队的护卫下，大张旗鼓地赶往车站。日本驻奉天总领事矢田也到车站迎送。
张作霖送走贵宾后，准备打道回府，刚走到小西关附近，突然一颗炸弹从旁边一层楼扔了出来，刹那间，小西门大街硝烟弥漫，乱作一团。也是张作霖命大，冥冥中似有天意。那天，张作霖不知怎么的，让汤玉麟坐在豪华马车上走在了前面，而自己却乘坐一辆一般的马车跟在队伍后面。炸弹爆炸时，张作霖立马惊觉，马上以最快的速度跳上马背，与自己的卫兵换了衣服，飞驰而去。
他打算绕道从胡同穿过大西门驰回将军行署，但在路经大西城门里的奉天图书馆时，突然从图书馆门洞里跑出来一个人，手拿炸弹向张作霖扔去。但张作霖干过骑兵哨长，马上功夫还确实了得，纵马如飞，扔出来的炸弹在张作霖的身后爆炸，没有炸到张作霖，却将那个刺客自己炸中了要害，当场死在了大街上。
张作霖惊慌失措地跑回自己的将军行署，立即命令卫队紧急集合，在门口架起了机关枪，高度戒备。督军署也紧急出动，立刻封锁了浙江会馆、通天街等周围地区。
一会功夫，遭遇袭击但只受轻伤的汤玉麟紧急赶到了将军行署，他风风火火，来不及下马就一连声问：“将军怎么样，回来了没有?”卫兵回答他早回来了，没有受伤，汤玉麟这才放下心来。
张作霖看他进来，气愤地问道：“他妈拉巴子，谁干的?逮着没有?”汤玉麟答道： “有一个死了，其他人跑了，不知道有几个人!”
正在他们气还没喘匀时，卫兵报告“日本铁道守备队队长和日本驻奉总领事来慰问”。张作霖与汤玉麟对视一眼，心照不宣：“来得好快!”他们心里都明白，日本人慰问是假，探听情况是真。
日本人进入客厅，一副完全事不关己的模样，对张作霖是嘘寒问暖，张作霖也若无其事，好像什么事也没有发生似的，语气非常轻松地说： “这么点小事，还有劳各位专程来探望，张某真是受宠若惊啊!”日本人看到张作霖遭此大变，还能神态自若，举重若轻，心里也不禁有几分佩服i
事后检验那个刺客的尸体，没有发现有价值的东西。虽然穿戴的是中国老百姓的服装，但他的脚型明显是常穿木屐的，可以确认是日本人。其实，张作霖心里也知道是日本人干的，但自己毕竟在日本人的势力范围内，双方闹翻对自己没有好处，再说自己只是虚惊一场，没有真正受到伤害，所以只能大事化小、小事化了，他特意找了个公开场合，轻描淡写地说： “算了吧，单从脚型判断凶手的身份也太牵强了，证据不足。”
但由于没有受到致命的伤害，而且又在日本人的势力圈内，不得不忍气吞声，也就不再追究，不了了之了。张作霖为了尽快平息这起突发事件，故意在一个场合，当众说道： “证据不足，不足!”也就把这个事件敷衍了过去。
其实，这次爆炸事件刚一发生，日本总领事就在第一时间到达现场，根据炸弹的特点，已经很明白这就是日本人干的。
经过这次爆炸，张作霖已经非常明白，日本人没安好心!但自己要想有所作为，暂时还不能离开日本的支持，所以心里埋下了对日本人不信任的种子。很快，这粒种子就要发芽了，这就是郑家屯事件。
日本人在暗杀张作霖未遂后，又制造事端，企图攫取更大的权益，于是制造了郑家屯事件。
郑家屯位于奉天省的西北部，属内蒙古东部的哲里木盟，就是今天的双辽。这个地方不是南满的铁道附属地，即使依据同日本的不平等条约，这里也是不准日本驻兵的。但是因地理位置十分重要，日本便强行派一支军队驻扎在郑家屯，甚至还公然设立日本巡警署。张作霖无法容忍别人在自己的身后插一把刀，多次交涉让日军撤退，但日本人根本不加理睬。
1916年8月13日，郑家屯的日侨吉田在街上买鱼，给价太低，卖鱼的小孩不想卖，吉田就动手痛打这个小孩。当地驻军第28师骑兵第28团的士兵看不过去，就对吉田加以劝阻。吉田恼羞成怒，动手殴打士兵，没想到的是，他打不过这名士兵，吃了亏的吉田就跑到日军守备队告状，日军马上派了一支百多人的部队来到奉军驻地挑衅并悍然开枪，奉军不得不开枪还击，结果发生枪战，双方各伤亡10余人。
一场短暂的接触战后，日军现场指挥官松尾中尉立即用加急电报通知附近日军，让他们火速增援。很快，日军两个大队从铁岭方向赶来，他们强行占据了辽源镇守使署和中国军队营房，同时还张贴告示，宣布自郑家屯至四平街沿线30里内，不准华人入内。就这样，还在四郑铁路没有通车的情况下，日军就将这一条线路划给了自己。
关于郑家屯事件，日本公使向中国提出苛刻的要求，张作霖断然拒绝了在东北派驻日本警察和向东北各部队派遣日本军事顾问的无理要求。后来北京政府为了委曲求全、息事宁人，还是对日本人做出了让步，答应处罚有责任的军官，奉天督军向日本领事、关东都督道歉，给日本商人吉本抚慰金500元。以上条件实行后，日军才从辽源撤出。
不过正是由于张作霖的坚决抵制，日本人想在东北设立警察和聘请日本军事顾问的要求均没有实现。从这点上来说，张作霖是识大体、顾大局的。
山海关外皆我家
张作霖刚当上东北王，但自己的实力并不十分雄厚，吉林、黑龙江各地还有大大小小的军阀盘踞，各有自己的势力范围。
张作霖要想实现自己称霸关外的抱负，必须得到强有力的支持，这个外力无疑只能是日本人。那么，日本人对张作霖又是什么态度呢?
真是打瞌睡碰上了枕头，就在张作霖绞尽脑汁为如何与日本人打交道犯愁时，日本的政局发生了重大变化。1916年10月，大限重信内阁倒台，寺内正毅上台组阁。
由于大隈重信搞出的“二十一条”遭到了中国人的强烈反对，使中国人反日情绪高涨，所以寺内正毅上台后变换了对华的侵略手法。他认为对北京政府应该运用大借款的方式，支持段祺瑞“武力统一”中国的政策，在东北，决定支持张作霖“统一东北”，以达到“满蒙独立”的目的，从而控制整个满蒙地区。
当时日本还有个政府高级谋士后藤新平，1906年曾任南满洲铁道株式会社第一任总裁。1908年，历任日本递信大臣兼铁道院总裁、拓殖局总裁。他算是个中国通，日本政府对华决策很多时候都要听取他的意见。他写了一本 《日支冲突之真相》，书中关于日本如何对待张作霖，他提出了自己的看法：“张作霖并不是个官宦世家，跟中央政府也没什么关系，他的心里只有权力，没有什么民族观念!张作霖觉得日本人在东北实力最强，想要投靠我们。如果我们支持他当上东北王，那么日本就可以利用张作霖在满洲为所欲为。”
他的想法与寺内正毅不谋而合，于是日本政府开始改变对华策略，那就是“日本必须援助张作霖”。以后，日本确实把宝押在张作霖身上，极力支持他。张作霖取得奉天军政大权时，还有个冯德麟拦在前面，日本人表态支持张作霖，使得冯德麟根本不敢与张作霖武力对抗，最终让张作霖取得奉天。
在夺取吉林省的大权时，张作霖又得到日本的支持。日本为了帮助张作霖打击孟恩远，制造了宽城子事件，使得吉林守军不战而退，束手待毙。这样，张作霖就把自己的势力扩展到了吉林省。
同时，张作霖也在用各种方式答谢日本。
首先就是聘请日本顾问，据统计，自1913年到1931年的19年间，张作霖父子先后聘用日本顾问18人，其中军事顾问13人、私人顾问3人、普通顾问和警察顾问各1人。
由于日本人在中国的名声实在不好，老百姓普遍反对，尤其是有知识有文化的大学生们，更是对日本人恨之入骨，屡屡游行示威，要求日本退出东三省。为了不让双方矛盾激化，张作霖也不得不考虑日本人的态度，多次强行干涉学生活动。1919年5月4日， “五四”运动爆发，军阀张作霖严密封锁外界消息，严禁奉天学生罢课游行，甚至宣布“对有妄动行迹者予以枪杀”。
由于张作霖的镇压措施，当时全国只有奉天派军警监视各校学生，让他们行动没有自由，于是奉天的抗日火苗慢慢也就被张作霖扑灭了。对这点，日本人看在眼里、喜在心上，当然更加卖力地支持他了。