北洋时代的吴大帅偃旗于四川白帝城数年后，报纸上忽然又有了他的动静。原来，老吴静极思动，便藉调解西北地区汉回民族纠纷之机，起身去了甘肃。
时值“九一八”事变爆发，西北五省的新军阀马步芳等人见天上掉下个吴老帅，连忙联名通电中央，要拥戴他出山领导抗日。通电云：
窃以吴上将军子玉，为国元老，韬晦蜀中，于兹数载，虽身寄乎山林，心常系于国家。值此外患危急之秋，翩然莅陇。谢安虽老，共仰东山。矧其前戍辽东，适逢日俄战役，满洲形势，日本军情，观察靡遗，了如指掌。应请中央及全国袍泽一致敦请出山，主持对外军事，为政府外交之后盾，做人民救国之先锋。
你看，连吴氏早年曾在日俄战争中做过谍报工作的经历也成了人们拥其出山的资本。只是，马家军将领们的别有用心令老蒋脊梁杆子直冒冷汗——“请中央及全国袍泽一致敦请出山”的目的，竟是要吴佩孚“主持对外军事”！
蒋介石颇感警觉，深恐吴佩孚真的东山再起，便一面电请“玉帅”入京（南京）共谋国是，一面急令杨虎城部进兵兰州，逼迫老吴赶紧走人。
吴佩孚最后的机会失去了。他再也无号令千军万马的可能了。民国二十一年（1932年）初，他不得不离开甘肃，辗转回到旧日京城。
执政了的蒋介石先生显然是一位很看重军人骨气的人，他不仅没有羞辱曾被国民政府通缉的败军统帅吴佩孚，反倒允许“孚威上将军”保留着昔日的尊严——前面说过，他请孔祥熙持自己的亲笔信和十万大洋北上看望过吴氏，并借北上视察之机设宴款待过“玉帅”。胜军总司令与败军之帅相见，当朝与在野的地位不同，当然礼节重于内容。杨森后来称，蒋、吴会面后，“自此遂成莫逆”，显为溢美之辞。两个都够倔强的汉子的第一次也是仅有的一次见面，想必成不了莫逆之交的好朋友。但蒋氏对前辈军人领袖的敬重却实在令我意外——原来他和吴氏一样，最看不起的就是那些没骨头的军人，不信你数数看，投过来叛过去的，有几个将领能得到蒋介石的真正尊重？
吴佩孚晚年，一直待在什锦花园里，虽还不到六十岁，但已没了叱咤风云的能力，他只有捋着花白的胡须叹息的份儿了。
憋在“花园”里的吴佩孚，每天上午，让秘书读一遍国内外新闻，然后，读《周易》，推演天象。鲜有客人来访。张学良不愿来了，他的蓬莱同乡，在奉军当军长的于学忠也不肯上门了。北洋故人，谁也受不了吴大帅的当面责备。
只有家人相伴了。
吴佩孚一辈子想做“完人”，而中国完人的标志之一，就是对发妻要从一而终。因上苍不悯，吴氏的结发夫人宋氏没等过门儿即命丧黄泉，三十岁上，他才趁在日军驻芝罘岛（烟台）情报小组工作期间回乡与李氏成婚。李氏算是他真正的元配。
青春期时的吴子玉，曾幻想把“戒淫”当成一生的头等大事来做，他写过：
率性而节欲，可庶几于圣贤；纵欲而灭性，则近于禽兽。
他说得够狠的！你想当圣贤，就要节制欲望，否则，就是禽兽！不是东风压倒西风，就是西风压倒东风，在“性”的问题上，没有调和的余地。他比别人更想做个道德完善的真君子，所以，就恪守传统，就谢绝纵欲。
一个人年轻时“戒淫”并不难，难的是一辈子“戒淫”而不纵欲。老吴算是难能可贵的一位。第三师驻军长春时，因李氏没为他生下个孩子，再加上婆媳不和，在母亲的坚持下，他纳妾张佩兰。李氏乃不肯与侧室共居一处的正室，遂坚决要求回家。如此一来，吴子玉也破了金身，成了有妻亦有妾的俗夫子。
不过，老吴极重传统，尊卑分明，虽与张氏同居至死，但对元配李氏一直以礼相待。李氏病故后，他曾对自己聘用多年的日本顾问（早年在芝罘岛军情小组的战友）冈野增次郎说过：将来武力统一中国以后，欲往峨眉山皈依佛门，为战死的众多将士和李氏的亡灵超度。冈野问：张氏如何处置？吴却道：张乃第二夫人，不值一提。这是冈野氏在其《吴佩孚》（1937年，日文版）书中所记，足可见传主之伦理道德是何其传统。
然而，张佩兰仍然未能有孕，多年后，便主动献上了自己的婢女为夫做二妾，希望该小女子为吴家留下子嗣。可是这位小夫人登堂入室后，依然腹部平平。
三位夫人，均未生育，现在可知问题出在老吴自身。婚后不育乃人生之大疾，自古以来就被认定是女子的责任，直到20世纪中，人们才知道，其实男人的原因甚于对方。
吴佩孚是个既有魅力而又极有责任感的伟丈夫。据当时的报纸传，有一位叫露娜的德国小姐，慕名前往洛阳的“直鲁豫巡阅副使署”求见吴大帅。见到倾慕已久的偶像后，该洋妞神魂颠倒，当场表白要嫁给玉帅！四十几岁的吴佩孚不为所动，硬把金发碧眼的求婚者打发走了，一抹脸，也把洋妞倾在面庞上的脉脉秋波拂得个一干二净！可怜的露娜怏怏写信给吴，诉说了一通爱慕抑或幽怨。吴氏阅罢，如同批阅军中电文一样，极简捷地批了四个字：“老妻尚在”，便让副官把信付邮，了却了这段海外情缘。
在那个年代，以吴佩孚的身份，妻妾成群属正常，嫖宿召妓也不为过，像他的顶头上司曹锟、袁世凯的长子袁克定，都是美女、帅男兼爱的纵欲主义健将。比之领导们、同僚们、部下们，吴玉帅也算是清教徒吧！
更让人钦敬的是他对自家人的“绝情”——陶菊隐在《吴佩孚将军传》里讲到，吴氏曾下令：“凡吴家近亲，上自父辈，下至自己之后三代，即天、孚、道、运、隆五世，永不叙用”，即永远不能在自己手下当官！这种大公无私，真可谓前无古人，后无来者，廉洁得让人惊心动魄！国人历来信奉“打虎亲兄弟，上阵父子兵”，到了“枪杆子里面出政权”（毛泽东语）的近现代，南北东西各路强人——甭管他打着多么堂而皇之的政治旗号——多是以国为家，以血缘为纽带，以妻子或儿子为主要帮手甚或继承人，以私交为任用基础，来争抢国家权力，正所谓“任人唯亲”也。无论北洋军阀袁世凯、张作霖，还是国民党领袖孙中山、蒋介石，概莫能外。吴佩孚的“永不叙用”论，实在高出诸公一大截！
族谱上说，吴文孚历任步军统领署顾问、总统府谘议，陆军少将衔。无疑他是沾了二哥的光，被政府安排了只拿钱不上班的差事。
客人很少造访了，他也更少出门了。因为费用拮据，他遂将卫队一再裁撤，到后来，只剩三百余人了。
民国二十五年（1936年）12月11日那一天，他出门了，而且穿戴得很正式。那一天，是前临时执政段祺瑞先生的灵柩运抵北平的日子。
国府驻北平的最高军政长官已经换成了山东老乡宋哲元。在前门火车站，站在宋哲元旁边的久违了的吴大帅引人注目。谁都记得，正是这位吴子玉，当年率先向逝者发难，才让段总理仓猝下了台，北洋军自兹分裂成各派系。一别十余载，师生兼宿敌分居津、平两市却从未谋面。而今，满洲已经建“国”，华北形如累卵，倭人步步紧逼，国府节节后退，借老师驾鹤西去之际，刚毅的吴子玉站了出来，为老段送上了一副传诵一时的挽联：
天下无公，正未知几人称帝，几人称王，奠国著奇功，大好河山归再造；
时局至此，皆误在今日不和，明日不战，忧民成痼疾，中流砥柱失元勋。
车站外扎起的高大素牌楼正中，也是吴氏的手迹：
还我山河
峨峨哉，吴子玉！
若没有日本人的入侵，吴佩孚原本是要在北平城里颐养天年的。可是，卢沟桥事变的枪声打断了他的残梦。
民国二十六年（1937年）初夏，日本人通过卢沟桥事变快速侵占了北平，一直不肯去南方做蒋的清客的吴佩孚没有离去，成了敌寇辖下的高级寓公。
和吴一样留在北平的一些有身份的人士，怕死也怕失去悠闲的日子，便摧眉折腰事倭寇，他们出任伪职的经历成了终生难以洗净的污点，这其中不光有吴的一些北洋同僚与旧部，也有北大教授周作人这样的名士。
像所有的异族统治者一样，敌寇急于在占领区建立从属于自己的傀儡政权。日本人看好了两个一直与蒋不对付的中国人，一是政治辈分比蒋还老的汪精卫，一个便是曾统兵近百万的北洋时代最有人格力量的吴佩孚。他们希望“汪吴合作”，一南一北，一文一武，敦请这两位强人出任傀儡政权的头儿，则亡华春梦便可从速变为现实矣！以为梦想成真的日本内阁竟然发表宣言称：今后“不以国民政府为（谈判）对手”！
对占领者来说，实在是不幸得很哪！尽管长得像面首一样可人的汪精卫先生终于答应“合作”，甚至从中国“陪都”重庆逃到法国人控制下的越南河内了，但一直在日本人手底下的吴佩孚将军却沉默如山，任冷落多时的什锦花园突然冠盖云集说客盈门，却统统无济于事！
一波波污流浊水漫过来又退下去，极想把这位闲着也是闲着的退休大帅拉下水，这其中，既有他的前部下，曾任直系苏皖赣巡阅使、十四省讨贼联军副总司令的华北汉奸政权“中华民国临时政府”治安部长齐燮元，更有战后被国际法庭绞死的甲等战犯，日本驻华特务机关首脑土肥原贤二和华北派遣军参谋长坂垣征四郎。吴佩孚不为所动不受抬举不肯附逆，天长日久，院里松柏本色不凋。他甚至极少迈出自己的家门了，即使汪精卫敦请其去日本占领军机关或别的什么地方会晤，其请求也无不统统落空。
本来，日本人对吴佩孚是寄望极高的。且读第二次世界大战后日本“土肥原贤二刊行会”编撰的一段文字：
当时（1938年），日本军以破竹之势，席卷华北、华中、华南。以王克敏、梁鸿志、德王为首的政府相继成立。土肥原作为陆军、海军、外务三省特别委员会的负责人，正在策划在三个政府之上建立以吴佩孚为首的中央政府的工作……
为所谓的“吴佩孚工作”，日本人已耗资三千多万日元。
其实子玉先生也答应过“出山”，条件也极简单，只一条，即：请日本人撤出包括东北在内的所有中国领土。而且，确也有旧部打着他的旗号于河南省城开封一带集结（甚至还在山东境内招过兵呢！），被喜出望外的日军提供武器装备并改编成了“皇协军”，只是后来该部“全部潜逃”，“回归重庆军建制”（日本人语）以后，人们才知道了吴氏的深不可测。
对于那个谄媚地笑着的汪精卫，知书达礼的吴佩孚也回过信，不过话说得很有原则：
离重庆，失所凭依，如虎出山入柙，无谋和之价值，果能再回重庆，通电往来可也。
——你只要还留在日本人占领区，就别来烦我！
坂垣征四郎当面保证过，只要他答应出山，则除日军已经占领的冀、鲁、豫三省外，再加上即将攻占的湘、鄂、赣三省，整个南北六省全部划归吴氏建政，政权名义，“概由大帅自行定夺”！也就是说，如吴氏耐不住寂寞，则现代中国历史上又将出现一个古怪的汉奸政权矣！
然而，吴子玉沉默如山。坂垣立正行军礼退出后，他依然巍然而立。
日本人越俎代庖地在什锦花园安排了一场记者招待会。他尚未出面，中外记者们已经读到了日本人代写并打印好的《吴氏对时局的意见》。“意见”称：他已决定参与“和平运动”。
一身中国绅士装束的吴大帅出现了，他拿起油印稿，看了一遍，又放下，一字一句地说：
惟“平”乃能“和”，“和”必基于“平”。本人认为，中日和平，唯有三个先决条件：
一、 日本无条件自华北撤兵；
二、 中华民国应保持领土和主权之完整；
三、 日本应以重庆（国民政府）为全面议和交涉对手。
怕在场的日本人听不懂，他厉声令秘书“断乎不容更改”地将自己最后的“政治宣言”翻译成日语。
他知道，在残暴的日本人手中，自己拒绝的结局是什么。静夜里，他写下了忧愤的绝笔诗：
欲将诗酒遣良时，遥望南天泪已垂。
一语寄君应努力，满盘棋局仗谁支？
他所寄语的“君”，显然是正在南方领导中国军民顽强抗战的蒋介石先生。
恼怒的日本人终于体味到了十几年前的苏联人所体味到的绝望，即：这位腰板笔直的中国军人领袖断断不会屈服了。
就在这时，身体健壮的吴佩孚意外地被一块搀在饺子馅儿里的骨碴硌伤了牙床，几天后，腮部红肿，疼痛难耐。于是，经常来访的齐燮元和一直尊吴为老师的日本特务机关长川本大作少将，带着日本军医处长石田和护士急匆匆赶来，对他进行了“治疗”……
是为民国二十八年（1939年）12月4日。从突患牙病到蹊跷辞世，只有短短的十天。
人们遗憾过，当时吴大帅并非必死无疑，德国医生史蒂福斯曾前来他家为其诊治，只要他肯去受国际法保护的东交民巷内的德国医院，遭暗算的英雄之躯或可有救。可他，宁死不肯违背多年前向国人所做的承诺——不住租界，不结交外国人。
于是，在日本人与汉奸们假惺惺的鳄鱼泪里，在抗战领袖蒋介石委员长悲切的吊唁声中，在家人与部下的号啕哭别声中，北洋集团里的唯一儒将、性情倔强的吴玉帅，魂归蓬莱仙山，唯余他手书的那副长联在这故宅正堂的墙上瑟瑟而泣：
得意时清白乃心，不怕死，不积金钱，饮酒赋诗，犹是书生本色；
失败后倔强到底，不出洋，不入租界，灌园抱瓮，真个解甲归田。
怎么说，这也是个英雄啊！小彤忽地冒出一句喟叹。