对于张勋的这种思想状态，袁世凯并不感到意外，对他来说，如果张勋真是要退隐，倒也并非一件坏事，他甚至有点巴不得呢！问题倒是这位拥兵数万的莽大爷，他还不一定真的就想退隐。万一他只是作一作姿态，试探一下大总统对他的态度呢？如果一开始就直通通地批准他退隐，那就可能反把他激怒了，真说不定他会不会带着2万余众反到北京城里来。即使能把他镇压下去，那也要造成极大的内部混乱。他还刚接管“民国”朝政，跟南方革命党人的麻烦都还扯不清畅，更不愿在北洋军事集团内部惹出新的事端。于是，为稳重起见，他还是假装殷切地发了一份挽留电，要求张勋从维持大局出发，坚守岗位，与大总统“共济时限”，以反探一下张勋的真意。
果然，张勋的辞职电报刚一发出，他自己实际上就已经转过了一个念头。心想：妈那个巴子，老子今日拥兵数万，何以要学那伯夷、叔齐两个赤手空拳的古代书生，白白地死在首阳山上，最终也没能挽救商王朝覆灭的命运？若能暂且忍下这口鸟气，慢慢找个机会，把这已经崩溃的清王朝重新规复过来，岂不比那徒然死去的伯夷、叔齐还要伟大得多？这么一想，他就后悔刚才不该向袁大头发出什么辞职电。万一袁大头来个顺水推舟，就准予辞职，岂不坏了大事？还好仅隔一日，袁世凯回电即到，满口都是热情的挽留话。张勋这才长长地舒过一口气来。接着，他便接受了袁世凯改江防军为武卫前军，并委任他为该军统领的命令。同时，真心实意地辞掉了袁世凯授予他的另一项大而无用的所谓“督办直鲁豫三省防剿事宜”的虚衔。他宁愿任小而不任大，显然是担心袁世凯借机使他脱离本军，削去他的实际兵权。他这一手，无疑是防备得非常恰当的。因为只有傻瓜才会相信袁世凯的甜言蜜语，而他张勋虽然粗鲁，却并非傻瓜。
恰在这时，因清朝垮台而寄身青岛的皇室亲贵、宗社党骨干分子溥伟，秘密派遣前山西提学使刘廷琛和前邮传部左丞陈毅来到兖州，向张勋哭诉前清灭亡的哀痛和袁世凯叛逆的罪恶，说什么大清皇室现在全仗张大帅力挽狂澜，扶社稷于既倾，建不朽之功业云云；并告知溥伟诸人正在积极与日本人和德国人接触，复辟清室已经得到洋人支持等等。张勋见图谋复辟已有了知音，内心不禁深受鼓舞，但他知道单靠自己单薄的力量，不足以举事；而溥伟诸辈亲贵和那些失去了官职的刀笔吏们更不堪任事，所谓洋人支持也不见具体行动，不过是一句空话。因此，他决定暂缓行动，但同意彼此保持密切联系，以便互相沟通情报，寻找举事的时机。
不久，青岛方面又传来消息，说溥伟已派前清都察院御史温肃到天津，通过直隶都督冯国璋的幕僚胡嗣瑗说通了冯国璋。冯表示赞同配合张勋发兵讨伐袁世凯，扶持清帝复辟。冯国璋位居畿辅，此前还一度当过禁卫军统领，有他参与行动，自然不难把北京城门打开。
张勋知道冯国璋曾因为袁世凯未能准许他在汉口打过长江，一举歼灭武昌革命军，建立封侯封王之功业而对袁颇有不满。就在袁世凯向隆裕太后陈述无力战胜南方革命党的时候，他还曾向朝廷表示，只要给他三个月饷银，他就能全歼江南所有革命军。因而，冯国璋早已成为清廷许多亲贵幻想中的一位中兴之将。照这种情形推测，他赞成讨袁复辟，并非绝对不可能。于是，张勋对冯国璋赞同讨袁的消息信以为真。从而决定加紧策划具体部署。他一面派自己的幕士王宝田到青岛与麇集在溥伟身边的前清落魄官僚刘廷琛、陈毅、温肃、于式枚、叶泰椿等人草拟讨袁檄文和布告等，一面派部下军官阎肇兴前往天津与冯国璋直接商量举事日期和具体行动部署。谁知阎肇兴的火车刚开到党家庄，田中玉的部队即已将铁路轨道拆毁，阻其前进。田中玉因对张勋侵占他的地盘怀恨在心，而随时留意窥测他的行动，试图抓住一个把柄整他一下。恰巧就发现张勋、溥伟及冯国璋等人之间的秘密使者往来。他据此向袁世凯告密。袁世凯经派人调查核实，确证张、溥、冯等之间使者往来频繁。他即命令山东全省警戒，由田中玉的第五师截断兖州至济南的铁路，扼守济南，以防张勋北上。同时，为了稳住冯国璋，他佯为不知冯国璋参预了此事，亲自打电话给冯，叫他防备张勋北入直隶。冯国璋很乖巧，一听就知自己的问题也已败露，连忙向袁世凯揭发说，青岛的溥伟不仅可能策动张勋图谋讨袁，而且还派人来策动过他。只是他并不知道张勋态度如何。他正要向大总统报告此事，没想到大总统料事如神，已先知情云云。袁世凯很清楚冯国璋放这马后炮是想为自己洗涮。不过，为了分化冯、张关系，他还是表示感激，大大地夸奖了冯国璋一番。
张勋在兖州得到阎肇兴派人回报，知道事已不可为，他也急向袁世凯发电，矢口否认他曾有北伐讨袁计划，并推说这纯系无聊小人居间挑拨（暗指田中玉捣了他的鬼），大总统当细心明察。结果由于袁世凯也没有掌握张勋要造反的直接证据，加上他不想公开暴露和扩大北洋系内部的分歧，既然张勋已明确表示他不会造反，他也就顺势来个息事宁人，连张勋也一并不予追究。不过，他终归无法消除对张勋的疑忌，遂以裁撤两江总督的设置为由，特派徐世昌、田文烈赴兖州收回了张勋的两江总督和南洋大臣两颗印信，同时，又授予其镶红旗汉军都统的职衔，以保持其荣誉和地位不变。这也是袁世凯对下属惯用的恩威并用的儆戒措施。
尽管这番任免把戏玩得未免不伦不类，因为无论是所谓“两江总督”还是“镶红旗汉军都统”都已是前清的官职名号，清朝既已灭亡，袁世凯本人都已成了民国大总统，何以还给下属任免前朝的官职？但是，对于张勋来说，这么做却有特定的作用。因为他的心里惟有大清，而并无民国，所以袁世凯这么做也可算是“知人善任”。
果然，张勋立刻便领会了袁世凯的意思，对于袁世凯给予他的儆戒感到满腹惆怅。迫于袁世凯的威势，他已深深感受到，再与袁世凯对抗是十分危险的。但袁世凯仍未给他撕破脸皮，则说明日后在袁世凯门下还有周旋之余地。为了光复大清社稷，他决心继续跟袁世凯周旋下去。只是他无法隐瞒自己的观点。因此，当徐世昌临别时询问他有什么话说时，他仍然情不自禁地表示说：“袁公之知不能负，君臣之义不能忘。袁公不负朝廷，勋安敢负袁公？如此而已，无他语也。”他的这番话意思很明白，只要袁世凯继续忠于朝廷，我就继续跟着你袁世凯走，如果你袁公忘了君臣之义，那就别怪我张勋忘了你袁公的知遇之恩。而事实上，袁世凯已经背叛清廷当了民国总统。所以，实际上张勋还是等于公开宣布了他不想跟着袁世凯走。他的这种顽固不化的态度，真叫袁世凯伤心。但袁世凯有一个最大的弱点，就是他始终不敢得罪手下那些带兵的武夫，即使他要贬斥其中的某些人，也总是拐弯抹角，使大面子上过得去，彼此不伤感情。而这样一来，他就变得在实际上无法控制他自己用符咒呼唤出来的魔鬼。他现在对于张勋，也正是处于这样一种状态之中。他以后在对待冯国璋、王占元、张作霖等地方军阀时，也是这样的。而张勋，则无疑是他手下的第一个与他保持着若即若离关系而始终无法完全制服的魔鬼。他既然不敢采取断然措施除掉这个魔鬼，便只能一半驱使他，一半设法防备和牵制他，使他能在一定程度上为己所用而不坏大事。
张勋在兖州驻军将近一年半。这期间，中华民国的纪元史已经正式翻开，然而，他却一直不肯遵行民国的规制。这是他坚持守旧的又一大突出表现。
按照民国规制，自1912年起，应一律改用民国纪年，月、日、星期一律采用公历。即1912年1月1日，应为中华民国元年1月1日，此后类推。而张勋却规定他的部队继续沿用清帝溥仪的年号：“宣统”。他把1912年称为“宣统四年”，以表示他对民国的不承认态度；民国政府规定全国一律废除“大人”“老爷”等封建称呼，改为官员以职务相称，民间以“先生”或“君”相称，而张勋却仍然只许下属称上司为“大人”和“老爷”；民国政府规定废除跪拜礼，改行鞠躬礼（军人行举手礼），而张勋却规定其部属照旧行跪拜礼……尤令世人瞩目的是，早在清末，清廷就已发布过“人民剪辫自由诏”。到了民国，已是连许多皇室亲贵都把那条“猪尾巴”剪去了，而张勋却不仅自己不剪，而且规定他的部属一律不许剪。因此，他的部队成了清一色的辫子兵。而他本人也就荣获了“辫子将军”的光荣称号。
说“辫子将军”是一个光荣称号，今天人们也许以为这是一句嘲笑话。但以当时的道德观念来衡量，他这种忠于旧主，矢志不移的精神情操，却是高尚无比和非常难能可贵的。因而，当时张勋不仅不以“辫子将军”的诨号而感到羞辱，反而为之深感骄傲和自豪。而且，其所属部队官兵亦大都深感自豪。辫子兵有时乘车、看戏不买票，管事的若出来问一问，他们就会趾高气扬地把辫子一甩，说：“妈那个巴子，老子的辫子就是票！”
由于这时候袁世凯还要假装“共和”。因而，作为其部属的张勋这种明目张胆的保皇立场，难免弄得他有些尴尬。他不得不派张勋的好友阮忠枢前往兖州，委婉地劝说张勋注意点影响，以免世人物议。结果，张勋答应今后在对外文电上一律改署民国年号，算是照顾袁世凯的面子，作出了一个重大让步，其余则一律坚持不改。当阮忠枢再三请他考虑把辫子剪掉时，他竟叫人抬了一副棺材放在堂前，指着棺材发誓说：“可死不可从！”弄得阮忠枢哭笑不得。袁世凯听了汇报，也只得无可奈何地摇头苦笑。
不仅如此，他还处处坚持维护前清小朝廷的利益。1913年2月，袁世凯打算叫隆裕太后带着小皇帝溥仪撤到颐和园去住。张勋得到消息，公开宣电反对，终于使袁世凯放弃了迫皇帝出宫的打算。不久，隆裕太后在愤病交加中一命呜呼，张勋又公开宣电，要求袁世凯向公众宣示脉案，以此影射隆裕太后是被袁世凯害死的，并称“我大总统及政府诸公，皆清朝二百余年之臣子，即新党人物，间有崛起草莽者，其祖若父亦皆食禄于朝”。因此，他要求政府治之以“国丧”之礼，并要求按照清朝“大丧”的仪规发丧。他本人则在兖州设立祭堂，披麻戴孝，并命令其部属和全城百姓一体仿效，商绅各界名流统统跟随其后，“哇啦哇啦”哭嚎着，一齐至祭堂行三跪九叩头的旧式大礼，同时禁止宴乐27日。尽管北京的袁世凯这时也在以隆重的礼遇沉痛哀悼废太后的“仙逝”，但他那种假情假意的表演，确实无法与张勋的真心实意的哀悼相提并论。
不久，思想理论界有一部分激进之士在报刊上公开发表“打倒孔家店”、废除儒家学说的言论。这种思想传到民间，致使曲阜一带的某些民众跑到孔府所属的林子里去砍伐树木甚至闯进孔府抢夺礼乐器具。当时曲阜归兖州府管辖。消息很快就传到坐镇兖州府的张勋耳中。张勋闻报大怒，立即派兵驻守，使孔府财产得以保全。随后，袁世凯政府又曾提议将孔府的祭田全部收归国有，给世袭衍圣公尊号的孔子世孙发薪俸，使他成为一名靠薪俸吃饭而不是靠封邑租赋吃饭的“民国”公民。张勋闻讯，又一次致电北京，坚决抵制。孔府既在张勋的势力范围之内，张勋不肯收回衍圣公的封地，别人当然无法去收。因而，孔府的封地又得以保全无虞。孔夫子以他的儒学熏陶了一代又一代无可胜数的封建文人雅士，但他恐怕绝没有想到，到头来挺身而出勇敢捍卫其后代利益的，竟是一名并没有读过多少诗书的鲁莽武夫。而张勋则以他的实际行动再充分不过地表明了他不仅忠于清室，而且忠于中国数千年来的一整套封建秩序。
怨袁不及恨孙深，打到南京做都督
当张勋反对袁世凯“叛清”的态度日益公开化的时候，革命党的第二号头领黄兴已经来到南京，组织以讨伐背叛民国纲领的窃国大盗袁世凯为目标的二次革命。黄兴要讨袁，张勋也反袁，二者的目标似乎不谋而合。因此，张勋的态度曾一度使黄兴产生了一线希望。他特意派善作说客的党内同志张鸿遇赶到兖州，劝说张勋抛弃袁世凯，投入革命军，共同北伐，为捍卫新生的中华民国建立不朽之功勋。谁知张勋听了，却把个脑袋摇得像拨浪鼓一般，并且反唇相讥，说什么如果黄兴愿意率众放弃乱党立场，与他一道光复清朝江山的话，那么，他将来一定奏请清帝赦免他往昔的“作乱”之罪。
黄光见张勋态度顽固，不可言喻，便于1913年3月下令革命军北伐。革命军驻徐州第三师师长冷！率部攻进山东的韩庄、利国驿一带。被张勋强行调驻该地的北洋军第五师第三旅旅长方玉普抵挡不住，急电向张勋求救。方玉普是第五师师长田中玉的亲信，并且参与了暗中侦探张勋与溥伟等人密谋联络的活动，是张勋平日所忌恨的一名奸佞小人。如果张勋要报复他的话，此番正好借着革命军的刀子把他宰了。不仅干脆利落，而且不落杀人报复之恶名。然而，在大敌当前的形势下，张勋竟然不念旧恶，毅然命令辫子军司令张文生率军前往救援。张文生率队疾驰至韩庄，与冷！的革命军遭遇。革命军乘胜勇进。张文生毫不怯阵，率领辫子兵不顾一切向着革命军猛冲，一举夺下重要阵地二郎山。革命军突遇劲敌，而后续部队又没有及时跟上，冷！抵挡不住辫子军的反攻，不得不退守徐州。在张勋的慷慨救援下，方玉普总算捡回了一条小命。
就在黄兴赴南京组织北伐，与张勋的辫子军激烈对抗之际，江西革命党人李烈钧也在南昌、九江举起了讨袁义旗；不久，上海、广东、湖南、福建相继宣布脱离袁世凯而独立。南方革命党人的倒袁声势已咄咄逼人。本来，袁世凯对张勋疑忌已深。即使是张勋拒绝了黄兴的诱叛，并发扬以大局为重不念小恶的风格，把进攻山东的冷！赶回了江苏，保全了袁世凯的嫡系方玉普旅的力量，袁世凯仍对他毫无好感。他表面上通电表彰张勋“大义昭昭，骁勇善战，力挫乱党凶焰，可嘉可贺”，暗地里却对张勋的实力膨胀充满着疑惧。他拒绝了张勋请求给予饷械接济的实质性要求，弄得张勋打了胜仗却没有得到物质上的犒赏。直到江南各省普遍讨袁声起，袁世凯才不得不重新考虑借重辫子军的顽强战斗力，去对付更加危险的敌人――孙文乱党。
张勋明知袁世凯对他的这种又疑又用的把戏，但他仍然以反革命大局为重，摩拳擦掌表示要在“袁公”领导下迅速打垮黄兴。1913年7月，他欣然受命为“江北镇抚使”，与“江淮宣抚使”冯国璋分路南下，进攻南京。袁世凯向他们两人暗示，以“先入关者王之”的原则，谁先攻下南京，就把江苏地盘给予谁。张勋也知道这是袁世凯有意挑起他和冯国璋之间的不和以便据间分而制之。但是，一方面，消灭南方革命党实在是他的衷心愿望，另一方面，南京曾是他浴血奋战企图坚守而没有守住的地方，而江苏的地盘对他的引诱力亦实在不可抗拒。因此，尽管这时他对袁世凯正有着一肚子的怨气，他还是奋力督率二万余（号称五万）辫子军倾巢而出，全力向南反攻。心想，不管怎么样，等老子先抢他个一省地盘再说！
7月22日，辫子军旗开得胜，一鼓作气攻下徐州。张勋喜不自胜，在徐州召开誓师大会，并亲自向全军发表演说，鼓励辫子兵敢打敢拼，为升官发财、荣宗耀祖而勇立战功，并宣布，如本军首先攻进南京，准予依照曾文正公（即曾国藩）湘军旧例，全军“放假”三日，弟兄们可以“玩个痛快”！
张勋素来以“仁怀宽厚”治军，颇得治下兵众拥护。此番辫子兵们又得了张大帅升官发财、“玩个痛快”的许诺，更是一个个摩拳擦掌，奋勇争先，按照预定路线，沿运河一路南进，攻关夺隘，勇不可挡，仅5天时间就推进了500余公里。
与此相反的是，革命军虽为正义之师，无奈南京方面的军事统帅黄兴乃一介书生，只懂政治理论而无军事才能。他在1911年武昌新军首义时，也曾担任革命军的军事指挥官，但在当年冯国璋的猛烈攻击下，他身为前敌主将而首先弃阵出走，致使汉阳很快失陷。此番宁赣之役（或称二次革命）之初，他又勇敢地自任为江苏讨袁军总司令，但他仍然不知道军队该怎样调动部署，仗应该怎样打法。7月，他命令冷！北犯鲁境而不及时调兵增援，造成冷孤军败退，现在，面对张勋的凌厉攻势，他更急得手忙脚乱，东一封电报告急，西一封电报求援，一会儿命令某兵团北上徐州增援冷！一会儿又命令该兵团折回蚌埠迎击徐宝珍，弄得革命军在战场上乱成一团。加上江西李烈钧兵败的消息不断传来，革命军士气日益不振，前方军队一触即溃，纷纷向浦口溃退。黄总司令见事不可为，他又不待敌军攻临南京城下，便匆匆忙忙溜之乎也。
张勋碰上这样一名对手，乐得他一路摧枯拉朽，长驱直入。8月初攻占台儿庄，接着相继拿下淮安、扬州和镇江。随即兵临南京城下。他在扬州得到黄兴败走的消息时，哈哈大笑说：“妈那个巴子，这个乱党头子原是个怕死鬼！还想邀老子一同去打什么袁世凯，看他那个熊样子，连一根兵毛都拔不下来，还去打哪门子仗！”