最后俾斯麦怂恿内阁辞职来教训一下少年皇帝，可是他们并没有这样做，只是不痛不痒地说了几句迟疑的话，其中只有梅博克说了一句可以值得纪念的话：“宰相退位将是一场国祸，祸及欧洲与德国。我们必须阻止，我们必须全体同他一起走，无论怎样，至少我是要随他走的。”散会时，众人观点达成一致，都抗议俾斯麦退位。到了晚上他的同僚们又开会，他们“排斥一种普遍告退的观念，这是与普鲁士诸多传统相冲突的”。
开完会，俾斯麦吩咐备马，到了他这个年纪已经不应该骑马，他之所以这样做，就是要皇帝知道他让汉克转送的话，“我的身体不甚好”有多少成分是实在的。当宰相回到家，才知道他出门时。皇帝打发第二个信差来过。内阁厅长路加那晚上回来，很着急，皱着眉头对俾斯麦说，他奉皇帝命令问他为什么还不递辞职书。俾斯麦这时候并没有发怒，没有举手擂桌子，而是很客气地说：“皇帝喜欢什么时候罢我的职就罢我的职……只要发出免职的命令，我很愿意服从，但是我不想让皇帝摆脱免我职的责任，我要国人都明白这件事究竟是怎样发生的。我做了二十八年的官，这二十八年我为国家做了很多事，我要在历史的审判台前表白我自己！”随后他口授辞职书，第二天早上润饰过后将它送入宫中。他在辞职书里以几句堂堂正正的话作结尾：
“我忠于王室与陛下，这些年来一直如此。现在我要脱离与陛下的习惯关系，并且要脱离我与帝国及普鲁士的普通政治生活的关系，觉得极其痛心。对于陛下的诸多意愿，我反复认真考虑，请求陛下免我的帝国宰相之职，普鲁士内阁总理之职，普鲁士外交部总长之职，以及合法许给的俸禄。以最后几个星期的印象而言……我有理由猜测这份辞职书正合陛下心意，我相信陛下能够批准。如果陛下不相信陛下祖先们的一位忠心臣仆的阅历和才干，我早就应该辞职了。现在我深知陛下用不着这样的阅历和才干了，我方才可以告退，并且不必害怕我这样的辞退被批评说适合俾斯麦。”
宰相只管抗议，皇帝并不理睬，并封他为劳恩堡公——腓特烈帝曾想封他，那时他居然辞掉了。俾斯麦多次做出有力的抗议，才终于避免了这种津贴，他把这样的津贴比作邮政员因为办事得力告退时所得到的赠金。皇帝此举是想要人们相信俾斯麦告退是因为他年老体衰，但不肯把俾斯麦的辞职书登报，皇帝同时刊登他怎样感谢俾斯麦以往功劳的言论。威廉二世尝试留赫伯特办事，并请俾斯麦做儿子的思想工作。俾斯麦第二次引用了沃伦·斯泰因的话进行辩驳：“我儿子已经成年了！”他还私下向人们解释，“当一个人明明知道这条船快要倾覆，为什么还要把自己的儿子放在这条船上呢？”
赫伯特一生的悲惨命运在这个时期愈演愈烈，假使他继承了父亲的位置，得到皇帝的优待，他也许可以成为一名有独立价值的政治家，而现在他却要同他父亲一块隐退，因为俾斯麦遗传给了儿子死要面子的秉性。晚上，他把沙皇不肯延长密约有效期的信息上奏皇帝，在报告中，委婉地表达了他父亲的意思，“当昨天舒瓦罗夫伯爵知道陛下毫不迟疑地完成对俾斯麦王爵的免职时，亚历山大帝决定不再延长密约限期，因为这样的机密是不能与新任的帝国宰相讨论的。”威廉二世在这篇公文上批道：“答应延限。”在末后又批了三个字“为什么？”赫伯特随即送上一篇更浅白的解说。第二封信威廉二世又批了第二个“为什么？”
威廉二世两次问“为什么”是因为他完全不清楚俾斯麦三个字在欧洲有多大的势力。他虽不清楚，却很害怕，半夜里他打发人去找舒瓦罗夫，约第二天早上八点钟来见皇帝。会面时，威廉二世告诉舒瓦罗夫自己愿意再订密约，但这位俄使说他得到了沙皇的命令。
皇帝从报纸上得知所有党派，各个阶级的人民都赞成他所走的路。国内很安静，德国人看到这个有魄力的人在位很高兴。1890年3月18日是个令人快乐的日子，普鲁士议院通报了俾斯麦告退的议案。近臣与陆军领袖们都为此而高兴。赫因罗厄曾说，“一个军长快乐的像一只蟋蟀，他现在能够自由地说出他的心里话了……到处都有这样的快乐表示。从前俾斯麦的势力一手遮天，人们受到压制，现在不是这样了。”人们有一百年来未有这种解放的感觉了，自从腓特烈大王去世以来，还没有像今天这样高兴过。
在德国，没人知道三个人决定了德国命运，（或许只是一个人所决定）因为当舒瓦罗夫从沙皇手上得到新的权力时，他看到宰相告退五天后情形就大相径庭了。俾斯麦企图保证这个密约，以免被柏林人的阴谋所害，他儿子也曾提议在俄都签约。不料赫伯特在秘密档案卷中并没找到这个密约，原来已经被霍尔施坦拿走了。俾斯麦非常恼怒，首先攻击管案卷的，随后又攻击这位男爵说：“你本来能够阻止这件糊涂事发生，当我是个死人，未免太早了！”霍尔施坦认为他是个危险人物，因为如果不是这个理由，这位男爵怎么能够全力反对俄罗斯！“从这个密约里不能盼望得到什么实在的好处，倘若泄露出来，人家会骂我们欺骗。如果立密约，我们的名誉和社会地位将会被俄罗斯掌握。只要一旦被人怀疑，全世界都会反对我们。日后的交际他们就能够确定条件。第一个条件就是‘我要同我以前的老朋友俾斯麦合作，我只要他，不要别人。’你现在明白这个地位么？”
上文的几句是虚伪的，俾斯麦把他反对俄罗斯的一个保险条约给舒瓦罗夫看了，并且预备把第二个条约给奥地利看。霍尔施坦的性格像一个胆小鬼，在他与他的同党看来，胆子与诡谲是不能合在一起的。霍尔施坦不把怨恨的动机流露出来，他同瓦尔德塞阴谋地反对“俾斯麦字号”已经好几年了。
同时继位的阁臣，明显地不称职，马沙尔写道：“一位大人物如俾斯麦能够熟练运用繁重器械，而我一个小人物却不能。”俾斯麦出宫的时候，他的后任卡普里微躲避他。后来俾斯麦好几次请他吃饭，他只来了一次。他说他实在不愿第二次听到俾斯麦这样批评君主。后来有一天。俾斯麦在相邻的花园碰到了卡普里微，就问他，俄约签得怎么样了，这位军长幽默地答道：“像你这样雄才大略的人能同时玩五个球，但别人都不能，只好玩一个或两个。”随后，参政们聚议，在霍尔施坦的指挥下，都说这个条约让俄罗斯得到了全国利益，此条约将鼓励俄罗斯在东方扰乱大局。法兰西将很快攻打德意志。
这群没远见、才能平庸的阁臣在三天内便把俾斯麦打下的良好根基挖空了，整体建筑都在动摇。霍尔施坦四处奔走游说有势力的阁臣。卡普里微听从了霍尔施坦的提议，又想贡献他的新计划，便劝说皇帝与他们所恨的沙皇分离。皇帝现在高兴极了，他认为他的谋臣不是危险的狐狸，而是“一个办事安详清楚光明的人，不冒外交风险的人”。威廉相信自己做事坦白，是一个真正的普鲁士人。霍尔施坦说，当他与皇帝将此事商妥时，皇帝悲愤不已：“很好。千万不要与俄国密约，说这句话时，我心里在流泪。”
三十年前威廉二世出生在宫中的一间小屋。现在就是在这里他低低地说了几句话，这几句话透露出悲观、怨恨、妒忌情绪，透露出恐惧、不耐烦的心理。这几句话所造成的后果无人能预料到，就是这几句话葬送了德意志帝国！
这几天俾斯麦在柏林，心境平静，他并不隐藏自己的痛恨，但是一种怀恶意的谐趣却使他从不满足。他特意表露出他是一个饱阅世故的人。当对付他的仇敌时，他并不装腔作势。当布狄克与他握手吻别时，他诙谐地说：“我同你分手，你要负一部分责任。”他快离开前，在请同事们吃酒告别时，俾斯麦故意不同布狄克拉手——这是对他致命的藐视。他的旧同事请他吃饭，他不肯来，只是大声地说两句话：“我只看见了帝国官员们中的笑脸，我不做宰相是由于你们的错误造成的。”此时，这个不信基督教的老头子也尽情地陈述怀恨与报复的话，这绝不是气量狭小，这是一只受伤的狮子在发怒。
无论什么人来见他，都能从他嘴里掏出几句真话。奥地利大使送来奥皇弗兰茨给他的一封恭维信。信里说俾斯麦因为体弱多病辞职了。这位前任宰相拒不承认，他声称自己在职时身体非常健康。这两句话他都是用“安详的腔调说的，不过这种腔调里透出难过和不宁静的情绪，有时还变作痛恨”。他很坦白地告诉土耳其大使，请让土耳其皇帝知道他是被免职的。他还对巴伐利亚大使说皇帝没心没肝，“将来必定要破坏帝国”。当他去各大使馆辞行时，他在所留下的名片上用笔把“帝国宰相”四个字划掉。并说：“我很喜欢人家称我俾斯麦，只有外出旅行我才称公爵。”他还当面痛骂巴登公爵阴谋陷害他。
当他正式向皇帝辞行时，他不让皇帝遮掩免俾斯麦的职所应负的责任，当皇帝问他身体可好时，他把假面具撕得粉碎，毫不客气地说：“陛下，我身体很好！”并且他不允许威廉公布他的辞职书。
在他最后离开的前一天，他坐马车去皇陵。他像诗人那样，把三朵玫瑰花放在君主的墓上，随后在自己家里行施圣餐祈祷礼。当牧师快要演讲《爱你的仇敌》时，乔安娜忙站起身来，让牧师赶快停止演讲。俾斯麦躺在榻上，他对他住在这里的二十年，作了一个总结性评论：“我享受了许多幸福，我今年七十五岁了，我的夫人，我的儿女们都生活在我身边，这是最大的天赐。我以前常担心我将为国操劳至死，现在没事了。无论有病无病，我办理国事二十八年了，已尽了我的天职。现在我实在不知道应该做些什么。因为我觉得身体比以前在职时还要好。”
这个老头子无所事事，在最后的那个晚上，他并不谈及未来的计划，不谈论他所创造的帝国。在他看来，这个帝国已经走上了绝路。他最后所拉的手并不是一位阁臣的手，也不是一位大使或王公的手，而是从前一向从未拉过的手，在这二十多年间他每天必须向这双手索取材料。这个人绰号叫“黑色的骑马人”，是替他送公文的。俾斯麦临走前三刻钟，被称为“黑色的骑马人”的莱维斯托姆。接受传见。这次辞别，这位前宰相有点控制不住自己了。莱维斯托姆一进来，俾斯麦一下子就想起了帝国成立最初的那几天。他问这个送公文的人是否喜欢自己的职业：“我记得很清楚，你那时是个营长，就是在那间屋子里，你第一次给我送公文。”他感谢这位多年来忠心办事的人，在这个大帝国，他仅仅谢过他一个人。最后他还做了一件新鲜事，从一大堆酒杯中顺手拿起一只镀银酒杯，放在莱维斯托姆手上说：“谢谢你，作个纪念吧。”
五、孤独之境
俾斯麦站在瓦森的村塾里，指着地图上的几个地方，告诉小学生们德意志是怎样创立的，从前是什么样子。他问了几个问题，小学生一个也没有答上。这使他很不高兴。旁边的村塾先生也忐忑不安，担心这位客人也要问他。
这位逐臣当初几个月在替国家办了四十年公务后，又尝试着要当乡绅。他每星期去私塾两次。教本地孩子们一些课本上没有的东西（柏林的孩子不肯跟他学），从前，他这个人无论在哪里都没有家，又满腹牢骚，这时他给一个熟人写了一封信说，“我年轻时爱想家，到了晚年却成了一个无忧无虑的人，整天拿着一把剪树刀在花园里散步。”他二十多年来一直如此。他还没有学会享受安宁。他现在虽然有了许多空闲，能接触到村塾先生、管森林的人与造纸厂的人却并未感到幸福。看书时，只有看到与他功业相似的事绩，他才在意。他在拿破仑的自传中想象着自己的影子，左拉有许多著作，他只注意《崩溃》，他读恺撒的故事时说：“这个故事很奇异，符合当今现实，布鲁吐斯，就是一个民族自由党。”
现在乔安娜过着很清静的日子，她经常犯气促病，常觉得不是这痛就是那里痛。她不再去矿泉养病。因为她担心会离开厮守了一辈子的老伴。只有在人们议论皇帝免她丈夫的职时（这是很经常的），她才发怒，用很恶毒的话咒骂。赫伯特还待在家里，四十多了，仍没有成亲，也无事可做，又不喜欢过农家生活。他非常仇恨他的父亲第二次把他的生活粉碎。俾斯麦现在才想起，儿子或许喜欢当大使，但是，早已没有机会了。俾斯麦很看重家庭感情，快八十了还没有孙子，赫伯特没有成亲，比尔只生了一个女儿。有一天谈到孙女时，这位老头深情地说：“假如我知道她将嫁给哪个男人，我在他身上会花很多钱。”
虽然他身体很好，听力不错，牙齿也行，消化能力还好，用不着戴深度眼镜，但是他上马时必须用台阶，此外，他的马夫还得举起他的右脚。如今虽然老了，他仍然好胜不让人。一个身材很高的男爵住在他家里，俾斯麦借给他一件皮袍，男爵嫌短，他却说：“我实在不喜欢比我高的人。”
在最后十年里，俾斯麦的神经更容易受到刺激。对他来说，一生最困难的事就是自我控制。有一位画师问他是否在乎人们称他为“铁血宰相”，他就用这句话回敬他。有一位想象派画师比任何一个人都清楚这个老头子的身体依赖于他的心情。威尔布兰特有一次拜访他，最先从门缝里看见他。他躺在榻上，屋里没有人。威尔布兰特后来回忆说：“他在那里怀念过去，他的脸以前很红，而现在却苍白了，还有许多深深的皱纹……他好像坐在瓦砾场中冥想他退位的那一年和人生的忘恩负义。现在他站起来，站在我面前的是一个身材高大的人，一会儿的工夫，他竟返老还童了。我被他眼中透视出来的神色打动了。”
这个时候，这位喜好奋斗的人手中的利刃已被剥夺了，他的大脑判断事情不再像闪电一样快，双眼不能同时看见让他注目的公文，并且不能从中选择。这位政治家忙着办事的时候，无时不在渴望空闲，现在他又像小时候那样不受约束地呼吸森林中自由的空气了，但他却觉得非常难受。