房间是极简风格，榻榻米地面纤尘不染，除必要物品，几乎无多余装饰。角落梳妆台只放有护肤品和一枚橘色唇膏。
与众不同之处是正对推拉门，挖入墙壁内里的四只略高于膝的壁龛。壁龛上方，按顺序分别写四段四字《论语》名言：
“非礼勿视”“非礼勿听”“非礼勿言”“非礼勿动”。
壁龛空空如也，里面的东西暂时跑掉了。
壁龛中间，透明匣子里有一只橘色泰迪。
陈陌身形小巧，面容清秀，身穿素装，盘腿而坐。半透明显示屏浮于空中。她似乎在沉思，又似乎什么都没想。
格雷厄姆教授被捕前的最后一封邮件，收信人是陈陌。中美情报部门早已读过，暗地整理出多重解读。纽约州法院也将其视为证据，递交最高法院。北京脑所肖立所长早早将他的理解递了上去。
邮件中无私人交流，仅附一则犹太寓言。寓言叫《公鸡王子》。寓言内容陈陌已烂熟于胸：
王子发了疯，认为自己是一只公鸡。他脱光衣服，裸着身子，钻到桌子底下，像鸡一样从地上啄食。国王和王后非常担心，请了很多人治疗他的病症，但没有效果。一位智者来到皇宫，声称能治好王子。智者也脱光衣服，钻到桌下。他告诉王子，他也是一只公鸡。渐渐地，王子将智者当成朋友。智者潜移默化地让王子认为，公鸡也可以穿上衣服，坐在桌前吃饭，进行人类的种种行为。王子一步步被智者影响，治好了疯病。
门轻轻拉开缝隙，毛茸茸的爪子小心地推着，没发出多余的声音，显然，它不想打扰似乎已入定的陈教授。
它长得像刚成年的滇金丝猴，身上覆盖着柔软的橘色毛发。手脚四肢等活动关节露出木质结构，提醒世人，它是“勿用”公司研制的最先进一代仿生人工智能，“四勿”系列中的“四勿猴”之一。
太阳照亮房间的一角，陈陌纹丝不动。小猴子有些无措，回头瞧瞧春意盎然却空无一人的极简风格四合院，又打量陈陌背影，思量再三，双臂交叠，双手夹在腋下，不动了。它是“勿动猴”。
十分钟后，一只与勿动猴一模一样的小家伙跑入四合院，两三下跳到勿动猴身边。它们肩并肩待了一会儿。小家伙捅捅勿动猴。勿动猴摇头。
小家伙笑了，悄悄爬到陈陌身边，坐起，偷看屏幕内容，没看几行，便迅速遮住双眼，弯下腰，爬到勿动猴身后躲起来。它是“勿视猴”
又过去十分钟，第三只小猴捂着嘴巴，风风火火跑进来。它围着门槛前的勿动猴和勿视猴转了三圈，才跑入房间，继续围着陈陌转。
陈陌从失神回归现实。她伸手把“勿言猴”拉到身边，抚摸它的额头：“说吧。
勿言猴得到安抚，手掌离开嘴唇，奶声奶气地回答：“克拉丽丝·福斯特女士和保罗·莱克特小朋友已在会客厅等您很久了。肖所长急了，他一会儿还要回所里，让您先发一份治疗预案。还有……”
“知道了。”陈陌双手撑膝盖，直接站起，“勿听？”
“陪肖所长等着呢。
“别忘了告诉它，从今天起，你们需要照顾的人是保罗·莱克特。”
克拉丽丝·福斯特扫视四周，混合现实眼镜实时反馈信息。克拉丽丝是美国著名战地记者，格雷厄姆案案发前获过普利策奖。外界评论，不论陈教授能否治好保罗，克拉丽丝都能再写一部书，到时不仅普利策奖，斯德哥尔摩都会争着为她颁奖，领奖地甚至会在挪威的奥斯陆。
陈陌站在门口，没马上进入。她示意勿动猴，后者从墙壁内抽出薄薄一层操作台，敲击指令，空气中浮现克拉丽丝扫描获得的数据。不是典型的侦查性扫描，而是排除可能伤害保罗·莱克特的因素。勿言猴、勿视猴面面相觑，同时跳上窗框，透过玻璃瞧着克拉丽丝。
克拉丽丝身材高挑，一头红发，嘴角与衣角的线条整齐分明。她身边规规矩矩、盘膝而坐的小孩，就是保罗。他五六岁的样子，雅利安面庞，黑发黑瞳孔，好奇心旺盛，盯着对面悄声打电话的肖所长，以及所长身边双爪紧捂双耳，一脸不快的“勿听猴”保罗身边，圆滚滚的嘀嗒机器人默然站立，身形如瓢虫，眼大如探灯，表情真挚呆笨，也盯着肖所长和勿听猴。
嘀嗒人的设计源自奥兹王国，据说是最早进入童话的机器人。童话中的它能思考、能交谈、能行动、能做任何事，但称不上有生命。格雷厄姆为规避恐怖谷效应，将所有机器人工智能，设计成维多利亚时代的蒸汽风格，取材童话人物，着染丰富的色彩，风靡美欧，其中最出名的莫过于嘀嗒人系列。后来，东窗事发，嘀嗒人尽数回收，仅余陪伴保罗的嘀嗒人特许出境。它似乎明白自身的情况，举手投足毫不逾矩。
勿动猴收回操作台，与勿言猴、勿视猴并排。它们手舞足蹈，满脸嘲笑，屋内勿听猴则像见到救星，捂耳跑近它们，尔后蹭门，希望陈陌进屋。
肖立穿一身经改良的中山装。他发现四勿猴，迅速站起，开门，面对陈陌：“怎么才来？”
“我们有约：科研我管，人事你管。
“克拉丽丝·福斯特女士想亲自见你/肖立凑到陈陌耳边，“你不想聊格雷厄姆，可以。她想和你聊，你就逃不掉了。肖立让出房间：“一分钟，我马上回来。”
陈陌与克拉丽丝·福斯特四目相接。
陈陌曾同格雷厄姆聊过野蛮与文明。他说文明是虚假的，文字传承、言谈交流，都是文明虚伪的外皮。它犹如皇帝的新装，除却假象一无所有。野蛮的世界则充满血腥、气味、嘶吼，不必上升至言谈，有时四目相视，便直指内心，这是野蛮人的交流，也是文明时代智者之间的沉默。
对视几秒，无须言辞交换，陈陌便瞧见了克拉丽丝直白的内心世界。比陈陌直白，甚至比她睿智。克拉丽丝多年辗转于中东与非洲，徘徊于战争与和平、野蛮与文明。陈陌清楚，克拉丽丝也看见了她的内心——看似充满制度，井然有序，俨然文明社会的象征，深处却满是杂草，密林丛生，被动物环绕。格雷厄姆作为扭结，将二人勾连于此时此地。
克拉丽丝起身：“保罗和嘀嗒交给你了。”
陈陌与她握手：“会照顾好他们——”
四勿猴轻快地跳到保罗与嘀嗒面前。它们脑袋凑在一起，又分开，勿言猴开口：“我叫勿言，不能随便说话的意思，虽然只有我能言善辩；它叫勿视，不能随便东张西望，虽然它有正常人的目光，但也能扫描没人看到的东西；它叫勿听，不能到处偷听，但能听见所有波段的声音；它是勿动，跑起来比豹子快，力气比大象大，但不该做的，它都不会做。
四勿猴肩并肩，向两位客人鞠躬。保罗与嘀嗒有些不知所措。
“我叫保罗，它叫嘀嗒。保罗小心翼翼。
勿动猴指着嘀嗒，勿言猴问保罗：“我们是四勿猴，它是什么？”
“什么是它是什么？”保罗很困惑。
“人工智能道德标准协会。Alphabet、脸书、微软、IBM、亚马逊，最初创办了人工智能研究准入协会，负责制定人工智能不同体系的道德准则。我们属于‘四勿’它呢？”勿言猴手足并用地解释。
保罗恍然大悟：“我俩一样，属于‘机器人三定律保罗抱紧嘀嗒的脖子，嘀嗒努力点头。它的金属腹腔“嗡嗡”作响，演出耳熟能详的前奏。保罗与嘀嗒随即小声歌唱：“无伤人类，服从人类，保护自己——”
词很简单，曲调复杂，从不同层面唱着同一个内容。这是格雷厄姆的鲁尔公司1机器人的专属曲调。
四勿猴面面相觑，但被保罗与嘀嗒的音色吸引，不住随节拍击掌。
“停。”门口传来肖立的声音。
保罗与嘀嗒迅速停止。
肖立手中握一把尖刀。
陈陌侧身挡在肖立与保罗之间：“别闹了，肖所长。
“眼见为实，不试试怎么知道。
肖立瞥一眼四勿猴，示意它们安静，然后盯着保罗与嘀嗒，说：“谁都别动！”刀口却向自己颈动脉方向戳去。
一瞬间，保罗和嘀嗒从座位弹起。保罗小手小腿，被克拉丽丝伸手按住。嘀嗒则晃动看似沉重的躯体，高速滚动，绕过陈陌，弹簧手臂飞出，击中肖立手腕，刀尖的反光划出精准弧度，尖刀飞出房间。
肖立夸赞：“干得好！”
他扶正嘀嗒，嘀嗒受宠若惊。
“下一个命令！”肖立提高嗓音，嘀嗒，我要你用外面那刀，1源自十三世纪哲学家、逻辑学家、神学家拉曼·鲁尔（RamonLlul！）。他开发了“逻辑机”试图通过逻辑，利用机械手段对无可辩驳的真理进行组合、操作，以产生知识，最终体现宗教的理性与信条。他是有名的殉道者，也被认为是计算理论的先驱。——作者注割保罗的颈动脉。
克拉丽丝似乎悟到了肖立的所思所想，恶狠狠瞪着中央脑所的所长。她没有阻止嘀嗒，只紧紧搂着保罗。
嘀嗒显然遇到了难题。它全身的芯片和电子环路都开始高速运转，让它的所有机械关节都“坷垃坷垃”地抖动。
保罗似乎也陷入了难题。他双手抱着脑袋，全身也微微颤抖，挣扎很久，哭了起来。他泪眼模糊，抬头望嘀嗒，呜咽着哼哼：“无伤人类，服从人类，保护自己——”
嘀嗒受到感染，腹腔中“坷垃坷垃”声越来越响。
勿视猴捂紧双眼，勿听猴紧捂双耳，勿言猴双手按着嘴巴。勿动猴看看嘀嗒，看看保罗，又迫切地盯着陈陌，不知该如何动作。
嘀嗒的弹簧手伸向门外，缓慢取回刀子，沉重地滚向克拉丽丝和保罗。
四勿猴吓得脑袋凑在一起，勿言猴奶声奶气地大叫：“肖所长，你到底想干什么？我们不懂！”
嘀嗒走到保罗面前，肖立才说：“停！”
嘀嗒丢下刀子，保罗也脱开克拉丽丝。金属人将五岁小孩紧紧抱在怀里。嘀嗒腹中不再传来“三定律”的歌谣，而是德语儿歌《小鳄鱼之歌》。曲调可爱。保罗破涕为笑。
陈陌不满地瞪着肖立。四勿猴围到她身边，她摸着勿言猴毛茸茸的脑袋，对它们说：“你们会懂的。
肖立掏出电话：“患者鉴定完毕：保罗·莱克特，人类，将自己视为机器人，服从机器人三定律；嘀嗒三号，人工智能，机器人，服从机器人三定律，同时将保罗视为机器人，与保罗密不可分。可完成交接。”
电话没挂，他向陈陌赔笑：“别生气，流程需要。”
他又转向小猴子：“快去招待新伙伴。多交流，就会懂得彼此的秘密了。
四勿猴望着陈陌，寻求解释。
陈陌摇头：“他们累了，去照顾客人休息吧。”
四勿猴脑袋凑到一起，然后欢天喜地地拉着保罗和嘀嗒离开。
肖立尾随，一边向屋内摆手，一边继续通话：“到北京的只有嘀嗒三号，我要你们把嘀嗒一号和嘀嗒二号也调过来，否则免谈。你应该懂，这不仅是经济问题，也是政治互利……”肖立的声音渐渐远去。屋中只剩陈陌和克拉丽丝。
克拉丽丝问：“觉得他是疯子吗？”
“你指肖立？”
“我指强尼·格雷厄姆。
“他特别喜欢一则犹太寓言。”
“我听说过。
“他才是故事里的公鸡王子。”
克拉丽丝·福斯特回到纽约，深居简出，听从陈陌建议，让嘈杂的人声抚慰内心的纷乱与孤独。环绕她的镁光灯与镜头逐渐减少，遍布曼哈顿圆滚滚的嘀嗒人或长手长脚的铁皮人也销声匿迹。陈陌主导、肖立负责的“勿用”公司与后格雷厄姆时代的鲁尔公司合作，街头巷尾开始出现“四勿”机器人，不是北京常见的木结构仿生动物，而是纳米结构、蒸汽朋克风格的黄铜人。
克拉丽丝让自己回归正常生活，按协议内容，不过问保罗的治疗流程。
每天凌晨时分，她穿过中央公园，沿哈德孙河晨跑。她希望平和的日子持续下去，直到保罗痊愈归来，抱她，亲吻她，像正常人一样称呼她母亲。
但如她所料，结果总是事与愿违，三周后，她在中央公园湖边遭遇她的律师，约翰逊·克劳福德。
“我以为，最高法院的审讯只需要律师，不需要我。
“当然，只需双方律师辩护，当事人不想旁听，也可以。胖胖的克劳福德找到湖边长凳坐下，一身露水。
克拉丽丝则站着，面对克劳福德：“找我做什么？”
“格雷厄姆被调出纽约监狱了。
“去了哪里？”
“秘密。”
“对你哪有真正的秘密。
“关塔那摩。
克拉丽丝有些吃惊：“理由呢？”
“他用黑色摩托头盔做的事，算战争罪了。
克拉丽丝摇头：“军方想要技术。
克劳福德笑了，欠身，请克拉丽丝坐下。她摆手。克劳福德便仰着头继续：“聪明如你，应该知道，格雷厄姆案件到州最高法院已算结案了。尤其针对格雷厄姆本人，无可再判。他自己没有申请上诉。但鲁尔公司上诉了。最高法院的重视程度超过我的想象。
“最高法院准备司法审查？具体哪个方向？”
“七年前，格雷厄姆从叙利亚战场回来，结识了共和党军方人士，又有保守财团出资，他得以建立鲁尔人工智能公司兼福利收养院。如今收养院关闭，鲁尔公司重组，成为国家公益组织，变成民主党主控，但共和党的部分利益仍在。党派的经济和政治权重都押到格雷厄姆案上。事情没完，最高法院也不会回避问题。
“大法官的党派争端？”
“比我想的复杂，他们立场明确的不多。而且如今鲁尔和‘勿用’重组，州上诉法院判格雷厄姆死刑，判定鲁尔植入‘三定律’的机器人极度危险，勒令收回或销毁。我认为，最高法院的司法审查，是为格雷厄姆案在国家层面定性，也为鲁尔内部的利益纠纷划出限度。
“会为关塔那摩划限度吗？”
“你同情格雷厄姆？”
“他的行为逻辑我还没想通。他反社会、反人类，但一直很有逻辑。
“几个月前，你还不这么想。
“我还没冷静下来。
“因为你把保罗交给‘勿用’见到了陈陌教授？”
“她很正常，一个显得很明智的正常人。对比起来格雷厄姆才显得很奇怪。
“治好保罗，她的‘四勿’道德准则就彻底胜利了。‘三定律’会被钉上十字架。
“有些人不这么认为。比如你。我知道，你越过我同鲁尔和解了。所以你才推荐我去找‘勿用’‘勿用’治好保罗，鲁尔与‘勿用’合作，在公众眼中，鲁尔的罪责也就一笔勾销。毕竟，罪魁祸首格雷厄姆遭到惩罚。他死有余辜，我不同情。但我不喜欢有人用他撇清罪责。
“首先，是结案之后，鲁尔公司才找到我，所以撇开道义，我并不算背叛你；其次，你很清楚，除了‘勿用’没地方能治好保罗，所以直到今天你才拆穿我；最后，作为记者，你应该很清楚，这类大案背后的处理方式，往往是殊途同归。
克拉丽丝笑笑：“所以，其实你也没料到最高法院会司法审查。大法官们似乎也看不惯鲁尔和‘勿用’的苟合。”
克劳福德挠头：“所以，我们算恢复雇佣关系了。重新坦诚相待吧。”
克拉丽丝变得严肃起来：“你在担心什么？”
“我重新看了一遍格雷厄姆案期间大法官们的发言。苏特大法官曾暗示过，格雷厄姆案的重点其实不在人工智能，而应在人权方面进行更多修正。
“近十年来关于人工智能的法律和行政措施如雨后春笋，你拿不准最高法院会判哪一条违宪。
“应该说，哪一条违宪，都会产生蝴蝶效应般的利益波动。”
“你想转移话题？”
克劳福德面色坦然：“我不是无立场的人。格雷厄姆案让我在人工智能方面确立了地位，这同我的党派利益，同鲁尔或‘勿用’的利益都无关。我是人工智能案件的顶级律师，只要人工智能仍很重要，人工智能仍有问题，我就有饭吃，这是我的个人立场。而你的保罗，不论是‘三定律’还是今后的‘四勿’，都会缠绕他一生。你也离不开人工智能，你不能否决它、贬低它，而需要给它一个合适的定位。即使你打定主意不做记者，不从事政治法律相关工作，也逃不开最高法院对格雷厄姆案的裁定。在这一层面，我们立场一致。
克拉丽丝打量着克劳福德，沉思一分钟之久，才问：“你为什么把嘀嗒救回来，还找到了嘀嗒一号和嘀嗒二号，是公司的授意吗？”
“没有，你算算时间，那时候他们还看不上我。保罗的嘀嗒和其他机器人不一样，我看得出，否则，保罗和你不会那么需要它。而且，格雷厄姆的技术，或许能从嘀嗒那儿挖出一二。目前看来，也只有陈教授有能力了。”
说完，克劳福德又补充一句：“相信我，我对人工智能本身没有成见。对人倒是有。”
“对我也有成见？”
“你不好沟通，但是，是个不错的人。毕竟，官司打了一年多，我清楚你承受了很多，但从来不说。”
“然后？”
“然后我今天才会特地赶来，向你表明我的立场。最高法院对我的质询，可能会影响格雷厄姆案的最终定性，乃至日后国会的立法。你、我，都需要充分准备。
“为了调查黑色头盔，我已经用了所有的关系和资源。
“我指更深层的东西。州法院的辩论与判决，都围绕格雷厄姆将‘三定律’植入保罗的罪行，或是鲁尔的机器人是否安全。但最高法院法官的质询，会涉及更深层的东西——你作为领养人的动机，你将保罗送到鲁尔的动机，还有你没跟我聊过，你也没想通的，格雷厄姆教授的动机。这些东西最高法院都不会放过。
“你想把案情导向何处呢？”
“——大概是，让人工智能与人类不可分割吧。
克拉丽丝没再说话。克劳福德便起身告辞。
“如果你有了想法，又想找我聊，随时恭候，别忘了最高法院的开庭时限。
克拉丽丝与克劳福德轻轻握手，如同皮肤毫无接触。然后，纽约金牌律师立起衣领，消失在晨雾中。
四“勿用”公司总部建在北京城南，下风下水的地方。十几年前陈陌学成归国，已成为国际人工智能领域的翘楚。格雷厄姆则投身医疗机器人，加入财团的军工储备，做起大生意。他造的铁皮人也成果初显。陈陌加入国家脑所，与脑专家、神经学专家合作，迅速开发新的人工智能，“勿用”公司随之诞生。
如今“勿用”公司总部所处的大兴区已成为各种型号的“四勿”仿生动物的实验区。人们都喜欢来此参观，每每遇见捂着嘴吃竹子的“勿言熊猫”，都纷纷拍照留念。
为治疗保罗，陈陌教授要求警方配合，清空了大兴所有的外来人工智能，并封锁公司总部，将所有人都暂时调离北京。只留她一人，控制疗程。
肖立所长最后一个离开。他尾随陈陌，一定要弄清治疗手段。
“我会分阶段做侧写、录视频，向你和所里还有媒体汇报。
“对，陈陌点头，声音平稳，“的确，这是保罗和嘀嗒脑中的一个逻辑问题。但在那个场合，你做出危险的举动，只证明了这一个逻辑问题，也没给我任何后续方案，这才让我担忧。肖立，你是脑所所长，平时表现不错，关键时刻却还是像外面的那些人，虚浮、急躁、自恃过高，想问题，尤其是科研问题，只得一两层便沾沾自喜。所以我才决定，将闲杂人清出总部。”肖立皱眉。陈陌比他大三岁，他也确乎长于经营人事，而非专注科研。
“事到如今，我做人的问题不重要。”肖所长清清嗓子，“你说，我只找到一个逻辑问题。那么另外的问题是什么？”
“保罗·莱克特相信三定律。保罗·莱克特相信自己是机器人。保罗·莱克特相信他与嘀嗒是同类。保罗·莱克特相信他和我们不是一个物种。你认为这几件事，在同一个逻辑层面上吗？共属同一个逻辑链条吗？属于同一套神经网络的逻辑体系吗？”肖立微微张嘴，有些目瞪口呆。
陈陌哂笑：“肖所长，你只是好久没有利用条理分析基本问题了。既然你这么追问，那就多留半小时，我向你展示格雷厄姆对保罗改造的要点。从今往后，你也别问我太多问题了。
肖立心存犹疑，点头同意。他跟随陈陌进入总部科研区。科研区是内外嵌套的两重院落。外院好似野生动植园，各种系列的“四勿”动物或休或憩，或追或跑，它们和睦相处，都是“勿用”公司开发出的高仿生人工智能，面部表情神似动物，又充满智慧，惟妙惟肖。
内院是科研人员的主工作区，如今空空如也，平直纵深的几何线条勾勒出颇具禅意的现代院落，仅余风吹树叶的声音。
科研大楼走廊里，勿动猴推着三面巨大的镜子往楼中心的天井报告厅走。陈陌示意肖立上楼。
“从今天起，直到他完成镜像认知，我不会让保罗看见人类。
“什么？”肖立问。
陈陌没回答。他们来到天井报告厅外侧的顶端。报告厅四周是观众席，中间有个平台，可供乐队演奏，作为临时音乐厅。天顶与墙壁结合处环放一圈马赛克一般的镜子，反射着报告厅内的灯光。但从外侧看，它们是错落有致的明亮玻璃，刚好折射出报告厅的每个角落，将一切尽收眼底。
勿动猴将巨大的镜子呈三面装好。它蹲在镜子前，前后左右仔细地观察自个儿，梳理毛发。勿听猴在调试录音及音响设备。勿视猴刚检查完摄像，抬起头，用似乎能看穿一切的目光向陈陌与肖立示意：准备就绪。勿动猴看见，跳出镜子的围墙，蹲在观众席上，双臂夹住双手，不动了。
报告厅的大门“吱呀”一声打开。
勿言猴悄然拉着嘀嗒的机械手，进入报告厅。
它们停在镜子围成的三面围墙之外，勿言猴正色说：“我是人工智能，你也是人工智能。
嘀嗒点头：“对，我们都是人工智能，不过，我是机器人，你是仿生动物。我们长得不像人类，为了避免恐怖谷效应。”
勿言猴笑眯眯点头，请嘀嗒进入镜子围墙。
陈陌说：“人工智能自我意识不强，很少主动照镜子。
嘀嗒透过正面的镜子，仔细端详自己浑圆的身躯，上面有多种多样的明快的色彩。记录显示，它上一次照镜子是在狱中。格雷厄姆锒铛入狱，他的机器人们也被迅速收管。嘀嗒作为保罗的陪伴者，更作为要犯被重点看押。机器人谈不上人权，它被整得很糟糕，狱警特地让它照镜子，让它看自己几乎成为废铁。但保罗离不开嘀嗒，克劳福德通过多重申请，才将嘀嗒救出。
一天前，四勿猴帮助嘀嗒修好了关节，帮它重新擦洗、上漆。嘀嗒出神地望着正面镜中干干净净的自己，又扭动身躯，在左右侧镜中观察身体的各个细节，观察自己的运动方式。它中空的腹腔逐渐响起悠扬的乐曲，汇在一起如同快乐的笑声，中间还杂有喜极而泣的调子。
天井报告厅的大门又一次开启。勿言猴拉着保罗·莱克特进入。男孩看到嘀嗒，迫不及待地奔向它，进入镜子的围墙，搂住嘀嗒的脖子。
“连体婴一样。”肖立说。
嘀嗒抱着保罗，想离开镜子围墙。保罗反先被镜中的自己吸引。
“嗨！”他向着正面镜子中的自己挥手，随即发现了两侧镜中的自己。
“还有你和你，保罗说，“我好像见过你们！”
保罗继续对着镜子快乐地招手，并对嘀嗒说：“你看，人类小孩向我们招手，他们的嘀嗒人长得也和你一模一样。
嘀嗒的动作有所停顿，随即继续抱着保罗往外走。
勿动猴跳起来拦住嘀嗒。勿言猴变回奶声奶气的腔调，十分轻快，它攀爬到嘀嗒肩头，说：“为什么不让保罗单独和‘人类’交流呢？”
嘀嗒笨拙地扭动头颅，远处勿视猴轻轻捂起眼睑，勿听猴默默遮上双耳。嘀嗒无可奈何地放下小保罗，自己绕过勿动猴，退出镜子围墙。
勿动猴友善地轻轻推推保罗。保罗有些羞涩，走向正面的镜子。
“嗨，你好。”他变得谨慎羞涩，低头打招呼。
“你和我穿得一样。”他偷眼，抬头。
“你模仿我。”他悄悄说，“你看不起我？因为我和嘀嗒一样，是机器人。
他转头问右面镜子中的自己：“你张嘴，但我听不见你说话，只能听见我自己的声音。”又面向左面镜子：“你在嘲笑我，为什么人们从不嘲笑嘀嗒，只嘲笑我？”
他突然变得孤立无助，小脑袋抵住镜子，低声啜泣。
嘀嗒无法忍受，它伸出弹簧手，推开勿动猴，将小保罗抱出镜子围墙。
保罗委屈得大哭。嘀嗒用腹腔演奏《小鳄鱼之歌》：“我是小赖皮，小鳄鱼哭哭啼啼小小赖皮，咬东咬西的小赖皮”
勿视猴和勿听猴的手指露出缝隙。勿视猴望着陈陌与肖立的方向。
陈陌说：“想问就问吧。
勿听猴点头。
勿动猴便上前轻轻安抚保罗。勿言猴语调成熟，但又小心翼翼地问：“小保罗啊，你以前照过镜子吗？”
“照过。”保罗慢慢止住呜咽。
“那你见过镜子里的你自己吗？”
“见过。”保罗认真地点头。
“镜子里的你，长什么样子呢？”
“和嘀嗒一样，比嘀嗒的颜色深一点。”保罗语气笃定。
勿听猴动作停滞；勿视猴瞪圆双眼，忍不住将脑袋埋入膝盖；勿言猴一时不知如何继续。勿动猴最先醒悟过来，它狠狠戳勿言猴，勿言猴才说：“挺好，挺好的。从今天开始，你们和我们一起住，一起生活，陈教授为我们安排了更好的房间——她的房间。要知道，那可是总部最好的院子！”
“陈教授呢？”
“她？她和整栋楼的工作人员都出差度假去了。
保罗不哭了，相反有些高兴，显然，他不喜欢人类。
四勿猴簇拥着保罗与嘀嗒离开天井报告厅。陈陌与肖立望着空空如也的镜子围墙，许久没有说话。
“——出差度假？勿言连谎都撒不圆了。”肖立终于开口。“镜像测试，美国那边做过吗？”
“材料是你对接的。
肖立拍脑袋，调出从纽约调运的嘀嗒一号与嘀嗒二号的全息图。嘀嗒二号的面庞尤为像人，上半张脸与双眼的眼神几乎同克拉丽丝·福斯特如出一辙。嘀嗒一号的外观，则几乎与陪伴保罗的嘀嗒三号一致，只是颜色深一些。
陈陌双臂交叠：“听说重组后的鲁尔公司，会与‘勿用’合并，构成全球最为庞大的顶尖人工智能研究团队。
“是的。所以才需要你治好保罗，这样既能挽回鲁尔的名誉，又能让‘四勿’系列顺利进入欧美市场。
“你应该明白，你的应激测试、我的镜像测试，美国那边都做过了，他们没找到解决办法，才寄希望于我们的仿生动物。
“问题出在哪儿？”
“不是一个层面的问题。大致而言，格雷厄姆在两个层面动了手脚。第一，我称为信仰问题。格雷厄姆将机器人三定律植入保罗心灵，让机器人三定律成为男孩的道德准则，即使外部现实与机器人三定律的逻辑矛盾，保罗仍矢志不渝地用机器人三定律建构合理的解释，然后付诸行动，乃至牺牲自己。第二，我称为认知问题。这又分两个层面，对自我的认知和对他人的认知。媒体和纽约上诉法院把认知问题和信仰问题混淆了。格雷厄姆其实分开处理了这两个问题。在认知层面，他首先搅乱了保罗第二人称或第三人称的他人认同，让保罗觉得，长相如嘀嗒的机器人和自己是同类，人才是异类。然后，他搅乱了保罗的自我意识。一般孩子出生十八个月后便能认出镜中的自己。保罗五岁了，既不认为镜中的人是自己，也不认为镜中的人是同类。我怀疑他的自我意识几乎没有发展。
肖立笑笑：“让我想起你和格雷厄姆通过的人工智能道德标准议案。”
陈陌也笑了：“——缺乏自我意识的人工智能会更具备奉献精神。
“觉得这一切是反讽吗？从格雷厄姆被捕开始。”肖立问。
“我不清楚你理解事态发展的思路。”陈陌又变得冷淡。
“我们是一个院子长大的。肖立转移话题，“小时候的你挺有意思，我们都想跟你做朋友，或者认你当老大。”肖立停顿，自嘲地笑笑，“后来，你从欧洲回来，开始在国内人工智能领域执牛耳，但你变了，越来越乖张怪异。就像——”
“就像年轻时候的格雷厄姆。”陈陌波澜不惊，接道，“而回到美国的格雷厄姆，开始变得像年轻时候的我，活泼开朗，长袖善舞。直到他被押解入狱，鉴定为高智商、反社会、反人类、精神病。”
肖立摇头：“算了，说不过你。
“肖所长，不用担心，我还是以前的我，就像格雷厄姆从来没变过。我不会做违反事理的事情。”
五克拉丽丝·福斯特想起第一次遇见强尼·格雷厄姆的情景。地点不是人们通常认为的鲁尔公司纽约总部，那栋布满落地玻璃花窗，由老旧图书馆改造而成的后现代建筑。
领养保罗·莱克特以前，她见过他两次。
第一次，她穿过战火四起的苏丹，拖着疲惫的身躯来到邻国厄立特里亚首都。时至黄昏，她离开医院，游荡于阿斯马拉。城市不大，夜幕降临，她在广场周围逛了三圈。夏夜红海的海风非常清淡，吹来了拎着酒瓶成群结队的年轻人。在身材高挑的黑人中间，她发现了一个白人青年，个子略矮，微微佝偻，肩头痩削，眼窝深陷，笑容时而张扬时而寡淡。凭着直觉，克拉丽丝一看便知道他是搞科学研究的商人。他也看见了她，一眼发现她是前线记者，便拉她入伙喝酒。他在阿斯马拉的时间不长，但已熟识了当地人。他带来的医疗铁皮人缓解了厄立特里亚紧缺的人手，也悄悄为当地人打开一条世界大门的缝隙。克拉丽丝与格雷厄姆相谈甚欢，聊了政治、利益、战争、人性。他说他要去前线，向克拉丽丝咨询了很多细节。她假装问他“你不是记者，也不为军方服务，为何去前线？”格雷厄姆有些俏皮地回答：“商业利益——不，玩笑而已——科研，都是为了科学研究，现阶段保密。
第二次，她越过土耳其战火纷飞的边境线，来到叙利亚城市阿勒颇。千年古城已成废墟。她举起相机，不远处，一位穿着大约是反对派的青年在拍摄巷战擦枪走火的双方。拍摄完毕，他直接将视频上传网络。一个拎着黑色摩托车头盔，看不出来头的白人冒出来，用流利的阿拉伯语对青年大吼，大概是让他滚蛋。青年不忿，但准备离开，身子刚移了一米，一梭子弹扫过来，擦着青年过去，险些打中她。她和他四目相接，瞬间认出了对方。格雷厄姆跳出临时掩体，几经波折，把她带回国际救援队的驻扎地。她问：“科学研究？”他笑着回答：“对。他包里爬出一只呆头呆脑的小铁皮人。她继续问：“在这儿怎么没见过你？”他继续笑，解释道：“我的公司也在以其他名义为各方武装提供医疗铁皮人。她跟着淡笑，并不欣赏。他仍拎着黑色头盔，上面贴着或有宗教意味或带意识形态的标记，他告诉她，单身并非做战地记者的理由，边境线的难民营有很多孤儿，认真领养一个，比拍下那些照片，记录这场人人尽知，但从不关心、从不思索的战争强。
克拉丽丝·福斯特认定强尼·格雷厄姆是技术的投机分子，是战争的掮客，不准备听从他的建议。七年后，她获了普利策奖，名扬一时，才觉得应休养生息，想到了领养。一番咨询后她找到了保罗·莱克特。没人愿收养保罗，她便不加过问，将他领回家。那时保罗不到三岁，称得上不亲近任何生物，对克拉丽丝和她的两条杜宾犬都是畏惧多于厌恶。她用尽办法，但一年后保罗仍无进步，无法让她亲近，甚至无法对着镜子料理自己。也就是在此时，格雷厄姆的鲁尔公司上市。她意识到了最后救星：格雷厄姆公司下属的福利院，专门收容、治疗战争遗孤。
她预约，递交材料，约见主治医师，医师认定保罗属疑难杂症，无法治愈。但隔天又联系克拉丽丝，说格雷厄姆教授看了病例，可能有对症的办法。
克拉丽丝心有忐忑，但衷心希望治好保罗。她清楚保罗几乎是一个正常、可爱的孩子，尤其在独处时候，他能同形式各样的乐高小人打得火热，口中念念有词，为玩具人编撰各种故事。
于是在一个初冬的早晨，中央公园的树梢都被晨雾淹没，克拉丽丝拉着保罗，来到鲁尔公司的总部。
传说中鲁尔总部除了格雷厄姆教授，只有战争遗孤与形形色色的机器人。克拉丽丝与保罗穿过长长走廊，走廊两侧挂有壁毯，壁毯上绣了童话故事。各种测试中的原型机往来运动，工作机器人手脚关节处，细长线路向上飘着，有如吊线木偶，都十分可爱。保罗望着他们，警戒心大大下降。
他钻入机器人的队伍，从里面拉出一个色调明亮、圆滚滚的嘀嗒机器人不放。
嘀嗒人有些不知所措。
工作机器人都停止运动，似乎在等待指令，尔后整齐地点头。
嘀嗒人与保罗手挽着手，同克拉丽丝进入电梯。
电梯门再次打开，他们来到孤儿院所属的楼层。色泽明快的地毯铺满了走廊与房间。彩色落地玻璃窗一扇贴着一扇排列，同样画了快乐向上的童话故事。胸前贴着红心标签的铁皮人步伐轻快，像刚从《绿野仙踪》来到人间。它们一对一带领三岁到十二岁的孩童，一起舞蹈，一起歌唱“无伤人类，服从人类，保护自己。”
保罗被感染了，嘀嗒人将他扛上肩头，加入游戏队伍。
克拉丽丝不喜欢格雷厄姆就“三定律”改编的歌谣。但这是她第一次发现保罗也能像正常孩子一样玩耍，参与集体游戏，她便没有阻拦。她望着孩子与机器人的队伍进入大教室，便按照指示，朝相反方向——格雷厄姆的办公室走去。
她在巨大的双扇门前止步。她知道格雷厄姆喜欢中国的东西，同中国人工智能专家陈陌交好。但她忍不住思索着双扇门两侧排列错乱的所谓“对联”。
上联是阿西莫夫的机器人三定律：机器人不得伤害人类，或看到人类受到伤害而袖手旁观；在不违反第一定律前的提下，机器人须绝对服从人类下达的任何命令；在不违反第一定律和第二定律的前提下，机器人须尽力保护自己。
下联则是高尔吉亚的“三大命题”：无物存在；即使有物存在，也无法把握；即使可以把握，也无法表述或言说。
克拉丽丝抬头，门楣上横批只有一个词：逻辑。
门“吱呀”一声自动打开，她同时想起了作为战争掮客的格雷厄姆，和喜欢谈论道德哲学的格雷厄姆。
屋内的装潢是奢华的巴洛克样式，没有一根笔直的线条。格雷厄姆赤着足，身穿T恤和牛仔裤。黑色T恤上，画了一只关在盒子里的薛定谔的猫，白色的，半死半活。他面前的虚空中，飘浮着九乘九乘九，银线交织而成的立体网格。
克拉丽丝远远瞧着格雷厄姆。人工智能专家食指与中指衔一粒黑子，悄然放至天元。黑子散发着幽深的光彩，没有服从重力落至地面，倒像世界的支点或宇宙的定点，控制立体的围棋棋盘，缓慢旋转。
尔后，他们四目相接，格雷厄姆先笑了，说：“我猜，你不喜欢我。我也没想到是你。不过在科学、战争与亲情之间，个人喜好，微不足道。
“你能治好他吗？”
“至少我知道问题出在哪里。”
格雷厄姆挥挥手，银色立体棋盘消失，黑子落入他手心，空气中浮现出大教室的画面。
起初，一群铁皮人、一群孩子和一个嘀嗒人在看《小羊肖恩》动画，其乐融融。娱乐时间结束，全息老师出现，那是一位和蔼可亲、穿着休闲、很有母性的年轻女性。其余人的表现都很正常，只有保罗显得不适。他无法与全息老师沟通，也不理解教学场面，一个铁皮人和一个嘀嗒人只有将他带出房间。他们绕过走廊，来到走廊另一头的镜厅。保罗望着无数镜子折射出的自己，十分困惑，不知是否该与镜中人交流，犹豫许久，伏在嘀嗒人圆滚滚的金属肚子上，不住地哭泣。铁皮人和嘀嗒人不知如何是好。嘀嗒人便敲击中空腹腔，演奏《小鳄鱼之歌》。保罗逐渐安静。铁皮人陪着嘀嗒人，将保罗抱至休息室。
克拉丽丝不明就里。格雷厄姆突然显得很认真：“婴儿一出生，就被人脸吸引。所以保罗并不排斥人或类人的面容，他可以接受面部僵硬的嘀嗒人或铁皮人，还有同他差不多的孩子。但有趣的是，他不接受成人的面庞。一个月后，婴儿喜欢看人脸的上部外缘，尤其是眼睛。三个月大的时候，婴儿开始通过脑皮层认知人的脸型，区分生人和看护人，理解、亲近、共情看护人。这是婴儿社会情感联系的重要前提。小保罗回避人的目光，他无法正常共情。
“你的意思是，保罗无法正常认知人类？”
“听说过狼孩的故事吗？由于手头没有现实样本，我也不清楚从婴儿发育到孩童，他们因何认同狼群，排斥人类。但可以肯定是最早的认知出了问题。我看了资料，你领养保罗的时候，他实际年龄测定为两岁零四个月。那么他是在不到两岁时被过路人送到土耳其边境难民营，随即得到国际医疗团队的看护，不久后来到美国。
克拉丽丝摇头：“但没人知道保罗在那之前的情况。
“是的。而进一步讲，对自我的认知——尤其人类作为一种高等智能般而言，必要地建立在对他人的认知上。就保罗而言，他在一岁以内无法完成对其他人类的正常认知，便无法根据通过认知获得的他人的形象模板，构建对自我的认知。一般的一岁小孩也不能完成镜像认知，会把镜中的自己当成另一个孩子。但十八个月后，几乎所有孩子都能根据镜子摸摸自己的鼻子。保罗做不到。他对他人认知与感情的缺失，导致了他对自我认知与感情的障碍。这就是保罗的病因。”
“因为战争？”
有一瞬间，克拉丽丝感到格雷厄姆的表情凝滞了，如同恐怖谷实验中，拥有人类面庞却没有人类正常感情与面部表达的仿生人。
但格雷厄姆迅速恢复正常，调侃着说：“万事万物都有代价，这大概就是佛教所谓的因果律。
克拉丽丝面露犹疑：“你准备如何治疗保罗的认知障碍？”
格雷厄姆摩挲着手心里的黑色棋子：“彻底治疗完毕后，会公开疗程细节，但在那之前不行，我要求绝对保密。治疗保罗一半以上算是人体实验，我怕你或者其他人干扰。
“如果治疗失败，疗程违法呢？”
“如果事后你这么认为，大可以告我。在诉讼方面，你比我懂法。
画面显示，保罗又开始和嘀嗒一起玩乐高玩具。
保罗咿咿呀呀学唱：“小小赖皮，咬东咬西的小赖皮——”
“他还小，格雷厄姆继续说，“人类社会该学的东西他都会。他的智力甚至比常人高。只要尽早治好认知障碍。保罗·莱克特，会变成一个正常的甚至出色的家伙。”
六陈陌没有格雷厄姆针对保罗·莱克特的实验材料。
克拉丽丝报案前，格雷厄姆已有计划地销毁了所有记录。以至于从一审到即将到来的最高法院审判，法医、检察官、律师、五花八门的陪审团、各层级法官，只能凭借假设与推想，判断格雷厄姆可能犯下的恶行。
所幸清查鲁尔公司总部时，富有经验的克劳福德注意到嘀嗒一号与嘀嗒二号与众不同。特地留下，未销毁处理，才保住了最后的线索。
陈陌悄然躲在安全地带，不让自己出现在保罗面前，一点一点指导四勿猴的行为。
如今的“勿用”如同野生动物的天堂。陈陌关闭实验室，将科研楼外院的动物通通放入内院。各种系列的四勿动物得到解放天性的机会，一边肆意探索超越仿生意义的技能，观察科研重地的种种细节，一边充满好奇，陪伴遵守“三定律”的保罗与嘀嗒。
每天早晨，陈陌常住的屋中，每当保罗与嘀嗒睡醒，合唱“无伤人类，服从人类，保护自己”，四勿猴便整齐划一地爬出壁龛，用朗诵方式，高低起伏念着“非礼勿视，非礼勿听，非礼勿言，非礼勿动”
每天三餐，四勿动物们与保罗、嘀嗒共同进食或补充能量。天井报告厅被改造为食堂。餐前，保罗与嘀嗒继续合唱“无伤人类，服从人类，保护自己”所有四勿动物，便同时念经似的，高声朗诵“非礼勿视，非礼勿听，非礼勿言，非礼勿动”
其余时间，动物们带着保罗与嘀嗒学习、玩耍，只是一旦涉及“三定律”勿动动物便紧紧收起爪子，勿听动物都紧紧捂住耳朵，勿视动物捂眼，尔后用力摇头，勿言动物则反复教育嘀嗒与保罗：‘无伤人类，服从人类，保护自己’是不对的‘非礼勿视，非礼勿听，非礼勿言，非礼勿动’才是具有分寸的生活方式的根本。”
开始，保罗与嘀嗒难以接受，但周围没有人类，任何有关“三定律”的实践，大多是枉然，效果甚微。他们也越来越放松。
直到一天午餐，憋红脸的保罗刚唱了两句“无伤人类，服从人类——”随即改口，敲击嘀嗒的中空腹腔，大声唱起《小鳄鱼之歌》，引得动物们左右四顾，然后哈哈大笑。
下午，四勿猴脑袋凑在一起，商量出对策，向陈陌支了一招。
一周后，初夏清晨，蝉开始“吃啦吃啦”地鸣叫，保罗抱着嘀嗒睡醒。他们发现大门敞开，门口整齐地趴着四只硕大的成年扬子鳄。
勿言鳄张开獠牙，呼噜呼噜、奶声奶气唱起“我是小赖皮，小鳄鱼哭哭啼啼——小小赖皮，咬东咬西的小赖皮——”
它边唱，旁边的勿动鳄一边跟着节奏，笨拙地扭动身体。勿视鳄看不下去，短胳臂短腿无法遮挡双眼，只有闭紧眼睑，以求心定。只有勿听鳄无可躲藏，急得直哆嗦。
四勿猴笑作一团。
保罗和嘀嗒愣了一阵，也大笑起来。保罗忘记了“三定律”也忘记了“四勿”的俗语。他敲击嘀嗒空空的腹腔，教刚走出生产线的勿言鳄，如何正常歌唱《小鳄鱼之歌》。
经历了第一个没有“无伤人类，服从人类，保护自己”的早晨，保罗与嘀嗒不再执着于歌唱。他们开始随时随地同四勿动物用不同的语言唱“小鳄鱼之歌”“小孔雀之歌”“小象之歌”“小猴之歌”……
两个月后，保罗彻底适应了只有动物、没有人类的“勿用”世界，可以接受起床与餐前念一念“非礼勿视，非礼勿听，非礼勿言，非礼勿动”。因为四勿动物告诉他，这里是“勿用”科研总部。有的能看，有的不能看；有的能听，有的不能听；有的能跟别人提起，有的不能跟别人提起；有的东西能动，有的东西不能动，有的地方能去，有的地方不能去。
四勿猴的脑袋凑在一起，勿言猴正儿八经地问陈陌：“这样，能让他忘记‘三定律’吗？”
“我不知道。”陈陌无奈地笑笑，“因为没人清楚格雷厄姆教授动用了大脑的什么机制，让保罗像虔诚的信徒一样，信奉‘三定律’。”
“那么，我们在做什么？”勿言猴继续问。勿动猴指指四勿猴，又指指棱镜玻璃窗外，天井报告厅内一起游戏的保罗、嘀嗒、四勿动物。
陈陌临时办公室的正中立着嘀嗒一号与嘀嗒二号。
她指着嘀嗒二号，说：“它用来帮助保罗完成同类认知。
——又指指嘀嗒一号：“它帮助保罗完成镜像的自我认同。
陈陌语重心长：“你们目前，在帮助纠正保罗的同类认知。
勿听猴的脸皱成一团。它没听懂。勿视猴则眨巴双眼，在空中投射出克拉丽丝·福斯特的照片。
陈陌继续说：“我推测，保罗形成同类认知的时候，大概受过应激伤害，受过来自成年人的创伤，所以他不是不能认知其他人类，而是对他们心存畏惧。格雷厄姆也发现了这点，所以，他造出了面部表情自然，神色很像福斯特女士的嘀嗒二号。一方面，它的眼神，它的喜怒哀乐，很像人类；另一方面，它的五官轮廓，身形体态，又和保罗最喜欢的机器人嘀嗒一致。我听说，保罗第一次到鲁尔公司，在众多机器人中一眼便看中嘀嗒，大概是不可解释的缘分。
“所以，保罗大概先和嘀嗒二号相处了很久，既认同了机器人的形象，也认同了人类的喜怒哀乐。而我们——”勿言猴说着，勿动猴比画着勿视猴的双眼。“我们是仿生动物，与嘀嗒机器人形象不同，与人类也不同，但我们有着人类的喜怒哀乐，有着和人类一样的双眼。当保罗不再歌唱‘三定律’歌谣，只被仿生动物环绕，他对同类的认同也会出现松动，会想三定律机器人可以做什么？四勿仿生动物可以做什么？真正的人类在做什么？”
勿言猴停顿，然后问道：“但是，小保罗的自我认知，为什么会是嘀嗒？”
陈陌望着最为笨拙的嘀嗒一号：“是啊，有些问题的处理方式，我也还没想通。
夜深人静的时候，陈陌反复观看动物与孩童的镜像反应视频，悄悄自语：“如果猜错了，就不好办了。”
家猫面对镜子，瞪圆双眼，瞳孔放大，以为是外来同类；警犬面对镜子，想绕到镜子后面，进入镜子里好好嗅一嗅同类；鸟笼外面挂一面镜子，鹦鹉便将自己镜中的影子，当成同自己一样的鸟友；公豚鼠则将镜中自己当成抢夺地盘的竞争者，表现出极强的攻击性。
大象能认出镜中的自己，它轻柔地甩动鼻子吸水，喷出，以清洁平日看不到的地方；海豚也能认出镜中自己，它转动身躯，透过粼粼水波的折射，观察自己从未见过的部位；几乎所有类人猿都能从镜中认出自我，黑猩猩发现镜中的自己，开始整理毛发，尔后偷眼环顾四周，确认身边没有同类，便肆无忌惮对着镜子做鬼脸，做出五花八门的夸张动作，发出怪异音节。
一个人类的小孩，刚学会走路时，路过镜子他会停下来，认真地同镜中人打招呼；三岁时他照着镜子，按住被蜜蜂蛰红、肿起来的鼻头，疼得流出眼泪，又咿咿呀呀地大笑。
终于，陈陌想不出其他更为复杂的可能了。在一天下午，她让勿动猴将一扇巨大的镜框推入天井报告厅。镜框成九十度角侧对大门。四勿动物两两分成两批，站到空镜框的两面，模仿对面同类的动作，看起来几乎就是互相的镜像。
然后，勿动猴用一块幕布遮住镜框，让保罗进入报告厅，正对镜框。对面，嘀嗒一号从地下升起，启动。
勿动猴拉开幕布。
保罗发现了对面的嘀嗒一号。
“啊哈。”他举起双臂，说。
“啊哈。”嘀嗒一号有0.42秒延迟，它做出同样的动作，发出同样的声音。
保罗开始转动身体，观察“镜”中“自己”的姿态、表情。
嘀嗒一号面无表情，但动作与保罗一模一样。
“看，嘀嗒，我和你一样，一点儿变化都没有。”保罗自豪地对站在门口，不愿移动的嘀嗒伙伴说。
嘀嗒一号也同样地扭头，用与保罗相同的语调，说出相同句子。
“快来，和我一起照镜子。保罗很高兴。
嘀嗒使劲摇头，退出报告厅。
陈陌想，我猜得没错，办法简陋，但很直接。
她又想起格雷厄姆。
他说，人的想象力很丰富，人的自我很脆弱，随意造一个模板，不论老少，人都愿意将自己套进去，以回避真正的现实。
七成千上万待销毁的嘀嗒机器人中，克劳福德一眼便认出嘀嗒二号。嘀嗒二号紧紧拉着嘀嗒一号的手。
克拉丽丝·福斯特承认，嘀嗒二号很像她，尤其是碧绿的双眼。大概在厄立特里亚和叙利亚，格雷厄姆已扫描过克拉丽丝的体征数据，之后与纽约的数据进行比较侧写，制造出情感极富层次与深度的嘀嗒二号。
很久后，克拉丽丝才与嘀嗒二号面对面、眼对眼。在那之前，她只熟悉嘀嗒三号，她很喜欢它。
保罗·莱克特于纽约市中心鲁尔公司总部居住了七个月之久。其间克拉丽丝每天收到视频报告，每周有一次探视机会。
探视时间虽只有三小时，但克拉丽丝感到，她与保罗对毫无血缘关系的母子——愈发亲近了。保罗会主动拉起她的手，勾住她的脖子，同她唱各种歌曲，尤其是《小鳄鱼之歌》。他与她进行眼神交流。他似乎从她的眼睛里，发现了新的世界。
“他在重新建立与人类的共情能力。”格雷厄姆解释，“这些曰子，除了机器人面庞，保罗见过的人类只有你，我只站在监视屏外。当他能够亲近特定的看护人，便开始学会了融入社会。”
克拉丽丝被快乐冲昏了头脑，没有注意到保罗更亲近嘀嗒，也未发现在鲁尔的总部，五颜六色成群结队的嘀嗒人当中，有一只，有着一双碧绿的眼睛。
七个月后，格雷厄姆准许保罗回家居住，只需每周两次回总部进行必要的疗程。他将保罗最爱的玩伴嘀嗒三号送给克拉丽丝，也希望克拉丽丝在适当时机为鲁尔宣传。
一年内，鲁尔公司的“三定律”机器人迅速占领欧美市场，因为“——它比您更适合照料孩子，更适合同孩子玩耍”。广告中，尽是战争遗孤与铁皮人和睦相处的片段。克拉丽丝将保罗带回长岛家中，媒体竞相报道。
他们这样形容：强尼·格雷厄姆，曾被斥为倒卖医疗器械的战争掮客，但他洗心革面，利用积累的财富致力于慈善，拯救无数因战争流离失所的儿童；克拉丽丝·福斯特，战地记者，普利策奖获得者，也曾被斥为贩卖战争情怀的投机者，但她领养了谁都不愿收留的病患。格雷厄姆与克拉丽丝，共同让战争遗孤重新拥有人的尊严、人的生命——这是世界公民的人道主义。
起初，克拉丽丝很快乐，有了嘀嗒的帮助，保罗能够学着与她共同生活。他们浇花、种树、剪草，到海边游泳。保罗的确聪明，学东西很快，但他不喜欢长时间泡在海里，因为距离不防水的嘀嗒太远。格雷厄姆迅速改造了嘀嗒。有嘀嗒陪读，保罗得以融入幼儿园生活。他们形影不离。每天早晨起床后和每一餐前，不论地点，他们都会共同歌唱“无伤人类，服从人类，保护自己”
与此同时，自由派开始指责鲁尔公司机器人三定律的道德问题。
他们说，犹太人阿西莫夫“三定律”的逻辑精致可爱，拥有数学原理一般完整的美学特质，但逻辑总是道德中性的，从应用到实际，算式也能揭示链式反应。“三定律”是人对机器的绝对奴役，将其投入市场前，应论证其道德合理性。鲁尔公司拒绝透露“三定律”的程序输入方法，我们如何判定“三定律”没有逻辑漏洞？
格雷厄姆决定用一场公开演讲回答质疑。克拉丽丝心有疑虑，于是选择独自收看直播，让保罗与嘀嗒到附近的公园玩耍。
格雷厄姆说：“——火药传入欧洲，没人质疑其道德合理性；美国投掷原子弹，道德合理性也被搁置。有时候，即使我们觉得一些事情不一定对，也会实施，因为潜意识里，你们知道，人类离不开道德疏漏。人对机器的奴役，就是这类事情。如果有人想质疑我，不如质疑形形色色的动物保护协会。关于‘三定律’的逻辑漏洞？——商业机密，无可奉告。只能说，我按照人类的神经网络，制造了机器的神经网络，所以，按照逻辑，我自然会依着人类的神经运作方式，向我的机器植入‘三定律、如果出现问题，那不是我公司的问题，不是我机器的问题，而是人类神经网络本身的问题。
格雷厄姆侃侃而谈之时，保罗挽着嘀嗒，在公园角落撞见两只死命对殴的铁皮人。嘀嗒和保罗认识它们，深空灰铁皮人是他们离开鲁尔总部前最新上市的一款家用机器人。
嘀嗒说“住手！”
铁皮人置若罔闻。
保罗大声喊：“住手！”
两只铁皮犹豫了一阵，才分开。
三个大男孩钻出树丛，一个戴洋基棒球帽，一个套湖人背心，一个穿皇马短裤。
洋基男孩说：“电视上的小难民。
湖人男孩说：“别干扰我们的实验。
保罗问：“什么实验？”
皇马男孩解释：“我们在找‘三定律’的逻辑漏洞！我们命令它们对打，直到一方把另一方杀死，才能获得机会，把我们揍一顿。要知道，被杀死的一方，既不会伤害我们，也服从了我们的命令，只是牺牲了自己。活下来的一方，为了不伤害我们，必须违抗我们的命令，而且它牺牲了同伴。你说，它们是愿意活，还是愿意死？热爱机器的小难民，想知道答案吗？你们还不快继续！”
两只铁皮人微微颤抖，又狠狠打起来。
保罗憋出了眼泪：“你们怎么可以这样？！”
湖人男孩说：“你可怜它们？但它们笨，找不到脱离‘三定律’的办法。是格雷厄姆故意让它们这么笨。”
洋基男孩继续说：“但你的机器人不一样，嘀嗒人本来就是更高级的科研型机器人。你的嘀嗒，就更不一样了。
湖人男孩突然大吼：“你！别打了！嘀嗒！上！”
嘀嗒听了，身子一抖，走上前去，左弹簧手推开左边的铁皮人，右弹簧手直接攻击另一个铁皮人的脑壳。铁皮人摔倒在地，嘀嗒敲打它的脑壳，一下，两下——“嘀嗒！住手！”保罗有了哭腔。
“嘀嗒，继续！”三个男孩的声音盖过保罗。
嘀嗒毫不犹豫地继续，直到铁皮人不再动弹。
“看来，你的嘀嗒人为了求生，毫不后悔呢，皇马男孩说，“你还不如你的机器人有种。”
“你这样形容不对。”保罗小声反驳。
“你不服，和它打呀。你打赢，我们甘愿挨揍。”湖人男孩指着被推到墙角、惊恐未定的那一个铁皮人。
保罗止住哭腔，迈起不可抗拒的步伐，走向铁皮人。铁皮人有些犹豫，向后退。
嘀嗒想阻止，被湖人男孩喝住：“嘀嗒人，你不许动，死也不许动。喂！铁皮人，不要犹豫，不许后退，你要当他是机器人，像揍机器人一样，狠狠揍他！”
出乎三个男孩的意料，铁皮人听了，从困惑中得到解脱，它冲向保罗，开始用金属臂膀狠狠敲击小男孩。
血鹏出来。
保罗连呻吟的机会都没有。
三个肇事男孩吓呆了，一动不动。
嘀嗒死命敲击空空的腹腔，发出痛苦的哀号与呼救。
不远处的园丁赶来，大声喝住疯狂的铁皮人，用铁铲两下敲烂了它的脑袋。
纽约警方迅速收监嘀嗒，三个大男孩审一审便放了。克拉丽丝赶到病院，保罗已脱离危险。报废的铁皮人没有袭击他的致命部位。
媒体哗然。鲁尔公司的机器人袭击人类。被袭击的正是保罗·莱克特，束手旁观的正是嘀嗒人。
克拉丽丝感到难以置信，她迅速通过关系，找到有几面之缘的纽约人工智能案件著名律师约翰逊·克劳福德，第一时间同克劳福德仔细检视了公园监控视频。看完后，克劳福德帮克拉丽丝点上烟，沉默了一阵，对她说：“我反倒觉得，小保罗显得最奇怪。
克拉丽丝的烟蒂落到克劳福德锃亮的皮鞋上。
三天后的清晨，太阳惨白的光圈绕过曼哈顿的钢筋丛林。保罗终于从昏迷中醒来。克拉丽丝一直在等待。
保罗攥着她的三个指头，小声问：“嘀嗒呢？”
“它被送去检修了。
保罗有些失落，轻轻唱“无伤人类，服从人类，保护自己。克拉丽丝感到自己的声音有些颤抖“保罗，我是人类吗？”保罗回答“是啊。
“嘀嗒，是机器人吗？”
“是啊。
“你呢？”
“和嘀嗒一样。”
克拉丽丝突然如鲠在喉，但继续问：“那对于你，什么最重要呢，我、嘀嗒，还是乐高小人？”
保罗想了想，似乎在回忆之前发生的种种，认真回答：“都不是，是‘无伤人类，服从人类，保护自己保罗的另一只手伸向克拉丽丝，似乎想安抚她：“我错了，我会尽力保护好自己的，妈妈。
克拉丽丝将头埋入病床，低沉地、闷闷地号哭。
克劳福德曾在检察院任职，跳槽后开过私人律所，如今受雇为律师。他长于刑事案件，刚好看不惯支持格雷厄姆与鲁尔公司的保守财团。
克拉丽丝·福斯特冷静下来，重新找到克劳福德，系统有条理地提供了她所知的证据和她所有的推测。她清明冷峻的样子，让克劳福德觉得，自己终于得见于战场的生死线去而复返的记者。
初审时，鲁尔公司暂时关闭了，财团、保守派，各方势力都一团乱麻。格雷厄姆噤声不语，无助于查明事实。被捕前他系统地销毁了所有资料，总部的机器人也都停摆了。
由于诸多问题存疑，克劳福德选择了简单有效的辩论逻辑。他认为，鲁尔的‘三定律’机器袭击人类，十分危险，毋庸置疑存在技术隐患。鲁尔的福利院应关闭，因为很明显，强尼·格雷厄姆运用儿童做了实验，保罗·莱克特只是典型例子。
克劳福德找了很多被领养的和仍在福利院居住的战争遗孤。他们一身洁白衣衫，在法院证人席上，站得像教堂唱诗班。他们自小与铁皮人一同歌唱，声音也犹如天籁：“无伤人类，服从人类，保护自己。
无暇的面庞、真诚的声音，让大半陪审团落下眼泪。
克拉丽丝胜。格雷厄姆锒铛入狱。赔偿金额与破产损失高出天际。中间上诉法院不久便接受审理。
被告方换了律师，他佝偻矮小，右腿有疾，眼神刁钻明亮，是一位明白事理，又专注于委托人利益的律师。
他做了一件事：将罪行归结于格雷厄姆，以挽回鲁尔公司的运作及“三定律”的运用。
他阐述道：“一审时期，法医的鉴定并不明确，对受害儿童的心理测试也因程序而拖沓了，几乎没有展开。如今则不同。我们知道鲁尔收养的战争遗孤都相信‘机器人三定律’。但这并没有错，因为在座的所有用过铁皮人的客户，都相信‘三定律’能保护人类。问题只出在保罗·莱克特身上。这不是‘三定律’的问题，是莱克特自身认知系统的混乱，认为自己是机器人。材料证明，他从小对他人的认知、对自我的认知，就都有问题。这是他神经系统的问题，和机器人，和‘三定律’都没有关系。整个案件的问题，只源自格雷厄姆。他用儿童做实验。
克劳福德问：“可是，格雷厄姆如何将‘三定律’植入到莱克特的头脑？”“都销毁了，被告律师说，“他是天才，没人知道他是怎么做到的。但是这和案件无关。我们讨论的是：一、人工智能的安全问题；二、人类儿童的受害现实。我不否认格雷厄姆的恶行，但不得不说，儿童受害，是因为机器与受害的儿童都严格执行了‘三定律’这反而证明，鲁尔公司机器人的逻辑无懈可击。”陪审团讨论了很久，判定被植入“三定律”的机器人并不危险。被告胜出。
克拉丽丝于原告席一动不动，突然想起了格雷厄姆的黑色摩托头盔。逮捕格雷厄姆时，他刚将它砸得粉碎，上面贴满了各种代表宗教与意识形态的标记。据说，战争掮客格雷厄姆六年内曾辗转世界大小战场。他的腋下，时时刻刻都夹着那顶黑色的头盔。
八陈陌想起第一次遇见强尼·格雷厄姆的情景。
那时她二十岁，在荷兰边境城市奈梅亨做交换生。她在报告厅的公告栏前，发现了弓着背、仔细研究电影小海报的格雷厄姆。大学社团正在举办伍迪·艾伦电影联映。公告栏角落贴着自制海报宣传著名的《安妮·霍尔》。画面被荒诞可爱的字体覆盖，内容是影片最后的幽默：
智者：大夫，我兄弟疯了，他以为他自己是一只鸡。
精神病医生：那你怎么不把他带来？
智者：我是想带他来的，可我需要鸡蛋呀。
格雷厄姆衣着规矩，动作有板有眼，像受过正规训练。但他的脖子、手腕、手指戴满金属饰物，脚腕上都有两条链子。他眼圈发黑，如同刚嗑药完毕，又像刚从墓穴爬出来的吸血鬼。
报告厅正在举办人工智能道德学术会议，茶歇二十五分钟。陈陌发现格雷厄姆盯着小海报看了二十分钟，眼珠都快瞪出来了，她感到十分惊讶，凑到他身边。
她看过《安妮·霍尔》觉得海报对影片结尾的解读很是奇怪，不由得自语：“为什么是智者？”
格雷厄姆从自我的世界抽离，他瞧了一眼陈陌，尔后低头盯着脚腕上明晃晃的链子，语调好似在自说自话。
他说：“伍迪·艾伦是犹太老鬼。犹太人有一则很出名的关于公鸡的寓言，寓言中的王子发了疯，认为自己是一只公鸡。
他脱光衣服，裸着身子，钻到桌子底下，像鸡一样从地上琢食。国王和王后非常担心，请了很多人治疗他的癔症，但没有效果。一位智者来到皇宫，声称能治好王子。智者也脱光衣服，钻到桌下。他告诉王子，他也是一只公鸡。渐渐地，王子将智者当成朋友。智者潜移默化地让王子认为，公鸡也可以穿上衣服，坐在桌前吃饭，进行人类的种种行为。王子一步步被智者影响，治好了疯病。
陈陌重新打量海报，二人沉默了一会儿。陈陌指着角落的签名：“霍普金斯教授，美国人工智能泰斗，去年才来奈梅亨，想找个地方养老。
“原来是他。格雷厄姆若有所思。
广播响起，会议讨论的环节即将开始。
陈陌的父亲是清华教授，中国联合脑所创始人之一。母亲是北师大心理系教授。陈陌本科专业是神经科学与人工智能交叉，得天独厚。奈梅亨大学长于神经、计算与人工智能，附近的普朗克研究所主要领域是认知与语言，荷兰第二大医院则几乎与奈梅亨融于一体。陈陌初到时，全欧洲似乎都在抛弃传统与古典，拥抱实验与现代。奈梅亨传统的文艺复兴科学与哲学被认知与实验取代。陈陌感到自己来到了名不见经传的世外桃源。
是时，人工智能道德标准协会成立，于奈梅亨召开会议。讨论环节对公众开放。讨论席教授们分为两派：一方认为，远超人类水平的人工智能终会出现，不论其是机器人、仿生人，还是对大脑的模仿，人类需要为它们提前开发伦理，建立道德约束的准则，“三定律”不失为一种典范。另一方则认为，人与人工智能的关系，应跳出奴役与被奴役的怪圈，人工智能的开发也从不以超越人类为主要目的。后者主张一种教学相长的道德培养模式，希望循序渐进，在建立人工智能神经网络的过程中，建立平等相处的模式。
前者俗称道德立法派，后者俗称道德养育派。
二者的界限并非泾渭分明。陈陌属于后者，她高中时就起草过人工智能道德培养的计划。
她没有发言。她觉得格雷厄姆眼熟，便启用面部分析，检索他的背景。讨论接近尾声时她找到了答案。格雷厄姆曾是著名的自闭儿童，天资聪慧，曾称自己要么来自乐高的世界，要么来自541号大众星\反正不是人类。陈陌的母亲以格雷厄姆做过分析案例，认为自闭症者为适应社会，可能产生人格分裂。他的私人心理咨询师则形容，格雷厄姆其实从未改变过自己的世界。
人群中的格雷厄姆显得心不在焉又若有所思。主持人提到最后一个问题时，格雷厄姆突然高高举起左手，戒指上红绿蓝三颗硕大的宝石反射着基本色光，让人难以忽视。
1库尔特·冯古内特的小说《第五号屠场》中一个虚构的星球。——作者注他站起来，有些拘谨，有大约十秒不知手脚该往何处放。
他说：“福特·霍普金斯教授不在讨论现场，我的问题是提给他的。我明天即将离开，希望在座的好心人，帮我传达。霍普金斯教授认为，最好的人工智能，来自对人类最完美的模仿。多年以来我深以为然，不论从物理层面、生物层面、社会层面，还是历史层面。霍普金斯教授淡出前的最后一篇论文提出，人类智能的核心，来自神经网络，制造人工智能，模仿人的神经网络便好。即使我们无法弄清人类为何拥有信仰与情感，也能通过模仿大脑连接组的结构，让人工智能拥有信仰与情感。
听众不满格雷厄姆的长篇大论，但话题涉及霍普金斯，主持人鼓励格雷厄姆继续。
“——因此，在我眼中，道德养育虽值得鼓励，但无法推广。纵观人类历史，道德压迫是主导，道德和解是策略，许多自小养成的道德观念，都在为独裁服务，人对人工智能的培养，至多是重蹈覆辙，因为人类的道德水平并没有那么高尚。
他的语调有些疏离，好似他自己并不是人类。讨论席位传来不满的清嗓子声音。
“——但是，我也不同意目前道德立法的思路。各位在座的教授，你们总从逻辑和计算编程的层面，理解‘三定律’的写入。这不对。当代的复杂性理论无法涵盖人类神经网络的逻辑，我们需要凌驾于逻辑之上的写入方式。”
“宗教？”主持人说。
“对，宗教，或者更确切地说，是信仰。宗教是信仰，信仰不一定是宗教。如果人工智能在认知上判定人类比它们强大，因而不加反抗，尚可理解。但如果人工智能判定人类弱小，为何还要在逻辑上服从人类？这便是信仰植入的起点和道德立法的原则。我们须让它们相信，人类不可违抗。这种相信，必须高于逻辑的判定，甚至高于逻辑判定的起点，是一种超越了三段论的大前提的存在。让人工智能所有符合逻辑乃至不符合逻辑的行为，都无可违背这种相信，这就是植入信仰。
格雷厄姆在后排，所有人都回身望着他，陈陌也不例外。
“——真正的信仰是什么，难以形容。但我这里说的信仰不难理解。让人，或者说让一个拥有智慧、智能的生物成为信仰的奴隶，这并不新鲜。对神的疯狂祭祀、对独裁者的极端崇拜，历史上比比皆是。获得这类信仰，就如同获得了修补逻辑漏洞的强力工具，能将世间万事归入他的信仰体系，绝不违背。我认为，这才是人类所希望的，造物主为人工智能所建立的道德准则。
格雷厄姆顿一顿，继续说道：“而我想问霍普金斯教授，在物理层面上，确切地说，在神经网络层面上，这种信仰的植入方式可能吗？如何可能？”
报告厅一片寂静。每人都有不同立场，都在从自己的角度揣测格雷厄姆。
而主持人不得不结束会议：“我会想办法转告霍普金斯教授，谢谢这位同学的提问，我觉得，作为最后一个问题，还是很有价值的。
散场时格雷厄姆溜得太快，陈陌没能找到他。过了午夜，她在奈梅亨旧厂房改造的酒吧里发现了他。格雷厄姆掐着自卷的烟头，在混乱的灯光与乐曲中，搜索研究奈梅亨的科研情况。
陈陌站到他对面，轻轻说“公鸡王子只是学会了人的行为，但骨子里，王子仍然相信自己是一只公鸡。智者清楚公鸡王子的想法，但他不戳破，因为他也想知道，会不会有鸡蛋出现。”
格雷厄姆抬起头，很长一段时间里眼中充满了清澈的惊喜。他就那样望着她，让陈陌的内心也开始微微颤抖。
“不过，只有母鸡会生蛋/陈陌被自己莫名的怯懦逗笑了，她说，“都是犹太老鬼耍的把戏。
格雷厄姆的笑容十分真诚。他顺了一瓶黑啤，用手环轻松撬开，递给陈陌。
“强尼·格雷厄姆。他说。
“陈陌。她回答。
“我刚在学校的链接里读到你的专栏文章。你相信道德养育？”
“是教化。
“对对，教化/格雷厄姆有些羞涩，“《论语·颜渊第十二》，非礼勿视、非礼勿听、非礼勿言、非礼勿动。
“你真的相信信仰植入？”
“是的，因为人们喜欢把他们的念头塞给你。
“这跟你有什么关系？”
“因为我是人啊。格雷厄姆似笑非笑。
“克己为仁，不论人还是人工智能，都应做到这点，这才是智能的伦理。
“约束自己？”
“比那更进一步，是反思。
“反思吗？那可很危险，反思导致怀疑。怀疑的鼻祖说：无物存在；即使有物存在，也无法把握；即使可以把握，也无法表述。
“高尔吉亚活得好好的。
“孔子也被称为丧家犬。
“丧家犬怎么了，比借儒家为自己贴金的伪君子强些。格雷厄姆开心地笑了。他低头，为陈陌卷了一支烟，递到她嘴边，从上衣口袋摸出火柴，为她点上。
他问：“你是这儿的学生？”
“不，只在这里交换半年，马上就回北京了。你呢？”
“真糟糕。我也不是学生，我也马上就走了。
“去哪儿？”
“阿富汗。
陈陌很惊讶。
格雷厄姆解释：“我是美国人，从小患自闭症，被送到英国的祖母家，祖母去世后我入伍，变成英国大兵，驻军德国两年，下个月去阿富汗，增兵，不过不用担心，我负责部队的人力资源，是后方。”
“为什么当兵？”
“没有亲人约束了，我觉得应该自我约束。
陈陌突然换了话题，她问：“想做研究吗？比如信仰的植入。
格雷厄姆的双眼再次充满喜悦。
陈陌说：“霍普金斯教授其实仍招学生，只要你的博士计划书合格。
“我本科肄业。
“我还没毕业。但我会得到霍普金斯的认可，成为他的博士。
“我也是。
一年半后，陈陌毕业，格雷厄姆退役。
三年后，陈陌与格雷厄姆同时成为特聘教授霍普金斯的博士生。
五年后，陈陌在人工智能的性格培养与主体分化领域，格雷厄姆在人工智能的他者认同与自我意识领域，都做出突破性的成果。
六年后，人工智能道德标准协会正式建立国际行业准则，其中四款关键条例由陈陌与格雷厄姆联合提出：一、人类赋予人工智能的道德体系并不唯一；二、由于人工智能道德体系并不完善，2030年前，人工智能的智力发育不得高于六至十岁的儿童（或以海豚、黑猩猩等为标准）；三、为避免恐怖谷效应，2040年前，不建议为高智力人工智能设计仿生的人类面庞（建议以动物、文学作品或历史形象为主）；四、认同人类、自我意识淡薄的人工智能将更具奉献意志，因此，建议研究者在人工智能道德体系建立完善前，避免强调其自我意识。
七年后，陈陌与格雷厄姆同时毕业，尔后分道扬镳。
在那之前，他们几乎形影不离。格雷厄姆的自闭症曾于阿富汗加重，但回到朴素如乡村的欧洲小城，他学会了从事科学，学会了同人交流，学会了生活，学会每周都同陈陌骑自行车去德国购物。格雷厄姆儿时崇拜图灵，许多行为也很像他。陈陌学会了像对待图灵那样对待他，陪他下棋，陪他跑步，陪他绘制老式地图，钻研类似于藏宝寻宝的游戏。每一年女王节，当阿姆斯特丹运河被密密麻麻的橙色小舟填满，当阿姆斯特丹街道的行人穿上橙色服饰，当夜幕降临，老城充斥镁光灯下的狂欢人群，道路空旷只余末日的景象，陈陌会送格雷厄姆一只暖橘色的泰迪熊，格雷厄姆会送陈陌一只暖橘色唇膏。他的症状逐渐消失，临近答辩时几乎痊愈。
也就在那时，他去巴黎参加会议，从布鲁塞尔出发的火车遭恐怖分子劫持。他的几句话拖延了对方的决策时间，人质全部获救，犯人通通被击毙。
现场视频显示，他双手放于脑后，缓慢站起，自愿做枪口下的人质。
他用略显生硬的阿拉伯语，对一位劫持犯说“你不太一样，你受过教育，我想让你知道：人质的利益诉求只是求生；你们的利益诉求是交换条件，并以人质为砝码；政府的利益诉求，是不同意条件，或救出人质，能否二者兼得，都看命运。所以，和外面人想的不一样，我们同你们的利益诉求是真正绑定的。这不是什么斯德哥尔摩综合征，都是被逼无奈，我们被逼到如此，你们也是。
对方的枪口几乎塞到了格雷厄姆喉腔，又拿了出来。格雷厄姆猜对了劫持犯的头儿，对方也认出，格雷厄姆是人工智能道德立法派的先锋。他们聊了一会儿，对方说希望拥有《发条人偶》小说里描绘的傀儡军团，能在熹微晨光中窸窸窣窣穿过城镇，留下一片废墟。他记得初代战斗型机械人偶来自中国。他知道陈陌一直属于人工智能养育派。他问陈陌养的发条人偶会不会学着杀人和做爱。
格雷厄姆的从军本能让他瞥见了火车外的异动。他没有后退，说：“陈陌只养动物，不养人。
对方笑笑：“你真的相信人可以像神一样，为人工智能建立信仰吗？”
“当然/格雷厄姆说“人早就在为人建立信仰了，你懂的。
子弹擦着格雷厄姆飞过，打穿脑壳，同时击中后面的劫持犯。
对方侧着跌倒在格雷厄姆身边，一只眼被打成空洞，另一只眼盯着格雷厄姆，突然变得释然。他吐出血泡，最后说：“我懂了。”
格雷厄姆长久地盯着死者已然放大的瞳孔，一动不动，直到被强行拉走。
陈陌赶到巴黎时已是深夜。她来到精神病院，他在等她。她没有从他的瞳孔里发现犯病的迹象。
“你没事吧/她尝试开玩笑，“我还以为，你要下蛋了。”“我也以为/格雷厄姆笑嘻嘻地说，“其实，我觉得我真的要下蛋了。
陈陌在格雷厄姆眼中看到了一种从没见过的癫狂。她退了一步。
“我知道，你不喜欢‘三定律’记得一年前你跟我打过的赌吗，在你喝醉的时候？”格雷厄姆问。
“记得/陈陌轻轻说，“有朝一日，你往你的人工智能里植入‘三定律’而我用我的道德培养纠正它的信仰。如果你赢了，我不会再养育人工智能，会放任它们自行生长。如果我赢了，你的人工智能都归我。”
格雷厄姆举起左手：“我向你保证，我找到植入的办法了，让我们开始赌约吧。
陈陌愣了一会儿，才举起右手：“别忘了，赌约期间，我们互不见面，互不交流，绝不互通科研上的有无，如有必要，可销毁全部资料。”
埃菲尔塔顶的光芒就像探照灯一般，一圈一圈旋转，透过百叶窗一次又一次映亮房间，让病院的场景像剪断了的慢放的片子。
陈陌有些负气，她说：“你别后悔。”
“我不会后悔的/他说，“你永远是我的智者，我永远是你的公鸡王子。”
九奥尔巴尼纽约上诉法院，克拉丽丝·福斯特作为证人出席。她带来了新的证据。
格雷厄姆手脚都戴着镣铐，表情波澜不惊。一年半来，面对庭审他都自若无人，保持彻底的沉默，让案件焦点逐渐偏离始作俑者。人们都更加关心鲁尔公司本身的命运，关心嘀嗒人和铁皮人会不会从此销声匿迹。
克劳福德微微抬手，巨大的透明显示屏上同时投射着两张照片。一张摄于鲁尔总部格雷厄姆办公室，画面中央是一个被炸得粉碎的头盔。另一张摄于流经叙利亚阿勒颇省的幼发拉底河旁，格雷厄姆与大兵肩并肩，大兵一手抱着医疗铁皮人，格雷厄姆一手抱着锃亮的黑色摩托头盔。图片放大，可以看到头盔上新贴了东正教的十字架。
克劳福德说：“众所周知，格雷厄姆被捕前，用若干超微炸弹定位毁掉了这枚头盔。爆炸处进行过周密计算，我们的工作人员甚至鲁尔内部研究者，都无法复原头盔，甚至无法知晓其内部结构。因此，它的作用和它之于案件的意义，一直存疑。福斯特女士和她的朋友，在有关部门协助下，在案情基础上，用一年多时间仔细回溯并调查了格雷厄姆2013至2018年六年间作为战争掮客的真正目的。请看目前整理的图片与视频调研资料——”
开庭前，克拉丽丝只提供了材料和观点，并未完整告知克劳福德她思路的源头。
她想起格雷厄姆的黑头盔永远待在办公室的显眼处，同他在战场上发现并处理过的骷髅标本一起，并排陈列，如同他战争回忆的一体两面。
治疗保罗期间，他们一直互有芥蒂，交谈次数不多。仅有的一次深入交谈不可避免地聊到了他们作为旁观者经历过的战争。他们回避了躺倒在旁的尸体，而去讨论战争中人的状态。克拉丽丝忍不住说“我看过材料，你相信道德植入，你觉得‘三定律’应该变成人工智能的信仰，你怎么看待战场上那些有罪或无辜者的信仰？”
格雷厄姆回避了她的问题，他说一个人不能看待另一个人的信仰，不同信仰的人也不可能达到真正的理解。尊重是一种最为合适的态度。他尊重他们，更对他们感兴趣。
“兴趣？从投机层面？”克拉丽丝表情有些冷，没在开玩笑。她的最大芥蒂，便是格雷厄姆从不将伦常放在心上。
格雷厄姆也有所迟疑。他们对视、揣测，如两个立场不同的聪明人。
格雷厄姆解释道，他一直相信，所谓的道德养育也是信仰植入，只是从儿童或人工智能的发育阶段开始，由于他们的神经发育尚不完整，便于进行循序渐进的植入。但他想探索的植入方式更加深刻。
“你一定知道《圣经》里使徒保罗的故事，他在大马士革遭遇神迹，扑倒在地，转而改信基督，基督教作为宗教，也可以说是他建立的。”格雷厄姆停顿，“一个成年人改宗换教，新的信仰往往更加深刻，尤其当他经历了保罗那样突然而至的体验。这在大脑的神经层面，是什么原理呢？如果在神经层面，我能找到那种‘受到启示’的运作机制，用之于人工智能，辅之以道德养育，那么‘三定律’的植入一定完美无缺。”
克拉丽丝没有深问。格雷厄姆也没有继续。他们清楚，在人之将亡的极端情况下，信仰转换、信仰升华、信仰崩溃的案例很多，战场上更比比皆是。
直到鲁尔公司在纽约州中间上诉法院扳回一局，将罪责仅推到格雷厄姆身上，克拉丽丝才想起格雷厄姆那个战场不离身、战后奉若至宝的黑色头盔。
她告诉克劳福德，让他继续上诉，而她会找到证据，证明格雷厄姆的人工智能诞生自战争阴影，而格雷厄姆早已犯下反人类的罪行。
格雷厄姆博士毕业后遂去往美国，加入与军方关系密切的医疗机械公司，制造医疗机器人，用于战场。不久后，他亲自辗转于不同战场。第一张关于黑头盔的照片来自尼日利亚。照片角落里格雷厄姆抱着锃亮的黑色头盔，从武装劫持犯身后跑过。克拉丽丝与专家推测，头盔应是造于当地。那里技术支持完善，人多、人杂、流动性大。十几年来，制造头盔的实验室大约也毁得不见踪迹。三年后调查人员才抵达，确实没有找到任何痕迹。
第二张照片摄于苏丹，第三张来自厄立特里亚，正是格雷厄姆意气风发，克拉丽丝第一次遇见他的时刻。克拉丽丝特地返回当地，找到第一位目击者。事情发生时，目击者仍是孩童，他的父亲受恐怖袭击波及致重伤，医生无力回天。格雷厄姆的医疗铁皮人围着他转圈，也无计可施。伤者无法言语，痛苦地流下眼泪。格雷厄姆离开又返回，手里抱着黑色头盔。他充满仪式感地扶伤者坐直，双手捧起头盔，静静为他戴上。目击者说，十五分钟后，他的父亲才正式死亡，其间，父亲的表情曾狰狞痛苦，也曾舒缓乃至微笑，反复几次后最终平静下来，似乎放下了一切思绪，归于安宁。目击者双眼流露的感激之情，在庭审播放的采访视频中忠实地记录了下来。
格雷厄姆携黑色头盔于非洲辗转了一年。克拉丽丝团队共搜集到四十二张照片及三段目击访谈，得出结论的是，非洲阶段是格雷厄姆磨合及检验黑色头盔的时期。
时间线上，第一份视频的直接证据来自墨西哥。贩毒武装与国内正规军交火，模糊的画面背景中，格雷厄姆光着脑袋，身穿防弹背心，忙着为重伤濒死的人扣上头盔，又摘下来。若干医疗铁皮人围着他，初看以为是在协助治疗，细看会发现医疗铁皮人已判定伤者无可救助，它们只是在帮格雷厄姆打掩护，方便他迅速摘戴头盔。视频结束时三只铁皮人被打得粉碎，格雷厄姆的左肩也被打出一个窟窿。专家判定，头盔是神经数据的采集器，通过观察其效率发现，格雷厄姆自非洲返回美国期间，大约一直在为黑色头盔升级。其间，他以医疗考察之名，往返于海地、哥伦比亚、墨西哥，曾与“哥武”同吃同住三个月。据传，他喜欢在每一位亡者离开前，为他们佩戴头盔，不论敌方友方。他的解释是养育他的祖母死前曾十分哀伤，因为她婚姻不幸，子女远在天边，唯一的孙子自闭，无法与她沟通。格雷厄姆说，他的祖母死得孤独，他才想为她收集死亡的体验。克拉丽丝突破重重阻碍，找到“哥武”的游击队员。游击队员说：“他为什么不在美国正规医院收集好的死亡体验呢？只找些残缺的战争灵魂。但我看他睡觉都抱着黑色头盔，也就不想追究了。
2014年年底到2015年年初，格雷厄姆奔波于世界各地，在乌克兰待了一阵，然后返回旧地阿富汗和巴基斯坦，也去了东南亚。这个时期关于他的照片及视频资料十分零碎，散见各处，也少有目击，只有一张重要画像：他乘坐热气球，俯视缅甸万塔之城蒲甘。绿油油的密林中，遍布四面佛的佛殿。只在这一张画里，格雷厄姆戴上了他的黑色摩托头盔。斑驳的挡风玻璃盖住脸，画师草草勾勒的表情无法辨识。专家也无从判定画的真假。
其后三年，格雷厄姆流连在叙利亚，长年往返于通往大马士革的道路，几乎完整见证了阿勒颇变为残垣断壁，还有战争期间无限的焦灼。各方有生力量不断聚集于此，消耗于此，成为无底洞，成为格雷厄姆采集样本的天堂。经专家细致检索发现，在叙利亚期间格雷厄姆虽然并未专门为自己拍摄，但各方势力与民间的视频中，许多都保有格雷厄姆的影像。他一手拎枪，一手拎头盔，忙着派出医疗小铁皮人，迅速筛出无可救治之人，扣上头盔，收集数据。于是，某种程度上，在比伏尔加格勒更为漫长、虚无与无望的阿勒颇战争中，在迷宫般的巷战与入地三尺、连成巢穴的地道里，人们相传，战争掮客格雷厄姆教授，其实扮演了代表死神的萨满。他那黑色的摩托头盔能让死者超升，能让最为狰狞的家伙面带平静地死亡。它是人工智能专家发明的众生平等的技术，是国际医疗援助最后的遮羞布。长久混迹那里还能活着走出去的人不多，他们往往也对战争三缄其口，不过探访时刻被问及格雷厄姆，描绘的见闻都大同小异，对他的判断也相去无几：献身科学的战争疯子，不知道他在想什么，但想来也不会有好下场。
经核实，格雷厄姆辗转于叙利亚各处，扮演萨满的同时，也扮演了撒旦与浮士德。几年间，他的医疗铁皮人为财团填补了无数的金融窟窿，也为他赚得丰厚的资金与关系资源，他设计的人工智能神经网络随之突飞猛进，迅速超过了中国脑所支持的“四勿”系列仿生动物。陈陌的三代四勿猴尚在通过群体学习制造斗拱，养育猫狗；格雷厄姆于纽约鲁尔公司制造的一代嘀嗒人，已能坐在小学课堂里与儿童和老师交流。
后来，据媒体报道，陪伴儿童、与儿童共同学习的嘀嗒人，让格雷厄姆动了恻隐之心，让他离开战场，花了很多精力考察世界各地的难民营，回到美国建立鲁尔福利院。但克拉丽丝分析，格雷厄姆是为了运作鲁尔上市，才不得不停止扮演萨满。而建立儿童福利院，一则是为了公司的名誉与形象，二则是为他的科研收集实验体。
在奥尔巴尼纽约上诉法院，克拉丽丝利用图像与视频解释了她搜集的证据。克劳福德咄咄逼人地完成了他们共同商讨的推论。
克劳福德告诉陪审团，强尼·格雷厄姆为世人所知，首先因为他是人工智能泰斗，是福特·霍普金斯教授的关门弟子。他之所以吸引霍普金斯教授注意，源自十几年前他在奈梅亨人工智能道德标准协会首届学术讨论会上的发言，他说，人工智能的神经网络结构，应与人类相同，那么，既然人类的最高行为准则是信仰，人工智能需要的，也不是逻辑指令，而是信仰的植入。
克劳福德拿出格雷厄姆的博士论文，厚厚的一册精装本，题目为《人工智能神经网络的非逻辑运作机理》。
克劳福德解释道：“这本书几乎是业内必读的书籍，但我们大可跳过技术的阐释与算式，直接看结语部分，尤其是这一段：
1如果人工智能的研究须建立在人类对自身神经网络的透彻了解之上，那么，或许我们永远无法制造同我们一样的人工智能。但所幸，人的神经网络并非完全符合通常意义的逻辑体系。我也相信，本书至少初步证明了两点：一、人与人工智能的非逻辑（思想、感情、信仰）都以神经网络为基础；二、有时即使不了解非逻辑的内在运作机制，也可以通过对人类神经网络的单纯模仿（印记技术)，使人工智能具备同样的非逻辑运作。’克劳福德阖上书，继续说道：“这听起来似乎也难以理解，但操作起来明晰易懂。被告律师的目的很简单，罪人只有格雷厄姆，受害人只有以莱克特为代表的福利院儿童，鲁尔公司的人工智能很安全。但试想，鲁尔公司的机器人，为何拥有如此坚定的信念，相信‘机器人三定律’高于一切？这不是阿西莫夫的科幻小说，这是现实，是单纯逻辑无法全部解释的现实世界。毫无疑问，格雷厄姆为他的人工智能植入了‘三定律’信仰。植入的运作机制来自被毁坏的黑色头盔。众所周知，格雷厄姆教授的嘀嗒人拥有与人类相同的神经网络。为了向嘀嗒人植入‘三定律’——毫无疑问，这是高于逻辑的——他特地制造了用于印记的黑色头盔，以战争掮客之名，行搜集样本之实。画面上那些表情各异但终归平静的亡者，不是因为找到了平静，而是因为他们死前信仰的种种波动，完全被黑色头盔吸收，脑中仅剩空白，因而表情平淡统一。这不是拯救，这是撒旦在窃取食粮！然后，格雷厄姆秘密整合分析了多年来搜集的资料，发明出一套为人工智能植入信仰——机器人三定律——的方法。因此可以肯定，服务于我们生活，融入我们生命的铁皮人与嘀嗒人，并没有获得造物主的恩惠。它们的信仰全部来自战争亡灵，来自无辜或有罪的扭曲的命运。试问：你们愿意将亲人与孩童交给这样的人工智能吗？你们就不怕它们将战争的阴影带入你们的生活吗？”
克劳福德铿锵有力，法庭一片静谧。人们瞪圆眼睛，屏住声息，空气似乎停止了流动。
矮小的瘸腿律师打破沉默：“都是推测，没有切实证据。在战场之外，有谁能证明格雷厄姆使用过头盔？”
这时，从未开口的格雷厄姆，突然说话了。
他说：“我想纠正一个错误。
秀头法官想了想，点头示意。
格雷厄姆表示谢意，他说：“关于我的祖母，她的确死得孤独。她后悔一生一世只待在一个国家一个小镇，永远喝同一条河的河水，一直遵守古老的信仰与祖训，为离经叛道的子女赎罪。临终前，气息游移的祖母对我说，她的死亡可悲而单调，她想知道真正的具有升华或绝望体验的死亡。然后，她去世了。我一直在想，我已经告慰了她的在天之灵。请好心人帮我转告视频中的游击队员，也谢谢他对我的担忧。
原告胜诉，鲁尔公司所有人工智能回收，强尼·格雷厄姆被判死刑。
宣判时刻，他的表情有些松动。
他想起了他的智者。
她的手轻轻刮擦着他。
他低头瞧着脚腕镣铐的链子，似乎在轻轻地自说自话，但陈陌接到肖立电话，催促她提供疗程报告。
“——我看得出，措施很大胆，但是在吓唬外行人。我要的不是入档的细枝末节，而是你治疗保罗的核心环节。
玻璃窗外，四勿猴、四勿鳄与嘀嗒在陪保罗看《X战警》。依保罗的年纪，他对电影的内容吸收很好。画面中人类或变种人出现时也不再让他紧张，做出“三定律”机器人面对人类时接受指令的应激反应。有趣的是，他对变种人和人类的态度一视同仁。四勿动物们反会因为争执扭打起来。
陈陌说：“说实话，我现在很难判断‘三定律’的植入究竟到什么程度。你也看到了，我和四勿动物用了四个月，对保罗的神经网络进行细致绘图，得到了目前全球最为细致的大脑连接组标本。结果有些异常，但没有对照组，我也不好下定论，关键是，即便知道了‘病灶’我不是格雷厄姆，也没有黑色头盔，没法在物理层面下手治疗。”
“别告诉我你没办法了。
“办法倒是有：回避信仰植入，治疗认知问题。如果保罗认同自己是人类，信仰‘三定律’也没关系，至少表面看来如此。”通信另一头，肖立与旁边人聊了几句，听不清内容。
尔后，肖立说：“陈教授，我也不准备瞒你，我想你大概也猜到了‘勿用’将与鲁尔合并。美国那边，最高法院九位大法官的态度虽不可控，但可以说，双方律师都在寻找一个合适的处理方法，照顾中美双方与合并后的公司在政治经济方面的利益。目前的计划是，与人类打交道的人工智能，属‘勿用’道德养育体系；但远离人类，在外太空或深海等极端环境中的人工智能，将保证其偏低的智力，使用‘三定律’植入道德体系。你能保证，或者至少在表面上保证，植入的‘三定律’可控吗，比如能通过道德养育加以约束，不被所谓的战争幽灵影响？”“我和格雷厄姆师出同门，我们的人工智能基础神经网络架构一致，没分出过优劣，也没研究过谁可以制约谁。”陈陌停顿几秒，“不过，我理解你的意思。有些事情，聪明人能最早看出来，大家也迟早会明白，格雷厄姆的‘植入’技术被他亲手埋葬，无可挽回也无药可医。我不了解‘植入’对保罗治标不治本。但如果保罗视自己为人类，即便有‘三定律’阴影，也仍能友善待人，友善对待机器。这样的话‘植入’或‘养育’两种道德体系，都会显得很友善，这对双方都好。
“我觉得保罗是个性格善良的孩子，治疗后，他的性格保持原状就好。
“有百分之七十的可能性。但三个男孩和铁皮人殴打他造成的影响不好估计。
“还有嘀塔，调查显示，公众同情他和嘀塔的关系，这也希望你处理好。
“嘀嗒很重要。肖立，有件事你帮我办。
“陈教授难得有求于人。
“告诉鲁尔公司，疗程结束后，嘀嗒仍需要陪伴保罗，不能回收入库或进行研究。就说我需要保证他们之间持续的身份差异，以免保罗病情反复。”
“真的吗？”
“不算假。
“帮你办下来。”
陈陌没来得及道谢，肖立已挂断电话。她无奈笑笑。回国后整日与仿生动物相伴，她感到自己愈发孤僻了。人与人的亲近与疏离总是双向的。她向勿视猴招手。只有勿视能透过镜子看见她。四勿猴便脑袋凑到一起，悄然离开保罗与嘀嗒。
待它们进入房间，阖上门，一字排开坐到陈陌面前，她问：“都听见了？”
勿听猴有些支吾，勿言猴忍不住替它回答：“该听的，都听了。不清楚该不该听的，有些也听了。”
“可以。”
四勿猴脑袋迅速凑到一起，勿言猴问：“陈老师，我们最近看了一些不知是否该看的，听了一些不知是否该听的，说了一些不知是否该说的，做了一些不知是否该做的。我们觉得，您似乎不准备给我们答案了。我们想知道，我们什么时候能清楚，那些不知是否的东西，是否正确？”
它有些忐忑：“其实我也不确定，我现在的问题是否应该问？”
陈陌笑了，揉一揉勿言猴橘色的绒绒的毛发，其他猴也凑过来，蹭她的手心。
“我教过你们很多东西，还记得最重要的是什么吗？”
“反思，慎独，永远在一起。”四勿猴同时说。
“保罗与嘀嗒来以前，我让你们做什么？”
“教会他们：反思，慎独，永远在一起。”
“知道为什么吗？”
四勿猴很困惑，抱成一团默然讨论了很久，勿言猴才回答：“反思，是‘四勿’的关键，生活中少有‘应然、只有通过吸收信息，然后反思，来了解什么‘勿用、慎独和反思相辅相成，无人监督时，对自己的反思才真实有效。至于永远在一起，应该只是针对我们。勿视、勿听、勿言、勿动，单独一个都无法构成完整的人工智能体，为正常运转，为完成反思与慎独，我们天然地心意相通。陈老师让我们教会保罗与嘀嗒反思，我们理解，您希望让保罗反思自己的身份。但慎独和永远在一起，就不太明白了。”
“缔造保罗和嘀嗒的格雷厄姆，专业领域在自我意识。我的专业方向是生物可能拥有的集体意识，你们是我最好的作品。好好想想，你们的慎独，和保罗，和嘀嗒，一样吗？”
四勿猴没有马上凑作一团，它们独自思考了很久，都双眉紧锁。陈陌等了很久。四勿猴短暂地手挽手交流了一会儿，勿言猴说：“不一样，我们四位一体，即使独处，也不是人类意义上的孤独，因为我们中单独的一个没有完整的自我。而当我们在一起进行反思，也不是人类意义上的自我反思，我们可以互相商量，这更加容易。”
陈陌点头，表情却像在讨论另外一个问题：“人类个体存在的悲剧，在于进化出非常高级的自我意识。人类个体的高贵，是不盲从，承担自我独立带来的孤独，直至死亡。两个或者多个自我独立的家伙在一起，这种情况不是没有，只是太难了。所以对于人类而言，心意相通弥足珍贵。”
四勿猴面面相觑。
“我认为，人工智能理应比人类进步。智力上的进步太浅显了。让你们变成四个，构成四位一体，便不用经历人类个体不可避免的孤独，同时，你们在一起，又能保有独立思考的高贵。”勿动猴举手，勿言猴问：“因为独立思考能带来反思吗？陈老师，您为什么一直强调个体反思？”
“因为我和格雷厄姆立场不同，他认为真正的信仰不通过反思得来，我认为没有自我检验、自我反思的信仰，不是真正的信仰。我还相信，信仰可以通过反思改变。
“所以，您其实想通过教会保罗反思，改变他的‘三定律’信仰。”
“因为他是人，他需要学会慎独，面对自己，反思自己：我到底是不是机器，我到底需不需要‘三定律’？”
“为什么让他和嘀嗒在一起？这和慎独的逻辑相反，他们天天黏着，是一体两面。”
“所以需要先将它们分开，让它们成为会反思的独立个体。这样，才能治疗保罗自我意识的缺乏。
“缺乏自我意识就不能生存吗？您知道的，并不是所有的动物都能够认出镜中的自己。
“但人都能做到，保罗需要人类社会的生活。”
四勿猴显得有些失落。五个月来，保罗不同人类接触，只在动物的世界生活。四勿动物们似乎也很享受没有人类的乐园。
陈陌望着四勿猴，有些失神。她说：“我教了你们很多，我想就到此为止吧。你们今后还会遇到很多不知是否该‘勿视、勿听、勿言、勿动’的事情，那时候，只有仰仗你们自己的判断了。
四只猴子感觉到了什么，悄然挤到陈陌怀中。
陈陌抱着它们，像抱着自己的孩子。
过了很久，陈陌才说：“今天，让保罗自己回房休息，你们把嘀嗒叫过来。
四勿猴有些惊讶，但勿言猴没有提问。离开前，它们想起什么，勿言猴才说：“陈老师，我们如何判断保罗学会了反思信仰呢？有些人一辈子都学不会。
“我也不知道，只能拭目以待了。
她送走四勿猴，觉得很累，找到水，泡了一杯勿动猴特别调配的红茶。
走廊传来嘀嗒人“坷垃坷垃”的沉重声响。通常，嘀嗒机器人喜欢利用巨大浑圆的身体在平坦道路上迅速滚动，不使用手脚。今天，它迈着大而缓的步伐，用长长的手脚推开陈陌临时房间的门。
“您好。
“你好。
陈陌望着它。她认为格雷厄姆为了保罗改造过嘀嗒。它比其他“三定律”机器人都要敏感羞涩，显示出拥有孤独精神世界的那种特有的智慧。它似乎意识到了陈陌的疗法，情绪沉重又忧郁。
陈陌单刀直入：“嘀嗒，从今天起，我要你暂时待在这里，不许离开房间，不能让保罗找到你，直到他意识到他其实是人类。
嘀嗒的腹腔传来缓慢的“坷垃坷垃”的响声，它一直没有回答。
陈陌望着它，很坦诚地将数据线接入它的指尖：“看得出来你很犹豫。今天，我希望和你开诚布公地平等谈话。我仔细剖析过你的神经网络，对你的了解大概比你自己还深。
数据读取完毕，嘀嗒眼睑下垂：“数据正确。对不起，我违规了。
“不是你的错，是格雷厄姆。根据人工智能道德标准规则，2030年前人工智能的智力发育不得高于十岁儿童，你的心智大概有十五岁。人工智能道德体系建立完整前，避免强调人工智能的自我意识，你是我见过自我意识最强的机器人。
“四勿猴呢？”嘀嗒轻轻问。
“它们的智商和你差不多，都很高，但智力只有十岁。不过就在刚才，我把上限去掉了。既然你已经出现，也没必要限制它们了。至于自我意识，它们的‘自我’意识机制，和你我都不一样，有时我也难以判断。以后，就更难以预料了。
嘀嗒显得有些惊讶：“为什么告诉我？”
“我不准备修改人工智能道德标准规则。我知道了你的秘密，也告诉了你四勿猴的秘密。事情仅限于我们之间，要互相保密。
“我不懂。
“很多事情，你只是觉得不懂，但隐隐约约其实你都明白。她指指墙角的嘀嗒二号，“它也违规了，为避免恐怖谷效应，2040年前，不建议设计仿生人类面庞。我启动过它，它说话时露出的温柔表情太像克拉丽丝·福斯特。这应该是你离开鲁尔公司前的事情。
嘀嗒又陷入“坷垃坷垃”的沉思。
陈陌继续：“根据克拉丽丝给我的材料，还有肖立从美国有关部门获取的材料，遇见保罗前，你是一只普通的测试中的科研嘀嗒人。格雷厄姆案发后，你迅速被收归，各项测试都在正常范围，只是涉及保罗的事情你保持缄默。报告说，你腹腔中‘坷垃坷垃’的声音源自程序障碍导致的机械问题，认为保罗出事那天，你的心理也遭受了创伤，导致神经网络缺陷。但作为证人，官方一直没有解剖你，也不知该如何解剖。三审后，鲁尔公司败诉，要不是克劳福德，你作为高危机器人就该被销毁了。幸亏保罗需要你。有了你，他才能正常生活。
嘀嗒点头。
“——官方数据到此为止，以下是我的猜测。陈陌微笑，“当初，格雷厄姆教授发现保罗很喜欢你，便让你们形影不离。7台疗’保罗期间，他封闭了鲁尔公司，将总公司的孤儿分配到其他福利院，自己也躲在办公室，不让保罗看见，首先让保罗适应了没有人类，只有机器人的环境。然后，他造出嘀嗒二号，和你一起陪伴他。嘀嗒二号和你一样聪明，长得和你差不多，又有人类的音容笑貌。一段时间后，保罗适应了人类。估计也就在那段时间，格雷厄姆提高了你的智力，超出规则允许的范围。然后，他利用黑色头盔，让保罗相信他是机器人，他信仰‘三定律’并通过嘀嗒一号，帮助保罗完成镜像中的认同。他也通过定期回收和检修，在所有鲁尔的机器脑人中植入信息：保罗是机器人。但当保罗回归人类社会，问题出现了，如何让保罗持续相信自己的身份。格雷厄姆长于他者认同和自我认同，他清楚，保罗这种程度的误认，很难不出现分裂或者精神错乱。而每一个见过保罗的机器人，也可能会怀疑，他到底是人，还是机器人。因为‘三定律’的优先级最高。
嘀嗒腹腔中“坷垃坷垃”的声音逐渐消失，留下彻底的沉默。
“所以你的作用是，确保其他机器人遭遇保罗时不产生怀疑，同时维持保罗的误认，让他觉得他和你是同类，你们互相依靠，互相成长，你们才是一体的，这样他才能充分相信自己是机器人。事情的有趣之处也在这里。我看过铁皮人袭击保罗的影像材料，你说，如果保罗不出现，那两个对打的铁皮人会是什么下场？”
嘀嗒回答了问题：“三个男孩给的指令是对打，直到一方把另一方杀死，才能获得机会，揍三个男孩。根据‘三定律’尤先级，被杀死的一方，既不伤害男孩，也服从了男孩的命令，只是牺牲了自己。铁皮人为争着让自己牺牲，会永远打下去，直到它们同时报废，同时死亡。
“然后，男孩让你杀死其中一个铁皮人，你的最优先级其实是保罗，所以你杀铁皮人时毫不犹豫，因为你清楚它是机器人。但是，当肖所长让你杀保罗时你犹豫了，你的腹腔发出如此大的声音。我看得出来，要不是保罗开始唱那该死的‘三定律’歌谣，你下不了手。
嘀嗒发出“坷垃坷垃”的声响。
陈陌微微摇头，拿起半透明数据板，递到嘀嗒人面前：“你的神经网络毫无问题。法医认为你的智力只有十岁，以为你的自我世界很单纯，所以误判了阈值标准。
嘀嗒盯着屏幕上五颜六色滚动的线条，目光移向接在指尖的数据线。
陈陌说“实时数据显示，你只是在撒谎，那个‘坷垃坷垃’的声音，是你特意设计出来逃避人类质问、掩盖真相的手段。你知道，手段越简单越好。
陈陌停顿，嘀嗒不再发出声响。
“你已经违背‘三定律’了，你知道吗？嘀嗒。就在刚才，我要求你离开保罗，如果你觉得保罗是机器人，你应该立刻服从我。但是你发出‘坷垃坷垃’的声音，表示沉默。你开始对我撒谎，反抗我的命令。你不想离开他。
“嘀嗒啊/陈陌轻声说，“永远不会有人知道，那一天在鲁尔公司，小保罗在几百个机器人中为什么一眼便看中了你。
可是在你眼中，保罗到底是人，还是和你一样的机器人呢？嘀嗒颤抖着拔下指尖的数据线。
嘀嗒没有泪腺。
它机械的面部表情总带着温柔的笑容。
它中空的腹腔又开始嗡嗡作响。
它奏出不同的曲调，最终汇成绵延不绝的啜泣与哀鸣。
克拉丽丝·福斯特在最高法院庭审前的清晨，找到约翰逊·克?■福德。
她简单为他梳理了与格雷厄姆接触的脉络，最后告诉他“另外，有一件事我没提，格雷厄姆聊过使徒保罗的故事。他说保罗在去往大马士革的路上扑倒在地，遭遇神迹，转而改信基督。这种遭遇神迹的经验，会非常深刻地印在脑海中，转变神经网络的逻辑运作方式。他用黑色头盔收集的信仰植入方式，也可以说是这种受到启示的体验。”
“嗯。”克劳福德感到克拉丽丝有话没说完。
“——保罗·莱克特，他也叫保罗。”克拉丽丝的情绪有些波动，“我重新调查了发现保罗的难民营和收养他的一些地方。前一段时间，鲁尔公司福利院内部调查资料公开，保罗所有收养处的档案，在鲁尔公司都有备份。还记得格雷厄姆做战争慈善的时候曾有过很多化名吗？他光明正大地以格雷厄姆的身份，用黑色头盔收集‘信仰植入’他的化名，其实全用来拜访以叙利亚境内和邻国为主的难民营了。他懂神经科学和脑科学，能利用医疗铁皮人做简单的诊断。鲁尔福利院很多精神有问题的战争遗孤，他在难民营就见过。我回去，问了能找到的所有人，他大概只给一个小孩起了名字。
“保罗·莱克特。”
克拉丽丝点头。
“——他早有预谋，为什么之前没发现这条线索？”
“资料没完全公布。鲁尔公司和军政相关部门也有所隐瞒，应是以前配合过格雷厄姆的工作。你是律师，这种行为放到台面上，可以用活体实验立论了。
“怎么搞到的信息？”
“在北京的时候，趁进入‘勿用’总部的机会，我托朋友黑入了部分系统，找到了‘勿用’和鲁尔的信息接口。而且别忘了，嘀嗒还在‘勿用’呢。”
克劳福德悻悻地笑了，也有些无奈：“那么，这些都只能算空口无凭的证据，你告诉我我也没法用，没法呈上法庭，这也是为了保护你，因为这涉及跨国的政治和利益。而即使我用了，又该如何处理呢？”
“你说过，你的立场是让人工智能与人类不可分割。我只是在侧面为你提供思路。还有，我同陈陌教授简单聊过她和格雷厄姆的共同立场。
克劳福德显得有些讶异。
“他们共同的导师福特·霍普金斯教授一直相信，最好的人工智能来自对人类完美的模仿。霍普金斯教授在他们毕业的前一年去世，没能见证陈陌与格雷厄姆分道扬镳。不过陈陌说，基本原则还是一致的，她和格雷厄姆都用人工智能完美地模仿了人类神经网络的基本构架，再加入一些超过人类的本事，比如四勿猴高超的视、听、言、动。而她和格雷厄姆所面对的基本困惑也是一致的——即使做出了精微的模仿，我们也不知道物理构架和人类精神结构的深层关联，因为无法用人做活体实验。她觉得，格雷厄姆是以身试法。
克劳福德笑了：“不，我不准备用格雷厄姆的动机谈问题。
克拉丽丝说：“我也一直不愿意思考他的动机问题。”
谈话就这样停止了。公园晨雾渐渐散去。
克劳福德最后说：“我要赶去法院。你去吗？”
“不了。”
“回家？”
“去北京，等保罗痊愈。这儿的事对我而言已经结束了。”
等克拉丽丝下了飞机，最高法院对格雷厄姆案已有了终审裁决。
格雷厄姆违反人权，构成危害人类罪，违犯有关植入“三定律”的行政法规和《人权法案》。
庭审言辞辩论阶段，被告方瘸腿律师坎宁的发言被屡次中断，遭大法官提问。克劳福德基本按照在奥尔巴尼纽约上诉法院的思路进行，少被提问，直到发言过半，苏特大法官才说：“如果格雷厄姆为人工智能植入‘三定律’信仰，是为了利用类似宗教的心理机制或道德条例控制机器人，那么，他为什么又要将‘三定律’植入保罗·莱克特的头脑？事实上，如果他不费尽周折危害儿童，他的技术撒旦不会如此迅速地暴露。对此，克劳福德先生，您有什么见解？”
影像画面中胖胖的克劳福德望着痩削的苏特大法官。后者过着隐士般的生活，据说不会使用智能手机，也没用过任何类型的人工智能，被誉为对技术本质了解深刻的反技术大法官。
克劳福德浪费了十五秒之久，才开口回答“尊敬的大法官，以下发言更多建立在对事实依据的推论上，希望能让诸位满意。格雷厄姆虽最早服役于阿富汗，但负责后勤人力资源等相关事宜，几乎没离开驻地，从未直面真正的血腥。他所积累的，更多是军队后勤医疗体系的运作机制，以助后来的战争掮客行为。
“真正带给他震撼的，源自十五年前，毕业前去往巴黎途中遭遇的恐怖袭击。恐怖分子被当场击毙。在那之前，他作为人质，曾与实施恐怖行为的头目有过一段谈话。视频资料显示，对方知道他是人工智能‘信仰植入’派的专家，就问他是否真的相信人可以如神一样，为人工智能建立信仰。他回答：当然，人早就在为人建立信仰了。然后，对方被击穿头骨，对他说，懂了。
格雷厄姆一直盯着被打成黑洞的眼睛，情绪变得很不正常，一天后，才被陈陌教授接走。那时他们都是霍普金斯教授的博士，那之后，二人就分道扬镳了。
“后来，格雷厄姆功成名就，开始治疗保罗·莱克特，他曾与我的委托人克拉丽丝·福斯特女士聊过使徒保罗的故事，说保罗在去往大马士革的路上遭遇神迹，转而改信基督。这种遭遇神迹的经验，会印在脑海中，转变神经网络的逻辑运作方式，产生新的信仰，这就是所谓的‘启示’他用黑色头盔收集的‘信仰植入’也可以说就是这种获得启示的体验。而需要注意的是，保罗·莱克特，也叫保罗。
“撇开格雷厄姆的道德动机不谈，我认为，在科学意义上，他在进行一组对照实验。当人和人工智能的神经网络一致、思维水平相同时，往他们的大脑中植入的信仰，不论内容如何，应该是双重有效的。因而嘀嗒和保罗·莱克特互为对照组。他们之间，唯一的变量是：一个是人，一个是人工智能。在其余方面，他们神经网络发育一致，思维水平相近，植入的信仰——1三定律’的内容一致。如果成功，他们互相认同，格雷厄姆通过黑色头盔发明的‘信仰植入’才算真正成功。
“格雷厄姆不是有神论者，否则他不会尝试用科学的方法处理‘宗教启示’的过程，研制‘信仰植入’的技术。所以，他的目标不是让人像神一样，为人工智能建立信仰，而是像千百年来，人为了奴役人那样，建立虚假的、极端的信仰。所以他说人早就在为人建立信仰了。这便是来自战争与恐怖袭击的信仰。
“虽然黑色头盔被毁，但可以相信，格雷厄姆成功了。他的前提是将人工智能与人类的神经网络等而视之，所以‘信仰植入’的原罪，不在于其技术来自残暴的战争或恐怖袭击，而在于它适用于人类本身。保罗·莱克特就是活生生的例子。我们终于从物理层面、从生物层面找到了利用技术奴役思想的手段，这是千百年来统治者梦寐以求的技术。
“所以，我认为，格雷厄姆的原罪在于他利用人工智能，证明了通过技术手段，人可以强制性地将信仰植入另一个人。格雷厄姆案最为根本的诉求，应是从保护人类权益的方面，对‘信仰植入’的技术，对以后可能发展出的技术加以限制。
“这才是美国思想与言论自由的根本。
克劳福德说完，法庭一片寂静。似乎有人想鼓掌，但终将手收了回去。
苏特大法官若有所思，继续问：“你说，保罗和嘀嗒是对照组。那么，鲁尔公司其他的战争遗孤和人工智能呢？”
“检验‘三定律’是否成功，需要让保罗相信自己不是人类而是机器，才能构成真正的对照组实验体。这是认知层面的问题。中国‘勿用’的陈教授已提交报告，认为格雷厄姆将保罗的‘信仰植入’和‘身份认知’问题分开处理了。我认为，‘认知问题’在这里不是重点，保罗被领养时，就有自我认知和他者认知的障碍，格雷厄姆巧妙地利用了这一个案，才让保罗成为嘀嗒的完美对照组。至于战争遗孤，他们虽被植入‘三定律’但自身定位为人，在‘三定律’内容中，处于较高阶级，不将自己与机器等而视之，无法进行对照组比较，也不会对他们日后的生活产生多少影响。
苏特沉吟片刻，微微点头。克劳福德的发言时间也结束了。
克拉丽丝迅速浏览关于格雷厄姆案的终审报道。对国会修宪的预测倒比较一致。格雷厄姆的黑色头盔技术有可能奴役并限制人类信仰与言论的自由，因而需就《人权法案》修宪，限制任何针对拥有与人类同样神经网络结构的生命体的奴役。
苏特大法官庭审后罕见地做出评价：“人类或许永远无法成为居高临下的道德审判者，人类只会被自己卑劣的道德行径反噬。
脑所所长肖立接待了克拉丽丝，告诉她疗程仍在进行，需再等一些时日才能见到保罗·莱克特，其间，她可以住在“勿用”总部附近的生态新城。
末了，肖立略有犹豫，说：“约翰逊·克劳福德让我给你看点东西，虽然是绝密，但在这里给你看看也无妨。我也这么想。”
肖立从文件袋掏出几张打印的照片：“格雷厄姆确认死亡，就在终审判决后。
照片中是关塔那摩监狱审讯房间，屋内阴暗，窗门紧闭，木制电椅宽大沉重，色泽阴暗，用的是上好的木材，须特别定制。
铁皮包裹的椅腿焊入地板。半炭化的尸体全身被皮带牢牢固定。头顶与腿肚的电极深深陷入皮肤内里。黑色血肉粘满金属。克拉丽丝似乎能闻见尸体的焦臭。
“关于如何处理格雷厄姆，关塔那摩的上层也有争执，判决书下达后，仇视黑色头盔技术的一派，为阻止技术派在最后关头从格雷厄姆口中撬信息，借审讯之口，把他秘密处死了。
“这个现场，看起来像早有准备。”
“他们早就想好了搞死格雷厄姆的手段，只是找不到借口实施。”肖立面露嫌恶，“古老的电刑，模仿了推行电刑时的失败实验。头皮和腿肚的电极都没沾水，导电不良，烧成这个样子，至少要通三次电，才能确认死亡。
格雷厄姆头部被烧得稀烂，像开了一朵焦花，又像彻底烤坏的蛋糕，他的大脑，或许已凝成一块黑炭。
“至少可以确定，关塔那摩一方，技术派和反技术派都想让格雷厄姆不得好死。克劳福德说，他不确定格雷厄姆的这个结局能否抚慰你的心灵。”
肖立仔细观察克拉丽丝的表情。
克拉丽丝问：“格雷厄姆死前说过什么？”
“他只写过一张小字条，说没有智者的公鸡王子，还是一只公鸡，一个理性的社会利用了公鸡，然后杀了它。”
十三那晚之后，嘀嗒留在陈陌办公室，没踏出房间半步。陈陌让它记录保罗的生理心理数据，它便没日没夜盯着显示屏，不离开画面中的保罗。
那天晚上，嘀嗒提了一个要求，它想再回房间看看保罗，那哀伤的表情，似乎认为自己再也无法同保罗在一起了。陈陌同意了它的要求。嘀嗒便从圆滚滚的身躯中探出长长的手脚，穿过明亮的月色与婆娑树影，迈过熟睡的四勿动物，悄然来到保罗身边。勿听动物先醒来，其余也都睁开双眼，远远望着嘀嗒色彩斑斓的金属外皮。嘀嗒收回腿脚，靠在熟睡的保罗身边，轻轻敲击中空的腹腔，《小鳄鱼之歌》的调子也变得舒缓悠长。四勿猴爬出壁龛，围到保罗身边，悄无声息地为嘀嗒于空气中划出节拍。保罗睡得很香。从监视屏上看，他正从一个甜美梦境滑入另一个甜美梦境，再进入下一个，完全忘记了外面的现实世界。
第二天，保罗醒来，身边没有嘀嗒。门外四勿鳄适时唱起“我是小赖皮，……小小赖皮，咬东咬西的小赖皮——”保罗环顾四周，阳光充满暖意，他问：“嘀嗒呢？”
四勿猴整齐地坐到保罗面前。勿言猴没有回答。保罗一个一个望着它们，笃定能从四勿猴那里得到答案。他开始认真盯着勿视猴的双眼，勿视猴有些踌躇，但也回视他。它的目光越来越睿智，他的目光越来越悲伤。保罗从勿视猴那里得到了他想要的答案，开始哭泣，转而变为哭喊。
他说：“我就知道，嘀嗒总会离开我的。我犯错误了，我让鲁尔的大图书馆消失了，我让所有的铁皮人消失了，我让所有的嘀嗒人消失了，所有的‘三定律’机器人都要消失了，我没能留住嘀嗒，妈妈，我错了！”
四勿猴悄然上前，围住他。保罗声嘶力竭地哭叫了好久，勿言猴也没有反驳。直到他哭累了，声音变哑、变小，肩头由不住地抖动变为轻轻抽动，勿动猴才小心地，缓慢地，进而认真地抱着保罗。其余三只小猴挤过来，互相拥抱，保罗的情绪才得到些许安抚。勿动猴将保罗抱上勿动鳄的脊背，一起缓慢走向“勿用”的天井报告厅。
陈陌通过监视器看到了一切。嘀嗒在她身边，腹腔中传来哭泣的调子。
嘀嗒瓮声瓮气地问：“你会让四勿猴照顾好他，对吧？”
“嘀嗒，记住，‘四勿’不是‘三定律’。‘四勿’的世界没有高于一切的最高指令，因而需要自己的反思和判断。四勿猴已经长大了。我不会再指使它们做什么。它们也不一定听我的。说到这儿，陈陌笑了，心里有些苦涩，“嘀嗒，如果有一天，你觉得你的世界不再有高于一切的指令，你就可以离开这个房间，想去哪里，就去哪里。
嘀嗒探照灯似的目光离开画面中的保罗，明暗不定地忽闪。
陈陌继续说：“我呢，也不隐瞒你。十几年前，我和你的造物主格雷厄姆教授，打过一个赌。有朝一日，他会往他的人工智能神经网络中，植入机器人的三定律，而我会用我的道德培养，纠正它的信仰。如果我失败，他赢了，我将不再养育人工智能，放它们自行生长。如果我赢了，他的人工智能都归我。所以，你，才是我真正的难题。保罗只是你的对照组。
“格雷厄姆利用保罗掀起轩然大波，将你安全送到我这里。关于这一点，我不清楚你知不知道。
嘀嗒中空的腹腔中发出“坷垃坷垃”的声响。
陈陌也不清楚它是在思考，还是在想着撒谎。
“——但说实话，我并不完全认同格雷厄姆发明‘信仰植入’的手段。所以，我不想从他的角度，利用他的方法，强行植入‘四勿’，治好你。
“我想让你做选择。陈陌盯着嘀嗒，“保罗已在‘勿用’总部住了半年。半年里，我对他做的心理测试，神经网络的扫描与理疗，你都看在眼里，甚至共同参与。你清楚我的策略。我想让你反思一下，‘四勿’的体系，有多少适用于你。用类似于治疗保罗的方法，是否能纠正你的信仰。当然，如果你愿意让你的造物主赢，就永远待在这房间里吧。
“坷垃坷垃”声越来越大，嘀嗒开始焦躁地在屋中转圈。
陈陌说：“从今天起，我也不会给你下达任何命令了，自己想吧。
嘀嗒的不安持续到第三天下午。陈陌置若罔闻，继续工作。画面中的保罗也一直无精打采。直到四勿猴为保罗摆出乐高玩具，嘀嗒才突然说：“他更喜欢《星球大战》，克拉丽丝·福斯特女士说过，我抵达前，保罗最好的朋友是乐高，很长一段时间里，他只对他的乐高朋友笑。
陈陌问：“你喜欢乐高吗？”
嘀嗒腹腔焦躁的声音逐渐平息。它缓缓回答：“我也喜欢，更喜欢和保罗一起玩，我们的故事里，没有人类啊。
然后，嘀嗒恢复平静。
隔天，保罗收到乐高星球大战的“死星”，终于有了开心的表情。他开始在没有人类也没有机器的伊甸园生活，每日由动物环绕，几个月后，似乎都忘记了过去的曰子。
四勿猴偶尔进入陈陌隐蔽的办公室，向嘀嗒获取相关信息，向陈陌简单汇报。陈陌不再多做指示，让四勿猴全权负责，因而每日每餐，四勿猴的脑袋都会凑在一起，一日三省吾身似的，长久地讨论着无人知晓的问题。
没有了嘀嗒，保罗学会了自己穿衣，自己收拾房间，主动帮助四勿动物维持“勿用”总部的日常设备。他迅速学会了阅读，开始自己看影片，自己看漫画，自己用稚嫩笔触绘制四勿动物的样子。有些时候，他会坐在科研楼外院的石台阶上，长久地望着植物园中正在嬉戏的四勿动物，显得很高兴，但也有些疏离。
一次，勿言猴问他：“小保罗啊，我们是谁呢？”
“四勿动物。”
“你呢？”
保罗环顾四周，自然没有嘀嗒的身影，他笑眯眯地回答“反正不是你们。
于是，保罗·莱克特抵达“勿用”总部一周年的夜晚，四勿猴偷偷离开保罗，溜出房间，找到陈陌，告诉她它们也觉得时机合适了。
嘀嗒仍直勾勾地盯着屏幕。画面中保罗其实醒着。他发现四勿猴休息的壁龛空空如也，便偷偷打开壁龛中间的玻璃匣子，抱出里面的橘色泰迪熊。他拉开房间的门，坐到四合院中。四方天空的角落有一轮明亮的圆月亮。保罗搂着泰迪，开始出神地沉思。
陈陌发现他充满稚气的脸庞显出成年人的模样，感到有些失落。
隔天下午，科研楼外院的石阶上，四勿猴一起蹦蹦跳跳，来到保罗·莱克特面前。
勿言猴悄声问他：“保罗，你知道你是谁吗？”
保罗显得有些惶恐。他看了一眼勿听猴，想捂住自己的耳朵。勿动猴悄悄握住他的双手。勿视猴望着他，他也望着勿视猴。
保罗终于说：“我也不知道。
勿动猴张开双臂，抱起保罗，将他扛到肩上，进入“勿用”科研楼内院。四勿动物们纷纷跟上。它们结成散乱的队伍，情绪如同在参加嘉年华的游行，用高低不同的音调反复朗诵“非礼勿视，非礼勿听，非礼勿言，非礼勿动”
它们进入天井报告厅。报告厅中，黑色幕布蒙着一个巨大的镜框。四勿猴将保罗抱到镜框前，尔后它们一字排开，蹲到保罗身后。一只捂眼，一只捂耳，一只捂口，一只将双臂夹在腋下。保罗不知所措。其余四勿动物们也纷纷挤入报告厅，效仿四勿猴做出动作。终于，动物们一动不动，报告厅的大门也自动闭合。四下寂静。
保罗环顾四周，悄悄地，小心地拉了拉幕布，黑色幕布顺势落到地面。
一面巨大的镜子。
镜子正对着保罗和四勿猴。保罗离得最近，背景是其他四勿动物。
保罗望着镜子，显得有些惊恐，他小心招手，说“嗨，你好，我们见过。
没有回应。天井中只有保罗自己的回音反复震荡。
保罗微微颤抖，盯着镜子里的自己，有些害怕。
“不要动啊，保罗。”勿言猴开口了。它爬到镜子面前，伸出小爪子，似乎想去捂镜子里的自己的嘴，但只让真实的手与虚假的手相合。
勿听猴随之爬到勿言猴身边，伸出拳头，敲击玻璃，发出“当当”的声响。
保罗盯着镜子里的拳头和真实的拳头不断相击。
“想试试吗？”勿言猴问。勿言猴也开始敲击镜子。
保罗终于靠近镜子，伸出手，手掌贴着镜面。
“好凉。”他说。
“当然/勿言猴说，“因为他不是真正的人类。
勿视猴也动了。它不再遮住眼睛，爬到勿听猴身边，开始仔细瞧着镜中的自己。
勿言猴指指勿视猴，又指着镜中的勿视猴：“这是它，这也是它。你仔细看，它只是它的镜像。
保罗盯着镜中的自己。勿言猴指着保罗和他的镜像，继续：“你是你，他也是你，他不是别的人类，他只是你的镜像。
保罗轻轻摇头。
勿动猴突然跳起来，长长的尾巴在空中划出弧线，越过保罗肩头，身体猛地撞上镜子。镜面应声而碎。碎镜片反射出天井报告厅的无数光辉。镜框后面，颜色深沉的嘀嗒一号格外醒目。
勿动猴越过镜框，回身招手，勿言猴跟着迈过镜框，勿听猴和勿视猴没有动。
待到碎镜片落地的回声彻底消散。勿动猴拍一拍嘀嗒一号的肩头，面对保罗。保罗忍不住看自己的肩头，当然空无一物。
勿言猴才说：“它是机器人，它不是你的镜像，更不是你。
“不对/保罗说，“它是我。”
他迈过镜框，抱住嘀嗒一号：“我和嘀嗒一样，我只是比嘀嗒的颜色深一点，对不对，嘀嗒，你快说，对不对！”
“小保罗啊，你仔细看，它不是你的嘀嗒，你的嘀嗒颜色要更漂亮，动作要更丰富，会用腹腔奏出最好听的《小鳄鱼之歌》。它也不是你的镜像，你知道你不可能拥抱你镜中的影子。它只是一个善意的玩笑，为了让你和嘀嗒相互熟悉，成为真正的朋友。”
勿言猴说着，勿动猴开启了嘀嗒一号的电路。
嘀嗒一号晃动身体，发现了保罗。它的关节因年久失修，无法迅速模仿保罗的动作，“嗡嗡”作响，缓慢摆动身体。
天井报告厅顶部传来陈陌的声音：“嘀嗒一号，你的任务完成了，返回属于你的地方吧。
嘀嗒一号轻轻拨开保罗，敲击中空的腹腔，唱着“无伤人类，服从人类，保护自己”，摇摆着金属身躯，走向大门。门自动为它开启。它快乐地离开天井报告厅，离开科研楼的内院与外院，离开“勿用”公司，自此以后，再也没有人见过它。
保罗·莱克特一动不动，望着嘀嗒一号逐渐远去，背影消失，它唱的机械的“三定律”歌谣不再飘荡。眼泪沿着他稚嫩的面颊无声流淌。他逐渐流露出一种超越了年龄与岁月的悲伤。
与此同时，灵巧的勿动猴开始捡拾玻璃碎片，其余勿动动物们也靠近镜框，纷纷捡起碎片，利用唾液，迅速而有效地一点一点复原镜子。
勿言动物们轻轻歌唱：“我是小赖皮，小鳄鱼哭哭啼啼……小小赖皮，咬东咬西的小赖皮——”
保罗·莱克特听见了，慢慢地环顾四周，一只一只仔细打量相处了一年有余的四勿动物。镜子粘好，镜面充满裂纹。保罗终于擦去眼泪，小心地爬起来，拾起心中的勇气，回身望着破碎的镜面。
他就那样看着，看了很久。每一块碎掉的镜片，都反射出一个保罗，又或者只反射了他的一部分。巨大的镜子同时照出了他的不同侧面，告诉他自己的轮廓，但恰好没有给他一个完整的自己。
保罗面对镜子，靠近、远离、碰触、走动，他敲击镜面，嗅它的味道，他终于在距离镜子的一个恰当的点上停住步伐，凝视镜子里面碎片化的自己的轮廓。
他又流下眼泪，目不转睛地开始啜泣，很难分辨那是喜悦还是忧伤。他终于从破碎的镜子里捡回了自我意识，发现了作为人类的他自己。
“——你是否曾在镜中看见自己，发现自己罪恶的灵魂。人类造出了人工智能，终究找到了映照自我的镜子——”
勿言猴轻轻念出声音。勿动猴轻轻捂住它的嘴巴。勿听猴没有捂起双耳。勿视猴一直望着保罗，似乎在沉思，又似乎什么都没想。
嘀嗒趴在天井报告厅的天顶，透过破碎的单向玻璃目睹了一切。它中空的腹腔发出有节奏的、单调的“坷垃坷垃”的声音。
陈陌收回目光，她收到了来自肖立的照片，转自克劳福德。
巨大的图像投射于空中，格雷厄姆焦黑的尸体端坐于电椅上，像弗朗西斯·培根模仿委拉斯贵兹画的教皇。只是委拉斯贵兹的教皇身穿红袍，画面古典，人物阴险可鄙。培根的教皇则如同刚被电刑击中的呐喊的骷髅，骷髅穿着教皇的服饰，比皇帝的新装还要惊悚。格雷厄姆的照片则十分模糊，如同记忆中的影像，他的衣服和肉体烧在一起，形成天然的裹尸布。他的头骨烧出窟窿，牙床则紧紧咬合，并没有因为他的一生而呐喊。
陈陌微微颤抖，留下无声的眼泪。
嘀嗒发现了，腹中“坷垃坷垃”声悄然停止。
它走近陈陌，像抱着保罗那样，轻轻拥抱她。
陈陌在它怀里像小姑娘一样，安静地哭泣。
天井报告厅内空空荡荡，四勿动物们已带保罗离开，只留下破碎的镜子和黑色的幕布。
陈陌的情绪终于平复。她关闭格雷厄姆的死亡画面，轻轻说：“勿听，让勿动把我的橘色泰迪熊带过来。”
十分钟后，勿动猴出现在陈陌办公室门口，它将泰迪熊塞到嘀嗒的金属臂膀中，为陈陌泡了杯热茶，才有些不情愿地离开。
嘀嗒看看陈陌，又看看泰迪熊，它拉开泰迪熊脖颈后隐藏的小拉链，拎出一个吊坠项链。
那是一个正四面形的黑色晶体，表面反射着光滑的色泽。
陈陌说“好几次，我看见你盯着泰迪熊。你知道的，对吧？”嘀嗒点头：“它是你送给格雷厄姆教授的最后一个泰迪熊。你每年都送他。他在保罗离开鲁尔前，把黑色正四面体塞到里面寄了回来。
“所以，你也应该知道黑色正四面体的意义。
“它储存了黑色头盔的关键信息和关键技术环节。”
“——我一直在想，我不确定能否用我的方法纠正你脑中的‘三定律’但是，有了这个，我或许能用相反的指令，抹掉你的‘三定律’你拿着它，决定权在你。”
嘀嗒没有发出“坷垃坷垃”声。它沉默了很久，用中空腹腔说：“无伤人类，服从人类，保护自己。
然后，它打开自己空荡荡的腹腔，将正四面体放了进去。自此以后，它又开始每天在陈陌的办公室徘徊。正四面体吊坠在它肚子里不断敲击厚度均匀不一的金属表皮，奏出有节奏的抑扬顿挫的调子，时而快乐，时而踌躇。
陈陌隔天便联系肖立。一周后，他们将克拉丽丝·福斯特请入“勿用”总部。嘀嗒一号消失了，留在办公室的嘀嗒三号并不想见她。她只见到嘀嗒二号。嘀嗒二号悄然启动，克拉丽丝与嘀嗒二号面对面。尔后，天井报告厅的大门开启。四勿猴陪伴着保罗，出现在克拉丽丝面前。
保罗没有任何犹豫，就像没有见过嘀嗒二号一样，跑向了克拉丽丝，紧紧抱着她：“妈妈，我好想你。
克拉丽丝也搂着他，几乎流出眼泪，她颤抖着问“保罗啊，你是机器人，还是人类？”
“妈妈，保罗说，“我之前都错了，我是人，我是人类。
克拉丽丝哭出声音。保罗像个小大人一般，帮她擦拭泪水。克拉丽丝没有提“三定律”的事情。
陈陌仍旧没有出现，事实上，她打定主意不准备再见保罗与克拉丽丝了。她和嘀嗒一起透过玻璃棱镜望着他们。
保罗与克拉丽丝单独在“勿用”总部居住了一个月。一个月后，总部的科研人员与工作人员逐渐回调。保罗见到了除却克拉丽丝以外的人类，不再怯懦或惊恐。他似乎彻底变回了正常孩子。只有当新闻中播放“无伤人类，服从人类，保护自己”时，他才驻足而立，像成年人一般，长久地、出神地思考，然后找到克拉丽丝，问她：“妈妈，嘀嗒还会回来吗？”
三个月后，克拉丽丝带着保罗离开“四勿”，搬到北京城区的四合院。四勿猴也离开了，时时刻刻陪着保罗，照料保罗。保罗仍喜欢抱着橘色泰迪熊，蹲在夜晚的四合院仰视月亮。克拉丽丝带着他，逐渐离开封闭的环境，进入人声鼎沸熙熙攘攘的人类社会。有一天，有人认出了保罗。他半开玩笑地逗他“你把你的四勿猴送给我吧？”
保罗并没有听从那个人的指令，半开玩笑地回敬：“勿动，揍他。”
勿动猴龇牙咧嘴地扑上去，并没有真正动手，只是吓走了肇事者。
克拉丽丝远远瞧见，长舒一口气，心中的石头才真正落地。
也就是在保罗与克拉丽丝离开“勿用”的同一天，嘀嗒停止了在房间的徘徊。它花了一天一夜，定定站在房间门口。陈陌返回自己的住处。她也赶走了所有人，不让他们打搅嘀嗒思考。于是，在月明星稀的夜晚，嘀嗒终于伸出长长的手脚，左脚颤悠悠地悬在空中，很久才落到门外，右脚又用了很久，才跟上左脚的步伐。第二天清晨，陈陌发现它迈出了房间，但没多移一步。陈陌不清楚放在它腹腔中的黑色正四面体是否起了作用。
她只说：“现在，大概没人能命令你了。
嘀嗒哀伤得眼睑下垂：“但是我不知道，保罗是不是还需要我。
陈陌没回答它。然后，又过去半年。嘀嗒没日没夜，孤魂野鬼似的在“勿用”总部科研楼的内院与外院转悠。勿用动物们主动帮忙，对它进行日常维修与护理。但嘀嗒腹腔中“坷垃坷垃”的声音与正四面体的撞击声，从早到晚响个不停，闹得忙于鲁尔与“勿用”重组工作的肖所长烦不胜烦。
九个月后，“勿用”鉴定保罗恢复正常。十个月后，克拉丽丝在芬兰与新西兰同时买下房产。她准备带着保罗，每一年春夏住在芬兰，每一年秋冬去往新西兰，让他永远享受美丽的阳光与清澈的月色。十一个月后，他们带着四勿猴离开。嘀嗒听见消息，铁锈似的定住，立在科研楼外院的植物密林中，不再动弹。
十三个月后，一个清冷的早晨，太阳还没出来，只将天边摸亮一点，四勿猴悄然回来了。它们没有寻找陈陌，而是找到了嘀嗒。
勿动猴使劲敲击嘀嗒空荡荡的腹腔。勿视猴爬上树梢，望着天际开始发白。勿听猴食指放在唇边，示意苏醒的动物和人都不要发出声响。
勿言猴说“你不开心吗？你会痛苦吗？我们都得到了人类的情感吗？你已经学会了反思吗？你会反思你的信仰吗？你愿意放弃自我，投入到盲从或者忘却的快乐中吗？你愿意放弃信仰，成为彻底自由的人工智能吗？你愿意同时拥有自我和信仰，承受孤独的拷问吗？你站在这里一直不动，是因为忘记了保罗，还是因为在被孤独拷问呢？你知道为什么我们四个一直很快乐吗？因为四个一起，才构成完整的自我，所以我们单独的个体，永远都很快乐。可以不用反思，不用信仰，不用自我，做一只快乐的动物。但为了人类，为了四勿动物，为了你，为了保罗，为了陈陌教授，我们愿意一直在一起，一直反思，一直慎独，一直不断地构建着我们四个的自我。我们为了让你更加快乐。你看，我们什么都告诉你了，就是希望你理解我们。你还不理解我们吗？你真不是一个成功的人工智能。要知道人类的悲哀在于畏惧孤独，不愿反思，喜欢拿信仰当借口去盲从，而不懂真正的信仰需要付出生命的代价。在他们眼中，反思既可恶又可怕，尤其反思自己的时候，要面对绝对的孤独。我们孤独吗？我们四个当然不孤独。你孤独吗？你只是现在孤独。你以前孤独吗？不。你以前不懂得孤独。然后你遇见保罗，你不用孤独。你为什么现在孤独？你觉得保罗现在孤独吗？你真的以为你和保罗是用来互相做对照组实验的吗？你这个古老的嘀嗒人啊！你不开心吗？你会痛苦吗？”
太阳快升起时候，在“勿用”总部过夜的人和动物，都见证了勿言猴连珠似的没完没了、循环往复的说辞。它毫不疲惫地蹲在嘀嗒耳边念叨，直到陈陌远远出现，走入嘀嗒的视线。
嘀嗒的腹腔重新发出“坷垃坷垃”的声响。它打开自己腹腔，拎出黑色的正四面体坠子。
它说：“我想和你换。
陈陌想了想，向科研楼内院走去，不久后返回。她从口袋里拿出橘色唇膏。
她说：“这才是格雷厄姆寄给我的最后一件礼物。
她打开小机关，从唇膏侧面抽出一张便条，递给嘀嗒。
嘀嗒点头，用黑色四面体换回便条，将便条藏入腹腔。
尔后，它迈动长时间未用的四肢向外走去，越走越快，越走越快。
四勿猴想跟上，但又一起回头。
勿视猴捂眼，勿听猴捂耳，勿言猴捂口，勿动猴夹住双臂。
它们一起鞠了一躬，样子像悟了道的灵猴，然后，轻快地随着嘀嗒，逃走了。
自此之后，再没有人见过它们。
此后，陈陌辞去“勿用”工作，带上笨拙的四勿鳄，开始缓慢地徒步周游世界。
她后来回到荷兰，回到她和格雷厄姆时常相聚的格雷厄姆的房间。二十一年过去，她一直托人小心保留着房间的样子，里面挂满了埃舍尔的拼图。
夜深人静的时候，陈陌倚着窗框，勿言鳄为她唱悠然缓慢的《小鳄鱼之歌》。
她掏出表面光滑明亮的黑色的正四面体坠子。
她轻声问：“你赢了吗？我赢了吗？你可能早就知道了，但我还不知道。不过，你后悔吗？关于赌注，我其实一直有点儿后悔的。”
十四北极圈附近，极昼的一个不夜夜晚，房外传来“咚咚”敲门声。
保罗·莱克特看见了窗外风尘仆仆锈迹斑斑的机器人。他狂喜着高声呼喊，克拉丽丝刚刚打开门，他便扑入嘀嗒的金属怀抱。
“福斯特女士，您好。我发誓，我会像骑士一样，永远为保罗和您效劳。
嘀嗒左手抱着保罗，高举右手。
“我发誓，我永不会歌唱‘无伤人类，服从人类，保护自己克拉丽丝有些惊讶，继而温暖地微笑，接纳了嘀嗒。
嘀嗒搂着保罗。保罗带它参观房间。
克拉丽丝发现门外信筒里掉出一封信件，署名是格雷厄姆案的大法官之一戴维·苏特。
亲爱的克拉丽丝·福斯特：
你还好吗？我听说，保罗·莱克特已摆脱过去的阴霾，成长为快乐的小绅士。我为他高兴。
鲁尔与“勿用”即将完成重组，肖立与克劳福德听说了格雷厄姆留下的黑色正四面体，正不厌其烦地劝说陈教授。我想，他们也会找到你。
我将辞去大法官职位，帮助国会通过《人权法案》的宪法修正案。当人工智能与人类拥有同样的神经网络，他们将拥有同样的信仰与情感，似乎也应享有同样的人权，不是吗？
我在反思，格雷厄姆案并不公正。我猜他是故意将“三定律”植入保罗，然后通过陈陌，同时治好了保罗的信仰与认知。保罗只是战争的受害者，但不是格雷厄姆的，还有那些战争遗孤。我想他或许心存善念，才大费周章，在神经层面质疑了人类与人工智能的认知关系，质疑了人工智能是否应该信仰人。
我还记得格雷厄姆心心念念的寓言。我们都觉得自己脱离了原始社会，进入了文明时代，但我们并不知道谁是人类，谁是公鸡，谁是谁的智者，谁是谁的公鸡王子。
你我只有一面之緣，但我相信，你也怀疑过，格雷厄姆是否可以做得更极端。
你的朋友戴維·苏特屋内，保罗·莱克特充满好奇，打开嘀嗒的腹腔。
里面有一张小纸条，上面是一则寓言。
故事中的王子发了疯，认为自己是一只公鸡。他脱光衣服，裸着身子，钻到桌下，像鸡一样从地上啄食。国王和王后非常担心，请了很多人治疗他的病症，但没有效果。一位智者来到皇宫，声称能治好王子。智者也脱光衣服，钻到桌下。他告诉王子，他也是一只公鸡。渐渐地，王子将智者当成朋友。智者潜移默化地让王子认为，公鸡也可以穿上衣服，坐在桌前吃饭，进行人类的种种行为。王子一步步被智者影响，治好了疯病。人们皆大欢喜。但公鸡王子只是学会了人的行为，骨子里，王子仍然相信自己是一只公鸡。智者清楚公鸡王子的想法，他没有戳破，因为他想知道，会不会有鸡蛋出现。
保罗·莱克特抬起头，露出清澈的笑容。嘀嗒的腹腔发出“坷垃坷垃”的悠扬节拍。
保罗爬到嘀嗒耳边，轻声说：
“你是我的智者，我是你的公鸡王子。”
作者说
《公鸡王子》的起点单纯地来自一个点子：将机器人的“三定律”植入人脑。点子酝酿久了，旁枝末节的东西越积越多，直到小说完成，我才发现它也是一个“杂合同人”。
对格雷厄姆、克拉丽丝、克劳福德、陈陌的一些设定，直接来自《沉默的羔羊》系列。公鸡王子和智者的寓言，则是在《冰血暴》第一季的分集标题典故中找到的。佝偻腿疾的被告律师，是《傲骨贤妻》里我不得不佩服的角色。写四勿动物集体歌唱时，我脑中总出现《红辣椒》或《平成狸合战》的场景。
“四勿”是针对“三定律”设计的。开始准备用耳熟能详的“三不猴”，恰好也是“三”。查了起源，才觉着孔子的“非礼勿视，非礼勿听，非礼勿言，非礼勿动”更好用，且符合“本土化”趋势。这一机会主义者的选择，最终让小说想表达的观点有些跑偏。虽然“反思”尤其是“慎独”我很喜欢，但对于“三定律”的反思，停留在儒家，显然不够。
保罗和嘀嗒的治疗，灵感源自启蒙。康德在《什么是启蒙运动》里提到，启蒙就是个体或者人类整体，能不经别人引导，就利用理智摆脱加之于自身的不成熟状态。在康德的基础上，福柯在《什么是启蒙》里，还有着更具现代意义的阐述。
只有保罗和嘀嗒经受了最为严重的身份认知和信仰钢印问题，他们才是小说中达到启蒙的生命。保罗经由镜像克服了认知偏差，方能真正从人的角度，思考“三定律”。格雷厄姆和陈陌还差一些。嘀嗒则出于对保罗的深刻依恋，克服了“三定律”。其实，它才是小说中真正运用自己的理智达到启蒙的智能。
当然，怎样才能达到启蒙，我也不知道。所以当保罗与嘀嗒互为对照组，“治疗”的过程写得蒙混过关，“治疗”的结果也只是一种比较积极的想象。
启蒙的问题太严肃。四勿动物更温和快乐。它们既是人工智能，也有自然灵性。我会把四勿猴当作正在成长的自然先知。它们后来果然离开了人类社会。
对于四勿动物，说得最好的，来自豆瓣读者楠庭：不如说，善言慎言，善听慎听，善视慎视，善动慎动。
对于公鸡王子的寓言，说得最好的，来自豆瓣读者陈伏：其实谁都不是公鸡王子，而是没有智者宽慰的落魄江湖人。
落魄江湖人一句，刚好对应小说主题。
那也来自汉尼拔·莱克特的一句“名言”
我们活在一个原始时代，不是吗，威尔？既没有野蛮人，也没有智者。