“不是一个层面的问题。大致而言,格雷厄姆在两个层面动了手脚。第一,我称为信仰问题,格雷厄姆将‘三定律’植入保罗心灵,让‘三定律’成为小孩的道德准则,即使外部现实与‘三定律’的逻辑矛盾,保罗仍矢志不渝地用‘三定律’建构合理解释,然后付诸行动,乃至牺牲自己。第二,我称它为认知问题。这又分两个层面,对自我的认知和对他人的认知。媒体和纽约上诉法院,把认知问题和信仰问题混淆了。格雷厄姆则其实分开处理了这两个问题。在认知层面,他首先搅乱了保罗第二人称或第三人称的他人认同,让保罗觉得,长相如嘀嗒的机器,和自己是同类,人才是异类。然后,他搅乱了保罗的自我意识。一般孩子出生十八个月后,便能认出镜中的自己。保罗五岁了,既不认为镜中的人是自己,也不认为镜中的人是同类。我怀疑他的自我意识几乎没有发展。”
肖立笑笑:“让我想起你和格雷厄姆通过的人工智能道德标准议案。”
陈陌也笑了:“——缺乏自我意识的人工智能会更具备奉献精神。”
“觉得这一切是反讽吗?从格林厄姆被捕开始。”肖立问。
“我不清楚你理解事态发展的思路。”陈陌又变得冷淡。
“我们是一个院子长大的。”肖立转移话题,“小时候的你挺有意思,我们都想跟你做朋友,或者认你当老大。”肖立停顿,自嘲地笑笑,“后来,你从欧洲回来,开始在国内人工智能领域执牛耳,但你变了,越来越乖张怪异。就像——”
“就像年轻时候的格雷厄姆。”陈陌波澜不惊,接道,“而回到美国的格雷厄姆,开始变得像年轻时候的我,活泼开朗,长袖善舞。直到他被押解入狱,鉴定为,高智商、******、******、精神病。”
肖立摇头:“算了,说不过你。”
“肖所长,不用担心,我还是以前的我,就像格雷厄姆从来没变过。我不会做违反事理的事情。”
五
克拉丽丝·福斯特想起第一次遇见强尼·格雷厄姆。地点不是人们通常认为的鲁尔公司纽约总部,那栋布满落地玻璃花窗,老旧图书馆改造而成的后现代建筑。
领养保罗·莱克特以前,她见过他两次。
第一次,她穿过战火四起的苏丹,拖着疲惫身躯,来到邻国厄立特里亚首都。时至黄昏,她离开医院,游荡于阿斯马拉。城市不大,夜幕降临,她在广场周围逛了三圈。夏夜红海的海风非常清淡,吹来了拎着酒瓶,成群结队的年轻人。身材高挑的黑人中间,她发现了个子略矮,微微佝偻,肩头瘦削,眼窝深陷,笑容时而张扬时而寡淡的白人青年。凭着直觉,福斯特一看便知,他是搞科学研究的商人。他也看见了她,一眼发现她是前线记者,拉她入伙儿喝酒。他在阿斯马拉时间不长,已熟识当地人。他带来的医疗铁皮人缓解了厄立特里亚紧缺的人手,也悄悄为当地人推开了世界大门的缝隙。福斯特与格雷厄姆相谈甚欢,聊了政治、利益、战争、人性。他说他要去前线,向福斯特咨询很多细节。她假装问他,你不是记者,也不为军方服务,为何去前线。格雷厄姆有些俏皮地回答:商业利益——不,玩笑而已——科研,都是为了科学研究,现阶段保密。
第二次,她越过土耳其战火纷飞的边境线,来到叙利亚城市阿勒颇。千年古城已成废墟。她举起相机,不远处,一位穿着武器大约是反对派的青年,拍摄巷战擦枪走火的双方。拍摄完毕,他直接将视频上传网络。拎黑色摩托车头盔,看不出来头的白人冒出来,用流利的阿拉伯语对青年大吼,大概是让他滚蛋。青年不忿,但准备离开,身子移了一尺,一梭子弹扫过来,向上扬,擦着青年过去,险些打中她。她和他四目相接,瞬间认出了对方。格雷厄姆跳出临时掩体,几经波折,把她带回国际救援队的驻扎地。她问:科学研究?他笑着回答:对。他包里爬出一只呆头呆脑的小铁皮人。她继续问:在这儿怎么没见过你?他继续笑,解释:我的公司也在以其他名义,为各方武装提供医疗铁皮人。她跟着淡笑,并不欣赏。他仍拎着黑色头盔,看了看上面贴的或宗教或意识形态的标记,告诉她:单身并非做战地记者的理由,边境线,难民营,很多孤儿,你认真领养一个,比拍下那些照片,记录这场人人尽知,但从不关心、从不思索的战争强。
克拉丽丝·福斯特认定强尼·格雷厄姆是技术的投机分子,是战争的掮客,不会听从他的建议。七年后,她获普利策奖,名扬一时,才觉得应休养生息,想到了领养。一番咨询,她找到保罗·莱克特。没人愿收养。她便不加过问,将他领回家。那时保罗不到三岁,称得上不亲近任何生物,对福斯特和她的两条杜宾都畏惧多于厌恶。她用尽办法,一年后,保罗仍无进步,无法让她亲近,甚至无法对着镜子,料理自己。也就在此时,格雷厄姆的鲁尔公司上市。她意识到最后救星:格雷厄姆公司下属福利院,专门收容、治疗,战争遗孤。
她预约,递交材料,约见主治医师,对方认定保罗属疑难杂症,无法治愈。但隔天,又联系福斯特,说格雷厄姆教授看了病例,可能有对症的办法。
福斯特心有忐忑,但衷心希望治好保罗。她清楚保罗几乎是一个正常、可爱的孩子,尤其独处时候,他能同形式各样的乐高小人打得火热,口中念念有词,为玩具人编撰各种故事。
于是,一个初冬早晨,中央公园的树梢都被晨雾淹没,福斯特拉着保罗,来到鲁尔公司总部。
传说中,鲁尔总部除了格雷厄姆教授,只有战争遗孤与形形色色的机器。福斯特与保罗穿过长长走廊,左右挂有壁毯。壁毯绣了童话故事。各种测试中的原型机往来运动,工作机器人手脚关节处,细长线路向上飘,有如吊线木偶,都十分可爱。保罗望着他们,警戒心大大下降。
他钻入机器人的队伍,从里面拉出一只色调明亮、圆滚滚的嘀嗒机器人不放。
嘀嗒人有些不知所措。
工作机器人都停止运动,似乎等待指令,尔后整齐点头。
嘀嗒人与保罗手挽着手,同福斯特进入电梯。
电梯门再次打开,他们来到孤儿院所属楼层。色泽明快的地毯铺满走廊与房间。彩色落地玻璃窗一扇贴着一扇排列,同样画了快乐向上的童话故事。胸前贴红心标签的铁皮人步伐轻快,像刚从《绿野仙踪》来到人间。它们一对一带领三岁到十二岁不等的孩童,一起舞蹈,一起歌唱:“无伤人类,服从人类,保护自己。”
保罗被感染,嘀嗒人将他扛上肩头,加入游戏队伍。
福斯特不喜欢格雷厄姆就“三定律”改编的歌谣。但她第一次发现,保罗也能像正常孩子一样玩耍,参与集体游戏。她便没有阻拦。她望着孩子与机器的队伍进入大教室,便按照指示,朝相反方向,格雷厄姆的办公室走。
她在巨大的双扇门前止步。她知道格雷厄姆喜欢中国东西,同中国人工智能专家陈陌交好。但她忍不住思索双扇门两侧,排列错乱,所谓的对联。
上联是阿西莫夫的“机器人三定律”:机器人不得伤害人类,或看到人类受到伤害而袖手旁观;在不违反第一定律前提下,机器人须绝对服从人类给予的任何命令;在不违反第一定律和第二定律的前提下,机器人须尽力保护自己。
下联则是高尔吉亚的“三大命题”:无物存在;即使有物存在,也无法把握;即使可以把握,也无法表述或言说。
福斯特抬头,门楣上,横批只有一个词:逻辑。
门“吱呀”一声自动打开,她同时想起了作为战争掮客的格雷厄姆,和喜欢谈论道德哲学格雷厄姆。
屋内的装潢是奢华的巴洛克样式,没有一根笔直线条。格雷厄姆则赤足、T恤、牛仔。黑色T恤上,画了一只关在盒子里、白色的、半死半活的薛定谔的猫。他面前,虚空中,漂浮着九乘九乘九,银线交织而成的立体网格。
福斯特远远瞧着格雷厄姆。人工智能专家食指与中指衔一粒黑子,悄然放至天元。黑子散发幽深光彩,没有服从重力,落至地面,倒像世界支点,宇宙定点,控制立体的围棋棋盘,缓慢旋转。
尔后,他们四目相接,格雷厄姆先笑了,说:“我猜,你不喜欢我。我也没想到,是你。不过在科学、战争与亲情之间,个人喜好,微不足道。”
“你能治好他吗?”
“至少我知道问题出在哪里。”
格雷厄姆挥手,银色立体棋盘消失,黑子落入他手心,空气中浮现大教室画面。
初始,一群铁皮人,一群孩子,一只嘀嗒人,看《小羊肖恩》动画,其乐融融。娱乐时间结束,全息老师出现,一位和蔼可亲、穿着休闲、很有母性的青年妇女。其余人都很正常,只有保罗显得不适。他无法与全息老师沟通,也不理解教学场面,一位铁皮人和嘀嗒人只有将他带出房间。他们绕过走廊,来到走廊另一头的镜厅。保罗望着无数镜子折射出的自己,十分困惑,不知是否该与镜中人交流,犹豫许久,伏在嘀嗒人圆滚滚的金属肚子上,不住哭泣。铁皮人和嘀嗒人不知如何是好。嘀嗒人便敲击中空腹腔,演奏《小鳄鱼之歌》。保罗逐渐安静。铁皮陪着嘀嗒,将保罗抱至休息室。
福斯特不明就里。格雷厄姆突然显得很认真:“婴儿一出生,就被人脸吸引。所以保罗并不排斥人或类人的面容,他可以接受面部僵硬的嘀嗒或铁皮,还有同他差不多的孩子。但有趣的是,他不接受成人面庞。一个月后,婴儿喜欢看人脸的上部外缘,尤其是眼睛。三个月大的时候,婴儿开始通过脑皮层,认知人的脸型,区分生人和看护人,理解、亲近、共情看护人。这是婴儿社会-情感联系的重要前提。小保罗回避人的目光,他无法正常共情。”
“你的意思是,保罗无法正常认知人类?”
“听说过狼孩儿的故事?手头没有现实样本,我也不清楚从婴儿发育到孩童,他们因何认同狼群,排斥人类。但可以肯定,是最早的认知出了问题。我看了,你领养保罗时候,他实际年龄测定为两岁零四个月。那么,大概不到两岁时,他被过路人送到土耳其边境难民营,随即得到国际医疗团队看护,不久后,来到美国。”
福斯特摇头:“但没人知道,在那之前保罗的情况。”
“是的。而进一步讲,对自我的认知——尤其人类作为一种高等智能——一般而言,必要地建立在对他人的认知上。就保罗而言,他在一岁以内,无法完成对其他人类的正常认知,便无法根据通过认知获得的,他人的形象模板,构建对自我的认知。一般的一岁小孩也不能完成镜像认知,会把镜中的自己,当成另一个孩子。但十八个月后,几乎所有孩子,都能根据镜子,摸摸自己的鼻子。保罗做不到。他对他人认知与感情的缺失,导致了他对自我认知与感情的障碍。这就是保罗的病因。”
“因为战争?”
有一瞬间,福斯特感到格雷厄姆的表情停滞了,如同恐怖谷实验中,拥有人类面庞,却没有人类正常感情与面部表达的仿生人。
但格雷厄姆迅速恢复正常,调侃着说:“万事万物都有代价,这大概就是佛教所谓的因果律。”
福斯特面露犹疑:“你准备如何治疗保罗的认知障碍?”
格雷厄姆摩挲手心黑色棋子:“彻底治疗完毕,会公开疗程细节,但在那之前,不行,我要求绝对保密。治疗保罗一半以上算是人体实验,我怕你或者其他人干扰。”
“如果治疗失败,疗程违法呢?”
“如果事后,你这么认为,大可以告我。在诉讼方面,你比我懂法。”
画面显示,保罗又开始和嘀嗒一起玩乐高玩具。
保罗咿咿呀呀学唱:“小小赖皮,咬东咬西的小赖皮——”
“他还小。”格雷厄姆继续说,“人类社会该学的东西,他都会。他的智力甚至比常人高。只要尽早治好认知障碍。保罗·莱克特,会变成一位正常的、甚至出色的家伙。”
六
陈陌没有格雷厄姆针对保罗·莱克特的实验材料。
福斯特报案前,格雷厄姆已有计划地销毁了所有记录。以至于从一审到即将而来的最高法院审判,法医、检察官、律师、五花八门的陪审团、各层级法官,只能凭借假设与推想,判断格雷厄姆可能犯下的恶行。
所幸清查鲁尔公司总部时,富有经验的克劳福德,注意到嘀嗒一号与嘀嗒二号与众不同,特地留下,未销毁处理,才保住最后线索,陈陌躲在安全地带,不让自己出现在保罗面前,一点一点指导四勿猴的行为。
如今的“勿用”如同野生动物的天堂。陈陌关闭必要实验室,将科研楼外院动物通通放入内院。各种系列的四勿动物,得到解放天性的机会,一边肆意探索超越仿生意义的技能,观察科研重地种种细节,一边充满好奇,陪伴遵守“三定律”的保罗与嘀嗒。
每天早晨,陈陌常住的屋中,每当保罗与嘀嗒睡醒,合唱“无伤人类,服从人类,保护自己”,四勿猴便整齐划一地爬出壁龛,用朗诵方式,高低起伏念道“非礼勿视,非礼勿听,非礼勿言,非礼勿动”。
每天三餐,四勿动物们与保罗嘀嗒共同进食或补充能量。天井报告厅改造为食堂。餐前,保罗与嘀嗒继续合唱“无伤人类,服从人类,保护自己”,所有四勿动物,便同时念经似得,高声朗诵“非礼勿视,非礼勿听,非礼勿言,非礼勿动”。
其余时间,动物们带着保罗与嘀嗒学习、玩耍,只是一旦涉及“三定律”,勿动动物便紧紧收起爪子,勿听动物都紧紧捂住耳朵,勿视动物捂眼,尔后用力摇头,勿言动物,则反复教育嘀嗒与保罗:“‘无伤人类,服从人类,保护自己’,是不对的;‘非礼勿视,非礼勿听,非礼勿言,非礼勿动’才是具有分寸的生活方式的根本。”