书城童书机器人的故事
8527900000010

第10章 让我闪,我就闪 (2)

“苏珊,你的担心不无道理,”博格特故作轻松地说,“但是,我要再次说明,我们没有放弃第一定律,仅仅是做了一点儿改动,不会对人类构成危险。”

“但愿如此!我们一会儿会议厅见,看看有什么新情况。”

博格特目送她走出门口,对她的背影做了个鬼脸。他觉得卡尔文真是个刻板乖僻的人。

基地上参与研制超原子驱动器的辐射物理学家杰拉尔德·布莱克,被请到了会议厅。他是个敦厚老实的年轻人,但有些倔强,有时显得缺乏信心。此时,他正不安地绞着双手坐在科尔那少将身边,面对美国机器人公司的两个专家。

布莱克说:“人家说我是最后一个看见第十号内斯特的人。有什么问题请尽管问。”

卡尔文博士感兴趣地看着他:“听您的语气,好像还有人最后看见这个机器人似的。”

“女士,我这是严谨的说辞。那天上午它跟着我在试验野外发电机,而下午它就失踪,说不定下午还有别人见过它呢。”

“好吧,我只是跟您开个小玩笑,别介意。”卡尔文说,“我们需要您的帮助,去找到那个机器人,布莱克先生。您和那个机器人一起干过活,大概比较了解它。您发现它在失踪之前有什么异常吗?”

“内斯特机器人除了比其他类型的机器人聪明得多当然也讨厌得多之外,也并没有什么特殊之处。”布莱克说道:“在小行星上由于引力小,干活是一件挺危险的事。尤其像我们这里成天与机械打交道,干的都是一些粗笨的活儿。但内斯特机器人干活镇静,慢条斯理。有时候你想快一些把活儿干完,可它们慢吞吞的让人窝火!”

科尔那将军故意咳嗽了一下:“说正题,布莱克,现在不是你抱怨的时候。”

年轻的物理学家的脸涨得通红。博格特温和地插进来问:“您最后一次看见它的那个上午,没发生什么特别的情况吗?”

布莱克的火一下冒了出来,他说:“那天上午,我打碎了一个试管,5天来的实验成果泡了汤。我烦恼极了,可它却不断地催我做另一个我已经放弃的实验。我生气地让它走开。这就是当天上午的全部情况。”

“您说让它走开吗?”卡尔文博士很敏锐地问。

很明显,布莱克的内心正在斗争。他用一只大手掌擦了擦脑门儿然后放下手,用一种对抗的口气说:“是的,我说:‘走开,躲一边去。’”

卡尔文用诱导的口吻说:“布莱克先生,您再好好回忆当时还说了些什么。要弄明白这个机器人的行为,所有的细节都很重要。当时您心情烦躁,是不是还讲了什么语气严重的话?”

年轻人满脸通红地说:“这个……我可能……骂了它。”

“骂了什么呢?”卡尔文紧追不放。

“哎,都是些粗话……”布莱克支吾着不愿讲出来。看在场的所有的人都盯着他,这个年轻人转脸去看将军,希望从自己的指挥官那里寻求支持,但一无所得。他把眼睛睁得大大的,流露出惶恐的神色:“可是,我不能……”

“您应该说。”科尔那将军说。

布莱克深深地吸了口气,接着一口气说了出来。随后,在紧张的气氛中,他几乎是含着眼泪把话说完了:“……大致是这样。反正我对它说了侮辱性的话。”

说完,布莱克狼狈不堪地坐在那里。

“很好,感谢您向我们说出了实情。”卡尔文转过头对将军说,“阁下不会对一个诚实的年轻人做出处罚吧?”

将军气呼呼地摇了一下头,就算表示回答。“您可以离开了,布莱克先生。感谢您的协助。”

接着,卡尔文逐一讯问这63个机器人。在讯问过程中,她尽量用平和自然的语气和这些机器人对话,创造一个友好的气氛。另外,她给这些对话都悄悄录了音。干完这件事之后,她感到精疲力竭了。

她对博格特摇摇头:“这63个机器人简直一模一样。我没法分辨出来……”

博格特说:“苏珊,我们来分析录音,看看有没有结果。”

可是,显然分析录音并不是个好办法,他们并没有什么收获。

“尽管我们最严格地命令它们要讲真话,但这63个机器人当中有一个就故意对我撒谎。这简直是太反常,太可怕了。”

博格特皱着眉头分析道:“第十号内斯特接到‘躲到一边去’的命令。这个命令是由最有权力命令它的人发出的,而且是以最紧急的方式发出来的。如果不把这道命令消除,这个机器人将尽力坚持执行它的命令,永远躲起来。说真的,我非常赞赏它的机灵。一个机器人藏到一群和自己相似的机器人当中,真是太绝了!”

“别逗了,博格特博士。”卡尔文认真地说,“这种第一定律经过修改的机器人是不可靠的。它们会感受到人比它们低一等,感到用来能保护我们、对付它们的第一定律是有缺陷的。而且布莱克用厌恶、傲慢和鄙夷的腔调命令一个机器人躲到一边去,虽然它必须服从命令,但是它会有一种下意识的反感,这样的后果就非常严重,也许它会伤害人的!”

“苏珊,你这是杞人忧天!机器人怎么会懂得骂人话的含意呢?我们在设计机器人的时候,从来没有在它们大脑输入污言秽语!”

卡尔文粗暴地反驳道:“可是,机器人是有学习能力的!”

她是真的难以克制自己了,她急匆匆地继续说:“咱们别再争吵了,开始工作吧。您知道导致那个机器人躲到一边的刺激因素的确切性质。您有它的最初智力特性的记录。我希望您能告诉我,在什么样的情况下,这个机器人就可能做后果严重的事情。而同时……”

“而同时,我们要做些实验,看看它们对第一定律的反应。”博格特补充道。

布莱克根据要求,在第二号放射大楼的第三层上,监督工人们安装63个木制的小隔间,并且在这小隔间里还安装上63个光电管。

实验开始了。有个人一动不动地坐在椅子里。这时,一件重物坠落下来,向这个人砸去。在最后一刹那,一根铁棍突然有力一击,把重物打到一边。在63个小隔间里,机器人正在看到这种情景时,它们都向前冲去。而光电管测试它们的行动,并通过仪器以波纹图的形式记录下来做成图表。

重物被抬起,坠落;又抬起,又坠落…… 反复进行了10次。这些机器人也向前冲了10次,每次当它们看见人安安全全地稳坐在椅子里时,停住脚步。

科尔那少将也来到了实验现场,他期待地望着博格特。博格特的额头布满了4汗珠,可见他的内心是有些紧张的。

将军问:“情况怎么样?”

博格特回答说:“第十号内斯特机器人和另外62个机器人应该有一种差别,但从实验来看这并不明显。根据第一定律,在重物砸向那个人时,62个机器人必须冲过去救他,虽然后来它们知道重物不会真正砸向那人,但作为一种自然反应,它们还是会一次又一次地冲过去保护他。修改了第一定律的第十号内斯特机器人,可以见人受到伤害而袖手旁观,可是它并没有这样。”

“这该怎么解释呢?”将军问道。

博格特耸耸肩:“我想,卡尔文博士会有答案的,她是机器人心理学家。但她有时候把问题想得过于严重,所以您别拿她的话太当真。”

这时,苏珊走了进来,“砰”的一声关上门。“博格特,我们必须尽快地再试试别的办法。我不喜欢现在这种状况。”

博格特和将军交换了一个眼神,问道:“出什么差错了吗?”

“没什么差错,只是不能再让第十号内斯特躲着我们。这太糟糕了。这只能满足它那日益膨胀的优越感。它现在可能是在和我们玩游戏,竭力想以机智胜人。这是一种病态的、危险的状况。你是否已把我想要的,修改了第一定律的机器人的不稳定因素给计算出来了?

“正在进行。”数学家毫无兴趣地说。

她转向科尔那将军说:“将军,第十号内斯特知道我们在找它,它不会在这个试验中上钩的,它已经精心地装出了这种反应。”

“那么,您认为我们现在应该做什么呢?”将军问道。

“我们不能再让它做出这种虚假的反应。我们重新设计这个实验,增加一些东西在人和机器人之间安装上能高压电网,而且事先要告诉机器人,碰上电线就会死。”

“我反对这个办法。”博格特突然恶狠狠地对她喊道,“我们不能为了找出第十号内斯特,把另外62个价值昂贵的机器人电死。”

“放心吧!”卡尔文冷冷地说:“不会真的让那些机器人去送死的。我们可以安上继电器,如果机器人把自己的重量压到电网上,继电器就会切断电源。但是这一点事先不能让它们知道。明白吗?”

将军的眼睛亮了一下,他问:“那能行吗?”

“应该可以。这种情况下,第十号内斯特将会留在原位。对其他机器人来讲,人的安全是第一位的,它们会冒死救人。但是,第十号内斯特则不然,它没有必要放弃自己的安全去救人,因为它的第一定律已不完整,它完全可以根据第三定律机器人应保护自身的安全而留在自己的位置上。”

实验再一次开始了。一个人一动不动地坐在椅子上,这时一件重物坠落向这个人砸下去。在最后一刹那间,一根铁棍突然有力地一击,把重物打到一边。

在观察间里,卡尔文博士吃惊地从椅子上站了起来,张着嘴巴说不出话来。