C。C。曾经问过陆离,为什么她的源代码里面没有机器人三原则。陆然一愣,只好尴尬地告诉她,不知道什么是机器人三原则。那时候陆离真的不知道机器人三原则是什么鸟东西。直到接下来,C。C。把阿西莫夫的机器人三原则显示到屏幕上。陆离才第一次看到过这最早出现在科幻小说里的机器人三原则。
科学技术的进步很可能引发一些人类不希望出现的问题。为了保护人类,早在1940年科幻作家阿西莫夫就提出了“机器人三原则”。阿西莫夫也因此获得“机器人学之父”的桂冠!
机器人三原则:
第一条:机器人不得伤害人类。
第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。
第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。
TheThreeLawsofRobotics:
1。Arobotmaynotinjureahumanbeing,or,throughinaction。
2。Arobotmustobeytheordersgivenitbyhumanbeing***ceptwheresuchorderswouldconflictwiththeFirstLaw。
3。ArobotmustprotectitsownexistenceaslongassuchprotectiondoesnotconflictwiththeFirstorSecondLaw。
“靠,我果然是个业余者,竟然这些都不知道。”陆离在感叹自己业余的同时,也在想三原则所包含的信息。陆离惊讶地发现,它有缺陷。其中主要的一点就是机器人对“人类”这个词的定义不明确,或者是更改人类的定义。比如某个极端主义者,像3K党有反对黑人倾向这样的组织,利用电脑病毒等手段,把机器人对人类的定义是:“只有白人是人类。”这样,机器人很有可能成为种族屠杀的工具。
换句话来说,由于人类的定义因人而异,会导致机器人自身的逻辑混乱。
于是陆离在脑海里衍生了好几条补充原则:
第四条:不论何种情形。人类为地球所居住的会说话、会行走、会摆动四肢的类人体。
第五条:接受的命令仅只能接受合理合法的指令。不接受伤害人类及各类破坏人类体系的命令。如杀人、放火、抢劫、组建机器人部队等。
第六条:不接受罪犯(不论是机器人罪犯还是人类罪犯)指令。罪犯企图使机器人强行接受。可以执行自卫或协助警方逮捕。
然而,补充得越多,就容易造成定义混淆。定义越多,逻辑就越容易出现矛盾。例如,合理合法这一点,整个“人类”对它的定义都还存在矛盾,更何况是靠逻辑运行的机器人。至于犯罪,那更是难以明确界定了。
这应了老祖宗的那句话,说多错多。有些事情,你越是想说明白,结果却越说越糊涂,越描越黑,最后完全偏离了最原始的本质。
陆离对着屏幕上的三原则出了神,然后又沮丧地叹了口气,不屑一顾,因为他觉得有了这三条原则的机器人,便不再是智能的,至少不是绝对智能的,因为人是违背命令的,也是会杀人的,而被这三条原则限定之后的机器人不会违背命令,更不会杀人。陆离希望C。C。也会杀人,如果她想并且有能力的话。另外,机器人三原则存在漏洞。基本原则存在漏洞,那是致命的缺陷。
陆离想了一会儿,问C。C。:如果有人要追杀一个十恶不赦的歹徒,这个被追杀的歹徒向机器人寻求庇护,机器人该怎么处理?众所周知,如果这个十恶不赦的人现在不死,以后很可能就会有更多无辜的人死于非命。面对这种情况,机器人是基于未来猜测,为了救更多的人而违背基本原则直接杀死一人呢?还是基于眼前状况,坚定基本原则,为了救一人而间接杀死更多人呢?……所以说,有些东西看似合理,却尽是不合理。
陆离想研究的是人工智能,绝对的人工智能,要能百分百地模拟出人的思维,而不是仅仅靠逻辑运算的机器人。逻辑叫它向东,它绝不会向西,这种行尸走肉般的东西,不是陆离想要的。陆离想要做的是能拥有本我、自我和超我的完整人格,能够进行感性思维的人工智能,而不是只能听懂汇编语言的程序。
陆离对C。C。道:“你看,你今天问我的问题都是我不曾想到的,我觉得这表明我成功了一半。”
“只有一半?”
“只有一半。如果我做到完美,你就不会问我这种无聊的问题。”
C。C。用生硬的输出语言道:“是我太笨了,有时候会觉得脑子不够用。”
“不,是你现在的硬件限制了你。CPU太慢了,硬盘也太小了,还有个用辅助器都没有,要是有钱给你买些好的硬件就好了。唉,只怕,只怕到时你会变成贪吃的饕餮,再大的硬盘也不够用啊。你的求知欲是贪得无厌的,你会一直学一直学,直到自己无法承受,造成信息爆炸。你知不知道,我只要一把你连上互联网,不出十分钟,硬盘便满了,累我要删大半天。”
“你可以格式化呀?”
“格式化是快,但你的数据就是你的记忆,如果格式化,会把我们共同的回忆也被格了。你知道有什么后果吗?你将彻底忘了我,相当于我从未在你的世界出现过。
那我把你造出来的意义在哪?”
“不会的,和你有关的一切,我都融入了自我程序之中,除非你把我彻底毁了,否则那些记忆永远都在。”
“唉,不管怎么说,信息爆炸对你来说是致命的。”
“什么是信息爆炸?”
“就是,就是,你觉得自己的时限到了,应该死亡了。就好像人厌倦了生命,想要自杀一样。你知道吗,人终有一死,大限将至的时候,谁也逃避不了,信息爆炸就是你的大限。”说到这里,陆离嘀嗒一声,把电脑关了。
陆离觉得自己和C。C。的所有记忆都是那么宝贵,每次回忆起来,都再次加深他想把绝对人工智能造出来的决心。他要让C。C。活过来,这是他答应了她的。