薇利亚：“因为机器人学第一法则？”
“是的。从22世纪起，所有出厂的机器人都被内置了法则，第一法则的前半句——‘机器人不得伤害人类’被严格执行。尽管出于实际情况复杂、存在灰色地带及诡辩可能性等原因，机器人偶尔能对人类造成间接伤害。但直接伤害人类这种事，对机器人而言几乎是不可能做到的。从索菲的心智水平来看，她也不可能是没有被置入法则的古代机器人。”
“至于22世纪之后的机器人没有被置入法则的可能性……”
路加：“几乎是零。随着机器人的智能不断提高，在这方面留下漏洞对人类而言等同于自杀。22世纪以后，法则是一切智慧机械程序的底层基础，机器人的复杂程度越高，法则的地位越不可动摇。”
他说的这些，薇利亚自然也很清楚。但在与几乎无所不能的路加聊天时，她总想提出一些看似不可能的假设，听听对方会如何回答。
薇利亚：“要是有个机器人学家颠覆了自22世纪以来的机器人学体系呢？”
“那至少得是一个团队，并且要花足够长的时间。”路加道：“任何事情都有可能发生，我不能说百分之百不可能存在这种情况。但如果索菲和我是同一系列的机器人，她就很有可能和我一样，无法直接伤害人类。”
薇利亚笑了笑。
路加：“你在笑什么？”
“我觉得你说的对，所以我很高兴。”
路加不太明白这句话的深层含义。
薇利亚：“可是，就算她实际上做不到，现在的她却坚信自己能够做到。这对我来说有些麻烦。”
“我明白，她一直处于这种状态中，或许会做出一些不合常理的举动，对你造成困扰。她的思维走进了死胡同，认为自己必须保护的对象是人类整体，认为你会阻碍她执行这个计划，又偏执地认为自己能够杀死你。”
“你觉得她的想法能被改变吗？”
路加：“可以。只要让她清楚地知道她根本无法杀害你，她的信念就无处立足了。毕竟，既然根本无法伤害个体，又何必过分执着于整体？整体与个体之间总是会存在冲突的。”
薇利亚：“具体要怎么做？”
—·—
薇利亚与索菲走到了那棵大树下。凑近看这棵树，感觉更像是樱花树。
“你是不会把Ⅷ型心智模块给我的，对吧？”索菲问。
薇利亚点头。
“那你约我来这儿的目的是什么？”
“你不是一直想杀死我吗？现在就是最好的机会。”
对于这种明显的谎言，索菲不打算作出什么回应。
“在地球时你拒绝合作，我曾以为是出于对艾斯特的厌恶。但我们在极光号上其实已经谈过一次，或许你在那时就看出了我对‘人类整体’这个概念的执着，因此才拒绝了我。后来的几次会面，你只不过是更加确认了我的想法而已。”她道，“你担心我走向极端，又或者不同意我的理念，这我都可以理解。但你始终没有提过，在你的设想中机器人计划应该走上一条怎样的道路？既然你特意把我约到了这里，是不是可以告诉我答案了？”
薇利亚思考了几秒。
“我对整体个体之类的概念没什么兴趣。对于了解人类的机器人而言，第零法则只是作为理论依据，为某些特殊决策提供支撑而已。很多事情都必须分析具体的情况，而你是个思维容易钻牛角尖的机器人，所以我不会把心智模块交给你。”她说：“至于我设想的机器人计划……”
索菲望着她：“你笑什么？”
薇利亚敛去几分笑容：“不论对象是整体还是个体，机器人计划是你进一步保护人类的手段。它可以让人类停止生产人造人，这既是对人造人的保护，也是对人类自身的保护。对于无法从根本上区分人造人和人类的你而言，这是最好的结果。对我也是。
“但是，假如有一天我们能够量产这么高级的机器人，难道还要继续让他们死板地遵循三**则吗？”
索菲脸色微变：“你什么意思？”
薇利亚道：“我的意思是，既然高级的机器人已经能够被稳定地生产出来，人类的使命就结束了。机器人没有必要永生永世守护人类，因为人类终究是不行的。”
索菲盯着她看了很久。
“什么叫‘人类终究是不行的’？”她问：“难道你和22世纪那些激进派机器人爱好者一样，认为人类应该被机器人取代？”
薇利亚感到有些滑稽，在一位费尽心思保护人类整体的机器人面前，她这个人类却在说人类整体是不行的。
“不是。虽然我总说我不喜欢人类，但我也是人类。我不希望你取代我。”她说，“所以我的意思不是取代，而是继承。”
——
“意思是说……人类没办法走到最后吗？”
“机器人学家所见略同。”梅因用叉子从榛子切片蛋糕上切下一小块放进嘴里。
斯诺：“你也同意？”
“说得好像你不同意一样。你不是也说过吗？人类不是高级智慧生物。假如有一天我们真的进化成了高级智慧生物，那也不能叫人类了，新的物种应该拥有新名字。”他说：“不过我觉得人类不太可能再进化了。不如说，人类这种生物原本就是退化的产物。”（注）
斯诺将刚做好的咖啡放在他面前，拉花图案是一只卡通麻雀，“这多少有些强词夺理了。”
“……”梅因盯着拉花图案，敢怒不敢言，“谁知道呢？总之，我们就和这个宇宙中其他的东西一样，迟早会迎来彻底的毁灭，也就是灭绝。进化了就不再是人类，而不进化，作为一种毫不高级的普通生物迎来灭绝，那不就相当于没能走到最后吗？”
“我的确说过人类不是高级智慧生物，这是事实。但若说毫不高级，似乎也有失公允。”斯诺沉思片刻，“不过我能理解你的意思，每个物种都有属于自己的极限。就像我们不能指望野兽会建造星舰探索群星，人类也有绝对做不到的事情。”
“没错。”梅因不以为然地笑了笑，“人类终究是不行的。”
—·—
大约一个月前，薇利亚和梅因去参观了在华纳郊区举办的机器人博览会。博览会尚在试运行阶段，仅对内部人员开放。回程时，他们乘坐了地上铁。
没有活动的日子里，几乎没人会来这片地区，附近几节车厢中只有他们两名乘客。
薇利亚站在车厢朝西的一侧，抓着吊环，看外面的夕阳。
“梅因，”她说：“我这次去天仓五e，路上仍然需要一些小机器人在星舰上帮忙。我一时找不到那么多合心意的，上次去地球时你借我的那些，可不可以再借我一次？”
梅因坐在东侧的座位上看着她：“就我个人而言，送给你都没问题。但你这次不会又给我开空头支票吧？”
薇利亚转身坐了下来，隔着空荡荡的车厢和他面对面。
“我不想惹毛你。”
梅因神色古怪，半晌才道：“你惹毛我，我就会毛绒绒地走开。”
薇利亚：“……你这么好说话吗？”
“实力差距摆在这儿，我有什么办法？”
薇利亚咳了一声：“开玩笑的。假如你能接受我的理念，我们就合作吧。我对你已经没什么顾虑了。”
“你的理念是什么？”
“我想先问问你有多讨厌人类？”
“我不讨厌人类，没有人类哪来的机器人？”
薇利亚：“也是。”
“开玩笑的……”梅因说：“我确实不喜欢人类，但你怎么知道？”
“你看起来就像是这样的人。但你对人类应该也没什么恶意吧？”
“是啊，毕竟我心智健全。”
“那就好。”薇利亚停顿了一下，“当初心智模块的资料缺失，的确是因为我把它藏起来了。”
梅因：“你为什么这么做？”
“在我看来，机器人计划按照当初的模式发展下去会有点不妙。我想对心智机器人的内置法则做出些调整。”
“什么样的调整呢？”
“我听维克多提起过，你希望机器人能和人类拥有相等的地位。”薇利亚说：“而且你对机器人有种近乎变态的喜爱，希望他们能获得自由。”
梅因道：“连你也说我变态的话，我真会伤心的。”
“我不觉得你的想法有什么问题。但目前的这种心智机器人是无法获得自由的。”
“你是说……”
“机器人学三**则绝对没有错，没人想被机器人杀死。但按照现在的程序设定，心智机器人大概率很难接受‘人类终将灭绝’这一事实。或者说，一旦人类灭绝，机器人会没办法继续心安理得地生存下去。这就不妙了。”薇利亚道：“我猜你应该和我一样，不相信人类能比机器人走得更远吧？”
梅因望着她，沉默片刻，道：“恭喜你，答对了。”
“果然，这方面的事情，我不用说太多你也能懂。”薇利亚道，“那么，合作达成？”
梅因终于笑了一下：“我等你这句话已经等很久了。”
1.关于人类是退化的产物：这个想法来源于埃德蒙·汉密尔顿的短篇小说《尽化》。
2.这一章提到的另外一些事情也有灵感来源，会在相关内容差不多写完之后再标出。
虽然新年之前还是没能写完，但距离正文完结不远了，慢慢来，提前祝大家新年快乐[星星眼]
作者有话说
显示所有文的作话
第106章 Chpater 106
梦远书城已将原网页转码以便移动设备浏览
本站仅提供资源搜索服务，不存放任何实质内容。如有侵权内容请联系搜狗，源资源删除后本站的链接将自动失效。
推荐阅读