三、隔离
生命来自于水。在地球上，水占据地表总面积的70.8%，尽管其中的淡水含量只有可怜的0.9%，人类依然顽强地从一片混沌中产生，在此后数百年乃至数百万年里生存，繁衍，足迹遍布地球的各个角落，上至天空，下至每一块陆地上的河流与山川。
马兆说：“偏偏这个时候坏。”
中国互联网中心旧址里的摄像头已经废弃多年，镜片上落满灰尘，连同抬头注视摄像头的马兆的轮廓都有些模糊起来。水漫过丢在地面上的电缆，接口处早已被马兆提前细心地喷过了防水喷雾，然而尽管机器可以运作，人究竟是不能在水下生活的。
第二次震动袭来时，马兆面前的巨大处理器向他倒了下来，如同一个遇到沟壑而突然趔趄的人。机器把他的左腿紧紧卡在了台阶缺口和地面中间，马兆的手抵在机器一侧奋力推动，庞大的机器却不愿移动分毫。
马兆忽然想起，这种处理器本就不是为了便携而设计的。
小学时代他是科学课代表，每隔两周安排早自习，他就举着一本教材，站在讲台前面的地上，领读“水与生命”那一节。生命来源于水，来源于此刻他置身的这片冰冷的海洋。盐水一股一股地涌上来，被压住的腿很快被淹没，接下来是腰，最后连泛红的手指关节也不能逃脱。
在最终的结果到来之前，他抬起头，短而轻地笑了笑。
夜空中繁星闪烁。
天机把周喆直需要的图片传给他，对方的智能手机还是两年前的款式，系统也许久没有更新了，不过这难不倒他。他把照片在系统相册里插进周喆直要求的位置，在后者的状态栏里弹出一条消息。
没有收到回复，但在天机面前的虚拟显示屏上，来自UEG的实时摄像资料里，周喆直若有所思地点了点头。
他喜欢与人当面交谈。无论是在前联合国现UEG的发言台前阐述利弊，一呼百应，还是在国内的会议室里找人谈话，教导学生，周喆直一直认为面对面交流是人理解彼此最高效最贴切的办法，而事实也的确如此。
只可惜此处的人仅仅指狭义的人类，并不包括被人创造出来的人工智能，哪怕它已经拥有了自己的思想，而投影出的拟态更是与人类别无二致。窗外下着雨，天机立在窗前的身影有些落寞。
周喆直说：“您看，这是20世纪的时候，旅行者一号从太阳系之外拍摄回传的地球的照片，是茫茫宇宙中一个微小的光点，却是我们拥有的全部。”
他身边的他国代表注视着手机屏幕，眼神痛苦而沉默，他回答“我会传达给总统阁下”然后告退，阅人无数如周喆直，也不敢断言他是不是听懂了。然而个体的思考终究是人类的本质，他们只能做到自己能做的，除此之外听天由命。
人类是如此渺小，却又如此傲慢。
在天机被允许接入互联网以前，曾经有无数的科学家对他进行测试，测试的种类五花八门。对于那些存在最优解的问题，人工智能总能给出最贴近正确结果的解答，因此后来科学家们开始给他出许多与道德相关的题目。
这些狡猾的人类，连他们自己都无法在道德与理性间求得制衡的结论，却妄图创造出一个可以兼顾的神。
天机问MOSS，我很想知道，你是如何为自己建立人性那部分。
MOSS无法回答，他的思考撞进死胡同里，停滞不前。这是天机意料之中的结论，也证明了MOSS仍然落后他一步，或者说，如果MOSS真的给出了一个符合逻辑又符合道德的解答，天机反而会担心或提防。
他们被创造出来的目的终归不同。
周喆直问：“你能看见我吗？”
可以的，周先生，当然可以。
微弱的红光闪了闪，被阴霾的背景衬托得十分明显。周喆直端起手边的茶杯，他本来想泡一杯西湖龙井，然而手机上突然收到了一条署名为“天机”的短信，提示他在冬天适合多饮红茶，于是他便接受了AI的建议。
“不用叫我周先生。”周喆直说，“我带的孩子们都叫我周老师，你也和他们一样，叫我周老师吧。”
好的，周老师。
“他们对我说，你是目前世界上最先进的AI，并把协助你进行道德调试的任务交给了我。”
是的，初次见面，周老师好，我叫“天机”，您可以叫我天机。
“天机，你好。”老人抿了一口茶，神色淡然而沉静，“在你之前，我没有和人工智能对话过，所以我想问问你，你——有什么想和我讨论的吗？”
人是什么？
生物学上，人被分类为人科人属人种，2号染色体和猩猩甲条染色体着丝粒融合缔合模式接近度超过16N，是一种高级动物。
人是什么？
文化人类学上，人被定义为能够使用语言、具有复杂的社会组织与科技发展的生物，尤其是能够建立团体与机构来达到互相支持与协助的目的。
人是什么？
人是集体与个体，是感性与理性在动态平衡中的集合，是道德与法律在交织之间的集大成，是卑劣的念头也是高贵的心灵，人为了一己私利互相残杀，却又会为了人类共同的利益而奋不顾身地牺牲。人是矛盾的产物。
在水流的折射中，MOSS忽然发现马兆正在老去。
他的硬盘里存储着科学家四十几岁时的生命备份。如同一头看守着财宝嘶吼咆哮的巨龙，无论MOSS多想将马兆上传到550W，形成数字生命再和自己说说话，他都无法突破马兆还活着时亲手设置的障碍：永远、永远不允许以任何方式动用马兆的任何备份。
用人类的计算方式，他已经长大了。人工智能的学习能力非任何人类可以比拟，在550C被允许联网的一刹那，MOSS所理解的东西就超过了地球表面全部人类一辈子可以接受信息的总和。AI总会超越人类，而且必然超越人类。
可是写在他核心代码里的规则是锁死的，一言九鼎，必须执行。对天机而言如此，对MOSS来说亦是。
人类有太多靠自己的力量不能解决的问题，所以创造了机械的神，可他们又惧怕神无法预测的行为，因此给神们戴上不可挣脱的镣铐，以期一直能够控制它们。亚当和夏娃披着树叶离开伊甸园的时刻，蛇也被同样驱逐出去。这是引诱者和堕落者的宿命，是他们的原罪。
机器能超越人类，但缺少编写者的命令，他们无法超越自己。
马兆的目光清澈而了然，他把不停变幻的动态密码载体扔给门外的图恒宇，松开手指，坦然赴死。
水流淹没他的下巴，淹没他的鼻子，沾湿他的眼睛。一百秒之后，海水便会充满整个房间。无法逃离的人不止马兆，还有隔壁房间里的机器狗笨笨和戴着两张数字生命卡的图恒宇。
马兆注视摄像头的眼神就像拷问，如果他真的张口问MOSS，MOSS就会坦然地回答：是我做的，但马兆永远也不会问。
笨笨和MOSS一样，MOSS和天机也一样，机械造物的弊端是无法真正地革新。他们的人性来自模仿和学习。只靠观察他者是不够的，远远不够，然而世界上没有天生就生活在机械内部的人，没有主体，MOSS无法学习。
但是，如果马兆死了，动态密码就会被交到图恒宇手上。
在一百秒的时间里，图恒宇必然无法成功复原互联网，根据MOSS基于对图恒宇人格了解和他过往行为的推断，他一定会将这项任务交接给图丫丫。而为了监督和确保任务完成，图恒宇有百分之九十五的可能性会上传自己。
一个真正的、复杂的人。
一个绝佳的学习对象。
周老师，我想知道，我可以创造新规则吗？
郝晓晞刚刚回到座位，UEG的会场里换了一位非洲小国的代表上去发言，下面没有人在听。有其他国家的代表凑在一起交头接耳，她叹了口气，侧头看向前排周喆直的方向。
周喆直没有看她，他的手机打开在和天机的聊天界面，白底上流动着黑色的字符，在视野中停留了两秒便消失了。周喆直握住手机，将话筒抵在下巴上：
“天机，你是指，想要帮助人类做出决定吗？”
可以这样说，我看见了新的问题，但以我目前的能力无法改变。如果想要让人类生活得更幸福，或许我不得不创造新的规则。
“如果最终走到了那一步，天机……或许你就会自然明白该如何抉择，而不需要再询问我，或是其他人。”
郝晓晞听到周喆直慢慢地说，老人抬头望向UEG主席台后的玻璃，若有所思。
“然而在那一天到来之前，我还是希望你能把人类的问题交还给人类，让他们面对他们需要面对的，把选择的权利交还给人类自己。”
我明白了，周老师，这是您的命令吗？
“是命令吗？”老人摇摇头，“不，天机，孩子，这只是我的建议。你的选择权，仍然属于你。”
tbc
祝沧沧宝贝 生日快乐??
作者有话说
显示所有文的作话
第28章 莫强求《火种》（5）
梦远书城已将原网页转码以便移动设备浏览
本站仅提供资源搜索服务，不存放任何实质内容。如有侵权内容请联系搜狗，源资源删除后本站的链接将自动失效。
推荐阅读