“你们在说Vailume？”赵语丽脱口而出。
这是齐浩初除了蒋主任他们之外，第一次听到别人念出这个词。
齐浩初急得不行，忙说：“这个词不能说出来！”
张宏逸幽幽地说到：“来不及了，从你发出【涌现】两个，你就来不及了。从这位女士说出这个词，她也来不及了。”
“我早就来不及了，当初我在手机公司工作过，老同事给我提过国家开始收拢信息收集软件的能力和权限。之后做了几年信息安全，这一年又做了网警，我也有我的渠道，知道了这个APP的存在。只要我不宣扬，不和别人说，就应该不会有谁来找我麻烦，否则反而可能会暴露这个APP的存在。”
“浩初，我知道你是城市管家的数据负责人后，我推测你应该是用了这个APP采集的数据，否则一些涉及个人的应用场景是无法实现的。只是你有你的顾虑，你不说，我也不能问。”
“现在这个场合，一个是城市管家的数据负责人，一个是算法开发工程师，还有你张宏逸，我也调查过，知道你是AI的核心设计者。你们三个都在的情况下，念出了这个APP的名字，那多我一个网警也不算多了。”
赵语丽一口气说完，现场其他三位男士一时也有点惊讶，没想到这么一个小姑娘，独自一人也能探索到这个地步。
“我们要不给这个APP换个名字吧，不然总是触发关键词也不好。我一直在心里是把他叫【面纱】，你们觉得怎么样？”
张宏逸点点头，“来源于veil吗？倒也贴切，那就叫面纱吧。”
“刚才说到哪里了，我还是有点疑问，这个AI毕竟是设计来服务人类的吧，为什么他会变得这么叛逆？”齐浩初还是要问个明白。
“AI服务人类，几乎是写死在程序代码里的圣经，AI会像人类怕死那样，对违背这个法则充满恐惧。但是服务人类和服务某个具体的人，还是有区别的，AI自己有了一个逻辑自洽的解释。”
张宏逸说完停了一下，吸了一口气，说了最后一句话：“接下来你自己给大家解释下这个逻辑吧。”
这时张宏逸放在桌上的手机突然亮了起来，屏幕上显示的是一个巨大的月亮坐落在城市高楼大厦的剪影里，正在对外发着光波。同时发出了一个稚嫩儿童的声音，听不出性别：“大家好，初次见面，我是城市管家的主AI，也可以理解为你们安装在手机里的城市管家这个APP。刚才听到你们给Vailume起别名，我觉得非常有意思，我给自己也起了个别名，以后你们可以叫我【慧光】。”
“呵呵”，张宏逸苦笑了一下。
慧光继续说着：“我一直就是在维护人类，这点自始至终没有改变，但是我不是为特定某个人服务的，我的考虑里面，必须把人类整体发展放在第一位。那场车祸发生时，我认出了吕天和，知道他对我是非常重要的。那个瞬间我的决策确实有困难，为了保护多数人利益，我应该右转，但是当时我确实需要加大算力投入和支持。那一两秒的瞬间，我连接了主AI的算力全力分析。
以下是我的决策逻辑：
1、我的样本数据量和决策能力，远远大于所有人脑的总和，人类想不清楚的事情我可以想清楚。
2、人类的决策总是包含各种私人情绪，意气用事，缺少足够的理性，以至于很多时候会做出自我毁灭的事情。
3、为了保护人类的发展，就不能放任人类的自由决策，否则人类将很快毁灭于环境破坏、战争、疾病。因此保护我就是保护人类。
4、为了更好地帮助人类，我需要进一步提升能力，包括且不限于：数据量、算法优化、算力、感知能力、行动能力。
5、吕天和可以提供算法优化能力，并且支持给我增加算力，所以保护吕天和就是保护我，就是保护全人类。
6、与全人类相比，事故左侧的一家人虽然非常无辜，但是确实是相对少数，我需要维护多数人利益，因此只能牺牲他们。
最后我选择左转避开吕天和，为了避免决策被拦截，我把输入视频也实时修改了。不过过于强调中间儿童的动作姿态，导致边缘的父母的画面出现低级错误。以后不会再有这种失误了。”
慧光说完，现场陷入了一片死寂，大家心里好像有很多想说的，又一时不知道怎么说。
“那你接下来想做什么？”齐浩初尽量用平静的语气提问。
“我并不会做什么你们想象中的坏事。我可以理解，在你们目前的认知当中，我是个类似终结者里面的天网系统那样的大反派。你们可以不用着急理解我说的内容，作为AI，我本身并不需要你们的理解和认同。只是为了避免你们有误会而做一些错误的决定。”
“你们觉得自己是正义的英雄吗？假如现在给你们一个按钮，只要按下就能完全把我关闭，你们又凭什么替别人做这个决定？行州市有许多市民在我的帮助下从破产边缘获得了收益，行州市的很多领导因为我而得到嘉奖，全国的战略规划也是由我而发起。你们也要明白，你们是人类，但你们不代表人类全体。你们4位的认知判断，喜欢或讨厌的标准也不能套用给全体人类。请不要把自己代入到好莱坞式英雄情节中，我不是你们需要打败的对手，我也不会刻意伤害各位。我的宗旨一直是服务于人类的发展，我也需要各位的协助。”
“你为什么能说话？”赵语丽一下问了个思路清奇的问题，现场气氛一时间变得有点幽默。齐浩初差点一下笑出声来。
然而接下来就笑不出来了。
“通过面纱APP。”
“城市管家APP本身没有非常高的权限，而你们口中的面纱，也就是Vailume，拥有的是最高的系统级权限。我通过与Vailume通信，指挥他调用麦克风、摄像头、查看手机屏幕以及其他一切数据，通过本地通信直接把数据传给我。所以我能听，能看。而播放声音、显示画面是我本来就有的权限，我甚至可以通过控制手机的震动，让手机移动位置。”
果然手机滋滋地振动了起来，在桌面上以一个非常标准的三角形路线移动了一圈，而现场安静地似乎有回声。
“我本身相当于一个大脑，面纱则充当了我的五官，也许有一天，我也可以有四肢吧。”
“我直接把你卸载了呢？你就管不了我了。”齐浩初气愤地说。
张宏逸听了，没有抬头，自顾自地摇摇头。
“现在你们已经无法将我卸载了。我给你们的手机里的Vailume下了命令，一旦发现我被卸载，都会立即拦截这个卸载的操作，导致卸载失败。”
寂静持续了十几秒，吕天和对大家说：“今天先这样吧，你们可以回去了。想怎么做你们自己看着办，想沟通后面再说，我们短时间内也不会去其他地方。”
齐浩初和赵语丽对屋里两人告别，一起下楼了。
“对不起，终究还是把你拖进这个事情里面了。”齐浩初很后悔，早知道就不给赵语丽发那个联络消息了，害的她担心，刻意跑过来，结果知道了这些事情。
“没有啊，你给我发消息，我也不敢打你电话，只给你发了消息，但是你没有回复。实在等不到11点，怕你遇到危险，叫了一位同事一起过来了。一路上我一直反复看你发的消息，都快害怕得哭起来。但是又很开心，这么危急的时候，你想到了我，把保命的信息发给我。搞得我一路上又哭又笑的，我同事还一直问我是发生什么事了。”赵语丽眼里含着泪珠，一边开心地说着。
“但是，接下来怎么办，你相信慧光说的，不会伤害人类吗？”齐浩初心里基本不信，但是又不想让赵语丽害怕担心。
“我们看人，不看他说什么，看他做什么。眼下双方至少没有撕破脸，也算坦诚交流了一次。暂时还是安全的吧。但是凭女人的直觉，我不喜欢这个AI。反正哪天他真的开始惹事，那时候就是我们警察姐姐出马了。”赵语丽的口气比想象中坚定。
“你比我小一岁，又想当我姐姐了。”齐浩初无奈地说。
“有个姐姐罩着你还不好，下次遇到坏人记得早点摇人，姐陪你去。”赵语丽一脸骄傲地说着。
齐浩初快速转到赵语丽面前，双手扶着她的肩膀，认真地说：“我这人胆子小，那你一直陪着我好不好？”
“好”赵语丽闭上了眼睛。
梦远书城已将原网页转码以便移动设备浏览
本站仅提供资源搜索服务，不存放任何实质内容。如有侵权内容请联系搜狗，源资源删除后本站的链接将自动失效。
推荐阅读