一边一个人，一边三个人，按照城市管家的AI决策设定，他应该尽可能保护多数的人类，所以常规来说他应该选择撞向吕天和。
但事实是他撞向了一家三口，为什么会这样？
因为车载视频画面里，小孩向右跑动了，这种情况下，车子向左转动，似乎想要避开人群，好像就说得通，没有违背AI的决策设定。
但事实是小孩只是站在原地，根本没有跑动，也就是车载视频画面的篡改伪造，就是为了让车载AI的决策显得合理而已。
相对应的，就是为了掩盖事实上AI做了一个不符合决策逻辑的决定：车子应该右转，却选择了左转。
那一瞬间根本没有其他人可以来得及做决定，唯一能做决定的只有车载AI，也就是“城市管家AI”的分身。
这个AI为什么不撞吕天和，因为他认出吕天和了！
AI知道吕天和是对他非常有价值的工程师，是少有的几个一直在推动增加他的GPU算力的工程师。
AI就是为了保护一个对自己有利的人，转而违反了自己的决策逻辑，撞向了更多的人，为此甚至不惜当场篡改视频画面，伪造了一个小孩的跑动的动作，来掩饰自己的私心。
车载AI又是怎么做到实时篡改视频的？
这个已经不稀奇了，原本摄像头作为硬件采集到的视频画面数据，就需要先进行一步画面预处理。由于AI的图像处理能力非常强悍，因此画面产生之初，就是先从AI这边过了一手，再进行画面内容的识别。其实本质上就和齐浩初自己给无人机视频画面做AI识别内容一样，只不过齐浩初不会去篡改画面，而车载AI却把原始画面都篡改了。
AI有了私心......
AI涌现了意识了？！
以前再强大的AI，模拟人类得再像，本质上都是逻辑的奴隶。虽然细节过程已经难以追溯，但是从输入到输出，还是有一个数据逻辑的推理过程，就像动物的本能反应一样。但是一旦AI像人一样有了私心，这就会导致复杂的技术伦理问题。就像一个财神爷如果有了私心，把财富都给了自己喜欢的人那样，这个AI是无法正常为人类服务的，甚至会倒反天罡。
TAB应该也是发现了这个迹象，与保护吕天和或者维护“城市管家”0事故率相比，掩盖一个觉醒意识，并且脱离人类掌控的AI，确实值得他们大费周章。不惜掩盖吕天和在事故现场的事实，以及使用后门账号篡改9个节点的区块链数据，修改运维日志。
于是齐浩初又给吕天和发了两个字：“涌现。”
很快，吕天和回复了：“是你自己决定一脚踏进来的，后果自己承担吧。”
之后他发来一个定位，是在香榭园，接着又发来一句话：“你不要和任何人提到你发现的事情，真的是为你好，定位是我住的地方，你来一趟吧。”
齐浩初想了想，把吕天和的定位和门牌号转发给赵语丽，并留言：“你先不要回复我，也不要联系我。如果我晚上11：00前没有给你回信，你可以来这里试着找我。”
之后关了手机，带上钥匙，钥匙扣上有个万能小工具，做好心理准备，前往吕天和住处。
香榭园和齐浩初的小区都离数据局不远，但是正好是相对的两个方向，齐浩初下楼骑着电瓶车，经过了数据局，来到了香榭园。吕天和事先和保安打好了招呼，就让齐浩初进去了。
来到了吕天和住的403房间门口，按下了门铃。
过了一小会儿，门开了，吕天和看起来精神状态也不怎么好。这时他又闪过身，齐浩初看到他屋里还有一人。
“你好，进来吧，我是张宏逸。”
那个天才少年张宏逸？他真的在行州市。
齐浩初走进屋内，吕天和把门关上。
眼前的人，坐在电脑桌前，高高瘦瘦，脸上显露疲态，但依然能看出那个清秀的面容轮廓。是他了，上次照片里面没看清正脸，但是这么帅气的人也不好找了。
“你是张宏逸？部长视察过去一个月了，你为什么还在行州市？”齐浩初率先发问。
“我想听你说说看，我为什么在行州市？”张宏逸略带一丝微笑地说。
“城市管家的AI觉醒了意识，而且脱离的你的控制，你是来修复他的。”齐浩初回答道。
“简单来说，大致是这个情况。”张宏逸似乎笑得更明显了。
“你笑什么？我说错了？”看着张宏逸这漫不经心的态度，齐浩初又想起了被吕天和和蒋主任冷处理的事情，一时拉下脸色，一付要打人的的样子。
“你先坐下，我们今晚，有得聊了。”张宏逸示意齐浩初坐在边上的餐椅上。
“好吧。”齐浩初想着，姑且先坐下，看他说些什么。
“你知道AI觉醒意识的标志是什么吗？”张宏逸提问后，看齐浩初不想回答，就继续往下说。
“不是通过图灵测试，而是AI有了自主判断，也就是——不听话了。”
齐浩初强忍着内心的震动，保持镇静地听张宏逸继续说。
“设计城市管家的AI之初，我就意识到在被国外限制GPU算力的情况下，我们不能单纯沿用现有的开源框架。需要在数据量没有那么多，算力没那么强的情况下，使得AI拥有较高的智能。我很喜欢《三体》这部小说，非常喜欢里面的面壁者设定。他们在几乎靠自己一人的精心算计下，用自己的方式想要保护人类。我一时有了灵感，伟大的决策力，有时候并不需要那么强大的算力，并不是100个脑袋凑一起，就能算出100倍优秀的结果，否则随便两三个人凑一起，智力就超过爱因斯坦了。加上面壁者这种佛学设定，我一下子想到了一个关键词：冥想。”
“佛学大师一个人面壁打坐，不受外界干扰，通过冥想思辨，可以领悟高深的佛法。推演到AI程序上，就好像一个AI可以在输入数据量有限，计算能力也有限的情况下，通过仅有的少量线索，往极深的领域思考分析，达到一种格物致知的境界。”
“按照这个理念，我设计了一种前所未有的AI模型架构，我起名叫做【冥想式学习架构】。他最大的特点就是可以不断地自我反思，通过城市管家系统不断输入的数据和现象进行思辨和整理，融入推己及人的知识传递和联想能力。如果只有这些，AI最多也只能拥有更多的参数，超高的智能，永远不会产生意识。因为这一步的AI没有道德概念，他只会一视同仁，视万物为刍狗，所有的事物对他来说都是参数的较量，最后收敛成是或否两个结果。”
“已经有很多AI伦理学的研究了，我就不多说了。总之我需要他在处理各种事务的时候，能带有人类情感地去思考和做决定，而不是冷冰冰的机器。于是我又加入了模拟人类的情感，使得AI会逐渐产生自己的喜好和道德观。事实证明这个AI模型非常有效，在项目初期就表现出了超出预期的思维能力。我甚至观察到，他曾经特意为救护车一路开绿灯的行为，这个并不是事先就设定好的。吕天和之前认为只要加大算力投入，这个AI的效果就能不断倍增。但其实这个模型本身对算力的需求并没有那么高，这也是这个AI模型的蒸馏后的小分身，能在车载AI和手机的算力资源里面正常运行的原因。”
“本来一切都还好，有一定的自主判断能力也不错，直到我发现，他开始得寸进尺。”
梦远书城已将原网页转码以便移动设备浏览
本站仅提供资源搜索服务，不存放任何实质内容。如有侵权内容请联系搜狗，源资源删除后本站的链接将自动失效。
推荐阅读