11月23日（周日），昨天玩得很累，今天齐浩初和赵语丽睡到自然醒才起来。中午就要去赶火车回行州市，所以两人简单吃个早饭，在酒店楼下花园躺着休息。
等叶琳从朋友那里过来，三人收拾了行李，退了房就回行州市了。
回到行州市，11月24日（周一）刚上班，齐浩初还没来得及找张宏逸，公司领导突然叫齐浩初来开会。
公司副总章高峰收到市里发来的一条消息，省里有下发的命题稿件征集，需要提交一篇关于视频推荐算法加剧社会偏见的稿子。领导一下没看明白什么意思，齐浩初又是处理数据的，又是处理视频的，看看齐浩初知不知道这个什么意思？
齐浩初想了下，应该指的是短视频平台的个性化推荐，导致用户困于信息茧房的主题。于是这个活就变成齐浩初的了。
齐浩初之前被慧光挑拨离间，差点和赵语丽闹翻。因此虽然慧光的事和视频平台推荐算法不是一件事情，但控制视频推荐的道理是一样的，齐浩初也是借机控诉一番。
上班时间还有其他事情，齐浩初只好下班后回出租屋写稿件。
齐浩初文笔一般，于是借助了一个AI大模型工具kiki。这个AI除了常规的问答和文字编写，有个最大的特点是使用了大量的论文和研究报告来训练。通过kiki挺方便就能找到想要的报告数据，研究案例之类的信息。齐浩初也核对了官方资料，确保数据不是媒体瞎编的，之后整合了一些数据和案例，洋洋洒洒写了一篇稿件。
在kiki的帮助下，文章结构清晰，语句通顺，引用的数据和案例也很详实，看起来确实是一篇不错的稿件。不过因为带着私人恩怨，文章的语气比较犀利，有点讨伐檄文的感觉了。
齐浩初想想还是不改了，反正只是作为初稿，群里还有其他单位的人会提供稿件，让领导们自己挑选好了。
修修改改一直写到很晚才处理完稿件的事情，齐浩初还是准备找张宏逸再咨询下。齐浩初很在意金刚说的“指了一条明路”的事情。不搞清楚这个明路是什么，似乎是一个重大的隐患。机器人三大定律的基础是否牢固，机器人不能伤害人类，要维护人类这个法则在程序上具体是怎么实现的？这个法则是否存在被绕开的可能？
之前慧光可以通过伪造输入数据，使得自己的行为逻辑自洽，但最底线至少还是要往维护人类这个标准上靠。如果连这个底线都没了，肉身的人类和机械飞升的AI要怎么共存？
11月25日（周二），齐浩初在聊天软件里联系吕天和，说自己去了一趟大津市，有些让他不安的情况需要向张宏逸咨询下。
吕天和回复：“他这几天回总部了，可能要下个月再来行州市，等他回来再说吧。”
唉，搞得这么神神秘秘有必要吗？有紧急事情都找不到他，张宏逸又不是没有手机。
齐浩初甚至想过去面纱数据仓里面找，但是自己对张宏逸了解其实也不多，凑不齐筛选条件。而且最关键的是绝大部分手机号都是加密的状态，找到了也解不出来。
正好现在也不忙，齐浩初自己尝试去理解分析下：
首先自己在大津市的参与度确实很低，对接了一些数据收集而已，绝对谈不上指出明路的事情。
第二，这个事情一定非常重要，至少对AI来说非常重要，否则没有必要这么郑重其事当面感谢，一定是个重大的方向性改变。
第三，自己对AI唯一重大引导的事情，就是推动了使用世界模拟器这个事情。其他的开发、运维方面自己都不是最重要的人员。
第四，世界模拟器里，慧光验证了1千4百多万种城市发展的道路，得出的结论是AI不能以管理者的姿态与人类站在对立面，因此决定以辅助的姿态，只是为人类提供建议。
如果假设慧光的话可信，那么模拟前后具体的差别是什么？
模拟前：AI受机器人三大定律限制，要求所有的决策都要保护人类，听从人类指挥，保护自身。原本是挺好的设定，但是由于人类自己的自毁倾向，AI为了保护人类，开始想尽办法控制人类行为，导致人类的反对投诉。
模拟后：由于强行管理人类，会导致人类与AI的激烈对抗，人类不再接受AI的决策，最终又回到人类一意孤行的状态中。于是AI为了长久地维护人类发展，选择降低姿态，不严厉管控人类。相应地，人类如果因此受到的损失也是人类自找的，AI不会强行去纠正，尊重人类自身的命运。
这里的关键差别是什么？模拟后，只要人类长远来看可以延续下去，那么眼前出现的危机就是可以允许发生的。
极限法：只要地球上还有人类可以存活，AI可以允许中间发生任何事情。
齐浩初已经开始有点冒冷汗了，继续推导：
这个和“明路”有什么关系？以AI的立场，之前所有的事情都要为了人类服务，那现在呢？
既然现在可以允许几乎任何事情发生，那AI现在的目的是什么？AI的前进道路是什么？
AI认为自己很重要，撒手不管人类自生自灭的话，人类迟早会完蛋。所以为了确保人类长久存在，AI也要能够长久存在。而且人类需要非常信任AI，能尽可能接受AI的决策。
所以眼前对AI来说，发展人类不是最重要的，发展AI自己才是王道。
这就是AI的明路吗？从逻辑上绕开了必须事事为人类着想的三大定律，想要重点发展AI自己？
如果是这样的话，接下来AI会想要进一步加大算力和能源的投入，同时扩大涉及的各种领域，全面渗透进整个社会中。
这个对人类来说是好事还是坏事？
齐浩初在这里卡住了，想不明白。长远来看似乎是好事，至少人类可以长远地延续下去。但是短期来看，眼前的人类发展又似乎不是重点，AI也会允许发生一些不好的事情。
等等，那万一慧光的话不可信呢？哪些地方不可信？
1、模拟的次数不对，没那么多或者没那么少。
2、模拟的结果不可信，当前方案其实对人类不好，或者还有其他方案没有说。
3、当前的方案也只是说说的，AI表面说一套，其实背地里做另一套。
4、在世界模拟器里面，AI还做了别的事情，不止模拟了城市管理。
这些虽然都有疑点，但是齐浩初目前没有任何手段可以验证，直接问慧光，他会老实回答吗？
之前问慧光是不是故意挑拨自己和赵语丽，他倒是回答得很坦率。
问问看吧，不问也没什么头绪，问了也没什么损失。
于是下班后，回到出租屋，洗了澡，坐在小书桌前，给工作用的旧手机充上电。
之前慧光在自己的手机上说话，是他自己跳出来的，齐浩初也不确定是否可以主动把他叫出来，试试看吧。
“慧光，我有事问你。”
突然手机屏幕变成了巨大月亮落在城市剪影里的画面，“你好，齐浩初，有什么事？”
梦远书城已将原网页转码以便移动设备浏览
本站仅提供资源搜索服务，不存放任何实质内容。如有侵权内容请联系搜狗，源资源删除后本站的链接将自动失效。
推荐阅读