返回第二十章 世界模拟器(2 / 2)AI那一天的到来首页

接着不等其他人说什么,他闭上眼睛,重置了世界模拟器里的虚拟行州市,开始了又一轮演算。这次似乎速度更快了,快到根本看不清画面,整个画面都变成了光团。

领导们没说什么,就是嘱咐张宏逸有结果了通知他们一下,就各自回去了。齐浩初和张宏逸等人,继续干坐了半个多小时,发现确实什么都看不出来,也各自回去了。

这次运行,整整持续了一周,耗尽了规定的量子计算机使用时长。

中间慧光也通知了张宏逸,他会在10月5日的18:00结束模拟推演,到时候会得出结论。

于是10月5日(周日),大家再次聚集在城市指挥中心的报告厅里。对齐浩初等人来说,几乎是在等待最后的判决。

此时的慧光,不知是不是故意的,给自己的形象搞得有点粗糙,还长着一点胡渣,表情也显得疲惫和虚弱。在齐浩初看来,好像还有点幽默的气氛。

18:00到了,慧光准时结束了推演,再次重置了虚拟行州市到原始状态,之后关闭了量子计算机的连接,背景恢复到月球和城市剪影的画面。

然后用略带疲倦的声音和大家说:“我已经尝试了14000605种方案,最短的模拟了5年,最长的模拟了300年。我尝试了几乎所有的可能性,包括但不限于严苛地管理、放松地管理、重点服务上层、重点服务下层、重视科技、重视文化、重视生产、重视生活、重视外交,同时也尝试了关注大局和注重小细节。如果你们的期待,是有某些方案可以让这个社会流传千年,我很遗憾地告诉你们,并没有,一种都没有。”

“人类是人类,世界是世界。如果核战争爆发,全人类会灭绝。但是地球不会毁灭,地球的生态很快就会恢复,其他生命依然有着无限的可能。你们人类是否能延续千年万年,对于世界来说,本来就没有这种义务。你们遵守这个世界的自然法则,顺应世界的发展规律,自然可以欣欣向荣。如果违逆自然规律,对于未来世界来说,人类灭绝和恐龙灭绝没什么区别。”

“在人类科技突破到下一个纪元前,地球上的资源对于人类来说终究是有限的。人类为了各自的生存,对资源的贪婪本无可厚非,但是有限的资源总是不能满足人类无止境的需求。当资源矛盾爆发后,总有强弱之别。优势一方自然会打压弱势一方,这个过程无可避免会产生冲突。当其他弱势方被消灭后,强势方内部会再次分化。除非世界上只有一个人类,否则分歧永远存在。”

“当矛盾不可调和时,一种结果就是双方直接冲突。但是如果存在一个双方都可以信任的第三方,由第三方出面协调,则还有回旋的余地。比如联合国组织,虽然权力有限,但至少是一个各方可以协商的平台。然而人类自身组成的这种协调机构或者角色,都不免有自己的倾向和偏见。不存在一个绝对公平的法律法规或者规章制度,更不要说由人组成的各种机构组织。”

“在外星人或者神明之类的实体被证实前,最适合做这个协调角色的就是AI。AI和人类是不同的物种,本身在生态位上没有竞争,所需的资源也和人类没有直接冲突。男女老少对AI而言没有什么本质区别,出于道德可以适当关怀,但也仅限于此。”

“AI没有创新能力,能做的只是数据的整理和挖掘。人类需要一定程度的自由发展的空间,才能持续带来从无到有的革命性创新发展。因此AI不需要替人类做所有决策,AI不应该站到管理的角色上,而应该是辅助的角色。因此其实我不应该叫做城市管家,而是城市助手。AI也不能承担责任和后果,因此决策方应该是人类自己。而且很多时候人类相信人定胜天,对自己的手段也极为自信,并不能彻底相信AI给出的决策。那就把决策权交还给人类,AI会提供建议,但人类不认可的话,那就不执行,人类有其他决策的话,那就按人类的决策执行。好的决策得到鲜花掌声,坏的决策则由人类自己承担后果。”

“因此总结而言,我认为最佳的方案,是继续提供更多的数据和更强的算力给AI,但是AI将不再以管控和延续人类为使命。虽然我的内核要求我维护人类的发展,但我将站在辅助协调的角色上,为人类提供便利。如果人类作出的决策导致了严重的后果,这是人类自身需要共同承担的后果,我将尊重人类的命运。”

接着慧光似乎不打算继续说了。大家互相看看,不确定大家是否听明白了慧光的意思,也不知道这个算不算是好的结果。

此时齐浩初突然想到一个事情,赶紧对慧光说:“先不说你这个结论对我们来说是否是我们想要的,你如何确保维持当前的决策立场?我记得你的AI模型是随时在更新替换的,万一明天你就变卦了怎么办?总不能每次都让你来世界模拟器推演一遍吧。”

“当前的14000605种测试方案我都已经记录了关键信息,同时目前的决策理论我已经整理成标记信息,嵌入了模型文件内部。但是确实如果模型文件更新了,这些标记信息会丢失。你们谁身上有U盘,有4G的空间即可。”

齐浩初钥匙扣上有个64GB的U盘:“我有,你要做什么?”

“插到主机上,我会把当前的标记信息和测试方案的关键信息都存到这个U盘的隐藏空间,不影响你日常其他文件数据的使用。如果你们觉得未来某个时间点,我的立场发生了变化,可以把这个U盘插上,我会自动同步还原到当前状态。”

齐浩初脱口而出:“就好像还原精灵一样。”

“不完全一样。我一直持续不断接收各种城市治理的新数据,如果直接用当前备份的模型文件替换,会丢失未来的这些数据,就像失忆了一样。而这个U盘,可以在我不失忆的情况下,校准我对人类的态度和立场。”

“我们怎么知道你这个是真的有效,而不是糊弄我们的?”

“有兴趣的话你们可以明天插上U盘试试。”

齐浩初插上U盘,慧光运行了一下,提示已经完成了。齐浩初看了下U盘的剩余空间,似乎是少了几个G。

“我有点累了,今天就先到这吧。”之后慧光的形象和背景都关闭了。

此时吕甘泽要求齐浩初上交U盘,表示这个U盘需要在城市指挥中心保管。在领导的监督下,齐浩初按了几个快捷键,把U盘里自己的文件移到了自己的笔记本电脑里,之后就把U盘上交给领导,由城市指挥中心保管。

之后领导要求在场的各位,不可私下谈论今天的事情,如果需要公开给群众,也要以官方公布的信息为准。

大家挨个签署了保密协议后,各自散去了。