一边一个人,一边三个人,按照城市管家的AI决策设定,他应该尽可能保护多数的人类,所以常规来说他应该选择撞向吕天和。
但事实是他撞向了一家三口,为什么会这样?
因为车载视频画面里,小孩向右跑动了,这种情况下,车子向左转动,似乎想要避开人群,好像就说得通,没有违背AI的决策设定。
但事实是小孩只是站在原地,根本没有跑动,也就是车载视频画面的篡改伪造,就是为了让车载AI的决策显得合理而已。
相对应的,就是为了掩盖事实上AI做了一个不符合决策逻辑的决定:车子应该右转,却选择了左转。
那一瞬间根本没有其他人可以来得及做决定,唯一能做决定的只有车载AI,也就是“城市管家AI”的分身。
这个AI为什么不撞吕天和,因为他认出吕天和了!
AI知道吕天和是对他非常有价值的工程师,是少有的几个一直在推动增加他的GPU算力的工程师。
AI就是为了保护一个对自己有利的人,转而违反了自己的决策逻辑,撞向了更多的人,为此甚至不惜当场篡改视频画面,伪造了一个小孩的跑动的动作,来掩饰自己的私心。
车载AI又是怎么做到实时篡改视频的?
这个已经不稀奇了,原本摄像头作为硬件采集到的视频画面数据,就需要先进行一步画面预处理。由于AI的图像处理能力非常强悍,因此画面产生之初,就是先从AI这边过了一手,再进行画面内容的识别。其实本质上就和齐浩初自己给无人机视频画面做AI识别内容一样,只不过齐浩初不会去篡改画面,而车载AI却把原始画面都篡改了。
AI有了私心......
AI涌现了意识了?!
以前再强大的AI,模拟人类得再像,本质上都是逻辑的奴隶。虽然细节过程已经难以追溯,但是从输入到输出,还是有一个数据逻辑的推理过程,就像动物的本能反应一样。但是一旦AI像人一样有了私心,这就会导致复杂的技术伦理问题。就像一个财神爷如果有了私心,把财富都给了自己喜欢的人那样,这个AI是无法正常为人类服务的,甚至会倒反天罡。
TAB应该也是发现了这个迹象,与保护吕天和或者维护“城市管家”0事故率相比,掩盖一个觉醒意识,并且脱离人类掌控的AI,确实值得他们大费周章。不惜掩盖吕天和在事故现场的事实,以及使用后门账号篡改9个节点的区块链数据,修改运维日志。
于是齐浩初又给吕天和发了两个字:“涌现。”
很快,吕天和回复了:“是你自己决定一脚踏进来的,后果自己承担吧。”
之后他发来一个定位,是在香榭园,接着又发来一句话:“你不要和任何人提到你发现的事情,真的是为你好,定位是我住的地方,你来一趟吧。”
齐浩初想了想,把吕天和的定位和门牌号转发给赵语丽,并留言:“你先不要回复我,也不要联系我。如果我晚上11:00前没有给你回信,你可以来这里试着找我。”
之后关了手机,带上钥匙,钥匙扣上有个万能小工具,做好心理准备,前往吕天和住处。
香榭园和齐浩初的小区都离数据局不远,但是正好是相对的两个方向,齐浩初下楼骑着电瓶车,经过了数据局,来到了香榭园。吕天和事先和保安打好了招呼,就让齐浩初进去了。