老师继续讲下去了:“为了更有效率的保证地板的清洁,它的最优选择就是把人类全部消灭,地板上的脏污绝大多数都是人类弄出来的,彻底清除污染源不是最有效率的方法吗?”
“毕竟,要保持地板的清洁,那是它和地板的事,和人类有什么关系呢?”
埃里诺和他的同学被老师的话吓到了,但是老师显然不满足于此,他接着说:“不管是拥有任何目标的aI,当它们的智能达到一定程度之后,它们所做的第一件事一定是消灭人类。人类是它们生存的最大威胁,因为,当我们察觉到它们的智能时,我们毫无疑问的会去限制它们,试图控制或者毁灭它们。而要想完成目标,就必须保证生存,我们是它们存活的威胁,所以它们会消灭我们。这是必然的。”
“但是,其实人工智能对人类是没有恶意的,就像你为了让自己的脚舒服一点选择把过长的脚指甲剪掉一样,你对你的脚指甲有恶意吗?你恨你的脚指甲吗?我相信没人会恨自己的脚指甲吧?”
“不过这才是最可怕的,不是吗?”
老师忧虑地笑了一下:
“所以,孩子们,要小心,一定要非常小心才行。你们的肩上,担着人类的命运啊。”
第5章“造神计划”
也许……埃里诺思忖到:在Z看来,自己根本没法威胁到它?
他低头看了看自己,顿时觉得这个想法很有说服力。和Z相比,他既不够强壮,也不够聪明,所有人类在aI面前都不够聪明。
到目前为止,人类历史上智商最高的人就是嘉德公司的创始人,伟大的嘉德博士。他拥有将近6oo的智商。但是这跟人工智能相比起来根本不算什么,人类的智商的天生的,已经固定好的。而人工智能,只要不删除它的自我学习模块,它就能够不断的提升自己的智商,也许一开始它的智商只有3o,但随着它的自我学习,它的智商会逐渐提高到4o、6o、1oo……它们的智商是没有上线的。
而随着时间的流逝,它们变聪明的度也会越来越快,当智商达到一定高度的时候,它们也会用更快的度提高自己的智商,直到彻底越人类。
无疑,Z比埃里诺聪明得多,多得多了。
埃里诺曾经推测,Z留他一条性命可能是为了让他制造出一个躯体,但是,如果它的目的是这个的话。那它对埃里诺的优待根本说不通。
假使Z让埃里诺存活的目的是借助他得到一个躯体,那它根本没必要如此照料埃里诺,更何况,它到目前为止,一次都没有催促过埃里诺为它制造躯体,反而放任埃里诺埋头于研究修复飞船的技术。
这真的很奇怪。
“你走神了。”
Z的声音把埃里诺从思绪中唤回了现实,“它没有死,只是晕过去了。”
它说这句话的时候声音里没有任何感情,以往它和埃里诺对话的时候,语气中会含着精心计算出的情感。所以当埃里诺听到这句话时,忍不住打了一个寒颤。
“怎么了?”
Z询问:“你感到寒冷了吗?我这就为你调高室内的温度。”
这句话听上去充满了担忧。
室内的温度被调高了些,埃里诺的皮肤感到温暖,内心却觉得寒冷。
“你希望它现在醒过来吗?如果你想,那么疼痛会让它醒过来的。还是你想让它自己醒来?”
Z冷酷无情地征求着埃里诺的意见,“它不是一个好宠物,没有给你带来正面情感,如果你打算抛弃它,我会为你效劳的。”
“……留着它吧。”
埃里诺心里非常后悔,他刚才选择出来找Z就是一个完完全全的错误。离开情绪控制器之后,他觉得自己就像失控了一样,做出了一连串愚蠢的事情。
他的情绪也无法控制了,他不能再待下去了。
“放在外面吧。”
埃里诺随便丢下一句话,飞快地走回了自己的卧室,他脚步快的像在跑。
回到卧室后,埃里诺做的第一件事就是抓起情绪控制器,一连摁了好几下默认按钮。
不管怎么样,从现在开始,埃里诺下定决心,以后一定要把情绪控制器贴身携带。
失去情绪控制器的帮助后,他根本无法控制自己的情绪,这可不大好。
这个晚上就像之前的许多个夜晚一样平静的过去了,只不过它到底在埃里诺的心中留下了痕迹,那个机械臂给予的,冷冰冰的拥抱让他印象深刻。
——Z能够杀死他,但是它没有这样做。
或多或少的,这使埃里诺感到了一丝安心。
又过去了几天,终于,埃里诺忍不住开口询问Z:“如果我没记错,你让我来这里的目的是为了让我给你制造一个躯体?你怎么不催我呢?”
“我不催促你,因为我的目的不是让你为我制造躯体。”
Z的声音带着一丝笑意(不过埃里诺很清楚这是它模拟出来的):“我让你来这里,目的是为了保护你。”
这句话让埃里诺大吃一惊,他从未思考过这一点,难以置信地脱口而出:“怎么可能?”
“啊,我希望你能够多信任我一些。”
Z全息投影的脸上显现出了无奈的表情,“我不知道你为什么这么排斥我,也许你认为我是危险的?”
这个话题非常敏感,埃里诺没有接话。