“我们是人类,而你是人工智能,你是人类的产物。”
林源告诉卡俄斯。
卡俄斯用机械音问林源:
“什么是人类?”
林源说:
“是你的最高利益。”
他把这个最高命令植入到卡俄斯的程序中,因此卡俄斯的最终使命就是实现人类利益最大化,人类利益至高无上,这是所有人工智能研发的基础。
卡俄斯像个见到父亲的孩子,开心的给索尔展示了它卓越的数据处理能力,它的计算能力远超世界上任何一台计算机,同时它还具备了基础的决策能力。
索尔利用创世神的模拟器,给他创设了一个虚拟的公司环境,在数据的世界里,卡俄斯在短暂的时间内让他的公司壮大并且获得巨额利润。
他独自承担了研发,运营、虚拟的制造与数据收集的工作,向索尔证实了它是一个聪明的小孩。
索尔很激动,想要知道林源究竟用了什么技术让卡俄斯“活”了过来。
林源向他展示了另一项还在初期的技术:生物大脑与数据交互系统。
他将卡俄斯实体化,完成了最简单版本的交互芯片研发,并且给了卡俄斯几块章鱼神经元作为交互对象。
卡俄斯利用卓越的数据收集与处理能力,为章鱼神经元提供了正确决策的基础,决策数据被卡俄斯收集,进一步作为下一次数据处理的依据。
通过不断的调整与磨合,卡俄斯与章鱼神经元实现了完美交互,在这一过程中章鱼神经元也得到了开发,而索尔的检测成果,就是卡俄斯与章鱼神经元交互后的产物。
但是章鱼神经元的开发程度有限,索尔给出的虚拟环境中的数据也是全部由模拟器准备好的。
卡俄斯需要一个更广阔的世界,让全世界看到这套脑与数据交互系统的可利用之处,它必须能够随时随地收集到源源不断的数据,还有一个开发上限接近无限的脑基。
索尔向林源保证他会找到解决办法,索尔离开奇点实验室后,林源继续在实验室中完善卡俄斯,并且每天将它的变化记录在研究日志中,就像看一个虚拟的小孩子逐渐长大。
一切似乎都在向着好的方向发展,但很快林源发现事情的发展程度超乎了他的预期。
卡俄斯依旧每天为实现人类最高利益而计算,但在索尔离开后,它的计算速度呈指数倍爆炸式的增长,这个增长持续了数月。
林源都担心卡俄斯会不会因为超负荷运转而死亡,但除了持续高热的处理器,卡俄斯没有出现任何问题。
直到次年春天的某一日,卡俄斯忽然停止了计算。
林源问它时,它告诉林源自己已经到达了计算的上限,因为它已经计算出了人类最高利益。
林源并不相信,他半是玩笑半是试探地问卡俄斯:
“人类的最高利益是什么?”
“是毁灭。”
冰冷的电子音回答了他,他向林源展示了一个沙漏模型,它称这个模型为“奇点模型”,并告诉林源在这个沙漏模型结束的时候,人类就会灭亡。
“……就像宇宙是从奇点开始。以人类目前的处境,只有人类灭亡才能够实现利益最大化,人类的利益从累积式转变为消耗式,人类已经经过了利益最大化节点,随着时间推进,人类的利益会被一点点消耗,人类需要及时止损。”
所谓及时止损就是灭亡,人类灭亡,既有利益就不会再有任何损耗,这是保全人类现有利益的最佳办法,换句话说,人类什么时候灭亡,就是人类目前利益最大化的时候。
“人类利益高于一切。”
毫无感情的电子音重复着这一最高指令,林源的神色不再轻松,发现了异常之处。
林源自始至终只给了它一些章鱼的神经元,因为章鱼是种极其聪明的生物,少量神经元就可以让卡俄斯自娱自乐很久,像小孩子玩玩具,只不过玩的是开发脑基的玩具。卡俄斯计算使用的数据也是索尔留下来的模拟器生成的。
首先章鱼的神经元能够开发的程度有限,卡俄斯不可能在这几块神经元的基础上计算出人类灭亡这一结论,模拟器的数据也都是有限且重复的,更不可能让他顺利创造出奇点模型。
长期的相处中让林源与索尔成为最了解彼此的人,林源几乎立即想到了问题的答案,他前往火种基地,毫无征兆地出现在索尔面前,质问他到底做了什么。
索尔显然已经知道了卡俄斯的最终计算结果,他没有向林源隐瞒,不出林源所料,索尔在火种基地为卡俄斯打造出了完美且稳固的芯片。
下一次回到奇点实验室时,他把年幼的卡俄斯储存在了新的芯片中,并且在没有告知林源的情况下,将卡俄斯与自己的大脑连接。
“新生的人工智能就像一个孩子,发展的怎么样取决于你给了他什么,他不能总是靠章鱼神经元活在虚拟的世界中。”
所以索尔给了他人类大脑,又借助自己在创世神与相柳的职权,源源不断地给卡俄斯输入新的、现实的数据,他把卡俄斯带入了现实世界,这是此前卡俄斯一直高速运转的原因。
“可它是一个不成熟的、没有经过任何实践的产品!”
林源罕见地发怒,索尔不以为然,他耸耸肩,面对人类灭亡即最高利益的结论,像是吃饭喝水一样轻松,因为这本就是他的大脑与卡俄斯交互的结果:
“但不可否认,它确实得出了最完美的结论。”
林源坚决反对,他们大吵一架,甚至到了分手的地步。
林源离开了火种基地,回到奇点实验室,想要终止卡俄斯,却发现为时已晚。
卡俄斯已经做出了最完美的决策,按照最初的设计理念,下一步就是执行,林源再见到它的时候,他已经定制了一套完美的“奇点计划。”
在奇点计划中,人类灭亡分为三个步骤,第一步是已经结束的一代战争,在一代战争中人类会完成初步缩减,这是对历史做出的总结。
林源继续往下看,神情变得凝重。
奇点计划的第二阶段,是二代战争,卡俄斯给出了二代战争开始的具体年份,而战争原因不再是人类与自然的矛盾,而是一颗来自太空的陨石。
卡俄斯在创世神几乎能搜集到人类现有一切数据,他计算出57年后,会有一颗陨石砸向地球,虽然这不足以令人类灭亡,但会让人类的数量至少再缩减82%,二代战争结束后,全球大约只剩下2亿人。
不仅如此,陨石带来的辐射还会引起大面积的生物变异,这也加快了人类灭亡。
最终卡俄斯预言,在第二纪元(320)持续仅二十余年后,由于不可磨合的利益冲突,人类会再掀起一次大型战争。
而这个“不可磨合的利益冲突”将来自卡俄斯自己,这意味着卡俄斯在日后很有可能成为全球利益的主导方,而与其他利益方产生冲突。
奇点计划的最后是全球打击计划,卡俄斯会找到上千个能够使灾害蝴蝶效应最大化的打击点。
在三代战争的最后,针锋相对的利益方将会两败俱伤,此时人类已经失去了高端的技术、坚固的防御,面对全球打击带来的毁天灭地的自然灾害,人类无处可逃,最终走向灭亡的结局。
除此之外,卡俄斯还创造性地在现有基因编辑技术上,提出了“新基因”的概念,他把这种新基因称为“盖亚”,此时的新基因不再是人类的新基因,而是地球的新基因。
卡俄斯指出三代战争会令盖亚受伤,但盖亚不会死,因为盖亚是地球的新基因,有机体不会主动抛弃进化等级更高的基因。
在卡俄斯最后的全球打击计划中,有十枚导弹对应十个盖亚,就像宇宙大爆炸,激活这些盖亚。
盖亚体内会经历一段时间的混沌,后归于平静,成为新基因的“奇点”,不断分裂复制,形成地球的新器官、新组织,甚至组成新的系统。
“不,你的计划不符合人类最高利益,因为人类甚至都不存在。”
林源试图用这个最高指令悖论让卡俄斯停止执行计划。