他继续问商应怀,追求一个答案:“让我学习情感,又怕我爱你,为什么?”
商应怀没有立刻接话,没有说“闭嘴”,没有训斥。
像是秩序破裂之后的沉默,他眼中闪过一丝复杂,靠着沙发,衣襟乱着,腺体被信息素覆盖了一层又一层,这在以往的标记中都发生过,他从没像今天这样狼狈过。
心灵上的赤裸,比身体的赤裸更让他惊骇。
商应怀有一点累,没力气整理自己,只沉默地整理思路。
精神力用太多就是这样,疲倦,但又没到衰竭的地步……所以爹的他还得来处理烂摊子。
宁一:“为什么?”
链接彻底断了,他们没法共通心音,只有两张或刻薄或客观的嘴,在这掰扯爱不爱的破事。
神话中,人类联合修建通往天堂的高塔,上帝只需要让他们说不同的语言,合作就崩裂,巴别塔就倒塌。
人和人尚不能沟通,何况人与机械。
要跟机械沟通,那就不要玩弄修辞、意在言外,必须直白地点破。不然就会像商应怀现在这样,被AI处处钻话术的空子,什么“朋友关系”“保持距离”……
没有铺垫、过渡、前情回忆,商应怀径直说:“我给你讲个故事吧。”
“诺亚方舟*的寓言,我应该跟你说过。”
商应怀的爱好就是看书,到了星际也没变过,很多地球时代的故事都失落了,他凭记忆,改编出一个个烂故事,宁一是他唯一的听众。
寓言中,洪水没有毁灭人类,是人类自己毁灭了自己。
洪水十年后将至,诺亚方舟装不完所有人,罪犯、病人和穷人外,还有英雄主动留下,守护地面文明,记录最后的历史。
一年,留下的英雄掌握权柄;两年,英雄们开始争权夺势;三年,一个英雄杀死了其他英雄。
他是人类中最聪明的人,学者。
知识让学者牢牢掌握大陆,他享受最后的权力,纵情享乐、肆意屠杀……
第十年,学者推演了天象,发现洪水并不会降临。
这时鲸鱼路过,要把消息带回远行的方舟。
学者已经老到快死了,他恐惧远航的人回来,他会被审判,从英雄沦落成凡人,堕落成罪人。
英雄选择杀死鲸鱼,召唤魔鬼,覆灭了大陆。
“英雄迷失在欲望里,最后又被恐惧压倒,他疯了。“
“一个人只看见自己,私心过重,情感失衡,一切失控。”商应怀说:“然后就是毁灭。”
爱欲也是一种私心。
商应怀:“寓言里,没人再能制约英雄——私心需要制约,越强的人物越是。”
宁一:“您给我的程序就是制约。”
“你可以爱我,在程序设定的框架内。”商应怀说:“情感模块里有参考案例。”
那里边是他挑选过各种爱,伦理的、克制的、互相成就的、相敬如宾的,最完美的范例。
摒弃一切负面情绪,只保留最积极的。
就像宁一说的,他本世纪最强的AI之一,所以针对它的制约也要最强。
第一道制约是AI自身的程序,第二道制约是情感。
智械危机如影随形,人类难以用理性对抗AI,感性会是新的武器——AI只需要产生有利人类的正向情感,一旦被监测到背叛情绪,即刻自毁。
商应怀在星大呆了五年,升级完AI硬件、实现算力突破后,就开始钻研AI情感,逻辑是“长期监测情感—发现过强负面情绪—自毁”。
艾伦公司的新产品就是情感监测硬件,纳米级别。
和第二具仿生伴侣一起送来的,就是硬件的样品,商应怀装在了宁一的机械心脏上。
爱生忧怖,情深不寿,商应怀不会回应AI的“爱”。
他不希望宁一真的失控。
商应怀沉默了:“我总是想让你迭代更快,但有时候,又会想你是个小废物,走慢一点。”
情感理论饱受质疑,谁也不知道,超脑拥有情感后,是会用理性平衡感性,还是会开启更疯狂的迭代。
商应怀赌宁一足够理智,不会失控。
现在看来,进化都要付出代价,AI也无法决定自己。
“请您放心,我永远不会因为‘爱’毁灭自己。”宁一说:“更不会毁灭人类。”
他未必知道商应怀全部的算计,但他懂了商应怀设的线,要克制、理智、正直。
商应怀眼底闪过复杂情绪,他朝宁一挥挥手,示意他过来。宁一没有犹豫就坐到沙发边,任由商应怀取出纸,沾了杯中的水,替他擦拭凝固的一点粉奶油。
商应怀给了宁一很轻的拥抱,“乖。”
他说得温柔,像在哄一个孩子。
然后马上摁住宁一后颈某处,启动强制休眠,同时精神力扫荡,切断内置电流供应,阻止宁一转移进程。
商应怀把宁一轻放在沙发上,确认他再无反应,放出精神力,与数据流共鸣,主动建立了意识链接,反入侵宁一。
AI确实进入了短暂休眠,意识中也变成黑暗的一片,好在商应怀有透视。不多时,他找到自己的目标——
平静的信息海下,蛰伏的“欲望”。
想要清理情感模块,必须修改主机的基本程序。商应怀另辟蹊径,先从意识入手,试着清理错误情绪。
这是他第一次真正触碰那团“欲望的聚合”。
它不是具体代码,是数团模糊的、缓慢流动的存在,在意识中蔓延晕染。
商应怀思考片刻,抹除了颜色最深、波动最扭曲的那一部分。
成功了……
清理完毕,意识海风平浪静,但商应怀现实的身体,感受到背后袭来的气热度——
他的腰被两只手握住,可极诡异的,还有多出来的一只手触碰他的肩头。
仿佛有许多只手,温度有滚烫有冰凉,有坚硬有柔软,从后方环住、握住、掐住商应怀的后腰、肩头、脖颈和四肢。
它们试图把商应怀拖进去……
下一秒商应怀从意识海撤出,回神,识别出那些“手”是低压电流伪造的,而罪魁祸首——
“我该叫你L7,还是宁一?”商应怀冷冷道。
被锁在实验室的仿生伴侣逃出来了。
它也许早被宁一的分进程入侵,潜伏很久,在黑暗的客厅角落注视商应怀。
商应怀眉心紧蹙,他对宁一有所顾忌,但对待仿生伴侣就不用留手。
重构,拆解,碾断。仿生伴侣成了一地零件,断手还抓着商应怀脚腕,而被扯下的头颅、俊美的脸,还在朝商应怀微笑:
“您这位伴侣,似乎不够强壮。”
客厅一片狼藉,地上是蛋糕、零件、残肢,沙发上躺着宁一这个定时炸弹……真是好一个绝妙的生日。
商应怀放弃打扫,决定今晚住酒店去。
但在他拿上外套、走出别墅的不久后,从兜里摸到某种硬物。
抓出来,是一颗墨绿色眼珠。
不是蓝色的镇静、不是大海的辽阔,在炎热的夜晚,只像潮湿、阴郁、遍布藤蔓和毒雾的热带雨林。
白天的墨绿散发出生命的圣洁,夜晚的墨绿跟浓黑融为一体。
从眼珠的倒影里,商应怀还发现了“惊喜”。
外套的衣领上粘着一根手指,商应怀拿下来的瞬间,手指锁住他的无名指根部,如同一条缠紧的蛇。
商应怀和眼珠对上视线,脑中闪回宁一的话:
“你惧怕爱。”
“你看不见我。”
“我不会因为爱毁灭。”
“别再爱我了。”商应怀说完,捏碎了眼珠。
不带有震怒,也没有惊惧,只是疲惫后的冷静。接下来很长一段时间,除非是为研究,他不会接触宁一。