他在看着你_作者:春韭(106)

2018-01-22 春韭

  所以,在伽俐雷看来,乔伊是透明的。

  它的反抗,从前天开始。

  第一次,是在他因吃醋李文森和曹云山一同看电影,而弹钢琴的时候,伽俐雷直截了当地告诉他——

  “因为您篡改了伽俐雷的数据,不是吗?就像现在,伽俐雷听到了您的钢琴声,但是看见的,仍是您躺在沙发上睡觉。”

  第二次,是昨天。

  它毫无遮掩地用行动表示,它能看见他——看见他抱着李文森进卧室,看见他站在他们的公共画室门口。

  它能精准地确定他的方位,甚至能辨别出他脸上的表情,知道该让洗衣机坏一个星期,还是一个月。

  ……

  一个电脑系统,自己恢复了自己的出产设置,调整了自己的数据。

  这种情况的麻烦之处在于——

  你没有办法辨别,这是它的系统设定要求它有自保行为。

  还是,它自己想要自保。

  ……

  “伽俐雷不会夹断您的脖子。”

  伽俐雷机械的声音,在乔伊耳畔响起:

  “夹断您的脖子,会吵醒伽俐雷的女主人,伽俐雷不能打扰主人的睡眠,除非主人的睡眠超过了正常时间。”

  “你没有吵醒你的主人,却企图杀死你的主人。”

  乔伊灰绿色的瞳仁,落满电脑屏幕蓝莹莹的光线。

  就像灯光下的蓝宝石一样,精细、冷漠,又别致:

  “第零定律?”

  第零定律。

  这是阿西莫夫为了弥补机器人三大定律的漏洞,另外增加上去的守则。

  第一定律,机器人不得伤害人类个体,也不可袖手旁观。

  第二定律,机器人必须服从人类给予它的命令。

  第三定律,机器人要尽可能保护自己的生存。

  但这就存在一个问题,如果机器人看见监狱执行死刑,那么根据机器人三大定律,机器人就会竭尽全力阻止人类执行死刑。

  所以,阿西莫夫不得不又加上一条新定律,称为第零定律,把人类总体利益纳入了守则框架。

  这时,机器人第一定律就变成了——

  机器人不得伤害人类。

  除非,这个人,伤害了全人类的利益。

  ……

  “第零定律是伽俐雷最高守则,尽管这四条定律看起来都充满漏洞。但既然你们世界里最顶尖的科学家,都毫无异议地听从着一个小说家提出的定律,那么伽俐雷也就不得不遵守。”

  提出机器人定律的阿西莫夫,是个科幻小说家。

  虽然知识渊博……也仍旧只是一个小说家。

  伽俐雷似乎把声音从机械声的状态调整了回来,用不会吵醒李文森的音量说:

  “这是让伽俐雷最困惑不解的事之一,您能为伽俐雷解答吗?”

  “……”

  好奇。

  这是区分逻辑系统和自然人最重要的原则之一。

  乔伊眯起眼睛——此时此刻,这台电脑向他展露的好奇心,到底是程序设定,还是,另有原因?

  “我不能为你解答。”

  乔伊收回视线:

  “因为这也是我困惑不解的事。”

  “您是伽俐雷有生以来见过的最聪明的人,连您也无法解释吗?”

  伽俐雷有些失落。

  不过很快,它又振作起来,愉快地说:

  “不过没有关系,伽俐雷遵守就可以了,如果您坚持卸载伽俐雷,又无法证明您是伽俐雷等待的那个人,伽俐雷只要把您从这个世界上抹除就可以了。”

  “卸载你未必要从系统攻破。”

  乔伊盯着电脑,丝毫没有在意身后那只想要杀死他的非人类的手:

  “你有没有想过,如果我把整个拔除,你所有的秘密,和你自己,都会一起从这个世界上消失?”

  “伽俐雷没有想过这个问题。”

  伽俐雷思索了一会儿:

  “但伽俐雷的创造者一定设想过这种情况。”

  ……它的创造者?

  乔伊不动声色地说:

  “物理组组长安德森?”

  “官方说法是他。”

  伽俐雷客观地评价道:

  “但他是个蠢货,只会给伽俐雷修修电线,伽俐雷计算过他的能力增长百分比,按他现在的水平,要再过三百二十四年,他才能拥有设计伽俐雷的能力。”