“我的一位校友做过一个实验，”塔洛斯在电话里忽然话题一转, “一辆自动驾驶汽车靠近一个停车让行的标志时，不但没有停下，反而加速冲进了路口。”
“嗯？”甜甜又把身体往墙的方向挪了挪，躲过桌上几双好奇的眼睛。
“他们在后续的调查发现, 汽车会做出这种违背规则的事情，是因为停车标志上被贴了几张长方形标签，这些标签让人工智能系统将停车标志误识别成‘限速45’，于是车辆遵从45迈的指令冲了出去。”
甜甜还有点不太明白：“所以……”
“以当下的发展程度来看，深度神经网络其实是很脆弱的，一点……”
塔洛斯话还没说完，甜甜的电话又被人抽了去。
她怒目看向周玉安，却见他客气疏离地对着电话里打官腔：“理论知识电话里不好理解，我会当面给她解释，不劳费心了。”
然后他把电话扣在桌上，问甜甜：“你还有什么要说的么？”
甜甜：“啊？”
他迅速拿起电话：“她说没什么要说的了，再见。”
甜甜：“？？？？？？？？？？？？你把电话还给我！”
周玉安看了她一眼，默默将桌上电话推过去。
就在甜甜拿起电话要回拨的时候，他又捡起筷子开始挑葱花，边挑边低着头说：“深度神经网络是很脆弱的，如果对输入做一些极微小的改变，即使变化小到你我都无法察觉，也有让当前最先进的系统崩溃的能力。”
他把葱花放进小碟子里，将面碗推回给苏无理，慢条斯理擦着手：“你听懂了吗？”
“说人话。”甜甜还没来得及回应，李归一已经不耐烦，“这和她单挑那个谁有什么关系？”
“和机器打过交道的人，比如说我，都知道它经常会犯一些低级错误。但这其实并不是我们预料之中的，很多时候我们认为是低级的错误，对于机器来说是无法逾越的。好吧，我再举一个例子。比如说李总现在是一个AI训练出的足球运动员，他的训练目的是让球穿过守门员进入球门。而苏先生是一个守门员……”
忽然被点名的苏无理一边挑面一边抖了一下，然后敷衍地“唔”了一声。
“如果苏先生是一个正常守门员，那么李总可能不会出现失误。假如不巧苏先生忽然摔倒，这个时候李总会有极大的可能失去进球能力。”
周玉安说这些的时候终于像个正常人，不喘也不抖，脊背笔直，仿佛这不是饭桌，是TED现场。
“我失去进球能力？”李归一对这个假设十分不满，“你说什么？”
“因为在有限的训练数据下，守门员做出了混淆视听的对抗策略。以现有的技术，我们的AI都是靠大量数据训练出来的，这原本就是一个拼数据的年代，算法上大家，嗤，都不过如此，最后定胜负的还是数据。”
李归一没听懂，苏无理压根就没听。
然而周总监并不在意，他们不是他的布道对象，他转向甜甜：“我猜伯克利的那位想说的是这个意思，你还要打过去和他确认一下么？”
甜甜握着手机没有动，等苏无理吃了半碗面，她才低声问：“所以我在游戏里的所有反应同时也是老刀的训练数据，可以左右他的行为，是这个意思么？”
周玉安支着脸，笑而不语。
李归一及时抓住了重点：“你搞成这德行还要进游戏浪？”
看向她额头，李总差点翻了个白眼：“你们女的不是很在乎脸？不怕头盔套上留疤？”
甜甜觉得他思路十分清奇，想都没想就反驳道：“什么脸还能比赢重要？”
李归一被噎了一下，想再骂她两句，却莫名觉得这句话在理，在理到让他感觉一股暖流从胃里升上来，走到四肢百骸。
这女的有点邪门。
就在这时，一直默默吃面的苏无理忽然掏出一面镜子，然后哇的一声差点哭了出来。
“下午......还有……采访……”