大数据文摘作品，转载要求见文末

作者 | 钱天培、魏子敏、Aileen、加号

还记得文摘之前报道的会讨价还价、还能使诈的机器人吗？近日，当两个砍价机器人的聊天训练最终演变为胡言乱语后，Facebook决定暂停整改这个项目。

这本来只是一个AI项目研发中，因为“奖励”不明确出现的再正常不过的bug，被整改也是因为训练结果背离了开发者的期望。然而，这个小事故却被铺天盖地的媒体报道过度解读成了一段堪比“终结者”的机器失控，以及人类为了自我解救展开的“屠杀”。Elon Musk和小扎刚就AI悲观论干完一架，这件小事也就顺势引起了一众吃瓜群众的恐慌。

伦敦帝国学院教授、DeepMind高级研究科学家Murray Shanahan的评论也许可以总结这个荒谬的局面：脸书这个实验性代码出了个有趣的小故障，结果就被不负责任的媒体盯上了。

让我们先来回顾一下事件不断发酵的过程：

6月中旬，Facebook人工智能研究所（FAIR）的研究人员发布了一篇论文，介绍了他们研发的机器人具有的新功能 ：谈判能力。有趣的是，机器人有时会假装对无价值项目感兴趣，atv直播，只有通过放弃它才能“妥协” ——这是人们经常使用的有效谈判策略。（点击查看大数据文摘相关文章《Facebook最新研究：我们训练机器人讨价还价，没想到AI还自己学会了“使诈”（附论文）》）

之后，Facebook 人工智能研究所（FAIR）继续用机器学习对两个聊天机器人进行对话策略升级，结果发现它们自行发展出了人类无法理解的独特语言。

一批颇具知名度的海外科技媒体首先报道了此次事故：“Facebook引发广泛争议的智能对话机器人项目发明了人类无法理解的语言。”

6月20日，《大西洋月刊》公布了Facebook研发的AI机器人Bob和Alice的一段“对话”记录，并称“机器人创造了人类无法理解的语言”，引起了大批恐慌。

几天前，Facebook 的研究院宣布暂停整改这一项目，根据某家海外媒体的说法，原因是“担心可能会对这些AI失去控制”。这本来只是作者一句略带黑色幽默的玩笑，却在昨天几乎占据了各大科技媒体头版，引发了一波三折的”失控“大戏。

不少媒体顺势接道：“我们是不是创造出了AI妖怪？”

这话再传下去，说辞就变成了：“这就是人类屈从AI的后果！如果这样的病毒传染到了军事机器人上，那结果将会是致命的。”

当然，也有些“辩证”的文章，为“发明新语言”的这两位机器人先驱辩护。

“让机器人发明自己的语言也是好事啊。这样一来我们就不用花那么多精力搭建那么多API了，让机器们自行完成沟通岂不妙哉！”

这场小事故简直要发展成为了“机器人因先驱发明语言而壮烈牺牲 vs AI大恶魔即将降临”的科幻脑洞辩论赛。

大批海外媒体的“尬报道”标题

那么，这场闹剧的背后究竟发生了什么——Facebook的机器人是否真的学会了新语言？他们的研究出了什么问题？而Facebook又是为什么叫停了这一项目呢？

在跟风恐慌之前，让我们先搞清楚下边这几个问题：

问题1：机器人是否发明了新语言？他们真的在通过这些人类看不懂的语言密谋吗？

让我们先来回顾一下案发现场。这是两位机器人在讨论一批物品分配时产生的对话。

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

很明显，这段对话仍然是基于基本的英语词汇发生的，但连起来读就读不懂了。这段对话究竟有什么含义呢？

Facebook的研究者指出，他们确实在认真地讨价还价，这些无比“智障”的语言绝不是在密谋搞事情。