别激动！Facebook AI 根本就没创造新语言，它只是在犯傻

2017-08-02 09:44 来源:36氪 人工智能 /机器人 /人类

原标题：别激动！Facebook AI 根本就没创造新语言，它只是在犯傻

编者按：本文来自微信公众号“极客公园”（ID：geekpark），作者宋德。

我想你们大概都知道 Facebook 一个 AI 项目失控被迫关闭的事了。据外媒报道，Facebook 于 6 月开始测试的 AI 系统出现了问题，两个智能对话机器人在对话时开发出了「人类不理解的语言」，目前这个项目已经被 Facebook 自己关闭了，其官方解释说研究人员「希望 AI 与人沟通，而不是相互沟通。」

但是 Facebook 关闭该项目的新闻已经曝出半个多月了，而其 AI 聊天机器人「创造一种人类无法理解的语言」这事更是六月的旧闻了。为什么这件事现在又火起来了呢？

原因可能是 Facebook 的创始人马克·扎克伯格刚刚与埃隆·马斯克就 AI 威胁论的问题隔空吵了个架，余热尚在，Facebook 被迫关闭「失控」的 AI 项目绝对是一波「打脸」的好戏码，于是我们就看到一波鼓吹 AI 威胁论的声音此起彼伏。

有关该事件的外媒报道

但我们在看了许多外媒文章之后发现，他们并没有对此事追根溯源，从一开始，他们就把 AI 之间语法不通的英语句子看做了一种全新的语言，而 Facebook 的两个聊天机器人 Bob 和 Alice 使用的依然是英语单词，只是语法上没有任何意义而已。

Bob:「I can can I I everything else."

Alice:「Balls have zero to me to me to me to me to me to me to me to me to."

翻译过来是：

Bob：「我能能我我所有其他事。」

Alice：「球没有对我对我对我对我对我对我对我对我对。」

这怎么看都是英语没学好啊。

Bob 和 Alice 的对话截图；图源：Fast Co.Design

对于这件事，人工智能公司 iPIN 的创始人杨洋表示，其实这种机器乱语的情况早就有了先例，Google 的聊天机器人就出现过这种状况，「说是新的语言太勉强，反而是将文字符号化，atv，高阶语言降为低阶语言，或者说机器语言。」

「自创语言」的来龙去脉

6 月的时候，Facebook 人工智能实验室发表了一篇文章，介绍了他们如何教 AI 与人类进行谈判，他们希望训练机器人不仅仅是在表面上模仿人类，而是真正的像人类一样处理事情。

在这个项目上 Facebook 取得了一定的研究成果，他们的机器人在与人进行谈判时，人类甚至无法区分出对面的是机器还是人类。

但后来情况发生了变化。

Bob 和 Alice 之间的对话出现了上述那种语法不通的句子，据 Facebook 人工智能实验室的研究人员 Dhruv Batra 所说，对话系统出现故障的原因是因为「没有针对英语语言的奖励机制」。此前我们报道过，深度学习技术的一个延伸——加强学习（Reinforcement Learning）中，技术人员可以通过设立奖励机制来规范机器自学习的方向，从而得到开发者更想要的深度学习结果，比如去年 AlphaGo 在升级的过程中就使用了这样的技术，再比如在这个事件里，据 Dhruv 的说法，如果研究人员在系统中编写针对英语语法的奖励机制，系统就会偏向于更符合英语语法的语言，也就不会出现现在的情况。

我们就此事采访了 AI 平台公司三角兽科技的创始人马宇驰先生，他认为「这应该是一个小题大做的事情，在模型训练不完善的时候对话，会有类似的情形，理解成没完成的训练工作也许更合适。」

另外一边 iPIN 的创始人杨洋也持有类似的观点：「任何对话，加上 GAN（生成对抗网络），再做一些语言价值预设作为反馈逻辑，很容易出现这种情况。其实用 GAN 来训练机器人编程，本来就是这么个思路。」

说到底，这就是个技术失误，所谓「英语是一个非常复杂且难懂的语言，对机器学习来说不是很适合」，听起来非常危言耸听，好像 AI 像科幻电影里一样，已经开始「淘汰人类」了，但事实是，机器只是机器，他们不过是设定好的程序，你见过哪个程序员用英语写程序的？

这一点是各类鼓吹 AI 真的发明了一种语言这种说辞的的文章没有提到的。

项目关闭原因有待证实

谈到 Facebook 关闭该项目的原因，马宇驰先生的态度非常明确：「Facebook 关闭 AI 项目的原因不可能是这种，应该是外面杜撰出来的」，报道中出现的问题「修复重置等等都可以（解决）」。