Facebook的AI用“自创秘密语言”对话？程序员：参数没调好……

2017-08-09 23:25 来源:果壳网 机器人 /计算机 /人类

原标题：Facebook的AI用“自创秘密语言”对话？程序员：参数没调好……

1新智元报道

来源：Gizomodo，FAIR

报道/编译：文强，刘小芹，张易

最近 Facebook 的一个 AI 项目火了，而且火得不要太好——稍微上网一搜就能看到：

AI 机器人发展出自己的语言，Facebook 的工程师们慌了

Facebook AI 发明出人类不能理解的语言，担心失控项目已被关闭

难道我们人类造出了一个怪物？

一则宣称“Facebook AI开发出自己的语言”的报道。图片来源：bgr.com

还有一家英国小报引用一位机器人学教授的话，说这一事件表明，如果类似的技术被用于军事机器人，将“非常危险，并且可能是致命的”。

更多的新闻延伸到未来的机器人革命、杀人机器人、恶意的人工智能，各种各样的有关人类灭绝的想象。所有这些，无不引用 Facebook 两个聊天机器人这样一段对话：

Bob: I can i i everything else ..............

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else .............

Alice:balls have a ball to me to me to me to me to me to me to me to me

有图有“真相”：

看上去恐怖吗？

一篇报道引发的惨案：AI 发明了自己的语言？？

这一切的起因是，上月中，FastCo Design 网站针对 Facebook 利用“生成对抗网络”开发对话谈判软件的努力做了一篇报道。这篇报道引用的两个 bot，其设计的目的是证明：“具有不同目标（端到端训练神经网络实现）的对话智能体，能够从头到尾地与其他 bot 或人类进行谈判，并达成一个共同的决策或结果”。

两个 bot 针对给定的话题（例如书籍，帽子，球，都是一些无害的物体），讨论如何分割成双方都同意的部分，除此以外并不做其他事情。

这样做的目的，是开发一个可以从人类的互动中学会谈判交易的聊天机器人，它能够非常流畅地进行对话，终端用户甚至不会意识到他们在与机器人对话。

就这么简单。

然而，FASTCO 的报道写道，“FAIR 的谈判智能体利用强化学习和对话推演（dialog rollouts），表现与人类谈判相当……这证明 FAIR 的 bot 不仅能讲英语，并且对要讲什么也是有过思考的。”

更要命的是，文章引用了专业人士的评价——“智能体会脱离人类可以理解的语言，发明自己的代码语言。”那篇文章引用 FAIR 访问研究员 Dhruv Batra 的话说，“就好比我说 5 遍 ‘the’ 这个单词，你会理解为我想要 5 个这个东西。这与人类发明简略表达的方式并没有太大不同。”

于是事情一发不可收拾。

Facebook 研究人员亲自辟谣：我根本不是那个意思

在继续讨论前，我们先来看 FAIR 访问研究员 Dhruv Batra 自己的澄清。

FAIR团队。图片来源：research.fb.com

Dhruv Batra 是 FAIR 研究员，也是对话模型那篇论文作者之一，他在自己的 Facebook 主页回应道：

我刚从 CVPR 回来，就发现我的 FB/Twitter 的时间流充满了这些说 Facebook 的研究员开发的 AI 智能体发展出自己的语言，描述各种世界末日景象的文章。

我不想针对某篇具体的报道，或者对某个断章取义的引用提出具体的回应，但我认为这样的报道只是为了赚眼球，非常不负责任。

AI 智能体发展出自己的语言这种说法可能令人震惊，或让这个领域之外的人感到意外，但这是发展了很多年的 AI 的一个子领域，相关研究文献可以追溯到几十年前。