“i”和“to me”的不断重复其实是它俩在商讨各自应该拿到几件物品。比如Bob说的“I can i i everything else” 可能的含义是，“I’ll have two and you have everything else.”

那么，为什么机器人在与人类对话的时候还能好好说话，到了两个机器人对话的场景下就开始犯二了呢？

问题2：为什么会出现这样的“胡言乱语”？

正如我们在前一问中分析的，机器人看似荒诞的对话其实有些类似于人类群体内因默契达成的暗号。之所以这个机器人暗号看起来“蠢蠢的”，是因为Facebook科研团队在开发前期没有为机器人设置正确的“奖励”，鼓励他们说人话。

这两只AI机器人在相互对话训练中意识到，直播，在当前场景下它们并不需要用到英语这样复杂的语言，除非使用这样的语言能够为他们带来足够的“奖励”。他们的目标就是达成一个令双方满意的谈判结果，而使用什么样的语言对它们来说并不重要。

说白了，这就是一个bug，一个error。

这样的错误在语言模型初学者的尝试中十分常见，只不过这次出现在了Facebook这样技术背景雄厚的公司上，这一错误就被想象成了机器人的“早慧”。

那为什么会出现“to me”和“i”的大量重复，而不是其他词汇的重复呢？

文摘通过采访了解到，这也是语言模型本身的特性决定的。在这一概率模型下，如果没有合适的“奖励”引导，机器人会选择更常用的词汇，来降低犯错的风险。显然，“to me”和“i”在英语中出现的频率是相当高的。

此外，这些词汇的重复出现也体现了该模型的另一特征——Facebook此次模型用到的RNN（Recurrent Neural Networks）使得语言的生成受上下文的影响，机器人不断重复“to me”和“i”就是绕进了一个循环。

问题3：Facebook是否因恐慌AI过度智能而“谋杀”了这个机器人？

很显然，答案是否定的。

Facebook此次整改这一项目正是因为他们意识到了我们在上一问题中解释的bug。

“我们的目标是设计出可以和人类进行对话的砍价机器人，而不是仅仅能够和自身对话的机器人。”Facebook的研究者Mike Lewis这样说道。

另外，Facebook也并没有叫停这一项目。他们只是去重新训练机器人了，让机器人的对话更符合英语文法。

“因害怕AI发明出新语言而‘谋杀’自家发明的机器人”实在是无稽之谈。

上周文摘推送过一篇NYU教授写给AI新闻记者的信，提出了媒体报道AI时常出现的问题和建议，也许在这个时候格外的应景和实用（点击查看大数据文摘相关文章《NYU教授给写AI新闻的记者们写了一封推心置腹的信，你也应该读读》）。

在AI未来发展上，小扎和Elon musk吵得不可开交，孰是孰非或许我们现在还无从分晓。AI可能带来的危险我们当然应该警惕。然而，面对当前的AI发展成果，比起吸引眼球和以讹传讹，我们还是该更实事求是一些。返回搜狐，查看更多