参与：沈泽江、吴攀

Facebook 人工智能研究中心近日在 arXiv 上发布了一篇 ICLR 2017 的 Workshop Track 论文，介绍了一个用于评估通用人工智能的框架 CommAI，并且还在 GitHub 上开源了一个 CommAI-env 平台：https://github.com/facebookresearch/CommAI-env/。原论文可点击文末「阅读原文」下载。

每天都有机器学习被应用到新的艰巨问题上，通用人工智能（general AI）似乎也已经成为了一个可以实现的目标。但是，大多数当前的研究的关注重点则是重要的但范围狭窄的应用，如图像分类或机器翻译。我们相信这在很大程度上是因为缺乏用来测量实现范围广泛的机器智能的进展的方法。为了填补这一空白，我们在这里为通用人工智能提出了一个具体的迫切需求（desiderata）的集合，还有一个用于测试机器在满足这些迫切需求上的表现的平台，同时还能将所有进一步的复杂性（further complexities）保持到最小。

1.用于机器智能评估的迫切需求

我们不会试图通过抽象的术语来定义智能，而是采用了一种务实的方法：我们想要开发出对我们有用的人工智能。这自然会引出以下迫切需求。

通过自然语言交流

只有当一个人工智能能够和我们交流时，atv，这个人工智能才是有用的，这样我们就能够：给它分配任务、理解其返回的信息以及教其学习新技能。因为到目前为止自然语言对我们来说是最简单的交流方式，所以我们需要为我们有用的人工智能赋予基本的语言能力。机器在测试环境中所接触到的语言必然非常有限。但是，鉴于我们也想让机器成为强大的高速的学习者（见下一点），那么人类之后也应该能够教会其更为复杂精细的语言技能，因为人类在新的领域指导机器上会变得很重要。具体而言，其环境不仅应该让机器接触到一系列任务，而且还应能通过简单的自然语言提供指令和反馈。机器应当依靠这种形式的语言交互来有效地解决这些任务。

学习去学习（learning to learn）

对于有用的人工智能来说，灵活性（flexibility）是一个核心要求。随着我们的需求的改变，人工智能应当能够帮助我们解决我们面临的新挑战：从早上解决工作中遇到的科学问题到晚上我们的冰箱中的储备。因此，人工智能的进展应该在其掌握连续的新任务流的能力上进行测量，同时还需要解决新任务的数据效率（data-efficiency）作为一个基本评估组件，且无需区分训练和测试阶段。我们必须将这种学习去学习的能力（这涉及到跨任务的泛化（Ring, 1997; Schmidhuber, 2015; Silver et al., 2013; Thrun & Pratt, 1997））与一次性学习（1-shot learning，是指艰巨但更有限的泛化到同样任务中新类别的能力，比如扩展一个目标分类器使其能够仅从少数几个样本中识别其未曾见过的目标；Lake et al., 2015）区分开。人们普遍认为要想实现跨任务的泛化，程序需要能够执行组合学习（compositional learning），即针对跨任务的子问题而存储和重新组合解决方案（Fodor & Lepore, 2002; Lake et al., 2016; Minsky, 1986）。因此，该测试环境应当具有相关任务的集合，比如一个可以从一个任务向另一个任务引导技能的组合学习器（compositional learner）。最后，掌握语言技能可能是学习去学习的一个关键组成，因为理解语言指令允许我们快速学习如何完成我们从未执行过的任务。

反馈

随着我们的成长，我们会学习掌握有越来越少明确奖励（reward）的复杂任务。一个有用的人工智能应该具备类似的能力。因此，在我们的测试环境中，奖励应该随时间减少。相反，机器要应能从不与一个明确的奖励分数直接相关的表现线索（performance cues，比如纯粹的语言反馈（参见 Weston, 2016）或观察其它正确执行一项任务的代理（通过演示学习，参见 Argall et al., 2009））中学习。测试环境应该包含这样的线索。

接口

计算机与真实世界之间的接口应该尽可能的具有普适性。机器本身需要学习处理不同种类输入输出流的最佳方式，在被应用到不同领域时不需要人们对其重新编程。进而我们开始假想一种可实现的最简单的接口。在每个时间步骤中，机器接受一位（bit）数据后输出一位，而不需要在数据流上附加额外的数据结构（在模拟的初始化阶段，使用一个额外的通道来奖励系统）。

我们不是说符合我们这些需求的人工智能将会是一个成熟的人工智能，但是我们认为，这些应当是人工智能学会更高级技能的前提条件。

2.CommAI 框架