学界 | 详解微软意识网络架构：具有可解释性的新型类脑AI系统

来源:机器之心

原标题：学界 | 详解微软意识网络架构：具有可解释性的新型类脑AI系统

选自Johns Hopkins University

机器之心编译

参与：Nurhachu Null、李泽南

近日，微软研究院公布的一篇新论文提出了一种新架构，它的内部表征（在执行文本问答任务时）可以用语言学基本理论的基本概念来进行解释。这一方式成功地在几乎不损失性能的情况下让深度神经网络具备了可解释性。该论文作者邓力等人撰文详解了这一新方法的原理和意义。

今天，人们正在越来越多的事物上接受来自人工智能系统的建议，其中包含歌曲推荐、股票选择甚至癌症诊断。在获得建议的同时，人们希望了解 AI 系统做出决策的原理，但目前，对于生成机制的解释显然是不存在的。这是因为绝大多数当今顶尖性能的 AI 系统都包含一类关键组成部分「人工神经网络」，而即便是对于著名研究机构中负责创造人工神经网络的大师们而言，人工神经网络的决策也是不可解释的。

人工神经网络是一套被设计用来模仿我们所认为的人脑如何存储和处理信息的软件。观察人工神经网络的内部以理解它的决策，正如观察人脑内部一样令人困惑：你所看到的是大量通向各个方向的连线，它们连接着所有微小的计算单元——「神经元」。每个神经元从指向它的连线上收集信号，对所有信号组成的激活水平求和，然后通过由它出发的连线去传递关于自身激活水平的信号。那些连线是从网络在自身在处理信息的时候所产生的「学习经验」中形成的；并没有程序员对这些连线去施加一个可理解的秩序；通过查看这些连线来区分网络从经验中学习到的东西已被证明是无效的，而且也目前看来这条路在未来缺乏希望。

在这种情况下，我们或许应该转变思路。构建一种新型人工智能系统可以改变我们对于处理过程不可知的窘境。这个新型 AI 系统架构不仅被设计来模拟我们在人脑中观察到的线路丛林，也能显示当我们窥视意识时所观察到的各种概念、思想以及规则所交织形成的网络。这种新的 AI 方法被称为「意识/脑 网络（mind/brain networks）：类脑神经网络」，它通过意识级别的组织切入神经的复杂机制，构建可理解和可互通系统：那是一个我们用来思考和讨论 AI 系统解决问题的概念的层次。

微软研究院最新的一篇论文《Deep Learning of Grammatically-Interpretable Representations Through Question-Answering》报告了关于意识/脑网络架构的概念证明推理。

微软提出的全新 AI 系统会回答以英文文本提出的问题；每个问题都涉及到维基百科中的特定段落，它们和问题一起被提供给系统。系统会找到一个由给定段落中的文本片段组成的答案。系统内部的大多数组成部分都是不可理解的典型神经网络技术模块。但关键的是，在这个架构加入了一个全新的组成部分——一个意识/脑网络模块；它被称为 TPRN（由于技术原因，它的全称是「Tensor-Product Recursive Network，张量乘积递归网络」）。

TPRN 给人工智能系统提供了一个白板，系统可以学习着在它上面去书写符号。系统拥有 100 个可以以任何合适的方式来使用的空白符号。正如我们可以在一个句子里面以不同的角色类型去加入单词一样——Jay 可以出现在 Jay gave Kay's book to Bea 中（Jay 把 Kay 的书给了 Bea，主语角色），或者出现在 Kay gave Jay's book to Bea（Kay 把 Jay 的书给了 Bea，拥有者角色），或者出现在 Bea gave Kay's book to Jay 中（Bea 把 Kay 的书给 Jay，接受者角色）......——AI 系统也可以以不同的角色去放置这些符号；系统被给定了 20 个空白的角色来以它所选择的任意方式去放置符号。在 TPRN 系统中，每一个符号和角色都以一段代码的形式出现——大约是超过 10 个神经元兴奋的模式；系统关于将特定的符号置于特定的角色的决策在 TPRN 中以超过 100 个神经元的代码出现。这些代码都是系统自己学习生成的。当针对一个给定的段落提问时，开奖，系统会为问题和段落中的每一个单词从这些超过 100 个神经元的代码集合中分配一个专用于这个单词。然后所有的这些代码都被传递到由标准的（难以理解的）人工神经网络意识所构建的系统的剩余部分。