近年来，深度学习快速发展，神经机器翻译（Neural Machine Translation）方法已经取得了比传统的统计机器翻译（Statistical Machine Translation）更为准确的翻译结果。可是，深度学习这样的复杂而又庞大的网络模型，就像一个摸不清的「黑箱子」，网络中只有浮点数的传递，到底背后包含着怎样的语义、逻辑，一直困扰着研究人员对于神经机器翻译的深入理解和分析。因此，如果能够将网络可视化，找到网络中神经元之间的相关关系，将极大帮助人们探究神经机器翻译中出现的各类错误，同时也能帮助指导如何调试更好的模型。

而就在今年的 ACL2017 上，清华大学的丁延卓同学、刘洋老师、栾焕博老师和孙茂松老师发表了论文「Visualizing and Understanding Neural Machine Translation」，借鉴视觉领域中的研究，首次将计算机视觉中 layer-wise relevance propagation（LRP）的方法引入到神经机器翻译中，为注意力机制（attention mechanism）的编码 - 解码（encoder-decoder）神经机器翻译模型提供了可视化以及可解释性的可能。通过分析层与层之间的相关性，将这些关系「画」了出来。「据我们所知，目前还没有工作是在神经机器翻译模型的可视化上。」作者告诉我们，现有的注意力机制被限制在只能证明源语言（source language）和目标语言（target language）之间存在关系，却不能提供更多的信息来帮助了解目标语言的词语是如何一步一步生成的；而相关性分析则能够帮助理解这个过程，并且能够分析任意神经元之间的关系。

Layer-wise relevance propagation（LRP）的方法到底是什么呢？其实就是一个计算相关性，并将相关性逐层向后传播的过程。首先将网络模型看成一个拓扑图结构，在计算一个节点 a 和输入的节点之间的相关性时，将 a 点的数值作为相关性，并且计算与 a 点相连的上一层节点在生成 a 点时所占的权重，将 a 的相关性逐层向后传播，直到输入层。作者用下图的例子告诉了我们：

图 1：Layer-wise Relevance Propagation 示例

如果要计算 v1 和 u1 之间的相关性，首先计算 v1 和 z1, z2 之间的相关性，再将 v1 和 z1, z2 的相关性传递到 u1, 从而求得 v1 和 u1 之间的相关性。

通过这样的计算，我们最终能「画」出怎样的相关性呢？让我们来几个例子（颜色越深表示相关性越强）：

图 2：目标语言单词 "visit" 对应的隐变量可视化图

图 3：错误分析：不相关词语 "forge" 与源句子完全不相关

图 2 是在翻译「我参拜是为了祈求」时中间的隐层 c2, s2 以及输出层 y2 和输入句子词语之间的相关性，可以看到「visit」这个词语正确的和「参拜」以及「my」的相关性更为强烈，因而正确的翻译出了词语「visit」；而图 3 则表明「forge」（锻造）这个词语的隐层 c9, s9 和输入的词语都没有正确的相关性并且跳跃，而在生成时 y9 也没有和输入有正确的相关性。

「通过对翻译中出现的不同错误的相关性的可视化的观察，我们的方法能够帮助模型进行改造和更好的调试。」作者告诉我们，在将 LRP 的方法引入时其实也遇到了一些难点，比如图像领域只是输入图像像素点，而机器翻译中则是一串词语，每个词语都对应着一个长度或百或千的向量，对于计算相关性造成了困难；同时模型复杂，包含各种不同的计算算子。而通过仔细地设计计算方法以及 GPU 的利用，也将困难一个个克服了。

「未来，我们希望将方法用于更多不同的神经机器翻译模型中，另外也希望构建基于相关性分析的更好的神经机器翻译模型。」对于未来的研究工作，他们也更为期待。

ACL 2017 Outstanding Paper 列表

PaperWeekly 论文共读小组

「每周一起读」是由 PaperWeekly 发起的协同阅读小组。我们每周精选一篇优质好文，利用在线协同工具进行精读并发起讨论，在碎片化时代坚持深度阅读。目前已成立的专题小组有：Chatbot、机器翻译、知识图谱、GAN、推荐系统、QA、增强学习、多模态、自动文摘和统计学习。

我们将针对上述两篇 ACL 2017 获奖论文在组内发起阅读讨论，并邀请论文作者与大家一同交流。

想和我们一起研读优质 paper？