摘要：发现高层面的抽象表征（high level abstract representations）是无监督学习的主要目标之一。我们设计了一种架构来解决这个问题，该架构可以将存储在像素中的信息转换为携带表征的有序信息序列。训练根据顺序的紧急程度产生，其中早期表征携带了更多关于图像的全局和概念方面的信息，开奖，而后期的表征则对应于细节。该模型是一个完全卷积、序列的变分自动编码器，其设计灵感来自 DRAW。该架构简单且均匀，因此不需要许多的设计选择。

所得到的信息变换可以用于有损压缩，通过仅传输早期表征的集和（其数量由期望的压缩级别给出）并且使用生成模型生成剩余的表征以及图像。如果模型发现的信息的排序与人类所判断的重要性的信息排序密切相关，则算法将传送人类认为是最重要的部分。如果剩余变量的生成导致了高质量图像，则该方法就应该可以得到高质量的有损压缩。因为人类和无监督算法试图理解数据，并且因为两者都使用深度网络来实现，所以有一个很好的理由相信这种方法将有效。我们证明当前的模型确实实现了性能与 JPEG 和 JPEG 2000 相当的压缩。随着生成模型逐渐变得越来越好，这些结果证明了该方法用于构建未来压缩算法的潜力。

6. 图像 3D 结构的无监督学习（Unsupervised Learning of 3D Structure from Images）

作者: Danilo Rezende, Ali Eslami, Shakir Mohamed, Peter Battaglia, Max Jaderberg, Nicolas Heess

论文地址：https://arxiv.org/abs/1607.00662

摘要：想象你正在盯着一张椅子的照片。你看到的图像是相机属性和位置、光以及椅子的形状的复杂函数。重要的是，由于自我遮挡你无法看到椅子的全部，所以会有一堆类似于椅子的物体符合你所看到的。但是，如果从不同的视角想象椅子的形状，你就能够准确地识别出这是椅子。做到这一点的关键不仅是要明确了解透视图（perspective）、遮挡和图像信息处理，更重要的是要有「椅子该是什么样」这样的先验知识，这能让你「填充」图像中丢失的部分。

在此论文中，我们研究了能够完成类似上述推理的模型。我们尤其制定了能够学习 3 维物体统计规律的生成式模型。结果显示形状的先验知识能够产生高质量的样本，能让我们明确表达像是概率推断这样具有挑战性的艰辛问题，比如给定 2D 图像还原 3D 结构、准确捕捉 posterior 的多模态。使用神经网络中的单次前向通过（forward-pass）就能快速地做出推论，而且我们也展示了如何在不使用 ground-truth 3D 标签的情况下就直接从 2D 图像端到端训练模型和推断网络，因此首次证明了以完全无监督的形式学习推论 3D 表征的可行性。