其中，“EBGAN 是 Yann LeCun 课题组提交到 ICLR2017的一个工作，从能量模型的角度对 GAN 进行了扩展。EBGAN 将判别器看做是一个能量函数，这个能量函数在真实数据域附近的区域中能量值会比较小，而在其他区域（即非真实数据域区域）都拥有较高能量值。因此，EBGAN 中给予 GAN 一种能量模型的解释，即生成器是以产生能量最小的样本为目的，而判别器则以对这些产生的样本赋予较高的能量为目的。

　　“从能量模型的角度来看待判别器和 GAN 的好处是，我们可以用更多更宽泛的结构和损失函数来训练 GAN 结构，比如文中就用自编码器（AE）的结构来作为判别器实现整体的GAN 框架，如下图所示：

　　在训练过程中，EBGAN 比 GAN 展示出了更稳定的性能，也产生出了更加清晰的图像，如下图所示。

　　生成器：借鉴 Wasserstein GAN

　　谷歌的这篇新论文提出的 BEGAN（Boundary Equilibrium GAN），将 AE 作为判别器，开奖，在架构上与 EBGAN 十分类似。

　　在生成器方面，BEGAN 则借鉴了 Wasserstein GAN 定义 loss 的思路。作者在论文中写道，“我们的方法使用从 Wasserstein 距离衍生而来的 loss 去匹配自编码 loss 分布。”

　　今年年初 WGAN 论文发布时，也在业界引发热议，当时新智元转载了郑华滨发表在知乎专栏的文章。

　　在 WGAN 中，判别器近似的 Wasserstein 距离与生成器的生成图片质量高度相关，如下所示：

　　相比传统 GAN 直接匹配数据分布，EBGAN 使用一种新的方法，将 loss 基于判别器的重构误差。作者通过一个额外的均衡条件，让生成器和判别器相互平衡。作者表示，他们的方法训练起来更方便，与传统 GAN 技巧相比架构也更简单。

　　EBGAN：简单模型，效果惊艳

　　回到我们介绍的 BEGAN，BEGAN 的架构十分简单，几乎所有都是 3×3 卷积，sub-sampling 或者 upsampling，没有 dropout、批量归一化或者随机变分近似。

　　判别器是 loss 为 L1 的自编码器，生成器每生成一幅图，这幅图判别器能够在 loss 很小的情况下自编码，生成器就算胜利。判别器胜利的条件则是①很好地将真实图像自编码，以及②很差地辨识生成的图像。

　　这篇论文的另一个贡献是提出了一个衡量生成样本多样性的超参数 γ：生成样本 loss 的预期与真实样本 loss的预期之比。这个超参数能够均衡 D 和 G，从而稳定训练过程。如果生成器表现太好，就侧重判别器。

　　不仅如此，这个超参数 γ 还提供了一个可以衡量的指标，用于判断收敛，最终也对应图像的质量。

摘要

　　我们提出了一种新的用于促成训练时生成器和判别器实现均衡（Equilibrium）的方法，以及一个配套的 loss，这个 loss 由 Wasserstein distance 衍生而来，Wasserstein distance 则是训练基于自编码器的生成对抗网络（GAN）使用的。此外，这种新的方法还提供了一种新的近似收敛手段，实现了快速稳定的训练和很高的视觉质量。我们还推导出一种能够控制权衡图像多样性和视觉质量的方法。在论文里我们专注于图像生成任务，在更高的分辨率下建立了视觉质量的新里程碑。所有这些都是使用相对简单的模型架构和标准的训练流程实现的。

　　测试结果：上面是基于能量的GAN（EBGAN）与边界均衡 GAN（BEGAN）的对比，后者由显著提升；下面展示展示了超参数 γ 值不同情况的对比，可以看出 γ 值越大图片质量越高。

　　论文地址：

　　参考资料

杨双，【青年学者专栏】解读GAN及其 2016 年度进展，深度学习大讲堂

郑华滨，令人拍案叫绝的Wasserstein GAN，知乎专栏