除了将 GAN 应用于图像和视觉、语音和语言 等领域, GAN 还可以与强化学习相结合, 例如前述 的 SeqGAN[6]. 还有研究者将 GAN 和模仿学习融 合[44?45] 、将 GAN 和 Actor-critic 方法结合[46] 等. Hu 等[7] 提出 MalGAN 帮助检测恶意代码, 用 GAN生成具有对抗性的病毒代码样本, 实验结果表明基 于 GAN 的方法可以比传统基于黑盒检测模型的方 法性能更好. Childambaram 等[8] 基于风格转换提 出了一个扩展 GAN 的生成器, 用判别器来正则化 生成器而不是用一个损失函数, 用国际象棋实验示例证明了所提方法的有效性. 4. GAN 的思考与展望 4.1 GAN 的思考与展望GAN 的意义和优点 GAN 对于生成式模型的发展具有重要的意义. GAN 作为一种生成式方法, 有效解决了可建立自然 性解释的数据的生成难题. 尤其对于生成高维数据,所采用的神经网络结构不限制生成维度, 大大拓宽 了生成数据样本的范围. 所采用的神经网络结构能 够整合各类损失函数, 增加了设计的自由度. GAN的训练过程创新性地将两个神经网络的对抗作为训 练准则并且可以使用反向传播进行训练, 训练过程 不需要效率较低的马尔科夫链方法, 也不需要做各 种近似推理, 没有复杂的变分下界, 大大改善了生成 式模型的训练难度和训练效率. GAN 的生成过程不 需要繁琐的采样序列, 可以直接进行新样本的采样 和推断, 提高了新样本的生成效率. 对抗训练方法摒 弃了直接对真实数据的复制或平均, 增加了生成样 本的多样性. GAN 在生成样本的实践中, 生成的样 本易于人类理解. 例如, 能够生成十分锐利清晰的图像, 为创造性地生成对人类有意义的数据提供了可 能的解决方法. GAN 除了对生成式模型的贡献, 对于半监督学 习也有启发. GAN 学习过程中不需要数据标签. 虽 然 GAN 提出的目的不是半监督学习, 但是 GAN 的 训练过程可以用来实施半监督学习中无标签数据对 模型的预训练过程. 具体来说, 先利用无标签数据训 练 GAN, 基于训练好的 GAN 对数据的理解, 再利 用小部分有标签数据训练判别器, 用于传统的分类 和回归任务. 4.2 GAN 的缺陷和发展趋势 GAN 虽然解决了生成式模型的一些问题, 并且 对其他方法的发展具有一定的启发意义, 但是 GAN并不完美, 它在解决已有问题的同时也引入了一些 新的问题. GAN 最突出的优点同时也是它最大的 问题根源. GAN 采用对抗学习的准则, 理论上还 不能判断模型的收敛性和均衡点的存在性. 训练过 程需要保证两个对抗网络的平衡和同步, 否则难以 得到很好的训练效果. 而实际过程中两个对抗网络 的同步不易把控, 训练过程可能不稳定. 另外, 作 为以神经网络为基础的生成式模型, GAN 存在神 经网络类模型的一般性缺陷, 即可解释性差. 另外, GAN 生成的样本虽然具有多样性, 但是存在崩溃模 式 (Collapse mode) 现象[4], 可能生成多样的, 但对于人类来说差异不大的样本. 虽然 GAN 存在这些问题, 但不可否认的是, GAN 的研究进展表明它具有广阔的发展前景. 例 如, Wasserstein GAN[29] 彻底解决了训练不稳定问 题, 同时基本解决了崩溃模式现象. 如何彻底解决崩 溃模式并继续优化训练过程是 GAN 的一个研究方 向. 另外, 关于 GAN 收敛性和均衡点存在性的理论 推断也是未来的一个重要研究课题. 以上研究方向 是为了更好地解决 GAN 存在的缺陷. 从发展应用GAN 的角度, 如何根据简单随机的输入, 生成多样 的、能够与人类交互的数据, 是近期的一个应用发展 方向. 从 GAN 与其他方法交叉融合的角度, 如何将GAN 与特征学习、模仿学习、强化学习等技术更好 地融合, 开发新的人工智能应用或者促进这些方法 的发展, 是很有意义的发展方向. 从长远来看, 如何 利用 GAN 推动人工智能的发展与应用, 提升人工 智能理解世界的能力, 甚至激发人工智能的创造力 是值得研究者思考的问题. 4.3 GAN 与平行智能的关系 王飞跃研究员[47?48] 于 2004 年提出了复杂系 统建模与调控的 ACP (Artificial societies, compu- tational experiments, and parallel execution) 理论 和平行系统方法. 平行系统强调虚实互动, 构建人工 系统来描述实际系统, 利用计算实验来学习和评估 各种计算模型, 通过平行执行来提升实际系统的性 能, 使得人工系统和实际系统共同推进[49?50]. ACP理论和平行系统方法目前已经发展为更广义的平行 智能理论[51]. GAN 训练中真实的数据样本和生成 的数据样本通过对抗网络互动, 并且训练好的生成 器能够生成比真实样本更多的虚拟样本. GAN 可以 深化平行系统的虚实互动、交互一体的理念. GAN作为一种有效的生成式模型, 可以融入到平行智能 研究体系. 本节从以下几个方面讨论 GAN 与平行 智能的关系. 4.3.1 GAN 与平行视觉 (责任编辑:本港台直播) |