为了研究这些隐藏向量如何编码动物的概念特征，在下图中，我们首次获得了来自两个明显不同的猪涂鸦的隐藏向量，包括一个猪头（绿色框）和一只完整的猪（橙色框）。我们希望了解，模型如何重建猪涂鸦，而方式之一是在两个不同的隐藏向量之间进行插值，随后从每个插值的隐藏向量去生成涂鸦。在下图中，我们展示了猪头涂鸦如何逐渐演化成了整只猪的涂鸦，并在这一过程中演示了，我们的模型如何组织猪涂鸦的概念。我们看到，隐藏向量控制了鼻子与头部的相对位置和大小，以及涂鸦中身体和腿部是否存在。

我们还想知道，atv，如果模型能学会多种动物涂鸦的重建，那么在这样的情况下，最终涂鸦看起来会是什么样？在下图中，我们利用基于猫头和整只猪之间的插值隐藏向量去生成涂鸦。我们看到，最终涂鸦逐渐从一只猫头变成了有尾巴的猫，再变成躯体肥胖的猫，最终变成一只猪。与儿童学习画动物的方式类似，我们的模型在画动物时也是将头、腿和尾巴连接到身体上。我们还看到，这一模型绘制的猫头与猪头有明显不同。

这些插值的例子表明，隐藏向量确实编码了输入涂鸦的概念特征。那么，我们是否可以使用这些特征去增强不具备这类特征的其他涂鸦，例如在猫头上加一个身子？

△通过这样的隐藏向量算术，系统学会了抽象概念之间的关系

实际上，在我们用猫涂鸦和猪涂鸦训练模型的过程中，我们发现，涂鸦的类推是可能的。例如，我们可以从整只猪涂鸦的隐藏向量中删除属于猪头的隐藏向量，从而得到属于身子的向量。将这样的差异添加到猫头的隐藏向量中，我们就可以得到一只完整的猫。这样的涂鸦类推使我们可以探索，模型如何组织其隐藏空间，在重建涂鸦的过程中呈现不同的概念。

创意应用

在这项工作中，除了研究目的以外，我们也非常关注Sketch-RNN的潜在创意应用。例如，在最简单的应用场景中，图案设计师可以使用Sketch-RNN为布艺和墙纸图案生成大量类似，但各有不同的设计。

△绿色和黄色方框中的是输入涂鸦，其他是系统生成的类似却不同的设计

正如我们此前所见的，经过训练，能绘制猪涂鸦的模型也可以绘制出类似猪的卡车，只要提供卡车涂鸦的输入即可。我们可以将这样的成果投入应用，帮助创意设计师得出抽象设计，满足目标人群的喜好。

例如在下图中，我们将4把不同椅子的涂鸦输入至能够画猫的模型中，生成了与椅子有相似之处的猫涂鸦。我们可以更进一步，利用插值方法去探索看起来类似椅子的猫的隐藏空间，生成一系列设计供选择。

探索不同对象之间的隐藏空间或许可以帮助创意设计师找到有趣的交汇点，以及不同图案之间的关系。

我们还可以将Sketch-RNN的解码模块视为独立模型，训练其预测未完成涂鸦的可能结果。这种技术可以协助艺术家完成创意流程，推荐更多方式去完成尚未完成的作品。在下图中，我们绘制了多个不同的未完成涂鸦（用红色表示），并让这一模型以多种可能的方式去完成绘画。

我们甚至可以将这一概念更进一步，让不同模型去处理同一幅未完成涂鸦。在下图中，我们看到，同样的圆形和方形图案如何演变成了蚂蚁、火烈鸟、直升机、猫头鹰、沙发，甚至画刷的一部分。通过使用多样化的模型去绘制不同对象，设计师可以探索具有创新性的方式，向受众传达有意义的可视化信息。