但是有一个问题。大多数精灵宝可梦，像图 9 和 图 10 的那些精灵宝可梦有双重属性。也就是说，它的真实属性将是那 18 种属性列表里的两种不同属性的组合。例如，在图 10 中，妙蛙草是草属性和毒属性，同时具有两种属性的优缺点。

考虑到这一点，我们必须对组合的属性进行目标分类。即使我们忽视属性顺序（也就是说[火与岩石] 和 [岩石与火] 是一个属性），我们最终还是会得到 171 个可能的类。（事实上，这个数字会小一点，154，因为并不是所有的组合都在游戏中存在）。

更糟的是，一些组合非常少见（图11），只有一个或者两个精灵宝可梦，从而限制了可用的学习样本。

　　图11：一些罕见的属性组合。顶行：熔岩蜗牛（Magcargo (左) ）和溜溜糖球（Surskit (右)）； 底行: 花岩怪（Spiritomb (左) ）和席多蓝恩（Heatran (右)）

由于上述原因，在本文中我选择忽略属性组合。因此，我们只考虑精灵宝可梦的主要属性。例如，在图 10 中，我们将有：妙蛙草：草属性、波波：一般属性、大钢蛇：钢属性、 菊石神：岩石属性

模型训练

选择模型

我使用卷积神经网络（Convolutional Neural Network）作为我们的数据集的预测器。神经网络是通常用于机器学习的许多种预测模型中的一种，包括被称为神经元的简单单元的互连网络。基于与生物系统内部运作的不严格的类比，神经网络可通过这些简单的单元学习复杂的功能和模式。

在其最简单的形式中，神经元只是其输入的线性函数，接着是非线性激活函数（图 12）。然而，通过一些层的组合，神经网络能够对目前的独立和非独立变量之间愈发复杂的关系进行建模。

　　图 12：神经网络的基本单元。

　　图 13.：一个稍微复杂的结构，带有一个隐含层的神经网络。

神经网络不是最近才提出的，1940 年就存在对其的研究了（ Wikipedia, 2017a）。然而，直到近年来随着计算能力的进步以及用于其训练的反向传播算法的发展，才使得其使用变得更加广泛。

好了，这足以让我们明白一点神经网络了。但是，「卷积（convolutional）」是什么意思？让我们先来谈一谈核（Kernel）。

在图像处理中，一个核（也被称为卷积矩阵（Convolution Matrix）或掩码（Mask））是用于模糊、锐化、边缘检测等的小矩阵。通过对适当的内核计算矩阵卷积，产生新的图像从而获得效果。我们已经在我们的预处理流程中看到了一个在本文中使用的核，其中我们应用了 Sobel 核来检测精灵的边缘。

　　图 14：Sobel 核对妙蛙花图像的影响

卷积运算可以被看作是核在我们的图像上的滑动。核中的值以元素的方式乘以图像中下面的值，并将结果相加以产生该窗口上卷积的单个值。（关于卷积运算更好的解释请参考

　　 image-kernels/）。

　　在图 15 中，我们应用垂直 Sobel 滤波器来检测颜色强度的明显变化。（在我们的灰度图像中，范围在 120 到 255 内）。

　　图 15 。卷积示例。图像中突出显示的红色区域正在使用垂直边缘检测器进行卷积，从而得到结果矩阵（resulting matrix）中红色框内的值。

但是这是怎么回事！这些核与神经网络有什么关系？关系大得超出了我们的想象！一个神经网络里的卷积层只是一种聪明的排列神经元及其相互连接的方式，以实现能够通过监督学习识别这些滤波器的架构。（同样，关于整个神经网络的东西可以参考 s/）在我们预处理流程中，我们使用了特殊的核，因为我们已经知道了一个十分擅长当前任务的核，但是在卷积网络中，我们让训练算法去找到那些滤波器，并在后续层中将其组合起来以实现越来越复杂的特性。

我们的神经网络的架构

对于我们的精灵宝可梦分类的任务，我使用了一个不太深的卷积网络

　　图 16：在本文中使用的神经网络的架构

图像的每一层在我们的卷积网络中表示为一个层。在每一个层后，我们获得表示该层输出的状态张量（张量的维度列在每个层的右侧）。