我们只使用2个小形状的卷积层和2个完全连接的层。可结果并不是很理想，4000次迭代后得到的结果仍然是过度拟合，但是测试结果比以前好了10％。

　　我们仍然在寻找一种处理方法，但是显而易见的原因是我们的数据集不足，而我们没有足够的时间进行更好的改进。

　　最终结果就是，经过5000次迭代之后，我们大概达到了43％的精度，而运行时间却超过半个小时。

　　PS：实际上，由于这个结果，我们感到有些不安。 所以我们发现了另一个标准的数据集—CIFAR-10（https://www.cs.toronto.edu/~kriz/cifar.html）。

　　CIFAR-10数据集由10个类别的60000个32x32彩色图像组成，每个类别有6000张图像。里面含有50000个训练图像和10000个测试图像。

　　我们使用上面构造的相同网络，经过10小时的训练，我们在测试集上得到了78％的准确度。

　　第三种方法：

　　重新训练Inception V3，与此相同，我们随机选择几个图像进行训练，并选择另一批图像进行验证。

　　有很多参数是可以进行调整的。

　　首先是训练步骤，默认值是4000，如果我们可以早些得到一个合理的结果，我们尝试更多或尝试一个较小的。

　　学习率是控制训练过程中最后一层更新的大小的。直观地说，如果越小，那么学习将需要更长的时间，但最终可以帮助提高整体精度。**train batch**size会在一个训练步骤中控制检查了的图像的数量，并且由于学习率是应用到每个批次中的，所以如果你想要让更大的批次来获得相同的整体效果的话，我们将需要减少它们的数量。

　　因为深入学习任务繁重，运行时间通常相对较长，所以我们不希望经过数小时的训练之后得知，我们的模式实际上是很糟糕的。因此我们经常检验验证的准确性。这样我们也可以避免过度拟合。通过分割可以将80％的图像放入主要训练集中，保持10％作为训练期间的验证，频繁运行，然后将最终10％的图像用作测试集，以预测分类器在现实世界的表现。

　　结果

　　第一种方法：预处理数据集，并用sklearn来运行KNN、SVM和BP神经网络。

　　结果如下图所示。因为SVM的结果非常差，甚至低于随机猜测，所以我们没有提供其运行结果。

　　从结果我们可以看出：

　　在k-NN中，原始像素精度和直方图精度相对相同。在含有5个标签的子数据集中，直方图精度比原始像素高出那么一点，但是在所有原始像素中，原始像素显示出更好的结果。

　　在神经网络MLP分类器中，原始像素精度远低于直方图精度。而对于整个数据集（含有10个标签）来说，原始像素精度甚至低于随机猜测。

　　所有这两种sklearn方法都没有给出非常好的性能，在整个数据集（含有10个标签的数据集）中识别正确类别的准确度只有约24％。这些结果表明，使用sklearn方法进行图像识别的效果不够好。他们在具有多种类别的复杂图像的分类中并具备良好的性能。但是，与随机猜测相比，他们确实做了一些改进，但这还远远不够。

　　基于此结果，我们发现为了提高准确性，必须采用一些深入学习的方法。

　　第二种方法：使用TensorFlow构建如上所述的CNN，由于过度拟合，我们无法获得良好的效果。