5月10号的一场发布会，让英伟达的股票疯涨了18个点。在公布和丰田合作方案、GPU云平台、机器人AI虚拟训练系统Isaac等等表因背后，更深层的还应该是英伟达新一代Volta架构在硬件上取得的突破。

　　Volta架构拥有全新的张量运算指令Tensor Core，能够将深度学习神经网络的训练速度提高12倍，同时也将提高深度学习的推理速度。

　　可能很多人对于这条新闻的理解就停留于股票疯涨，下面就分别来谈谈深度学习神经网络、深度学习训练和深度学习推理这三个看似复杂，实则简单的名词。

　　深度学习神经网络

　　神经网络四个字之所以让人觉得高深，或许是因为它听起来很像是用机器模仿生物。实际上，神经网络并非是在物理上用某种材料模仿人的神经，而是从抽象层面去模仿人的思维方式。

　　人类的思维方式有两种，一种是逻辑思维——简单来说是通过一步步的推论得出对事物的结论。另一种则是形象思维——对事物的客观形象进行感知并储存，通过事物的特征去把握规律，最终通过联想、想象的方式进行表达。

　　从生物学上来讲，人体的大量神经元、细胞、触点等等连接构成神经网络，对信息进行感知、分析和判断。注意，当我们用这种思维方式处理信息时，主要依靠的是神经元之间的互相作用。

　　而我们所提到深度学习神经网络，就是在模仿人体神经元之间的互相作用。

　　深度学习训练

　　当我们在购买了一个自认为美味的苹果时，或许取决于它的饱满程度、它的颜色和气味。我们所认识到苹果的种种特征与苹果是否美味之间的关系，就是神经元之间的相互作用的结果。

　　当我们用机器模仿人脑运作时，我们希望看到的是机器拥有输入（苹果的特征）和输出（苹果是否好吃）两个元素时，自己就能够总结出规则（什么样子的苹果好吃或难吃）。

　　本质上来说，这是一个学习的过程，所以神经网络和深度学习常常相伴出现。

　　如果我们希望机器能够分辨苹果的味道，我们应该做什么？显然是让它像品鉴师一样，“品尝”大量不同的苹果。这一过程，就是深度学习神经网络的“训练”。

　　我们“输入”给机器一个苹果，atv，询问它这个苹果是否好吃，机器看到的不仅仅是一个苹果，而是苹果的颜色、大小甚至于表皮上有多少斑点这一类人脑无法识别的特征。当它错误的输出好吃或不好吃的结论时，它会根据苹果的种种特征向上回溯，思考自己究竟是在颜色、大小还是哪一种特征中出了错误。当我们给它足够多的苹果时，它就会领悟到好吃的苹果应该是什么样。

　　深度学习神经网络的训练就像是在走迷宫，“输入”的苹果是迷宫的入口，而其中苹果的千百种颜色、千百种形状是迷宫中复杂的岔路，而出口只有一个，那就是好吃。机器发现在青色苹果这一条岔路中碰了壁，就会回到岔路口，尝试红色、黄色等等路口能不能走出去。当机器走遍所有岔路，走出迷宫时，它自然学会了那种苹果是好吃的。

　　深度学习推理

　　在训练过程中，atv，深度学习神经网络已经做的很伟大了——它没有味蕾却能判断苹果的味道。目前不断发展的硬件技术，也可以让这一计算过程所需时间逐步减少。

　　可问题在于，即使深度学习神经网络“可以”找到迷宫正确的出口，可他每一次寻找同一个迷宫出口的方式都是将整个迷宫行走一遍。那所谓“训练”二字的意义就不复存在。

　　这也是为什么，神经网络需要推理。

　　当机器领悟到：红色、有香气的苹果=好吃，给它一个绿色的苹果，它将不再去“闻”绿苹果是否有香气，而是直接给出不好吃这个答案。说白了，训练是机器在迷宫中找到正确路线，而推理则是把迷宫中所有错误的岔路都堵住。

　　这时我们再回头看英伟达Tensor Core提到的训练速度提高和推理速度提高就能明白，Tensor Core让机器提高了“找到”迷宫出口的速度——这一部分主要应用的是并行计算，让机器拥有“分身”，可以同时出现在数个岔路口判断此路通否，也让机器提高了在迷宫正确路线上行走的速度——也是对GPU性能最大的考验。

　　在英伟达专注的自动驾驶领域，深度学习神经网络是被应用极多的技术之一，驾驶系统要不断的被输入行驶时的多种情况——从天气到路况再到周边车辆，再输出自身的反应——是否加速、是否停车等等。