举个例子，假如是对海量的视频做处理，这个时候不停的会有新的问题进来，就需要反复地训练模型。而且数据量会比以前大的很多，因为像“平安城市”这样的场景，会布置大量的摄像头，这些数据重新训练回来以后会比以前有大幅度的提升，所以一定要需要在云端有这样的能力去做快速的训练，更新模型下发到前端。

以后除了在云端的摄像头数据，无人车每天产生的数据，里面也会产生很多的特殊情况，是现在解决不了的。比如不同国家的行人、不同国家地面上面的物体其实都不太一样，必须反复训练，而且这个数据量也非常大。

我们不认为现在的GPU方案就是一个终点了，一定需要更快、更节省能源的方式。目前TPU和Lake Crest全部是ASIC解决方案，它是性能功耗比最优的方案，因为是深度定制。所以如果是想解决最终的那种海量的数据，并且对数据中心来讲保持低的运营成本，也就是说用电量比较少，ASIC一定是最终的方案，而且它的扩展性会很好。

如果说未来有新的算法可以处理更多的其他应用，比如说gcForest是其中一个例子，对于这些新的方法，TPU、Lake Crest都未必是最好的加速器。这时我们可以用KNL、KNM。

而对于NVIDIA来说，实际上GPGPU也是可以去支持不同领域的东西，只不过是相比其他领域，它对深度神经网络可以提供最高的加速比。

类似GPU一样，也需要有人在上面做专门的优化。其实CUDA这个项目，NVIDIA已经运作了十年，最后才找出了深度学习这一个killer APP。如果有新的Killer APP出来未必在CUDA平台上是最优的。为了应对未来不可知的新的Killer App，可以说FPGA和KNL都是很好的方案。

所以我觉得应该这样去划分，才能够比较完整地解释英特尔在AI芯片这个领域所做的重要布局。

于现在已知的Killer App，就是用深度神经网络去做类似视觉方面处理的时候，Lake Crest是一个当然之选。

如果是为了应对还不太知道的Killer APP或者是已知道的很多生命科学、金融方面的分析，或者是其他的天气气象原本就是高性能计算的应用，KNL本身就是在做这个事情，而且它会继续去支持这些需要灵活调优但还没有到做ASIC这个程度的应用，都是可以用KNL去做的。

如果用户已经对硬件加速有所了解，但还不是很确定的时候，可以用FPGA去试。FPGA是比ASIC更快的可以去做硬件级别实验的一个平台。

KNL有一个上一代的产品KNC，相比之下，KNL有哪些升级？

宋继强：这个升级还是蛮大的。我来讲几个关键的点。

第一，整体性能提升了2.5倍到3倍的级别，每个单核芯的性能也提升了接近3倍。KNL最多可以到72个核心，就计算能力来说，KNL处理器的双精度浮点为3TFlops左右，单精度浮点可以到6TFlops左右。

比起原来的KNC，现在KNL采用了新的二维的网格架构。它可以允许指令乱序执行，这时处理器执行指令的时候就能够更好的去填掉比如说Cache miss、Branch等造成的空档，可以更好的提高指令处理的并行度。

现在的KNL把矢量加速单元AVX扩展到512个Bite宽，可以同时处理64个字节一起做矢量运算。同时它在内存这一块也有一个改进，增加了高速内存，高速内存是多通道的内存。这里面集成了16GB，用户可以把它配置成是Cache，也可以把它配置成自己去管理的内存。比如说用户要放一些经常要被处理器Core存取的数据，不想让它通过Cache的方式自动映射。因为Cache会产生Cache miss，把它变成自己管理，由用户来负责它的数据的加载和重新存取。

这个速度带宽就高达500G字节/秒，是原来DDR4的4-5倍，这都是大幅的提高。而且现在在KNL里面第一次集成了Omni-Path，就是高速的网络互联。KNC的定位为一个协处理器，它一定要有一个Host来跟它配合。这个Host可以是至强，也可以是Core系列的处理器。

KNL分为两种：

一种可以继续作为协处理器；

另一种是单独的处理器，不需要一个Host，这也是它的新的特性。

这些相比来讲，会更加方便用户。而且我们提供不同等级的KNL的SKU（销售型号），在价格上有不同的选择，相应来说它会有一些偏重于计算，有一些偏重于数据的I/O等。

同时，从去年开始我们在美国已经实验的，在云端给用户提供一个Educational Cluster的平台。因为对于在校学生，多节点的KNL还是蛮贵的，但是有了这个云平台，用户可以在那里提交自己的任务去做实验。