今年我们希望把云端这块的实验平台在中国部署开放起来。届时希望有两种方式去支持大家做这种计算加速，还有节点扩展加速的实验，用不同的算法和不同的应用去做相应的实验。这样的话，我觉得可以推动更多的人去试更多的硬件。英特尔在软件方面去提供的工具支持也会越来越多。

我觉得KNL还是非常有潜力的硬件加速产品，它对于很多模型本身就有并行度，而且数据之间也有一定的并行度，并且中间还要有一些决策的时候特别有帮助。

很多深度学习的用户都表示，比起芯片底层的硬件架构，他们更加关注软硬件在一起的生态，对此，英特尔是如何做的？

宋继强：在软件生态方面，英特尔支持AI应用的通用软件堆栈（雷锋网按：如下图所示），中间三层用来屏蔽底层硬件的实现差异、支持流行开源框架和与加速应用方案的工具。

英特尔提供的AI解决方案

具体来说，英特尔准备在软件层提供比较一致的软件接口。

如果是已经在使用开源框架的用户，比如现在流行的TensorFlow、MXNet、Caffe，英特尔的策略是我们有一个对它们的统一接口，开发者可以用他们熟悉的开源的框架去训练模型。

同时底下我们会对接上英特尔的中间层，中间层可以把它映射成我们英特尔的MKL的加速和我们称为扩展性加速的库。扩展性加速是干什么的呢？因为MKL是加速数学运算的，比如说张量运算。但是如果要把它扩展到多个节点上，比如说扩展到72个核，甚至扩展到1000个核上的时候，这时候就需要用扩展加速，它去帮用户解决互联之间的数据传输和控制的传输的一些加速，而不用用户去管它。

这时虽然用户使用的是开源框架，但是他可以很容易的使用到底下的硬件加速能力，用KNL也好，用Lake Crest也好，会映射到不同的硬件上去。

如果是新的学习者，他可以有两个选择，一个选择使用开源的框架，一个是选择使用英特尔提供的基于Neon的框架，它是Nervana原来还是独立公司前的框架，也是排在前十的。现在他们还继续基于这个框架在做一些事情。

如果说用户选择这个框架的话，会直接能够利用到底下很多的加速。同时Nervana还在做一个事情，当然它现在是英特尔的AIPG。他们在做一个叫nGraph的软件层次工具，也就是说用户的程序里其实有很多可并行的地方，但是由于算法其实很复杂，要用户自己去分析的话，未必能把它拆分得很好。

而这个nGraph工具就是来抽取里面可并行的部分，把它分到不同的硬件的加速单元上去。比如说分到不同的Lake Crest，里面有好多个加速的矢量计算单元。怎么分配？它来做优化，有一点像我们传统的在高性能计算的时候，英特尔的Parallel Studio里面有Thread Building Block，就等于帮你自动去把程序里面的可以并行的线程给你提取出来，放在不同的核上去。

对于初学者来讲，他可以不用自己去搞定所有的软件堆栈的每一层怎么去优化，他可以先去使用开源的工具也好，使用我们英特尔提供的工具也好，把他的算法、模型先训练好，然后通过我们中间提供的这些工具链映射到不同的层级。

这是我们现在走的战略，软硬件结合去做。

除了深度森林和DNN以外，KNL还适合哪些应用和算法？

宋继强：KNL在Life Science里面也有很多的应用，比如像基因测序，精准医疗。在一些零售的领域同时处理很多个不同用户的一些请求，做一些相关的安全验证等，都是可以的。其实应用的领域非常适合让多个核同时去做，因为它们本身就是需要去分割这些任务去处理。而且在处理的过程中并不都是图像的块与块之间比对，生成很多完整的块的vector然后再去逐步往后走的，还需要很多灵活性的程序在运行。

3

关于英特尔中国研究院

能否详细说说英特尔和周志华团队的合作？

宋继强：周老师是国内人工智能领域的杰出学者，领军人物。所以英特尔的产品部门、学术研究部门也都一直在关注。我们现在形成的是战略合作关系，这个框架会包含几方面内容：

第一方面，学术界擅长于去定义算法和新的理论，但是如果要把性能直接提升到产业的标杆级别，这还是有一定的困难。不同AI的应用，需要不同种类的软硬件加速方案去做。