智东西（公众号：zhidxcom）

　　文 | Lina

　　3月20日，智东西与NVIDIA共同策划的「NVIDIA公开课」在深度学习社群开讲，主讲嘉宾为NVIDIA（英伟达）大中华区高性能计算及Applied Deep Learning部门技术总监赖俊杰博士，主题为《AI浪潮来袭，如何搭建适合自己的深度学习平台？》。这是NVIDIA在国内首次就深度学习主题组织公开课，吸引到超过1200人报名，基于专业性审核，共有近1000名以研发工程师为核心的行业用户参与到听课与互动当中。此前，智东西先后与大疆创新、亚马逊中国策划过「大疆公开课」和「亚马逊公开课」。

　　本文为「NVIDIA公开课」主讲嘉宾赖俊杰博士的讲课实录，分为主讲+Q&A二部分。全文共计8216字，读完需要20分钟左右，你可以掌握到：

　　-Deep Learning发展到了什么程度；

　　-如何选择合适的硬件平台；

　　-Deep Learning开发过程中的软件工具。

　　主讲实录

　　大家晚上好，很荣幸能有这样一个机会跟大家交流，今天我想顺着这么一个思路。

　　首先，Deep Learning（简称DL）发展到今天，站在我的视角上看，发展到了什么程度。当然这也是越来越多的公司需要在DL加大投入，大家会考虑搭建DL平台的原因。

　　第二，从硬件的角度，在做模型训练及线上服务的时候，如何选择合适的硬件平台。

　　最后，介绍在Deep Learning开发过程中的各种软件工具。选择合适自己任务的软件工具能大大降低开发的难度，加快产品的研发不熟，提高硬件的利用效率。

　　因为时间的关系，我不会讲太多技术的细节以及产品的SPEC。就像我一般做一些技术报告跟培训的时候，我经常说，希望大家听过之后，就像在听一个故事，留有一些印象。也即我大概讲了几个内容，以后遇到实际工程问题的时候，知道可以有哪些软硬件的工具平台可供选择，就足够了。细节，比如软件的API，硬件的参数，到了用的时候可以查，40分钟的时间大家听完也记不住这些。

　　先简单介绍一下我们团队：

　　第一，我们负责跟中国区核心客户的工程师合作，完成用户in-house代码的GPU移植及性能优化工作。

　　第二，我们会参与到各种加速计算库，包括跟Deep Learning相关加速库的开发，比如cuBLAS，CUDNN，TENSORRT等。这其中也包括由中国开发团队主导的，用来做视频智能分析的DeepStream SDK。

　　第三，随着Deep Learning的重要性越来越高，我们也开始尝试做一些算法模型相关的工作。比如常见的计算机视觉问题，像人，车，物的监测识别等等。

　　我下午在办公室截了一个短视频，就是我们基于DeepStream的一个简单工作。大家可以看一下，有一个直观的认识。后面我会稍微详细一点介绍。

　　那我们接下来从DL现在的应用开始。

　　经常有人会问Deep Learning是不是泡沫，包括这次活动收集上来的问题里面也有类似的疑问。在我看来，Deep Learning作为一种技术手段，在今天的很多领域中，或者超过了原有传统手段的效果（比如最明显的ImageNet图像分类），或者解决了用很多传统机器学习方法非常难以解决的问题。DL的使用在很多情况下都转化为了使用者的最终收益。这个也很容易理解，识别率高，效果好的产品自然而然会吸引到更多的用户。

　　Deep Learning当然不是万能解药。但是基于以上的原因，对于工业界的用户来说，必然是有足够大的热情进行持续不断投入的。上面两页截图反映了现在深度神经网络等技术应用得比较好的一些领域。

　　常见的，比如计算机视觉应用中的检测，识别。语音识别。翻译。医疗影像分析处理等等。大家都比较了解。我这里也就不多赘述了。

　　下面举几个有意思一点的应用。

　　上图为Delft理工做的无人驾驶公交车

　　上图为Paypal做的fraud detection

　　图为NASA用一般的图片分类的方法对地形地貌进行统计