本港台开奖现场直播 j2开奖直播报码现场
当前位置: 新闻频道 > IT新闻 >

wzatv:【j2开奖】TensorFlow 工程总监 Quora 问答:深度学习系统瓶颈及用户痛点

时间:2016-10-02 01:40来源:报码现场 作者:j2开奖直播 点击:
【j2开奖】TensorFlow 工程总监 Quora 问答:深度学习系统瓶颈及用户痛点,深度系统官网

翻译:弗格森 刘小芹

  新智元祝读者国庆节快乐!

  ? 业界领袖回溯60年AI历史,全球对话人工智能未来挑战,权威发布2016世界人工智能名人堂及中国人工智能产业发展报告;? 国际大咖“视频”远程参会, Bengio 和李飞飞联袂寄语中国人工智能;? 探秘讯飞超脑及华为诺亚方舟实验室,最强CTO与7大研究院院长交锋;? 滴滴CTO与百度首席架构师坐镇智能驾驶论坛,新智元三大圆桌阵容史无前例;? 中国“大狗”与"X-Dog"震撼亮相,龙泉寺机器僧“贤二”卖萌。

  【新智元导读】TensorFlow 工程总监Rajat Monga9月29日在Quora 上答疑,直播,就深度学习效率瓶颈、TensorFlow 用户的痛点、如何用TensorFlow进行计算机视觉研究以及Theano 和TensorFlow的关系等8大问答回答网友提问。他认为,目前TensorFlow用户面临的主要两大难题是模型实现和建立模型所需要的高水平数据库。另外,视频上的图像信息的连续性可以让无监督学习算法在不需要参考的标签的情况下直接提取有价值的图像信息,这是让机器拥有人类水平的视觉能力第一个关键。

  

wzatv:【j2开奖】TensorFlow 工程总监 Quora 问答:深度学习系统瓶颈及用户痛点

  1. 提高深度学习系统效率的瓶颈是什么(2016年)?

  最近几年深度学习取得了一些成绩,主要归功于以下三个要素的综合:

算法:这方面有了一些进展,但最近的很多成果都是来源于相当古老的想法。现在深度学习也有了一些成果,我们也看到了一些进步。

数据集:缺乏足够大的数据集的话,训练大型网络就会有困难。MNIST已经达到了最大限度。像ImageNet这样的数据集确实对推动视觉研究有帮助。

计算:我认为最大的改变发生在最近几年。由于我的系统背景,我会有一些偏见,但是计算在一些深度学习的早期成果中起到很大作用。例如谷歌大脑2011年的cat paper,以及2012年Krizhevsky等人的ImageNet成果把深度学习带入了计算机视觉的最前线。

  但是,为了让深度学习更有效,所有这些都还有很长的路要走。

计算:计算仍然是个挑战,尽管我们有了定制芯片,但后续的需求更多。

数据集:由于现有的算法多数需要监督,需要更大的数据集以推动新的研究。谷歌在这方面投入了许多,最近已经发布了和两个机器人数据集。

算法:不要低估了算法这部分。像ReLu,Dropout,序列到序列和对抗生成式算法这些 idea 带来了很大的改变。

计算,我们不大可能在传统的硬件条件下得到1000倍的计算能力的提高。这需要算法和计算的协同设计,例如,我们能做出一个1000倍参数,但只需10倍计算能力的模型来吗?我认为做出能解决这个问题的稀疏化模型将会带来巨大的改变。

  2. TensorFlow最大的用户痛点是什么?怎样对付它们?

  TensorFlow用户常提问的两个方面是:模型实现和建立模型所需要的高水平数据库。我们已经在这两方面有了很大的进展:

模型:在社区的帮助下,我们在GitHub上的模型集(https://github.com/tensorflow/models)越来越多了。此外,有相当部分是TensorFlow用户和作者本人在研究论文中实现过的模型。这些只需在GitHub上简单搜索就能找到。

库:我们在tf.learn上有了很大的进展,而且应用广泛。此外,Keras是使用TensorFlow的另一个很好的库。

  3. 深度学习在视频上的应用潜力有哪些?

  视频有很多有趣的地方。虽然我们在ImageNet的成果让我们在视觉上取得了重大突破,但是,我们距离人类水平的视觉依然还很远,其中一些原因是:

我们从图像上获得的可用信息依然有限,因为照片记录的只是快门按下瞬间的信息。

缺乏大型的标签数据集。虽然 ImageNet 很不错,但是要想延伸到所有人类可以识别的物体种类,还是非常困难。

  视频有潜力能解决这两大难题,帮助机器获得人类水平的视觉。每一段视频中,彼此相关的、连续的帧提供了关于现实世界更丰富的信息,让模型可以创建3-D的视角来看世界,但是不需要立体是视觉。此外,连续的帧也使得无监督学习算法可以在不需要参考的标签的情况下直接提取有价值的图像信息。

  4.怎样利用TensorFlow进行计算机视觉研究?

(责任编辑:本港台直播)
顶一下
(0)
0%
踩一下
(0)
0%
------分隔线----------------------------
栏目列表
推荐内容