本港台开奖现场直播 j2开奖直播报码现场
当前位置: 新闻频道 > IT新闻 >

码报:【j2开奖】百度深度学习开源框架PaddlePaddle发布新版API,简化深度学习编程

时间:2017-03-12 17:07来源:香港现场开奖 作者:开奖直播现场 点击:
新智元启动新一轮大招聘 :COO、执行总编、主编、高级编译、主笔、运营总监、客户经理、咨询总监、行政助理等 9 大岗位全面开放。 简历投递:j [email protected] HR 微信: 13552313024 新

  新智元启动新一轮大招聘:COO、执行总编、主编、高级编译、主笔、运营总监、客户经理、咨询总监、行政助理等 9 大岗位全面开放。

  简历投递:j[email protected] HR 微信:13552313024

  新智元为COO和执行总编提供最高超百万的年薪激励;为骨干员工提供最完整的培训体系、高于业界平均水平的工资和金。加盟新智元,与人工智能业界领袖携手改变世界。

  【新智元导读】 本文来自百度PaddlePaddle团队成员骆涛,他在文章中介绍了百度深度学习开源框架Paddlepaddle新推出的API,它们能更好地支持分布式作业,有效减少程序代量,提供包括reader、reader-creator和reader-decorator的组合式概念,使数据操作可以反复起效。同时推出的还有新书《深度学习入门教程》,文内附免费获取地址。

  PaddlePaddle是百度于2016年9月开源的一款分布式深度学习平台,为百度内部多项产品提供深度学习算法支持。为了使PaddlePaddle更加易用,我们已经做了一系列的工作,包括使用Kubernetes集群管理系统来进行部署与运行。

  今天,我们很高兴地发布新API的Alpha版0.10.0rc1,以及《深度学习入门教程》。目前教程包括八个示例程序,均可以在Jupyter Notebook上运行,即用户可以通过网页浏览文档并运行程序。

  使用新API,PaddlePaddle的程序代将大幅缩短。下图对比展示了一个卷积神经网络在旧API(图左半边)和新API(图右半边)的效果。

  

码报:【j2开奖】百度深度学习开源框架PaddlePaddle发布新版API,简化深度学习编程

  新API能达到如此显著的代码简化效果,有以下三个关键的设计思想。

  一个新的概念模型

  我们的设计原则是:让用户在神经网络中表达和解决实际的问题,并用更加灵活的方式来描述新的深度学习算法。因此,直播,新模型包含以下几部分概念:

模型(model)是一个或多个拓扑结构的组合。

拓扑结构(topology)是一系列层的表达式。

层(layer)可以是任何类型的计算函数,包括损失(cost)函数。

有些层有梯度参数,有些层没有,大多数损失函数没有参数。

在一些拓扑结构中,层与层之间共享参数。

对于多个拓扑结构间存在参数共享的情况,PaddlePaddle能自动找出并创建这些参数。

  下面,通过两个例子来展示我们的一些设计思想。

  层与层之间共享参数

  假设我们要学习一个文本词向量f,训练样本是“对查询Q来说,搜索结果A比B更准确”,任务目标是:sim(f(A), f(Q)) > sim(f(B), f(Q)),也就是f(A)和f(Q)的相似度,大于f(B)和f(Q)的相似度。为了学习f,我们构建了一个三分支的网络结构:

  

  这里的模型实际上是x -> f,但我们需要重复三次来学习f,以下伪代码展示了如何构建这样一个模型:

  

码报:【j2开奖】百度深度学习开源框架PaddlePaddle发布新版API,简化深度学习编程

  拓扑结构之间共享参数

  假设GAN模型包含两个拓扑结构d0和d1,d0和d1之间共享了参数。因此在训练过程中,更新一个拓扑结构的参数时可能需要同时更新另一个。如果使用旧API,用户将不得不访问非常底层的API,这部分API接口通常相对晦涩,且文档不全。而使用新API,GAN模型仅需几十行即可,伪代码如下:

  

码报:【j2开奖】百度深度学习开源框架PaddlePaddle发布新版API,简化深度学习编程

  可组合的数据加载模块

  在工业届的AI应用中,数据加载部分通常需要大量的源代码。为了减轻用户的这部分工作量,新API的数据接口设计包含几个部分:

reader:从本地、网络、分布式文件系统等读取数据,也可随机生成数据,并返回一个或多个数据项。

reader creator:一个返回reader的函数。

reader decorator:装饰器,可组合一个或多个reader

batch reader:与reader类似,但可批量返回一个或多个数据项。

  下面展示了一个随机生成数据,并返回单个数据项的reader creator函数:

  

码报:【j2开奖】百度深度学习开源框架PaddlePaddle发布新版API,简化深度学习编程

(责任编辑:本港台直播)
顶一下
(0)
0%
踩一下
(0)
0%
------分隔线----------------------------
栏目列表
推荐内容