本港台开奖现场直播 j2开奖直播报码现场
当前位置: 新闻频道 > IT新闻 >

【j2开奖】【Github 6481 颗星】牛津大学 DeepMind 2017 深度 NLP 课程

时间:2017-03-13 01:39来源:668论坛 作者:118开奖 点击:
译者:张易、李静怡、刘小芹 新智元启动新一轮大招聘 :COO、执行总编、主编、高级编译、主笔、运营总监、客户经理、咨询总监、行政助理等 9 大岗位全面开放。 简历投递:j ob

译者:张易、李静怡、刘小芹

  

  新智元启动新一轮大招聘:COO、执行总编、主编、高级编译、主笔、运营总监、客户经理、咨询总监、行政助理等 9 大岗位全面开放。

  简历投递:j[email protected] HR 微信:13552313024

  新智元为COO和执行总编提供最高超百万的年薪激励;为骨干员工提供最完整的培训体系、高于业界平均水平的工资和金。加盟新智元,与人工智能业界领袖携手改变世界。

  【新智元导读】牛津大学DeepMind 联合推出了《NLP深度学习课程》,专攻基于深度学习的自然语言处理,涉及递归神经网络、B-P、LSTM、注意力网络、记忆网络、神经图灵机等技术要点。新智元整理了这门课程及其亮点。无论你是否专攻自然语言处理,对深度学习感兴趣的人都能从中受益。

  在2017年1月开始的这个学期,牛津大学联合 DeepMind 自然语言研究团队,推出了“NLP深度学习”这门课程(Deep Learning for Natural Language Processing)。课程共 8 周。内容涵盖语言理解、语音识别、语音合成、机器翻译、图像理解、语义结构等。

  课程组织者、牛津大学计算机系副教授、DeepMind 研究员 Phil Blunsom 表示,这门课程呈现的是深度学习技术在 NLP 领域的应用情况,虽然在深度学习之外还有许多和语言学、计算语言学相关的内容以及许多有趣的范例,但这门课专注于深度学习自然语言处理

  Phil Blunsom 说:“人工智能是今天最有趣的研究领域之一,而语言则是智能最引人关注的表现形式。”

  不消说,这门课从还没有开课起便吸引了大量的关注,不仅仅是由于“牛津”以及“DeepMind”的名号和质量保证,也是因为这门课将讲义、习题等很多内容都放在了 Github 上,不断更新,供大家讨论。

  因此,今天新智元特意为大家介绍这门课程及其亮点内容。无论你是否专攻自然语言处理,对深度学习感兴趣的人都能从中受益。

  根据牛津课程官网介绍,“深度NLP”是一门关于自然语言处理的高级课程。自动处理自然语言输入和产生语言输出是人工智能的关键组成部分。人类沟通中固有的模糊和噪声使传统的符号化 AI 技术无法有效地表征和分析语言数据。最近基于神经网络的统计技术已经在自然语言处理中取得了许多了不起的成就,在该领域吸引了大量商业和学术兴趣。

  此外,这还是一门应用课程,重点是使用递归神经网络分析和生成语音和文本的最新进展。这门课会介绍相关机器学习模型的数学定义,并引出相关的优化算法。课程涵盖了NLP 中神经网络的一系列应用,包括分析文本的潜在维度,将语音转成文本,在语言之间进行翻译以及问答系统。这些题目将被纳入三个更高级别的主题,依次是理解神经网络在序列语言建模中的应用,理解它们作为条件语言模型在转换任务中的应用,以及把神经网络技术和高级应用中的其他机制相结合的方法,层层递进。对于这些模型在CPU和GPU硬件上如何实现的讨论也会贯穿整个课程。

  通过这一课程的学习,学生将会:

理解一系列神经网络模型的定义

能够推导和实施这些模型的优化算法

理解注意力机制和序列嵌入模型的神经实现,以及如何组合这些模块化组件来构建最先进的NLP系统。

对语言数据的可扩展神经网络模型的实现中固有的硬件问题有所认识

能够执行和评价一般的神经网络

  牛津深度 NLP 知识点提纲

  本课程将会涵盖下列主题:

介绍/结论:为什么选择使用神经网络技术处理自然语言;本课程和NLP、计算语言学以及机器学习的关系;

简单的递归神经网络:模型定义;优化算法中的反向传播(B-P);小规模语言建模和文本嵌入

高级递归神经网络:LSTM和门循环单元(Gated Recurrent Units);大规模语言建模,开放词汇语言建模和词法学

批梯度下降(minibatching)和GPU实施问题;

语音识别:语音建模和端到端语音模型中的神经网络

Sequence to Sequence模型:从嵌入中生成;注意力机制;机器翻译;图像标题生成;

问答系统:问答任务及范例;用于问答系统的神经注意力机制和记忆网络;

高级记忆:神经图灵机,Stack以及其他架构;

语言模型:利用递归网络进行句法和语义分析

  涉及技术

(责任编辑:本港台直播)
顶一下
(0)
0%
踩一下
(0)
0%
------分隔线----------------------------
栏目列表
推荐内容