本港台开奖现场直播 j2开奖直播报码现场
当前位置: 新闻频道 > IT新闻 >

【j2开奖】深度学习在NLP领域成绩斐然,计算语言学家该不该惊慌?

时间:2017-04-18 03:16来源:报码现场 作者:本港台直播 点击:
机器翻译、聊天机器人等自然语言处理应用正随着深度学习技术的进展而得到更广泛和更实际的应用,甚至会让人认为深度学习可能就是自然语言处理的终极解决方案,但斯坦福大学

机器翻译、聊天机器人等自然语言处理应用正随着深度学习技术的进展而得到更广泛和更实际的应用,甚至会让人认为深度学习可能就是自然语言处理的终极解决方案,但斯坦福大学计算机科学和语言学教授 Christopher D. Manning 并不这么看,他认为深度学习确实能在自然语言处理领域有很大作为,但却并不能取代计算语言学。

深度学习浪潮

这些年来,深度学习浪潮一直冲击着计算语言学,而看起来 2015 年是这波浪潮全力冲击自然语言处理(NLP)会议的一年。然而,一些专家预测其带来的破坏最后还会更糟糕。2015 年,除了法国里尔召开的 ICML 大会,还有另外一个几乎同样大的事件:2015 深度学习研讨会(2015 Deep Learning Workshop)。该研讨会以一个 panel 讨论结束,正如 Neil Lawrence 在该 panel 上所说的:「NLP 有点(kind of)像是深度学习机器车灯前的一只兔子,等着被压扁。」很明显,计算语言学界需要慎重了!它会是我的道路的终点吗?这些压路机般的预测来自哪里?

2015 年 6 月,巴黎 Facebook 人工智能实验室开幕上,负责人 Yann LeCun 说:「深度学习的下一大步是自然语言理解,不只是给机器理解单个词的能力,而是理解整个句子、段落的能力。」

在 2014 年 11 月的 Reddit AMA(Ask Me Anything/随便问)问答上,Geoff Hinton 说:「我认为接下来 5 年,最令人激动的领域将会是理解文本和视频。如果 5 年内我们还没有在看过 YouTube 视频后能说出发生了什么的东西,我会感到很失望。数年内,我们将会把深度学习安置到能够放进耳朵那样的芯片上,并造出像巴别鱼(《银河系漫游指南》中出现的:如果你把一条巴别鱼塞进耳朵,就能立刻理解以任何形式的语言对你说的任何事情。)那样的英语解芯片。」

此外,现代深度学习的另一位泰斗 Yoshua Bengio,也逐渐增加了他们团队在语言方面的研究,包括最近在神经机器翻译系统上令人激动的新研究。

  

【j2开奖】深度学习在NLP领域成绩斐然,计算语言学家该不该惊慌?

从左到右:Russ Salakhutdinov(卡耐基梅隆大学机器学习系副教授)、Rich Sutton(阿尔伯塔大学计算机科学教授)、Geoff Hinton(在谷歌工作的认知心理学家和计算机科学家)、Yoshua Bengio(因在人工神经网络和深度学习的工作而知名的计算机科学家)和 2016 年讨论机器智能的一个 panel 的主持人 Steve Jurvetson,机器之心当时对此论坛进行了现场报道,参阅:《》

不只是深度学习研究者这么认为。机器学习领军人物 Michael Jordan 在 2014 年 9 月的 AMA 问答上被问到「如果在研究上你获得了 10 亿美元投入一个大项目,你想做什么?」他回答说,「我会使用这 10 亿美元建立一个专注于自然语言处理的 NASA 级项目,包括所有的方面(语义、语用等)。」他继续补充说,「我非常理性地认为 NLP 如此迷人,能让我们专注于高度结构化的推断问题上,在『什么是思想』这样的问题上直入核心,但明显更实际。它无疑也是一种能让世界变得更好的技术。」嗯,听起来不错。那么,计算语言学研究人员应该害怕吗?我认为,不!回到 Geoff Hinton 前面提到的巴别鱼,我们要把《银河系漫游指南》拿出来看看,其封面上用大而友好的字写着「不要惊慌」。

深度学习的成功

过去几年,深度学习无疑开辟了惊人的技术进展。这里我就不再详介,但举个例子说明。谷歌最近的一篇博客介绍了 Neon,也就是用于的 Google Voice 新的转录系统。在承认旧版的 Google Voice 语音邮件转录不够智能之后,谷歌在博客中介绍了 Neon 的开发,这是一个能够提供更准确转录的语音邮件系统,例如,「(Neon)使用一种长短期记忆深度循环神经网络(长舒一口气,whew!),我们将转录的错误率降低了 49%。」我们不都在梦想开发一种新方法,能够将之前顶级结果的错误率降低一半吗?

为什么计算语言学家不需要担心

Michael Jordan 在 AMA 中给出了两个理由解释为什么他认为深度学习不能解决 NLP 问题,「尽管现在的深度学习研究倾向于围绕 NLP,但(1)我仍旧不相信它在 NLP 上的结果强于视觉;(2)我仍旧不相信在 NLP 的案例中强于视觉。这种方法就是将巨量数据和黑箱的学习架构结合起来」在第一个论点上,Jordan 很正确:目前,在高层语言处理问题上,深度学习还无法像语音识别、视觉识别那样极大降低错误率。尽管也有所成果,但不像降低 25% 或 50% 的错误率那样骤然。而且可以很轻松地遇见这种情况还将持续。真正的巨大收获可能只在信号处理任务上有可能。

语言学领域的人,NLP 领域的人,才是真正的设计者。

(责任编辑:本港台直播)
顶一下
(0)
0%
踩一下
(0)
0%
------分隔线----------------------------
栏目列表
推荐内容