选自Google Research Blog 机器之心编译 2016/1229/186836.html">谷歌2016/1030/163142.html">大脑负责人 Jeff Dean 在当地时间 1 月 11 日于硅谷人工智能前沿大会 AI Frontiers 现场对谷歌大脑中的深度学习相关工作进行了概述和回顾。会后 Jeff Dean 告诉机器之心,直播,次日谷歌博客将发表一篇与演讲主题类似的总结性的文章,对谷歌大脑过去的工作做出更加系统的回顾。本文后还附有本文涉及的部分资源的汇集以及机器之心的相关报道。 谷歌大脑(Google Brain)团队的长期目标是创造更智能的软件与系统,从而改善人的生活,我们通过在多种不同的领域中纯科研的和应用型的研究追求这一点。鉴于这明显是一个长期的目标,我们想回过头看看过去一年中谷歌大脑团队已经取得的进展,并分享一些我们的 2017 愿景。 研究成果发表 评判研究质量的一种重要途径就是看我们在 ICML、NIPS 和 ICLR 这样的国际顶级机器学习会议上发表的论文。去年,这些大会一共接受了我们团队提交的 27 篇论文,这些论文的涵盖范围非常广,包括程序合成(program synthesis)、网络之间的知识迁移、机器学习模型的分布式训练、语言生成模型、机器人的无监督学习、自动定理证明(automated theorem proving)、对神经网络的更好理解以及改进强化学习的算法等等。另外,我们还有一些论文被其他领域的一些大会所接受,例如自然语言处理领域的 ACL 和 CoNNL 大会、语音领域的 ICASSP 大会、机器人学领域的 ISER 大会,计算机系统领域的 OSDI 大会。我们的团队向即将到来的前沿深度学习研究会议 ICLR 2017 提交了 34 篇论文。你可以通过 https://research.google.com/pubs/BrainTeam.html 了解我们以往发表的论文。 自然语言理解 让机器能够更好地理解人类语言是我们研究的关键环节。在 2014 年年末,三位谷歌大脑团队的研究者发表了一篇题为《使用神经网络的序列到序列学习》(Sequence to Sequence Learning with Neural Networks)的论文,展示了这种方法在机器翻译中的可用性。2015 年,我们表明这种方法同样还可以应用在生成图像标题、分析句子和解决计算几何问题当中。2016 年,之前的研究(再加上很多的改进)达到了顶峰,谷歌大脑团队的成员们和谷歌翻译团队的成员密切合作,将谷歌翻译的翻译算法用一种完全端对端的学习系统所取代。这个新系统将旧系统和人类高质量翻译对一些语言对的翻译差距缩小了 85%。几个星期后,我们展示了系统如何做「zero-shot 翻译」,学习翻译那些它从未见过的样本句子对的语言。此系统目前已被部署在了谷歌翻译服务中,其所能处理的语言对的数量也越来越多;从而能为我们的用户提供更高质量的翻译,并让人们能够跨越语言障碍更有效地进行沟通。Gideon Lewis-Kraus 在 2016 年 12 月《纽约时报杂志》的《人工智能的觉醒(The Great A.I. Awakening ())》一文中记录了谷歌翻译的历程(同时也记录了深度学习和谷歌大脑团队的历史)。 机器人 传统机器人的控制算法是精心设计并人工编程而完成的,因此将新的能力嵌入到原有机器人中是一个非常费力的过程。我们相信机器人通过机器学习自动学习获取新技能是一个更好的办法。在 2016 年,我们与 X 的研究团队合作,演示了机械臂是如何学习手眼协调的,我们的机器人在这项研究中大概进行了 80 万次的抓取试验,它们自己汇集经验然后教自己如何更快地完成任务。随后,我们研究挖据了机器人学习新技能的三种方式:通过强化学习(reinforcement learning)、通过它们自己与物体的交互以及通过人类的演示进行学习新技能。我们将在这项工作的基础上继续完成我们的目标,即让机器人能在纷繁复杂的现实世界环境中灵活地学习新任务技能与操作方法。 医疗保健 我们对机器学习增强执业医师诊断能力的潜力感到十分兴奋。作为这种潜力的一个示例,我们在美国医疗学会学报(Journal of the American Medical Association /JAMA)上发表了一篇论文《Development and Validation of a Deep Learning Algorithm for Detection of Diabetic Retinopathy in Retinal Fundus Photographs》,并证明了用于图像诊断视网膜糖尿病视网膜病变(diabetic retinopathy)的机器学习系统可以与职业认证的眼科医生达到同等的程度。如果早期糖尿病性视网膜病变没有检查出,现如今将有 4 亿人口存在失明的风险。但是在许多国家,职业眼科医生的数量太少从而不能进行必要的检查,而这个技术将能帮助确保更多的人接受适当的检查。同时,我们还在其他的医疗影像领域内做一些研究,并调查使用机器学习预测其他医疗任务的潜力。我们相信机器学习不论是从质量还是效率都能提升医师和患者的治疗体验,2017 年我们将在这个领域内做得更多。 音乐与艺术的生成 (责任编辑:本港台直播) |