|
技术顾问：Yuxi Li 当地时间 10 月 27 日，Creative Destruction Lab 在多伦多举办了 2016 机器学习与智能市场（2016 Machine Learning and the Market for Intelligence）会议。会议云集了人工智能投资及科研界众多世界级明星。在下午的科研分论坛上 Yoshua Bengio、Geoffrey Hinton、Richard Sutton 和 Ruslan Salakhutdinov 等机器学习领域的巨星人物聚首于此，以接下来 1-5 年的人工智能方面的前沿科研方向为主题进行了公开探讨，并分享了很多有价值的知识和经验。机器之心现场观摩了这些大师级人物对机器学习技术、应用和未来的探讨。未来一段时间，机器之心将陆续发布对本次会议内容的独家整理报道。 整理内容如有疏漏之处，请不吝指正：留言或发送邮件到 [email protected]。 以下为机器之心的分论坛现场整理。 Yoshua Bengio、Geoffrey Hinton、Richard Sutton 和 Ruslan Salakhutdinov 同台共同探讨人工智能这一研究领域的接下来 1-5 年的人工智能方面的前沿科研方向。 这个明星小组论坛的主持人是科技领域的明星风投公司 DJF（Draper Fisher Juvetson）的合伙人 Steve Jurvetson。Steve 曾经投资过 Hotmail、Tradex、SpaceX、Nervana、D-Wave 和特斯拉等众多明星科技创业公司，他还拥有世界上第一辆 Tesla model S 和第二辆 Tesla model X（第一辆在 Elon Musk 手里）。但是，即使是 Steve，主持这场大师云集的小组论坛还是很有压力。
本次小组论坛的主题是「What's Next?The Research Frontier（接下来是什么？研究前沿）」。论坛开始，Steve 先请每位小组成员分别讨论自己对人工智能领域，其是机器学习领域下一阶段的科研方向的看法。 下一步，去向何方？ 在未来的一年里 Bengio、Hinton、Sutton 和 Salakhutdinov 教授认为都有哪些问题需要解决？我们会在哪些方向取得进展？ Yoshua Bengio Yoshua Bengio 教授与 Hinton 教授和 LeCun 教授是深度学习崛起背后的领军人物。从 20 世纪 80 年代到 90 年代再到 21 世纪前几年，在那段很少有其他人看到深度学习的发展潜力的时间里，他们三位一直在培养和孕育深度学习。
Bengio 教授列出了两个方向： 1. 解释性的无监督学习（Explanatory Unsupervised Learning） 1）当前的模型通过提取表面的规律来解决表面的问题。Bengio 教授给出了一个图像识别系统的例子。该系统可以被各种各样的色调愚弄，比如背景绿化仍会增加物体被识别成野生动物的可能性。 2）机器无法做到人类非常擅长的无监督学习。即使两岁孩童也能理解直观的物理过程，比如丢出的物体会下落。人类并不需要有意识地知道任何物理学就能预测这些物理过程。但机器做不到这一点。 3）处理罕见的危险状态所需要的带有隐变量（latent variable）的预测 (（predictive）,，因果（causal）和解释性（explanatory）模型 a. 研究和开发带有隐变量的模型非常重要 b. 为什么带有隐变量的模型很重要？因为在可观察到的事物与观察不到的事物之间存在因果关系 c. 除了要有更好的模型，处理无标签数据也很重要。无标签意味着没有进行人类解读。 d. Bengio 教授给出了一个关于开发安全的自动汽车的例子：自动汽车应该要能搞清楚其在训练过程中从未见过的危险状况。 4）基于模型的强化学习、域适应（domain adaptation）、半监督学习、多任务学习等的应用。Steve 问 Bengio 教授因果模型（causal model）是否能以一种无监督的方式衍生出来。Bengio 教授认为无监督将会是一个关键的组成元素，但我们必须使用所有的信息源。我们既应该使用有标签数据，也需要无标签数据。事实上，我们遇到的数据大多是无标签的，也就是说没有提供人类的注解。
2. 记忆（Memory） Bengio 教授还提到未来几年记忆（memory）将成为一个热门的研究领域。为什么记忆会在这个领域如此重要呢？因为记忆与推理存在紧密的联系。从本质上讲，推理就是各种信息的组合过程。为了能够得出能够准确预测未来的结果，你需要有合理的预测步骤。这个过程会在很大程度涉及到记忆。 Geoffrey Hinton Hinton 教授是第一批使用反向传播算法来训练多层神经网络的研究者之一，他也是深度学习社区的一位重要大师。
|
