他认为，虽然现在所有的发展都是非常让人欣慰的，但是确实还是噱头在里。人们需要审慎考虑，不要因为过度的期待而觉得失望。在大家对人工智能取得巨大进步而感到自豪的时候，也有可能出现 AI 的寒冬。「我们上一次 AI 寒冬是因为这个技术的前景和一些承诺。很多人可能都不太记得当时的内容，是 1980 年左右的一些技术，当把它放到真实的世界当中时并不是非常的奏效。那时深度学习也不太受欢迎。但是如今我们可以更新现代的技术，可能未来对训练资料、数据的要求也不用再那么高。」对此，Russell 称，假设让一个小孩看大象的图片，给小孩子两、三张大象的图片他就能够识别了，而非给他 4000 多张图片进行训练。所以可能将来技术先进到一定程度的时候，人们对它的依赖就不再那么大。

过去五十年的 AI 发展给人们的一大启示——知识是非常重要的，人类能够高效的学习是因为一开始人类就有很多知识，知识使得人类能够从非常少的案例中完成学习。这里，Russell 提到了一种概率规划，并举例核武器测试网点等概率规划的应用。

对于人工智能的现在、未来以及眼下仍无法实现的问题，Russell 也给出了自己的观点。

「虽然我们缺失的东西很多，但是我们已经能够预见到，不远的讲来，AI 系统就能够像人类一样，具备相同的能力了。」有的人可能认为这是一个天方夜谭，但是 1933 年，一位非常有名的物理学家 Lord Rutherford 曾说过，任何想抽取原子转变能力的人都是在在异想天开。然而第二天 Leo Szilard 就发明了中子诱导核链式反应。

人工智能可以让人类做更多的事情，把人类文明推向更积极的方向。但是也有出现杀人机器的可能性，成为一种大规模杀伤性武器新品种，引起人们的种种担忧。

问题的关键是，人们需要确保给机器赋予的这些功能确实是想让它拥有的，但是也可能人们赋予它的功能并不是人们最初期待的。Russell 举了点石成金的国王将食物、水、饮料，甚至他的女儿都变成了金子后痛苦去世的故事。对于这个问题，Russell 的见解是要改变 AI 的定义，AI 系统要能够被证明可以给人类带来益处。为了实现这个目标，有三个简单的方法：「第一点，机器人的目标就是使得人类的意愿最大化的实现，就是说机器应该使得人类的意愿得到满意，而不是让机器给我们创造一种让人类感觉不舒适生活。第二点，机器人不知道什么是价值，我们不要给机器有一个固定的价值系统。第三点，人类的行为给机器提供参考。」

演讲的最后，Russell 提出了两个非常有趣的例子。第一个例子是关于个人助手要帮助更需要晚餐的人而选择不帮助主人准备晚餐。

第二个例子是孩子在家感到饥饿的时候，家里冰箱没有东西，机器人选择家里的猫作为食材准备晚餐。

这样的机器人是好是坏？未来人工智能到底会走向何处？Russell 给出了自己的答案：「AI 需要对人类有贡献，要想做到这点是一个技术性的问题，我相信我们能够解决这个问题。」

　　更多有关GMIS 2017大会的内容，请点击「阅读原文」查看机器之心官网 GMIS 专题↓↓↓