我们很清楚这些机器人，这些人工智能系统最重要的一个特征就是识别它们不知道什么、不能做什么和不能理解什么，然后才向人类求救。你能按下电梯按钮吗？打开一扇门？或拿些东西放在我的篮子里，这就是我们所称呼的共生自主（symbiotic autonomy）。机器人能够对那些它不能做的、不知道的或不理解的问题自主地向人类寻求帮助。这是一种新的思路，我们将有一些围绕在我们周围并将寻求我们帮助作为它们部分任务的人工智能系统。

当这种系统实现规模化时，共生自主会以更复杂的方式发生。系统已经能用无线交流了，它在云端交流数据，或获得远程团队的协助。你可以认为人工智能系统能和其它所有事物永远成为一个共生系统，比如网络上的信息、其它人工智能系统和旁边的人类或远处的人类。它成为一个独立运行的人工智能系统也是完全没有问题的，但是一个人工智能系统要意识到什么时候它不知道、什么时候它需要信息、什么时候该用一些概率来思考问题都是不确定的。它不能预先解决所有问题，但它能依赖于周围其他的帮助来解决，这也就是我所设想的。

问：你怎样看待共生关系改变下已有的人工智能系统？

答：所以让我们返回去设想向人工智能求教怎样决策上哪所学校或投哪种健康保险。我猜想这些人工智能系统将在某种情况下需要一些人类没有提供的信息。人工智能系统也将意识到如果它们知道那些额外的特征，这将会帮助我们更好地决策。

真正有趣的是什么时候人工智能系统能自己认识到它们缺失了些什么信息。它们意识到是否能有更多的信息，是否能做一些明确的行为，例如它们是否能够预订那家网上订不到房间的旅馆、是否能给你订一个离开会地更近一些的旅店。我真的认为这种能力是很重要的，因为我不打算知道需要做某些决策的所有信息。

现在我们用的 Uber、谷歌地图或 Waze 通常对路线的的规划已经是做得很不错了，然而 Waze 会反过来问你「你现在饿了吗？我能给你一条最短路径吗？你喜欢走这条岔路看看更美的景色吗？」。如果智能助手知道我十分喜欢兰花、十分喜欢某种艺术那有怎么样？我只要稍稍地偏离路径，我就能看到更好的博物馆。它在路线规划中并不知道这些，如果知道这些，那么它一定会规划一条通过博物馆的路。

问：许多现在的人工智能系统专门从事某一具体的任务，如对象识别或路径优化，但是这就导致了十分孤立的专家系统。我很好奇为什么你想的是带领我们返回一种软件中更为泛化的智能。

答：通用人工智能问题是极端困难的，我也确信深度学习就是其要求的技术基础，深度强化学习也会为通用人工智能加把料。我们也在做许多这种理解迁移学习概念的研究。我们是怎样有这些算法的——是因为它们能够从事特别的任务，但同样还能学习更多其它东西吗？我们并没有真正理解人工智能，我们还不知道做很多的事情。按照算法与技术、泛化的方法和提供解释的方法来看，我们的人工智能还真正处于婴儿期，关于很多这些事情我们还束手无策。

我真的认为通用人工智能有一天能从聚合人工智能专家系统中诞生出来，就像 Minsky 描述的那样合并他们就成为了一种心智社会（Society of Mind）。你也可以用一些特殊目的的算法来解决特别复杂的问题，就像 Simon 和 Allen Newell 在人工智能刚开始研究时预测的那样。

所以通用人工智能是极其困难的，但因为现在这么多的数据它又是极其令人兴奋的。现在有很多人在使用电子设备并产生数据，而且越来越多的人在使用计算机、手机、Alexa 和 Uber，所有这些都给我们在研究通用人工智能铺平了道路。我们仍然还有很多研究要做，仍然不知道通用人工智能系统确切的样子，但是我们在一条正确的道路上。

问：你曾经担心过这种不确定性吗？有一些担忧是当人工智能超越人类的智能，那么人类也将会灭亡。