另外，这些数据可能会有一定的副作用，在我演讲的时候，我必须要去搜索引擎来找到信息，找到演讲的主要内容。如果我们有一个常识训练的数据，我们就能够很好地部署机器，通过物联网就能够有更多的指示，能够让计算机了解更多人类的常识。

　　最后一个问题，实际上也很重要，那就是谁能够为此出资。

　　4. 如何安全地部署 AI 自动化系统？

　　最后一个挑战，是我们都非常重视的安全的应用，最近 AI 的一些进展都鼓励我们要在一些高危应用方面来部署 AI，我们都谈到无人驾驶汽车，这是一个非常重要的 AI 系统。

　　还有自动外科手术的系统，主要是自动外科手术 AI，这个机器怎么样能够自动进行一些外科手术和其他一些协助？

　　现在已经有了 AI 的对冲基金，像在上海和一些其他的地方都有 AI 的对冲基金。

　　另外，人工智能的电网能够很好地持续供电，在包括风能、太阳能、核能方面都能够得到更好的应用。

　　那么，我们现在的挑战是什么？

　　我们知道，机器学习还有软件工程都可能会有失败的模式，所以我们现在很难解决安全的问题，需要来执行很多的系统来应对这个挑战。

　　还有用户界面失败的例子，我们已经谈到了这方面的例子，比如说如果是飞行员或者司机没有给到正确的指示就会发生不好的事情。

　　接下来谈一谈自动体系的两个风险，一个是网络攻击，另一个是人类对于系统的监督和监管。当然，以 AI 驱动的软件毕竟也是软件，所以当然它跟其他的软件一样，都是有弱点的，像是网络袭击，也是会攻击到这个体系——当然，对于 AI 系统，可能需要有一些新的攻击方式。

　　如果训练用的数据集遭到污染，可能会影响到认知系统，罪犯可以用这样的技术，影响推荐系统、广告系统，也能够影响股票的价格。同时，有很多 AI 系统人类是不能够很好监管的，它可能会运转的速度很高，人还没有反应过来，就可能没有监管到机器的运行。几周之前在英国发生了一起事故，在华尔街那里也发生过类似的事件。

　　还有一个例子就是系统的控制进程非常慢，比如说人类从地球到火星上面的沟通过程不可能特别得快，还有在空间得不到无线射频，当然还有对人类的注意力，可以慢慢减少。我们看99%的情况下，自动驾驶都是没有任何的问题，但是人类仍然需要来进行监控，如果说人在自动驾驶的车上来做其他事情，或者说分心，也可能会出事。

　　系统不是百分之百完美无缺的，我们也需要让人类来承担一定的责任。人不可能坐视不管，或者完全分心。在自动系统中也是如此，我认为我们应该是非常小心谨慎地向前迈进，尤其是在一些高风险应用的时候。

　　在你的手机上去载一个软件，比如下载一个语音识别APP，这种下载和自动驾驶是不一样的概念。如果在用在武器上出了问题，那在武器上出的问题和下载的时候下载不下来出问题又是完全不同的两个概念。但不管怎么说，我们在错误的改进方面还是取得了很多进步。