人类历史上从来没有创造过这样一个机器，这个机器的行为和判断连人类都不能完全理解。今天我们创造了深度学习的机器不能判断和解释自己的行为，这就是今天我们感觉到不舒服的。人们反而问自己，我们自己作出了很多判断我们自己能够说清楚为什么做的吗？可是人类可以容忍自己的这种情况，但是不能容忍机器的这种情况。美国国防部就将机器学习的不可解释性定性为“关键的绊脚石”。

　　当然未来一定是说，人们需要跟机器不断合作。我们看动物到人的进化，其实智力进化的本质特征是进化到一个系统，这个系统连创造者都无法解释。今天我不敢保证上帝理解我们今天做的这么多的事情。为了这个担心，研究人员已经开始在进行一些分析，来试图理解或者跟踪这种决策的过程。

　　终级目标，机器和人到底有什么区别？

　　它比你来得快，比你大，某些能力比你还强。它和人类区别在哪儿？

　　求生本能，对于死亡的恐惧，这是机器没有的，这是定义出人和机器一个根本性的区别。人和动物的演化速度，一系列的求生本能，被打了会跑，避免疼痛，会食色，会有归属感。人类做坏事也是因为对死亡的恐惧，对欲望的驱动。机器本身目前为止因为它不惧怕死亡，所以也没有感情，没有感情是不是就不能说有智能呢？这是一个宗教问题，不是一个科学问题。

　　讲完了机器学习我们到此打住，我时间到了，很快讲一下AI投资的判断。

　　5、AI投资的机会与陷阱

　　在对AI投资的判断中，产业链包含：基础，技术，应用；基础被巨头控制，技术层面能否出来一些公司依然存疑；应用层要寻找能够大量产生数据的产业。

　　过去经验也告诉大家，每一波科技浪潮中会有一些平台性的公司。我们谈AI投资，到底投什么？就像我们谈PC的投资，谈互联网的投资我们是谈生态链。

　　在对AI投资的判断中，产业链包含基础、技术，应用。基础这个层面已经被巨头控制了，基础层有两大块：基本计算能力和数据。基本计算能力无论是谷歌还是微软，包括中国百度都已经把它作为SaaS服务提供出来了。技术这一块，没有数据能否成为一个平台？。在SaaS这一块，不是通用的SaaS，也许在SaaS应用这一块能够出来一些公司？这也是一个非常大的问号。

　　应用层中，AI其实是AI+这个场景，它是一种生产力提高的工具，会让所有以前的应用变得更加有效，当然你要找比较容易突破的。显然这个钱多和数据多的行业是最早发挥功效的地方。所以我们要找这个产业是不是大量产生数据，是否有这个数据能够不断拓展，不断创造价值，从而使得我们能够在这一里面把原有的生态进行改变。

　　如果说上一波是互联网，这一波是AI。大家要注意AI跟互联网的区别。最简单的可以说，AI发展到一年多以后我们就发现实际上是智能+。AI技术驱动，更加从垂直开始。因为技术本身发展的太快了，而互联网是商业模式创新，是全新的应用，赢家通吃在AI那一块未必行得通。

　　根据这个观察可以看一下今天AI投资的情景，今天AI显然是有很多泡沫，最大的泡沫我觉得是在估值公司。你去你找一家公司谈，每一家公司都说我自己是AI公司。真正看这家公司是不是AI公司，更重要的是它要有数据。能够不断有数据，它能够不断抢占数据的高低，这是我们的核心。

　　今日头条这家公司，之所以能够站稳，在过去五年之间突然出现，有它一个根本的原因，那就是信息的获取这个大的需求。今日头条在人工智能开始使用的时候迅速占领高地，它第一个用搜索的方法做了新闻推荐，从而它本身这个系统就是一个很大的学习网络，使得今天能够不断的演化，推荐的能力不断增强，从而在这个基础上对核心的能力进行突破。我们完全可以预测未来的今日头条就是一个超级的智能系统，同样我们看到了它的数据量是如此之大，它已经远远超过了一开始的文字到今天走向图象，走向论坛，走向直播，它其实所具备是不断增加的数据。