这种专家系统没有成功的原因有很多。主要障碍之一是采访专家所需时间太长。专家必须花两三个星期，告诉程序员他们如何进行日常工作、如何进行推理，等等。

　　从科学角度来说，基于规则的系统就是错误的。它们为专家建模，而不是对疾病本身建模。问题在于，程序员创建的规则没有正确的组合。当添加更多新的规则时，你必须撤消旧的规则。它是一个非常脆弱的系统。例如，如果医院出现程序上的变动，整个系统都必须得重写。而且我们这里谈的规则不是一两个，而是有数百个，包括专家（在这个例子中是医生）理解的所有互动方式；当专家输入100 条规则，可能就已经忘了前面几条。

　　我不喜欢基于规则的系统的另一个原因是它不具有科学透明性。我很懒。所以我需要了解我在做什么，我需要了解它的数学理据。基于规则的系统在数学上是不稳定的。数学可以优雅地告诉你：“如果你的过程没出错，就能保证得出确定的结果。”这种保证令人愉快，但基于规则的系统缺乏这种保证。

　　上世纪 80 年代初，我们从基于规则的系统转变为贝叶斯网络时，出现了一种新的思路。贝叶斯网络是一个概率推理系统。专家可以把自己对所在领域的专业知识输入其中，这和专家系统的目标是一致的。这一思路是对某个领域而不是应用过程建模。拿疾病的例子来说，你需要把疾病相关的局部概率知识和相关变量表现形式输入，如果你观察到一些证据，计算机将会采纳并在需要的时候激活这些概率知识，并为你计算出新的证据所需要的修正概率。

　　这就是证据引擎。它会被填入一个关于某个领域的概率描述中，当新的证据出现，系统会对相关的信息进行处理，然后会在所有的命题中为你提供你的修正后的信念（belief），通过修正来反映新的证据。

　　贝叶斯网络主要卖点：可重组和透明

　　问题在于紧凑性和速度，这是两个主要的障碍。理论上，信念修正需要指数级的时间和指数级的存储能力，而这些难以提供。

　　知识构建者理解哪些事实是相关的，哪些是无关的，这是我们的优势。这给了我们一个稀疏的网络，而当你有一个稀疏的网络，就可以利用它的稀疏性，获得速度和紧凑性。贝叶斯网络是一种在告诉它初始信念后，快速计算出修正信念的方式。这显然是飞跃性的进步，因为它具有概率演算的所有有利属性，再加上基于规则的系统的程序优势。而且，它是透明的。

　　贝叶斯网络流行起来并且起作用的主要因素是“可重组性”。例如，假如任务是检修汽车发动机，当燃油泵被更换，你不必重写整个系统；你只需要修改负责给泵建模的子系统，其余都可以保持不变。因此，可重组性和透明性是贝叶斯网络的主要卖点。

　　我的贡献在于：1）通过概率演算的命令做事情；2）异步分布式计算的仿生结构。你从一个简单的模型集开始，比如神经网络，所有的工作都是自主的，而且只与它们的相邻的模块通信。当有新的证据进来，会激活这样几个模块，让它们像临近的模块发送信号，临近的模块再被激活，再传递信息给它们的邻居，如此继续——直到系统得到正确的信念。正确的信念是什么意思呢？就是假如你有足够的时间，根据概率演算的命令做正确的事情，就会计算出来的信念。

　　深度学习有哪些缺陷

　　概率推理还处于胚胎时期时，我就抛弃了它，因为我对因果推理热心起来。当时很多人发现概率推理非常有用。有人告诉我，现在的一些很好的应用程序比如Google和Siri都应用了当时的理念或者算法，这让我很开心。我不知道他们实际上在做什么，部分原因是他们非常保密，部分是因为我转去了其他的方向。

　　我们现在的深度学习失去了透明性。我有跟那些说深度学习“效果很好”的用户交谈过，但他们不知道为什么效果好。一旦解开了它的束缚，它会有自己的动态性，会自己做修复，做优化，而且大多数情况下能得出正确的结果。但当它被束缚，你就没有线索知道它哪里出了错，哪里需要修复。这是让我担心的事情。