英伟达开源很好，英伟达有很厉害的工程师——我们团队里就有很多来自英伟达的工程师。但是，制作供大众使用的处理器，开源并没有多大的作用，至少我认为如此。但我是个神经科学家，或许我是错的呢：）

类脑芯片前景：去模拟一个你不理解的东西是没有道理的

新智元：是的，你拥有神经科学背景，Nervana 的芯片也借鉴了神经科学原理。你怎么看类脑芯片的前景？

Amir：类脑芯片或者说神经形态计算在上世纪 90 年代由加州理工的 Carver Mead 提出的，他认为你能用模拟芯片模仿人脑神经元和突触的活动。人脑神经冲动传递是一个逐渐的过程，只有当积累的电量超过一个设定的界限时信号才会通过，因此能耗非常低。Mead 将这个概念进一步发展，认为能制作芯片，用类似的方式进行计算。但是，他并没有认为我们要完全模仿大脑。原始的概念是，你能用非精确的计算要素，atv，结合这种阈值，进行精确的计算。这个概念由来已久，是冯·诺依曼在上世纪 50 年代提出的：你能用非精确的要素制作能够进行精确计算的计算机。这也是我们能从这一思想中汲取的主要灵感。现在，在类脑领域，有脉冲神经网络，在模拟人类的大脑，细粒度、异步、分布式……这些都很好，从研究的角度看。但从实用的角度说，我们现在还不知道如何训练这些系统，让它们在生产上发挥功用。

如今的神经网络跟脉冲神经网络极为不同，可以说是完全不同的领域。确实，如今的神经网络受生物学启发而来，但这种启发十分有限。我研究生物学研究了很长时间，非常清楚我们对大脑的理解还非常有限，无法转换成产品。我们要做产品的是机器学习，而不是神经科学。IBM 的 TrueNorth 等等神经形态芯片都很好，是很棒的研究理念，但是更像是拿着锤子找钉子。我认为，去模拟一个你不理解的东西是没有道理的。

如今的深度学习、神经网络借鉴神经科学的原理。例如，现在有论文借鉴了注意力机制（Attention），这来自心理学。现在的神经网络研究借鉴了很多不同学科的知识，但并不是要去完全模拟这些东西。而且，就算 TrueNorth 也跟真正的神经网络很不同，相似的只有一小部分。人类的神经元非常复杂，还与几十亿其他神经元连接，既有模拟特性也有数字特性。我这样说是因为我是神经科学家——我在入行前做了很多年神经科学的研究，那些认为能够通过模仿大脑构建出类似大脑神经形态芯片的人，很多都不是神经科学家，没有受过我所经受的折磨——做实验拿着探针刺进大脑却不知道究竟要找什么。我热爱神经科学，或许将来我们能从神经科学中找到灵感，能转换为人工智能芯片架构和产品。实际上，英特尔也有类脑芯片的研究。但是，产品还是很遥远的事。