Hinton 说，直到有一天，有人在午餐时对他说“Hinton 教授！我选修了你的课！你在这里做什么？”自此以后，再也没有人质疑 Hinton 作为实习生的存在。

　　几个月后，Hinton 和他的两个学生在 ImageNet 大型图像识别竞赛中取得了惊人的成果，让计算机不仅识别出猴子，而且区分蜘蛛猴和吼猴，以及各种各样不同品种的猫。谷歌很快就向 Hinton和他的学生提出了Offer。他们也都接受了。“我以为他们对我们的知识产权感兴趣，”Hinton 说：“结果他们对我们这几个人感兴趣。”

　　Hinton 出身于一个古老的英国家族。他的曾祖父 George Boole 在符号逻辑方面的基础工作为计算机专业打下基础；Hinton 的另一个曾祖父是著名的外科医生，Hinton 的父亲是一个热爱冒险家的昆虫学家，Hinton 父亲的表哥在 Los Alamos 研究所工作，等等等等。Hinton 先后在剑桥大学和爱丁堡大学学习，然后在卡内基梅隆大学读博士，最后到了多伦多大学，现在 Hinton 大部分时间都在多伦多大学。（Hinton 的工作长期以来一直受到加拿大政府的慷慨支持。）我在 Hinton 的办公室访问了他。Hinton 说话睿智诡异，比如“计算机会比美国人更早理解讽刺”。

　　Hinton 从上世纪 60 年代末在剑桥大学读本科开始，一直致力于研究神经网络，也被认为是该领域的先驱。很长时间以来，每当 Hinton 说起机器学习，人们都用不屑的眼神看着他。神经网络一度被视为学术死路，主要是由于感知机（Perceptron）这个当时得到过度吹捧的概念。感知机是康奈尔心理学家 Frank Rosenblatt 在 20 世纪 50 年代末开发的一个人工神经网络。当时《纽约时报》报道，感知机项目自助者美国海军期望它“能够走路、说话、会看、会写，会生产（reproduce）自己，意识到自己的存在”。结果这些感知机基本都没实现。马文·明斯基（Marvin Minsky）在 1954 年普林斯顿的论文中以神经网络为研究主题，但他对 Rosenblatt 关于神经范式所做的夸张说法已经厌倦了。（明斯基也在争取国防部的研究资金。）后来，明斯基与 MIT 的同事合作出版了一本书，证明有一些非常简单的问题是感知器永远不能解决的。

　　明斯基当时对感知机的批评只涉及只有一个“层”的网络，也就是在输入和输出之间只有一层神经网络——后来明斯基阐述了与当代深度学习非常相似的想法。但是，当时 Hinton 就已经知道，如果使用很多层神经网络，就可以执行复杂的任务。简单说，神经网络就是一台机器，能够从数据中发现模式并以此进行分类或预测。有一层神经网络，你可以找到简单的模式；有多层神经网络，就可以找出模式中的模式。以图像识别为例，执行图像识别的神经网络主要使用“卷积神经网络”（这在 1998 年的一篇开创性论文中阐述的概念，该论文的主要作者、法国人 Yann LeCun 跟着 Hinton 在多伦多大学做了博士后，现任 Facebook 人工智能实验室负责人），网络的第一层学习识别图像非常基本的视觉效果“边缘”，也就是一个像素旁边没有什么任何东西（反之亦然）。接下来网络的每一层都在前一层中寻找模式。边缘的模式可以是圆形，也可以是矩形。圆形或矩形的图案可能是面部，等等。这种方法类似于人眼将信息组合在一起的方式，从视网膜中的光线感受器返回信息到大脑的视觉皮层。在每个步骤中，不立即相关的细节被丢弃。如果几个边缘和圆圈合在一起成为一张脸，你不会在乎在视野中这张脸的位置；你只会在乎它是一张脸。

　　1993 年的一段视频演示，展示 Yann LeCun 卷积神经网络的早期版本，这个系统到 20 世纪 90 年代末处理美国所有支票的10%~20%。类似的技术现在用于驱动大多数最先进的图像识别系统。来源：Yann LeCun/YouTube/NYT

　　多层也即“深度”神经网络的问题是试错法部分非常复杂。单层的网络很容易，多层的训练起来就复杂了。Hinton 和其他几个人发明了一个方法（或者说，改进了一个旧的方法）解决这个多层出错的问题，那是在 20 世纪 70 年代末到 80 年代，为此计算机科学家对神经网络的兴趣又短暂地复燃了一会儿。“人们对此非常兴奋，”Hinton 说：“但我们把它夸大了。”于是，计算机科学家很快回到了认为像 Hinton 那样的人是怪人和神秘主义者的状态。