安妮 编译自 Import.io官方博客

量子位出品 | 公众号 QbitAI

本文作者Andrew Fogg，可视化网页抓取网站Import.io的联合创始人。这篇文章阐明了人工智能、机器学习与深度学习的关系，进而讲述深度学习成长史，带你一文入门深度学习。

当你听到“深度学习”时，可以想象一个巨大的深度神经网络。“深度”指的是层数，媒体经常采用这种说法。

——杰夫·迪恩

人工智能、机器学习和深度学习这三个词经常被互换，但它们的含义并不相同。我们用一张图概括三者关系——

△人工智能、机器学习与深度学习之间的关系

人工智能的定义颇具争议，一种说法就是“与人类思考方式相似的计算机程序”。根据应用范围的大小，我们将它分为通用型和应用型（应用范围窄）人工智能。

Google Trends数据显示，自2015年起，“机器学习”的搜索热度超过人工智能本身。机器学习是指在没有提供明确程序的情况下，机器自学完成任务。决策树、聚类、增强学习或贝叶斯网络等算法帮助它理解输入程序。

△2015年9月，谷歌搜索中机器学习的热度超过人工智能

深度学习是在人工神经网络（ANN）基础上发展来的表示学习方法。它通过构建多层表示学习结构，组合原始数据中的简单特征，从而得到更高层、抽象的表示。

△深度学习趋势图

这是目前人工智能领域最振奋人心的发展，我们一起看看它的发展轨迹。

1943年：首个神经网络的数学模型诞生

推进人：Walter Pitts和Warren McCulloch

显然，想要解决机器与深度学习的问题，我们首先需要了解人类大脑的神经网络。

1943年，逻辑学家Walter Pitts和神经科学家McCulloch通过创造神经网络的数学模型解开了这个谜题。他们合著了《神经活动中固有的思维的逻辑运算》一书，书中提出将数学和算法的结合，模仿人类思维活动。

电子书地址（英文）：

https://dl.acm.org/citation.cfm?id=104377

他们的模型被称为McCulloch-Pitts神经元（M-P神经元），至今仍然是标准模型。

1950年：机器学习的预测

推进人：阿兰·图灵

图灵是一名英国数学家，因在二战中破解了德国的Enigma密码出名，但他的成就没有止步于此。

1947年，他预测出机器学习的发展趋势。这个趋势在70年后的今天看来，也颇具指导意义。

△图灵

1950年，图灵在他的论文《计算机器与智能》中精心设计了一场机器模仿人类的游戏，据此判断机器是否会“思考”，也就是著名的图灵测试。

论文地址（英文）：

图灵测试让计算机通过文本方式与人类聊天5分钟，若人类无法确定对方为机器还是人类则测试通过。不得不说，这个简单的测试是机器学习史上浓墨重彩的一笔。

尽管这个测试的有效性还颇具争议，但却是60多年来研究人员的目标。

1957年：感知器神经网络模型问世

推进人：Frank Rosenblatt

1957年，心理学家Rosenblatt向康奈尔航空实验所提交了一篇论文，题目为《感知器：感知和识别的自动机》。

△Frank Rosenblatt

论文地址（英文）：

https://blogs.umass.edu/brain-wars/files/2016/03/rosenblatt-1957.pdf

在这篇论文中，Rosenblatt提出感知器（Perceptron）的概念。这是首个用算法精确定义神经网络的数学模型，是后来很多神经网络模型的始祖。

他宣称，atv，自己将构建一个电子或电动机械系统来学习识别不同模式之间的相似之处，某种程度上说，这与生物大脑的感知过程非常相似。

1959年：发现简单细胞和复杂细胞

推进人：David H. Hubel和Torsten Wiesel

1959年，诺贝尔生理学或医学奖获得者David H. Hubel与Torsten N. Wiesel合作，联手发现初级视觉皮层的两种类型的细胞：简单细胞和复杂细胞。

这项研究展示了视觉系统是怎样将简单的视觉特征在视皮层呈现出来的。此项研究不是深度学习的里程碑式的成果，但对该领域后续研究影响很大。

1960年：提出控制论

推进人：Henry J. Kelley

Kelley本是弗吉尼亚理工学院的航空航天和海洋工程专业的一名教授，1960年发表了论文《最佳飞行路径的梯度理论》。

论文地址（英文)：

https://arc.aiaa.org/doi/10.2514/8.5282