有趣的是，这个想法的历史大致与AI研究本身相近。在1958年，数学家斯坦尼斯瓦夫·乌兰姆（Stanislaw Ulam）在悼念不久之前逝世的冯·诺伊曼的文章中，他回忆道：“（我们有过）一次对话，对话的中心是不断加速的技术进步和人类生活方式的变化，而这些变化促成了一些奇点基础观点的雏形......我们那时候的理解是，奇点之后，人类的事务将无法继续。”

　　最近，技术奇点的想法受雷·库兹韦尔（Ray Kurzweil）的推广而广为人知。他预测，技术奇点将在2045年左右发生，而尼克·博斯特鲁姆（Nick Bostrom）已经写了一本介绍后果的畅销书。

　　我们害怕机器超越我们的智力有如下几个原因。人类之所以能够成为地球上的最具有统治力的物种，最主要是因为我们拥有无可比拟的智力优势。许多动物比我们体型更大，更快或更强，但我们利用我们的智慧发明了工具，发展了农业，并开发出许多惊人的技术，比如蒸汽机、电机和智能手机。我们的生活由此改变，并使得我们得以统治地球。

　　因此，具有思考能力的、甚至思考能力可能比人类还要强大的机器未来很有可能将篡夺人类的位置——这一想法毫不意外，就正如大象、海豚和熊猫依靠我们的善意继续存在，而我们的命运则反过来有可能取决于这些高级思维机器的决定。

　　智力爆炸这一观点，即机器能够递归般提高它们的智力，从而迅速超过人类智力，其实并不是一个特别疯狂的想法。

　　从许多类似的指数趋势中，计算领域获益匪浅。 摩尔定律预测集成电路上的晶体管数量每两年将增加一倍，这是过去几十年来的现实。 因此，假设AI也将经历指数增长并不是不合情理的。

　　像许多在 AI 领域工作的同事一样，我们预测，距离 AI 达到甚至超越人类的智力水平仅仅只需 30 年到 40 年即可。

　　总之，我们认为，技术奇点是不可能实现的。

　　本周精选：