霍金在今天中国举办的GMIC科技大会上，为我们解答了几乎所有关于人类对人工智能的疑虑。

　　与以往总是强调“人工智能具有潜在威胁”不太一样，霍金这次在大会上表示，人脑与机脑没有本质区别，机脑有灵魂那完全是人类虚构的童话故事。

　　而与此同时，创造智能，可以为人类带来巨大的潜在收益：

　　“我内心秉持乐观态度，也许借助这项新技术革命的工具，我们将可以削减工业化对自然界造成的伤害。”

　　但是，人工智能无论如何了不起，都必须遵守一条规则：按照人类的意志去工作。

　　因此，在研究人工智能的同时，科学家及工程师们务必要考虑相关的伦理问题。譬如，那个关于无人驾驶特别有名的问题：

　　“一辆无人驾驶汽车将怎样在小风险的大事故和大概率的小事故之间进行选择？”

　　当然，很多人担忧的，是类似于《西部世界》那样的“人工智能系统时空的潜在风险”，虽然霍金没有阐释具体的解决方法，但却强调我们必须要找到“掌控风险的工具”。

　　然而在最后，霍金话锋一转，对科学家乃至整个人类提出了严正警告：

　　“人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险。”

　　”九个核大国可以控制约一万四千个核武器，它们中的任何一个都可以将城市夷为平地”，在霍金看来，科学家发明了它们，但同时可能利用它们毁了人类。

　　因此，科学家需要正视自己在技术研发及创新中的位置，极力去避免人工智能不可控的崛起。

　　与此同时，政府对人工智能开发过程的法律约束，特别是以监管为目的做出的立法改革也相当重要。这大概也是包括Google、亚马逊、Facebook、微软等科技巨头“自觉”成立人工智能伦理与道德联盟的重要。

　　以下为霍金的主题演讲——《人工智能造福人类及其赖以生存的家园》

　　在我的一生中，我见证了社会深刻的变化。

　　其中最深刻的，同时也是对人类影响与日俱增的变化，是人工智能的崛起。

　　简单来说，我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。我不得不说，是好是坏我们仍不确定。

　　但我们应该竭尽所能，确保其未来发展对我们和我们的环境有利。我们别无选择。我认为人工智能的发展，本身是一种存在着问题的趋势，而这些问题必须在现在和将来得到解决。

　　人工智能的研究与开发正在迅速推进。也许我们所有人都应该暂停片刻，把我们的研究重复从提升人工智能能力转移到最大化人工智能的社会效益上面。

　　基于这样的考虑，美国人工智能协会（AAAI）于2008至2009年，成立了人工智能长期未来总筹论坛，他们近期在目的导向的中性技术上投入了大量的关注。

　　但我们的人工智能系统须要按照我们的意志工作。跨学科研究是一种可能的前进道路：从经济、法律、哲学延伸至计算机安全、形式化方法，当然还有人工智能本身的各个分支。

　　文明所提产生的一切都是人类智能的产物，我相信生物大脑可以达到的和计算机可以达到的，没有本质区别。

　　因此，它遵循了“计算机在理论上可以模仿人类智能，然后超越”这一原则。

　　但我们并不确定，所以我们无法知道我们将无限地得到人工智能的帮助，还是被藐视并被边缘化，或者很可能被它毁灭。的确，我们担心聪明的机器将能够代替人类正在从事的工作，并迅速地消灭数以百万计的工作岗位。

　　在人工智能从原始形态不断发展，并被证明非常有用的同时，我也在担忧创造一个可以等同或超越人类的事物所导致的结果：

　　人工智能一旦脱离束缚，以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。这将给我们的经济带来极大的破坏。

　　未来，人工智能可以发展出自我意志，一个与我们冲突的意志。尽管我对人类一贯持有乐观的态度，但其他人认为，人类可以在相当长的时间里控制技术的发展，这样我们就能看到人工智能可以解决世界上大部分问题的潜力。但我并不确定。

　　2015年1月份，我和科技企业家埃隆·马斯克，以及许多其他的人工智能专家签署了一份关于人工智能的公开信，目的是提倡就人工智能对社会所造成的影响做认真的调研。

　　在这之前，埃隆·马斯克就曾警告过人们：

　　超人类人工智能可能带来不可估量的利益，但是如果部署不当，则可能给人类带来相反的效果。