关于人工智能会给人类带来的灾难，特斯拉的CEO曾警告过人们：超人类人工智能可能带来不可估量的利益，但是如果部署不当，则可能给人类带来相反的效果。

霍金认为：人工智能的成功有可能是人类文明史上最大的事件，但是人工智能也有可能是人类文明史的终结，人工智能的全方位发展可能招致人类的灭亡。

（二）如何规避人工智能对人类的威胁

现在，关于人工智能的研究正在迅速发展，这一研究可以从短期和长期两个方面来讨论。

短期的担忧主要集中在无人驾驶方面，包括民用无人机、自动驾驶汽车等。长期担忧主要是人工智能系统失控的潜在风险。

霍金举了一个最大化使用智能性自主武器的例子。称：今年早些时候，我们和一些来自世界各国的科学家共同在联合国会议上支持其对于核武器的禁令。目前，九个核大国可以控制大约一万四千个核武器，它们中的任何一个都可以将城市夷为平地，放射性废物会大面积污染农田，最可怕的危害是诱发核冬天，火和烟雾会导致全球的小冰河期。这一结果使全球粮食体系崩塌，末日般动荡，很可能导致大部分人死亡。我们作为科学家，对核武器承担着特殊的责任，因为正是科学家发明了它们，并发现它们的影响比最初预想的更加可怕。

虽然霍金对潜在危险有所意识，但霍金也说，自己内心仍是秉持乐观态度的。他相信创造智能的潜在收益是巨大的，也许借助这项新技术革命的工具，我们将可以削减工业化对自然界造成的伤害。

演讲结束，霍金回答了一些提问者的问题，其中有位微博用户提问道：人类在漫漫的历史长河中，重复着一次又一次的革命与运动。从石器、蒸汽、电气……您认为下一次的革命会是由什么驱动的？

霍金的回答是：（我认为是）计算机科学的发展，包括人工智能和量子计算。科技已经成为我们生活中重要的一部分，但未来几十年里，它会逐渐渗透到社会的每一个方面，为我们提供智能地支持和建议，在医疗、工作、教育和科技等众多领域。但是我们必须要确保是我们来掌控人工智能，而非它（掌控）我们。

PS：如前文所说，今天这篇文章是一个尝试。我们以后想要以天为单位，从各类科技媒体和互联网相关的自媒体中，精炼出一些更有价值的媒体观点摘录，经汇总后分享给你，希望能帮助你更好地理解一天中行业发生的大事。

如果以后我们几乎每个工作日都产出这么一篇文章，你会愿意看么？以及，关于今天这篇，你怎么看？欢迎尽情地拍砖和交流。