李开复：我反对马斯克“AI末日论”，不要“捡了芝麻丢了西瓜”| 工场前沿社

2017-07-26 18:19来源:创新工场

原标题：李开复：我反对马斯克“AI末日论”，不要“捡了芝麻丢了西瓜”| 工场前沿社

“马斯克如此高调频繁地宣扬AI带来的威胁，可能会让大众忽视AI正在带来的巨大机遇，也会让更多更紧迫的AI问题没有得到关注，这只会捡了芝麻丢了西瓜。”

在特斯拉CEO伊隆·马斯克和Facebook创始人扎克伯格的争论中，李开复明确反对马斯克的“AI末日论”。

本文转载自量子位（QbitAI）

原标题《李开复：我反对马斯克“AI末日论”，科幻跟科学是两码事》

十天前，硅谷钢铁侠、特斯拉CEO伊隆·马斯克在几十位美国州长面前，声称AI是对人类存在的最大威胁，并且呼吁加强对AI的监管。

虽然马斯克鼓吹这一论调已经多年，但这次整个AI界似乎都站到了他的对面，对他的批评声不绝于耳，直到Facebook创始人扎克伯格出手，事件到达了高潮。

“我认为那些对AI持否定态度或者鼓吹末日论的人，其实根本没理解什么是AI。他们的看法太消极了，甚至有些不负责任”，扎克伯格谈到马斯克时如是说。他还补充道“未来5-10年内，AI将大幅提高我们的生活质量。”

这很快成为抢眼的新闻标题，而马斯克也通过推特给予了回击：“我跟小扎聊过了。他对这事儿（AI）的理解有限”。

不负责任vs理解有限。

应该如何正确看待马斯克和扎克伯格这次关于AI的隔空交手？AI是个末日威胁么？量子位就这个问题，请教了李开复博士。

李开复表示，Facebook有世界顶尖AI团队，扎克伯格在这个问题上肯定不会“理解有限”。

李开复明确反对马斯克“AI终将灭绝人类”的悲观论调。他指出AI现在仅仅是人类的工具，离拥有意识的“超级智能（Superintelligence）”还非常遥远，更别提灭绝人类了。

其实过去几个月，李开复和国内外AI专家、图灵奖国际得主就这个话题也有过不少交流，大家基本都同意扎克伯格、李开复的观点。

另一方面，李开复警告说：马斯克如此高调频繁地宣扬AI带来的威胁，可能会让大众忽视AI正在带来的巨大机遇，也会让更多更紧迫的AI问题没有得到关注，这只会捡了芝麻丢了西瓜。

李开复表示，是时候就着这次辩论，直接评论下马斯克的“AI末日论”了。

李开复回复全文

量子位问我关于这次马斯克和扎克伯格辩论AI未来的看法。

坦白讲，我不太认同伊隆·马斯克“AI灭绝人类”的观点，对于当前AI的发展看法，我有5个方面的具体观点：

1.

AI只是工具，离超级智能还很远；基于我投入AI领域的科研、开发、投资相关工作37年的经验，“超级智能”、“灭绝人类”这类耸人听闻的说法，根本没有切实的工程基础。

2.

智库、科学家应该讨论AI安全问题、AI对社会的改变，但是科技圈的意见领袖不应该在这时误导大众AI要控制人类，让人类灭亡，这确实是不负责的说法。大部分的人已经对AI所知有限，这会造成更为错误不实的群众恐慌。

3.

AI可以为人类创造大量财富，甚至逐渐解决人类温饱问题；我们每个人也将获得更多的时间和自由，来做我们爱做的事情。

4.

AI真实会带来的问题是人类的失业，失业后可能的抑郁和丧志问题，还有贫富不均问题，人类社会目前所习惯的职业结构确实会发生显著的改变。

5.

AI会带给我们100%确定性的巨大机会，随着改变也会产生些必然的问题。此时去用概率极低甚至是零可能性的“超级智能”，误导大众恐惧AI，甚至约束AI，反而不去拥抱机会、解决问题，是没有道理的。

AI大咖们怎么看？

这其中有我的看法，也有一些已是业内不少专家的共识。如果我们去问顶尖AI专家，绝大多数是同意扎克伯格和我的看法的，比如说前任MIT AI实验室主任，iRobot公司创始人Rodney Brooks。

Rodney Brooks的观点是：“有很多人都声称AI是人类存在的威胁：斯蒂芬·霍金、马丁·里斯爵士……在没有亲身在AI领域工作的情况下，这样的想法很普遍。我们能够理解，对于那些不在AI领域工作的人，要通过产品级别的东西来弄明白一些问题有多么困难。他们会根据一个领域的一个AI成果，就一概而论地认为AI会在多领域超过人类。但是其实今天的AI，只是在某一个狭窄领域基于大数据优化，只能说是个很厉害的模式识别引擎。要做到通用的、无所不能的AI根本不知从何开始。”

另外，Rodney Brooks也提到，马斯克想要立法管理AI，但是需要管理的通用AI都不存在，如何立法？