编者按：Elon Musk以其未来主义的赌博著称，但是硅谷争先恐后对人工智能敞开怀抱把他给吓到了。而且他认为你也应该对此感到害怕。《名利场》的一篇长文揭秘了他试图影响飞速发展的AI 及其支持者，以及拯救人类于机器学习大魔头统治之下的努力。更重要的是，这篇启示录式的文章塑造了一个千面的钢铁侠形象：Elon Musk究竟是先知、人类拯救者还是堂吉诃德、勒德分子或者精明商人呢？只有时间才能告诉我们答案。鉴于篇幅太长，全文分3部分刊出，此为第1部分。

　　先知激励Musk

　　I、杀人狂

　　这只是一场有关人类命运的友好辩论。Demis Hassabis，先进人工智能的领军人物正在跟最忧患的末日预言者Elon Musk讨论人工智能的风险。

　　两位都是硅谷最重要最有吸引力的人之一，但他们的家都不在那里。几年前，作为伦敦神秘的人工智能实验室DeepMind的创始人，Hassabis曾经拜访过Musk位于洛杉矶郊外的SpaceX火箭工厂。当一个庞大的火箭部件从他们头顶穿过的时候，两人正在餐厅里交谈。Musk解释说他在SpaceX的终极目标是全世界最重要的项目：星际殖民。

　　Hassabis回应说，他正在攻关全世界最重要的项目：研发超级人工智能。Musk反驳说这正是我们需要殖民火星的原因之一：一旦AI变得流氓起来攻击起人类时我们才会有个避难所。被逗笑的Hassabis说，其实AI也会跟着人类一起去火星的。

　　不过这对于缓和Musk的焦虑于事无补（即便他说有些情况下AI不会跟过来）。

　　不爱出风头但内心争强好胜的Hassabis今年40岁，他被认为是传奇魔法师Merlin，能够帮助召唤出我们的AI后代。AI领域发展迅速，但距离Musk担心的那种强大的、能自我演进的软件还很远。Facebook用AI来做定向广告、照片标记以及策划新闻流。微软和苹果用AI来辅佐它们的数字助理Cortana和Siri。Google的搜索引擎从一开始就要靠AI。所有这些小的进展都为的是最终创造出像人一样灵活可自学的AI。

　　硅谷的一些人好奇地了解到，Hassabis，这位棋艺精湛的国际象棋选手，前视频游戏设计师，曾经想出过一个叫做《邪恶天才》的游戏，主角是一位为了统治世界而创造出一台末日设备的恶毒科学家。Peter Thiel——亿万富翁风投家，特朗普总统的顾问，跟Musk等人一起创建了PayPal，并在去年12月帮助当选总统召集疑心重重的硅谷大佬一起开会。他给我讲了一个故事，说DeepMind的一位投资者在一次会后曾开玩笑说他应该当场就把Hassabis干掉，因为这是拯救人类的最后机会。

　　Elon Musk早在3年前就开始警告AI杀人狂的可能性。当Hassabis在DeepMind的合作伙伴之一，Shane Legg断然指出“我认为人类灭绝可能会发生，而技术可能会从中扮演一定角色”时，他内心紧绷的那根弦大概也没法松下来。

　　2014年，作为AI购物狂欢的一部分，在DeepMind被Google吞掉之前，Musk曾经是这家公司的一名投资者。他告诉我说自己投资的目的不是赚钱，而是想对AI的发展保持警惕的眼光：“这可以让我对改进的速率看得更加清晰，而且我认为其改进正在加速，这种速度比大家意识到的那种还要快。这主要是因为在日常生活当中你还看不到机器人到处乱逛。可能你会看到Roomba（扫地机器人）或者别的什么。但Roomba不会接管世界。”

　　有一次Musk令人吃惊地对他的朋友和技术同事提出了公开谴责，警告称他们会创造出自我毁灭的手段。他告诉彭博社的Ashlee Vance，也就是其自传《Elon Musk》的作者说，他担心他的朋友，Google联合创始人，现母公司Alphabet CEO Larry Page，担心他虽然有着完美良好的意愿，但是仍然“会意外地制造出邪恶的东西来”——这可能就包括“一支能够摧毁人类的人工智能增强机器人部队。”

　　今年2月，在迪拜举行的全球治理峰会上，Musk再次插进一段恐怖的管风琴音乐，当他指出“有时候科学家会太过埋头于自己的工作，以至于不能真正意识到自己所为的后果是什么”时，不禁让人想起了经典恐怖故事的情节。他说，到头来，避免人类退化的办法可能得“将生物智能与机器智能进行某种形式的结合。”（实际上他已经在朝这一目标前进了）这种伏尔甘（火和锻冶的神）式的思想融合可能需要一种叫神经织网的东西，这种植入式的织网可以连通大脑与计算机直接进行通信。2月份的时候Musk告诉我说“我们已经是赛博格（电子人、半机械人）了。你的手机和计算机就是你的延伸，只是接口是通过手指运动或者讲话，对接的方式非常慢。”而有了植入头盖骨的神经织网，数据就可以瞬间以无线的方式从大脑下载到你的数字设备或者云端近乎无限的计算资源上。“我认为我们距离一个有意义的半脑机接口大概还有4、5的时间。”