他同意马斯克的预测可能会成为现实，同时也提到人工智能“可能会对人类友好也可能恰好相反，如果是相反的情况，那我们就不得不与之对抗了”，而且可能唯一的对抗办法只能是“制造更智能的人工智能并让它与我们站在同一战线”。

　　库兹韦尔告诉我他对于斯图尔特·罗素也选择怀疑人工智能感到很惊讶，于是我联系到罗素并在他位于伯克利7楼的办公室里与他见了面。斯图尔特罗素今年54岁，是美籍英国人，他是人工智能领域的专家。他告诉我他的看法又有了变化，他如今强烈反对库兹韦尔和其他人觉得把地球让给人工智能也没什么大不了的观点。

　　罗素倒不在乎人工智能是不是能帮人类批量“生产”出贝多芬和爱因斯坦，因为多一个贝多芬也不能衡量人类毁灭的风险到底几何。他激动地说：“似乎比起人类的体验，人工智能变得更加重要了。我认为，如果在明知人工智能的存在是无意识的情况下，我们还要用人工智能来取代人类的话，那么无论人工智能可以发明多么伟大的创造，那也会是最大的悲剧。” 尼克·波斯特罗姆则把没有人类存在的高科技社会比作是“没有孩子的迪士尼”。

　　罗素说，有些人认为如果机器比人类更聪明的话，我们就该把地球让出来给他们。也有人说我们可以跟机器合为一体，那样我们仍然有意识，但我们就变成机器了。我觉得这一观点是完全不可能实现的。

　　罗素反对扬·莱库的观点，后者创造了AlphaGo所使用的卷积神经网络的前身，如今担任Facebook人工智能总监一职。莱库向BBC表示，未来并不会出现电影《机械姬》或是《终结者》中的场景，因为机器人不会具备人类的基本欲求，包括饥饿、权力、生育和自我保护等。“莱库反复强调机器没有任何理由需要具备自我保护的本能，罗素说，“这显然有逻辑错误。即使人类在机器的程序里没有写入自我保护的功能，开奖，但它们仍会具备这一功能。因为，如果机器已‘死’，它就不能执行人类发出的‘把咖啡端过来’的命令。所以，只要人类给它下达了指令，它为了完成指令就具备了自我保护的能力。如果你挡住它不让它完成指令，它甚至会为了完成指令不惜杀死你。早就有人简单明了地向莱库解释过这一道理了。”

　　对于两种常见的人们不需要担心人工智能的论断，罗素也进行了反驳。“一种论断说我们不用担心，因为根本不会发生那样的事。这就好像劝正开向悬崖的司机不用担心，因为开到悬崖前车一定会耗光油的。这可不是解决关乎整个人类生存问题的好办法。另一中论断是说别担心，我们造出来的机器人都是与人类合作的，人类和机器人是一个团队。那么这就引发了一个问题，当机器人不同意人类观点的时候，人类要怎样与其保持团队的统一呢？”

　　去年，微软中止了其人工智能聊天机器人Tay的项目。微软本来寄希望Tay能通过与推特用户进行随意有趣的对话来变得更智能，没想到Tay却学会了带有种族歧视、直男癌甚至是反犹太人色彩的语言。Tay曾发推说：“小布什一手制造了911事件，要是希特勒的话一定能比他干得更漂亮，小布什就像只猴子一样”以及“特朗普是我们唯一的希望了”。作为回应，马斯克则发推：“想想当今这样一个绝不会容忍希特勒式言行的时代会怎样对待机器人们还挺有意思的。而微软的Tay只用了一天就让我长见识了。”

　　自特朗普上任以来，马斯克一直觉得如履薄冰。他的公司要依赖白宫政府做生意和拿补贴，不管掌权的是马可·奥勒留还是卡里古拉。马斯克的公司联署了反特朗普限穆令意见书，马斯克也发推反对这一行政令。但与此同时，与Uber创始人特拉维斯·卡兰尼克,不同，马斯克又保持着特朗普战略政策论坛成员的身份。阿什莉·万斯说，这很符合埃隆的作风，不管别人怎么说，他会坚持自己，甚至必要情况下，他也可以变得投机。

　　针对因与特朗普有联系而受到外界抨击一事，我询问了马斯克。在一张特朗普与科技公司总裁们的合照中，马斯克看起来闷闷不乐，当他谈起这个话题时，声音中也带着一丝厌倦。他说：“总统身边总还是需要些温和派的声音。他周围都是些强硬左派，想把他孤立起来，最后让他听不到其他意见。这很不明智。”

　　VI. 这便是整个旅程了