所以，尽管我不同意它的可能性，但对于OpenAI，以及担心超人AI的聪明人的更大目标——也就是我们应该开发出友好的AI并想办法给它灌输与我们相匹配的可自我复制的价值观，对这一点我是认同的。尽管我认为一个超人AI仍然是比较遥远的存在威胁（同时也是值得考虑的），但它的不可能性（基于我们目前已有的证据）不应该成为我们科学、政策以及发展的指导方针。小行星撞击地球的后果是灾难性的。其发生概率大于零，但我们不应该让小行星撞击地球的概率来支配我们在应对气候变化、推进太空旅行或者甚至是城市规划的努力。

　　类似地，迄今为止的迹象表明，AI很有可能不会成为超人，而是会成为众多的异人新思维，这些思维方式大部分都异于人类，但没有一个会是通用的，也没有一个会成为马上就能解决重大问题的上帝。相反，将来会出现无数有限智能，在我们不熟悉的维度上工作，其中许多都超过了我们的思维，它们会适时跟我们一起配合，去解决现有问题并创造出新问题。

　　我理解超人AI上帝的引人入胜。这就像是一个新的超人。但就像超人一样，这是个虚构的人物。在宇宙深处也许存在着这么一个超人，但可能性非常小。然而迷思也是有用的，而且一旦被发明出来就不会消失。超人的想法永远都不会死。超人AI奇点的想法现在已经诞生，也永远不会消亡了。但我们应该意识到在目前这还是只是一个宗教想法而不是科学点子。如果我们调查一下现有的有关智能，无论是人工智能还是自然智能方面的证据，我们只能得出结论说，我们有关虚构的超人AI上帝的猜测只不过是迷思罢了。

　　密克罗尼西亚的许多相互隔绝的孤岛在二战期间才第一次跟外界接触。外星人上帝坐在聒噪的鸟上飞过他们的天空，投下食物和商品到他们的岛上，然后一去不复返。岛上的宗教崇拜开始弥漫，祈祷上帝回来再扔下更多的货物。即便是现在，在50年之后，许多人仍然在等着货物回来。超人AI不过是有一次宗教崇拜的可能性是存在的。百年之后，当大家回望现在时，也许也会把此刻视为信徒期盼超人AI突然出现，然后带来价值无法想象的货品之时。10年又10年，他们痴心等待着超人AI的出现，确信它会快就会带着货物来到我们身边。

　　但是非超人式的人工智能已经到来，这是真的。我们不断地重新定义AI，提高它的难度，这在未来会禁锢住它，但就更广泛的外星智能——也就是各种智能、认知、推理、学习以及意识的连续体而言，AI已经渗透到了这个星球上，而且还会继续扩散、深化、变化并且增强。在改变世界的能力方面，此前没有任何一种发明能够与之匹敌，到本世纪末，AI将触及和重塑我们日常生活的一切。但是超人AI，无论是会让我们超级富足还是让我们沦为超级奴隶（或者兼而有之），这种迷思可能仍将存在——因为这种可能性实在是太具有神话性了，以至于我们难以舍弃。