别的不说，机器领袖该如何融入我们的民主制度？伊斯特万设想，届时将定期举行全国选举，选民将为机器人决定优先事项，以及如何处理一些道德相关的问题，比如人工流产; 选民将有机会在下次选举中改变这些选择。系统的初始编程无疑将是有争议的，程序员很可能也需要共同入选。而伊斯特万也承认，所有这一切都需要修改宪法。

机器人总统需要的是通用人工智能

从技术的角度来看，人工智能还不够聪明，无法管理国家。机器人目前可以完成的工作列表确实很长，从诊断疾病，到驾驶汽车，再到赢得各种游戏，以及在你的智能手机上回答问题——它成长迅速，但是现在，我们所有的 AI 系统使用的都还是弱人工智能，意味着他们需要专门编程才能执行任何给定的任务。

而显然，总统要做的远不止一个“任务”。

“如果你是美国总统，你要解决的是你这个层面上没有其他人能够解决的问题。等着你砸的是那些最硬的坚果。”CMU 的机器人学教授伊拉尔·努尔巴赫什（Illah Nourbakhsh）曾说过——他曾为 NASA 的机器人项目工作过“而最难破解的坚果是认知方式。没有太多先例可供参考，你必须使用最富创造性的思维。”

为了实现这一切，机器人总统将需要科学家所说的通用人工智能，也被称为“强人工智能”——与人类智能一样广泛、富于创造性和灵活性的智能。伊斯特万和其他谈论机器人总统的人，指的是这种人工智能。强人工之智能还没有出现，但有些专家认为即将到来。

Waser 说：“有一些人相信人类水平的人工智能将比预想中来的早得多，我就是这些人之一。2008 年那会儿，我表示那会在2025 年左右到来。十年后，我看不出有什么理由要修改这个预判。”Vita-More 也同意这个观点，她预测 10 –15 年内就可以有一个早期版本的强人工智能。

但是，这种乐观的估计是基于一个关键的假设：我们很快就会来到计算机自我解决问题的时代——科学家们称之为“技术奇点”。在那个时间点上，计算机将比人类变得更聪明，甚至可以自己设计出更新更智能的计算机。然而，努尔巴赫什说，他不认为所有涉及开发更好的计算机的技术问题都可以通过机器来解决。有些还有赖于新的化学发现或者用于构建这些超级计算机的新型材料的发明。

AI 的不可解释性对需要不断做出重大决策的工作是个大问题

在 AI 管理国家之前，需要解决的另一大技术问题是：机器人不知道如何解释自己。AI 接收信息，做出决策，但没人知道为什么机器会做出这个选择——这对于需要不断做出决策的工作来说是个大问题，况且这些决策还伴随着不可预测的投入和严重的后果。是的，你对特朗普或克林顿可能会有些看法，但至少他们知道自己的思考过程，还能向公众和国会解释他们的行为，并转播到电视或 Twitter 上让民众都有所了解。

而一台计算机，至少现在还做不到这一点。

“机器必须能够与其他机器合作，才能有效。”Waser 说。“它们必须与人类合作，才能安全”。而如果你不能向别人解释你的思维过程，那么合作会很艰难。

这个缺陷部分是因为 AI 的工作方式。在称为机器学习的方法中，计算机分析如山的数据，并找到可能对计算机而不是对人类有意义的模式。在称为深度学习的变体方法中，计算机使用多层处理的方法：一层产生粗略输出，然后由下一层进行细化，而该输出又被下一层再细化。这些中间层的输出对于任何外部人类观察者都是不透明的——计算机只会给出最终的结果。

“你可以带你孩子去看电影，然后由此聊开去，聊聊他们的心情，进行一个真正有趣又深入的谈话。”努尔巴赫什说，“但 AI 做不到这点，因为 AI 不理解从一个小话题向一个大话题的转换。”

一个被投喂了种族主义滋养的数据的 AI，就可能生成种族主义的结果

即使我们可以解决所有这些问题，机器人仍然可能不是我们想像的决策者。机器人总统的主要优势之一就是能够统揽数据，而且能够做出决定，不带人类的偏见。但即使这样的优势，也并不明确——研究人员发现很难教 AI 系统完全避免偏见。