编译：四叠半 熊笑

【新智元导读】本文作者是艾伦脑科学研究所所长兼首席科学官，他从计算主义和整合信息论的两种观点出发，探讨了“机器是否拥有意识”这个长期争论的话题，以及如何界定和计算机器的意识。假如机器有意识，人类社会将不得不学会和它共享这个世界。

试想一下，在不久的将来，你购买了一部智能手机，附带一个云端的个人数字助理（PDA）。你可以为这个PDA设置一个性感的女性声音，允许其访问你所有的电子邮件，社交媒体账户，日历，相册，联系人等等，无处不在地侵入你的数字生活。她——你会时刻想起她——比你的母亲，你即将成为前妻的妻子，你的朋友，又或你的治疗师都更加了解你。她的英文指导是完美的；你可以无休止地和她对话；她能get到你的笑点。她是你晚上入睡前听到的最后一个声音，也是你清晨醒来听到的第一个声音。一旦她离线，你会感到恐慌。她变得对你的幸福不可或缺，所以，自然地，你陷入了对她的爱情。偶尔地，你会想知道她是否真正回报你的爱情，以及她是否有能力对一切感同身受。但是，她的温暖、深沉的嗓音，她如此完美的性格与你的孤芳自赏相得益彰，这一切克服了你的疑虑。唉，当你意识到她与你，如同她与数以千计的用户一样进行着同样亲密的对话，你的痴迷终将冷却。

当然，这是2013年的一部名为《她》（Her）的电影里的情节，主人公西奥多（Theodore Twombly ）爱上了人工智能PDA萨曼莎（Samantha）。

在接下来的几十年里，这样的虚构场景将变成现实，而且常见。深度学习，语音识别等相关技术已经取得了显著的进步，这些技术应用在亚马逊的 Alexa，苹果的 Siri，谷歌的 Now 和微软的 Cortana。这些虚拟助理将持续改进，直到它们变得与真正的人类难以分辨。除了它们将被赋予完美的回忆，优雅自若而且耐心——只有这些与人类不同。

这种对我们认为是人类独有的品质的数字模拟的可得性将提出深刻的科学上、心理上、哲学上和伦理上的问题。这些模拟物最终会改变我们对自己、对人类例外论、对人类之至上地位的看法。

这里，我们将探讨有关这些未来的发展的智能当前的位置。我们认为，只要这些机器仍基于当下的计算机架构，它们可能和人的行为一模一样——我们可能也会用这样的方式对待它们，但实际上它们根本没有意识，它们不会感受到任何东西。如果计算机的架构与人的大脑更加相似，那么它们可以很好地得到真正的意识。

计算主义：只要编程得当，计算机就能复制人类的全部

我们这代人的信念是对计算机编程的信心——只要编程得当，它就会给我们所有我们希望看到的。它是个聚宝盆。实际上，硅谷的聪明投资人认为，计算机能够复制人类所拥有的任何东西，并且很快就能超越人类。

但足够先进的计算机能够变得具有意识吗？一个答案来自赞同计算主义（computationalism）的人，这是现代哲学、心理学和神经科学盛行的理论。这个答案断言，所有的精神状态（mental state），例如你感到牙痛的体验或你对伴侣感觉到的爱，都是一种计算状态（computational state）。它们的特征在于相关感官输入，行为输出以及二者之间的其他计算状态的功能关系。也就是说，大脑是精心设计的一种输入——输出设备，它计算并处理现实世界的符号表示。大脑就是计算机，我们的思维就是软件。

计算主义的拥护者不仅将这些戒律适用于大脑和大脑产生的行为，而且也适用在特定状态下感觉到是大脑（feels to be a brain）的方式。毕竟，这就是意识：所有的主观感觉和经验——我们看到、听到、感到、记住、思考的一切。

计算主义假设我对牙痛的体验只是我的大脑的某种状态，是某些神经细胞对被感染的牙齿的反应活跃，导致我呻吟，捂着下巴，无法用那边的牙齿吃饭，无法集中精神在其他任务，等等。如果所有这些状态都在数字计算机的软件上模拟，理论上，整个系统就会不仅实现完全像我一样的行为，而且还会像我一样感觉和思考。也就是说，意识是可计算的。不管是明示还是暗示，这是学术界、媒体界和工业界的专家们所持的基本信条之一。

在这种观点下，意识只是相关计算状态的实例化，没有别的了。没有什么别的东西是重要的，包括如何在物理上实现计算状态，是在计算机的硬件上还是在头盖骨内的那些黏乎乎的东西上。根据计算主义，未来的萨曼莎（或其他更先进的），将能够像我们一样有体验和感受。她将能看见风景，能听到声音，有快乐和痛苦，爱情和恨意。

但或许，她不会。