：COO、执行总编、主编、高级编译、主笔、运营总监、客户经理、咨询总监、行政助理等 9 大岗位全面开放。

　　简历投递：j[email protected]

　　HR 微信：13552313024

　　新智元为COO和执行总编提供最高超百万的年薪激励；为骨干员工提供最完整的培训体系、高于业界平均水平的工资和奖金。

　　加盟新智元，与人工智能业界领袖携手改变世界。

　　【新智元导读】《西部世界》上周播出了第一季最终集，结局虽然褒贬不一，有人说神剧，有人说烂尾，但毫无疑问非常震撼。本文前半部分来自 futureoflife，作者采访了创造性 AI 和知觉研究的两位专家，从“AI能否有意识”以及“有意识的AI是否危险”的角度评论此剧。后半部分是《卫报》的评论，从机器人设计的角度分析剧中出现的机器人。

　　这部由《盗梦空间》导演克里斯托弗·诺兰的亲弟弟乔纳森·诺兰指导、电视剧界著名金主HBO投资拍摄的新剧从上映开始就备受关注，IMDb总评分高达9.2。根据Deadline统计，本季最后一集收视人数高达 220 万。而各平台上总观众数估计达到了 1200 万（仅限美国）。收视率甚至超过了《权利的游戏》。

　　“这些残暴的欢愉，终将以残暴结局。”——莎士比亚

　　HBO 播出的《西部世界》引起了大众对“强人工智能”的关注。如果你还没有看过《西部世界》，简单介绍一下：《西部世界》（Westworld）的故事设定在未来世界，在一个庞大的高科技主题公园中，环境类似美国的西部荒原。游客花费大量金钱来到这个主题公园，在那里，拟人的机器人“接待员”能让游客享尽情欲、暴力等欲望的放纵。游客可以杀死机器人，每次机器人“死亡”后，它的身体会被清洗，内存被擦除，然后再开始一个新的脚本。

　　这部剧上周末播出了第一季的最终集，毫无疑问结局是个大爆炸，但不用担心，本文没有剧透。

　　只有一行代码确保机器人不会伤害人类

　　《西部世界》剧集改编自美国科幻小说家、编剧迈克尔·克莱顿（Michael Crichton）的同名电影，克莱顿也是《侏罗纪公园》的编剧，他为该剧创作的故事线不禁让观众怀疑，在科学不断发展的未来，人类是否还能维持对世界的掌控？

　　原始版本电影中机器人是邪恶的，但在改编的剧集中，机器人被描绘成具有同情心，甚至可以说是最人性化的角色。

　　对公园的安全问题的担忧很快就浮现出来。公园由一个人监督，他可以对机器人进行任何他想要的程序更新，而不需要经过其他人的试运行或安全检查。机器人会记录下他们被虐待的痕迹。其中一个角色提到，程序中只有一行代码确保机器人不会伤害人类。

　　这些只是该剧涉及到的许多问题中的一部分，它触及到当前对 真正的 AI 安全担忧：仅仅使用一个高级 AI 的“邪恶智能体”就能故意对人类造成伤害；软件里发生的小故障也可能引起致命事故；而且代码中也缺少冗余性和鲁棒性来确保人类的安全。

　　但该剧出现的许多安全和伦理方面的问题都取决于机器人是否有自主意识。实际上，该剧主要探讨的问题，也是最难的问题是：什么是意识？人类能否创造出有自主意识的智能体？如果能，我们能控制它们吗？我们想找到答案吗？

　　为了解决这些问题，我采访了乔治亚理工学院的 AI 研究员 Mark Riedl，他的研究方向是创造性 AI，以及提出著名的“知觉难题”（hard problem of consciousness）的纽约大学David Chalmers 教授。

　　AI 能够感受疼痛吗？

　　我先向 Riedl 提问，假如机器人被编程能够有痛觉，机器人能感受到多大程度的疼痛？Riedl 说：“首先，我不能容许对人类、动物，或者拟人化的机器人以及 AI 施行暴力。”然后他解释说，人类和动物的疼痛感受是一种“避免特定的刺激”的警告信号。

　　然而，对机器人来说，“最类似的可能是强化学习智能体，它们进行反复的试错学习。”根据它们特定的行为，AI 会得到积极或消极的奖励，并且会相应地调整其未来的行为。Riedl 认为消极的奖励并不像“疼痛感觉”，而更像“在电子游戏中失分”。