近日，几家最具影响力的美国高科技企业已经承诺，要令人工智能(AI)技术的开发更加可控和透明，试图借此遏制人们对该技术日益增加的担忧。实施这一计划的公司包括谷歌(Google)、微软(Microsoft)和Facebook等拥有最强人工智能研究机构的所有美国高科技企业（除了苹果(Apple)）。不过，多名代表表示目前正在就苹果加入该合作组织开展磋商。

AI技术问世以来，尤其是近两年如火如荼的发展浪潮，在各行业都引起了轩然大波，各种AI威胁论甚嚣尘上，这一计划等于是一个行业首次联合起来，约束一种广泛影响人类未来的技术。对于持AI威胁论的拥趸者们，AI水平的提升无疑是人类史上的暗黑时代，承诺AI研发透明化，称得上是黑暗前的黎明吗？

十字架与圣水：行业规则的制定者与AI伦理研究所

「在所有故事里，似乎总有拿着十字架和圣水的家伙，就像他确保自己能控制恶魔一样。有越来越多的聪明人，已经提前准备好十字架和圣水，谨慎提防可能出现的不可控的恶魔了。」

这次的美国科技公司联名承诺AI研发透明化像极了十字架与圣水。

这些联名的企业还包括了亚马逊(Amazon)和IBM。它们宣布成立一个名为人工智能造福人类和社会合作组织(Partnership on Artificial Intelligence to Benefit People and Society)的非盈利机构，以开展这项工作。该组织将对有关人工智能具体如何影响社会的伦理问题开展研究，并找到提高这种新技术透明度、降低其理解难度的办法。

该倡议背后的最大动机，源于公众和政府对这种威力巨大的技术将如何影响生活方方面面越来越担心。微软人工智能研究人员埃里克?霍维茨(Eric Horvitz)表示，该技术是个“转折点”，相关挑战正浮出水面。

这些挑战包括：程序中的“隐形偏见”，即用特定数据集“训练”后，程序会带上隐含假定前提；一些系统往往会以其开发人员也不能理解的逻辑做出决策，这些系统的安全性和可信任程度问题；如何设计人工智能系统中嵌入的伦理判断，这些伦理判断会在特定场合影响系统与人类的互动。

无独有偶，早在几个月前，英国剑桥大学新建了一个研究中心，atv直播，致力于研究人工智能在发展的过程中带给人类的机遇与挑战，并旨在影响其道德伦理发展，从而防止人工智能在 21 世纪会控制世界。一家名为 Leverhulme 的信托公司将为其提供十年约 1000 万英镑的资助。

虽然人工智能目前还只处在人类 3、4 岁的智力水平，atv，但有研究认为，在 2099 年之前，人工智能将能达到人类智力的水平，甚至是超越。重要的是，人工智能是不断地学习提高的。

因此剑桥大学聚齐了一些科学家、哲学家、社会科学家，从技术上、实用性上以及道德观念上出发，一起来为人工智能做风险评估。

AI威胁论下，持谨慎态度并采取相关措施的不仅仅限于组织行业协会间，同样担心的还有特斯拉创始人 Elon Musk，他认为人工智能是人类生存的最大威胁，可能比核武器更危险。事实上，Musk 还投资了一家人工智能公司 Vicarious，为了「监测」人工智能的发展。

AI研发透明化：杞人忧天还是技术所驱？

不论是此次的AI研发技术透明化还是剑桥大学的AI伦理研究院，都是对当前AI技术发展的一种舆论反射，但有时却过于悲观，同时又高估了人工智能的发展速度。

其实，这类人群大抵分为三类：有些人是因为对人工智能的原理不理解而导致恐惧，有些人是为了个人名望而宣扬人工智能威胁论，有些人则是为了商业的利益推动人工智能威胁论。

对于人工智能，我们不应恐惧，但要有意识地关注其可控性。和其他机遇与风险并存的技术一样，只要确保相关研究不会走上歧途，就不至于产生大的恶果。人类智慧造就人工智能，最终人工智能还是要为人类所用。在应用层面，当“智能+”应用趋向成熟时，比如无人车、智能家电等成为主流，就要做好安全保障措施。

人们对可控性的担忧其实有点科幻，短期做不到超出控制的水平的……毕竟目前的人工智能还处于“有多少人工就有多少智能”的阶段。人工智能要想达到突破，绝非一日之功，我更相信的是，科学发展是有爆发期和稳定期的。一个技术突破会带来难以想象的繁荣，之后的科学发展都比之前的更快，但不会天天都是技术突破。

比如，二十世纪上半页的物理学十分辉煌，相对论和量子力学的建立引发了一系列技术革命。但从那以后物理学一直很平稳。杨振宁就说过他赶上了物理学的好时候，让他现在做学术，可能就不会选物理学了。