人工智能在各个领域发挥作用，开奖，会让所有人有随时失业的担心。可是科幻小说里的机器人占领地球真的会出现吗？本文结合BBC新闻Bryan Lufkin基于道德准则的分析告诉我们，人工智能还有很长的路要走，而其中最大的一个问题就是道德问题。

本文转载自：36氪

人工智能无处不在，并且还会在以后漫长的岁月中影响我们的生活。在网上购买什么样的书籍？购买哪一趟航班？工作申请是否成功？是否收到银行贷款？甚至癌症治疗方法的选择?这些都或多或少地受到人工智能的影响。

所有的这些，甚至更多的事情，在很大程度上可以由复杂的软件自动决定。人工智能在过去几年中取得了令人瞩目的巨大进步，并且人工智能可能会使我们生活的许多方面变得更好。

在过去的几年中，人工智能的兴起是不可避免的。大量资金投放在了人工智能的创业公司中。许多现有的科技公司，包括像亚马逊、Facebook和微软这样的巨头，都已经开设了新的研究实验室。可以毫不夸张地说，软件就意味着人工智能。

有些人预测人工智能兴起带来的影响可能会像互联网带来的震撼一样，甚至震撼更大。我们问一个技术专家小组，这个迅速变化的、充满完美机器的世界会给人们带来怎样的影响？值得注意的是，几乎所有的回答都集中在道德问题上。

要确保每个人都受益——Google研究主管Peter Norvig

对于Google研究主管和机器学习先驱的Peter Norvig来说，在数据驱动的人工智能技术成功的背后，我们应该考虑的关键问题是：如何确保这些新系统能够改善整个社会，而不仅是帮助那些控制它的人。“在实际任务中，人工智能已被证明非常有效。例如标记照片，理解语言，书写自然语言，甚至可以帮助识别疾病。”他说，“现在面临的最大问题是确保每个人都受益于这项技术。”

最大的问题是，软件的复杂性通常意味着，不可能确定人工智能行为的动机。基于大规模的称为机器学习的成功技术，你不可能打开人工智能的外壳来看看它究竟是怎么工作的，所以我们必须信任它。因此，我们需要找到新的方法来监测或审计这个在很多领域都极其重要的人工智能。

哈佛法学院互联网法教授Jonathan Zittrain说，计算机日益复杂的系统可能会阻碍系统得到它们应当得到的审查，这是十分危险的。“我担心，在技术的帮助下，我们的系统将变得更加复杂和紧密连合，人类的可操控性会下降。”他说。 “如果我们设置它并忘记它，我们可能会后悔系统自己进化成的样子，并且这里没有任何一个方面需要考虑道德伦理问题。

这是我们小组内其他人关注的问题。曾经是美国海军第一位女战士飞行员之一，现在是无人机专家的北卡罗来纳州杜克大学人类和自治实验室主任Missy Cummings问道，“我们将如何证明这些系统是安全的？”

人工智能需要监督，但我们尚不清楚该如何实现这一过程。“目前，我们没有人们能够普遍接受的方法，”Cummings说，atv，“并且没有用于测试这个系统的行业标准，因此这些技术难以被广泛使用。”

缺少测试人工智能的行业标准，难以广泛应用 ——Missy Cummings，杜克大学人类和自治实验室主任

然而在快速发展的社会中，监管机构发现自己经常在追随时代的发展。在许多关键领域，例如刑事司法系统和医疗保健部门，公司们已经在探索人工智能在假释或诊断疾病等方面所发挥的作用。但是，把决策权交给机器的话，我们将面临风险。谁能确保这个系统在每个案件中都做出了正确的决定？

微软研究院的主要研究员Danah Boyd说，正被写入这些系统的价值观存在着严重的问题，谁会最终对这些系统负责？ 她说：“监管机构、公民和社会理论家们越来越希望看到这些技术是公平和道德允许的，但是这些“公平”或“道德”的概念却十分含糊不清且难以界定。”

一个充满伦理问题的领域是工作场所。人工智能会让机器人做更加复杂的工作，并取代更多的人类工作者。例如，为苹果和三星提供装配服务的富士康科技集团宣布，它将使用机器人替换6万名工厂工人。位于德国科隆的福特工厂将机器人与人放在一起工作。