计算机其实无法对任何事情负责，因为没有任何机制能让它负责，除了关闭电力供应或者毁掉硬件。只有人类才能负责。在计算机被使用的情况下，谁将被追究责任？程序员、供应商还是最终用户？鉴于很难了解机器学习过程中自我演化的算法的确切性质，可能很难完全解释清楚其运行过程。那么最终，这会是一个买家责任自负的例子吗？在这一模型中，计算机给出建议，但决定权在用户。但是，在一个自主的系统中，又该如何？比如汽车、火车或飞机上？还有一个解决方案是让人类程序员对其编程的效果负责。但这样的问责如此严峻，可能任何人都不会为了大众的使用而冒险去编程了。这可能会让我们和机器学习的优点失之交臂。无论是涉及航空飞行、桥梁建设还是癌症治疗，人类在做生死攸关的决定时都不尽如人意。怎么会有人在生死问题上去相信那些一知半解的人？

　　谁来监管？让机器去监管机器？

　　那么让机器去判断机器，这可行吗？当一台计算机发生故障时，由并行系统来接管，和安全紧密相关的计算机系统已经是这样操作了。通过以车队的方式去学习，特斯拉以人类无法完成的方式提高了整个车队的标准。在某些情况下，我们可能需要机器来掌管机器。高速、大量的由算法进行的金融交易已经依赖于代码来检查和规范人类无法涵盖的大量交易。在大数据、AI和机器学习的世界中，人类监管者需要所谓的“监管科技”作为辅助。

　　这是一个紧迫的问题。一方面是医疗保健提供商，另一方面是开发和销售以机器学习算法为内核的医疗咨询系统的公司，二者之间的合作关系正在建立。在一个药物、诊断、医疗设备和疗法被高度监管的世界中，这些系统如何组织？世界各地的医药监管机构都会遵照相似的协议，发放药品许可，并让制造商承担严格的产品责任。但我们知道药物的化学结构和医疗器械的精确规格，我们不知道机器学习过程中不断演化的算法的精确结构和运算。国际监管流程要求医疗算法受到管制，仿佛它们是医疗设备——可这在现实中意味着什么？

　　这些问题应该是可以克服的。我们可能知道医疗药物的化学结构，开奖，但我们也经常不完全了解它们是如何工作的。以副作用为代价的药效证据是药物监管的指导，这同时与疾病的严重程度和药物的益处相关。机器学习训练的算法与药物不同之处在于，它的结构随着学习而发生变化。这意味着监管需要更加连续，随着算法在临床实践中的使用和演变，持续检查其作用。

　　医学和法律已经表现出了对破坏的高度免疫，但AI和机器学习中最为显著的一些影响，仍能在这些最传统的行业中体现出来。

　　但是，也有人强烈主张，随着药物的广泛使用，关于其作用与副作用的信息越来越多，药物管制也应该朝着同一个方向前进。这当然算是现代IT 技术应用于医疗系统的好处。

　　如果我们要应用一些可能对人类造成伤害的算法，就需要学习如何才能信任它们。对于一辆由计算机系统驱动的汽车，什么样的事故率是可以接受的？一方面，与人类驾驶的车辆相比，无人驾驶车辆的任何事故率的减少都是一种进步。然而，如果无人驾驶车辆造成了行人的死亡，即使这是极其罕见的事件，也会引起轰动。

　　我们可能会认为，比起不完美的人类，我们对算法应该有高得多的标准。因为算法会影响专业人士的判断，它们最终会影响道德和价值观。应该如何将这些因素纳入法规？打个有用的比方，这就像英国开发和使用人类胚胎技术，科学的应用凸显了人类的价值。

　　Warnock 委员会的审议促成了人类受精和胚胎管理局（HumanFertilisation and Embryology Authority）的成立。这是一个监管机构，负责思考新兴科学，参与公开辩论，并与决定新兴技术应用框架的立法者和政策制定者讨论有争议的问题。在机器学习和AI 方面，我们需要类似的东西吗？皇家学会和英国学院的联合工作组正在英国考虑这个问题。

　　政府的关键作用是使公民的健康、幸福和安全最大化。因此，政府需要考虑如何最大限度地利用这些技术带来的好处，并尽量减少潜在的危害。这需要智慧的监管方式，同时还要求企业仔细考虑如何应用这些新技术。这是一个真正呼唤道德思考与实施的领域。

　　原文地址：