编译 | 黑智（VR-2014）

去年，一辆奇怪的自动驾驶汽车被放到了新泽西蒙茅斯县的一条安静的道路上。这辆由芯片制造商Nvidia研制的实验车与众不同，它不像谷歌、特斯拉或通用汽车所展示的车辆那样，而是显示了人工智能的强大力量——汽车没有按照工程师或程序员提供的单一指令进行操作，相反，它完全依赖于算法，通过观察人类如何开车，自己来驱动它。

通过这种方式开车是一项令人印象深刻的壮举。但也令人不安，因为你并不知道，汽车是如何自己作出决定的。来自车辆传感器的信息，直接进入巨大的人工神经元网络，来处理数据，然后传送出操纵方向盘、刹车和其他系统的指令。现在看这个结果，似乎和我们期望的人类驾驶员的反应相匹配。但是如果有一天，它作出了意外的举动——比如去撞了一棵树，或者在绿灯时待着不动呢？就目前情况来看，我们是很难找到它这么做的原因的。这个系统是如此复杂，即使是设计它的工程师，也很难找出它某个行动背后的独立的原因。你还不能问它，因为没有明显的方法能设计出这样一个系统，总能解释它采取某种行动的理由。

这辆车的背后，隐藏的是个迫在眉睫的问题，那就是人工智能的神秘的内心。汽车中使用的人工智能技术是深度学习，在近年来，它已经被证明是非常强大的解决问题的方式，并已经被广泛应用，比如在图像识别、语音识别和语言翻译中。现在人们也希望，同样的技术能够被用来改造更多的行业，比如诊断致命的疾病、对百万美元级的交易作出决策等等。

但这一切还没有发生，或者说，还不应该在现在发生。除非我们能找到方法，证明深度学习技术能够更理解它们创造者的意图，以及向用户负责。否则，我们很难预测什么时候会发生故障，而这几乎是不可避免的。因此，Nvidia的汽车现在也仍然还是在实验的阶段。

目前，数学模型被用来帮助确定谁取得假释、谁批准了贷款、谁得到了就业机会。如果你能接触到这些数学模型，就可以理解他们的推理。但是银行、军事家、雇主和其他人，正把注意力转向更复杂的的机器学习方法，自动决策，正变得越来越不可思议。深度学习，这种最常见的方法，代表了计算机编程的一种完全不同的方式。“这个问题已经开始影响并且将在未来影响巨大，”MIT机器学习应用教授Tommi Jaakkola说，“无论是投资决策，医疗决定，还是军事决策，你都不会想仅仅依靠一个‘黑箱’方法。”

现在已经有一个争论点是，能够询问一个AI系统关于它是如何得出结论的，是一项基本法律权利。从2018夏季开始，欧盟可能会要求公司们能给用户解释自动化系统如何作出决定。但这可能是不可能的，即使是对于那些表面上看起来相对简单的系统，比如使用深度学习服务推荐广告或歌曲的网站和应用程序而言。运行这些服务的计算机已经是自己编程了，它们以我们无法理解的方式完成了它。即使构建这些应用程序的工程师，都不能完全解释它们的行为。

这就提出了一个令人难以置信的问题。随着技术的进步，我们可能很快会跨越一些门槛，人工智能应用也需要一个信念的飞跃。当然，我们人类也不能总是真实地解释我们的思维过程，但我们可以找到方法直观地信任和衡量人。但是，思考和做决策方式和人类完全不同的机器，它们可能做到吗？我们以前从来没有建立连创造者都不明白其运作方式的机器，我们如何与智能机器沟通和相处，可能也是不可预。这些问题让我踏上了人工智能算法研究的边界，从谷歌到苹果，包括与我们这个时代的伟大哲学家会面。

艺术家Adam Ferriss用Google Deep Dream创作的图像

2015，纽约的西奈山医院（Mount Sinai Hospital）的一个研究小组受到启发，将深度学习应用到医院庞大的病人记录数据库中。这个数据集有数百个患者相关的变量，包括他们的测试结果、医生访问记录等等。由此产生的程序，研究人员将其命名为Deep Patient，使用约700000人的数据对其进行了培训，在进行测试时，它被证明是非常擅长预测疾病的。在没有专家指导下，Deep Patient发现了隐藏在医院数据中的模式，这些数据可以诊断出人们身上的各种疾病隐患，包括肝癌。Mount Sinai项目负责人Joel Dudley说，现在有很多“非常好”的方法可以预测疾病，但是，深度学习“是更好的方式”。