「电车问题」是另一个思想实验，它源自于道德哲学。它有许多的流传版本，这就是其中一个：一个有轨电车沿着铁轨行驶，遇到了一个铁轨分叉点，其左方向上，有一个人被困在铁轨上，右方向上则是五个人。你可以改变分叉点以使电车从朝向五个人的方向变为一个人的方向。你会怎么做？这个电车无法刹车。如果铁轨上的人中有我们的熟人我们会怎么办呢？也许如果其中一个是儿童而另外五个是成年人呢？又或者是其中一个有孩子而其他五个是单身呢？所有这些不同的场景如何来决定事情的发展变化呢？什么是至关重要的？你更珍视什么以及为什么？

这是一个有趣的思想实验，但在很多时候远不是这样仅仅有趣而已。鉴于我们正逐渐将我们的决定赋予管理这些事情的机器和软件，开发人员和工程师将要做越来越多这样需要解析那些重要并很有可能潜在关乎生死的决策机制的事情，并把这些事情直接编码给机器。决策机制来源于一种价值评估系统，一种「效用方程」，在这种系统中我们决定做这件或那件事原因在于这样做比其他选择能获得更大的价值。有时这种价值评估看上去很平常且显而易见——推荐给你这个食物搅拌器而不是那个是因为你有更大的概率买这个，这是基于各种各样历史上的购买数据得出的结论。这双鞋比其他的更好卖（或者不算更好卖但起码因为它某些方面利润更高所以值得一试——这使得我们愿意计算概率和期望的回报）。这首歌对比那首歌等等。

但有时在紧要关头它会更重要：是这条新闻还是那条？更广泛意义上来说，是这件事的这条信息还是那条信息？嵌入价值评估体系的程序可以开始评估你的价值了，并以此类推以至于整个社会的价值。有一些是价值相当大的决策赌注了。电车问题告诉我们价值评估体系渗透在编程的方方面面，甚至有时关乎生命：很快我们会有无人驾驶的电车、汽车、卡车。当糟糕的事情发生了，决定就需要做：事故车道上的骑车少年还是停在前面车里的世界 500 强公司的 CEO 和他的助理？你的算法会怎么做以及为什么这么做？

我们终将制造出无人驾驶汽车而它们也一定会具备道德指南。我们的机器人伴侣也是一样的情况。它们会有价值评估体系且必然是受道德约束的机器，而它的道德和伦理是由我们设计的。「电车问题」是我们时代的思想实验，它是我们新人机时代工程高度复杂的光辉体现。

Bruno Giussani，TED 欧洲办事处主任及全球活动策划人

科学术语：指数（Exponential）

（有关指数的这一小故事）已经不清楚当时用来计数的是米粒还是麦粒了，由于故事有很多版本，我们对故事的起源也不太确定。但故事的内容大致是这样：国际象棋的发明者向国王展示了有趣的象棋游戏，国王甚是开心，便要求象棋发明者自己点名要奖赏。象棋发明者谦虚地要了些米粒（或者是麦粒），具体数量通过最简单的公式计算得出，即第一个格子 1 粒，第二个格子 2 粒，第三个格子 4 粒，依次往下格子中谷粒的数量翻倍，直至第 64 个也就是最后一个。国王欣然同意，直到发现自己已经受骗。到棋盘一半时，国王的城堡就几乎不够存放谷物了，但剩下棋盘中的第一个格子就会将谷粒数量再翻一倍。

从 13 世纪的穆斯林学者到物理学家/作家卡尔·萨根（Carl Sagan），再到社会传媒界的电视录像制作人无不引用该故事来阐释指数序列的威力，事务起于微小，非常微小，但之后一旦开始增长，就增长地越来越快—按欧内斯特·海明威（Ernest Hemingway）的说法：成长缓慢，然后突然暴涨（they grow slowly, then suddenly）。

每个人都应该更深刻地知道并理解指数及其衍生（棋盘寓言是一个非常实用的比喻），因为我们生活在一个指数世界。实际上，这种情形已经存在一段时间了。但是，目前为止我们处在棋盘的上半部分，也就意味着由于我们即将进入棋盘的下半部分，事物将急剧加速发展。

1999 年雷·库兹韦尔（Ray Kurzweil）在他的著作《灵魂机器的时代》（The Age of Spiritual Machine）中提出了「后半个棋盘」的概念。他指出，尽管指数在前半个棋盘时重要，但正是在进入后半个后其影响变得巨大，事情变得疯狂，其加速度开始远超人类的想象和控制。