在阿尔法狗大战柯洁的那段时间，有人就问，阿尔法狗会不会故意输一把给柯洁，给人类留些面子。然而现实是，阿尔法狗并没有人类的小心机，一切依照算法算出来的最优解，该怎么赢就怎么赢。

李开复认为，AI 必须以实用主义为准绳。帮人类挣钱，替人类省钱，并且提高生产力。简单来说，就是不需要什么「人味」。

▲李开复

认知科学博士生利昂·祖特费尔德做了一个研究：

如果一辆电车沿着轨道驶来，眼看着就要撞死五个人。这时，你可以把一个陌生人推下桥，挡住电车，救那五个人，但被你推下去的那个人会死。这时候你会怎么选？

到目前为止，还没有一种道德模型能够重现被测试者认知过程的复杂与微妙。

试问在这种人类都无法下定论的问题上，又怎么通过算法告诉 AI 对与错呢？

AI 未来也许真的会模仿人类的情绪，但这并不是自发性的。全知全能的通用 AI 可能无法在短期内实现，也许永远都不会实现。

▲美剧版《西部世界》女主角 Dolores（AI机器人）

《西部世界》第一季的最后一集，运营人员的担心成为了事实，AI机器人意识觉醒，决定给乐园里的游客来一场大屠杀。

大家都怕 AI 有情感，事实上，大家最应该怕的是 AI 没有情感，只有对错。《西部世界》里游客表现出的人性阴暗，才会导致 AI 根据算法的判定拒绝执行命令，甚至有「校正」人类的行动。

假如 AI 真的有失控的那一天，希望人类可以做好准备。。。

拔！

电！