正如人类行为的许多方面是不可能详细解释的，也许让AI解释它所做的一切也是不可能的。“如果有人就其行为给你一个看似合理的解释，它也可能是不完整的。这对AI来说是同样的。”怀俄明大学的Clune说，“这这可能是智能的本质部分，只有部分行为能用推理解释。有些行为只是出于本能，或潜意识，或根本没有任何理由。”

如果是这样的话，我们的决策可能不得不是简单地去相信AI的判断，或者干脆不去使用它。同样地，这个判断必须融入社会智慧。正如社会是建立在期望行为的契约之上的，我们也需要让AI系统尊重和适应我们的社会规范。如果我们要创造机器坦克和其他杀人机器，让它们作出符合我们道德判断的决策也是非常重要的。

塔夫斯大学的Daniel Dennett，是一名著名的哲学家和认知科学家，研究意识和心灵。“问题是，我们必须做出什么样的努力才能明智地做到这一点，我们要求它们和我们自己的标准是什么？”他说。

他也就“可解释性”的要求发出了警告。“我想，如果我们要使用它们并依赖它们，那么我们就需要控制它们并让它们给我们解释答案。”他说。由于可能没有完美的答案，所以我们就需要更加谨慎——不管机器看起来是多么聪明。“如果它不能在解释自己这方面做得更好，”他说，“那就不要信任它！”