这样的推论会导致越来越僵化的推荐系统，它倾向于不断强化现有的看法，就像社交网络中的反射效应一般。「个性化」使每个人都被贴上了标签，让现实生活和网络世界互相割裂。计算机不断地推荐「你喜欢的」内容，用户获得的信息在不知不觉中被算法误导，人类或许在人工智能真正觉醒之前就已深陷其中了。

动态的人生

我们的身份是动态的，复杂而充满矛盾的。根据我们的社会背景，我们总会拥有者几个不同的身份，这意味着我们需要用到几种不同的 AI 助理——在学校或工作中的，在酒吧或教堂里的。

除了通常的自我介绍，我们在网络中可能也需要以不同的身份展现自我，和不同的群体展开互动。我们不希望自己在社交网络中被随意查看，我们也不希望自己在寻找新奇事物时，还要担心朋友和家人的窥视。如果我们想要试试不同的社会身份，会发生什么？4Chan 创始人 Chris Poole 说道：「这不是你在和谁分享的问题，这有关你与他人分享什么样的内容。身份就像一个棱镜，别人通过它来看你会呈现无数不同的面貌。」

区分不同的自我表达阶层，绘制不同社交环境下的身份，对于人工智能而言是一个巨大挑战。很多时候，人类面临的问题不在于算法设计——我们连自己是什么都还没弄清楚。但人工智能助手总会给我们一个答案：关于过去的我们。身份的变化在这样的环境中变得越来越难，我们的生活习惯和信念被自我强化的循环锁定，算法构建的《土拨鼠日》出现了。

我们在日常生活中越依赖于个性化算法，我们的个性就会越被计算所磨灭，我们所读，我们所见，我们生活的方式都将被机器所决定。通过专注于现状，接管探索信息和偶遇陌生人的渠道，用过去发生过的事情试图再一次讨好自己，这就是算法决定论的世界。

当过去照进未来，人类赖以生存的自发性，开放与进取变得逐渐稀缺。温斯顿·丘吉尔曾经的话变成了这样：我们塑造了算法，然后，算法塑造了我们。

如何阻止未来

在今天，现实世界中的人工智能应用已经融入到了日常生活的方方面面——而人们对这一科技的兴趣也是越发浓厚。但是有两个主要的挑战正让未来变得难以触及。从科技进步的角度来讲，不同应用之间的数据交换上缺乏互通性标准，而具备这一点能够防止彻底的个性化。要是想要真正有用的话，机器学习系统需要更多的个人数据——而这些数据现在都被孤立地分散在一些有竞争力的科技公司的专业数据库当中。那些掌握数据的公司就掌握了权利。一些公司，最著名的比如说像 Apple 和 Viv，已经开始通过与第三方服务结合的实验来扩大自己的势力范围。最近，一些最大的科技公司宣布了与人工智能研究的主要合作，这样就可以将益处带给大多数人，而不仅仅是少数人。这将会对今后建立对人工智能的普遍信任至关重要。

从社会的角度来看，人类似乎对人工智能的急速发展有一种莫名的反感。人们担心会失去对人工智能助手的控制。信任是我们控制能力的一种直接表现。试图对生产力进行一些微小的改进，却要赌上关系和名誉，大多数人都不愿意这样做。

当然，在早期，人工智能助手的行为方式可能并不是它的人类制造者所期望的。有先例证明，一些失败的人工智能实验会减少对弱人工智能（narrow AI）解决方案和聊天机器人（conversational bots）的信任。Facebook、微软和谷歌纷纷在 2016 年建立了它们的机器人平台，但过早呈现在人们面前的人工智能科技，因其有限的功能、应用和定制化让用户大失所望。

一直困扰我们的恐惧——人工智能科技的后果，也因为很多科幻小说中所描述的有意识、暴戾的人工智能统治世界的反乌托邦场景而加剧。但是我们所面对的未来，既不会像是人工智慧网络「天网」（Skynet），也不会像乔治·奥威尔的《1984》里一样：而更可能会像是《美丽新世界》（A Brave New World）中所描述的一个享乐主义的社会，在那里，科技的地位仍然是需要为普遍的幸福和自我放纵所服务。

未来导向型机制