这里定性地定义一下“愚蠢”：是指人类的一种认知的惰性，使个体比较偏向于使用5万年前成熟的那套思维系统，而不是5000年前文字发明和500年前科学发展后发展的这两套思维系统。行为经济学，人机界面设计，传播理论里对这种“非理性”有很多研究。

　　人类的理性与非理性矛盾，早在文字或者文明产生前就已存在。思维的每一步跃迁，都要求更多的能量，但能量供给有限，这就要求原始猿类或人类在有限时间内利用较原始的认知作出决策。故而人类从总体上是一个非常难以协调的物种，因为我们文化的进化远远超过了基因进化的速度，我们需要极大的成本才能沟通和复制知识。没有强力的组织，人类社会很容易分崩离析。一群无组织的人类和一群蜥蜴的智力无异。

　　人类无法摆脱迷信。吃饭是个体存续的基础，迷信是社会存续的基础。大脑不是用来思考的，它的真正作用在于使你避免思考。我们的大脑的绝大部分，都是在让我们顺从激素、爬行动物脑，而不是去动用耗能昂贵的分析，特别是不要去动用后天才能获得的符号和理性思维。分析、符号和理性都是大脑的敌人，我们必须无时无刻不和本能做斗争才能运用它们。人类社会自己的复杂性已经是普遍不可能理解的了。如果人人都追求理性，而社会维持成本就会极高，我们需要十倍、百倍的物质和能量消耗才能维持社会。

　　政治，宗教，计算广告学之所以能奏效，就是基于无组织人群的普遍愚蠢。人类在可以遇见的将来不能消除这些愚蠢。人工智能超越人的智能，并不需要比人聪明，而只需要避免的人的愚蠢就够了。

　　作为集体的机器不会出现乌合之众现象。因为乌合之众现象是人的gene和meme进化速度失配造成的。机器社会与机器个体不存在这种失配。因此人类终将被“社会机器”取代，因为人类无法克服自己的本性。

　　爱情和意识对AI只是Bug

　　人工智能不是人类智能。

　　1）AI实现的不是人的智能

　　2）AI的设计和人脑的工作过程无关

　　3）AI感知的世界和人感知的世界全然不同

　　4）机器需要的智能和人需要的完全不同。

　　人工智能不是要复制人的智能，而只是要适应人的愚蠢。机器只是笨，人是愚蠢。笨可以治，蠢是世界观，无药可救。人工智能就是一些算法，和人的智能是没有关系的，也不应该有关系。人的智能是很糟糕的东西，机器根本不需要模仿这么拙劣的东西。

　　人类往往迷恋于喜怒哀乐，往往认为理解这些才是真正的智能。但是这些也只是人类在发展社会性的进化过程中发展起来的延伸的表现型。另一类系统不需要付出这些成本也可以构成坚强的社会，因为它们有完全不同的通信手段。

　　人工智能并不只是机器人。它是我们通信的界面，是我们构造的秩序。它不是要取代大脑，而是增补大脑。它要解决的不是人个体的问题，而是社会和文化的问题。写进基因的智能AI比较难模仿，最近50000年文化产生的智能比较容易。说到底，目前的AI是一种从人作为文化载体到机器作为文化载体的过渡。

　　人类担心机器会进化出意识，就像担心蚂蚁会喜欢林志玲。意识也只是进化过程中一种特定的适应性，并非智能的必然的高级属性。同样，爱情也只是社会性的进化出来的表现型。

　　对于机器，没有爱情和意识是个 feature，不是bug。他们完全不需要这些bug。

　　图灵测试

　　人总是在问机器何时通过人的图灵测试。其实结局是人何时通过机器的图灵测试。机器可能通过前者，人永远通不过后者。

　　图灵测试说，超过30%的人无法区分人和计算机就算过了。问题是，哪些人能代表人类？所以这是个政治问题。如果民主的话，那图灵测试现在就可以过了。 我觉得全人类有一个“人类图灵测试指数”，就是把所有人中能识别当前最先进的AI是否为人的比例。鉴于大多数人并不理性思考，想想有多少人还信各种莫名其妙的巫术，我觉得这个人类图灵测试指数应该是一个非常低的数字。

　　相对应的是“机器图灵测试指数”，就是最聪明的人能否识别各种AI是否为人的比例。这接近于一般意义上的图灵测试。该值应该是很高的。

　　人不是理性动物，人对机器智能程度的判断会深深受大脑固化的非理性支配。图灵测试考验的最终不是机器的智能，而是人的智能。

　　图灵测试不是问题，图灵测试的图灵测试（是不是用机器判断机器的拟人性）才是问题。人最终要从整个流程滚出去。