更严重的是，根据网站Propublica的研究，人工智能软件在美国被用来预测哪一位罪犯可能再次犯罪时，它被发现更容易错误地把黑人罪犯识别为高再犯风险的人，而把白人罪犯识别为低再犯风险的人。

　　软件公司对该研究表示怀疑。

　　技术乐观主义者的解决之道

　　犹他大学计算机学院的副教授Suresh Venkatasubramanian（天呐名字好长）说，趁着问题仍然可见，人工智能的创造者现在就需要行动。

　　他对BBC说：“最坏的可能就是，事情发生变化了，而我们不再意识到它。换言之，值得关心的是，因为我们视根据算法作决策为理所应当，其中的偏见将从我们承认的人类偏见中，转移到我们不再承认，因此也无法察觉的事物上。”

　　我们是否创造了具有偏见的机器人呢？

　　然而他是一个技术乐观主义者。

　　他说：“所有的算法都表现出种族主义在我看来讲不通。并非因为这不可能，而是因为那不是算法实际运行的方式。过去三四年间，已讨论了关于算法的问题和可能的解决方法。“

　　他提供了一些方法：

创造更好、更具有多样性的数据集合来校验算法（例如：算法通过处理成千上万张图片进行学习）；

分享软件供应商的最好的实践；

构建能够解释决定的算法，从而任何偏见都能够被理解。

　　Buolamwini女士说：“我现在开始想一个问题，老年人在科技领域也并没有自己的声音，我们有没有检测并确保这一系统对老年人同样有效呢？因为一些超重人士报告了问题，我就想，j2直播，我们有没有关注并确保这一系统对超重人群同样有效呢？这绝对是击中人们心弦的问题。”

　　她现在也挺乐观的：“如果人们能够更多地意识到潜在的问题，她对现状的改善充满希望。其实我们所创造的任何技术，它们都是人类抱负和局限的反映。如果我们在包容性上充满局限性，这将会反映在我们开发的机器人上，或着纳入机器人的技术上。”