这项研究的参与者都严重同意:加速代码依赖带来的大量积极影响将继续推动算法的传播,然而,与所有伟大的技术革命一样,这种趋势有一个黑暗面。大多数参与者指出了自己的担忧。主要的担忧集中体现在报告接下来的这 5 个主题中,每一个主题都包含子主题。 主题3:当数据和预测模型占据统治地位,人性和人类的判断将丧失 算法的进步能够让技术企业和政府搜集、存储、分类和分析海量的数据集。 专家在这项调查中指出,这些算法主要是为了优化效率和提高盈利能力而写,对数据建模和分析潜在的社会影响并没有作过多的考虑。这些受访者认为,在这个过程中,人类被看出是一种“输入”,而不是真实的,会思考的,有感觉,随时都在变化的生命。 他们说,这是在创造一个有缺陷的,仅凭逻辑驱动的社会,随着这一过程不断演化,也就是说,随着算法开始编写算法,人类可能在社会的循环中被遗弃,从而把决定权交给机器。 代表观点: Clemson大学人本计算( human-centered computing)专业的助理教授 Bart Knijnenburg 回答说:“算法将会把便利和利润放在首要位置,从而造成对特定人群的歧视,并破坏另一些人积累起来的经验。算法的目标是满足一些人的偏好,而不一定是所有人的偏好。从本质上看,算法呈现的是我们的口味和偏好。我最大的担忧是,除非我们让算法可以做到“自我实现”(self-actualization),否则,人们遵循一个算法的建议变得过于容易,也过于简单了(也就是说,人类将很难超越这些算法提供的建议),同时,人们也会渐渐把这些算法变成一个能自圆其说的哲学家,用户则会成为专门消费易于消费项目的“僵尸”。 这将是很方便的人们遵循一个算法的建议(或太难以超越这样的建议),把这些算法变成自我实现预言和用户进入僵尸谁专门消费易于消费的项目。 一个匿名的未来主义者说,“从工业革命开始以来,这样的事一直在发生。每当你设计一个针对效率或盈利能力进行优化的人力系统时,你就是在将劳动力非人性化 。这种非人性化现在已经蔓延到我们的医疗和社会服务上。当你从包含人类的系统中移除人性时,人类就成为了受害者。 另一个匿名回答者写道:“我们根本不能捕捉到用于代表一个人和他的需要,愿望,希望和渴望的每一个数据元素。数据由谁来收集?收集什么?数据点所代表的那个人,他是否知道或者说同意服务条款,又或者是因为他们根本没有选择? 谁从数据赚钱?任普通人如何知道他/她的数据如何被使用?用于什么目的?在这个过程中,没有透明性,监督也成为一场闹剧。所有的一切都被隐藏起来。我将始终坚信数据应该用于丰富和/或保护众人,而不是个人。这是我们所处的经济制度的基本性质。 其他受访者对这一主题的反馈: ?潜力是巨大的,但误用和滥用的可能性,atv,不管是故意的或无意的,可能性更大。 ?公司寻求的是将利润最大化,而不是将社会利益最大化。更糟糕的是,他们将对利润的追逐重新包装为对社会利益的努力。我们正在接近波浪的波峰,波谷的一边是一种新的操纵,营销,几乎完全缺乏隐私的伦理。 ?我们今天看到的是,实际上,像“差别定价”这样的东西并不能帮助消费者,它只是帮助销售东西的公司。 ?随着法治、社会正义和经济遭受可预见的破坏,个体人类将像牛一样被圈养起来。 ?算法正在放大数据代沟和隔离带来的消极影响。 主题4:算法组织的系统存在偏见 (责任编辑:本港台直播) |