Google 博客文章《用更智能的机器学习对抗歧视》（Attacking discrimination with smarter machine learning）提出改进机器学习系统来避免歧视，这与引争议的上海交大的论文有相通之处。文章介绍了“阈值分类器”（threshold classifiers），一种输出结果只有“是”或者“否”的分类方法，即把一样东西归为一类或另一类，这种分类方法经常引起“歧视”争论。例如在银行贷款的例子中，银行综合各要素，以自己的利益最大化为目的，对每个申请贷款的人设置一个信用指数的“阈值”，高于这个值的人能得到贷款，低于这个值的人得不到贷款。研究者提出“机会均等”（equal opportunity）概念，在贷款的例子中，即是约束那些能够偿还贷款的人，每个组中处于相同部分的人实际上应该得到贷款。用数据科学的术语来说，即是“真阳性率”（true positive rate）在每个组中应该是相同的。

　　左：阈值分类器。信用分数越高，偿还贷款的可能性越高。深色圈代表偿还贷款的人，浅色圈代表违约者。右：分类的结果。

　　Google 研究者的论文中一个关键的结果是，基本上任何评分系统都可以有效地找到满足这些标准的阈值。也就是说，即使无法控制基础的评分系统，也能够抵抗歧视问题。对于能够控制评分系统的组织，使用这些定义可以帮助澄清核心的问题。如果一个分类器对某些组不如其他组那样有效，那么它可能在具有最多的不确定性因素的组里引起问题。平等机会阈值的限制将“不确定性责任”转移到评分系统的创建者身上。这就为投资于更好的分类器提供了动力。

　　图：对不同的组模仿贷款决定。如在“机会均等”的预制贷款策略中，蓝色和橙色组的人偿还能力相等。这样利益和公平性都得到最大化，总体来说能获得贷款的人也最多。

　　Google 研究者认为优化“机会均等”只是可用于改进机器学习系统的许多工具中的一个，而数学本身不可能得到最好的解决方案。对抗机器学习中的歧视问题需要仔细、多学科结合的方法。

　　参考资料来源：

　　?

　　https://arxiv.org/abs/1611.04135

　　https://news.ycombinator.com/item?id=12983827

新智元招聘

　　职位 运营总监

　　职位年薪：36- 50万（工资+奖金）

　　工作地点：北京-海淀区

　　所属部门：运营部

　　汇报对象：COO

　　下属人数：2人

　　年龄要求：25 岁 至 35 岁

　　性别要求：不限

　　工作年限：3 年以上

　　语 言：英语6级（海外留学背景优先）

　　职位描述

负责大型会展赞助商及参展商拓展、挖掘潜在客户等工作，直播，人工智能及机器人产业方向

擅长开拓市场，并与潜在客户建立良好的人际关系

深度了解人工智能及机器人产业及相关市场状况，随时掌握市场动态

主动协调部门之间项目合作，组织好跨部门间的合作，具备良好的影响力

带领团队完成营业额目标，并监控管理项目状况

负责公司平台运营方面的战略计划、合作计划的制定与实施

　　岗位要求

大学本科以上学历，硕士优先，要求有较高英语沟通能力

3年以上商务拓展经验，有团队管理经验，熟悉商务部门整体管理工作

对传统全案公关、传统整合传播整体方案、策略性整体方案有深邃见解

具有敏锐的市场洞察力和精确的客户分析能力、较强的团队统筹管理能力