【新智元导读】计算机科学尤其是 AI 的深层次应用已经开始干扰我们的生活，我们必须开始考虑在“机器智能”的应用过程中的两个问题：谁来负责？如何监管？英国政府首席科学顾问 Mark Walport 在 Wired 上发表长文，试图让人们思考：技术是在拯救生命，还是在践踏自由？我们能做些什么？

　　关于AI及机器学习的应用将在未来数年间引发大规模失业的悲观预测甚嚣尘上。但事实上这些新技术会生发新的产品和服务，从而创造新的就业机会。可以肯定的是，计算机科学的深层次应用已经开始干扰我们的生活。如果我们要想从中获益但尽可能减少潜在的危害，必须开始考虑这些技术的应用和监管的方式。

　　无孔不入的算法

　　18世纪蒸汽机的应用打乱了传统农业劳动者的生活，推动了城市崛起，创造了新的产业和新的就业机会，但医疗、司法等传统行业改变不大。而最近一次的工业革命几乎引发了各行各业的变革。

　　到目前为止，机器学习的大部分应用看起来基本上都是良性的，但是我们大多数人都没意识到它们正在产生重要的影响。你的信用卡或借记卡多久没接受信用查询了？这类过去频繁发生的事情现在已经越来越少见。这是关于我们消费行为和模式机器学习应用的结果。银行和信用评级机构对于我们的财务状况了如指掌。这既便捷又大幅降低了信用盗窃的风险。这也意味着银行对我们生活方式的了解甚至超过了我们的亲人。

　　市场营销和消费者服务咨询企业对我们在线购物（不论是单独购买还是团购）的状况保持持续的了解。店铺会员卡产出的大量关于购买行为的数据几乎影响了产品设计和定位的每个方面。我们的谷歌搜索结果和所收到的营销邮件都受到我们此前在线行为的影响。Netflix或亚马逊会自动推荐我们想要观看的电影，我们应该感到挺有帮助还是隐私受到侵犯？谁在做这些影片推荐？我们应该在意吗？

　　当我们网购时，我们如何被界定为一个“优质“顾客？卖家甚至比我们自己都了解我们的心理特性，我们会无形中受到他们的奖励或惩罚吗？我们以为优质顾客会享受到更优惠的价格。但是对于卖家而言，优质顾客指的是那些购买意愿强烈，因而愿意为产品付出更高价格的顾客。因而机器学习会帮助卖家以更高的价格售卖特定的商品给频繁购买这类商品的顾客。机器会判断我们是否是这种愿意为喜欢的商品付出更高价格的倒霉蛋，并帮助卖家充分利用我们这一弱点。

　　价格浮动不是什么新鲜事儿，假期和非假期时段旅行团的价格就很说明问题了。利用算法来为产品和服务设定价格浮动体系好处多多。当能源需求上升时，可以通过提高收费来限制不必要的用气、用电以及额外的发电容量。Uber会在用车需求较高但可用车辆较少的情况下调高价格，这也会激励更多司机补充到用车需求较高的区域。但如果是由于极端天气导致公共交通体系瘫痪引发用车需求增加，Uber的提价行为就会被视为一种敲诈。AI及机器学习对一些传统行业影响巨大。医疗和法律则表现出高度的免疫。在过去20年间，大多数服务性行业的面貌已经被IT 大幅改变，而医疗和司法则基本维持原貌。

　　医疗和司法领域也面临变革

　　原因为何？这些职业通常需要长期的培训和实习。从业者依靠的是专业技能和专业判断的应用，这是他们立足的根本。但一个重要的问题是，如何判断他们的专业性？谁来判断？常规的答案是由一个具备同等专业素质的从业者来判断其同行的专业性。这有些道理，但还是有问题。这会催生专业监管机构来自我监管。这些机构还会制订出限制性的行业操作规范，从而营造出一种基于精英主义和保守主义的文化。

　　专业性通常与一系列特定的价值相关联。无论是医生、工程师、律师，政府官员还是神职人员，经验、专业、信任度、智慧及判断力都是他们被期待具备的质素。这些质素背后涵盖的是行业相关的知识及价值，如医生行医过程中的“不误诊“。医生执业是基于医学证据，而律师执业是基于立法和案例的结合。

　　但医疗及法律从业者面临的挑战是他们的很多工作都可以被学习和应用了 AI 的计算机大幅改进，甚至完全替代。如果专业判断是这类职业最基本的质素，计算机是否可能完成同样的工作？不同的判断可以被区分吗？我们能看出究竟是人还是机器做出的这些判断吗？