AI助手常“尬聊”? 谷歌重磅推出Pair人机协作计划, 开源全新AI工具 |潮科技

2017-07-12 09:29来源:36氪

原标题：AI助手常“尬聊”? 谷歌重磅推出Pair人机协作计划, 开源全新AI工具 |潮科技

作者| 石筱玉

编辑| 傅博

我们都知道，iPhone里的Siri能给我们讲笑话，Amazon Echo里的Alexa还能协助你语音购物……不过尝试几次之后，我们也会发现Siri的“冷笑话”也那么几个，而大部分人都对Alexa的购物功能其实不太感兴趣。

Siri的“唱歌”功能你有没有试过？（图片来自网络）

在普华永道人工智能分析师Anand Rao的眼中，AI的问题还严重得多。由于现在的AI还不具有理解整句话意思的能力，它们依旧在抓取关键词和用户“尬聊”。因此，AI有时候会捅出挺大的篓子。Rao对VentureBeat这么表示：

“有些很经典的例子……聊天机器人会说‘这太棒了！快点告诉我你亲人逝世的更多消息吧。’”

在这些案例之下，谷歌下定决心不让自己的人工智能语音助手Google Assistant和用户继续“尬聊”。为了提升人类与AI助手的关系，谷歌在7月10日宣布将要进行一个新的研究计划：PAIR计划。

“PAIR”表示People + AI Research Initiative（人类+AI研究计划），将由Fernanda Viégas与Martin Wattenberg两位数据可视化专家负责。他们最重要的一个任务就是研究如何让AI更有“人性”。

PAIR计划的背后，是谷歌长久以来一直推行的“HCML”（human-centered machine learning，atv，以人为中心的机器学习）理念。在之前对这一理念的阐述中，谷歌的设计师们是这么说的：

“设计者们还需要学习如何让用户觉得他们控制了技术，而不是技术控制他们……运用这一理念，我们能够观察机器学习是如何以人的需求为本，同时以独特的方式解决这些只能由机器学习解决的问题。”

HCML-在获得机器帮助的同时，人类也要对自己要解决的问题（即“需求”）有明确的认识。（来自谷歌）

在同一天，Viégas与Wattenberg还将Facets Overview和Facets Dive两项可视化数据工具进行开源。在PAIR计划的主页上，我们能看到通往Facets工具的页面。两位作者是这么形容Facets系列工具的：

“这些工具面向AI工程师开发，并且关注的是机器学习的最初阶段。Facets工具能够让工程师们清楚知道用来训练AI系统的数据分布。”

Facets工具的数据筛选页面。

对于AI系统来说，要想做到对用户的千百种要求“有求必应”，必须要建立在庞大的数据库之上。以无人驾驶为例，AI的数据需求甚至催生了“AI训练师”的新职位。“训练师”们能够在道路图片中标注出行人、树木、其他车辆等的形态，以供无人驾驶AI进行学习。

不过，生活中的语音助手面对着比无人驾驶更复杂的用户诉求，同时也要收集各个年龄、偏好的用户资料。在这一过程中Facets工具能够方便地对于用户进行分类与筛选，让开发者们观察自己的数据选择有没有出现偏颇。

根据《金融时报》的分析，谷歌的Facets工具是“以人为中心”的第一步，同时也反映了人工智能行业一个更大的隐忧。

在人工智能的“训练”过程中，不全、不准确的数据就有可能造成AI“思想有问题”，而开发者们很多时候并不知道错误出在哪里。就算在某些情况下AI系统能正常运作，AI也可能产生一些偏见，从而伤害到用户的感情。

在PAIR计划的官方页面中，我们不仅能看到Facets工具，还发现谷歌在“以人为中心”思想下的多方面布局。其中不仅有自然语言与模型的解析，还有The Playground教育工具，与一个名叫Face2Cartoon、能够通过照片做卡通头像的软件。

谷歌对Face2Cartoon的介绍图。

Viégas与Wattenberg对谷歌的这个长远计划非常自豪。在他们眼中，这项计划不仅能够防止未来的AI助手与用户“尬聊”，还能在学术、开发方面帮助研究者们。

关于他们的这些预期，文章中这样写道：