无监督学习适用于你具有数据集但无标签的情况。无监督学习采用输入集,并尝试查找数据中的模式。比如,将其组织成群(聚类)或查找异常值(异常检测)。例如: •想像一下,如果你是一个T恤制造商,拥有一堆人的身体测量值。那么你可能就会想要有一个聚类算法,以便将这些测量组合成一组集群,从而决定你生产的XS,S,M,L和XL号衬衫该有多大。 •如果你是一家安全初创企业的首席技术官(CTO),你希望找出计算机之间网络连接历史中的异常:网络流量看起来不正常,这可能会帮助你通过下载员工们的所有CRM历史记录来找到那名该为此事负责的员工,因为他们可能即将退出或有人正在将异常大量的钱转移到一个新的银行账户。如果你对这种事情感兴趣的话,那么我相信你会很喜欢这种对无监督异常检测算法的调查。 •假设一下,你是Google Brain团队中的一员,你想知道YouTube视频中有什么。 谷歌通过人工智能在视频网站中找到猫的真实故事,唤起了大众对AI的热忱。在诸如这篇论文中,Google Brain团队与斯坦福大学研究人员Quoc Le和吴恩达一起描述了一种将YouTube视频分为多种类别的算法,其中一种包含了猫的类别。当然他们并没有真正开始寻找猫,但算法自动将包含猫的视频(以及ImageNet中定义的22000个对象类别中的数千个其他对象)组合在一起,而不需要任何明确的训练数据。 你将在文献中阅读到的一些无监督的学习技术包括: •自编码(Autoencoding) •主成分分析(Principal components analysis) •随机森林(Random forests) •K均值聚类(K-means clustering) 如果你想要了解有关无监督学习的更多信息,可以观看Udacity的课程。 无监督学习中最有前景的最新发展之一是Ian Goodfellow(当时在Yoshua Bengio的实验室工作时提出)的一个想法,称为“生成对抗网络(generative adversarial networks)”,其中我们将两个神经网络相互联系:一个网络,我们称之为生成器,负责生成旨在尝试欺骗另一个网络的数据,而这个网络,我们称为鉴别器。这种方法实现了一些令人惊奇的结果,例如可以从文本字符串或手绘草图生成如照片版逼真图片的AI技术。 半监督学习(Semi-supervised Learning) 半监督学习在训练阶段结合了大量未标记的数据和少量标签数据。与使用所有标签数据的模型相比,使用训练集的训练模型在训练时可以更为准确,而且训练成本更低。举个例子来说明,我们的朋友Delip Rao在AI咨询公司Joostware工作,他构建了一个使用半监督学习的解决方案,每个类中只需使用30个标签,就可以达到与使用监督学习训练的模型相同的准确度,而在这个监督学习模型中,每个类中需要1360个左右的标签。因此,这个半监督学习方案使得他们的客户能够非常快地将其预测功能从20个类别扩展到110个类别。 为什么使用未标记数据有时可以帮助模型更准确,关于这一点的体会就是:即使你不知道答案,但你也可以通过学习来知晓,有关可能的值是多少以及特定值出现的频率。 数学爱好者的福利:如果你对半监督学习很感兴趣的话,可以来阅读这个朱小津教授的幻灯片教程和2008年回顾的文献随笔文章。 强化学习(Reinforcement Learning) 强化学习是针对你再次没有标注数据集的情况而言的,但你还是有办法来区分是否越来越接近目标(回报函数(reward function))。经典的儿童游戏——“hotter or colder”。(Huckle Buckle Beanstalk的一个变体)是这个概念的一个很好的例证。你的任务是找到一个隐藏的目标物件,然后你的朋友会喊出你是否越来越hotter(更接近)或colder(远离)目标物件。“Hotter/colder”就是回报函数,而算法的目标就是最大化回报函数。你可以把回报函数当做是一种延迟和稀疏的标签数据形式:而不是在每个数据点中获得特定的“right/wrong”答案,你会得到一个延迟的反应,而它只会提示你是否在朝着目标方向前进。 •DeepMind在Nature上发表了一篇文章,描述了一个将强化学习与深度学习结合起来的系统,该系统学会该如何去玩一套Atari视频游戏,一些取得了巨大成功(如Breakout),而另一些就没那么幸运了(如Montezuma’s Revenge(蒙特祖玛的复仇))。 •Nervana团队(现在在英特尔)发表了一个很好的解惑性博客文章,对这些技术进行了详细介绍,大家有兴趣可以阅读一番。 (责任编辑:本港台直播) |