摘要：我们提出了一个用于二元分类的关键场景，带有 abstention 新的 boosting 算法，其中该算法可以以一个固定的成本为代价，放弃预测一个点的标签。在每一轮中，我们的算法都要选择一对函数：一个基本的预测器和一个弃权（abstention）函数。我们为与该问题相关的自然损失函数定义了凸上界（convex upper bounds），经过证明，它可以用相关的贝叶斯解决方案来校准。在对应函数类别的 Rademacher 复杂度上，我们的算法受益于通用的基于边界的学习保证，我们用其推导基本预测器和 abstention 函数的对。我们为我们的算法提供了收敛保证，并为 abstention stump 提供了线性时间弱学习算法。根据我们的报告，几次试验的结果显示我们的算法在实践中带来的提升显著超过了两个基于置信度的算法。

5.Stochastic Multiple Choice Learning for Training Diverse Deep Ensembles：多个深度模型集成算法；★★★★

论文地址：https://arxiv.org/abs/1606.07839

视频地址：https://www.youtube.com/watch?v=KjUfMtZjyfg&feature=youtu.be

摘要：很多实际的感知系统存在于更大的处理过程中，包括与用户的互动或者能够评估预测解决方案质量的附加组件。在这些情景中，为这些 Oracle 机制提供多种极有可能的假设而不是单一的预测是有益的。在本研究中，我们提出将产生多个输出的任务看作是深度网络集成上的一个学习问题——引进一种全新的随机梯度下降法来最小化与一个 Oracle 相关的损失。我们的方法实现起来很简单，无关于架构和损失函数，也不需要参数。在广泛的任务和深度架构上，相较于现有的方法，我们的方法实现了较低的 Oracle 误差。我们还以定性的方式显示了产生的多样解决方案通常都会提供任务模糊性的可解释的表征。

6.Active Learning from Imperfect Labelers：提出一种 adaptive 算法以处理主动学习中 labeler 不不确定的情况；★★

论文地址：https://papers.nips.cc/paper/6161-active-learning-from-imperfect-labelers

视频地址：https://www.youtube.com/watch?v=zslooZuNNIk&feature=youtu.be

我们研究了主动学习（active learning），其中标注器（labeler）不仅能返回错误的标签还能放弃标记。我们考虑了该标注器的不同噪声和弃权（abstention）条件。我们提出了一种使用了弃权回应的算法，并在对于该标注器的噪声和弃权率的相对自然的假设下分析了其统计一致性（statistical consistency）和查询复杂性（query complexity）。该算法能达到某种程度的自适应，它能自动要求用带有更多信息的或更少噪声的标注器进行少量的查询。我们给我们的算法配上较低的下界，以表明在某些技术条件下，它能达到几乎最优的查询复杂性。

7.Deep learning for Human Strategic Behaviour：顾名思义，同时也是一篇 oral。另外，视频做的很有趣:) ★★

论文地址：https://papers.nips.cc/paper/6161-active-learning-from-imperfect-labelers

摘要：在战略环境中预测人类的行为是许多领域的重要难题。大部分已有的研究要么假设人类完全的理性，要么基于认知心理学和实验经济学试图直接建模人类的认知流程。在此研究中，我们提出了另一种方法：在不依赖专业知识的情况下自动完成认知建模的深度学习方法。通过使用矩阵单元而非标量单元，我们引入一种全新的架构使得单个网络能够在不同的输入和输出维度上进行泛化。而且结果表明其表现超越了之前的顶尖方法，也就是依赖专业结构特征的方法。

8.Improved dropout for shallow deep learning：提出一种改进版本 dropout ★★★★

　　论文地址：

视频地址：https://www.youtube.com/watch?v=oZOOfaT94iU&feature=youtu.be