【倒计时 9 天，点击“阅读原文”抢票】中国 AI 2017 开年盛典启幕在即，三大亮点不容错过：① 两会 聚齐 BAT 人工智能技术领袖，洞察中国 AI 军团布局；② 引爆 AI 原力， 现场参与 AI 技术论坛顶牛对撞；③人工智能创业家巨星璀璨，看投资领袖预测 谁将成为中国 AI 独角兽。

　　【新智元导读】谷歌今天开源一个句子编码器模型 Skip-Thoughts，在 TensorFlow 上实现，学习将输入的句子编码成固定维度的向量表示，j2直播，可以用于语义相关性，释义检测，句子情绪分类等任务。

　　Skip-Thoughts 模型概要

　　Skip-Thoughts 模型是一个句子编码器。它学习将输入的句子编码成固定维度的向量表示，这些向量表示能够对许多任务有用，例如检测释义，或对产品评论进行积极或消极的分类等等。有关模型架构和更多示例应用的详细信息，可以参阅Ryan Kiros 等人的 NIPS 论文 Skip-Thought Vectors。

　　一个训练好的 Skip-Thoughts 模型会在嵌入的向量空间中对相互临近的相似句子进行编码。以下示例展示了对电影评论数据集中的一些句子的余弦相似性的最近邻域。

　　Skip-Thought 模型是 NIPS 2015论文 Skip-Thought Vectors中描述的模型的一个 TensorFlow 实现，学习对句子的语义属性进行编码。

　　引用：Ryan Kiros, Yukun Zhu, Ruslan Salakhutdinov, Richard S. Zemel, Antonio Torralba, Raquel Urtasun, Sanja Fidler. Skip-Thought Vectors.In NIPS, 2015.

　　论文下载地址：https://papers.nips.cc/paper/5950-skip-thought-vectors.pdf

　　摘要：

　　我们描述了一种通用、分布式句子编码器的无监督学习方法。使用从书籍中提取的连续文本，我们训练了一个编码器-解码器模型，j2直播，试图重建编码段落周围的句子。语义和语法属性一致的句子因此被映射到相似的向量表示。我们接着引入一个简单的词汇扩展方法来编码不再训练预料内的单词，令词汇量扩展到一百万词。在训练模型后，我们用线性模型在8个任务上提取和评估我们的向量，包括：语义相关性，释义检测，图像句子排序，问题类型归类，以及4个基准情绪和主观性数据集。最终的结果是一个非专门设计的编码器，能够生成高度通用性的句子表示，在实践中表现良好。

　　编码句子示例

　　该示例的句子来自电影评论数据集（Movie Review Data）。

　　输出：

　　Github 开源内容：

　　入门

　　安装所需软件包

　　下载预训练模型（可选）

　　训练模型

　　准备训练数据

　　运行训练脚本

　　跟踪训练进度

　　扩展词汇

　　概述

　　准备

　　运行词汇扩展脚本

　　评估模型

　　概述

　　准备

　　运行评估任务

　　编码句子

　　开源地址：https://github.com/tensorflow/models/tree/master/skip_thoughts

　　新智元“3·27”AI 技术峰会购票二维码：