大多数都已介绍，这里就只说明CTransR，其中关系的实体对被分类到不同的组，同一组的实体对共享一个关系向量。相比较而言，TransG不需要对聚类的预处理。

　　简评

这篇文章的idea比较重要，考虑到一种关系存在的多语义问题，相当于对关系进行了细化，就是找到关系的隐形含义，最终从细化的结果中选出一个最佳的关系语义。这个在应用中很有意义，不同的语义可能需要不同的应对方法，可以借鉴。

　　KG2E:KG2E_learning to represent knowledge graphs with gaussian embedding作者

Shizhu He, Kang Liu, Guoliang Ji and Jun Zhao

　　单位

National Laboratory of Pattern Recognition

　　Institute of Automation, Chinese Academy of Sciences, Beijing, 100190, China

　　关键词

Distributed Representation, Gaussian Embedding, Knowledge Graph

　　文章来源

CIKM 2015

　　问题

本文所解决的问题是知识图谱的表示问题（即将知识图谱表示为低维连续向量空间），本文使用Gaussian Distribution 来表示实体和关系，提出了用Gaussian Distribution的协方差来表示实体和关系的不确定度的新思想，提升了已有模型在link prediction和triplet classification问题上的准确率。

　　模型

传统的表示学习的表示学习的方法和计算比较复杂，自TransE模型诞生后，很多模型都是在TransE的基本思想上加以改进，KG2E模型也是一样。

　　KG2E模型使用高斯分布来表示实体和关系。

　　模型实例见下图：

每个圆圈代表不同实体与关系的表示，它们分别于“Bill Clinton”构成三元组关系，圆圈大小表示的是不同实体或关系的不确定度。

模型算法流程图如下：

算法解读：

　　输入：训练集三元组，KG中所有的实体和关系，以及其它的一些参数。

　　输出：KG中所有实体和关系建模后生成的Gaussian Embeddings.（主要包含两个部分，均值（向量）和协方差（矩阵））

　　line 1到line 4主要是数据的归一化

　　line 5到line 15是算法实现部分：模型采用的是minibatch的训练方法，每一个minibatch的训练中都会进行负采样，并将负采样的样例和正例样例混合在一起学习，然后使用评分函数进行评估，要达到的目的是正例三元组的得分比负例三元组高或者低（高低取决于具体的评分而函数的设定）。在一次一次的迭代中不断更新结果，最后将得到的means和covariance进行正则化。

文章核心公式：

　　（1）评分函数

（2）KL散度的能量函数

（3）期望概率能量函数

　　资源

数据集：

　　WN18 https://github.com/Mrlyk423/Relation_Extraction/blob/master/data.zip

WN11 https://github.com/dddoss/tensorflow-socher-ntn/tree/master/data/Wordnet

FB13K https://github.com/dddoss/tensorflow-socher-ntn/tree/master/data/Freebase

FB15K https://github.com/Mrlyk423/Relation_Extraction/blob/master/data.zip

　　简评

创新点：

　　1、以前的文章是属于point-based，KG2E是属于density-based的。

　　2、提出了(un)certainty的概念，在建模过程中融入了关系和实体语义本身的不确定性的知识，使用高斯分布的协方差表示该实体或关系的不确定度，高斯分布的均值表示实体或关系在语义空间中的中心值。

　　3、使用了新的score funciton：KL-divergence和expected likelihood

　　应用场景：link prediction，triplet classification,knowledge reasoning

　　不足之处：本文提出的方法在link prediction的many-to-many relations上的预测性能不是很好，主要原因是KG2E模型没有考虑实体的类型和粒度。

　　TranSparse:Knowledge Graph Completion with Adaptive Sparse Transfer Matrix作者

Guoliang Ji, Kang Liu, Shizhu He, Jun Zhao

　　单位

中科院模式识别国家重点实验室

　　关键词

Knowledge Graph Embedding,Sparse Matrix

　　文章来源

AAAI 2016

　　问题