用深度学习来进行解决特征表示的问题效果非常明显,但解决 pipeline 误差传播和积累的问题,其实有一个天然的思路就是 joint learning,将多个 step 的学习整合为同一个 task,从而降低中间过程的误差。近几年有以下几个工作可以关注一下: [7] Modeling Joint Entity and Relation Extraction with Table Representation [8] CoType: Joint Extraction of Typed Entities and Relations with Knowledge Bases [9] Joint Extraction of Entities and Relations Based on a Novel Tagging Scheme [7] 的工作和 [9] 的工作有一些类似的地方,都是将整个任务转化为一种序列标注任务,用自定义的标签重新定义了句子的实体和关系。[9] 的工作是 ACL 2017 的 outstanding paper,用了近几年流行的 seq2seq 来生成和推理标签,效果会比传统的 crf 等算法更好。 ▲ 图 5:文献 [7] 的标注方法 ▲ 图 6:文献 [9] 的标注方法 [8] 的工作是将 entity 和 relation 分别映射在两个向量空间中,然后联合起来对 entity 和 relaiton 进行推理。如图 7: ▲ 图 7:CoType 模型图 关系抽取是一类经典的 NLP 任务,也是构建高质量知识图谱的基础,针对关系抽取的研究工作非常多,远程监督是研究中的热点方法,本文收集了一些代表性的工作,即将上线的 PaperWeekly 社区将会推出一个【论文集】的功能,社区用户可以根据自己感兴趣的 topic,收集相关的 paper,我们也会不定期地放出更多精彩的 topic related 的 paper,每篇 paper 都会有用户的笔记、讨论、论文相关的数据集和开源代码, 敬请期待! 参考文献: 在 PaperWeekly 微信公众号后台回复 “远程监督”,即可一键下载所有论文。 [1] Distant supervision for relation extraction without labeled data [2] Multi-instance Multi-label Learning for Relation Extraction [3] Relation Classification via Convolutional Deep Neural Network [4] Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks [5] Neural Relation Extraction with Selective Attention over Instances [6] Distant Supervision for Relation Extraction with Sentence-Level Attention and Entity Deions [7] Modeling Joint Entity and Relation Extraction with Table Representation [8] CoType: Joint Extraction of Typed Entities and Relations with Knowledge Bases [9] Joint Extraction of Entities and Relations Based on a Novel Tagging Scheme ✎✎✎ PaperWeekly 希望能让更多优质内容以更短路径到达读者群体,缩短读者寻找资源的成本,让知识真正流动起来。 如果你也想分享你的最新科研成果、学习心得亦或技术干货,欢迎在 PaperWeekly 微信公众号后台点击 “投稿通道” 菜单进行投稿。 关于 PaperWeekly PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击「交流群」,小助手将把你带入 PaperWeekly 的交流群里。 (责任编辑:本港台直播) |