领域应用 | 深度学习在知识图谱构建中的应用

2018-03-19 游维

本文转载自公众号:阿里技术

深度学习模型介绍

DeepDive系统在数据处理阶段很大程度上依赖于NLP工具,如果NLP的过程中存在错误,这些错误将会在后续的标注和学习步骤中被不断传播放大,影响最终的关系抽取效果。为了避免这种传播和影响,近年来深度学习技术开始越来越多地在关系抽取任务中得到重视和应用。本章主要介绍一种远程监督标注与基于卷积神经网络的模型相结合的关系抽取方法以及该方法的一些改进技术。

继续阅读“领域应用 | 深度学习在知识图谱构建中的应用”

技术动态 | 基于深度学习的中文自然语言处理工具 FudanDNN-NLP3.0

1. 工具特色

FudanDNN-NLP3.0 是由复旦大学计算机学院机器人研究实验室所开发的基于深度学习的中文自然语言处理工具,该工具目前可用于中文分词、命名识别、词性标注、句子分类、语义分析、知识库访问、对话问答。深度学习方法的优点在于不需要预先根据任务进行特征的选择(特征工程),系统所需参数较少(节省内存开销),并且实际使用速度优于其它相似性能的系统。该工具目前具备以下特点:

继续阅读“技术动态 | 基于深度学习的中文自然语言处理工具 FudanDNN-NLP3.0”

技术动态 | 揭开知识库问答 KB-QA 的面纱 8 · 深度学习下篇(二)

作者,四川大学博士生,刘大一恒。本文已经获得 ChatbotMagazine 公众号授权。
内容速览

☛ 引入注意力机制的KB-QA

☛ 深度学习篇总结

在上一篇 技术动态 | 揭开知识库问答 KB-QA 的面纱 7 · 深度学习下篇(一)中我们介绍了关于如何将记忆网络应用到KB-QA中的文章。今天我们将给大家介绍另一篇使用深度学习另一种经典模型进行KB-QA的文章,带注意力机制的循环神经网络(Recurrent Neural Networks with Attention Mechanism)。这也是深度学习用于自然语言处理领域(Deep Learning for NLP)中相当火热的方法,就让我们一起来看看如何将它应用到KB-QA中吧。

继续阅读“技术动态 | 揭开知识库问答 KB-QA 的面纱 8 · 深度学习下篇(二)”

技术动态 | 基于深度学习知识库问答研究进展

本文整理自刘康博士在 4 月 29 日广州知识图谱与问答系统论坛上的演讲。

大家好。我这个报告的题目是基于深度学习的知识库问答研究进展。其实就是想跟大家介绍,目前在做面向知识库问答的时候,一个解决的方案是用 Deep Learning 来做。

1 问答系统的历史

那么首先的话我们来回顾一下问答的一些历史的一些情况。我们现在用搜索引擎的话,其实用户来访问数据,还是以文档列表的形式。当用户问一个问题的时候,是需要用户在下面排序的结果中,来找到自己所需要的答案,其实搜索引擎并不能直接给你最精准的答案。另外,我们现在有各种各样的可穿戴设备,屏幕的缩小需要我们这个系统能够自动的从我们的数据库,或者我们的文本库里面,抽取最精准的答案。

继续阅读“技术动态 | 基于深度学习知识库问答研究进展”

技术动态 | 揭开知识库问答 KB-QA 的面纱 7 · 深度学习下篇(一)

作者,四川大学博士生,刘大一恒。本文已经获得 ChatbotMagazine 公众号授权。
内容速览

☛ 什么是记忆网络

☛ 基于记忆网络的KB-QA

☛ 小结

在上两期,我们分别介绍了使用深度学习的卷积神经网络对向量建模和语义解析方法进行提升的两篇经典论文。(详情翻查公众号历史记录。)

继续阅读“技术动态 | 揭开知识库问答 KB-QA 的面纱 7 · 深度学习下篇(一)”

技术动态 | 揭开知识库问答 KB-QA 的面纱 6 · 深度学习中篇

​作者,四川大学博士生,刘大一恒。本文已经获得 ChatbotMagazine 公众号授权。
内容速览
☛ 语义解析方法的再思考
☛ 什么是查询图
☛ 查询图的阶段生成
☛ 各阶段的特征
☛ 实验分析与总结
在上期,我们介绍了深度学习对传统向量建模KB-QA方法进行提升的一篇代表论文,可以看出它的效果击败了当时所有的传统方法。本期,我们将以深度学习提升语义解析方法的一篇代表作为例,作为深度学习篇的中篇,为大家进一步揭开知识库问答的面纱。

继续阅读“技术动态 | 揭开知识库问答 KB-QA 的面纱 6 · 深度学习中篇”

肖仰华 | 当知识图谱“遇见”深度学习

本文转载自中国人工智能学会通讯 2017 第 4 期,排版转自公众号 PaperWeekly。

大数据时代的到来,为人工智能的飞速发展带来前所未有的数据红利。在大数据的“喂养”下,人工智能技术获得了前所未有的长足进步。其进展突出体现在以知识图谱为代表的知识工程以及深度学习为代表的机器学习等相关领域。随着深度学习对于大数据的红利消耗殆尽,深度学习模型效果的天花板日益迫近。另一方面大量知识图谱不断涌现,这些蕴含人类大量先验知识的宝库却尚未被深度学习有效利用。融合知识图谱与深度学习,已然成为进一步提升深度学习模型效果的重要思路之一。以知识图谱为代表的符号主义、以深度学习为代表的联结主义,日益脱离原先各自独立发展的轨道,走上协同并进的新道路。

继续阅读“肖仰华 | 当知识图谱“遇见”深度学习”