邹磊 | 浅谈知识图谱数据管理

本文转自北京大数据研究院 BIBDR 公众号。
近年来随着“人工智能”概念的再度活跃,除了“深度学习”这个炙手可热的名词以外,“知识图谱”无疑也是研究者、工业界和投资人心目中的又一颗“银弹”。简单地说,“知识图谱”就是以图形(Graph)的方式来展现“实体”、实体“属性”,以及实体之间的“关系”。

下图是截取的 Google 的知识图谱介绍网页中的一个例子。在例子中有 4 个实体,分别是“达芬奇”,“意大利”,“蒙拉丽莎”和“米可朗基罗”。这个图明确地展示了“达芬奇”的逐个属性和属性值(例如名字、生日和逝世时间等),以及之间的关系(例如蒙拉丽莎是达芬奇的画作,达芬奇出生在意大利等)。当我谈论到这时,我相信有很多读者会不经意地联系到数据库课程中的 “ER Diagram”(实体-联系图)的概念。从某种角度的来说,两者确实是有异曲同工之处。根据传统数据库理论,当我们将现实世界的事物映射到信息世界时,最需要关注的是两个方面的信息:实体(包括实体属性)和实体关系;而 ER 图是反映实体和实体关系的最为经典的概念模型。我们之所以称 ER 图是概念模型,因为它的设计是为人去理解客观世界的事物的,不是计算机实现的模型。在数据库管理系统历史上,出现过层次模型、网状模型和关系模型;这些是数据库管理系统(DBMS)所实现的计算机模型。因此实际的数据库应用项目中就存在了一个从概念模型到实现模型的转换问题,例如如何根据ER图来构建关系表。如果从这个角度上来看,知识图谱又不同于ER图,因为知识图谱不仅显示地刻画了实体和实体关系,而且其本身也定义了一种计算机所实现的数据模型(即 W3C 所提出的 RDF 三元组数据模型),这就是本文第一章介绍的内容。由于本文作者的研究背景是数据库,因此本文试图从数据管理的角度去介绍知识图谱的相关概论以及研究和应用中的问题。同时因为知识图谱本身是一个交叉性研究课题,本文也将介绍不同学科(包括自然语言处理、知识工程和机器学习等领域)在知识图谱研究中的侧重。

图 Google的知识图谱示例

本文首先在第一章介绍知识图谱的数据模型;第二章重点介绍知识图谱在工业界的几个成果案例;第三章重点讨论面向海量知识图谱的数据管理问题,第四章是总览不同学科在知识图谱研究中的侧重,第五章总结全文。
1
知识图谱的数据模型
“知识图谱”这个名词活跃是由于 2012 年 5 月 16 日 Google 启动的“Knowledge Graph”(知识图谱)项目。目前知识图谱普遍采用了语义网框架中 RDF(Resource Description Framework,资源模式框架)模型来表示数据。语义网是万维网之父蒂姆·伯纳斯-李(Tim Berners-Lee)在1998年提出的概念,其核心是构建以数据为中心的网络,即 Web of Data;这是相对于我们目前的万维网是 Web of Pages 而提出的。众所周知,万维网是利用超链接技术将不同的文档链接起来,从而方便用户的浏览和文档的共享。HTML 文档的语法在于告诉浏览器按照何种格式来显示该文档,而并不是告诉计算机文档中的数据分别表示什么语义信息。语义网的核心是让计算机能够理解文档中的数据,以及数据和数据之间的语义关联关系,从而使得机器可以更加智能化地处理这些信息。因此我们可以把语义网想象成是一个全球性的数据库系统,也就是我们通常所提到的 Web of Data。由于语义网技术涉及面较广,本文仅涉及知识图谱所采用的语义网框架中的一项核心概念 RDF(Resource Description Framework,资源描述框架)。RDF 的基本数据模型包括了三个对象类型,资源(Resource)、谓词(Predicate)及陈述(Statements)。资源:所有能够使用 RDF 表示的对象都称之为资源,包括所有网络上的信息、虚拟概念、现实事物等等。资源以唯一的 URI(统一资源标识——Uniform Resource Identifiers,通常使用的 URL 是它的一个子集)来表示,不同的资源拥有不同的 URI。

谓词:谓词描述资源的特征或资源间的关系。每一个谓词都有其意义,用于定义资源在谓词上的属性值(Property Value)或者其他资源的关系。

陈述:一条陈述包含三个部分,通常称之为 RDF 三元组<主体 (subject),谓词 (predicate),宾语(object)>。其中主体一定是一个被描述的资源,由URI来表示。谓词可以表示主体的属性,或者表示主体和宾语之间某种关系;当表示属性时,宾语就是属性值,通常是一个字面值(literal);否则宾语是另外一个由URI表示的资源。

下图1展示了一个人物类百科的 RDF 三元组的知识图谱数据集。例如 y:Abraham_Lincoln 表示一个实体 URI(其中y表示前缀http://en.wikipedia.org/wiki/),其有 3 三个属性(hasName,BornOndate,DiedOnDate)和一个关系(DiedIn)。

图1.RDF数据的例子

面向 RDF 数据集,W3C 提出了一种结构化查询语言 SPARQL;它类似于面向关系数据库的查询语言 SQL。和 SQL 一样,SPARQL 也是一种描述性的结构化查询语言,即用户只需要按照SPARQL定义的语法规则去描述其想查询的信息即可,不需要明确指定如何进行查询的计算机的实现步骤。2008 年 1 月, SPARQL 成为 W3C 的正式标准。SPARQL 中的 WHERE 子句定义了查询条件,其也是由三元组来表示。我们不过多的介绍语法细节,有兴趣的读者可以参考 [1]。下面的例子解释了 SPARQL 语言。假设我们需要在上面的 RDF 数据中查询“在 1809 年 2 月 12 日出生,并且在 1865 年 4 月 15 日逝世的人的姓名?” 这个查询可以表示成如图 2 的 SPARQL 语句。

图2.SPARQL查询的例子

我们也可以将  RDF 和 SPARQL 分别表示成图的形式。例如在RDF中,主体和客体可以分别表示成RDF图中的节点,一条称述(即RDF三元组)可以表示成一条边,其中谓词是边的标签。SPARQL语句同样可以表示成一个查询图。 图3显示了上例所对应的RDF图和SPARQL查询图结构。回答SPARQL查询本质上就是在RDF图中找到SPARQL查询图的子图匹配的位置,这就是基于图数据库的回答SPARQL查询的理论基础。在图3例子中,由节点005,009,010和011所推导的子图就是查询图的一个匹配,根据此匹配很容易知道SPARQL的查询结果是“Abraham Lincoln”。

图3.RDF图和SPARQL查询图

2
知识图谱目前的应用
本章简单介绍一下知识图谱在工业界,尤其是在互联网领域中的相关应用。其实知识图谱技术在其他领域,包括工业设计和产品管理、知识出版、健康医疗和情报分析等领域,目前都出现了不少的应用,由于篇幅有限,这里主要介绍互联网领域的相关公司的产品。如前所述,知识图谱的活跃得益于Google的Knowledge Graph项目。Google通过构建知识图谱,将内部信息资源都唯一的关联起来。例如“姚明”是知识图谱中的一个实体,包含相关的一些属性例如出生时间、地点、身高。同时,可以将搜索引擎中所爬取的和“姚明”相关的文档和图片都与这个实体关联起来。Google的知识图谱项目中最早的应用方式就是在搜索引擎返回结果里面提供“知识卡片”。传统的搜索引擎返回界面中,通常是查询词所匹配的文档列表,如图4左面所示。然而在2012年5月16日以后的Google的搜索引擎返回结果中,如果查询词匹配了Google的知识图谱中的某个实体,Google还会以知识卡片的形式返回这个实体的一些属性和其他实体的关系。例如当我们搜索“姚明”时,Google会返回如图4右边所示的知识卡片,包括姚明的出生时间、地点、身高,以及他的妻子叶丽;甚至包括相关联的姚明的图片。

图4.Google搜索结果中的知识卡片

下面介绍Google另外一个利用知识图谱的项目叫“Google Rich Snippets”(Google富摘要)。搜索引擎在搜索结果的页面中会为每一篇搜索结果提供一个目标网页的摘要,以便用户判断是否是自己想搜索的页面。通常网页的摘要是采用“抽取式”方式生成的,即从网页的页面文本中找到和搜索关键词相关的并且比较重要的句子来构成页面的摘要返回给用户。但是Google的富摘要产品中,会抽取在用户HTML页面中以结构化形式存在的知识图谱数据,例如描述实体的属性的数据。目前这方面的标准有包括RDFa, Microdata和Schema.org等结构化数据标签。假设用户想在搜索“Thinkpad T450”产品,在Google返回的Walmart(沃尔玛)线上商店的页面摘要(如图7所示)中,摘要中包含了这个产品的打分(Rating 3星),评论数目(Vote 1份评论)和商品的价格(616.67 美金)。实际上这些重要的数据,用户已经通过Schema.org等结构化的语义标签在HTML中标示出来了,搜索引擎可以通过解析器(Parser)解析出这些结构化数据,利用这些结构化知识图谱数据来产生摘要。我们在图6中展示了利用Google的结构化测试工具,可以从上述沃尔玛产品页面的HTML中抽取上面提到的商品的价格和商标等属性信息。

图5.Walmart(沃尔玛)线上商店的一个产品页面

图6.Google结构化抽取工具所抽取出来的“Walmart产品页面”上的结构化数据

图7.根据抽取的结构化数据产生的“Walmart产品页面”搜索结果摘要

Facebook也定义了一种类似的标签语言,名叫Open Graph Protocol(OGP)。Facebook利用OGP协议定义了社交网络中上的知识图谱,即Facebook Social Graph,用于连接社交网络的用户,用户分享的照片,电影,评论,甚至包括通过Facebook定义的Graph API所链接的第三方的关于社交用户知识图谱数据。在所构建的Social Graph基础上,Facebook推出了Graph Search(图搜索)功能。将用户的自然语言问题,转化为面向Social Graph上的图搜索问题,从而回答用户的问题。假设以我的Facebook账号登录,输入自然语言“My friends who live in Canada”,将显示了我在加拿大的朋友的账号;同样地,再输入“Photos of my friends who live in Canada”,显示这些朋友的在Facebook上分享的照片。从这个例子上可以很明确的看出,Facebook所构建的Social Graph将用户、地点以及照片都关联起来,否则无法回答上述两个自然语言问题。Facebook将用户的输入的自然语言转化为面向Social Graph的结构化查询操作。从图8中可以看出,原始查询语句在经过自然语言接口模块处理后,对应的规范化自然语言查询语句和结构化查询语句分别为:“my friends who live in [id:12345]”和“intersect(friends(me), residents(12345))”[31]。其中,“12345”代表“Canada”在社交图谱上对应的Facebook ID。对应的结构化查询语句会交给Facebook内部设计的面向社交图谱的索引和搜索系统Unicorn[2],最后查询得到答案。

图8.Facebook中将自然语言转换为结构化查询的一个示例

面向知识图谱的问答系统还包括Amazon收购的EVI产品。EVI的原名叫True Knowledge[29],是一家创业公司的产品。本质上就是用三元组的形式来组织数据,根据模板技术将用户的自然语言问题转化为结构化的查询语句找到结果返回给用户[29]。IBM的Watson系统中也同样采用DBpedia和Yago知识图谱数据来回答某些自然语言问题[3];相比于传统基于文档的问答方法,基于知识图谱的问答其准确度更高,但是这样方法所能回答的问题相对较少。例如图9给出了IBM的Watson系统中利用知识图谱检索可以回答的问题的覆盖面小于传统利用文本搜索的覆盖率,但是利用知识图谱进行问答其精确度要高得多。
图9.IBM的Watson系统参加Jeopardy挑战的实验数据(摘自[3])
3
知识图谱数据管理方法
知识图谱数据管理的一个核心问题是如何有效地存储和查询RDF数据集。总的来说,有两套完全不同的思路。其一是我们可以利用已有的成熟的数据库管理系统(例如关系数据库系统)来存储知识图谱数据,将面向RDF知识图谱的SPARQL查询转换为面向此类成熟数据库管理系统的查询,例如面向关系数据库的SQL查询,利用已有的关系数据库产品或者相关技术来回答查询。这里面最核心的研究问题是如何构建关系表来存储RDF知识图谱数据,并且使得转换的SQL查询语句查询性能更高;其二是直接开发面向RDF知识图谱数据的Native的知识图谱数据存储和查询系统(Native RDF图数据库系统),考虑到RDF知识图谱管理的特性,从数据库系统的底层进行优化。针对以上两个方面的思路,我们分别加以介绍。
3.1 基于关系数据模型的方法由于RDBMS(关系数据库管理系统)在数据管理方面的巨大成功以及成熟的商业软件产品,同时RDF数据的三元组模型可以很容易映射成关系模型,因此大量研究者尝试了使用关系数据模型来设计RDF存储和检索的方案 [4,5,6]。根据所设计的表结构的不同,相应的存储和查询方法也各异,下面介绍几种经典的方法。

  • 简单三列表

一种最为简单的将RDF数据映射到关系数据库表的方法是构建一张只有三列表(Subject,Property,Object),将所有的RDF三元组都放在这个表中。给定一个SPARQL查询,我们设计查询重写机制将SPARQL转化为对应的SQL语句,由关系数据库来回答此SQL语句。例如我们可以将图2中的SPARQL查询转换为图10中的SQL语句。

图10.转换以后的SQL查询

虽然这种方法具有很好的通用性,但最大的问题是查询性能差。首先这张三列表的规模可能非常庞大,例如目前的DBpeida知识库超过了5亿条三元组。如图12所示的SQL语句中有多个表的自连接操作,这将严重地影响其查询性能。

  • 水平存储

文献[7]中提到的水平方法(Horizontal Schema)是将知识图谱中的每一个RDF主体(subject)表示为数据库表中的一行。表中的列包括该RDF数据集合中所有的属性。这种的策略的好处在于设计简单,同时很容易回答面向某单个主体的属性值的查询,即星状查询,如图11所示。

图11.水平存储

根据图13表的结构,为了回答图2中的SPARQL查询,可以转换为下面的SQL语句。与图12比较,下面的SQL语句没有耗时的连接操作,因此其查询效率要远高于图12中的SQL语句。

图12.水平存储上的SQL查询

然而这种水平存储方法的缺点也是很明显的[7,8]:其一,表中存在大量的列。一般来讲属性数目会比主体和属性值的个数少很多,但是还是有可能超过当前数据库能够承受的数量。其二,表的稀疏性问题。通常一个主体并不在所有的属性上有值。相反,主体仅仅在极少量的属性上有值。然而由于一个主体存成一行,那么表中将存在大量空值。空值不仅增加了存储负载,而且带来了其他的问题,比如增大了索引大小,影响查询效率,文献[7,8,9]详述了空值带来的问题。其三,水平存储存在多值性的问题。一个表中列的数量是固定的,这就使得主体在一个属性上只能有一个值。而真实数据往往并不符合这个限制条件。其四,数据的变化可能带来很大的更新成本。在实际应用中,数据的更新可能导致增加属性或删除属性等改变,但是这就涉及到整个表结构的变化,水平结构很难处理类似的问题。
  • 属性表

属性表是水平存储的优化。根据每个实体所关联的属性集合,将不同的实体进行分类。每一类采用水平存储策略的数据库表。属性表在继承了水平存储策略优势的基础上,又通过对相关属性的分类避免了表中列数过多等问题。Jena2[10,11]中使用属性表以提高对RDF三元组的查询效率。研究者提出了两种不同的属性表,其一称为聚类属性表(clustered property table),另一类称为属性类别表(property-class table)。

图13. 聚类属性表

聚类属性表将概念上相关的属性聚成一类,每一类定义一个单独的数据库表,使用水平方式存储这些三元组。如果有一些三元组不属于任何一个类别,它们被放在一张剩余表(left-over table)中。在图13中,根据属性的相关性,将所有的属性聚类成三个类,每个类用一张水平表来存储。同样的,根据图7给出的属性表结构,我们也可以将图3中的SPARQL查询转换成类似于图12的SQL语句。属性类别表将所有的实体按照rdf:type来分类,每一类用一个张水平表来表示。这种组织方式要求每个实体都必须有一个rdf:type属性(标识实体分类的标签)。属性表最主要的优点在于可以减少查询时主体-主体间的自连接代价,这样可以极大地提高查询效率。属性表的另外一个优点在于由于与一个属性相关的属性值存储在一列中,就可以针对该列的数据类型设计一些存储策略来减少存储空间。这样就避免了三元组存储策略中由于数据类型不同的属性值存储在一列中造成存储上的不便。Jena2等的研究工作以及其他的一些研究工作证明了属性表的有效性,但属性表也有着先天性的缺陷。其一,文献[12]指出,虽然属性表对于某些查询能够提高查询性能,但是大部分的查询都会涉及多个表的连接或合并操作。对聚类属性表而言,如果查询中属性作为变量出现,则会涉及多个属性表;对属性分类表而言,如果查询并未确定属性类别,则查询会涉及多个属性表。在这种情况下,属性表的优点就较不明显了。其二,RDF数据由于来源庞杂,其结构性可能较差,从而属性和主体间的关联性可能并不强,类似的主体可能并不包含相同的属性。这时,空值的问题就出现了。数据的结构性越差,空值的问题就越发明显。其三,在现实中,一个主体在一个属性上可能存在多值。这时,用RDBMS管理这些数据时就带来麻烦。其中,前两个问题是相互影响的。当一个表的列数目减小时,对结构性要求较低,空值问题得到缓解,但查询会涉及更多的表;而当表的列数加大时,如果数据结构性不强,就会出现更多空值的问题[29]。

  • 垂直划分策略

Abadi等人[12]以一种完全的分解存储模型(DSM[13],Decomposed Storage Model)为基础,将DSM引入了语义网数据的存储,提出了垂直分割技术。在垂直分割的结构下,三元组表被重写为N张包含两列的表,N等于RDF数据中属性的个数。每一张表都以相对应的属性为表名,其第一列是所有在这个属性上有属性值的主体,第二列是该主体在这个属性上的值。每一张表中的数据按照主体进行排序,从而能够迅速定位特定主体,而且将所有涉及主体-主体的表连接转换为可以迅速完成的排序合并连接 (Merge Join)。在对存储空间限制较少时,也可以对属性值这一列建立索引或对每个表建立一个按照属性值排序的副本,以提高涉及对特定属性值的访问和属性值-主体、属性值-属性值连接的性能。如图14中显示了将图1中的RDF数据集分解成8个二元表,并且每个二元表按照主体进行排序。

图14.二元垂直分割表

相比较于三元组存储,这种二元存储方式有如下的优点:由于属性名不再重复出现,因此有效地减少了存储空间。在查询时,只需要处理涉及查询条件的表,从而有效地减少了I/O代价。相比于属性表方式,垂直分割的优点在于以下几条。垂直分割适应于多值数据。如同三元组存储方式一样,当一个主体在一个属性上有多个属性值时,只需要将其存储为多行即可。垂直存储也很适用于结构化较差的数据,如果一个主体未定义某个属性,那么这个记录就不会在这种存储方式中出现,避免了空值的产生。二元存储技术不需要对属性进行聚类,就不需要寻找好的聚类算法。在查询时,如果属性名被限定,那么查询的内容就不会出现在多个表中,减少了合并操作。SW-Store[12]利用了垂直分割技术,更进一步的还减少了主体存储的冗余。但垂直分割技术同样存在着缺点。首先,这种存储方式增加了表连接的运算数。即使这些连接都是时间代价较低的合并连接,总的运算代价也是不可忽略的。其次,表的增多增加了数据更新的难度,尤其是SW-Store采用列存储策略进行空间优化以后系统的更新性能就碰到更大的挑战。对一个主体的更新需要涉及多个表,就可能因为外存存储方式的影响增加I/O代价。当表上存在索引时,更新代价更是相当昂贵。另外,文献[14,15]认为在多个表中存储结构化不强的数据(如某些RDF数据集)会存在一些问题,将多个表返回的结果重构成一张视图所进行的运算可能代价较高。他们建议将较稀疏、结构化较差的数据存储于一张表中,并对存储结构加以描述。
  • 全索引策略

如前所述,简单的三列表存储的缺点在于自连接次数较多。为了提高简单三列表存储的查询效率,目前一种普遍被认可的方法是“全索引(exhaustive indexing)”策略, 例如RDF-3X[16]和Hexastore[17]。 列举三列表的所有排列组合的可能性(6种),并且按照每一种排列组合建立聚集B+-树。建立这样全索引的好处有两点:其一,对于SPARQL查询中的每个查询三元组模式,都可以转换成对于某个排列组合上的范围查询。例如 ?m <BornOnDate> “1809-02-12”这个查询三元组模式,可以转换为对于(P,O,S)排列上的范围查询。因为在(P,O,S)排列中,所有P, O为<BornOnDate>和“1809-02-12”的三元组都连在一起。其二,全索引的好处在于可以利用归并连接(Merge Join)降低连接的复杂度。我们知道嵌套循环(Nested Loop Join)连接的复杂度是O(|L1|*|L2|), 这里|L1|和|L2|分别表示两个待连接列表的长度。然而归并连接的复杂度是O(MAX(|L1|, |L2|) )。 例如从(P,O,S)排列中可以得到满足?m <BornOnDate> “1809-02-12”查询条件的?m的取值,并且这些取值按照顺序进行排列。同样的,从(P,O,S)排列中也可以得到满足?m <DiedOnDate> “1865-04-15”查询条件的?m的取值,并且这些取值也按照顺序进行排列。通过归并排序,我们可以很容易找到同时满足这两个查询条件的?m的取值。

虽然用全索引策略可以弥补一些简单垂直存储的缺点,但三元存储方式难以解决的问题还有很多。其一,不同的三元组其主体/属性/属性值可能重复,这样的重复出现会浪费存储空间。其二,复杂的查询需要进行大量表连接操作,即使精心设计的索引可以将连接操作都转化为合并连接,当SPARQL查询复杂时,其连接操作的查询代价依然不可忽略。其三,随着数据量增长,表的规模会不断膨胀,系统的性能下降严重;而且目前此类系统都无法支持分布式的存储和查询,这限制了其系统的可扩展性。其四,由于数据类型多样,无法根据特定数据类型进行存储的优化,可能会造成存储空间的浪费(例如,客体的值可能多种多样,如URI、一般字符串或数值。客体一栏的存储空间必须满足所有的取值,而无法进行存储优化)。为了解决这个问题,目前的全索引方法都是利用字典方式将所有的字符串和数值映射成一个独立的整数ID。但是这种字典映射的方法很难支持带有数值范围约束和字符串中的子串约束的SPARQL查询。

3.2 基于图数据模型的方法通过将RDF三元组看作带标签的边,RDF知识图谱数据很自然地符合图模型结构。因此,有的研究者从RDF图模型结构的角度来看待RDF数据,他们将RDF数据视为一张图,并通过对RDF图结构的存储来解决RDF数据存储问题。图模型符合RDF模型的语义层次,可以最大限度的保持RDF数据的语义信息,也有利于对语义信息的查询。此外,以图的方式来存储RDF数据,可以借鉴成熟的图算法、图数据库来设计RDF数据的存储方案与查询算法。然而,利用图模型来设计RDF存储与查询也存在着难以解决的问题。第一,相对于普通的图模型,RDF图上的边具有标签,并可能成为查询目标;第二,典型的图算法往往时间复杂度较高,需要精心的设计以降低实时查询的时间复杂度。

我们在文献[18]中提出一种利用子图匹配方法来回答SPARQL的方法,并构建了相关开源系统gStore。图15给出了系统架构图。在导入RDF知识图谱数据和构建索引阶段,首先将用户输入RDF的三元组文件表示成一张图G,通过链接列表的方式直接存储图G本身。为了加快子图匹配查询的速度,通过编码的方法,将RDF图G中的每个实体节点和它的邻居属性和属性值编码成一个带有Bitstring的节点,从而得到一张标签图G*。我们提出了一种面向G*图的VS-tree的索引结构,可以有效地支持在线查询的阶段的搜索空间过滤。在查询阶段,将用户的SPARQL查询转换为子图匹配查询,利用子图匹配查询的结果来回答用户的问题。图16展示了在3-5亿规模的三元组的国际标准测试集(LUBM和WatDiv)上,gStore系统和目前使用最为广泛的RDF知识图谱存储查询系统Virtuoso和Apache Jena之间的查询性能对比情况。由于基于图结构方法的索引可以考虑到查询图整体信息,因此总的来说查询图越复杂(例如查询图的边越多),gStore相对于对比系统的性能会更好,有的可以达到一个数量级以上的性能优势。gStore的分布式版本的在10台机器组成的Cluster上可以进行50-100亿规模的RDF知识图谱管理的任务。

图15.gStore系统架构

a.在WatDiv 3亿三元组规模数据上的评测结果

b.在LUBM 5亿三元组规模数据上的评测结果

图16.在国际通用RDF测评数据集上的比较结果
另外,Udrea等人提出GRIN算法[39]来回答SPARQL查询,其基本思想是构建一个类似M-tree结构[21]的GRIN 索引,利用图上的距离约束来介绍搜索空间。所有的RDF图上的节点表示成GRIN索引上的叶子节点。GRIN索引上的非叶子节点包括两个元素(center,radius),其中center是一个中心点,radius是半径长度。在RDF图上离center最短路径距离小于等于radius的节点在GRIN上是该非叶子节点的子孙节点。利用距离约束,GRIN可以迅速判断RDF图哪些部分不能满足查询条件,从而提高查询性能。另外一个我们需要提到基于图的系统是Trinity.RDF[20],是由微软亚洲研究院开发的一种分布式基于内存的图数据引擎。由于图操作的“局部性”差的特点,该系统通过采用内存云的形式来管理RDF图数据。另外为了回答子图匹配查询,Trinity.RDF提出通过图上的扩展(Exploration)策略而非通常的Join(链接查询)的策略来找到子图匹配的位置。

4
不同领域对知识图谱研究的侧重
总的来说,知识图谱是一项交叉研究领域;计算机的不同学科都从不同的角度对知识图谱这个领域进行了研究工作。图16展示这样的一种多学科交叉研究的状况。前三章主要是从数据库和数据管理的角度对知识图谱的研究内容进行了介绍,下面分别从自然语言处理,知识工程和机器学习领域分别简单介绍这几个领域对知识图谱研究的目前的热点。

图16.不同领域对“知识图谱”研究的侧重

自然语言处理领域,针对知识图谱的研究主要在两个方面。其一是“信息抽取”。目前互联网上大部分数据仍然是“非结构化”的文本数据,如何从非结构的文本数据中抽取出知识图谱所需要的三元组数据是一项带有挑战性的工作[22]。另外一项目前非常活跃的研究课题是“语义解析(Semantic Parser)”,即将用户输入的自然语言问题转化面向知识图谱的结构化查询[23]。在知识工程领域主要也有两个方面的热点研究问题。其一是大规模本体和知识库的构建。例如DBpeida[24]和Yago[25]都是通过从维基百科上获取知识从而构建大规模的知识图谱数据集;另外面向特定封闭领域(closed domain)的知识图谱构建在工业界应用比较广泛。另外一项研究课题是知识图谱上的推理问题研究。注意到,知识图谱不同于传统数据库的闭世界假设(Closed-world assumption),知识图谱采用的是开放世界假设(Open-world assumption)。在开放世界假设情况下,系统并不假设所存储的数据是完备的;系统中没有被显示存储但是可以通过推理得到的“陈述(Statement)”,仍然被认为是正确的数据。

图 17. TransE模型示例

近几年来,机器学习领域也掀起了对知识图谱的研究,热门的课题包括面向知识图谱的“表示学习”,其中最为代表性的研究工作是TransE模型[26]。给定一个知识图谱,我们将知识图谱三元组中的每个主语、宾语和谓词都映射成一个高维向量,其优化目标可以表示为最小化图17中的公式。这个公式的基本含义是,对于存在于知识图谱G里面的任何一条三元组,其中主语,谓词和宾语的向量表示结果为s, p 和o, 我们要求主语(s)和谓词(p)的向量和(SUM)离宾语(o)的向量表示尽量的近;对于不存在知识图谱G中的三元组,则相互距离尽量的远。图17可视化了TransE模型的含义,基本含义是谓词相同的两个三元组,它们分别的主语与宾语的向量差是近似的。在TransE模型的基础上,学术界提出了很多改进的知识图谱Embedding的方案。这些模型在很多任务,例如知识图谱的谓词预测,知识补全等方面比以前的方法在准确度都有不小的提升。
5
总结
知识图谱(Knowledge Graph)从某种角度来说,是一个商业包装的词汇;但是其本身来源于诸如语义网、图数据库等相关的学术研究领域。本文试图从知识数据管理的角度来介绍知识图谱领域的研究的热点,以及不同学科对于知识图谱不同研究侧重。由于篇幅有限和本人的学术研究水平的局限,对于更大范围的知识图谱研究和应用的介绍难免挂一漏万,敬请读者批评指正。本人和所领导的北京大学计算机所数据管理研究室(1)以及我们的合作者,长期从事RDF知识图谱数据管理的方面的工作,开发了一套面向海量RDF知识图谱数据的图数据库系统gStore[18](2)和自然语言问答系统gAnswer[27](3).读者如果对这两个系统的工作感兴趣,请参考系统发表原始论文VLDB 11[30]和SIGMOD 14 [27], 以及我们近期所总结这两个知识图谱项目研究思路的文章[28](4)。(1)http://www.icst.pku.edu.cn/db/en/index.php/Main_Page

(2)http://www.icst.pku.edu.cn/intro/leizou/projects/gStore.htm

(3) http://www.icst.pku.edu.cn/intro/leizou/projects/gAnswer.htm

(4)http://rdcu.be/o1nT

参考文献[1] https://www.w3.org/TR/sparql11-query/

[2] Michael Curtiss, Iain Becker, Tudor Bosman, Sergey Doroshenko, Lucian Grijincu, Tom Jackson, Sandhya Kunnatur, Søren B. Lassen, Philip Pronin, Sriram Sankar, Guanghao Shen, Gintaras Woss, Chao Yang, Ning Zhang: Unicorn: A System for Searching the Social Graph. PVLDB 6(11): 1150-1161 (2013)

[3] David A. Ferrucci, Eric W. Brown, Jennifer Chu-Carroll, James Fan, David Gondek, Aditya Kalyanpur, Adam Lally, J. William Murdock, Eric Nyberg, John M. Prager, Nico Schlaefer, Christopher A. Welty:

Building Watson: An Overview of the DeepQA Project. AI Magazine 31(3): 59-79 (2010)

[4] RDF Access to Relational Databases. http://www.w3.org/2003/01/21-RDF-RDB-access/

[5]W3C Semantic Web Advanced Development for Europe (SWAD-Europe). http://www.w3.org/2001/sw/Europe/reports/scalable_rdbms_mapping_report/

[6]  Storing RDF in a relational database. http://infolab.stanford.edu/~melnik/rdf/db.html

[7]Zhengxiang Pan, Jeff Heflin. DLDB: Extending Relational Databases to Support Semantic Web Queries. In Proceedings of PSSS’2003.

[8] Daniel J. Abadi. Column Stores for Wide and Sparse Data. In Proceedings of CIDR’2007. pp.292~297

[9] Jennifer L. Beckmann, Alan Halverson, Rajasekar Krishnamurthy, Jeffrey F. Naughton. Extending RDBMSs To Support Sparse Datasets Using An Interpreted Attribute Storage Format. In Proceedings of ICDE’2006. pp.58~58

[10] K. Wilkinson. Jena property table implementation. In SSWS. 2006.

[11] Kevin Wilkinson, Craig Sayers, Harumi A. Kuno, Dave Reynolds. Efficient RDF Storage and Retrieval in Jena2. In Proceedings of SWDB’2003. pp.131~150

[12] Daniel J. Abadi, Adam Marcus, Samuel Madden, Kate Hollenbach. SW-Store: a vertically partitioned DBMS for Semantic Web data management. VLDB J., 2009: 385~406

[13] George P. Copeland, Setrag Khoshafian. A Decomposition Storage Model. In Proceedings of SIGMOD Conference’1985. pp.268~279

[14] Jennifer L. Beckmann, Alan Halverson, Rajasekar Krishnamurthy, Jeffrey F. Naughton. Extending RDBMSs To Support Sparse Datasets Using An Interpreted Attribute Storage Format. In Proceedings of ICDE’2006. pp.58~58

[15] Eric Chu, Jennifer L. Beckmann, Jeffrey F. Naughton. The case for a wide-table approach to manage sparse relational data sets. In Proceedings of SIGMOD Conference’2007. pp.821~832

[16] Thomas Neumann, Gerhard Weikum. RDF-3X: a RISC-style engine for RDF. In Proceedings of PVLDB’2008: 647~659

[17] Cathrin Weiss, Panagiotis Karras, Abraham Bernstein. Hexastore: sextuple indexing for semantic web data management. PVLDB, 2008: 1008~1019

[18] Lei Zou, Jinghui Mo, Lei Chen, M. Tamer Özsu, Dongyan Zhao: gStore: Answering SPARQL Queries via Subgraph Matching. PVLDB 4(8): 482-493 (2011)

[19] Octavian Udrea, Andrea Pugliese, V. S. Subrahmanian: GRIN: A Graph Based RDF Index. AAAI 2007: 1465-1470

[20] Kai Zeng, Jiacheng Yang, Haixun Wang, Bin Shao, Zhongyuan Wang: A Distributed Graph Engine for Web Scale RDF Data. PVLDB 6(4): 265-276 (2013)

[21] Paolo Ciaccia, Marco Patella, Pavel Zezula: M-tree: An Efficient Access Method for Similarity Search in Metric Spaces. VLDB 1997: 426-435

[22] Anthony Fader, Stephen Soderland, Oren Etzioni: Identifying Relations for Open Information Extraction. EMNLP 2011: 1535-1545

[23] Percy Liang: Learning executable semantic parsers for natural language understanding. Commun. ACM 59(9): 68-76 (2016)

[24] Jens Lehmann, Robert Isele, Max Jakob, Anja Jentzsch, Dimitris Kontokostas, Pablo N. Mendes, Sebastian Hellmann, Mohamed Morsey, Patrick van Kleef, Sören Auer, Christian Bizer:

DBpedia – A large-scale, multilingual knowledge base extracted from Wikipedia. Semantic Web 6(2): 167-195 (2015)

[25] Thomas Rebele, Fabian M. Suchanek, Johannes Hoffart, Joanna Biega, Erdal Kuzey, Gerhard Weikum: YAGO: A Multilingual Knowledge Base from Wikipedia, Wordnet, and Geonames. International Semantic Web Conference (2) 2016: 177-185

[26] A. Bordes, N. Usunier, A. Garcia-Duran, J. Weston, and O. Yakhnenko. Translating embeddings for modeling multi-relational data. In Advances in Neural Information Processing Systems, pages 2787–2795, 2013

[27] Lei Zou, Ruizhe Huang, Haixun Wang, Jeffrey Xu Yu, Wenqiang He, Dongyan Zhao:

Natural language question answering over RDF: a graph data driven approach. SIGMOD Conference 2014: 313-324

[28] Lei Zou and M. Tamer Özsu. Graph-based RDF Data Management, Data Sci. Eng. (2017). doi:10.1007/s41019-016-0029-6, http://rdcu.be/o1nT (open access link)

[29] William Tunstall-Pedoe: True Knowledge: Open-Domain Question Answering Using Structured Knowledge and Inference. 80-92

[30] Lei Zou, M. Tamer Özsu,Lei Chen, Xuchuan Shen, Ruizhe Huang, Dongyan Zhao. gStore: A Graph-based SPARQL Query Engine. VLDB Journal, VLDB J, 2014.

[31] 段楠,从图谱搜索看搜索技术的发展趋势,中国计算机学会通讯,2013年8月第90期

作者简介
[31] 段楠,从图谱搜索看搜索技术的发展趋势,中国计算机学会通讯,2013年8月第90期

作者简介

北京大数据研究院是北大,北工大,中关村管委会,海淀区政府产学研用相结合的研究机构。旨在打造世界一流的大数据教育,科研创新,产业孵化平台。


OpenKG.CN

中文开放知识图谱(简称OpenKG.CN)旨在促进中文知识图谱数据的开放与互联,促进知识图谱和语义技术的普及和广泛应用。

发表评论

邮箱地址不会被公开。 必填项已用*标注