中南大学学报(自然科学版)

DOI: 10.11817/j.issn.1672-7207.2017.05.014

云环境下海量语义数据的查询策略

胡志刚,景冬梅,陈柏林,郑美光,杨柳

(中南大学 软件学院,湖南 长沙,410073)

摘 要:

RDF数据的高效查询,研究RDF数据在分布式数据库HBase中的存储方法。基于MapReduce设计海量RDF数据的两阶段查询策略,将查询分为SPARQL预处理阶段与分布式查询执行阶段。SPARQL预处理阶段设计实现基于SPARQL变量关联度的查询划分算法JOVR,通过计算SPARQL查询语句中变量的关联度确定连接变量的连接顺序,根据连接变量将SPARQL子句连接操作划分到最小数量的MapReduce任务中;分布式查询执行阶段执行SPARQL预处理阶段划分的MapReduce任务,实现对海量RDF数据的并行查询。采用LUBM标准测试数据集对查询策略予以验证。研究结果表明:JOVR算法能够高效地实现对海量RDF数据的查询,并具有较强的稳定性与可扩展性。

关键词:

并行处理语义信息查询策略MapReduceSPARQL海量RDF

中图分类号:TP391         文献标志码:A         文章编号:1672-7207(2017)05-1218-09

Massive semantic data query method based on cloud computing

HU Zhigang, JING Dongmei, CHEN Bailin, ZHENG Meiguang, YANG Liu

(School of Software, Central South University, Changsha 410073, China)

Abstract: In order to achieve the efficient query for large-scale RDF data, the storage method of RDF triples in HBase was analyzed and a two-phase query strategy for large-scale RDF data was designed based on MapReduce, which was divided into two stages, i.e. the SPARQL pretreatment stage and the distributed query execution stage. In the SPARQL pretreatment stage, a SPARQL query classification algorithm-JOVR was implemented, which determined the join order of connection variables by calculating the correlation between the variables in a SPARQL query statement, and then the join between SPARQL clauses was divided into the minimum number of MapReduce jobs according to the connection variables. The distributed query execution phase accomplished large-scale RDF data query concurrently based on MapRdecue jobs from SPARQL pretreatment stage. The strategy was verified by LUMB benchmark set. The results show that JOVR can query large-scale RDF data efficiently with strong stability and scalability.

Key words: parallel processing; semantic information query strategy; MapReduce; SPARQL; large-scale RDF

随着语义Web的发展,各领域RDF(resource description framework)[1]语义数据急剧增加,如Wikipedia[2]、生物信息学[3]、媒体数据[4]、社交网络[5]等。以链接开放数据(Linked open data, LOD)工程为 例[6],截止到2014-04,LOD工程中共包含1 014个RDF开放数据集,与2011年的295个RDF开放数据集、310亿个RDF三元组相比,规模扩大了3倍多。传统的语义Web查询工具能够提供支持RDF数据标准查询语言SPARQL(simple protocol and RDF query language)的查询环境,但都是运行于单机环境中,处理海量RDF数据时的计算性能有待提高。目前,RDF数据呈现出大规模性、高速增长性与多样性等大数据(big data)[7-8]特性,因此,人们对利用并行计算技术处理海量RDF数据已达成共识。Hadoop是一款开源云计算平台,其核心是 HDFS(hadoop distributed file system)和MapReduce框架。HDFS分布式文件系统具有高容错性,能够提供高吞吐量的数据访问,很适合海量数据集上的应用。运行于HDFS之上的HBase分布式数据库性能高,并且可靠性高。MapReduce分布式程序开发框架能够简化分布式程序的设计与实现,高效处理海量数据,因此,研究人员开始将具备大数据处理能力的云计算 Hadoop技术引入语义Web研究领域[9]。近年来,研究人员基于云环境提出了一些语义数据存储与查询策略,但在存储空间和查询效率方面仍需要进一步研究与优化。本文的主要研究工作如下:1) 采用文献[9]提出的存储方法,基于“二元组合”行键的SPO存储策略,设计3张HBase表(SP_O,PO_S 和OS_P )存储海量RDF数据;2) 设计实现SPARQL查询划分算法JOVR,通过计算SPARQL语句中变量关联度确定连接变量的连接顺序,并根据连接变量将SPARQL子句连接操作划分到最小数量的MapReduce任务中,以缩短查询大规模RDF数据的时间;3) 基于MapReduce分布式程序开发框架,高效地实现RDF数据并行查询。

1  相关概念与研究

1.1  相关概念

1) RDF。RDF用主语S(Subject)、谓语P(Project)、宾语O(Object)的三元组形式描述Web上的资源。其中主语一般用统一资源标识符URI(uniform resource identifier)表示Web上的信息实体(或者概念),谓语描述实体所具有的相关属性,宾语是对应的属性值[10]。例如,,“SPARQL Tutorial”>表示图书book1的题目是“SPARQL Tutorial”。这种表述方式使RDF 可以用来表示Web 上的任何被标识的信息,并且使它可以在应用程序之间进行信息交换而不丧失语义信息[11]

2) SPARQL。SPARQL是W3C(world wide web consortium,万维网联盟)提出的针对RDF数据的标准查询语言,与SQL的语法相似,通过SELECT查询方式查找满足条件的数据。表1所示为1个简单的SPARQL查询例子,用于从图书的数据集中查找出书的题目。

表1  SPARQL查询实例

Table 1  Example of SPARQL query

表1中,SELECT子句表示查询的内容,WHERE子句表示待查询项满足的三元组模式。语句中带“?”的部分是查询中的未知变量,如“?title”表示图书题目的未知变量。

3) HBase。HBase是基于Google中Bigtable开发的1个高可靠性、面向列、可伸缩的分布式存储系统[12]。HBase存储的是松散型数据,介于映射(key/value)与关系型数据之间,存储的数据从逻辑上看就像1张很大的表,其数据列可以根据需要动态增加,对由行和列所确定的单元(Cell)中数据,可由时间戳区分为多个版本。

4) MapReduce。MapReduce是1个分布式程序开发框架,其任务处理分为Map阶段和Reduce阶段,分别通过Map函数和Reduce函数实现。在Map阶段,输入数据经过自定义的Map函数处理后产生形式的中间输出数据;Reduce阶段将来自Map阶段的数据按键值合并为形式,作为自定义Reduce函数的输入,经过函数处理后输出一系列键值对数据。

1.2  相关研究

RDF分布式存储主要分为HDFS与HBase 2种方案。研究人员基于这2种方案提出了多种RDF查询算法。

1) MYUNG等[13]从HDFS中的RDF数据文件中读取对应的RDF数据,创建多个MapReduce任务迭代处理SPARQL子句连接操作。但该方法将RDF数据直接存放到HDFS上,缺少了高效的索引结构,而且其算法可能在SPARQL子句连接过程中创建较多的MapReduce任务。HUSAIN等[14]证明了在并行环境下,随着生成MapReduce任务数量降低,RDF数据查询时间会减少,但是同样采用HDFS存储RDF数据,缺少高效的索引结构,很难实现对海量RDF数据的快速随机访问。

2) SUN等[15]基于HBase,采用六张索引表(S _PO,P_SO,O_ SP,SP_O,PO_S 和SO_P)存储RDF数据,提出了1个迭代生成MapReduce任务的算法实现RDF数据查询。FRANKE等[16]设计了2张HBase表即Tsp和Top存储RDF数据,在SPARQL查询过程中优先选取匹配数据量较少的查询子句进行连接。以上这些算法都只侧重于减少SPARQL查询的中间结果集数量,但算法有可能会导致在SPARQL 子句连接过程中创建更多的MapReduce任务,因此,在有些情况下并不能明显缩短查询时间。

2  基于HBase的RDF数据存储策略

基于HBase的RDF三元组存储策略目前主要有3类[15-21]:1) 基于“一二元”行键的SPO存储策略,即任意选取三元组其中的一元或二元作为HBase表中的行键;2) 基于“列固定”行键的SPO存储策略,即选取三元组中的谓语P作为HBase表中的固定列,主语S、谓语O作为行键;3) 基于“二元组合”行键的SPO存储策略,即任意选取三元组中的任意二元作为HBase表中的行键。

2.1  RDF数据的3种存储策略

SUN等[15]基于“一二元”行键的SPO存储策略设计了6张HBase表(S_PO,P_SO,O_ SP,SP_O, PO_S 和SO_P),在HBase中的行键分别为S,P,O,SP,PO和SO,用于在查询中快速匹配各种SPARQL三元组模式。

FRANKE等[16]基于“列固定”行键的SPO存储策略设计了2张HBase数据表Tsp和Top,列名存储P对应的值,行键分别为S和O,分别用于匹配主语S或宾语O已知的SPARQL三元组模式,表单元则分别存储O和S。

本文采用文献[9]中基于“二元组合”行键的SPO存储策略,设计3张HBase表(SP_O,PO_S和OS_P)存储数据。行键分别为SP,PO和OS能够满足所有可能组合形式的SPARQL三元组模式查询匹配条件。表SP_O结构如表2所示。表2中,m和n分别为HBase表中行数和列数,且m≥0, n≥0;行键是主语值和谓语值的有序对<>i, Pi>(i∈[0, m]),其对应的n个宾语Oj(j∈[0, n])作为列名包含于1个列族中,每个表单元设计为null值。表PO_S和OS_P与表SP_O结构相似,分别将谓语P和宾语O、宾语O和主语S的有序对作为行键,列族中存放对应的主语值和谓语值。

表2  表SP_O在HBase中的存储结构

Table 2  Storage structure of table SP_O in HBase

表3所示为SPARQL子句中不同的三元组模式与上述HBase表之间的查询映射关系,其中“?S”,“?P”和“?O”分别表示主语、谓语和宾语是未知量,不带有“?”的表示主语、谓语和宾语是已知量。

表3  SPARQL三元组与HBase表映射关系

Table 3  Mapping relation between SPARQL triple patterns and HBase tables

如表3所示,当三元组模式为(S, P, O)或(?S, ?P, ?O)时,可以对SP_O,PO_S和OS_P中任意1张表检索。当三元组模式中只有1个变量如(S, P, ?O)时,将其中2个已知值S和P设为检索条件,对表SP_O的行键进行匹配;当三元组模式中有2个变量如(S, ?P, ?O)时,利用HBase的Scan区域检索机制,根据已知值S在表SP_O的行键区间内扫描,得到查询结果。

2.2  RDF数据存储策略分析与对比

从HBase中设计的表数量、空间开销以及时间开销3个方面对基于“一二元”行键的SPO存储策略、基于“列固定”行键的SPO存储策略以及基于“二元组合”行键的SPO存储策略进行对比分析,如表4所示。

表4  基于HBase的存储策略比较

Table 4  Comparison of storage strategies based on HBase

基于“一二元”行键的SPO存储策略减少了查询时间,但需要将RDF数据复制6次,增大了存储空间的开销。

基于“列固定”行键的SPO存储策略中设计了2张HBase数据表Tsp和Top,将谓语P对应值作为固定的列名,减少了存储空间。但当S和O同时为未知量时,则需要对其中任意1个表进行全表扫描,必然会增加查询过程的时间开销。

本文采用的基于“二元组合”行键的SPO存储策略只需要将数据复制3次,与基于“一二元”行键的SPO存储策略相比减少了空间开销,并且只有当S,P和O三者同时为未知量时才会对全表扫描,而基于“列固定”行键的SPO存储策略在S和O同时为未知量时就对全表进行扫描。所以,与基于“列固定”行键的存储策略相比减少了时间开销。

综上所述,本文采取的存储策略在数据存储空间开销和查询效率的平衡方面更有优势。

3  RDF数据的两阶段查询策略

本文提出的RDF数据的两阶段查询策略基于SPARQL检索在Hadoop平台中实现海量RDF数据的并行查询。以图1中的SPARQL查询语句为例,介绍策略的设计与实现方案。

3.1  RDF数据的两阶段查询策略框架

为了方便描述,首先定义以下概念。

图1  SPARQL查询实例query

Fig. 1  Query example of SPARQL

定义1  TP(U)表示SPARQL查询语句中的三元组模式。其中U为三元组中变量集合,即{X, Y, Z, XY, XZ, YZ}U。

TP(U)中的每个成员S,P和O中至少有1个是变量,否则SPARQL查询语句将无意义。图1所示的查询实例query中三元组模式依次表示为TP1(X),TP2(Y),TP3(Z),TP4(XZ),TP5(XY)。

定义2  连接变量是在2个或更多个三元组模式中出现的变量,用于多个查询子句连接。

定义3  关联度指与1个连接变量V直接相关的其他连接变量的个数,表示为R(V),{X, Y, Z}V。

图1查询实例query中与X直接相关的连接变量有Y和Z,分别与Y和Z直接相关的连接变量只有X,那么R(X)=2,R(Y)=1,R(Z)=1。

定义4  IRS(U)是查询过程中MapReduce任务产生的含有变量U的中间结果集,{X, Y, Z, XY, XZ, YZ}U。

定义5  查询时间指执行查询Q过程中所有MapReduce任务花费的时间总和,用Cost(Q)表示。每个MapReduce任务花费的时间用Cost(job)表示,则所花费的时间总和用公式表示为

       (1)

其中:Q代表当前SPARQL查询;jobi表示当前第i个MapReduce任务;n为MapReduce任务的数量;m为连接变量的个数。

RDF数据的两阶段查询策略包含SPARQL预处理和分布式查询执行2个阶段,查询策略框架图如图2所示。

1) SPARQL预处理阶段提出了基于SPARQL变量关联度的查询划分算法JOVR(join on variable relation)。JOVR首先根据变量关联度从SPARQL查询三元组中顺序地选取连接变量,然后将SPARQL子句连接操作划分到最小数量的MapReduce任务中。

图2  RDF数据的两阶段查询策略框架图

Fig. 2  Frame of two-stage query strategy for RDF data

2) 分布式查询执行阶段中对查询子句进行连接时,需要将数据从对应的HBase表中读出,然后在Map阶段进行数据过滤与组装,在Reduce阶段完成连接任务。

3.2  SPARQL预处理JOVR算法

JOVR算法通过计算SPARQL变量关联度确定连接变量的连接顺序,根据连接变量贪心划分SPARQL查询语句达到分布式查询阶段job(MapReduce任务)数量最少的目标。

算法第2行是对m个连接变量按关联度进行非降序排序,第6~12行采用贪心划分方法确定每个job包含的操作。依次遍历连接变量,若能够按照当前变量ui进行查询子句连接,则将连接产生的中间结果语句保存在临时变量tmp中,同时从查询语句中去掉已经进行连接的子句,最后还需要将连接操作加入当前的jobn中。第13~14行指若当前不存在可以参与连接操作的子句,则不再生成新的job,算法结束。第15~16行指当前剩余的查询语句不能按照任何连接变量进行连接,则在当前Q中加入temp中的语句,开始计算新的job,重复第4~16行的操作,直到不会生成新的job为止。

在上述算法中,对m个连接变量进行快速排序的时间复杂度为O(mlgm),外层循环(while循环)最多执行n次,内层循环(for循环)最多执行m次,所以,该算法的总时间复杂度为O(m(n+lgm))(其中,m为查询语句中连接变量的数量,n为job的数量,1≤n≤m)。

在图1 所示的SPARQL查询实例query中,根据3.1节的定义,可以计算出query中连接变量X,Y和Z的关联度分别为R(X)=2,R(Y)=1,R(Z)=1。依据JOVR算法,按照关联度非递减次序选取连接变量分别为Y,Z和X,查询对应2个job。查询划分过程如图3所示。

图3  JOVR算法中查询划分过程

Fig. 3  Process of query classification in JOVR algorithm

从JOVR算法的查询划分过程可以分析出query查询用时总和为

已有研究人员基于JOVF( join on variable frequency)的算法[15]进行SPARQL查询划分。按照连接变量出现的次数进行非升序排序,贪心选择出现次数最多的连接变量,然后依次根据选取的连接变量划分得到job。基于JOVF算法,图1所示的查询实例query中,X,Y和Z出现的次数分别为3,2和2,依次选择连接变量X,Y和Z共划分为3个job,划分过程如图4所示。

图4  JOVF算法中查询划分过程

Fig. 4  Process of query classification in JOVF algorithm

从JOVF算法的查询划分过程可以分析出query查询用时总和为

对比分析图3和图4可知:对于图1中的SPARQL查询实例query,JOVR算法比JOVF算法划分的job数量更少,因此,查询所用的时间更少。

3.3  分布式查询执行

SPARQL预处理阶段划分得到job后,分布式查询执行阶段基于MapReduce实现对RDF数据的并行查询。这里结合图1中的查询实例query介绍每个job中连接操作的具体步骤,如图5所示。

1) HBase数据读取。当查询子句中的三元组参与连接操作时,需要将数据从对应的HBase表中读取。

2) Map阶段。将查询子句中三元组对应的数据集以形式表示,其中key为连接变量对应值,value分为2种情况:①只含有1个变量的三元组对应的value设为其含有的常量值,如图5 job1中Y数据集对应的value设为宾语部分的常量University;②含有2个变量的三元组的value为非连接变量所对应的数据,如图5 job1中XY数据集中key为Y,value为变量X并用X#表示。

3) Reduce阶段,完成同一连接变量对应的多个查询子句的连接。如图5 job1中对key为Y的子句连接后,得到的数据key仍然是Y,value是将参与连接操作数据的value部分合并而来,得到University+X#,最后按照自定义的Reduce函数输出最终结果。

在有多个job时,前1个job的输出是后1个job的输入(如图5所示),job2的输入分别来自于读取的X数据集和job1的输出数据集,经过Map阶段和Reduce阶段后,输出X,Y和Z最终对应的数据,即SPARQL的查询结果。

图5  分布式查询执行过程实例

Fig. 5  Instance of SPARQL query execution process

4  实验分析

4.1  实验环境

采用Hadoop-2.5.2作为运行平台,选取HBase-1.0.0作为RDF三元组存储数据库,并选用4台PC机(具体配置为Pentium IV,CPU 3.00 GHz,2 GB内存和160 GB硬盘空间)搭建实验平台。

本实验利用利哈伊大学开发的Lehigh University Benchmark(LUBM)[17]标准测试数据集,分别对 10,50,100,200,300和500 所大学的RDF数据集进行测试。

4.2  实验结果与分析

在不同数据集下,分别针对算法JOVF和JOVR测试5条在语句复杂程度上具有代表性的LUBM 查询语句,各查询语句与job的对应关系如表5所示。为了保证实验结果的准确性,本实验将每条查询语句在不同数据集下分别测试5次,最后取得平均值。各查询花费的平均时间如表6所示。

1) 由表6可知:对于Q1和Q4这2个查询语句,JOVF和JOVR算法的平均时间几乎相同,这是因为在这2种算法中,Q1和Q4都对应1个job(如表5所示);而对于Q2,Q8和Q9, JOVF算法花费的时间为JOVR的1.5倍左右。由表5可知:在JOVF中,Q2,Q8和Q9对应的job数量分别为3,2和3,在JOVR中三者对应的job数量分别为2,1和2,由于job启动耗时,查询时间会随着job数量增多而相应增大。所以,JOVR的查询效率比JOVF的高。

2) JOVF和JOVR算法平均查询时间随着数据集增大而增大,分别如图6和图7所示。随着测试数据集规模的不断扩大,这2个算法的平均查询时间都并没有呈现指数增长趋势,而是平缓上升。JOVR中平均查询时间的增长率更小,表明JOVR在查询的稳定性方面比JOVF强。

3) 由表6可知:当测试数据集扩大50倍时,JOVF和JOVR算法的平均查询时间分别只增大约1.8倍和1.7倍,表明JOVF和JOVR都具有良好的可扩展性。

表5  LUBM查询语句与job的对应关系

Table 5  Corresponding relationship between LUBM query statements and job

表6  LUBM平均查询时间

Table 6  Average query time of LUBM                                   s

图6  JOVF算法平均查询时间增长曲线图

Fig. 6  Curves of average query time growth in JOVF

图7  JOVR算法平均查询时间增长曲线图

Fig. 7  Curves of average query time growth in JOVR

综合以上分析,JOVR算法在查询效率、稳定性及可扩展性方面都取得了较好的结果,能够更好地支持海量RDF数据的查询。

5  结论

1) 提出了一种海量RDF数据两阶段查询策略,设计了基于SPARQL变量关联度的查询划分算法JOVR,达到了分布式查询过程中查询任务数量最少的目的。

2) 与JOVF算法相比,JOVR算法查询效率更高,稳定性更强,能够更好地支持海量RDF数据的查询。

3) JOVR主要针对SPARQL的简单查询模式,对SPARQL复杂组图模式分布式查询方法有待进一步研究。

参考文献:

[1] BRICKLEY D, GUHA R V. RDF schema 1.1[EB/OL]. [2014-09-21]. http:// www.w3.org/TR/rdf-schema.

[2] HOFFART J, SUCHANEK F M, BERBERICH K, et al. YAGO2: A spatially and temporally enhanced knowledge base from Wikipedia[J]. Artificial Intelligence, 2013, 194(1): 28-61.

[3] BELLEAU F, NOLIN M A, TOURIGNY N, et al. Bio2RDF: towards a mashup to build bioinformatics knowledge systems[J]. Journal of Biomedical Informatics, 2008, 41(5): 706-716.

[4] KOBILAROV G, SCOTT T, OLIVER S, et al. Media meets semantic web-how the bbc uses dbpedia and linked data to make connections[C]// European Semantic Web Conference on Semantic Web in Use Track. Heraklion, Greece, 2009: 723-737.

[5] MIKA P. Social networks and the semantic web: a retrospective of the past 10 years[C]// Proceedings of the 24th International Conference on World Wide Web. Florence, Italy, 2015: 1461.

[6] The Linked Open Data. The linked open data project (LOD). [2015-06-08]. http://www.w3.org/wiki/SweoIG/TaskForces/ CommunityProjects/LinkingOpenData.

[7] 孟小峰, 慈祥. 大数据管理: 概念、技术与挑战[J]. 计算机研究与发展, 2013, 50(1): 146-169.

MENG Xiaofeng, CI Xiang. Big data management: concepts, techniques and challenges[J]. Journal of Computer Research and Development, 2013, 50(1): 146-169.

[8] 王珊, 王会举, 覃雄派, 等. 架构大数据: 挑战、现状与展望[J]. 计算机学报, 2011, 34(10): 1741-1752.

WANG Shan, WANG Huiju, TAN Xiongpai, et al. Architecting big data: challenges, studies and forecasts[J]. Chinese Journal of Computers, 2011, 34(10): 1741-1752.

[9] 李韧. 基于Hadoop的大规模语义Web本体数据查询与推理关键技术研究[D]. 重庆: 重庆大学计算机学院, 2013: 39-45.

LI Ren. Researchonkeytechnologies of large-scaled semantic web ontologies querying andreasoningbasedonHadoop[D]. Chongqing: Chongqing University. College of Computer, 2013: 39-45.

[10] 杜小勇, 王琰, 吕彬. 语义Web数据管理研究进展[J]. 软件学报, 2009, 20(11): 2950-2964.

DU Xiaoyong, WANG Yan, L Bin. Research and development on Semantic Web data management[J]. Journal of Software, 2009, 20(11): 2950-2964.

[11] BECHHOFER S, HARMELEN F V, HENDLER J, et al. OWL web ontology language reference[EB/OL]. [2009-11-29]. http://w3.org/TR/owl-ref.

[12] 施惠俊. 基于云计算的海量语义信息并行推理方法研究[D]. 上海: 上海交通大学软件学院, 2012: 31-35.

SHI Hunjun. Researchofmassivesemantic information parallel inference method basedoncloudcomputing[D]. Shanghai: Shanghai Jiaotong University. College of Software, 2012: 31-35.

[13] MYUNG J, YEON J, LEE S G. SPARQL basic graph pattern processing with iterative mapreduce[C]// Proceedings Massive Data Analytics Cloud (MDAC’10). Raleigh, USA, 2010: 1-6.

[14] HUSAIN M, MCGLOTHLIN J, MASUD M M, et al. Heuristics-based query processing for large RDF graphs using cloud computing[J]. IEEE Transactions on Knowledge & Data Engineering, 2011, 23(9): 1312-1327.

[15] SUN J, JIN Q. Scalable RDF store based on HBase and MapReduce[C]// International Conference on Advanced Computer Theory & Engineering. Chengdu, China, 2010: 633-636.

[16] FRANKE C, MORIN S, CHEBOTKO A, et al. Distributed semantic web data management in HBase and MySQL cluster[C]// Proceedings of the 2011 IEEE 4th International Conference on Cloud Computing. Washington, USA, 2011: 105-112.

[17] GUO Y, PAN Z, HEFLIN J. LUBM: a benchmark for OWL knowledge base systems[J]. Semantic Web Journal, 2005, 3(2/3): 158-182.

[18] LIU B, HUANG K, LI J, et al. An incremental and distributed inference method for large-scale ontologies based on MapReduce paradigm[J]. IEEE Transactions on Cybernetics, 2015, 45(1): 53-64.

[19] CHENG J, WANG W, GAO R. Massive RDF data complicated query optimization based on MapReduce[J]. Physics Procedia, 2012, 25(22): 1414-1419.

[20] LIU L, YIN J, GAO L. Efficient social network data query processing on MapReduce[C]// Proceeding of the 5th ACM Workshop on HotPlanet. HongKong, China, 2013: 27-32.

[21] WEISS C, KARRAS P, BERNSTEIN A. Hexastore: sextuple indexing for semantic web data management[C]// 34th International Conference on Very Large Data Bases (VLDB). Auckland, New Zealand, 2008: 1008-1019.

(编辑  陈灿华)

收稿日期:2016-06-16;修回日期:2016-08-22

基金项目(Foundation item):国家自然科学基金资助项目(61301136, 61572525, 61602525) (Projects(61301136, 61572525, 61602525) supported by the National Natural Science Foundation of China)

通信作者:杨柳,副教授,硕士生导师,从事语义信息处理、软件度量研究;E-mail: yangliu@csu.edu.cn

摘要:为了实现对海量RDF数据的高效查询,研究RDF数据在分布式数据库HBase中的存储方法。基于MapReduce设计海量RDF数据的两阶段查询策略,将查询分为SPARQL预处理阶段与分布式查询执行阶段。SPARQL预处理阶段设计实现基于SPARQL变量关联度的查询划分算法JOVR,通过计算SPARQL查询语句中变量的关联度确定连接变量的连接顺序,根据连接变量将SPARQL子句连接操作划分到最小数量的MapReduce任务中;分布式查询执行阶段执行SPARQL预处理阶段划分的MapReduce任务,实现对海量RDF数据的并行查询。采用LUBM标准测试数据集对查询策略予以验证。研究结果表明:JOVR算法能够高效地实现对海量RDF数据的查询,并具有较强的稳定性与可扩展性。

[1] BRICKLEY D, GUHA R V. RDF schema 1.1[EB/OL]. [2014-09-21]. http:// www.w3.org/TR/rdf-schema.

[2] HOFFART J, SUCHANEK F M, BERBERICH K, et al. YAGO2: A spatially and temporally enhanced knowledge base from Wikipedia[J]. Artificial Intelligence, 2013, 194(1): 28-61.

[3] BELLEAU F, NOLIN M A, TOURIGNY N, et al. Bio2RDF: towards a mashup to build bioinformatics knowledge systems[J]. Journal of Biomedical Informatics, 2008, 41(5): 706-716.

[4] KOBILAROV G, SCOTT T, OLIVER S, et al. Media meets semantic web-how the bbc uses dbpedia and linked data to make connections[C]// European Semantic Web Conference on Semantic Web in Use Track. Heraklion, Greece, 2009: 723-737.

[5] MIKA P. Social networks and the semantic web: a retrospective of the past 10 years[C]// Proceedings of the 24th International Conference on World Wide Web. Florence, Italy, 2015: 1461.

[6] The Linked Open Data. The linked open data project (LOD). [2015-06-08]. http://www.w3.org/wiki/SweoIG/TaskForces/ CommunityProjects/LinkingOpenData.

[7] 孟小峰, 慈祥. 大数据管理: 概念、技术与挑战[J]. 计算机研究与发展, 2013, 50(1): 146-169.

[8] 王珊, 王会举, 覃雄派, 等. 架构大数据: 挑战、现状与展望[J]. 计算机学报, 2011, 34(10): 1741-1752.

[9] 李韧. 基于Hadoop的大规模语义Web本体数据查询与推理关键技术研究[D]. 重庆: 重庆大学计算机学院, 2013: 39-45.

[10] 杜小勇, 王琰, 吕彬. 语义Web数据管理研究进展[J]. 软件学报, 2009, 20(11): 2950-2964.

[11] BECHHOFER S, HARMELEN F V, HENDLER J, et al. OWL web ontology language reference[EB/OL]. [2009-11-29]. http://w3.org/TR/owl-ref.

[12] 施惠俊. 基于云计算的海量语义信息并行推理方法研究[D]. 上海: 上海交通大学软件学院, 2012: 31-35.

[13] MYUNG J, YEON J, LEE S G. SPARQL basic graph pattern processing with iterative mapreduce[C]// Proceedings Massive Data Analytics Cloud (MDAC’10). Raleigh, USA, 2010: 1-6.

[14] HUSAIN M, MCGLOTHLIN J, MASUD M M, et al. Heuristics-based query processing for large RDF graphs using cloud computing[J]. IEEE Transactions on Knowledge & Data Engineering, 2011, 23(9): 1312-1327.

[15] SUN J, JIN Q. Scalable RDF store based on HBase and MapReduce[C]// International Conference on Advanced Computer Theory & Engineering. Chengdu, China, 2010: 633-636.

[16] FRANKE C, MORIN S, CHEBOTKO A, et al. Distributed semantic web data management in HBase and MySQL cluster[C]// Proceedings of the 2011 IEEE 4th International Conference on Cloud Computing. Washington, USA, 2011: 105-112.

[17] GUO Y, PAN Z, HEFLIN J. LUBM: a benchmark for OWL knowledge base systems[J]. Semantic Web Journal, 2005, 3(2/3): 158-182.

[18] LIU B, HUANG K, LI J, et al. An incremental and distributed inference method for large-scale ontologies based on MapReduce paradigm[J]. IEEE Transactions on Cybernetics, 2015, 45(1): 53-64.

[19] CHENG J, WANG W, GAO R. Massive RDF data complicated query optimization based on MapReduce[J]. Physics Procedia, 2012, 25(22): 1414-1419.

[20] LIU L, YIN J, GAO L. Efficient social network data query processing on MapReduce[C]// Proceeding of the 5th ACM Workshop on HotPlanet. HongKong, China, 2013: 27-32.

[21] WEISS C, KARRAS P, BERNSTEIN A. Hexastore: sextuple indexing for semantic web data management[C]// 34th International Conference on Very Large Data Bases (VLDB). Auckland, New Zealand, 2008: 1008-1019.