欢迎光临本站!

索引系统-倒排索引

来源:技术探讨    更新时间:2019-12-12 10:19:25    编辑:老王    浏览:235

  全文检索的检索是通过关键词来进行检索,因此为关键词建立索引是很自然的。我们把按关键词创建的索引称为“倒排索引在这里关键词称为“索引词”,因为并不是所有的关键词都会创建索引。

  经典的倒排索引


  笼统的说,索引系统的索引如图5-2所示索引系统中的索引[S.Brin1998包含了3个概念,分别是命中(Hit)正排索引( Forward index)和倒排索引( Inverted Index)接下来就围绕这三个概念展开,首先理解这3个概念。Hit表示索引词在文章中的位置( position)和字体等信息,这里为了突出重点,忽略Hit的影响,集中精力了解正排索引和倒排索引。

索引系统-倒排索引

  正排索引(前向索引)


  正排索引也称为“前向索引”。它是创建倒排索引的基础,具有以下字段。

  (1) Locally字段(表中简称"Lid"):表示一个文档的局部编号。

  (2) WordId字段:表示文档分词后的编号,也可称为“索引词编号"。

  (3) HIts字段:表示某个索引词在文档中出现的次数。

  (4) HitList变长字段:表示某个索引词在文档中出现的位置,即相对于正文的偏移量。

  由于一篇文章中的某些词可能出现多次,而且位置不同,而全文检索的本质要求是把这些位置标识出来,因此 HitList中的每个命中都表示索引词在文档的某个位置中出现了一次,这个序列为单调递增序列。基于游程编码的方法,变升序序列为差分序列,采用前文提到的 Variable Byte Coding方法编码可以大大压缩正排索引的 HitList字段。

  事实上,文档编号在不同的计算过程里,分别称为局部编号和全局编号,它们在编号长度上稍有不同,为了便于理解,本书不区别这些区别,认为 Locally和 DocId完全一致,都表示一个文档的唯一编号。在正排索引中 Locally.用升序序列编号(假定编号采用自增1的方式递增),这为下面的计算创造条件。进行倒排索引的转化时,由于正排索引中Lid天然的有序性,因此在正排索引转化为倒排索引的创建过程中,自然可以保证倒排索引中每个词汇对应的文档编号也是有序的,倒排索引将在下一节中介绍。

  这样,正排索引如图5-3所示。

索引系统-倒排索引

  通过一个例子来了解正排索引的创建过程。假定存在这样一个编号为1的文档,其全文为“走进搜索引擎,学习搜索引擎”分词的结果为“走进搜索引擎/学习/搜索引擎"。不妨为“走进编号为“T1",“搜索引擎”编号为“T2”,“学习”编号为“T3"。通过计算得到“走进”出现1次,出现位置为1;“搜索引擎”出现两次,出现位置为3和9(图中存放的为未压缩的差分序列3和6):“学习”出现1次,出现位置为7。创建的正排索引如图5-4所示。

索引系统-倒排索引

  HitList是变长的,因此需要 HIts这个字段标记其长度,这样才能读出全部的正排索引数据。假定每个域都是一个字节大小,而 Hitlist变长。在上面这个例子中,假定这个正排索引依次存放在一个数组Aay中,则当读取到Aray2]时,读取的内容为T1的 HIts,读出的结果为1。由于T1出现了1次,因此在T1的HitList中仅存放了一个位置信息。这样在读取 Array[3后,接下来读取Aray4则能够判断为下一个索引词T2。正是由于 HIts的这种表示长度的作用,全部的数据才能被有效地读取。

  最后用NULL表示为一个结束符的这种设计是很巧妙的;否则,正排索引可能是这样,如图5-5所示。

索引系统-倒排索引

  在图5-5中,为了结构化数据的需要,在去掉表示结束符的NULL后,正排索引必须冗余地存放 DocId,因此一个标记结束符的字段有效地压缩了正排索引的大小。

  本质上说,正排索引以文档编号为视角看待索引词,也就是通过文档编号去找索引词。任给一个文档编号,能够知道它包含了哪些索引词、这些索引词分别出现的次数,以及索引词出现的位置。然而全文索引是通过关键词来检索,而不是通过文档编号来检索,因此正排索引不能满足全文检索的要求。

  虽然正排索引不能满足全文检索的需要,但是正排索引为创建倒排索引创造了有利条件是计算倒排索引的不可缺少的一环

  倒排索引


  倒排索引是一种以关键字和文档编号结合,并以关键字作为主键的索引结构。倒排索引分为两个部分。

  (1)第1个部分:由不同索引词( index term)组成的索引表,称为“词典"( lexicon)。其中保存了各种中文词汇,以及这些词汇的一些统计信息(例如出现频率 n docs),这些统计信息用于各种排名算法( Ranking algorithm)[ Salton1989; Witten1994]。

  (2)第2个部分:由每个索引词出现过的文档集合,以及命中位置等信息构成,也称为“记录表”( posting file)或“记录列表”( posting list)如图5-6所示。

索引系统-倒排索引

  左边的表结构(词典)记录索引词Id号、匹配该索引词的文档数量,并匹配文档在记录文件内的偏移量,通过这个偏移量就可以读取记录文件对应区域的信息。例如在图5-6中,通过读取T1的偏移量x渎取在记录文件中T1命中的相关文档Docl、Do2和Doc3的相关信息。

  右边的表结构(记录表)记录文档编号( DocId)索引词在该文档的命中个数( HIts),以及命中域的列表( Hitlist)。例如在图5-6中,记录文件显示了T2关键词在Doc1中出现了3次。

  在如图5-6所示的倒排索引示例中,以索引词T2为例,T2在两个文档中出现。通过偏移量在记录文件中找到了存放与T2有关的信息,即T2匹配的Doc1和Doc2两个文档,并且在Doc1中出现了3次,位置分别为3、5和7(图中3、2和2表示为差分序列后的实际值,即3、5-3和7-5)。

  注意到这种按照索引词组织文档的方式,在索引词 WordId边,其Id号不会重复;而在 DocId一边,由于每个文档都可能包含多个索引词, DocId的重复非常普遍,因此对 DocId就需要进行大规模的压缩。

  压缩编码也采用 Variable Byte Coding编码方法进行压缩,首先对Docd排序,接下来将 DocId的递增序列为差分序列,最后用 Variable Byte Coding编码方法进行压缩编码。例如这样的DocId序列(22,5,9,1),通过排序得到(1,5,9,22),变差分序列得到(1,4,4,13),压缩编码后得到(2,8,8,26对于小于128的数进行压缩编码,相当于乘2(详细参见本章第三节中的相关内容)。

  最后,在倒排索引中,按照何种顺序存放 Docld更加有利于检索呢?在图56中,T1这个词有Doc1、Doc2、Doc3与之相匹配,也就是在这些文档中都出现了T1,那么在倒排索引的记录表中,哪个文档编号先存放,哪个文档编号后存放呢?这种存放顺序的策略大致有如下3种。

  (1)按照 DocId升序存放。

  (2)按照索引词在文档中出现次数降序存放。

  (3)记录表分块存放块内按 DocId升序存放,块间按PageRank值降序存放。

  对于方案1来说,它有助于在多关键词查询中,得到相同的DocId(在第六章中介绍查询系统时,会提到因为 DocId有序而为查询带来的好处)。并且能够对 DocId进行压缩编码,同时降低磁盘IO的开销。

  对于方案2来说,按照索引词Id在文档中出现的次数降序排序因为索引词出现次数多的文档与查询关键词的相关性越好(这里,索引词和关键词是同一个词,在索引系统中称为“索引词”,在查询系统中称为“关键词”或“查询词”),这是很自然的,检索就是检索哪些与查询词相关性高的文档。文献[S.Brin1998]阐述了一种折中的设计方案,即不同的索引词命中区分对待,对于索引词在标题或者锚文本( Anchor)命中的文档,以及命中信息存放在一个记录表中,不妨称为“表A",表内数据按 DocId排序命中其他位置的文档及其命中信息存放在另一个记录表中,称为表B″,同样表内数据也是按照 DocId排序。这样对于每个索引词的查询,优先在表A中查询。只有当结果数不够时,再到表B中查询。这样既照顾到了压缩存储的需要,也照顾到了相关性,通常标题中的词大多在正文中会多次出现。当然这种折中的方法有时也不够合理,它过分倚重于锚文本的关键词,常常被针对这种算法作弊的网页设计者利用。

  对于方案3来说一方面照顾到了方案1的索引压缩功能文档按序存储)另一方面照顾了重要的文档在检索过程中优先被检索的需要,而且防止了方案2中由网页设计者作弊可能带来的麻烦。有些网页设计者在网页中正文,锚文本中堆砌大量经常被查询的重要关键词,因此方案2在设计上不可避免的缺陷容易被利用。当然 PageRank算法也会被作弊者利用,然而 PageRank的作弊较为困难,所以方案3是较为理想的解决方案。

  最后,总结一下正排索引和倒排索引的关系。本质上说,存在这样两个空间,一个称为“索引词空间”,一个称为“文档空间"。正排索引可以理解成一个定义在文档空间到索引词组空间的一个映射,任意一个文档对应惟一的一组索引词;而倒排索引可以理解成一个定义在索引词空间到文档组空间的一个映射。任意一个索引词对应惟一的一组该索引词其命中的文档。因此从文档到正排索引,进而从正排索引到倒排索引就是理顺这种关系的过程。使得给出一个索引词就能通过倒排索引能够找到其命中的文档,以及位置信息。

评论区

表情

共0条评论
  • 这篇文章还没有收到评论,赶紧来抢沙发吧~

相关内容

点击排行

随机新闻

评论排行榜