Elasticsearch检索为什么这么快,倒排索引,inverted-index

   日期:2024-12-26    作者:m69cr 移动:http://ljhr2012.riyuangf.com/mobile/quote/50184.html

相比传统的关系型数据库Mysql,ES在大数据量(几千万,亿级)搜索方面的性能要好很多,ES的设计核心就是一切为了搜索,这样的出发点也会导致ES的偏科,比如,ES在写入/更新方面的性能就一般。

所以ES一般用来做搜索库,主库Mysql提供主要服务,并将需要检索的数据同步到ES,由ES来提供检索服务。

特性
1、ES是一个面向文档型的数据库,每一条记录是一个文档,用JSON作为文档序列化的格式
2、ES是一个分布式,可扩展,实时搜索和分析,全文检索的服务
3、建立在全文搜索引擎Apache Lucene基础之上
4、默认为每一个字段创建索引
5、可以扩展到上百台服务器,处理PB级别的结构化或非结构化数据

文档结果

 

ES的存储:索引(index) -> 分类(type) -> 文档(document) -> 字段(field)
从ES7.0.0开始,废弃了这个层级。

ES提供了restful api供外部调用。

ES高效的检索能力最关键的点就是其对于索引的处理,这里的索引和MySQL的索引是一样的意思,不同之处在于Mysql索引基于B+Tree,而ES索引却是自创的;而且Mysql的索引是以文件形式存在磁盘上,而ES是存在内存中。

以下来讲解ES的索引的创建和查找

记录如下

 

因为ES是文档型的数据库,所以会自动为每个文档创建文档id,便于管理

 
1、索引创建

倒排索引)也叫反向索引,有反向索引必有正向索引。通俗地来讲,正向索引是通过key找value,反向索引则是通过value找key。

ES默认为每一个字段都建立索引,可以单独发挥作用,也可以联合发挥作用,我们先讨论单个索引的创建,比如 Name字段。
把字段的值 Carla,Sara,Elin,Ada,Patty,Kate,Selena 称为term。于是可以这么表示

 

term 是单词,也就是分词之后的最小单元。
Posting List 是倒排列表,为文档的id,是一个int的数组,存储了所有符合某个term的文档id(实际的Posting List中还存储了此单词在此文档中出现的位置,出现的频次)。这一点和MySQL很像,也就是将其他字段关联到主键上。

同理 Age 字段

 

以上结构就是 term -> Posting List 结构,只要找到 term,就能找到文档id。
而term就是索引,现在需要对term做优化。

首先,对term排序,得到 Ada,Carla,Elin,Kate,Patty,Sara,Selena 排序后的结果称为 term Dictionary,有了排序就可以通过二分查找法来提高效率了,但是如果仅仅是这样,那么其检索效率还不如mysql呢,毕竟B+Tree比二分查找层级浅,结构更合理。于是,在term dictionary上面再抽象出了一层 term index,可以理解为字典中的目录页,可以快速定位 term dictionary 中的 offset。

为了减小内存占用,term index 取的是 term 的一些前缀,并不是完整的 term 值。额外值得一提的两点是:term index在内存中是以FST(finite state transducers)的形式保存的,其特点是非常节省内存。Term dictionary在磁盘上是以分block的方式保存的,一个block内部利用公共前缀压缩,比如都是Ab开头的单词就可以把Ab省去。这样term dictionary可以比b+tree更节约磁盘空间。

另外,Term dictionary 在磁盘上是以分 block 的方式保存的,一个 block 内部利用公共前缀压缩,比如都是 Ab 开头的单词就可以把 Ab 省去。这样 term dictionary 可以比 b-tree 更节约磁盘空间。

elasticsearch 会先进行分词,再来建立索引,这会导致在搜索的时候,输入的关键词不同,结果不同。比如有本书《刘心武妙品红楼梦》,输入关键词
刘心武:无结果
红楼梦:有结果
妙品红楼梦:有结果
刘心武妙品:无结果
妙品:有结果
刘心武妙品红楼梦:无结果

所以,需要选择好的分词器,尤其是面对中文分词场景,比如 elasticsearch-analysis-ik,同时,对于一些专有名词,自定义名称,我们还需要设置词库词典,这样它就会优先按照词典来分词,更加准确。可以参考 中文分词优化

2、索引查找

倒排索引:(索引块)Term Index -> (索引词典)Term Dictionary -> Posting List

3、联合索引查询

age=18 AND gender= 女
可以理解为 将 age=18的Posting List 和 gender=女 的 Posting List 合并,取交集。
这个理论上的“与”合并的操作可不容易。对于 mysql 来说,如果你给 age 和 gender 两个字段都建立了索引,查询的时候只会选择其中最 selective 的来用,然后另外一个条件是在遍历行的过程中在内存中计算之后过滤掉。那么要如何才能联合使用两个索引呢?有两种办法

 

PostgreSQL 从 8.4 版本开始支持通过 bitmap 联合使用两个索引,就是利用了 bitset 数据结构来做到的。当然一些商业的关系型数据库也支持类似的联合索引的功能。Elasticsearch 支持以上两种的联合索引方式,如果查询的 filter 缓存到了内存中(以 bitset 的形式,那么合并就是两个 bitset 的 AND。如果查询的 filter 没有缓存,那么就用 skip list 的方式去遍历两个 on disk 的 posting list。

利用 Skip List 合并

 
 

我们可以把这个list分成三个block

[1,3,13] [101,105,108] [255,256,257]

然后可以构建出skip list的第二层

[1,101,255]

1,101,255分别指向自己对应的block。这样就可以很快地跨block的移动指向位置了。

因为这个Frame of Reference的编码是有解压缩成本的。利用skip list,除了跳过了遍历的成本,也跳过了解压缩这些压缩过的block的过程,从而节省了cpu。

利用bitset合并

Bitset是一种很直观的数据结构,对应posting list如

[1,3,4,7,10]

对应的bitset就是(从左到右看

[1,0,1,1,0,0,1,0,0,1]

每个文档按照文档id排序对应其中的一个bit。Bitset自身就有压缩的特点,其用一个byte就可以代表8个文档。所以100万个文档只需要12.5万个byte。但是考虑到文档可能有数十亿之多,在内存里保存bitset仍然是很奢侈的事情。而且对于个每一个filter都要消耗一个bitset,比如age=18缓存起来的话是一个bitset,18<=age<25是另外一个filter缓存起来也要一个bitset。

所以秘诀就在于需要有一个数据结构

这两种合并使用索引的方式都有其用途。Elasticsearch对其性能有详细的对比(https://www.elastic.co/blog/frame-of-reference-and-roaring-bitmaps)。简单的结论是:因为Frame of Reference编码是如此 高效,对于简单的相等条件的过滤缓存成纯内存的bitset还不如需要访问磁盘的skip list的方式要快。

如何减少文档数

一种常见的压缩存储时间序列的方式是把多个数据点合并成一行。Opentsdb支持海量数据的一个绝招就是定期把很多行数据合并成一行,这个过程叫compaction。类似的vivdcortext使用mysql存储的时候,也把一分钟的很多数据点合并存储到mysql的一行里以减少行数。

可以看到,行变成了列了。每一列可以代表这一分钟内一秒的数据。

Elasticsearch有一个功能可以实现类似的优化效果,那就是Nested Document。我们可以把一段时间的很多个数据点打包存储到一个父文档里,变成其嵌套的子文档。示例如下

 

可以打包成

 
 

使用了嵌套文档之后,对于term的posting list只需要保存父文档的doc id就可以了,可以比保存所有的数据点的doc id要少很多。如果我们可以在一个父文档里塞入50个嵌套文档,那么posting list可以变成之前的1/50。

最后,值得注意的点
不需要索引的字段,一定要明确定义出来,因为默认是自动建索引的
同样的道理,对于String类型的字段,不需要analysis的也需要明确定义出来,因为默认也是会analysis的
选择有规律的ID很重要,随机性太大的ID(比如java的UUID)不利于查询


特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。


举报收藏 0评论 0
0相关评论
相关最新动态
推荐最新动态
点击排行
{
网站首页  |  关于我们  |  联系方式  |  使用协议  |  隐私政策  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2020018471号