有知道 hbase中的 lsm树和trie树分别是用来干嘛的么
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了有知道 hbase中的 lsm树和trie树分别是用来干嘛的么相关的知识,希望对你有一定的参考价值。
参考技术A bg4.pngLSM树就是一堆小树,在内存中的小树即memstore,每次flush,内存中的memstore变成磁盘上一个新的storefile。
Trie树,又称单词查找树、字典树,是一种树形结构,是一种哈希树的变种,是一种用于快速检索的多叉树结构。个人认为是:hbase的存储机制,也就是先把数据放到内存,达到一定数量后,就flush到磁盘,为了提高hbase的查询功能。hbase如此的快
上面两个机制,应该是借助了LSM树、Trie树详细,可以了解LSM树由来、设计思想以及应用到HBase的索引
LSM树在HBase中的应用
LSM树全称是基于日志结构的合并树(Log-Structured Merge-Tree)。No-SQL数据库一般采用LSM树作为数据结构,HBase也不例外。众所周知,RDBMS一般采用B+树作为索引的数据结构,如图1。RDBMS中的B+树一般是3层n路的平衡树。B+树的节点对应于磁盘数据块。因此对于RDBMS,数据更新操作需要5次磁盘操作(从B+树3次找到记录所在数据块,再加上一次读和一次写)。
在RDBMS中,数据随机无序写在磁盘块中,如果没有B+树,读性能会很低。B+树对于数据读操作能很好地提高性能,但对于数据写,效率不高。对于大型分布式数据系统,B+树还无法与LSM树相抗衡。
图1 B+ 树
LSM树可以看成n层合并树。在HBase中,它把随机写转换成对memstore和hfile的连续写。图2展示了LSM树数据写的过程。
图2 LSM树
数据写(插入,更新):数据首先顺序写如hlog (WAL), 然后写到MemStore, 在MemStore中,数据是一个2层B+树(图2中的C0树)。MemStore满了之后,数据会被刷到storefile (hFile),在storefile中,数据是3层B+树(图2中的C1树),并针对顺序磁盘操作进行优化。
数据读:首先搜索MemStore,如果不在MemStore中,则到storefile中寻找。
数据删除:不会去删除磁盘上的数据,而是为数据添加一个删除标记。在随后的major compaction中,被删除的数据和删除标记才会真的被删除。
LSM数据更新只在内存中操作,没有磁盘访问,因此比B+树要快。对于数据读来说,如果读取的是最近访问过的数据,LSM树能减少磁盘访问,提高性能。
HBase实战
以上是关于有知道 hbase中的 lsm树和trie树分别是用来干嘛的么的主要内容,如果未能解决你的问题,请参考以下文章