rowkey设计原则

Posted ww5566

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了rowkey设计原则相关的知识,希望对你有一定的参考价值。

rowkey是什么?

rowkey相当于mysql、orcale中的主键,用于标识唯一的行,是完全由用户指定的一串不重复的字符串,hbase的数据永远都是根据rowkey的字典顺序排序的。

Rowkey的作用

1)读写数据时通过rowkey找到对应region;2)MenStore中数据按rowkey排序;3)HFile中数据按rowkey排序。

rowkey对region的影响:

hbase的表数据是根据rowkey划分到不同的region,不合理的rowkey会导致热点问题。热点问题就是大量的Client直接访问集群上的某一个节点雄极少数节点,而其它节点却处于空闲状态。如果某个region的访问频率过高,会影响这个region所在机器的其他region。

rowkey设计技巧

1)Salting(加盐):rowkey前面加随机数,使它和之前的排序不同。

2)Hashing:把rowkey哈希后,将哈希后的部分字符当成rowkey的头部和原来的rowkey进行拼接。

3)Reversing:反转一段固定长度和全部的键作为rowkey。(适用于,数据太分散,但rowkey后面的字符相同,如url,后缀均为.com)

rowkey长度:

rowkey可以是任意的字符串,最大长度为64k,建议越短越好。

1)数据储存到HFile是按key-value存储的,如果rowkey过长,会影响HFile的存储效率。

2)MenStore会存储部分数据到内存,如果rowkey过长,内存利用率就会下降,系统不能存储更多的数据,还会降低检索效率。

以上是关于rowkey设计原则的主要内容,如果未能解决你的问题,请参考以下文章

Hbase中rowkey设计原则

HBase Rowkey的设计原则

rowkey设计原则

Hbase Rowkey设计原则

Habse中Rowkey的设计原则——通俗易懂篇

hbase的rowkey设计原则和实现方式