rowkey设计原则

Posted 2020-11-13 ww5566

rowkey是什么？

rowkey相当于mysql、orcale中的主键，用于标识唯一的行，是完全由用户指定的一串不重复的字符串，hbase的数据永远都是根据rowkey的字典顺序排序的。

Rowkey的作用

1）读写数据时通过rowkey找到对应region；2）MenStore中数据按rowkey排序；3）HFile中数据按rowkey排序。

rowkey对region的影响：

hbase的表数据是根据rowkey划分到不同的region，不合理的rowkey会导致热点问题。热点问题就是大量的Client直接访问集群上的某一个节点雄极少数节点，而其它节点却处于空闲状态。如果某个region的访问频率过高，会影响这个region所在机器的其他region。

rowkey设计技巧

1）Salting（加盐）：rowkey前面加随机数，使它和之前的排序不同。

2）Hashing:把rowkey哈希后，将哈希后的部分字符当成rowkey的头部和原来的rowkey进行拼接。

3）Reversing：反转一段固定长度和全部的键作为rowkey。（适用于，数据太分散，但rowkey后面的字符相同，如url，后缀均为.com）

rowkey长度：

rowkey可以是任意的字符串，最大长度为64k，建议越短越好。

1）数据储存到HFile是按key-value存储的，如果rowkey过长，会影响HFile的存储效率。

2）MenStore会存储部分数据到内存，如果rowkey过长，内存利用率就会下降，系统不能存储更多的数据，还会降低检索效率。