hbase读写流程

Posted 王振龙

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了hbase读写流程相关的知识,希望对你有一定的参考价值。

HBase读数据流程

1) HRegionServer保存着meta表以及表数据,要访问表数据,首先Client先去访问zookeeper,从zookeeper里面获取meta表所在的位置信息,即找到这个meta表在哪个HRegionServer上保存着

2) 接着Client通过刚才获取到的HRegionServerIP来访问Meta表所在的HRegionServer,从而读取到Meta,进而获取到Meta表中存放的元数据。

3) Client通过元数据中存储的信息,访问对应的HRegionServer,然后扫描所在HRegionServerMemstoreStorefile来查询数据。

4) 最后HRegionServer把查询到的数据响应给Client

2.3.2HBase写数据流程

1) Client也是先访问zookeeper,找到Meta表,并获取Meta信息

2) 确定当前将要写入的数据所对应的RegionServer服务器Region

3) Client向该RegionServer服务器发起写入数据请求,然后RegionServer收到请求并响应。

4) Client先把数据写入到HLog,以防止数据丢失。

5) 然后将数据写入到Memstore

6) 如果HlogMemstore均写入成功,则这条数据写入成功。在此过程中,如果Memstore达到阈值,会把Memstore中的数据flushStoreFile中。

7) Storefile越来越多,会触发Compact合并操作,把过多的Storefile合并成一个大的Storefile。当Storefile越来越大,Region也会越来越大,达到阈值后,会触发Split操作,将Region一分为二。

尖叫提示:因为内存空间是有限的,所以说溢写过程必定伴随着大量的小文件产生。

本文参考自:尽际

以上是关于hbase读写流程的主要内容,如果未能解决你的问题,请参考以下文章

hbase读写流程

大数据(5b)HBase架构读写流程

HBase 数据读写流程

小记--------hbase数据库读写流程

HBase之读写流程

HBase读写流程,一文串所有。