手把手教你如何抢救 HBase 误删数据(附代码)
Posted ImageQ大数据
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了手把手教你如何抢救 HBase 误删数据(附代码)相关的知识,希望对你有一定的参考价值。
有时候我们操作数据库的时候不小心误删数据,这时候如何找回?
mysql 里有 binlog 可以帮助我们恢复数据,但是没有开 binlog 也没有备份就尴尬了。如果是 HBase,你没有做备份误删了又如何恢复呢?
数据保护
当误删数据发生时候,不管三七二十一,第一要务是进入 hbase shell,执行如下命令:
如果误删一张表的有多个 family 里的数据,需要都执行一下:
设置 KEEP_DELETED_CELLS 为 True 的目的在于防止数据被物理删除。这里有必要解释一下 HBase 清理数据的原理:
首先 HBase 是一个 LSM 架构,不断发生着数据文件的写入和合并
当删除操作发生时,不会去清理数据文件中的数据,而是写入一个删除标记到新文件中。
当某一刻 major compaction 发生时,在合并文件的同时会根据删除标记清理数据,新合并出来的数据文件不会再有旧数据。
KEEP_DELETED_CELLS 的作用就是在 major compaction 发生的时候,决定要不要清理旧数据。
这里需要注意一点,即便 KEEP_DELETED_CELLS 设置为 True,数据仍然会因为过期而被清理(HBsae表中的TTL属性)。这个设定无可厚非,既然过期了,误删不误删也无所谓了。
数据恢复
数据恢复的前提数据没有被物理删除,也就是上文提及的。你只需要在查询(Scan)的时候,指定 raw 模式来搜索数据,就能看到被删除的数据,之后你要做就是把数据再写入一次。
我们来看一个简单的例子,还是以 hbase shell 为例子:
1. 首先我们准备几行数据
2. 然后我们删掉 y 开头掉数据
3. 查一下,现在只有 3 行了
4. 现在我们带上 raw 再次查找数据,不仅能看到被删除数据,还能看到删除标记。
这里我设置了 TIMERANGE, 指定的是数据写入的时间。对于我这个 case 其实并没有什么用,我只是想说明几点:
■即便不设置 RAW,也可以通过时间搜索到被删数据。
■比如数据写入时间是 T,delete 时间是 T+2,那么查找 [0, T+1] 的话就能看见数据。
——前提是设置了 KEEP_DELETED_CELLS=TRUE
■如果你后续写入重复的 Key,那你必须指定好 TIMERANGE,不然你可能看到的不是原先删除的 KeyVlaue。
■Delete 操作默认的时间不是当前 Server 的时间,也不是构造 Delete 对象的时间,而是被删除的这个 KeyValue的写入时间。
当然这个得看版本,测试时候发现 1.x 和 2.x 还是不一样的,有点坑,还以为高版本不能仅通过 TIMERAGE 搜素被删数据了。
■如果你的 Delete Mark 的时间和数据的时间一样,那只能通过 RAW 看到。
数据恢复完,建议关闭 KEEP_DELETED_CELLS,节省空间,提高查询效率。
其 他
上文使用的是 hbase shell 演示,你可以使用任何语言的API完成上面的操作。
如果你使用的是云 HBase,即便因为 major compaction 物理删除了数据,只要你开启了备份功能,依然可以恢复。
-END-
来源 | 云栖社区
你可能感兴趣的...
(点击文/图即可查看相关内容)
01 技术干货 | 02 热点事件
03 大 咖 说 | 04 往期精彩
05 产品试用 | 06 官网直达
以上是关于手把手教你如何抢救 HBase 误删数据(附代码)的主要内容,如果未能解决你的问题,请参考以下文章
手把手教你使用Dygraphs可视化时间序列数据(附代码链接)
独家 | 手把手教你如何使用Flask轻松部署机器学习模型(附代码&链接)