2021年大数据HBase:Apache Phoenix 二级索引

Posted Lansonli

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了2021年大数据HBase:Apache Phoenix 二级索引相关的知识,希望对你有一定的参考价值。

全网最详细的大数据HBase文章系列,强烈建议收藏加关注!

新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点。

目录

系列历史文章

前言

Apache Phoenix 二级索引

一、索引分类

二、索引分类_全局索引

三、索引分类_本地索引

四、索引分类_覆盖索引

五、索引分类_函数索引

六、索引案例一: 创建全局索引+覆盖索引

1、需求

2、创建索引

3、查询数据

4、查询执行计划

5、删除索引

6、查看索引

7、测试查询所有列是否会使用索引

8、使用Hint强制使用索引

七、索引案例二: 创建本地索引

1、查看数据

2、删除索引

八、陌陌案例二级索引构建

1、创建本地函数索引

2、执行数据查询


系列历史文章

2021年大数据HBase(十七):HBase的360度全面调优

2021年大数据HBase(十六):HBase的协处理器(Coprocessor)

2021年大数据HBase(十五):HBase的Bulk Load批量加载操作

2021年大数据HBase(十四):HBase的原理及其相关的工作机制

2021年大数据HBase(十三):HBase读取和存储数据的流程

2021年大数据HBase(十二):Apache Phoenix 二级索引

2021年大数据HBase(十一):Apache Phoenix的视图操作

2021年大数据HBase(十):Apache Phoenix的基本入门操作

2021年大数据HBase(九):Apache Phoenix的安装

2021年大数据HBase(八):Apache Phoenix的基本介绍

2021年大数据HBase(七):Hbase的架构!【建议收藏】

2021年大数据HBase(六):HBase的高可用!【建议收藏】

2021年大数据HBase(五):HBase的相关操作-JavaAPI方式!【建议收藏】

2021年大数据HBase(四):HBase的相关操作-客户端命令式!【建议收藏】

2021年大数据HBase(三):HBase数据模型

2021年大数据HBase(二):HBase集群安装操作

2021年大数据HBase(一):HBase基本简介

前言

 2021大数据领域优质创作博客,带你从入门到精通,该博客每天更新,逐渐完善大数据各个知识体系的文章,帮助大家更高效学习。

Apache Phoenix 二级索引

因为没有建立索引,组合条件查询效率较低,而通过使用Phoenix,我们可以非常方便地创建二级索引。Phoenix中的索引,其实底层还是表现为HBase中的表结构。这些索引表专门用来加快查询速度。

一、索引分类

  • 全局索引
  • 本地索引
  • 覆盖索引
  • 函数索引

二、索引分类_全局索引

  • 全局索引适用于读多写少业务
  • 全局索引绝大多数负载都发生在写入时,当构建了全局索引时,Phoenix会拦截写入(DELETE、UPSERT值和UPSERT SELECT)上的数据表更新,构建索引更新,同时更新所有相关的索引表,开销较大
  • 读取时,Phoenix将选择最快能够查询出数据的索引表。默认情况下,除非使用Hint,如果SELECT查询中引用了其他非索引列,该索引是不会生效的
  • 全局索引一般和覆盖索引搭配使用,读的效率很高,但写入效率会受影响
  • 创建语法:   CREATE INDEX 索引名称 ON 表名 (列名1, 列名2, 列名3...)

三、索引分类_本地索引

  • 本地索引适合写操作频繁,读相对少的业务
  • 当使用SQL查询数据时,Phoenix会自动选择是否使用本地索引查询数据
  • 在本地索引中,索引数据和业务表数据存储在同一个服务器上,避免写入期间的其他网络开销
  • 在Phoenix 4.8.0之前,本地索引保存在一个单独的表中,在Phoenix 4.8.1中,本地索引的数据是保存在一个影子列蔟中
  • 本地索引查询即使SELECT引用了非索引中的字段,也会自动应用索引的
  • 注意:创建表的时候指定了SALT_BUCKETS,是不支持本地索引的

  • 创建语法:   CREATE LOCAL INDEX 索引名称 ON 表名 (列名1, 列名2, 列名3...) 

四、索引分类_覆盖索引

hoenix提供了覆盖的索引,可以不需要在找到索引条目后返回到主表。Phoenix可以将关心的数据捆绑在索引行中,从而节省了读取时间的开销。

       例如,以下语法将在v1和v2列上创建索引,并在索引中包括v3列,也就是通过v1、v2就可以直接把数据查询出来。

CREATE INDEX my_index ON my_table (v1,v2) INCLUDE(v3)
  • 可以被表中任意的字段构建覆盖 索引, 建立之后, 可以在查询的时候, 不需要在去到主表查询, 可以减少查询的时间, 提升效率, 但是带来弊端, 导致数据出现冗余情况

  • 注意: 无法单独使用, 必须结合全局或者本地索引

  • 创建语法: create [local] index my_index on 目标表(列1,列2...) include(覆盖索引列....)

五、索引分类_函数索引

函数索引(4.3和更高版本)可以支持在列上创建索引,还可以基于任意表达式上创建索引。然后,当查询使用该表达式时,可以使用索引来检索结果,而不是数据表。例如,可以在UPPER(FIRST_NAME||‘ ’||LAST_NAME)上创建一个索引,这样将来搜索两个名字拼接在一起时,索引依然可以生效。

-- 创建索引        

CREATE INDEX UPPER_NAME_IDX ON EMP (UPPER(FIRST_NAME||' '||LAST_NAME)) 

-- 以下查询会走索引        

SELECT EMP_ID FROM EMP WHERE UPPER(FIRST_NAME||' '||LAST_NAME)='JOHN DOE'
  •  可以针对某一个函数的结果 构建索引, 将结果数据建好索引, 这样当我们使用这个函数时可以直接将结果返回
  • 创建语法:  create  index  索引名称 on 表名(函数)

六、索引案例一: 创建全局索引+覆盖索引

1、需求

我们需要根据用户ID来查询订单的ID以及对应的支付金额。

例如:查询已付款的订单ID和支付金额        

此时,就可以在USER_ID列上创建索引,来加快查询

2、创建索引

create index GBL_IDX_ORDER_DTL on ORDER_DTL(C1."user_id") INCLUDE("id", C1."money");    

  可以在HBase shell中看到,Phoenix自动帮助我们创建了一张GBL_IDX_ORDER_DTL的表。这种表就是一张索引表

3、查询数据

select "user_id", "id", "money" from ORDER_DTL where "user_id" = '8237476';

4、查询执行计划

explain select "user_id", "id", "money" from ORDER_DTL where "user_id" = '8237476';

5、删除索引

使用drop index 索引名 ON 表名

drop index IDX_ORDER_DTL_DATE on ORDER_DTL;

6、查看索引

!table

7、测试查询所有列是否会使用索引

explain select * from ORDER_DTL where "user_id" = '8237476';

8、使用Hint强制使用索引

explain select /*+ INDEX(ORDER_DTL GBL_IDX_ORDER_DTL) */ * from ORDER_DTL where USER_ID = '8237476';

 通过执行计划,我们可以观察到查看全局索引,找到ROWKEY,然后执行全表的JOIN,其实就是把对应ROWKEY去查询ORDER_DTL表。

七、索引案例二: 创建本地索引

1、查看数据

explain select * from ORDER_DTL WHERE "status" = '已提交';
explain select * from ORDER_DTL WHERE "status" = '已提交' AND "pay_way" = 1;

 通过观察上面的两个执行计划发现,两个查询都是通过RANGE SCAN来实现的。说明本地索引生效

2、删除索引

drop index LOCAL_IDX_ORDER_DTL on ORDER_DTL;

八、陌陌案例二级索引构建

1、创建本地函数索引

CREATE LOCAL INDEX LOCAL_IDX_MOMO_MSG ON MOMO_CHAT.MSG(substr("msg_time", 0, 10), "sender_account", "receiver_account");

2、执行数据查询

explain select "C1"."sender_account", "C1"."receiver_account","C1"."msg_time","C1"."message"  from "MOMO_CHAT"."MSG" where substr("C1"."msg_time",0,10) = '2021-01-16' and "C1"."sender_account" = '17344828999' and "C1"."receiver_account" = '18040049394';

 可以看到,查询速度非常快,0.1秒就查询出来了数据。


  • 📢博客主页:https://lansonli.blog.csdn.net
  • 📢欢迎点赞 👍 收藏 ⭐留言 📝 如有错误敬请指正!
  • 📢本文由 Lansonli 原创,首发于 CSDN博客🙉
  • 📢大数据系列文章会每天更新,停下休息的时候不要忘了别人还在奔跑,希望大家抓紧时间学习,全力奔赴更美好的生活✨

以上是关于2021年大数据HBase:Apache Phoenix 二级索引的主要内容,如果未能解决你的问题,请参考以下文章

2021年大数据HBase:Apache Phoenix的安装

2021年大数据HBase:Apache Phoenix的安装

2021年大数据HBase:Apache Phoenix 二级索引

2021年大数据HBase:Apache Phoenix 二级索引

2021年大数据HBase:Apache Phoenix的基本入门操作

2021年大数据HBase:Apache Phoenix的基本入门操作