hive窗口函数使用详解

Posted 2022-04-16 PONY LEE

ntile

• 用于将分组数据按照顺序切分成n片，返回当前记录所在的切片值。
• 经常用来取前30% 带有百分之多少比例的记录什么的

注意：

NTILE不支持ROWS BETWEEN，比如 NTILE(2) OVER(PARTITION BY id ORDER BY mod_date ROWS BETWEEN 3 PRECEDING AND CURRENT ROW)

实例：

select *,ntile(3) over(partition by id order by mod_date) from t0411;

collect_set

求多行的集合

实例：

select 
    id, 
    mod_date,
    src,
    cur,
    row_number() over(partition by id order by mod_date asc) as num,--使集合有序
    collect_set(src) over(partition by id order by mod_date asc ) as srcs1,
    collect_set(cur) over(partition by id ) as srcs2
from db01.t0411

rows

rows函数：
current row：当前行
n PRECEDING：往前n行
n FOLLOWING：往后n行
UNBOUNDED：起点
UNBOUNDED PRECEDING：从前面起点
UNBOUNDED FOLLOWING：到后面终点
LAG(col,n)：往前的第n行
LEAD(col,n)：往后的第n行

实例1：

-- 计算每个id从开始到当前时间的总的修改次数
-- 参数讲解
-- partition by id：按照id分组
-- order by mod_date：按照日期进行排序
-- UNBOUNDED PRECEDING：从起点开始
-- CURRENT ROW：到当前行
select 
    *,
   count(id) over(partition by id order by mod_date rows between UNBOUNDED PRECEDING and CURRENT ROW) 
from t0411;

实例2：
与collet_set实例效果一样，但更简洁

-- 计算每个id从开始到终点的集合
-- 参数讲解
-- partition by id：按照id分组
-- order by mod_date：按照日期进行排序
-- UNBOUNDED PRECEDING：从起点开始
-- UNBOUNDED FOLLOWING：到终点
select 
    *,
   collect_set(src) over(partition by id order by mod_date asc rows between UNBOUNDED PRECEDING and CURRENT ROW),
   collect_set(src) over(partition by id order by mod_date asc rows between UNBOUNDED PRECEDING and UNBOUNDED FOLLOWING)
from t0411;

实例2：

-- 计算相邻三行的值(第一行计算当前行 + 后一行； 最后一行计算当前行 + 前一行)
-- 参数讲解
-- order by mod_date：按照日期进行排序
-- 1 preceding：当前行的前1行
-- 1 following：当前行的后一行
select 
    *,
    count(id) over(order by mod_date rows between 1 preceding and 1 following) 
from t0411;

实例3：

-- 查询顾客修改时间，以及下次修改时间(电商网站常用于求页面跳转的前后时间)
-- 参数详解：
-- partition by name：按照姓名分组
-- order by mod_date：按照时间排序
-- lag(mod_date,1)：返回当前mod_date行的前一行
-- lead(mod_date,1)：返回当前mod_date行的后一行
select 
    *,
    lag(mod_date,1) over(partition by id order by mod_date) ,
    lead(mod_date,1) over(partition by id order by mod_date) 
from t0411;

测试数据见另一篇博客