面试题: Hive-SQL查询连续活跃登录用户思路详解
Posted 宝哥大数据[离职找工作中,大佬帮内推下]
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了面试题: Hive-SQL查询连续活跃登录用户思路详解相关的知识,希望对你有一定的参考价值。
文章目录
连续活跃登陆的用户指至少连续2天都活跃登录的用户
解决类似场景的问题
创造数据
CREATE TABLE test5active(
dt string,
user_id string,
age int)
ROW format delimited fields terminated BY ',';
INSERT INTO TABLE test5active VALUES
('2019-02-11','user_1',23),('2019-02-12','user_1',23),('2019-02-11','user_2',19),
('2019-02-11','user_3',39),('2019-02-11','user_1',23),
('2019-02-11','user_3',39),('2019-02-11','user_1',23),
('2019-02-12','user_2',19),('2019-02-13','user_1',23),
('2019-02-15','user_2',19),('2019-02-16','user_2',19);
登录日志去重
因为每天用户登录次数可能不止一次,所以需要先将用户每天的登录日期去重。
select distinct user_id,dt from test5active
一、思路一
1、再用row_number() over(partition by _ order by _)函数将用户id分组,按照登陆时间进行排序。
2、计算登录日期减去第二步骤得到的结果值,用户连续登陆情况下,每次相减的结果都相同。
3、按照id和日期分组并求和,筛选大于等于2的即为连续活跃登陆的用户。
1.1、分组排序
SELECT
t1.user_id,
t1.dt,
ROW_NUMBER() OVER(PARTITION BY t1.user_id ORDER BY t1.dt) day_rank
FROM (
SELECT DISTINCT dt,user_id FROM test5active
)t1;
1.2、日期减去计数值得到结果, 用户连续登陆情况下,每次相减的结果都相同
SELECT
t2.user_id,
t2.dt,
date_sub(t2.dt, t2.day_rank) AS dis
FROM (
SELECT
t1.user_id,
t1.dt,
ROW_NUMBER() OVER(PARTITION BY t1.user_id ORDER BY t1.dt) day_rank
FROM
(SELECT DISTINCT dt, user_id FROM test5active) t1
)t2;
1.3、根据 user_id 和 dis 分组,得到用户的 开始、结束时间、连续登录天数
SELECT
t3.user_id,
MIN(t3.dt),
MAX(t3.dt),
COUNT(1)
FROM
(SELECT
t2.user_id,
t2.dt,
DATE_SUB(t2.dt, t2.day_rank) AS dis
FROM
(SELECT
t1.user_id,
t1.dt,
ROW_NUMBER() OVER(PARTITION BY t1.user_id ORDER BY t1.dt) day_rank
FROM
(SELECT DISTINCT dt, user_id FROM test5active) t1
) t2
) t3
GROUP BY t3.user_id,t3.dis
1.4、连续登录超过两天用户
-- 1.3基础上
HAVING COUNT(1) > 1;
接下来就是用户去重
二、思路二: 使用 LAG(向后)或者 LEAD(向前)
LEAD(col, n, default) OVER()
- 说明: 用于统计窗口内向下第n行的值
- 参数1: 为要取值的列名
- 参数2: 为向下第n行,默认值为1,这个值是固定的,不能动态的变化
- 参数3: 为默认值,当向下第n行的值为NULL时,取默认值,如果不指定,则默认值为NULL
SELECT
user_id,
t1.dt,
LEAD(t1.dt) OVER(PARTITION BY user_id ORDER BY t1.dt) AS last_date_id
FROM
(SELECT DISTINCT dt, user_id FROM test5active) t1;
SELECT DISTINCT t2.user_id
FROM (
SELECT
user_id,
t1.dt,
LEAD(t1.dt, 2) OVER(PARTITION BY user_id ORDER BY t1.dt) AS last_date_id
FROM
(SELECT DISTINCT dt, user_id FROM test5active) t1
) t2
WHERE datediff(last_date_id,t2.dt)=1;
这个方法有个弊端,就是 不能找到 超过连续登录xx天的用户,只能通过 LEAD(col, n, default)
中的 n 找到确定的 连续登录xx天用户。
以上是关于面试题: Hive-SQL查询连续活跃登录用户思路详解的主要内容,如果未能解决你的问题,请参考以下文章