面试题: Hive-SQL查询连续活跃登录用户思路详解

Posted 宝哥大数据[离职找工作中,大佬帮内推下]

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了面试题: Hive-SQL查询连续活跃登录用户思路详解相关的知识,希望对你有一定的参考价值。

文章目录

连续活跃登陆的用户指至少连续2天都活跃登录的用户

解决类似场景的问题

创造数据

CREATE TABLE test5active(
dt string,
user_id string,
age int)
ROW format delimited fields terminated BY ',';
 
INSERT INTO TABLE test5active VALUES
('2019-02-11','user_1',23),('2019-02-12','user_1',23),('2019-02-11','user_2',19),
('2019-02-11','user_3',39),('2019-02-11','user_1',23),
('2019-02-11','user_3',39),('2019-02-11','user_1',23),
('2019-02-12','user_2',19),('2019-02-13','user_1',23),
('2019-02-15','user_2',19),('2019-02-16','user_2',19);

登录日志去重

因为每天用户登录次数可能不止一次,所以需要先将用户每天的登录日期去重。

select distinct  user_id,dt from test5active

一、思路一

1、再用row_number() over(partition by _ order by _)函数将用户id分组,按照登陆时间进行排序。

2、计算登录日期减去第二步骤得到的结果值,用户连续登陆情况下,每次相减的结果都相同。

3、按照id和日期分组并求和,筛选大于等于2的即为连续活跃登陆的用户。

1.1、分组排序

SELECT
t1.user_id,
t1.dt,
ROW_NUMBER() OVER(PARTITION BY t1.user_id ORDER BY t1.dt) day_rank
FROM (
 SELECT DISTINCT dt,user_id FROM test5active
)t1;

1.2、日期减去计数值得到结果, 用户连续登陆情况下,每次相减的结果都相同

SELECT 
    t2.user_id,
    t2.dt,
    date_sub(t2.dt, t2.day_rank) AS dis
FROM ( 
	SELECT 
        t1.user_id,
        t1.dt,
        ROW_NUMBER() OVER(PARTITION BY t1.user_id ORDER BY  t1.dt) day_rank
    FROM 
        (SELECT DISTINCT dt, user_id FROM test5active) t1
)t2;

1.3、根据 user_id 和 dis 分组,得到用户的 开始、结束时间、连续登录天数

SELECT 
    t3.user_id,
    MIN(t3.dt),
    MAX(t3.dt),
    COUNT(1)
FROM 
    (SELECT 
        t2.user_id,
        t2.dt,
        DATE_SUB(t2.dt, t2.day_rank) AS dis
    FROM 
        (SELECT 
            t1.user_id,
            t1.dt,
            ROW_NUMBER() OVER(PARTITION BY t1.user_id ORDER BY  t1.dt) day_rank
        FROM 
            (SELECT DISTINCT dt, user_id FROM test5active) t1 
    ) t2 
) t3
GROUP BY  t3.user_id,t3.dis

1.4、连续登录超过两天用户

-- 1.3基础上
HAVING COUNT(1) > 1;


接下来就是用户去重

二、思路二: 使用 LAG(向后)或者 LEAD(向前)

LEAD(col, n, default) OVER()

  • 说明: 用于统计窗口内向下第n行的值
  • 参数1: 为要取值的列名
  • 参数2: 为向下第n行,默认值为1,这个值是固定的,不能动态的变化
  • 参数3: 为默认值,当向下第n行的值为NULL时,取默认值,如果不指定,则默认值为NULL
SELECT 
    user_id,
    t1.dt,
    LEAD(t1.dt) OVER(PARTITION BY user_id ORDER BY t1.dt) AS last_date_id
FROM 
    (SELECT DISTINCT dt, user_id FROM test5active) t1;

SELECT DISTINCT t2.user_id
FROM (
    SELECT 
        user_id,
        t1.dt,
        LEAD(t1.dt, 2) OVER(PARTITION BY user_id ORDER BY t1.dt) AS last_date_id
    FROM 
        (SELECT DISTINCT dt, user_id FROM test5active) t1
) t2
WHERE datediff(last_date_id,t2.dt)=1;

这个方法有个弊端,就是 不能找到 超过连续登录xx天的用户,只能通过 LEAD(col, n, default)中的 n 找到确定的 连续登录xx天用户。

以上是关于面试题: Hive-SQL查询连续活跃登录用户思路详解的主要内容,如果未能解决你的问题,请参考以下文章

面试题: Hive-SQL查询连续活跃登录用户思路详解

大数据面试题系列一

sql面试题1

大数据 SQL 题目

经典的SparkSQL/Hive-SQL/MySQL面试-练习题

Hive面试题系列第一题-连续登录问题