hive 排序 分组计数后排序 几种不同函数的效果

Posted 江枫1

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了hive 排序 分组计数后排序 几种不同函数的效果相关的知识,希望对你有一定的参考价值。

【转至:http://blackproof.iteye.com/blog/2164260】

总结:

  三个分析函数都是按照col1分组内从1开始排序

     (假设4个数,第2和第3个数据相同)
    row_number() 是没有重复值的排序(即使两天记录相等也是不重复的),可以利用它来实现分页 比如:1、2、3,4
    dense_rank() 是连续排序,两个第二名仍然跟着第三名 :比如:1,2,2,3
    rank()       是跳跃拍学,两个第二名下来就是第四名:   比如:1,2,2,4
    

 

 

自从hive 0.11.0 开始,加入了类似orcle的分析函数,很强大,可以查询到分组排序top值

使用方法跟oracle没有差别

 

贴个小例子

查询的是同一个操作下pv前十的用户

Java代码  技术分享
  1. select  
  2. *  
  3. ,row_number() OVER(PARTITION BY t3.action ORDER BY pv desc) AS flag  
  4. from  
  5. (  
  6. select   
  7. action  
  8. ,uuid  
  9. ,count(1) as pv  
  10. from logtable t  
  11. group by t.action,uuid  
  12. )  t1  
  13. where t1.flag<=10  

 

 

 

 

 

贴一个oracle rank的帖子

rank,dense_rank,row_number区别

一:语法(用法):
     rank() over([partition by col1] order by col2) 
     dense_rank() over([partition by col1] order by col2) 
     row_number() over([partition by col1] order by col2) 
     其中[partition by col1]可省略。


二:区别
    三个分析函数都是按照col1分组内从1开始排序
    
    row_number() 是没有重复值的排序(即使两天记录相等也是不重复的),可以利用它来实现分页
    dense_rank() 是连续排序,两个第二名仍然跟着第三名
    rank()       是跳跃拍学,两个第二名下来就是第四名
    
    理论就不多讲了,看了案例,一下就明白了
    
SQL> create table t(
  2   name varchar2(10),
  3   score number(3));
 
Table created
 
SQL> insert into t(name,score) 
  2   select ‘语文‘,60 from dual union all
  3   select ‘语文‘,90 from dual union all
  4   select ‘语文‘,80 from dual union all
  5   select ‘语文‘,80 from dual union all
  6   select ‘数学‘,67 from dual union all
  7   select ‘数学‘,77 from dual union all
  8   select ‘数学‘,78 from dual union all
  9   select ‘数学‘,88 from dual union all
 10   select ‘数学‘,99 from dual union all
 11   select ‘语文‘,70 from dual
 12  /
 
10 rows inserted
 
SQL> select * from t;
 
NAME       SCORE
---------- -----
语文          60
语文          90
语文          80
语文          80
数学          67
数学          77
数学          78
数学          88
数学          99
语文          70
 
10 rows selected
 
SQL> select name,score,rank() over(partition by name order by score) tt from t;
 
NAME       SCORE         TT
---------- ----- ----------
数学          67          1
数学          77          2
数学          78          3
数学          88          4
数学          99          5
语文          60          1
语文          70          2
语文          80          3   <----
语文          80          3   <----
语文          90          5
 
10 rows selected
 
SQL> select name,score,dense_rank() over(partition by name order by score) tt from t;
 
NAME       SCORE         TT
---------- ----- ----------
数学          67          1
数学          77          2
数学          78          3
数学          88          4
数学          99          5
语文          60          1
语文          70          2
语文          80          3   <----
语文          80          3   <----
语文          90          4
 
10 rows selected
 
SQL> select name,score,row_number() over(partition by name order by score) tt from t;
 
NAME       SCORE         TT
---------- ----- ----------
数学          67          1
数学          77          2
数学          78          3
数学          88          4
数学          99          5
语文          60          1
语文          70          2
语文          80          3  <----
语文          80          4  <----
语文          90          5
 
10 rows selected
 
SQL> select name,score,rank() over(order by score) tt from t;
 
NAME       SCORE         TT
---------- ----- ----------
语文          60          1
数学          67          2
语文          70          3
数学          77          4
数学          78          5
语文          80          6
语文          80          6
数学          88          8
语文          90          9
数学          99         10
 
10 rows selected
 

大家应该明白了吧!呵呵!接下来看应用

一:dense_rank------------------查询每门功课前三名


  select name,score from (select name,score,dense_rank() over(partition by name order by score desc) tt from t) x where x.tt<=3
  
 
NAME       SCORE
---------- -----
数学          99
数学          88
数学          78
语文          90
语文          80
语文          80
 
6 rows selected

二:rank------------------语文成绩70分的同学是排名第几。
   select name,score,x.tt from (select name,score,rank() over(partition by name order by score desc) tt from t) x where x.name=‘语文‘ and x.score=70
 
 
NAME       SCORE         TT
---------- ----- ----------
语文          70          4
    
三:row_number——————分页查询
     select xx.* from (select t.*,row_number() over(order by score desc) rowno from t) xx where xx.rowno between 1 and 3;
 
NAME       SCORE      ROWNO
---------- ----- ----------
数学          99          1
语文          90          2
数学          88          3
























































































































































以上是关于hive 排序 分组计数后排序 几种不同函数的效果的主要内容,如果未能解决你的问题,请参考以下文章

Hive分组取TOPN数据

数据框:如何在 Scala 中分组/计数然后按计数排序

hive分组排序函数 分组取top10

hive关于窗口函数的使用

Oracle分析函数之排序 row_number() & rank()

Hive开窗函数