MySQL聚合函数

Posted 2023-04-11

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了MySQL聚合函数相关的知识，希望对你有一定的参考价值。

参考技术A

很多时候，我们查询数据的时候都不会把明细数据查询出来，那样一般意义也不大。更多的时候是根据业务需求，把数据聚合成业务能直接使用的数据。mysql中有5个聚合函数，如下面5个，用的最多的还是count和sum，下面分别介绍一下用法。

【COUNT】

在MySQL中，COUNT()函数统计数据表中包含的记录行的总数，或者根据查询结果返回列中包含的数据行数，使用方法有以下两种：

求order表中，查询一共有多少条订单数，SQL语句如下↓

【SUM】

在MySQL中，SUM()是一个求总和的函数，返回指定列值的总和。

求order表中所有产品销售数量，SQL语句如下↓

【AVG】

在MySQL中，AVG()函数通过计算返回的行数和每一行数据的和，求得指定列数据的平均值。

求order表中，2021年所有产品的平均单价，SQL语句如下↓

【MAX/MIN】

在MySQL中，MAX()函数是用来返回指定列中的最大值。

求order表中，查询最大的单价价格，SQL预计如下↓

在MySQL中，MIN()函数是用来返回指定列中的最小值。

求order表中，查询最小的单价价格，SQL预计如下↓

【结合GROUP BY】

正常情况下，聚合函数都是搭配着GROUP BY来使用的。可以是按省份聚合、产品聚合、时间聚合等等。下面演示每个品牌最低单价的聚合，其他几个聚合函数使用方式一样，SQL语句如下↓

还可以用ORDER BY排个序，求每个品牌累计销售价格的SQL语句，从高到低排序↓

End

◆ PowerBI开场白
◆ Python高德地图可视化
◆ Python不规则条形图

MySQL 聚合函数初探

MySQL 提供了许多聚合函数，常见的如sum,avg,count,min,max等。

那这些聚合函数在MySQL 底层是怎么实现的？

聚合函数(Aggregate Function)实现的大部分代码在item_sum.h和item_sum.cc。

聚合函数在代码中具体的枚举如下:

enum Sumfunctype 
    COUNT_FUNC,           // COUNT
    COUNT_DISTINCT_FUNC,  // COUNT (DISTINCT)
    SUM_FUNC,             // SUM
    SUM_DISTINCT_FUNC,    // SUM (DISTINCT)
    AVG_FUNC,             // AVG
    AVG_DISTINCT_FUNC,    // AVG (DISTINCT)
    MIN_FUNC,             // MIN
    MAX_FUNC,             // MAX
    STD_FUNC,             // STD/STDDEV/STDDEV_POP
    VARIANCE_FUNC,        // VARIANCE/VAR_POP and VAR_SAMP
    SUM_BIT_FUNC,         // BIT_AND, BIT_OR and BIT_XOR
    UDF_SUM_FUNC,         // user defined functions
    GROUP_CONCAT_FUNC,    // GROUP_CONCAT
    JSON_AGG_FUNC,        // JSON_ARRAYAGG and JSON_OBJECTAGG
    ROW_NUMBER_FUNC,      // Window functions
    RANK_FUNC,
    DENSE_RANK_FUNC,
    CUME_DIST_FUNC,
    PERCENT_RANK_FUNC,
    NTILE_FUNC,
    LEAD_LAG_FUNC,
    FIRST_LAST_VALUE_FUNC,
    NTH_VALUE_FUNC,
    ROLLUP_SUM_SWITCHER_FUNC,
    GEOMETRY_AGGREGATE_FUNC
  ;

本文以下列示例来讲解：

CREATE TABLE test_agg (c1 int NULL)

INSERT into test_agg values(1),(2),(3),(3),(4),(4),(5),(5),(5);

SELECT count(DISTINCT c1) from test_agg;

聚合函数的类设计大概如下

由上图可以发现MySQL 聚合函数实现是把distinct逻辑抽离出来，变成了aggregator_distinct和aggregator_simple,

服务于继承了Item_sum的所有聚合类。(当然Item_sum本身是继承于Item)

class Aggregator_simple : public Aggregator 
 public:
  Aggregator_simple(Item_sum *sum) : Aggregator(sum) 
  Aggregator_type Aggrtype() override  return Aggregator::SIMPLE_AGGREGATOR; 
  bool setup(THD *thd) override  return item_sum->setup(thd); 
  void clear() override  item_sum->clear(); 
  bool add() override  return item_sum->add(); 
  void endup() override 
;
class Aggregator_distinct : public Aggregator 
 public:
  ~Aggregator_distinct() override;
  Aggregator_type Aggrtype() override  return DISTINCT_AGGREGATOR; 

  bool setup(THD *) override;
  void clear() override;
  bool add() override;
  void endup() override;
;

上面是2个类的部分代码，由此我们发现 Aggregator_simple 基本只是个调用wrap，表示非distinct的Item_sum处理，

直接调用的是聚合类的逻辑。

在 MySQL 中要实现聚合函数要有3个重要的步骤：setup, add, endup。

setup 在处理之前初始化
add 表示每条记录的处理
endup 收尾后最后计算聚合的结果。

回到代码

setup 阶段

（Aggregator_distinct::setup 截取部分代码）

if (!(table = create_tmp_table(thd, tmp_table_param, list, nullptr, true,
                                   false, query_block->active_options(),
                                   HA_POS_ERROR, "")))
if (all_binary) 
        cmp_arg = (void *)&tree_key_length;
        compare_key = simple_raw_key_cmp;
 else 
    if (table->s->fields == 1) 
        compare_key = simple_str_key_cmp;
        cmp_arg = (void *)table->field[0];
     else 
        uint32 *length;
        compare_key = composite_key_cmp;
        ....
     
  
 tree = new (thd->mem_root) Unique(compare_key, cmp_arg, tree_key_length,
          item_sum->ram_limitation(thd));
 if (!tree) return true;

由上知 setup 阶段主要做的是创建临时表和 tree ，设置比较函数。

add 阶段

（Aggregator_distinct::add 截取部分代码）

if (tree) 
      return tree->unique_add(table->record[0] + table->s->null_bytes);
    
    if (!check_unique_constraint(table)) return false;
    if ((error = table->file->ha_write_row(table->record[0])) &&
        !table->file->is_ignorable_error(error))

这边看到当 tree 存在时，MySQL 把记录加入 tree (实际为红黑树)中来去重复。

如果tree不存在，就用临时表来持久存储。在 ha_write_row 写入临时表之前会 check_unique_constraint 去重。

而 tree 和临时表就是 setup 阶段所创建的。setup 的 tree 是存在，什么时候销毁了呢。看下面：

inline bool unique_add(void *ptr) 
    DBUG_TRACE;
    DBUG_PRINT("info", ("tree %u - %lu", tree.elements_in_tree, max_elements));
    if (tree.elements_in_tree > max_elements && flush()) return true;
    return !tree_insert(&tree, ptr, 0, tree.custom_arg);
  
bool Unique::flush() 
  Merge_chunk file_ptr;
  elements += tree.elements_in_tree;
  file_ptr.set_rowcount(tree.elements_in_tree);
  file_ptr.set_file_position(my_b_tell(&file));
  if (tree_walk(&tree, unique_write_to_file, this, left_root_right) ||
      file_ptrs.push_back(file_ptr))
    return true; /* purecov: inspected */
  delete_tree(&tree);
  return false;

可以看到MySQL 的策略是维护一颗红黑树这样的数据结构来去重。

当tree的数量过大时，内存放不下，就会flush到磁盘上,采用临时表来持久化，同时销毁tree。

endup 阶段

if (tree && tree->is_in_memory()) 
      sum->count = (longlong)tree->elements_in_tree();
      endup_done = true;
    
    if (!tree) 
      table->file->info(HA_STATUS_VARIABLE | HA_STATUS_NO_LOCK);
      if (table->file->ha_table_flags() & HA_STATS_RECORDS_IS_EXACT)
        sum->count = table->file->stats.records;
      else 
        if (table->file->inited) table->file->ha_index_or_rnd_end();
        ha_rows num_rows = 0;
        table->file->ha_records(&num_rows);
        if (table->hash_field) table->file->ha_index_init(0, false);
        sum->count = static_cast<longlong>(num_rows);
      
      endup_done = true;

可以看到最后取结果的时候

如果 tree 存在而且在内存中，直接取 tree 的节点个数。

如果 tree 不存在就取临时表的行数。

Enjoy GeatSQL :)

《深入浅出MGR》视频课程

戳此小程序即可直达B站

https://www.bilibili.com/medialist/play/1363850082?business=space_collection&business_id=343928&desc=0

文章推荐：