按数据区间分组

Posted

技术标签:

【中文标题】按数据区间分组【英文标题】:Group by data intervals 【发布时间】:2012-09-19 08:32:14 【问题描述】:

我有一个表,用于存储一段时间内网络上的带宽使用情况。一列将包含日期时间(主键),另一列将记录带宽。每分钟记录一次数据。我们将在其他列中及时记录其他数据。

如果用户每隔 15 分钟(在给定开始和结束日期的 24 小时内)请求数据,是否可以通过单个查询来获取我需要的数据,或者我是否必须编写存储过程/游标去做这个?然后用户可以请求 5 分钟间隔数据等。

我很可能会使用 Postgres,但还有其他更好的 NOSQL 选项吗?

有什么想法吗?

【问题讨论】:

【参考方案1】:
select
    date_trunc('hour', d) + 
    (((extract(minute from d)::integer / 5 * 5)::text) || ' minute')::interval
    as "from",
    date_trunc('hour', d) + 
    ((((extract(minute from d)::integer / 5 + 1) * 5)::text) || ' minute')::interval
    - '1 second'::interval
    as "to",
    sum(random() * 1000) as bandwidth
from 
    generate_series('2012-01-01', '2012-01-31', '1 minute'::interval) s(d)
group by 1, 2
order by 1, 2
;

5 分钟的范围。 15 分钟除以 15。

【讨论】:

哇,谢谢,但我从哪里开始呢? generate_series() 是一个?桌子长什么样?抱歉,对 PostGres 还很陌生,所以请与我联系。 @JD:软件名称为PostgreSQL或简称Postgres。 Details here。 PostgreSQL's manual 质量上乘。按照链接(在我的答案中链接到的相关答案中!)了解详细信息和手册的深层链接。 @Clodoaldo:事实证明,你的回答已经包含了我发布的大部分内容,除了解释。 +1 第一。【参考方案2】:
WITH t AS (
   SELECT ts, (random()*100)::int AS bandwidth
   FROM   generate_series('2012-09-01', '2012-09-04', '1 minute'::interval) ts
   )

SELECT date_trunc('hour', ts) AS hour_stump
      ,(extract(minute FROM ts)::int / 15) AS min15_slot
      ,count(*) AS rows_in_timeslice               -- optional
      ,sum(bandwidth) AS sum_bandwidth
FROM   t
WHERE  ts >= '2012-09-02 00:00:00+02'::timestamptz -- user's time range
AND    ts <  '2012-09-03 00:00:00+02'::timestamptz -- careful with borders 
GROUP  BY 1, 2
ORDER  BY 1, 2;

CTEt 提供的数据类似于您的表可能保存的数据:每分钟一个时间戳 ts 和一个 bandwidth 数字。 (您不需要那部分,而是使用您的表格。)

对于一个非常相似的问题,这里有一个非常相似的解决方案 - 详细解释了这个特定聚合是如何工作的:

date_trunc 5 minute interval in PostgreSQL

以下是关于running sums 的类似问题的类似解决方案 - 详细说明和所用各种函数的链接:

PostgreSQL: running count of rows for a query 'by minute'

评论中的其他问题

WITH -- same as above ...

SELECT DISTINCT ON (1,2)
       date_trunc('hour', ts) AS hour_stump
      ,(extract(minute FROM ts)::int / 15) AS min15_slot
      ,bandwidth AS bandwith_sample_at_min15
FROM   t
WHERE  ts >= '2012-09-02 00:00:00+02'::timestamptz
AND    ts <  '2012-09-03 00:00:00+02'::timestamptz
ORDER  BY 1, 2, ts DESC;

每 15 分钟间隔检索 一个 未聚合的样本 - 从窗口中的最后一个可用行。如果该行没有丢失,这将是第 15 分钟。关键部分是DISTINCT ONORDER BY。 有关所用技术的更多信息,请点击此处:

Select first row in each GROUP BY group?

【讨论】:

非常感谢。是时候学习了,我根本不知道这是可能的。 如何获取第 15 分钟边界的实际值而不是总和(带宽)? @JD:定义“在第 15 分钟边界”。前一分钟还是后一分钟?你的意思是单行的未汇总值,对吧?

以上是关于按数据区间分组的主要内容,如果未能解决你的问题,请参考以下文章

Oracle - 按日期区分组

按城市/地区分组 JSON 坐标

按段分组报表制作

spss如何对数据重新分组

spss随机区组如何分组

lambda表达式在解决java后台分组排序时的应用