SQL Server:寻找就业差距——孤岛和差距问题

Posted

技术标签:

【中文标题】SQL Server:寻找就业差距——孤岛和差距问题【英文标题】:SQL Server : finding gaps in employment - island and gap problem 【发布时间】:2019-02-19 16:37:51 【问题描述】:

上周我一直在通过堆栈溢出来尝试解决这个问题,但我仍然无法找到可行的解决方案,所以想知道是否有人可以为我提供一些帮助/建议?

数据结构说明

我有以下表格:

位置表(zz_position),用于保存详细信息 职位(职位 ID)包括其有效的日期范围。

PosNo   Description                Date_From    Date_To 
---------------------------------------------------------
10001   System Administrator       20170101     20231231

资源表 (zz_resource),用于保存资源(员工)的详细信息,包括他们加入公司和离开公司的日期

resID   description  date_from   date_to
------------------------------------------
100     Sam          20160101    20991231
101     Joe          20150101    20991231 

就业表 (zz_employment),用于将职位链接到日期范围内的资源

PosNo    resID       Date_From   Date_To     seqNo
---------------------------------------------------
10001    100         20180101    20180401    1
10001    101         20180601    20191231    2
10001    100         20200101    20991231    3

问题

现在由于人们换了职位,一个帖子可能会在一段时间内没有人满,我想做的是生成一份报告,我可以用它随时给我一个帖子状态的细分及时。

我知道我可以生成一个使用日历表来完整映射每一天的报告,但是我想要的是一个生成以下聚合格式数据的报告:

PosNo   resID      Date_From   Date_To    seqNo
-------------------------------------------------
10001   NULL       20170101    20171231   0
10001   100        20180101    20180401   1
10001   NULL       20180402    20180530   0
10001   101        20180601    20191231   2
10001   100        20200101    20231231   3


insert into zz_employment 
values ('10001', '100', '2018-01-01 00:00:00.000', '2018-04-01 00:00:00.000', 1),
       ('10001', '101', '2018-06-01 00:00:00.000', '2019-12-31 00:00:00.000', 2),
       ('10001', '100', '2020-01-01 00:00:00.000', '2099-12-31 00:00:00.000', 3)

(请注意报告如何使用表中的两行并生成完整的就业年限,其中第一个空行日期从职位开始日期拉出,最后一行日期从职位开始日期拉出职位结束日期。

理想情况下,我希望将其作为视图/函数,但由于复杂性,我非常乐意拥有一系列 T SQL 语句,我可以在每晚作为数据仓库例程的一部分运行这些语句。

规则

所有日期都被截断为 datetime,因此 date_to 引用的是结束日期而不是结束日期和时间 如果职位/就业/资源没有结束日期,则将其表示为 20991231 如果就业本身是开放式的,那么就业表中的日期表示为 20991231,即使职位本身可能以 20231231 结束。理想情况下,我希望结果尊重职位结束日期。

SQL 代码:

CREATE TABLE zz_position  
(
     posNo varchar(25) NOT NULL,  
     description varchar(25) NOT NULL,  
     date_from datetime NULL,  
     date_to datetime NULL
) 

insert into zz_position 
values ('10001', 'System Administrator', '2017-01-01 00:00:00.000', '2020-12-31 00:00:00.000')
go

CREATE TABLE zz_resource
(
     resID varchar(25) NOT NULL,  
     description varchar(25) NOT NULL,  
     date_from datetime NULL,  
     date_to datetime NULL
)  

insert into zz_resource 
values ('100', 'Sam', '2016-01-01 00:00:00.000', '2099-12-31 00:00:00.000'),
       ('101', 'Joe', '2015-01-01 00:00:00.000', '2099-12-31 00:00:00.000')
go

CREATE TABLE zz_employment
(
      posNo varchar(25) NOT NULL,  
      resID varchar(25) NOT NULL,  
      date_from datetime NULL,  
      date_to datetime NULL,
      seqNo int NULL
)  

insert into zz_employment 
values ('10001', '100', '2018-01-01 00:00:00.000', '2018-04-01 00:00:00.000', 1),
       ('10001', '101', '2018-06-01 00:00:00.000', '2019-12-31 00:00:00.000', 2),
       ('10001', '100', '2020-01-01 00:00:00.000', '2099-12-31 00:00:00.000', 3)

【问题讨论】:

感谢 DDL 和 DML。但是,作为一个有用的提示,请避免使用 yyyy-MM-dd( hh:mm:ss) 数据类型和 datetime 数据类型的格式; SQL Server 将其解释为yyyy-dd-MM( hh:mm:ss),这意味着其中一些值将无法插入。无论语言 数据类型如何,yyyyMMddyyyy-MM-ddThh:mm:ss 都可以工作。 谢谢你,下次会记住通用日期时间提示 【参考方案1】:

这个问题有两个注意事项:

日历表。 一种在失业期间之间存在就业期间时正确分组失业期间的方法。

以下解决方案使用日历表(包括 SQL)和带有锚日期技巧的 DATEDIFF() 为第二点正确分组。

填写DB Fiddle here。

解决方案(解释如下):

;WITH AllPositionDates AS
(
    SELECT
        T.posNo,
        C.GeneratedDate
    FROM
        zz_position AS T
        INNER JOIN Calendar AS C ON C.GeneratedDate BETWEEN T.date_from AND T.date_to
),
AllEmployedDates AS
(
    SELECT
        T.posNo,
        T.resID,
        T.seqNo,
        C.GeneratedDate
    FROM
        zz_employment AS T
        INNER JOIN Calendar AS C ON C.GeneratedDate BETWEEN T.date_from AND T.date_to
),
PositionsByEmployed AS
(
    SELECT
        P.posNo,
        P.GeneratedDate,
        E.resID,
        E.seqNo,
        NullRowNumber = ROW_NUMBER() OVER (
            PARTITION BY
                P.posNo,
                CASE WHEN E.posNo IS NULL THEN 1 ELSE 2 END
            ORDER BY
                P.GeneratedDate ASC)
    FROM
        AllPositionDates AS P
        LEFT JOIN AllEmployedDates AS E ON
            P.posNo = E.posNo AND
            P.GeneratedDate = E.GeneratedDate
)
SELECT
    P.posNo,
    P.resID,
    Date_From = MIN(P.GeneratedDate),
    Date_To = MAX(P.GeneratedDate),
    seqNo = ISNULL(P.seqNo, 0)
FROM
    PositionsByEmployed AS P
GROUP BY
    P.posNo,
    P.resID,
    P.seqNo,
    CASE WHEN P.resId IS NULL THEN P.NullRowNumber - DATEDIFF(DAY, '2000-01-01', P.GeneratedDate) END -- GroupingValueGroupingValue
ORDER BY
    P.posNo,
    Date_From,
    Date_To

结果:

posNo   resID   Date_From   Date_To     seqNo
10001   NULL    2017-01-01  2017-12-31  0
10001   100     2018-01-01  2018-04-01  1
10001   NULL    2018-04-02  2018-05-31  0
10001   101     2018-06-01  2019-12-31  2
10001   100     2020-01-01  2020-12-31  3

说明

首先创建一个日历表。这每天保留 1 行,在此示例中,它仅限于工作职位的第一天和最后一天:

DECLARE @DateStart DATE = (SELECT MIN(P.date_from) FROM zz_position AS P)
DECLARE @DateEnd DATE = (SELECT(MAX(P.date_to)) FROM zz_position AS P)

;WITH GeneratedDates AS
(
    SELECT
        GeneratedDate = @DateStart

    UNION ALL

    SELECT
        GeneratedDate = DATEADD(DAY, 1, G.GeneratedDate)
    FROM
        GeneratedDates AS G
    WHERE
        DATEADD(DAY, 1, G.GeneratedDate) <= @DateEnd
)
SELECT
    DateID = IDENTITY(INT, 1, 1),
    G.GeneratedDate
INTO
    Calendar
FROM
    GeneratedDates AS G
OPTION
    (MAXRECURSION 0)

这会生成以下内容(截至 2020 年 12 月 31 日,这是样本数据的最大日期):

DateID  GeneratedDate
1       2017-01-01
2       2017-01-02
3       2017-01-03
4       2017-01-04
5       2017-01-05
6       2017-01-06
7       2017-01-07

现在我们使用带 between 的连接来“传播”职位和员工期间的期间(在不同的 CTE 上),因此我们每天为每个职位/员工获取 1 行。

-- AllPositionDates
SELECT
    T.posNo,
    C.GeneratedDate
FROM
    zz_position AS T
    INNER JOIN Calendar AS C ON C.GeneratedDate BETWEEN T.date_from AND T.date_to

-- AllEmployedDates
SELECT
    T.posNo,
    T.resID,
    T.seqNo,
    C.GeneratedDate
FROM
    zz_employment AS T
    INNER JOIN Calendar AS C ON C.GeneratedDate BETWEEN T.date_from AND T.date_to

有了这些,我们使用LEFT JOIN按职位和日期将它们连接在一起,因此我们可以获得每个职位和匹配员工(如果存在)的所有天数。我们还为稍后将要使用的每个位置的所有NULL 值计算行号。请注意,此行号会随着随后的每个日期相应地增加 1。

;WITH AllPositionDates AS
(
    SELECT
        T.posNo,
        C.GeneratedDate
    FROM
        zz_position AS T
        INNER JOIN Calendar AS C ON C.GeneratedDate BETWEEN T.date_from AND T.date_to
),
AllEmployedDates AS
(
    SELECT
        T.posNo,
        T.resID,
        T.seqNo,
        C.GeneratedDate
    FROM
        zz_employment AS T
        INNER JOIN Calendar AS C ON C.GeneratedDate BETWEEN T.date_from AND T.date_to
)
-- PositionsByEmployee
SELECT
    P.posNo,
    P.GeneratedDate,
    E.resID,
    E.seqNo,
    NullRowNumber = ROW_NUMBER() OVER (
        PARTITION BY
            P.posNo,
            CASE WHEN E.posNo IS NULL THEN 1 ELSE 2 END
        ORDER BY
            P.GeneratedDate ASC)
    FROM
        AllPositionDates AS P
        LEFT JOIN AllEmployedDates AS E ON
            P.posNo = E.posNo AND
            P.GeneratedDate = E.GeneratedDate

现在是棘手的部分。如果我们计算硬编码日期和每一天之间的差异天数,我们会得到一个类似的“行号”,每个日期都会持续增加。

SELECT
    P.posNo,
    P.GeneratedDate,
    DateDiff = DATEDIFF(DAY, '2000-01-01', P.GeneratedDate),
    P.NullRowNumber
FROM
    PositionsByEmployed AS P -- This is declare with the WITH (full solution below)
ORDER BY
    P.posNo,
    P.GeneratedDate

我们得到以下信息:

posNo   GeneratedDate   DateDiff    NullRowNumber
10001   2017-01-01      6210        1
10001   2017-01-02      6211        2
10001   2017-01-03      6212        3
10001   2017-01-04      6213        4
10001   2017-01-05      6214        5
10001   2017-01-06      6215        6
10001   2017-01-07      6216        7
10001   2017-01-08      6217        8
10001   2017-01-09      6218        9

如果我们用这 2 列的其余部分添加另一列,您会看到值保持不变:

SELECT
    P.posNo,
    P.GeneratedDate,
    DateDiff = DATEDIFF(DAY, '2000-01-01', P.GeneratedDate),
    P.NullRowNumber,
    GroupingValue = P.NullRowNumber - DATEDIFF(DAY, '2000-01-01', P.GeneratedDate)
FROM
    PositionsByEmployed AS P
ORDER BY
    P.posNo,
    P.GeneratedDate

我们得到:

posNo   GeneratedDate   DateDiff    NullRowNumber   GroupingValue
10001   2017-01-01      6210        1               -6209
10001   2017-01-02      6211        2               -6209
10001   2017-01-03      6212        3               -6209
10001   2017-01-04      6213        4               -6209
10001   2017-01-05      6214        5               -6209
10001   2017-01-06      6215        6               -6209
10001   2017-01-07      6216        7               -6209
10001   2017-01-08      6217        8               -6209
10001   2017-01-09      6218        9               -6209
10001   2017-01-10      6219        10              -6209

但是,如果我们向下滚动直到看到员工的值为 NULL(来自 ROW_NUMBER() PARTITION BY 表达式 E.PosNo),我们会看到其余部分不同,因为 ROW_NUMBER() 不断增加 1 和 @987654338 @跳起来是因为中间有雇员:

posNo   GeneratedDate   DateDiff    NullRowNumber   GroupingValue
10001   2017-12-28      6571        362             -6209
10001   2017-12-29      6572        363             -6209
10001   2017-12-30      6573        364             -6209
10001   2017-12-31      6574        365             -6209
...
10001   2018-04-02      6666        366             -6300
10001   2018-04-03      6667        367             -6300
10001   2018-04-04      6668        368             -6300
10001   2018-04-05      6669        369             -6300
10001   2018-04-06      6670        370             -6300
10001   2018-04-07      6671        371             -6300

将此“GroupingValue”用作附加的GROUP BY 以正确分隔超出使用区间的位置区间。

【讨论】:

真的很喜欢您的解决方案,我忘记说明的一件事是多个人可以同时在同一个帖子中。我尝试更改插入语句以插入 zz_employment 值('10001'、'100'、'2018-01-01 00:00:00.000'、'2018-04-01 00:00:00.000'、1)、( '10001', '101', '2018-02-01 00:00:00.000', '2019-12-31 00:00:00.000', 2), ('10001', '100', '2020-01' -01 00:00:00.000', '2099-12-31 00:00:00.000', 3) 强制重叠并破坏解决方案,您是否能够修改代码以适应场景。跨度> @Reky 在这种情况下,您唯一需要更改的是 GROUP BY 表达式仅在员工不为空 CASE WHEN P.resId IS NULL THEN P.NullRowNumber - DATEDIFF(DAY, '2000-01-01', P.GeneratedDate) END -- GroupingValue 时应用。我已经更新了我的答案。 抱歉耽搁了,我昨天终于有机会测试了它,它运行良好,非常感谢您的帮助!

以上是关于SQL Server:寻找就业差距——孤岛和差距问题的主要内容,如果未能解决你的问题,请参考以下文章

SQL Server - 计算会话数 - 差距和孤岛

令人费解的差距和孤岛 ORACLE SQL

SQL 差距和孤岛问题与扭曲 - 根据前一个标志的持续时间重置标志

差距和孤岛问题 - 查询不适用于所有时期

差距和孤岛 - Microsoft Access

差距和孤岛问题是不是有正式定义?如果是这样,这个问题是不是满足它?