写不好 SQL? 送你一个大招

Posted dbLenis

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了写不好 SQL? 送你一个大招相关的知识,希望对你有一定的参考价值。

点击蓝色“有关SQL”关注我哟

加个“星标”,天天与10000人一起快乐成长

这两天一直在看《推荐系统实战》。书中提到基于用户行为推荐算法的时候,提到一个场景,其实用 SQL 来解,也非常容易。

已知场景是这样的,某视频网站收集了用户观影数据:

{
    "电影":"你好,李焕英",
    "上市日期":"2021-02",
    "观影者":{
        {"姓名":"小林", "年龄":22,"购买日期":"2021-02-18","票价":98,"地址":"陆家嘴星美影院"},
         {"姓名":"小李", "年龄":21,"购买日期":"2021-02-16","票价":92,"地址":"万达星美影院"},
          {"姓名":"小北", "年龄":24,"购买日期":"2021-02-19","票价":96,"地址":"五角场星美影院"},
           {"姓名":"小民", "年龄":22,"购买日期":"2021-02-18","票价":98,"地址":"陆家嘴星美影院"}
        
    },
    
    "电影":"速度与激情9",
    "上市日期":"2021-05",
    "观影者":{
        {"姓名":"小林", "年龄":22,"购买日期":"2021-05-20","票价":98,"地址":"陆家嘴星美影院"},
         {"姓名":"小李", "年龄":21,"购买日期":"2021-05-21","票价":92,"地址":"万达星美影院"},
          {"姓名":"小北", "年龄":24,"购买日期":"2021-05-22","票价":96,"地址":"五角场星美影院"} 
        
    }
    
    ...
}

网站需要根据品味和观影历史,向用户推荐其他影片。

两个人的品味是否相近,依据年龄是否相仿,并不能最好地做出判断。但如果两人观影记录重叠,品味相近的概率就大很多。基于此,就可以互相推荐对方还未看过的电影了。

这个时候,用什么样的编程方式,来计算观影重叠,就值得商榷了

有人说用Python, 轻便简易;有人说用 Java,库多不愁;还有人说c++, 性能贼快。

作为 SQL 博主,当然推荐 SQL, 这种集合类计算,SQL 是把快刃。对于举棋不定的朋友,你一定是缺少数据建模思维,正所谓:心中有模型,则SQL自然成

为什么我一直推荐金融,财会,产品的朋友,都要学一学SQL, 学一学集合理论,原因就在这。SQL 理念有助于你理解现实中的思维逻辑,成为5分钟看透世界本质的人

所有工作中遇到的逻辑分析难题,都可以借助SQL来完成。下面这段话,建议你读三遍:

SQL 在手,人无我有。数据再大,我用SQL!

注意:SQL 在这里,一定要读 "色扣"。

那么怎么培养自己的数据建模思维呢?如下详细来说。

依据上面的观影日志记录,经过 ETL 裁剪,可得到观影记录如下:

 

ETL(Extract Transform Load) , 负责把数据转换成SQL可操作的格式。

此时,推荐问题就转换成了:哪两个人的观影重叠次数最多。

最终,问题就化解为简单的SQL题, Group by .... Order By... 模式:



SELECT  观看者1, 观看者2,COUNT(DISTINCT 电影) AS 电影数量
FROM tblUserFilms
GROUP BY 观看者1, 观看者2
ORDER BY 观看者1,COUNT(DISTINCT 电影) DESC 

由此可推导,与他/她同好的人,可能还喜欢对方的其他爱好。

那么,怎么才能生成如下两两组合,求观影重叠次数的数据模型呢?

 

很显然,要把原始数据打散,打平,破除原先不符合三范式的结构:

 

这个时候,最小粒度的数据模型就出来了,影片 + 观看者,没有有重复记录,也没有粘连的记录。

实现这一步,最常规的思维就是拆字符串, 可以自定义函数实现,也可以利用系统自带的函数。比如SQL Server中就有 string_split函数:


select
    act.Film,
    usr.*
from
    dbo.UserFilms act
    OUTER APPLY (
        SELECT
            *
        FROM
            String_Split(act.Watcher, ',') tmp
    ) usr
    
    

最后一步,是真正揭开本次算法的关键,也是我平常运用最多的一个思维,无中生有。

单列观影者,怎么才能组合成双列观影者呢?

 

很多教材,都有涉及 Join 这个主题。大多数一直在强调相等性 join, 对于不等性和半等性 Join, 重视不多。所以很多初学者自然不知道,Join 其实可以用 <> 来连接:


;

with base_query as (
    select
        act.Film,
        usr.*
    from
        dbo.UserFilms act
        OUTER APPLY (
            SELECT
                *
            FROM
                String_Split(act.Watcher, ',') tmp
        ) usr
),
base_query_com as (
    select
        act.Film,
        act.value as Watcher,
        act1.value as Watcher2
    from
        base_query act
        inner join base_query act1 on act1.Film = act.Film
        and act1.value <> act.value
)
select
    Watcher,
    Watcher2,
    COUNT(DISTINCT Film) as Films
from
    base_query_com
group by
    Watcher,
    Watcher2
order by
    Watcher,
    Films DESC
    

这里着重注意不等性 Join 的表达:

  inner join base_query act1 on act1.Film = act.Film
        and act1.value <> act.value

最终,顺利完成两两聚合求最多的运算:

 

这个例子在平时工作中,非常具有典型性。用图再展示下一步步的思考流程:

 

在这里,有两步模型的转换值得记录:打破范式约束(打散粘连的字符串)和 不等性 Join.

每一步模型的转换,都可以沉淀出来一个套路,累积这些套路,你将会有一个强大的兵器库,来拆解各类逻辑问题。

工作刚开始的那几年,我一直热衷于编码,求多没求精,想来也是唏嘘。刷题固然重要,但刻意积累,才是最快地精通技艺的方法呢!真希望20岁时有人告诉我这些。

--完--

往期精彩:

本号精华合集(三)

外企一道 SQL 面试题,刷掉 494 名候选人

我在面试数据库工程师候选人时,常问的一些题

零基础 SQL 数据库小白,从入门到精通的学习路线与书单

以上是关于写不好 SQL? 送你一个大招的主要内容,如果未能解决你的问题,请参考以下文章

还在担心写的一手烂SQL,送你4款工具

送你几个Postman 使用小技巧,不好用尽管来找我

面试官:连接口测试都答不好,自己走还是我送你?

提问:我的 Navicat for Oracle ,写SQL语句时,自带的 代码提示工具 不好用了,写代码时,没有提示。

python-520表白代码,我看谁说程序员不懂浪漫,送你几套表白代码,一步到位

SQL Server AG集群启动不起来的临时自救大招