提高性能 union all+group by+order by+count

Posted

技术标签:

【中文标题】提高性能 union all+group by+order by+count【英文标题】:improve performance union all+group by+order by+count 【发布时间】:2012-04-10 10:56:31 【问题描述】:

我有一张表:items(id,description)。在我的程序中,我得到一个单词列表(word1 到 wordN)作为输入,我需要计算这些单词中有多少出现在表中的每个描述中,并根据该数字对结果进行排序。这是我的解决方案,但我欢迎有关如何提高性能的建议。谢谢。

SELECT x, COUNT(*) 
FROM (SELECT description as x, id FROM items where description LIKE '%word1%'
      UNION ALL
      SELECT description as x, id FROM items where description LIKE '%word2%'
      UNION ALL
       ...
      UNION ALL
      SELECT description as x, id FROM items where description LIKE '%wordN%')
GROUP BY (id)
ORDER BY COUNT(*) DESC

【问题讨论】:

【参考方案1】:

如果您查看执行计划,您可能会看到对您联合在一起的每个 SELECT 进行单独的表扫描。当您使用该术语的通配符前缀进行搜索时,这意味着该查询是不可分割的 - 因此即使描述列上有索引,它也无法使用它,因此会进行扫描。

通过将条件组合为一个,您可以只扫描一次表,而不是 n 次:

SELECT description as x, id 
FROM items 
WHERE description LIKE '%word1%'
    OR description LIKE '%word2%'
    OR description LIKE '%wordn%'

现在运行它应该会向您显示一个带有单个表扫描的执行计划,因此它在一次扫描中进行匹配。

但是,您的原始查询略有不同,因为它似乎根据项目匹配的这些术语的数量对结果进行排名。因此,出于性能和功能的原因,可能值得研究Full Text Search。

【讨论】:

+1 我认为文本索引是提高这只小狗性能的唯一方法,除非可以选择并行查询。 谢谢。我以前很怕那个。我来看看 FTS。【参考方案2】:
SELECT x, COUNT(*) 
FROM (SELECT description as x, id FROM items where description LIKE '%word1%' 
       or description LIKE '%word2%'
       or description LIKE '%wordN%')
GROUP BY (id)
ORDER BY COUNT(*) DESC

这样应该更好……

【讨论】:

这会产生不同的结果集:如果两个单词与一个描述匹配,则原始查询将计为 2,而您的将计为 1。

以上是关于提高性能 union all+group by+order by+count的主要内容,如果未能解决你的问题,请参考以下文章

UNION ALL和order by 的关系,group by 和字段的关系,以及MAX函数

HIVE优化(四)-union all

UNION ALL、UNION与ORDER BY

替换 Union All 加入以提高性能

SQL - 避免额外的 GROUP BY(并提高查询性能)

优化 SQL:如何重写此查询以提高性能? (使用子查询,摆脱 GROUP BY?)