Sql Server随机抽取数据效率优化

Posted zengtianli

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Sql Server随机抽取数据效率优化相关的知识,希望对你有一定的参考价值。

Sql Server随机抽取数据效率优化
2013-05-11 1 个评论 作者:菜光收藏 我要投稿
Sql Server随机抽取数据效率优化

 山人我最近遇到一件很纠结的事情,就是如何快速的从数据表里随机抽取一条数据。

我生成了一个简单的数据表,并且导入了500W条数据进行测试。

下图为第一次采用的SQL语句:

Declare @d Datetime
Set @d=getdate()
SELECT top 1[ActivityID]
,[CardNo]
,[Password]
,[State]
,[CreateTime]
,[GetTime]
FROM [TGBus_Card].[dbo].[Ka_Card] Where ActivityID = 501 And State = 0 Order By NEWID()
Select [语句执行花费时间(毫秒)]=Datediff(ms,@d,Getdate())

这是我优先会想到的解决方案,NEWID()每次都要检索整个数据表,为每一行数据产生一个uniqueidentifier类型的唯一值,所以它的执行效率肯定不高 ,每次执行都要在4秒左右。

还有没有更好的办法那?!

山人我在想,因为SELECT是在ORDER BY之前执行的,所以能不能在SELECT的时候产生NEWID()后在ORDER BY使用那?

  于是有了第二个版本:

Declare @d Datetime
Set @d=getdate()
SELECT top 1[ActivityID]
,[CardNo]
,[Password]
,[State]
,[CreateTime]
,NEWID() as Random
FROM [TGBus_Card].[dbo].[Ka_Card] Where ActivityID = 501 And State = 0 Order By Random
Select [语句执行花费时间(毫秒)]=Datediff(ms,@d,Getdate())

确实有所提高!!但太不明显了。。。。。

还有没有更好的办法?!

于是我又想到了2005的新特性TABLESAMPLE,马上试试!

这是第三版的代码:

Declare @d Datetime
Set @d=getdate()
SELECT top 1[ActivityID]
,[CardNo]
,[Password]
,[State]
,[CreateTime]
,[GetTime]
FROM [TGBus_Card].[dbo].[Ka_Card] tablesample (1000 Rows) Where ActivityID = 501 And State = 0
Select [语句执行花费时间(毫秒)]=Datediff(ms,@d,Getdate())

速度太快了!!!10几毫秒就显示了!

到这里山人我本以为事情搞定了!心里还美滋滋的!于是小研究了一下TABLESAMPLE,不看不知道,原来TABLESAMPLE随机选取的单位是数据页!!我靠!!也就是说如果数据量很小的话很可能有取不到数据的可能,试一下果然如此!这个不靠谱的家伙!

问题又回到了起点。。。难道真的就要用NEWID了吗?正当山人我感慨的时候在MSDN上无意中看到了这段文字:


感觉有戏!!

于是又写了这第四版代码:

Declare @d Datetime
Set @d=getdate()
SELECT Top 1* FROM [TGBus_Card].[dbo].[Ka_Card]
WHERE 0.01 >= CAST(CHECKSUM(NEWID(), CardNo) & 0x7fffffff AS float) / CAST (0x7fffffff AS int)
And ActivityID = 501 And State = 0
Select [语句执行花费时间(毫秒)] = Datediff(ms,@d,Getdate())

这也是我最终采用的方法,SQL执行速度在1毫秒左右。

来源: <http://www.2cto.com/database/201305/209967.html>

 

以上是关于Sql Server随机抽取数据效率优化的主要内容,如果未能解决你的问题,请参考以下文章

MySQL随机抽取数据的性能问题

Pandas+Numpy+Sklearn随机取数

Pandas+Numpy+Sklearn随机取数

Pandas+Numpy+Sklearn随机取数

tp5 高效率随机抽取数据(不重复)

SQL Server性能优化运用SQL Server的全文检索来提高模糊匹配的效率