sql server编写archive通用模板脚本实现自动分批删除数据

Posted zhang502219048

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了sql server编写archive通用模板脚本实现自动分批删除数据相关的知识,希望对你有一定的参考价值。

  博主做过比较多项目的archive脚本编写,对于这种删除数据的脚本开发,肯定是一开始的话用最简单的一个delete语句,然后由于部分表数据量比较大啊,索引比较多啊,会发现删除数据很慢而且影响系统的正常使用。然后就对delete语句进行按均匀数据量分批delete的改写,这样的话,原来的删除一个表用一个语句,就可能变成几十行,如果archive的表有十几个甚至几十个,那我们的脚本篇幅就非常大了,增加了开发和维护的成本,不利于经验比较少的新入职同事去开发archive脚本,也容易把注意力分散到所谓分批逻辑中。

  根据这种情况,本周博主(zhang502219048)刚好在工作过程中,总结并编写了一个自动分批删除数据的模板,模板固定不变,只需要把注意力集中放在delete语句中,并且可以在delete语句中控制每批删除的数据量,比较方便,通过变量组装模板sql,避免每个表就单独写一个分批逻辑的重复代码,化简为繁,增加分批删除一个表指定数据的话只需要增加几行代码就可以(如下所示中的demo1和demo2)

  demo1:不带参数,根据表tmp_Del删除表A对应ID的数据。

  demo2:带参数,根据Date字段是否过期删除表B对应数据。

  具体请参考下面的脚本和相关说明,如有不懂的地方欢迎评论或私信咨询博主。

-- ===== 1 分批archive模板 =======================================================
--【请不要修改本模板内容】
/* 
说明:
1. 组装的archive语句为:@sql = @sql_Part1 + @sql_Del + @sql_Part2
2. 组装的参数@parameters为:@parameters = @parameters_Base + 自定义参数
3. 传入参数:@strStepInfo 需要print的step信息
4. archive逻辑专注于@sql_Del,而非分散于分批。
*/
declare @parameters nvarchar(max) = ‘‘
, @parameters_Base nvarchar(max) = N@strStepInfo nvarchar(100)
, @sql nvarchar(max) = ‘‘
, @sql_Part1 nvarchar(max) = N
declare @iBatch int = 1,     --批次
        @iRowCount int = -1  --删除行数,初始为-1,后面取每批删除行数@@ROWCOUNT
print convert(varchar(50), getdate(), 121) + @strStepInfo

while @iRowCount <> 0
begin
    print ‘‘begin batch:‘‘
    print @iBatch
    print convert(varchar(50), getdate(), 121)
    
    begin try
        begin tran

, @sql_Del nvarchar(max) = 
  --@sql_Del脚本需要根据实际情况在后续脚本中自行编写
, @sql_Part2 nvarchar(max) = N    
            select @iRowCount = @@rowcount
        commit tran  
    end try
    begin catch
        rollback tran
        print ‘‘-- Error Message:‘‘ + convert(varchar, error_line()) + ‘‘ | ‘‘ + error_message()
    end catch

    waitfor delay ‘‘0:00:01‘‘ --延时

    print convert(varchar(50), getdate(), 121)
    print ‘‘end batch‘‘

    select @iBatch = @iBatch + 1
end

-- ===== 2 demo1(delete语句不含参数):archive 表A =======================================================
select @parameters = @parameters_Base + ‘‘  --如果有需要增加自定义参数,在这里加,例如@parameters = @parameters_Base + ‘, @ArchiveDate datetime‘
, @sql_Del = 
            delete top (50000) tc_Del 
            from 表A tc_Del
            inner join tmp_Del cd on cd.ID = tc_Del.ID

select @sql = @sql_Part1 + @sql_Del + @sql_Part2
print @sql
exec sp_executesql @sql, @parameters, N 2 archive 表A

-- ===== 3 demo2(delete语句含参数):archive 表B =======================================================
select @parameters = @parameters_Base + , @ArchiveDate datetime  --如果有需要增加自定义参数,在这里加,例如@parameters = @parameters_Base + ‘, @ArchiveDate datetime‘
, @sql_Del = 
            delete top (50000) 
            from 表B
            where Date < @ArchiveDate

select @sql = @sql_Part1 + @sql_Del + @sql_Part2
print @sql
exec sp_executesql @sql, @parameters, N 3 archive 表B, @ArchiveDate

 

以上是关于sql server编写archive通用模板脚本实现自动分批删除数据的主要内容,如果未能解决你的问题,请参考以下文章

CodeSmith生成SQL Server视图的实体类脚本/对应的生成模板

SQL Server 发mail 一个简单脚本模板

如何在 sql server 2005 中编写 sql server 数据库图表脚本?

SQL Server:检查表列是不是存在并删除行

编写整个数据库 SQL-Server 的脚本

运行Sqoop任务的通用模板:Python2脚本实现(待优化)