python多线程应用——DB2数据库备份

Posted 2020-10-06

前言：DB2一个实例下，可以存在多个数据库，之前使用shell备份脚本，但是同一时刻只能备份一个数据库，对于几百G的备份文件，这个速度显然太慢，今天学习了Python多线程，刚好应用一下。

 

分析：1、磁盘I/O允许情况下，使用多线程，节省时间，相当可行。

　　　2、Python多线程在某些场景上是鸡肋，但是对于I/O密集型的场景最为适用,这里刚好。

　　　3、thread模块有诸多问题，这里使用threading模块。

　　　4、先前备份脚本修改端口来清理已连接应用，太过暴力，虽然都为冷备，但每次重启开销太大，这里使用db2 force application all。

　　　5、如果第四步清理连接异常，那就无法进行备份，暂时未找到捕获异常的合适方式，待考虑，不过使用连续三次清理，不是特别情况，99.9%情况下是OK的。

 

下面是具体代码：

MyThread.py

#!/usr/bin/env python
# encoding: utf-8
import threading

class MyThread(threading.Thread):
    #Thread子类
    def __init__(self,func,args,name=‘‘):
        threading.Thread.__init__(self)
        self.name = name
        self.func = func
        self.args = args
     
    def run(self):
        self.func(*self.args)

 db2backup.py

#!/usr/bin/env python
# encoding: utf-8
import threading
import logging
import commands
import sys
import MyThread
from time import ctime, sleep

logging.basicConfig(level=logging.DEBUG,
                    format=‘%(asctime)s %(filename)s[line:%(lineno)-1d] %(levelname)s %(message)s‘,
                    datefmt=‘%a, %d %b %Y %H:%M:%S‘,
                    filename=‘db2_backup.log‘,
                    filemode=‘a‘)
# logging.debug(‘This is debug message‘)
# logging.info(‘This is info message‘)
# logging.warning(‘This is warning message‘)
        
def db2_backup(inst_name, db_name, bak_dir):
    #实现db2 备份
    #检查实例用户
    whoami = commands.getstatusoutput(‘whoami‘)
    if whoami[1] != inst_name:
        #print ‘用户身份有误，当前实例  %s，配置文件实例 %s‘ %(whoami,inst_name)
        logging.error(‘用户身份有误，当前实例  %s，配置文件实例 %s‘ %(whoami,inst_name))
        sys.exit()

    #开始备份
    cmd = ‘db2 backup database %s to %s‘ % (db_name,bak_dir)
    exec_res = commands.getstatusoutput(cmd)
    
    if exec_res[0] == 0:
        #print "%s 备份成功." % db_name
        logging.info(‘% %s 备份成功.‘ % (ctime(),db_name))
        print exec_res[1]
    
    return exec_res

def read_conf(file_path):
    #读取要备份的数据库配置
    db_conf = []
    with open(file_path,‘r‘) as f:
        for line in f:
            line_list = line.strip().split(‘:‘)
            if len(line_list) != 3:
                logging.warning(‘%s 行配置不正确‘ % line.strip())
                continue
            cur_line = (line_list[0],line_list[1],line_list[2])
            db_conf.append(cur_line)
    return db_conf

def main():
    
    db_conf = read_conf(‘database.cfg‘)
    thread_num = len(db_conf)
    #实例化线程
    threads = []
    for line in db_conf:
        t = MyThread.MyThread(db2_backup,line,db2_backup.__name__)
        threads.append(t)
    
    #清除已建立连接   
    force_num = 3
    while force_num:
        commands.getstatusoutput(‘db2 force application all‘)
        if force_num == 3:
            sleep(1)
        force_num -= force_num
    #执行线程
    for i in range(thread_num):
        threads[i].start()
    
    #等待线程同步，结束进程
    for i in range(thread_num):
        threads[i].join()

if __name__ == ‘__main__‘:
    main()

 

要备份的数据库的配置信息：

database.cfg

实例名，数据库名，备份目录

db2inst1:PTEST:/home/db2inst1
db2inst1:PTEST2:/home/db2inst1