mysql远程快速导出csv格式数据工具

Posted 人生不设限

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了mysql远程快速导出csv格式数据工具相关的知识,希望对你有一定的参考价值。

 如需转载,请经本人同意。

之前本人曾经写过一个使用 select ....into outfile原理导出数据的脚本,但该脚本值适用于本地快速导出,并不支持远程服务,故又编写了下面这个支持远程导出的脚本。该脚本支持导出文件检测、数据库信息检查。如果大家有好的建议欢迎留言评论。脚本总体而言比较简单,希望对大家有帮助

脚本语言:python

版本:2.7

#!/usr/bin/python
# -*- coding:UTF-8 -*-
#@author Jane.Hoo
#@date 2016/11/29

from __future__ import division
import os
import mysqldb
import time
import commands
import logging
import re
import math

print \'*******************************\'
timestamp=time.strftime("%Y%m%d%H%M%S", time.localtime())
logfile=\'/tmp/myloaddataout.log%s\'%timestamp
logging.basicConfig(level=logging.DEBUG,
        format=\'%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s %(message)s\',
        datefmt=\'%a, %d %b %Y %H:%M:%S\',
        filename=\'%s\'%logfile,
        filemode=\'w\')
print \'导出日志记录在:%s\'%logfile

#################################################################################################
#定义一个StreamHandler,将INFO级别或更高的日志信息打印到标准错误,并将其添加到当前的日志处理对象#
console = logging.StreamHandler()
console.setLevel(logging.INFO)
formatter = logging.Formatter(\'%(name)-12s: %(levelname)-8s %(message)s\')
console.setFormatter(formatter)
logging.getLogger(\'\').addHandler(console)
#################################################################################################
#python /cygdrive/c/Users/Jane.Hoo/PycharmProjects/loaddata/MySQLloaddataout.py
db_host=\'127.0.0.1\'
db_user=\'test\'
db_pwd=\'test\'
db=\'test\'
db_port=int(\'3306\')

class Toolloadout:
    def __init__(self,pathfile=0):
        self.pathfile=pathfile

    #得到数据库连接
    def getdbconn(self,DB_HOST=db_host,DB_USER=\'routeload\',DB_PWD=\'routeload\',DB=\'test01\',DB_PORT=\'3306\'):
        logging.debug(\'%s:%s:%s:%s:%s\'%(DB_HOST,DB_USER,DB_PWD,DB,DB_PORT))
        conn=\'unlink\'
        try:
            conn=MySQLdb.connect(host=DB_HOST,user=DB_USER,passwd=DB_PWD,port=int(DB_PORT),db=DB)
            logging.info(\'数据库连接成功\')
        except MySQLdb.OperationalError,e:
            logging.warning(\'数据库连接失败!%s\'%e)
        return conn
    #关闭数据库连接
    def closedbconn(self,conn=0):
        logging.debug(\'闭数据库连接\')
        conn.close()
    #检查导出文件
    def chekpathfile(self):
        pathfile=self.pathfile
        check_flag=0
        iffile_exists=os.path.exists(pathfile)
        if iffile_exists==1:
            check_flag=1
            logging.info(\'导出文件已存在!\')
        else:
            path=os.path.split(pathfile)[0]
            ifpath_exists=os.path.isdir(path)
            if ifpath_exists==1:
                logging.info(\'%s是有效的路径\'%path)
            else:
                check_flag=1
                logging.info(\'%s是无效的路径\'%path)
        return check_flag

if __name__==\'__main__\':
    print \'准备导出...\'
    pathfile=raw_input("请输入导出文件路径:").strip()
    cmd_sql=raw_input(\'请输入要查询的语句:\').strip()
    c=Toolloadout(pathfile)
    pf_check=c.chekpathfile()
    if pf_check==0:
        logging.info(\'文件路径校验通过\')
    ifinputdbmsg=raw_input(\'是否需要自定义数据库连接信息(Y|N)?\').strip()
        if ifinputdbmsg==\'Y\':
            db_host=raw_input(\'请输入数据地址:\').strip()
            db_user=raw_input(\'请输入用户名:\').strip()
            db_pwd=raw_input(\'请输入密码:\').strip()
            db=raw_input(\'请输入数据库名:\').strip()
            db_port=raw_input(\'请输入数据库端口:\').strip()
            if db_host==\'\' or db_user==\'\' or db_pwd==\'\' or db==\'\':
                logging.info(\'自定义数据库输入信息有为空.\')
                check_flag=1
            if_port=re.match(r"[0-9]", db_port)
            if if_port:
                db_port=int(db_port)
            else:
                db_port=int(\'3306\')
                logging.info(\'端口格式输入有误,将使用默认端口%s\'%db_port)
        conn=c.getdbconn(db_host,db_user,db_pwd,db,db_port)
    if str(conn)!=\'unlink\':
            selectsql="mysql -A %s -h %s -u%s -p%s -P%s -ss -e \'%s;\' | sed \'s/\\\\t/,/g;s/^//;s/$//;s/\\\\n//g\' >%s"%(db,db_host,db_user,db_pwd,db_port,cmd_sql,pathfile)
        print \'querysql:\',selectsql
        try:
            os.system(\'%s\'%selectsql)
        except BaseException,e:
        logging.info(\'导出数据过程中报错!%s\'%e)
            c.closedbconn(conn)
    else:
        logging.info(\'失败\')
    else:
        logging.info(\'文件路径校验不通过,导出结束\')

 

作者:jane.hoo 
出处:jane.hoo的博客 http://www.cnblogs.com/janehoo/ 
[人生不设限,生命不息,折腾不止] 
您的支持是对博主最大的鼓励,感谢您的认真阅读。本文版权归作者所有,欢迎转载,但请保留该声明。

 

以上是关于mysql远程快速导出csv格式数据工具的主要内容,如果未能解决你的问题,请参考以下文章

Access数据表怎么导出.csv格式的文件并附加到oracle数据库?

mongodb 导入导出

1200万 mysql数据怎么快速导入到Mongodb

MySQL导出CSV文件(Haskell实现)

如何将csv导入mysql和mysql导出csv

JDBC:使用流从远程 MySQL 数据库导出/导入 CSV 原始数据(SELECT INTO OUTFILE / LOAD DATA INFILE)