shell脚本实现mysql数据库的增删改查操作

Posted 2023-02-18 吴二喵

一、shell脚本实现mysql操作

通用的shell语句如下：

mysql -h$HOSTNAME  -P$PORT  -u$USERNAME -p$PASSWORD -e "$sql" --default-character-set=UTF8 

1、HOSTNAME是主机名，通常是数据库的ip

2、PORT是端口号

3、USERNAME是用户名

4、PASSWORD是密码

5、通过写sql里面的语句可以执行相应的数据库操作，常用的是数据库的增删改查操作。

6、default-character-set是编码方式

我们通常也不会把数据库的连接信息直接写在程序中，而是写在配置文件中，如命名database.conf文件：

# 数据库 服务IP 服务端口 数据库用户 数据库密码

student 127.0.0.1 6614 root 1234

然后利用initDBinfo函数来获取数据库信息：

function initDBinfo()

HOSTNAME=`cat $dbconfPath | grep $1 | awk 'print $2'`
PORT=`cat $dbconfPath | grep $1 | awk 'print $3'`
USERNAME=`cat $dbconfPath | grep $1 | awk 'print $4'`
PASSWORD=`cat $dbconfPath | grep $1 | awk 'print $5'`

二、shell脚本实现数据库表的增删改查

2.1 数据库表的新增记录

#这里是实现文件入库记录插入到数据表中
#文件大小，以M为单位
fileSize=`ls -l $dataImportFile | awk 'print int($5/1024)'`
#文件行数
fileLineCount=`cat $dataImportFile|wc -l`
#文件接收时间
fileRecvTim=`stat $dataImportFile| grep Modify | awk 'print $2,$3' | cut -d"." -f1`
#数据库名
fileDBName="fileDB"
#表名
fileTableName="file_recv_info"
#字段列表
fileTableColumns="file_nam,file_size,file_line_ctn,file_recv_tim,file_hdl_rst"
#插入数据库操作
insert_file_record_sql="insert into $fileDBName.$fileTableName ($fileTableColumns) values ('$fileName',$fileSize,$fileLineCount,'$fileRecvTim','$fileHdlRst')"

2.2 文件数据导入数据库

#文件数据导入数据表
#dataImportFile表示导入文件名，IMPORTSTYLE表示导入方式，DBNAME表示数据库名，TABLENAME表示表名，
#columnSplitSeparator表示列分隔符，常见为，或者|等；rowSplitSeparator为行分隔符
import_data_sql="load data low_priority local infile '$dataImportFile' $IMPORTSTYLE into table $DBNAME.$TABLENAME
 fields terminated by '$columnSplitSeparator' lines terminated by '$rowSplitSeparator'"

 #通常行分隔符为\\n,linux中表示回车+换行符
 rowSplitSeparator="\\n"

2.3 删除数据库表操作

#这里是删除时间在某个时间段内的记录，实现数据库表的定期清理功能
#这里OTHERCONDITION可以在配置文件里面配置，添加额外的判断条件
#limit是限制一次删除的记录条数
clean_data_sql="delete from $DBNAME.$TABLENAME where $TIMECOLUMN between \\"$CLEAN_START_TIME\\" and \\"$CLEAN_END_TIME\\" and $OTHERCONDITION limit $CLEAN_NUM"

2.4 修改数据库表操作

#数据库更新操作，修改参数值
update_param_sql="update $DBNAME.$TABLENAME set param_val=\\"$paramVal\\" where param_key=\\"$paramKey\\" "
current_time=`date "+%Y-%m-%d %T"`
echo "$current_time Start to update table $DBNAME.$TABLENAME set paramVal equals $paramVal" >> $logFile
initDBinfo $DBNAME
mysql -h$HOSTNAME  -P$PORT  -u$USERNAME -p$PASSWORD -Nse "$update_param_sql" --default-character-set=UTF8; >> $logFile 2>&1

2.5 查询数据库表操作

#查询表中满足条件的记录条数
count_data_sql="select count(1) from $DBNAME.$TABLENAME where $TIMECOLUMN between \\"$CLEAN_START_TIME\\" and \\"$CLEAN_END_TIME\\" and $OTHERCONDITION"

2.6 数据库表数据导出到文件操作

#sql语句
export_data_sql="select concat($COLUMN) from $DBNAME.$TABLENAME"
#数据导出开始日志打印
current_time=`date "+%Y-%m-%d %T"`
echo "$current_time Start to export data [$export_data_file_name] from $DBNAME.$TABLENAME" >> $logFile
#获取数据库连接信息
initDBinfo $DBNAME
#连接数据库并执行数据导出操作
mysql -h$HOSTNAME  -P$PORT  -u$USERNAME -p$PASSWORD -Nse "$export_data_sql" --default-character-set=UTF8 > $export_data_file_path/$export_data_file_name; >> $logFile 2>&1
#数据导出结束日志打印
current_time=`date "+%Y-%m-%d %T"`
#echo "$current_time Finished export data [$export_data_file_name] from $DBNAME.$TABLENAME" >> $logFile

其中数据库表信息也可以放在配置文件中

#导出文件名 数据库表 表名 是否分库分表 时间字段 表字段（导出数据以|分隔）
A.txt test student N tim ref_id,"|",IFNULL(stu_id,""),"|",IFNULL(nam,""),"|",IFNULL(age,""),"|",IFNULL(heigth,"")

#数据库名称
DBNAME=`cat $confPath | grep $dataExportFile | awk 'print $2'`
#数据库中表的名称
TABLENAME=`cat $confPath | grep $dataExportFile | awk 'print $3'`
#表是否分库分表：Y表示分库分表；N表示未分库分表; F表示未分库分表且全量导出
ISSHARDTABLE=`cat $confPath | grep $dataExportFile | awk 'print $4'`
#时间字段
TIMECOLUMN=`cat $confPath | grep $dataExportFile | awk 'print $5'`
#要导出的字段
COLUMN=`cat $confPath | grep $dataExportFile | awk 'print $6'`