2-15-1mysql日常维护工具-备份一：MySQL字符集

Posted 2020-09-20

1：字符集介绍

字符集就是一套文字符号及其编码、比较规则的集合，第一个计算机字符集ASC2!mysql数据库字符集包括字符集（CHARACTER）和校对规则（COLLATION）两个概念，其中字符集用来定义MySQL数据字符串的存储方式，而校对规则定义比较字符串的方式

 

2：MySQL数据库常见字符集介绍

选择字符集建议使用国际标准的utf8

3：MySQL怎样选择合适的字符集

1、如果处理各种各样的文字，发布到不同语言国家地区，应选Unicode字符集，对MySQL来说就是utf8(每个汉字三个字节)

2、如果只是需要支持中文，并且数据量很大，性能要求也高，可选GBK(定长，每个汉字占双字节，英文也占双字节)，如果是大量运算，比较排序等，定长字符集更快，性能也高

3、处理移动互联网业务，可能需要使用utf8mb4字符集，apple

4：查看当前MySQL支持的字符集

MySQL可以支持多种字符集，同一台服务器，库或表的不同字段都可以指定不同的字符集

mysql -uroot -p123456 -e "show characterset \\G;"  查看所有的字符集

查看常用的字符集：

1. mysql -uroot -p123456 -e "show character set\\G;" |egrep "gbk|utf8|latin1"|awk ‘{print $0}‘

复制代码

 

5：查看MySQL当前的字符集设置情况

2. mysql> show variables like ‘character_set%‘;

复制代码

 
6：实战，迁移数据

背景：公司业务数据book,由于之前建表没注意字符集的问题，导致之前写入的数据出现乱码。现在要将之前的数据和现在数据的字符集一致，不出现乱码情况

将字符集为latin1已有记录的数据转成utf8，并且已经存在的记录不乱码

步骤

              1：建库及建表的语句导出，sed批量修改为utf8

              2：导出之前所有的数据

              3：修改mysql服务端和客户端编码为utf8

              4：删除原有的库表及数据

              5：导入新的建库及建表语句

              6：导入之前的数据

1）：导出表结构

1.        mysqldump –uroot   --default-character-set=latin1 -d book2> booktable.sql --default-character-set=utf8

复制代码

 

2）:编辑booktable.sql 将latin1修改成utf8

1.        vim booktable.sql
2.        DEFAULT CHARSET=latin1 修改为 utf8

复制代码

 

3）:确保数据库不再更新，导出所有数据

1.        mysqldump  --quick --no-create-info --extended-insert --default-character-set=latin1 book2>bookdata.sql

复制代码

 

 

参数说明：

--quick:用于转储大的表，强制mysqldump从服务器一次一行的检索数据而不是检索所有行，并输出当前cache到内存中

--no-create-info:不要创建create table语句

--extended-insert:使用包括几个values列表的多行insert语法，这样文件更小，IO也小，导入数据时会非常快

--default-character-set=latin1:按照原有字符集导出数据，这样导出的文件中，所有中文都是可见的，不会保存成乱码

 

4）：打开bookdata.sql 将set names latin1 修改成set names utf8

1.               vim bookdata.sql
2.               /*!40101 SET NAMES utf8 */;

复制代码

 

5）:重新建库

1.        mysql> create database book2 default charset utf8;

复制代码

 

6）：建立表，导入我们之前导出的表的数据库

 

1.       mysql book2 <booktable.sql

复制代码

 

7）:导入数据

1.        mysql -uroot -p123456 book2 <bookdata.sql

复制代码

 

       注意：选择目标字符集时，要注意最好大于等于原字符集（字库更大），否则可能会丢失不被支持的数据

二：MySQL日常维护1：mysqlcheckà mysql修复工具

mysqlcheck客户端工具可以检查和修复MyISAM表，还可以优化和分析表。

实际上，它集成了mysql工具中check、repair、analyze、optimize的功能。

/usr/local/mysql/bin/mysqlcheck   #源码编译安装位置

rpm -qf `which mysqlcheck`  yum安装查看

 

参数选项：

mysqlcheck –-help 查看帮助

-c,--check (检查表)；

-r,--repair（修复表)；

-a,--analyze (分析表)；

-o,--optimize(优化表)；//其中，默认选项是-c(检查表)

-u， 使用mysql中哪个用户进行操作

Mysqlcheck使用语法：

使用以下3种方式来调用mysqlcheck：

1. mysqlcheck[options] db_name [tables]
2. mysqlcheck[options] ---database DB1 [DB2 DB3...]
3. mysqlcheck[options] --all--database

复制代码

 

如果没有指定任何表或使用---database或--all--database选项，则检查整个数据库。

举例说明：

1：检查表(check)

1. mysqlcheck -uroot -p123456 -c book books

复制代码

 

2:修复表（repair）

 

1. mysqlcheck -uroot -p123456 -r book books

复制代码

 

 

3:修复指定的数据库

 

1. mysqlcheck -uroot -p  -r --database book

复制代码

 

扩展： 修复文件系统。 容易掉失数据

1. fsck -y -f /dev/sdaX

复制代码

 

4:检查修复所有数据库

 

1. mysqlcheck -uroot -p -A –r

复制代码

 

 

参数-A 等于 --all-databases  

5：每天定时对mysql数据库进行优化

使用计划任务

crontab –e

#01 * * * mysqlcheck -A -o -r  -u你的用户名 -p你的密码 > /dev/null 2>&1

0 3 * * * mysqlcheck -uroot -p123456 -r -o -A > /dev/null 2>&1 每天3点优化

 

2：MySQL备份恢复1)MySQL备份的类型

按照备份时对数据库的影响范围分为：

Hot backup(热备)  Cold Backup（冷备）WarmBackup（温备）

Hotbackup：指在数据库运行中直接备份，对正在运行的数据库没有任何影响。（Online Backup）官方手册为在线备份

ColdBackup：指在数据库停止的情况下进行备份(OfflineBackup) 官方手册称为离线备份

WarmBackup：备份同样在数据库运行时进行，但是会对当前数据库的操作有所影响，例如加一个全局读锁以保证备份数据的一致性

按照备份后文件内容：

逻辑备份 -->

指备份后的文件内容是可读的，通常为文本文件，内容一般是SQL语句，或者是表内的实际数据，如mysqldump和SELECT * INTO OUTFILE的方法，一般适用于数据库的升级和迁移，恢复时间较长

裸文件备份-->

拷贝数据库的物理文件，数据库既可以处于运行状态（mysqlhotcopy、ibbackup、xtrabackup这类工具），也可以处于停止状态，恢复时间较短。

按照备份数据库的内容来分，又可以分为：

完全备份：对数据库完整的备份

增量备份：在上一次完全备份基础上，对更新的数据进行备份（xtrabackup）

日志备份：二进制日志备份，主从复制

 

2)逻辑备份工具mysqldump

使用的时候MySQL当要导入或者导出数据量大的库的时候,用phpMYADMIN甚至MySQLAdministrator这些工具都会力不从心,这时只能使用MySQL所提供的命令行工具mysqldump进行备份恢复。数据量大的时候不推荐使用，可支持MyISAM,InnoDB

MySQL数据的导出和导入工具:mysqldump

导出数据：

语法： mysqldump [OPTIONS]database [tables] >导出的文件名.sql

A:导出所有数据库

1. mysqldump -uroot -p123456 -A >all.sql
2. mysqldump -uroot -p123456 --all-databases >all2.sql

复制代码

 

参数-A代表所有，等同于—all-databases

B:导出某个数据库

1. mysqldump -u 用户名 -p 数据库名 > 导出的文件名.sql  # 注意是-p空格后是数据库名，不是密码。
2. mysqldump -uroot -p123456 book >book.sql

复制代码

 

vim book.sql

C:导出单张表

1. mysqldump -uroot -p123456 book books >books.sql  #导出book库books表

复制代码

 

D:导出库的表结构

1. mysqldump -uroot -p123456 -d book>booktable.sql  #只导出book库的表结构

复制代码

 

E：只导出数据

1. mysqldump -uroot -p123456 -t book>bookdata.sql  #只导出book库中的数据

复制代码

 

F:导出数据库，并自动生成库的创建语句

1. mysqldump -uroot -p123456 -B book2 >book2.sql
2. mysql -uroot -p123456 < book2.sql  导入不用指定数据名

复制代码

 

导入数据：

A：导入所有数据库

1. mysql -uroot -p123456 <all.sql

复制代码

 

B：导入数据库

Mysql -uroot -p123456 book <book.sql  #如果导入时，没有对应的数据库，需要你手动创建一下：mysql>create database book;

使用source导入

1. mysql> create database book;
2. mysql> use book;
3. mysql> source /root/book.sql

复制代码

 

 

c:导入表

1. mysql> drop table books;
2. mysql> source /root/books.sql;   ##导入表时，不需要重新，创建表。要先进到相应的数据库中
3. mysql> select * from books;

复制代码

 

D：导入表结构和数据

1. mysql> create database book;
2. mysql -uroot -p123456 book<booktable.sql
3. mysql -uroot -p123456 book<bookdata.sql

复制代码

3) mysqlhotcopy-à裸文件备份

mysqlhotcopy使用lock tables、flush tables和cp或scp来快速备份数据库.它是备份数据库或单个表最快的途径,完全属于物理备份,但只能用于备份MyISAM存储引擎和运行在数据库目录所在的机器上.与mysqldump备份不同,mysqldump属于逻辑备份,备份时是执行的sql语句.

Mysqlhotcopy本质是使用锁表语句后再使用cp或scp拷贝数据库

1.安装mysqlhotcopy所依赖的软件包(perl-DBD)

1. yum install perl-DBD* -y

复制代码

 

2.查看mysqlhotcopy帮助信息：

mysqlhotcopy –help

--allowold   don‘t abort if targetdir already exists (rename it _old) --不覆盖以前备份的文件

--addtodest  don‘t rename targetdir if it exists, just add files to it     --属于增量备份

   --noindices   don‘t include full index files in copy          --不备份索引文件

  --debug     enable debug                                 --启用调试输出

   --regexp=#   copy all databaseswith names matching regexp  --使用正则表达式

   --checkpoint=#  insert checkpointentry into specified db.table    --插入检查点条目

--flushlog      flush logs once all tables are locked          --所有表锁定后刷新日志

--resetmaster    reset the binlog once all tables are locked     --一旦锁表重置binlog文件

--resetslave  reset themaster.info once all tables are locked  --一旦锁表重置master.info文件

 

举例说明：

A：备份一个数据库到一个目录中

 

1. mysqlhotcopy -u root -p 123456 book /opt  #-u –p 后面都有空格

复制代码

 

 

对比下大小

1. [[email protected] ~]# du -h /opt/book/ /var/lib/mysql/book
2. 48K  /opt/book/
3. 48K  /var/lib/mysql/book

复制代码

 

B：备份多个数据库到一个目录

1. mkdir /opt/book-mysql
2. mysqlhotcopy -u root -p 123456 book mysql /opt/book-mysql
3. Flushed 24 tables with read lock (`book`.`books`, `book`.`category`, `mysql`.`columns_priv`, `mysql`.`db`, `mysql`.`event`, `mysql`.`func`, `mysql`.`help_category`, `mysql`.`help_keyword`, `mysql`.`help_relation`, `mysql`.`help_topic`, `mysql`.`host`, `mysql`.`ndb_binlog_index`, `mysql`.`plugin`, `mysql`.`proc`, `mysql`.`procs_priv`, `mysql`.`proxies_priv`, `mysql`.`servers`, `mysql`.`tables_priv`, `mysql`.`time_zone`, `mysql`.`time_zone_leap_second`, `mysql`.`time_zone_name`, `mysql`.`time_zone_transition`, `mysql`.`time_zone_transition_type`, `mysql`.`user`) in 0 seconds.
4. Locked 0 views () in 0 seconds.
5. Copying 7 files...
6. Copying indices for 0 files...
7. Copying 72 files...
8. Copying indices for 0 files...
9. Unlocked tables.
10. mysqlhotcopy copied 26 tables (79 files) in 0 seconds (0 seconds overall).

复制代码

C：备份数据库中的某个表

语法：mysqlhotcopy -u 用户 -p 密码 数据库名./要备份的表名/ 要备份的路径

1. mkdir /opt/books
2. mysqlhotcopy -u root -p 123456 book./books/ /opt/books/

复制代码

 

实际上是把对应的表文件复制到/opt目录

D:恢复数据

首先我们破坏数据

 

1. rm -rf /usr/local/mysql/data/book/

复制代码

开始恢复

1. cp -ra /opt/book/ /usr/local/mysql/data/
2. ll -d /usr/local/mysql/data/book/
3. drwxr-x--- 2 mysql mysql 4096 Nov  9 17:28 /usr/local/mysql/data/book/

复制代码

 

 

总结：

mysqldump和mysqlhotcopy的比较：

1、mysqldump 是采用SQL级别的备份机制，它将数据表导成 SQL 脚本文件，数据库大时，占用系统资源较多，支持常用的MyISAM，innodb

2、mysqlhotcopy只是简单的缓存写入和文件复制的过程，占用资源和备份速度比mysqldump快很多很多。特别适合大的数据库，但需要注意的是：mysqlhotcopy只支持MyISAM 引擎

3、mysqlhotcopy只能运行在数据库目录所在的机器上，mysqldump可以用在远程客户端。
4、相同的地方都是在线执行LOCK TABLES 以及UNLOCK TABLES
5、mysqlhotcopy恢复只需要COPY备份文件到源目录覆盖即可，mysqldump需要导入SQL文件到原来库中。

 

实战：写个自动备份MySQL数据库shell脚本

1. vim  mysql-autoback.sh
2. #!/bin/bash  
3. export LANG=en_US.UTF-8 
4. savedir=/database_back/  
5. cd "$savedir" 
6. time="$(date +"%Y-%m-%d")" 
7. mysqldump -u root -p123456 book > book-"$time".sql

复制代码

 

再添加计划任务就ok

 

 

xtrabackup备份工具使用
1、xtrabackup简介

我们知道，针对InnoDB存储引擎，MySQL本身没有提供合适的热备工具，ibbackup虽是一款高效的首选热备方式，但它是是收费的。好在Percona公司给大家提供了一个开源、免费的Xtrabackup热备工具，它可实现ibbackup的所有功能，并且还扩展支持真正的增量备份功能，是商业备份工具InnoDBHotbackup的一个很好的替代品。

 

Xtrabackup包括两个主要工具：Xtrabackup和innobackupex：

Xtrabackup只能备份InnoDB和XtraDB两种引擎表，而不能备份MyISAM数据表。

innobackupex则封装了xtrabackup，同时可以备份MyISAM数据表。Xtrabackup做备份的时候不能备份表结构、触发器等等，智能区分.idb数据文件。另外innobackupex还不能完全支持增量备份，需要和xtrabackup结合起来实现全备的功能

2、xtrbackup 安装

有rpm/yum安装方法和源码编译安装

方法一：yum安装

1. [[email protected] ~]# rpm -Uvh https://www.percona.com/redir/downloads/percona-release/redhat/percona-release-0.1-3.noarch.rpm
2. [[email protected] ~]# yum list | grep percona
3. [[email protected] ~]# yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL 安装依赖
4. [[email protected] ~]# yum install percona-xtrabackup –y

复制代码

缺少依赖包

1. [[email protected] ~]# rpm -Uvh ftp://rpmfind.net/linux/epel/6/x86_64/libev-4.03-3.el6.x86_64.rpm  安装这个库解决依赖

复制代码

 

再yum安装遍

方法二：rpm安装

1. [[email protected] ~]# rpm -Uvh https://www.percona.com/downloads/XtraBackup/XtraBackup-2.0.8/RPM/rhel6/x86_64/percona-xtrabackup-20-2.0.8-587.rhel6.x86_64.rpm

复制代码

 

如果有依赖要解决和yum的一样搞定

方法三：源码安装

下载：

1. [[email protected] ~]# wget https://www.percona.com/downloads/XtraBackup/Percona-XtraBackup-2.3.2/binary/tarball/percona-xtrabackup-2.3.2-Linux-x86_64.tar.gz
2. [[email protected] ~]# tar -xf percona-xtrabackup-2.3.2-Linux-x86_64.tar.gz
3. [[email protected] ~]# cp percona-xtrabackup-2.3.2-Linux-x86_64/bin/* /usr/bin/

复制代码

 

注意：安装完成以后记得更改你的/etc/my.cnf配置文件制定数据目录，因为Xtrabackup是根据你的/etc/my.cnf配置文件来获取你备份的文件，比如在/etc/my.cnf的[mysqld] 下添加datadir=/usr/local/mysql/data，然后重启mysql

1. [[email protected] ~]# vim /etc/my.cnf

复制代码

 

在mysqld的范围添加

1. [mysqld]
2. datadir=/usr/local/mysql/data
3. basedir=/usr/local/mysql
4. [[email protected] ~]# service mysqld restart

复制代码

3、xtrbackup使用

我们一般使用innobackupex脚本

innobackupex是perl脚本对xtrabackup的封装，和功能扩展。

备份准备工作：

权限和链接

xtrabackup需要连接到数据库和datadir操作权限。

xtrabackup或者innobackupex在使用过程中涉及到2类用户权限：

 

1.系统用户，用来调用innobackupex或者xtrabackup

连接到服务：innobackupex或者xtrabackup通过—user和—password连接到数据库服务
$ innobackupex --user=DBUSER --password=SECRET /path/to/backup/dir/
$ innobackupex --user=LUKE  --password=US3TH3F0RC3 --stream=tar ./ | bzip2 -   压缩
$ xtrabackup --user=DVADER --password=14MY0URF4TH3R --backup --target-dir=/data/bkps/

 

   2.数据库用户，数据库内使用的用户

 

需要的权限：连接到服务是为了执行备份，需要在datadir上有read，write和execute权限。在数据库中需要以下权限：

   

RELOAD和LOCK    TABLES权限为了执行FLUSH TABLES WITH READ    LOCK   。

   

REPLICATION CLIENT为了获取binary log 位置

   

CREATE    TABLESPACE权限为了导入表，用户表级别的恢复

   

SUPER权限在slave环境下备份用来启动和关闭slave线程

    
   

   其他连接选项：

Option	Description
–port	The port to use when connecting to the database  server with TCP/IP.
–socket	The socket to use when  connecting to the local database.
–host	The host to use when connecting  to the database server with TCP/IP.

可以单独创建用来备份数据库的用户，安全，并赋予对应的权限

4、全备和全备还原使用innobackupex创建全备

创建全备：

1. innobackupex --user=root --password=123456 /opt/db_backup/
2. innobackupex --user=root --password=123456 /opt/db_backup/ 2>>/opt/db_backup/db_backup.log
3. 2>>/opt/db_backup/db_backup.log   不显示输出信息，输出信息重定向到db_backup.log

复制代码

 

内部机制：在备份的时候innobackupex会调用xtrabackup来备份innodb表，并复制所有的表定义，其他引擎的表(MyISAM,MERGE,CSV,ARCHIVE)。

其他选项:

--no-timestamp，指定了这个选项备份会直接备份在BACKUP-DIR，不再创建时间戳文件夹。

--default-file，指定配置文件，用来配置innobackupex的选线

1. innobackupex --user=root --password=123456 --no-timestamp /opt/db_backup/full
2. innobackupex --user=root --password=123456 --no-timestamp /opt/db_backup/full (使用--no-timestamp时，后面的这个full目录必须跟上且不能提前自己建立，它由innobackupex自动建立，否则会报错innobackupex: Error: Failed to create backup directory)

复制代码

使用innobackupex还原备份

使用innobackupex --copy-back来还原备份

1. service mysqld stop
2. rm -rf /var/lib/mysql/*
3. innobackupex --copy-back /opt/db_backup/2015-11-10_13-23-10/  还原

复制代码

 

1. ll /usr/local/mysql/data/  查看权限
2. chown -R mysql:mysql /var/lib/mysql/   要不然mysql启动不起来

复制代码

 

service mysqld restart

注：datadir必须是为空的，innobackupex –copy-back不会覆盖已存在的文件，还要注意，还原时需要先关闭服务，如果服务是启动的，那么就不能还原到datadir。

5：创建增量备份和还原

增量备份作用：减少备份数据重复，节省磁盘空间，缩短备份时间

增量备份的实现，依赖于innodb页上面的LSN（log sequence number），每次对数据库的修改都会导致LSN自增。增量备份会复制指定LSN<日志序列号>之后的所有数据页。

创建增量备份

1：首先创建全备

在创建增量备份之前需要一个全备，不然增量备份是没有意义的。

1. innobackupex --user=root --password=123456 /opt/db_backup/

复制代码

 

这样就会在/opt/db_backup下创建一个时间戳文件夹 2015-11-10_13-53-25，文件夹下就是备份文件

检查备份文件夹下的xtrabackup-checkpoints，查看信息

1. cat /opt/db_backup/2015-11-10_13-53-25/xtrabackup_checkpoints
2. backup_type = full-backuped   全备
3. from_lsn = 0
4. to_lsn = 1600012
5. last_lsn = 1600012
6. compact = 0
7. recover_binlog_info = 0

复制代码

 

2：创建第一个增量备份

首先我插入一些数据到表里面

1. mysql> use test;
2. mysql> insert into test2 (name) values(‘HA‘);

复制代码

 

使用—incremental创建增量备份

1. innobackupex --user=root --password=123456 --incremental /opt/db_backup/ --incremental-basedir=/opt/db_backup/2015-11-10_13-53-25/  后面指定这哪个全备上进行增量备份

复制代码

 

3：然后再创建一个增量备份

在上一个的增量备份基础上创建

1. innobackupex --user=root --password=123456 --incremental /opt/db_backup/ --incremental-basedir=/opt/db_backup/2015-11-10_14-02-53/

复制代码

 

再查看LSN<日志序列号>

 

1. innobackupex --user=root --password=123456 --incremental /opt/db_backup/ --incremental-basedir=/opt/db_backup/2015-11-10_14-02-53/

复制代码

4：增量备份创建的替代方法

可以使用指定—incremental-lsn来代替—incremental-basedir的方法创建增量备份。

1. nnobackupex --user=root --password=123456 --incremental /opt/db_backup/ --incremental-lsn=1600012  #从这个编号点开始备份

复制代码

 

注意：xtrabackup只会影响xtradb或者innodb的表，其他引擎的表在增量备份的时候只会复制整个文件，不会差异。

 

还原增量备份

还原增量备份其实和还原全备一样

6：提示

这款工具很强大，更多的地方还要各位自己去摸索

官方有手册可以下载

下面这个博客也可以参考：

http://www.cnblogs.com/Amaranthus/archive/2014/08/19/3922570.html#_Toc396231212

 

 

 

Yum 安装mysql5.7的版本注意：

1. rpm –Uvh https://repo.mysql.com//mysql57-community-release-el6-11.noarch.rpm
2. Yum list
3. yum -y install mysql-community-server

复制代码

 

第一次通过#grep "password" /var/log/mysqld.log 命令获取MySQL的临时密码

用该密码登录到服务端后，必须马上修改密码，不然操作查询时报错误

刚开始设置的密码必须符合长度，且必须含有数字，小写或大写字母，特殊字符。

如果想设置简单密码，如下操作：

首先，修改validate_password_policy参数的值

1. mysql> set global validate_password_policy=0;  #定义复杂度
2. mysql> set global validate_password_length=1;  #定义长度 默认是8
3. mysql>set password for ‘root‘@‘localhost‘=password(‘123456‘);

复制代码