MySQL的日志 - undo log
Posted 程序猿集锦
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了MySQL的日志 - undo log相关的知识,希望对你有一定的参考价值。
第一时间了解更多干货分享,还有各类视频教程资源。扫描它,带走我
前言
什么是undo log
undo log的作用
undo log的存储空间
和系统表空间存放在一起
独立的undolog表空间
undo log的相关参数
独立undolog表空间的意义
最后
前言
前面我们介绍了mysql中的慢查询slow query log,二进制日志binlog,中继日志relay log,重做日志redolog,今天我们来看一下另外一个重要的日志:undo log。
什么是undo log
undo log,就是大家经常所说的回滚日志。
它里面记录的是对数据的回滚操作。当我们对数据库中的数据有变动操作的时候,为了可以回滚到数据被改动之前的版本,就把数据的变动过程的逆向操作给记录在undo log中。我们对数据库的查询查找是不会记录undo log的,只有数据库中的数据有变化的操作才会记录undo log。
undo log的作用
我们执行一个insert语句,在undo log中就记录一个delete语句,用于删除掉刚插入的数据,以此来达到回滚到插入之前的状态;
我们执行了一个update语句,在undo log中也记录一个upate语句,只不过这个update语句的内容是把我们刚才执行update操作的数据内容给修改回去,以此达到回滚到数据修改之前的状态;
我们执行一个delete语句,在undo log中就记录一个insert语句,用于把刚才删除的数据再插入到数据库中,以此来达到回滚到删除之前的状态。
简而言之:undo log中记录的内容是如何把数据还原到变动之前的状态,根据这个日志中的记录,就可以把数据还原到上一个事务提交后的状态。
还用Undo Log来实现多版本并发控制(简称:MVCC)。Undo Log是为了实现事务的原子性。什么是事务的原子性,这里简单提一句:一个事务的所有操作要么全部成功,要么全部失败,不能只提交部分操作。在失败的时候回,需要回滚之前的部分操作,而这个回滚操作就是依赖于我们今天提到的undo log
。从undo log
里面去回滚数据到事务开启之前的状态。
事务中的所有操作,要么全部完成,要么不做任何操作,不能只做部分操作。如果在执行的过程中发生了错误,要回滚(Rollback)到事务开始前的状态,就像这个事务从来没有执行过。
而redolog是为了实现事务的持久性,要把所有对数据的修改,持久化到磁盘,只要事务提交成功了,不能因为重启、宕机等原因导致提交的数据丢失了,不见了。这里,把redo和undo两种log对照记一下。
事务一旦完成,该事务对数据库所做的所有修改都会持久的保存到数据库中。为了保证持久性,数据库系统会将修改后的数据完全的记录到持久的存储上。
undo log的存储空间
MySQL中的数据存放有对应的表空间,日志的存放也有对应的表空间,一个个表空间对应到磁盘上就是一个个数据文件。undolog也有undolog tablespace的概念,但是undolog的表空间在不同的MySQL版本中有一点不一样,接下来分别说明一下。
和系统表空间存放在一起
在MySQL5.6.3
之前的版本中,这个undolog table space是和system tablespace系统表空间存放在一起的,如上图中红色框选的部分,因为系统表空间对应的磁盘上面的数据文件就是ibdata1
这个文件,所以在MySQL的相关目录下面,我们看不到任何关于undolog相关的数据文件。
独立的undolog表空间
在5.6.3
之后的版本中,MySQL支持将undolog tablespace单独剥离出来,不在和系统表空间放在一起,如上图中绿色框选的部分。而控制undolog单独配置表空间的相关参数如下:
mysql> show variables like '%undo%';
+--------------------------+-----------+
| Variable_name | Value |
+--------------------------+-----------+
| innodb_max_undo_log_size | 104857600 |
| innodb_undo_directory | ./ |
| innodb_undo_log_truncate | ON |
| innodb_undo_logs | 128 |
| innodb_undo_tablespaces | 4 |
+--------------------------+-----------+
5 rows in set (0.01 sec)
mysql> show variables like 'datadir';
+---------------+-----------------+
| Variable_name | Value |
+---------------+-----------------+
| datadir | /var/lib/mysql/ |
+---------------+-----------------+
1 row in set (0.02 sec)
mysql> show variables like 'innodb_purge_rseg_truncate_frequency';
+--------------------------------------+-------+
| Variable_name | Value |
+--------------------------------------+-------+
| innodb_purge_rseg_truncate_frequency | 128 |
+--------------------------------------+-------+
1 row in set (0.02 sec)
mysql> show variables like 'innodb_rollback_segments';/*这个参数是参数innodb_undo_logs的同义词*/
+--------------------------+-------+
| Variable_name | Value |
+--------------------------+-------+
| innodb_rollback_segments | 128 |
+--------------------------+-------+
1 row in set (0.24 sec)
undo log的相关参数
使用独立的undolog表空间的时候,会使用如下各个参数:
innodb_max_undo_log_size:表示每一个undolog对应的日志文件的最大值,默认最大值为
1GB
大小,默认初始化大小为10MB
。日志文件达到该阈值之后,且参数innodb_undo_log_truncate=ON
,才会触发truncate回收(收缩)动作,被truncate后的表空间文件大小缩小到undolog表空间数据文件默认的1OMB
大小。否则即便是到达最大值之后,也不会自动回收undolog的表空间。这里需要注意一点:在收缩undolog日志文件大小的时候,到底把undolog的表空间文件缩小为多大?这个取决于MySQL中innodb使用的
innodb_page_size
参数的配置,不同的配置,对应的undolog表空间数据文件的初始大小是不同的,参考下面的表格:Innodb_page_size的大小 undolog表空间数据文件收缩后的值 16KB(默认值) 10MB(undolog表空间数据文件初始大小) 4KB 7MB 8KB 8MB 32KB 20MB 64KB 40MB 这里我们要知道innodb中的页大小支持
4KB、8KB、16KB(默认值)、32KB、64KB
。当innodb_page_size
的值不同的时候,在收缩undolog表空间大小的时候,就收缩到上面表中对应的大小,这些大小也就是在初始化undolog表空间文件时候的默认大小。innodb_undo_directory:表示undolog日志文件的存放目录,值配置的为
./
,表示日志文件存储在datadir
参数所指向的目录下面,从上面可以看出datadir
的值为/var/lib/mysql
,所以undolog日志文件也会放在这个目录下面。这个参数可以设置相对路径或者绝对路径。参数实例初始化之后虽然不可直接改动,但是可以通过先停库,修改配置文件,然后移动undo表空间文件的方式去修改该参数。在生产环境中,建议给undolog配置单独的磁盘。innodb_undo_log_truncate:表示是否开启自动收缩undolog的表空间的操作。如果配置为
ON
,并且配置了2个或2个以上的undolog表空间数据文件,当某一个日志文件大小超过设置的最大值之后,就会自动的收缩表空间数据文件。在回收表undolog表空间的时候,会判断这个已经超过设置的单个文件最大值
innodb_max_undo_log_size
的文件中,是否有还在活跃的事务,如果没有则可以回收该表空间,否则不能回收。对于可以回收的表空间,创建一个表示文件undo_<space_id>_trunc.log
,表示正在回收该日志文件,不能向这个日志文件中写入undo日志。同时如果在回收这个日志文件的时候,数据库异常重启,也可以根据这个标识文件继续进行回收undo表空间的操作。当回收表空间的操作结束后,就删除undo_<space_id>_trunc.log
标识文件,此时这个被回收的日志文件可以再次被写入undolog。注意:在参数
innodb_undo_log_truncate
配置为ON
的时候,则参数innodb_undo_tablespaces
的值必须>=2
才可以把参数innodb_undo_log_truncate
设置为ON
。因为在回收表空间数据文件的时候,被回收的表空间数据文件会临时下线,为了保证undolog一直有地方可以写,此时要保证至少还有1个undolog日志文件是在线的。这就是要求innodb_undo_tablespaces>=2
的根本原因。innodb_undo_logs(innodb_rollback_segments):这个参数和
innodb_rollback_segments
是同义词,两者的含义一样。但是innodb_undo_logs
在以后的MySQL中会被删除,所以建议使用innodb_rollback_segments
这个参数。他们的配置是相同的,只是参数名称不一样而已。mysql> show variables like 'innodb_rollback_segments';
+--------------------------+-------+
| Variable_name | Value |
+--------------------------+-------+
| innodb_rollback_segments | 128 |
+--------------------------+-------+
1 row in set (0.24 sec)
mysql> show variables like 'innodb_undo_logs';
+------------------+-------+
| Variable_name | Value |
+------------------+-------+
| innodb_undo_logs | 128 |
+------------------+-------+
1 row in set (0.01 sec)它定义了undo tablespace的表空间文件中包含的回滚段
rollback segments
的数目。默认值为128,这也是它的最大值,128个回滚段是innodb所能支持的最大的回滚段的数目。官方文档中建议这个值设置为>=35的值,这里说一下为什么。128个回滚段中,需要32个给临时表空间使用,1个给系统表空间使用,此时为32+1=33个,开启独立表空间之后,我们通常还会开启自动回收回滚表空间的操作,所以至少需要2个独立的表空间文件,此时就是33+2=35。这里就是为什么要设置
innodb_undo_logs>=35
的原因。建议保持默认的128,如果为128,此时innodb_undo_tablespaces
的值就可以设置为最大的值95,其中32个分配给了临时表空间。1个给系统表空间。还剩余128-32-1=95个,这95可以全部给独立的回滚表空间来用。每一个
rollback segments
,内部由1024个undo segment 组成。所以,可执行 95*1024 个并发事务操作,每个事务占用一个 undo segment slot,注意,如果事务中有临时表事务,还会在临时表空间中的 undo segment slot 再占用一个 undo segment slot,即占用2个undo segment slot。如果错误日志中有:Cannot find a free slot for an undo log。
则说明并发的事务太多了,需要考虑下是否要分流业务。innodb_undo_tablespaces:表示undolog对应的tablespace表空间文件的个数,这里配置的是4,表示在物理磁盘上会有4个undolog表空间文件,可以配置多个undolog表空间文件,文件名称从
undo001
开始,一直到undo095
结束,也就是说最多有95个undolog表空间数据文件。但是这个参数是在MySQL实例化的时候配置好的,配置好之后,不可以再次修改。除非重新实例化MySQL数据库实例。如果强行修改innodb_undo_tablespaces=95
,在重启MySQL示例的时候,则会有如下的错误:2021-01-10T20:01:47.079434+08:00 0 [ERROR] InnoDB: Expected to open 95 undo tablespaces but was able to find only 4 undo tablespaces. Set the innodb_undo_tablespaces parameter to the correct value and retry. Suggested value is 4
2021-01-10T20:01:47.079669+08:00 0 [ERROR] InnoDB: Plugin initialization aborted with error Generic error
2021-01-10T20:01:47.695873+08:00 0 [ERROR] Plugin 'InnoDB' init function returned error.
2021-01-10T20:01:47.696568+08:00 0 [ERROR] Plugin 'InnoDB' registration as a STORAGE ENGINE failed.
2021-01-10T20:01:47.696825+08:00 0 [ERROR] Failed to initialize builtin plugins.
2021-01-10T20:01:47.697028+08:00 0 [ERROR] Aborting另外,我们需要注意的是如果参数
innodb_undo_log_truncate=ON
,则参数innodb_undo_tablespaces
的值必须满足>=2
才可以。Innodb最大支持128个rollback segments回滚段,这128个回滚段分布在
system tablesapce
系统表空间、undo tablespaces
回滚表空间和temporary tablespace
临时表空间中,用于存放回滚数据。其中32个rollback segments回滚段给
temporay tablespace
临时表空间来使用,因为是临时表,里面的数据随时可能会清除,所以临时表的表空间使用的是rollback segments
回滚段而不是普通数据段。剩余的
128-32=96
个rollback segments回滚段,再拿出1个给system tablespace
系统表空间来使用,这里之所以要留1个是系统表空来使用,是因为在MySQL5.6.3之前的版本中,是没有独立的回滚表空间的,在后续的版本中,即便是支持了独立的回滚表空间,这个和系统表空间共享存储的功能也还是支持的,所以这里仍然会给系统表空间中,留下了一个rollback segment
。此时还剩余
128-32-1=95
个rollback segments回滚段。在回滚表空间中,每一个回滚表空间对应一个回滚段,这就是innodb_undo_tablespaces
参数,最多可以配置为95个的原因。innodb_undo_tablespaces
参数的值,在MySQL的数据目录下面的效果,如下所示,在/var/lib/mysql
目录下面有4个undolog tablespace数据文件。
root@test:/var/lib/mysql# pwd
/var/lib/mysql
root@test:/var/lib/mysql# du -sh undo*
10M undo001
10M undo002
10M undo003
10M undo004
root@test:/var/lib/mysql#
innodb_purge_rseg_truncate_frequency:这个参数表示MySQL后台的purge线程被唤醒多少次之后才触发真正的释放
rollback segment
回滚段的操作,只有当回滚段真正的被释放了,回滚表空间才会被真正的执行truncate收缩操作。从磁盘上看,回滚表空间的数据文件才会变小。该参数越小,undo表空间被尝试truncate的频率越高。默认值为128次。当我们配置了innodb_undo_log_truncate=ON
的时候,会结合innodb_purge_rseg_truncate_frequency
参数来一起工作,每隔innodb_purge_rseg_truncate_frequency
次purge线程被调用,就会触发一次真正的tuncate操作。innodb_undo_log_truncate
参数所truncate的回滚段,需要先被innodb_purge_rseg_truncate_frequency
参数释放掉才可以被truncate。
独立undolog表空间的意义
我们思考一下:为什么要支持把undolog的tablespace单独剥离出来呢?
这是从性能的角度来考量的。原先的undolog和系统表空间共享一个表空间,这样在记录undolog的时候,和其他的一些使用系统表空间来存储的操作肯定会存在磁盘I/O
的竞争。但是如果我们把undolog的表空间单独拉出来,支持让其自定义目录和表空间的数量,这样我们可以把undolog配置单独的磁盘目录,提高undo log日志的读写性能。
从另外一个方面,在5.6.3之前的MySQL版本中,undolog存放在系统表空间中,此时的undo log是无法自动收缩清除,如果有大事务或长事务的存在,就可能导致undulog日志文件越来越大,这就会使磁盘空间使用越来越大,数据库的上线时间越长,这个系统表空间有越来越大,有时候设置导致ibdata1这个文件达到20多个GB,这样导致备份数据库也会越来越长。如果此时我们想回收undulog日志文件的大小,只能把整个库备份后删除重建,然后再把备份的数据导入到新的数据库实例中去。
所以在MySQL的生产环境中,建议配置独立的undolog表空间。一般的配置如下所示:
[mysqld]
# undolog回滚表空间的配置
innodb_max_undo_log_size = 1G
innodb_undo_directory = /data/mysql/undolog
innodb_undo_log_truncate = ON
innodb_undo_logs = 128
innodb_undo_tablespaces = 8
innodb_purge_rseg_truncate_frequency = 128
最后
undolog回滚日志就写到这里了,后面会分享MySQL的一般查询日志和错误日志。
第一时间了解更多干货分享,还有各类视频教程资源。扫描它,带走我
以上是关于MySQL的日志 - undo log的主要内容,如果未能解决你的问题,请参考以下文章
mysql日志系统:binlog,redo log,undo log
mysql日志系统:binlog,redo log,undo log
MySQL日志系统bin logredo log和undo log
刨析 MySQL 三大日志:binlogredo log 和 undo log