深入理解MySQL ( 2 )————一条更新语句是如何执行的
Posted wtxuebc
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了深入理解MySQL ( 2 )————一条更新语句是如何执行的相关的知识,希望对你有一定的参考价值。
概述
上篇文章了解了一个查询语句的执行流程, 并介绍了执行过程中涉及的处理模块; 一条执行语句的过程一般是经过连接器, 分析器, 优化器, 执行器等功能模块, 最后到达存储引擎. 那么,一条更新语句的执行流程又是怎样的? 首先可以确定的说,查询语句的那一套流程, 更新语句也是同样会走一遍.
上篇文章还提到,在一个表上有更新操作的时候, 跟这个表有关的查询缓存会失效, 这也就是一般不建议使用查询缓存的原因. 在MySQL 8.0 版本, 查询缓存的整块功能都被删除了,彻底不支持这个功能了.
与查询流程不一样的是,更新流程还涉及两个重要的日志模块:redo log( 重做日志 ) 和 binlog ( 归档日志 ). 只要我们写的是DML语句(insert,update,delete,create)等等,那么我们在数据库服务端执行的时候就会涉及到 redo log(重做日志) 和 binlog(归档日志) 两个日志文件的变动。
WAL
还记得《孔乙己》这篇文章吗,酒店掌柜有一个粉板,专门用来记录客人的赊账记录。如果赊账的人不多,那么他可以把顾客名和对应的账目写在板上,当赊账的人多了,板记不下了,老板会有一个专门记账的账目本。
此时如果有人要赊账或者还账的话,掌柜有两种做法:
- 一种是直接把账本拿出来,直接在账本上加上或扣除
- 另一种是先在粉板上记下这笔账,等打样后再把账本翻出来核算。
很显然当店里生意好时,老板会选择后者,当店里生意一般时,老板这会有时间或者当粉板上账目写满时,这时候老板会拿出账本记账; 因为在账本上查账是一件很麻烦的事.
同样!在MySQL里边同样有这个问题,如果每一次的更新操作都需要写进磁盘,然后磁盘也需要找到对应的那条记录,然后再更新,整个过程,IO成本、查找成本都很高。为了解决这个问题,MySQL的设计者就用了酒店老板记账的方法来提升更新效率。
此间,粉笔和账本配合的过程,就是mysql里经常说到的WAL(Write-Ahead Logging)技术。它关键在于先写日志( 此写日志就是redo log file 中, 也还是在磁盘中, 是在磁盘上顺序IO, 速度比随机IO块, 因为随机IO还有个扫描的过程! ),再写磁盘 ;
redo log ( 重做日志 )
在InnoDB中,redo log 是其特有的日志, InnoDB引擎先把记录写到redo log 中,redo log 在哪,他也是在磁盘上,这也是一个写磁盘的过程,但是与更新过程不一样的是,更新过程是在磁盘上随机IO,费时。 而写redo log 是在磁盘上顺序IO。效率要高 !
还有个问题就是,当"粉板"写满时, 此时老板将拿出账本记录部分账目, 并将这些账目从粉板上擦除,释放空间, 那粉板得多大?
与此类似!InnoDB 的 redo log 时固定的大小的, 这个大小是可以配置的,比如可以配置一组4个文件,每个文件大小是1GB,那么这块“粉板”就可以记录 4GB 的操作。从头开始写,写到末尾就又回到开头循环写;
write是当前记录的位置,一边写一边后移,写到3号文件末尾又回到0号文件开头。check point 是当前要擦除的位置,也是往后推移并且循环的,擦除记录前要把记录更新到数据文件。( 系统在空闲或者日志满了都会去刷新磁盘, 更新数据! )
注 : 肯定第一轮是write pos先从起点 ( 0号文件起始 ) 跑了一圈, 当再回到起点时, 日志满了, 这时候check point从起点开始标记需要更新到磁盘的数据, 此时check point 在 write point 前头跑着,中间的部分就是可写的部分!
crash-safe
redo log的数据先写到内存中,LGWR ( LGWR是Oracle的后台进程之一。LGWR的作用是把日志缓存区的数据从内存写到磁盘的REDO文件里,完成数据库对象创建、更新数据等操作过程的记录) 的触发条件达到,再把这个内存写磁盘中
有了redo log ,可以在磁盘上的 redo log file 文件中 ,进行顺序IO,是比一般的更新请求 ( 随机IO) 要快的, 而且还能保证即使数据库发生异常重启,之前提交的记录都不会丢失,这个能力成为 crash-safe
方便理解: 可能比较抽象, 试着回想孔乙己, 老板只要把账目记在粉板上了, 就算几天不开张, 粉板上的账目还是会在的, 只要老板有时间, 便可以将这些账目记在账本上!
binlog ( 归档日志 )
MySQL整体看来就只有两层:Server层(主要负责MySQL功能层面的事情:连接、分析SQL、优化SQL、执行引擎层的接口)和引擎层(负责存储事宜,对数据进行具体操作,对Server提供接口), 上面提到的 redo log 是 InnoDB 引擎特有的日志, 而 Server 层也有自己的日志, 称为 binlog ( 归档日志 ) .
最开始的 MySQL 里并没有 InnoDB 引擎, MySQL 自带的引擎是 MyISAM ,但是 MyISAM 没有 crash-safe 的能力, binlog 日志只能用于归档 ; InnoDB是另一个公司以插件的形式引入 MySQL 的,因此InnoDB 使用另外一套日志系统----redo log 来实现 crash-safe能力;
两种日志的不同点:
- redo log 是 InnoDB 引擎特有的; binlog 是 MySQL 的 Server 层实现的, 所有的引擎都可以使用;
- redo log 是物理日志, 记录的是 " 在某个数据页上做了什么修改", binlog 是逻辑日志, 记录的是这个语句的原始逻辑;
通俗理解
逻辑日志 : 是大家都讲的通的逻辑,可以给别的数据库,别的引擎使用,因为i大家都讲得通这个逻辑
物理日志 : 物理日志只有 “我” 自己能用, 别人没有共享我的 " 物理格式 "
- redo log 是循环写的, 空间固定会用完 ; bin log 是可以追加写入的 ; " 追加写 " 是指bin log 文件写到一定大小后就会切换到下一个, 并不会覆盖以前的日志;
两阶段提交
为什么必须要有 " 两阶段提交 " ? 是为了让两份日志之间的逻辑一致 ;
那先看看没有两阶段提交会带来什么影响?
redo log 和bin log 是两个独立的逻辑,如果不用两阶段提交,要么就是先写完 redo log 再写 binlog ,或者采用反过来的顺序, 我们来看看这两张方式有何影响?
-
先写 redo log 后写 binlog。假设在 redo log 写完,binlog 还没有写完的时候,MySQL 进程异常重启。由于我们前面说过的,redo log 写完之后,系统即使崩溃,仍然能够把数据恢复回来,所以恢复后这一行 c 的值是 1。但是由于 binlog 没写完就 crash 了,这时候 binlog 里面就没有记录这个语句。因此,之后备份日志的时候,存起来的 binlog 里面就没有这条语句。然后你会发现,如果需要用这个 binlog 来恢复临时库的话,由于这个语句的 binlog 丢失,这个临时库就会少了这一次更新,恢复出来的这一行 c 的值就是 0,与原库的值不同。先写 binlog 后写 redo log。
-
如果在 binlog 写完之后 crash,由于 redo log 还没写,崩溃恢复以后这个事务无效,所以这一行 c
的值是 0。但是 binlog 里面已经记录了“把 c 从 0 改成 1”这个日志。所以,在之后用 binlog 来恢复
的时候就多了一个事务出来,恢复出来的这一行 c 的值就是 1,与原库的值不同。
结合两阶段提交回到文章开始的哪个问题:一条更新语句是如何执行的?
更新的时候先查询,查询的过程在这篇文章已经讲过了深入理解MySQL之 基本组件 ———— 一条SQL查询语句是怎样执行的 ,现在来看执行器和 InnoDB 引擎在执行这个简单的 update 语句时的内部流程。
- 执行器先找引擎取 ID=2 这一行。ID 是主键,引擎直接用树搜索找到这一行。如果 ID=2 这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁盘读入内存,然后再返回。
- 执行器拿到引擎给的行数据,把这个值加上 1,比如原来是 N,现在就是 N+1,得到新的一行数据,再调用引擎接口写入这行新数据。
- 引擎将这行新数据更新到内存中,同时将这个更新操作记录到 redo log 里面,此时 redo log 处于 prepare 状态。然后告知执行器执行完成了,随时可以提交事务。
- 执行器生成这个操作的 binlog,并把 binlog 写入磁盘。
- 执行器调用引擎的提交事务接口,引擎把刚刚写入的 redo log 改成提交(commit)状态,更新完成。
通过两个状态的提交方式,保证提交事务之后,两个日志都写好了,同时如果采用两阶段的方式中间如果服务器发生崩溃的话:
1.redo log还没写好就异常退出,这时bin log也还没写入,恢复数据不受影响,日志状态一致
2.redo log写好了, bin log还没写好异常退出时,此时redo log处于prepare状态,还没提交,恢复时,事务会回滚,bin log也还没有记录,所以没影响
3.redo log和bin log都写好了,此时执行器还没有调用引擎的提交事务接口,redo log状态还没改成commit,突然异常退出,因为此时prepare和binlog完整,所以重启会自动commit。不影响数据恢复,日志状态一致!
总结
两个重要日志, redo log ( 物理/重做日志) 和 bin log ( 逻辑/归档 日志 )
-
事务的 redo log 持久化到磁盘可以保证 MySQL异常重启之后数据不丢失 ; 事务的 binlog 持久化到磁盘可以保证异常重启之后 binlog 不丢失
两者还是有很大区别的 :
redo log 有write pos 和 check pos 两指针, MySQL重启之后可以从check pos开始, 对日志进行"重做" , **重新在内存中执行对数据的修改 **, 满足刷盘条件时 , 在进行数据刷盘 .
bin log 有 “归档” 的作用 , 主要用作主从同步和数据库基于时间点的还原 , 因为 redo log 会覆盖,没有归档的作用 ; 除此之外 , bin log 还是有很大的存在必要 , 因为 redo log 是InnoDB 仅有的 , 不支持其他引擎 , bin log 写的事逻辑日志 , 引擎通过的 !
MySQL重启后 , 恢复数据的流程:
是否更形象了点!
参考文献: 林晓斌《MySQL实战 45 讲》
以上是关于深入理解MySQL ( 2 )————一条更新语句是如何执行的的主要内容,如果未能解决你的问题,请参考以下文章
深入理解MySQL ( 2 )————一条更新语句是如何执行的
深入理解MySQL ———— 一条SQL查询语句是怎样执行的