数据库篇:mysql事务原理之MVCC视图+锁

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了数据库篇:mysql事务原理之MVCC视图+锁相关的知识,希望对你有一定的参考价值。

参考技术A

MVCC 全称Multi-Version Concurrency Control,其好处是读不加锁,读写不冲突,并发性能好

对于使用 READ COMMITTED 和 REPEATABLE READ 隔离级别的事务来说,都必须保证读到已提交事务修改过的记录,也就是说假如另一个事务修改了记录但尚未提交,是不能读取最新版本的记录的,其核心问题:需要判断 MVCC 版本链中的哪个版本是当前事务可见的。innodb 的解决方案 readView,readView 包含4个比较重要的属性


本文作者 潜行前行
本文链接 : https://www.cnblogs.com/cscw/p/16106338.html

Mysql—4种隔离级别以及MVCC一致性视图的实现原理

详细介绍MySQL数据库事务隔离级别的实现原理,以及MVCC一致性视图的概念和实现。

上一篇文章中,我们介绍了数据库事务的基本特性以及隔离级别。下面我们来看看MySQL事务隔离级别的实现原理,以及经常被提到的MVCC一致性视图到底是什么。

1 事务隔离级别的实现

可重复读和读已提交的事务隔离级别在实现上,数据库里面会创建一个视图,访问的时候以视图的逻辑结果为准。

在“可重复读”隔离级别下,这个视图是在事务启动时创建的,整个事务存在期间都用这个视图。在“读已提交”隔离级别下,这个视图是在每个SQL语句开始执行的时候创建的。这里需要注意的是,“读未提交”隔离级别下直接返回记录上的最新值,没有视图概念,只有两个并行的更新会进行等待;而“串行化”隔离级别下直接用加锁的方式来避免并行访问,只有存在并行的读的时候才不会等待。

因此,我们重点说说“读已提交”和“可重复读”的实现原理,以及视图的概念。在MySQL里,有两个“视图”的概念:

  1. 一个是view。它是一个用查询语句定义的虚拟表,在调用的时候执行查询语句并生成结果。创建视图的语法是create view … ,而它的查询方法与表一样。
  2. 另一个是InnoDB在实现MVCC时用到的一致性读视图,即consistent read view,用于支持RC(Read Committed,读已提交)和RR(Repeatable Read,可重复读)隔离级别的实现。

InnoDB引擎中,当我们对记录做了一次变更操作时就会产生一条undo log记录,undo log是逻辑日志,可以被认为是当前sql对应的回滚操作,可以简单的认为当delete一条记录时,undo log中会记录一条对应的insert记录,反之亦然,当update一条记录时,它记录一条对应相反的update记录。因此,某一行的记录上的最新值,通过向前执行undo log记录的回滚操作,都可以得到之前某个状态的值。因此undo log常被用于事务回滚,而在这里,undo log则被用于实现MVCC。(此前我们已经介绍了undo log)。

InnoDB里面每个事务有一个唯一的事务ID,叫作transaction id。它是在事务开始的时候向InnoDB的事务系统申请的,是按申请顺序严格递增的。而每行数据也都是有多个版本的。每次事务更新数据的时候,都会生成一个新的数据版本,并且把transaction id赋值给这个数据版本的事务ID,记为row trx_id。同时,旧的数据版本要保留,并且在新的数据版本中,能够有信息可以直接拿到它。

trx_id和XID不是同一个概念,Xid是由server层维护的。InnoDB内部使用Xid,就是为了能够在InnoDB事务和server之间做关联。但是,trx_id是InnoDB自己维护的,每一行数据都记录了更新它的trx_id,当一个事务读到一行数据的时候,判断这个数据是否可见的方法,就是通过事务的一致性视图与这行数据的trx_id做对比。只读事务不会分配trx_id(select……dor update不是只读事务)。

如下,是某个行数据的undo log变更记录:
在这里插入图片描述
注意,图中的黄色方框实际上是不存在的,真正存在的undo log仅仅是向左的几个箭头,则这几个黄色方块是每次需要的时候根据当前版本和undo log计算出来的数据。比如,需要V2视图的数据的时候,就是通过V4依次执行undo3、undo3中的回滚操作计算出来。

对于该条数据,不同时刻启动的事务会有不同的read-view。如图中看到的,在视图A、B、C里面,这一个记录的值分别是10、11、20,同一条记录在系统中可以存在多个版本,就是数据库的多版本并发控制(MVCC,全称Multi-Version Concurrency Control),不同的事务之间的视图是没有冲突的。对于read-view A,要得到10,就必须将当前值依次执行图中所有的回滚操作得到。

回滚日志不会一直保留,在不需要的时候会被删除。也就是说,系统会判断,当没有事务再需要用到这些回滚日志时,回滚日志会被删除。什么时候才不需要了呢?就是当系统里没有比这个回滚日志更早的read-view的时候。

所以,业务中尽量不要使用长事务。长事务意味着系统里面会存在很老的事务视图。由于这些事务随时可能访问数据库里面的任何数据,所以这个事务提交之前,数据库里面它可能用到的回滚记录都必须保留,这就会导致大量占用存储空间。除了对回滚段的影响,长事务还占用锁资源,也可能拖垮整个库。

大多数的事务性存储引擎对于隔离级别的实现都不是简单的加行锁,基于性能的考虑,一般都是实现了MVCC多版本并发控制,除了Mysql之外,Oracle、PostgreSQL等其他数据库也都实现了MVCC,MVCC没有统一实现的标准,我们下面讲解InnoDB引擎的MVCC实现

MVCC可以看作是行级锁的一个变种,但它并不是锁,并且能够在很多情况下避免加锁操作,因此开销更低。大多数都是实现了非阻塞的读操作,写操作也是只锁定必要的行。

2 一致性视图的具体实现

按照可重复读的定义,一个事务启动的时候便生成当前事务全局性的视图,能够看到所有已经提交的事务结果。但是之后,这个事务执行期间,其他事务的更新对它不可见。即在一个事务启动的时候,如果有在启动之前生成的数据版本,则可以看到,如果是在该事物启动以后才生成的版本,则看不到更改,如果是这个事务自己更新的数据,则同样能够看到。

在实现上, InnoDB为每个事务构造了一个数组,用来保存这个事务启动瞬间,当前正在“活跃”的所有事务ID。“活跃”指的就是,启动了但还没提交。数组里面事务ID的最小值记为低水位,当前系统里面已经创建过的事务ID的最大值加1记为高水位。这个视图数组和高水位,就组成了当前事务的一致性视图(read-view),也被称为快照。

通常,MVCC多版本并发控制和一致性视图是同一个概念,或者说MVCC多版本并发控制是一种并发控制技术的名称,多用于数据数据中,而多个版本中的某一个版本也可以称为视图,不同版本之间的数据互不影响,无论多久之后或者经历了多少次的普通查询,查询出来的数据也不会改变,因此也称为一致性视图,或者“快照”。InnoDB中的MVCC技术最终又是依赖undo log回滚日志来实现的。

数据版本的可见性规则,就是基于数据的row trx_id和这个一致性视图的对比结果得到的。这个视图数组把所有的row trx_id 分成了几种不同的情况。
在这里插入图片描述

如上图这样,对于当前事务的启动瞬间来说,一个数据版本的row trx_id,有以下几种可能:

  1. 如果落在蓝色部分,表示这个版本是已提交的事务生成的,这个数据是可见的;
  2. 如果落在黄色部分,表示这个版本是由将来可能启动的事务生成的,是肯定不可见的;
  3. 如果落在绿色部分,那就包括两种情况:
    1. 若 row trx_id在数组中,表示这个版本是由还没提交的事务生成的,不可见;
    2. 若 row trx_id不在数组中,表示这个版本是已经提交了的事务生成的,可见。

对于此前的图中,如果有一个事务,它的row trx_id的低水位是12,那么当它访问这一行数据时,就会从V4通过undo3计算出V3,然后从V2通过undo3计算出V2,所以在它看来,这一行的值是11。

从这里我们能知道,对于可重复读,开启事务之后,系统里面随后发生的更新,就跟这个事务看到的内容无关了。因为之后的更新,生成的版本一定属于上面的2或者3(1)的情况,而对它来说,这些新的数据版本是不存在的(砍不到的),所以这个事务的快照,就是“静态”的了。

如下案例,假设此前表中的数据为:

idk
11
22

有下面三个事务:
在这里插入图片描述

注意,begin/start transaction 命令实际上并不是一个事务的起点,在执行到它们之后的第一个操作InnoDB表的语句,事务才真正启动。如果你想要马上启动一个事务,可以使用start transaction with consistent snapshot 这个命令。

注意,事务C虽然没有显示手动begin/commit事务,但由于只有一条update语句,因此在开始前会自动开启事务,完成后会自动提交事务。

三个事务的操作顺序为: start A、start B、start C、C undate k=k+1、C commit、B undate k=k+1、B Select、A Select、A commit、B commit

假设事务隔离级别是可重复读。求事务A的查询语句的结果和事务B的查询语句的结果?

3 可重复读的普通查询原理

我们分析事务A的查询语句的逻辑,假设:

  1. 事务A开始前,系统里面只有一个活跃事务ID是99;
  2. 事务A、B、C的版本号分别是100、101、102,且当前系统里只有这四个事务;
  3. 三个事务开始前,(1,1)这一行数据已有的row trx_id是90。

这样,事务A的视图数组就是[99,100], 事务B的视图数组是[99,100,101], 事务C的视图数组是[99,100,101,102]。

那么事务A查询逻辑的相关操作就如下:
在这里插入图片描述

从图中可以看到,第一个有效更新是事务C,把数据从(1,1)改成了(1,2)。这时候,这个数据的最新版本的row trx_id是102,而90这个版本已经成为了历史版本。

第二个有效更新是事务B,把数据从(1,2)改成了(1,3)。这时候,这个数据的最新版本(即row trx_id)是101,而102又成为了历史版本。

在事务A查询的时候,其实事务B还没有提交,但是它生成的(1,3)这个版本已经变成当前版本了。但这个版本对事务A必须是不可见的,否则就变成脏读了。

事务A查询语句的读数据流程是这样的:

  1. 找到(1,3)的时候,判断出row trx_id=101,比高水位大,处于红色区域,不可见;
  2. 接着,找到上一个历史版本,一看row trx_id=102,比高水位大,处于红色区域,不可见;
  3. 再往前找,终于找到了(1,1),它的row trx_id=90,比低水位小,处于绿色区域,可见。

这样执行下来,虽然期间这一行数据被修改过,但是事务A不论在什么时候查询,看到这行数据的结果都是一致的,所以我们称之为一致性读。

总结下来,一个数据版本,对于一个事务视图来说,除了自己的更新总是可见以外,有三种情况:

  1. 版本未提交,不可见;
  2. 版本已提交,但是是在视图创建后提交的,不可见;
  3. 版本已提交,而且是在视图创建前提交的,可见。

现在,我们可以判断图上的结果:

  1. (1,3)还没提交,属于情况1,不可见;
  2. (1,2)虽然提交了,但是是在视图数组创建之后提交的,属于情况2,不可见;
  3. (1,1)是在视图数组创建之前提交的,可见。

因此,此时,事务A的查询语句的结果是k=1。

4 可重复读的更新原理

上面的查询逻辑中,我们发现事务B的update语句,如果按照上面所说的一致性读来推算,好像结果不对?因为事务B的视图数组是先生成的,之后事务C才提交,不是应该算出(1,2)吗,怎么能算出(1,3)来?
在这里插入图片描述

实际上,如果事务B在更新之前查询一次数据,这个查询返回的k的值确实是1。

但是,当它要去更新数据的时候,就不能再在历史版本上更新了,否则事务C的更新就丢失了。因此,事务B此时的set k=k+1是在(1,2)的基础上进行的操作。

规则:更新数据都是先读后写的,而这个读,只能读当前的最新版本的值,称为“当前读”(current read)。因此,在更新的时候,当前读拿到的数据是(1,2),更新成功后生成了新版本的数据(1,3),这个新版本的row trx_id是101。

所以,在执行事务B查询语句的时候,一看自己的版本号是101,最新数据的版本号也是101,是自己的更新,可以直接使用,所以查询得到的k的值是3。

注意,只能看到自己更新成功的数据,比如其他事务在上一个版本更新了两条数据,而自己只更新了一条数据,则后续查询还是只能看到自己更新的那一条的数据,其他的数据则还是此前的版本(因为是非当前读)。比如其他事务在上一个版本更新了两条,而自己使用delete删除了1条,那么后续的查询将少1条数据,但看到的其他的数据则还是此前的版本。

实际上,除了更新语句之外,select语句如果加锁,也是当前读。如果把事务A的查询语句select * from t where id=1修改一下,加上lock in share mode 或 for update,也都可以读到版本号是101的数据,返回的k的值是3。下面这两个select语句,就是分别加了读锁(S锁,共享锁)和写锁(X锁,排他锁)。

假设事务C不是马上提交的,而是变成了下面的事务C,会怎么样呢?
在这里插入图片描述

事务C和之前的不同是,更新后并没有马上提交,在它提交前,事务B的更新语句先发起了。前面说过了,虽然事务C还没提交,但是(1,2)这个版本也已经生成了,并且是当前的最新版本。那么,事务B的更新语句会怎么处理呢?

实际上,在InnoDB事务中,在需要的时候会加上行锁(比如更新指定的行的时候),但并不是不需要了就立刻释放,而是要等到事务结束时才释放,这个就是两阶段锁协议(后面会介绍MySQL的锁机制)。基于此协议,事务C没提交,也就是说(1,2)这个版本上的写锁还没释放。而事务B是当前读,必须要读最新版本,而且必须对给定的行加锁,因此出现了锁竞争,事务B必须等到事务C释放这个锁,才能继续它的当前读,因此还是会读取到最新的数据。

从这里也能够看出来,如果你的某个事务中需要锁多个行,要把最可能造成锁冲突、最可能影响并发度的锁尽量往后放,也就是将此类sql放在后面执行。

所以说,事务B和事务C实际的执行流程为:
在这里插入图片描述

5 读已提交的原理

可重复读的核心就是一致性读(consistent read);而事务更新数据的时候,只能用当前读。如果当前的记录的行锁被其他事务占用的话,就需要进入锁等待。

而读提交的逻辑和可重复读的逻辑类似,它们最主要的区别是:

  1. 在可重复读隔离级别下,只需要在事务开始的时候创建一致性视图,之后事务里的其他查询都共用这个一致性视图(可以读取自己更新的数据);
  2. 在读提交隔离级别下,每一个语句执行前都会重新算出一个新的一致性视图。

在读提交隔离级别下,事务A和事务B的查询语句查到的k,分别应该是多少呢?这里需要说明一下,start transaction with consistent snapshot; 的意思是从这个语句开始,创建一个持续整个事务的一致性快照。所以,在读提交隔离级别下,这个用法就没意义了,等效于普通的start transaction。

下面是读提交时的状态图,可以看到这两个查询语句的创建视图数组的时机发生了变化,就是图中的read view框
在这里插入图片描述

这时,事务A的查询语句的视图数组是在执行这个语句的时候创建的,时序上(1,2)、(1,3)的生成时间都在创建这个视图数组的时刻之前。但是,在这个时刻:

  1. (1,3)还没提交,属于情况1,不可见;
  2. (1,2)提交了,属于情况3,可见。

所以,这时候事务A查询语句返回的是k=2,显然地,事务B查询结果k=3。

6 总结

InnoDB的读已提交和可重复读采用数据库锁和MVCC来实现,MVCC是一种多版本并发控制机制,即行数据有多个版本(底层通过undo log实现),每个数据版本有自己的row trx_id(就是当前查询所在的事务id),每个事务或者语句有自己的一致性视图。普通查询语句是一致性读,一致性读会根据row trx_id和一致性视图确定数据版本的可见性。

  1. 读未提交隔离级别下每次读取都直接返回记录上的最新值,没有视图概念,也不会加锁;
  2. 读已提交隔离级别下普通查询只承认在语句启动前就已经提交完成的数据,每一个语句执行前都会重新算出一个新的一致性视图,读取会使用这个新视图,不会加锁,即MVCC;对于写,则会加写锁,写的时候会使用当前读。
  3. 可重复读隔离级别下,普通查询只承认在事务启动前就已经提交完成的数据,即在事务开始的时候创建一致性视图,整个事务存在期间的读取都用这个视图,但能够看到自己更新的数据,不会加锁,即MVCC;对于写,则会加写锁,写的时候会使用当前读。
  4. 串行化隔离级别下则直接用加锁的方式来避免并行访问,写会加写锁,读会加读锁。

对于当前读,总是读取已经提交完成的最新版本数据,也就是多版本中最新一次提交的那版,其实现需要对相关的行记录加锁,阻塞其他事务同时对于相关记录的更新和当前读操作,避免出现安全问题。表结构不支持“可重复读”,因为表结构没有对应的行数据,也没有row trx_id,因此只能遵循当前读的逻辑。

什么情况下会使用当前读呢:

  1. select…lock in share mode (共享读锁)。
  2. select…for update(排他写锁)。
  3. update语句 , delete语句 , insert语句。

MySQL数据库的隔离级别的实现可能会使用到锁,关于数据库的锁,又是一个很大的概念,我们后面再慢慢讲解。

参考资料:

  1. 《 MySQL 技术内幕: InnoDB 存储引擎》
  2. 《高性能 MySQL》
  3. 《MySQL实战45讲 | 极客时间 | 丁奇》

如有需要交流,或者文章有误,请直接留言。另外希望点赞、收藏、关注,我将不间断更新各种Java学习博客!

以上是关于数据库篇:mysql事务原理之MVCC视图+锁的主要内容,如果未能解决你的问题,请参考以下文章

Mysql原理篇之事务隔离级别和MVCC--13

Mysql事务(MVCC实现原理)锁sql优化

Mysql—4种隔离级别以及MVCC一致性视图的实现原理

mysql面试必问:事务-锁-MVCC

Mysql原理篇之MVCC原理--01

MYSQL MVCC实现原理