Day892.MySql读写分离过期读问题 -MySQL实战

Posted 阿昌喜欢吃黄桃

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Day892.MySql读写分离过期读问题 -MySQL实战相关的知识，希望对你有一定的参考价值。

mysql读写分离过期读问题

Hi，我是阿昌，今天学习记录的是关于MySql读写分离过期读问题的内容。

一主多从架构的应用场景：读写分离，以及怎么处理主备延迟导致的读写分离问题。

一主多从的结构，其实就是读写分离的基本结构了。

读写分离的主要目标就是分摊主库的压力。

图 1 中的结构是客户端（client）主动做负载均衡，这种模式下一般会把数据库的连接信息放在客户端的连接层。

也就是说，由客户端来选择后端数据库进行查询。

还有一种架构是，在 MySQL 和客户端之间有一个中间代理层 proxy，客户端只连接 proxy， 由 proxy 根据请求类型和上下文决定请求的分发路由。

看一下客户端直连和带 proxy 的读写分离架构，各有哪

  1. 客户端直连方案，因为少了一层 proxy 转发，所以查询性能稍微好一点儿，并且整体架构简单，排查问题更方便。但是这种方案，由于要了解后端部署细节，所以在出现主备切换、库迁移等操作的时候，客户端都会感知到，并且需要调整数据库连接信息。你可能会觉得这样客户端也太麻烦了，信息大量冗余，架构很丑。其实也未必，一般采用这样的架构，一定会伴随一个负责管理后端的组件，比如 Zookeeper，尽量让业务端只专注于业务逻辑开发。
  2. 带 proxy 的架构，对客户端比较友好。客户端不需要关注后端细节，连接维护、后端信息维护等工作，都是由 proxy 完成的。但这样的话，对后端维护团队的要求会更高。而且，proxy 也需要有高可用架构。因此，带 proxy 架构的整体就相对比较复杂。

理解了这两种方案的优劣，具体选择哪个方案就取决于数据库团队提供的能力了。但目前看，趋势是往带 proxy 的架构方向发展的。

由于主从可能存在延迟，客户端执行完一个更新事务后马上发起查询，如果查询选择的是从库的话，就有可能读到刚刚的事务更新之前的状态。

这种“在从库上会读到系统的一个过期状态”的现象，暂且称之为“过期读”。

主从延迟还是不能 100% 避免的，不论哪种结构，客户端都希望查询从库的数据结果，跟查主库的数据结果是一样的。

处理过期读的方案包括：

  • 强制走主库方案；
  • sleep 方案；
  • 判断主备无延迟方案；
  • 配合 semi-sync 方案；
  • 等主库位点方案；
  • 等 GTID 方案。

一、强制走主库方案

强制走主库方案其实就是，将查询请求做分类。通常情况下，可以将查询请求分为这么两类：

  1. 对于必须要拿到最新结果的请求，强制将其发到主库上。比如，在一个交易平台上，卖家发布商品以后，马上要返回主页面，看商品是否发布成功。那么，这个请求需要拿到最新的结果，就必须走主库。
  2. 对于可以读到旧数据的请求，才将其发到从库上。在这个交易平台上，买家来逛商铺页面，就算晚几秒看到最新发布的商品，也是可以接受的。那么，这类请求就可以走从库。

这个方案是不是有点畏难和取巧的意思，但其实这个方案是用得最多的。

当然，这个方案最大的问题在于，有时候你会碰到“所有查询都不能是过期读”的需求，比如一些金融类的业务。

这样的话，就要放弃读写分离，所有读写压力都在主库，等同于放弃了扩展性。

二、Sleep 方案

主库更新后，读从库之前先sleep一下。类似于执行一条 select sleep(1) 命令。

这个方案的假设是，大多数情况下主备延迟在 1 秒之内，做一个 sleep 可以有很大概率拿到最新的数据。

这个方案给第一感觉，很可能是不靠谱儿，应该不会有人用吧？直接在发起查询时先执行一条 sleep 语句，用户体验很不友好啊。但，这个思路确实可以在一定程度上解决问题。

为了看起来更靠谱儿，可以换一种方式。以卖家发布商品为例，商品发布后，用 Ajax（Asynchronous javascript + XML，异步 JavaScript 和 XML）直接把客户端输入的内容作为“新的商品”显示在页面上，而不是真正地去数据库做查询。这样，卖家就可以通过这个显示，来确认产品已经发布成功了。等到卖家再刷新页面，去查看商品的时候，其实已经过了一段时间，也就达到了 sleep 的目的，进而也就解决了过期读的问题。也就是说，这个 sleep 方案确实解决了类似场景下的过期读问题。

但，从严格意义上来说，这个方案存在的问题就是不精确。这个不精确包含了两层意思：

  1. 如果这个查询请求本来 0.5 秒就可以在从库上拿到正确结果，也会等 1 秒；
  2. 如果延迟超过 1 秒，还是会出现过期读。

是不是有一种“你是不是在逗我”的感觉，这个改进方案虽然可以解决类似 Ajax 场景下的过期读问题，但还是怎么看都不靠谱儿。

三、判断主备无延迟方案

要确保备库无延迟，通常有三种做法。MySQL高可用知道show slave status结果里的 seconds_behind_master 参数的值，可以用来衡量主备延迟时间的长短。

所以第一种确保主备无延迟的方法是，每次从库执行查询请求前，先判断 seconds_behind_master 是否已经等于 0。

如果还不等于 0 ，那就必须等到这个参数变为 0 才能执行查询请求。seconds_behind_master 的单位是秒，如果觉得精度不够的话，还可以采用对比位点和 GTID 的方法来确保主备无延迟。

如图 3 所示，是一个 show slave status 结果的部分截图。

现在，就通过这个结果，来看看具体如何通过对比位点和 GTID 来确保主备无延迟。

第二种方法，对比位点确保主备无延迟：

  • Master_Log_File 和 Read_Master_Log_Pos，表示的是读到的主库的最新位点；
  • Relay_Master_Log_File 和 Exec_Master_Log_Pos，表示的是备库执行的最新位点。

如果 Master_Log_File 和 Relay_Master_Log_File、Read_Master_Log_Pos 和 Exec_Master_Log_Pos 这两组值完全相同，就表示接收到的日志已经同步完成。

第三种方法，对比 GTID 集合确保主备无延迟：

  • Auto_Position=1 ，表示这对主备关系使用了 GTID 协议。
  • Retrieved_Gtid_Set，是备库收到的所有日志的 GTID 集合；
  • Executed_Gtid_Set，是备库所有已经执行完成的 GTID 集合。

如果这两个集合相同，也表示备库接收到的日志都已经同步完成。可见，对比位点和对比 GTID 这两种方法，都要比判断 seconds_behind_master 是否为 0 更准确。在执行查询请求之前，先判断从库是否同步完成的方法，相比于 sleep 方案，准确度确实提升了不少，但还是没有达到“精确”的程度。

一个事务的 binlog 在主备库之间的状态：

  1. 主库执行完成，写入 binlog，并反馈给客户端；
  2. binlog 被从主库发送给备库，备库收到；
  3. 在备库执行 binlog 完成。

上面判断主备无延迟的逻辑，是“备库收到的日志都执行完成了”。但是，从 binlog 在主备之间状态的分析中，不难看出还有一部分日志，处于客户端已经收到提交确认，而备库还没收到日志的状态。

如图 4 所示就是这样的一个状态。


这时，主库上执行完成了三个事务 trx1、trx2 和 trx3，其中：

  1. trx1 和 trx2 已经传到从库，并且已经执行完成了；
  2. trx3 在主库执行完成，并且已经回复给客户端，但是还没有传到从库中。

如果这时候在从库 B 上执行查询请求，按照我们上面的逻辑，从库认为已经没有同步延迟，但还是查不到 trx3 的。严格地说，就是出现了过期读。

四、配合 semi-sync

要解决这个问题，就要引入半同步复制，也就是 semi-sync replication。semi-sync 做了这样的设计：

  1. 事务提交的时候，主库把 binlog 发给从库；
  2. 从库收到 binlog 以后，发回给主库一个 ack，表示收到了；
  3. 主库收到这个 ack 以后，才能给客户端返回“事务完成”的确认。

也就是说，如果启用了 semi-sync，就表示所有给客户端发送过确认的事务，都确保了备库已经收到了这个日志。

如果主库掉电的时候，有些 binlog 还来不及发给从库，会不会导致系统数据丢失？答案是，如果使用的是普通的异步复制模式，就可能会丢失，但 semi-sync 就可以解决这个问题。这样，semi-sync 配合前面关于位点的判断，就能够确定在从库上执行的查询请求，可以避免过期读。但是，semi-sync+ 位点判断的方案，只对一主一备的场景是成立的。

在一主多从场景中，主库只要等到一个从库的 ack，就开始给客户端返回确认。这时，在从库上执行查询请求，就有两种情况：

  1. 如果查询是落在这个响应了 ack 的从库上，是能够确保读到最新数据；
  2. 但如果是查询落到其他从库上，它们可能还没有收到最新的日志，就会产生过期读的问题。

其实，判断同步位点的方案还有另外一个潜在的问题，即：如果在业务更新的高峰期，主库的位点或者 GTID 集合更新很快，那么上面的两个位点等值判断就会一直不成立，很可能出现从库上迟迟无法响应查询请求的情况。

实际上，回到最初的业务逻辑里，当发起一个查询请求以后，要得到准确的结果，其实并不需要等到“主备完全同步”。

为什么这么说呢？来看一下这个时序图。

图 5 所示，就是等待位点方案的一个 bad case。

图中备库 B 下的虚线框，分别表示 relaylog 和 binlog 中的事务。

可以看到，图 5 中从状态 1 到状态 4，一直处于延迟一个事务的状态。备库 B 一直到状态 4 都和主库 A 存在延迟，如果用上面必须等到无延迟才能查询的方案，select 语句直到状态 4 都不能被执行。但是，其实客户端是在发完 trx1 更新后发起的 select 语句，只需要确保 trx1 已经执行完成就可以执行 select 语句了。也就是说，如果在状态 3 执行查询请求，得到的就是预期结果了。

小结一下，semi-sync 配合判断主备无延迟的方案，存在两个问题：

  1. 一主多从的时候，在某些从库执行查询请求会存在过期读的现象；
  2. 在持续延迟的情况下，可能出现过度等待的问题。

五、等主库位点方案

要理解等主库位点方案，需要先和介绍一条命令：

select master_pos_wait(file, pos[, timeout]);

这条命令的逻辑如下：

  1. 它是在从库执行的；
  2. 参数 file 和 pos 指的是主库上的文件名和位置；
  3. timeout 可选，设置为正整数 N 表示这个函数最多等待 N 秒。

这个命令正常返回的结果是一个正整数 M，表示从命令开始执行，到应用完 file 和 pos 表示的 binlog 位置，执行了多少事务。

当然，除了正常返回一个正整数 M 外，这条命令还会返回一些其他结果，

  1. 如果执行期间，备库同步线程发生异常，则返回 NULL；
  2. 如果等待超过 N 秒，就返回 -1；
  3. 如果刚开始执行的时候，就发现已经执行过这个位置了，则返回 0。

对于图 5 中先执行 trx1，再执行一个查询请求的逻辑，要保证能够查到正确的数据，可以使用这个逻辑：

  1. trx1 事务更新完成后，马上执行 show master status 得到当前主库执行到的 File 和 Position；
  2. 选定一个从库执行查询语句；
  3. 在从库上执行 select master_pos_wait(File, Position, 1)；
  4. 如果返回值是 >=0 的正整数，则在这个从库执行查询语句；
  5. 否则，到主库执行查询语句。

把上面这个流程画出来。

这里假设，这条 select 查询最多在从库上等待 1 秒。那么，如果 1 秒内 master_pos_wait 返回一个大于等于 0 的整数，就确保了从库上执行的这个查询结果一定包含了 trx1 的数据。步骤 5 到主库执行查询语句，是这类方案常用的退化机制。因为从库的延迟时间不可控，不能无限等待，所以如果等待超时，就应该放弃，然后到主库去查。

可能会说，如果所有的从库都延迟超过 1 秒了，那查询压力不就都跑到主库上了吗？

确实是这样。但是，按照设定不允许过期读的要求，就只有两种选择：

  • 一种是超时放弃
  • 一种是转到主库查询。

具体怎么选择，就需要业务开发同学做好限流策略了。

六、GTID 方案

如果数据库开启了 GTID 模式，对应的也有等待 GTID 的方案。

MySQL 中同样提供了一个类似的命令：

 select wait_for_executed_gtid_set(gtid_set, 1);

这条命令的逻辑是：

  1. 等待，直到这个库执行的事务中包含传入的 gtid_set，返回 0；
  2. 超时返回 1。

在前面等位点的方案中，执行完事务后，还要主动去主库执行 show master status。

而 MySQL 5.7.6 版本开始，允许在执行完更新类事务后，把这个事务的 GTID 返回给客户端，这样等 GTID 的方案就可以减少一次查询。

这时，等 GTID 的执行流程就变成了：

  1. trx1 事务更新完成后，从返回包直接获取这个事务的 GTID，记为 gtid1；
  2. 选定一个从库执行查询语句；
  3. 在从库上执行 select wait_for_executed_gtid_set(gtid1, 1)；
  4. 如果返回值是 0，则在这个从库执行查询语句；
  5. 否则，到主库执行查询语句。

跟等主库位点的方案一样，等待超时后是否直接到主库查询，需要业务开发同学来做限流考虑。

流程图画出来：

在上面的第一步中，trx1 事务更新完成后，从返回包直接获取这个事务的 GTID。

问题是，怎么能够让 MySQL 在执行事务后，返回包中带上 GTID 呢？

只需要将参数 session_track_gtids 设置为 OWN_GTID，然后通过 API 接口 mysql_session_track_get_first 从返回包解析出 GTID 的值即可。在基础架构中，mysql_reset_connection 的时候，这类接口应该怎么使用。

其实，MySQL 并没有提供这类接口的 SQL 用法，是提供给程序的 API。

比如，为了让客户端在事务提交后，返回的 GITD 能够在客户端显示出来，对 MySQL 客户端代码做了点修改，如下所示：


这样，就可以看到语句执行完成，显示出 GITD 的值。

当然了，这只是一个例子。要使用这个方案的时候，还是应该在客户端代码中调用 mysql_session_track_get_first 这个函数。

七、总结

这几种方案中，有的方案看上去是做了妥协，有的方案看上去不那么靠谱儿，但都是有实际应用场景的，需要根据业务需求选择。即使是最后等待位点和等待 GTID 这两个方案，虽然看上去比较靠谱儿，但仍然存在需要权衡的情况。

如果所有的从库都延迟，那么请求就会全部落到主库上，这时候会不会由于压力突然增大，把主库打挂了呢？

其实，在实际应用中，这几个方案是可以混合使用的。比如，先在客户端对请求做分类，区分哪些请求可以接受过期读，而哪些请求完全不能接受过期读；然后，对于不能接受过期读的语句，再使用等 GTID 或等位点的方案。

过期读在本质上是由一写多读导致的。在实际应用中，可能会有别的不需要等待就可以水平扩展的数据库方案，但这往往是用牺牲写性能换来的，也就是需要在读性能和写性能中取权衡。

假设系统采用了文中介绍的 GTID 的方案，现在要对主库的一张大表做 DDL，可能会出现什么情况呢？
为了避免这种情况，会怎么做呢？

有两种方案：

  • 第一种是读写请求转到主库，在主库上做DDL。
  • 第二种是从库上做DDL，完成后进行主从切换。

以上是关于Day892.MySql读写分离过期读问题 -MySQL实战的主要内容，如果未能解决你的问题，请参考以下文章

day7-读写分离

大型网站架构演进数据库读写分离

大型网站架构演进数据库读写分离

字节一面：Redis主节点的Key已过期，但从节点依然读到过期数据....

mysql读写分离

Mysql(24)—读写分离的基本概念和实现方式