谈谈死锁之四 秒杀场景下开源MySQL压测细节

Posted ACMUG

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了谈谈死锁之四 秒杀场景下开源MySQL压测细节相关的知识,希望对你有一定的参考价值。

3306现金有奖征稿说明:



作者简介:杨德华

微店高级技术专家  前阿里集团数据库技术团队数据库专家,花名应元,经过5年双十一数据库大考验。




前期回顾:

死锁一:

死锁二:

死锁三:



mysql性能指标和基本工作原理

TPS:每秒事务量,以下表格的TPS是从sysbench反馈出来的实际事务量

Time:减掉50w库存的总时间

threads_running:MySQL的活跃线程数,MySQL Server层的用于统计MySQL当前处理链接的重要状态变量

connection:客户端到MySQL Server的链接总数,用于反映客户端的链接量。

response_time:响应时间,sysbench的执行结果最终统计值,单位是毫秒,这里是99%的事务的响应时间统计

avg_rt:平均响应时间,sysbench的执行结果最终统计值,单位毫秒,平均响应时间是(min+max+99%)/事务执行次数得到的


死锁检测:死锁检测是InnoDB的一个处理机制,每一个事务在申请一个锁的时候,发现申请这个锁需要等待,就会进入到死锁检测的过程。

死锁是数据库在并发事务场景里面场景的问题,原因是两个(或以上)不同的事务互相持有了对方需要的资源。


死锁检测的处理过程:

1.把事务等待列表和锁等待信息列表通过事务信息进行wait-for graph 检测,如果发现有闭环,则回滚undo log 量少的事务;

2.死锁检测本身也会算检测本身所需要的成本


死锁检测最后有三种情况

1.等待图检测到死锁

2.等待图检测过久,超过了阈值

3.没检测到死锁,退出死锁检测

thread_handling:MySQL的线程处理方式,我们选择的是one-thread-per-connection。MySQL5.5企业版提供了线程池的收费版插件,5.6.19社区版不带有线程池功能。而Percona5.6.25基于MariaDB,提供了线程池功能。

innodb_thread_concurrency:InnoDB层的并发控制。由于MySQL Server是一个插拔式架构,InnoDB是存储引擎插件。MySQL Server层主要是向InnoDB发起数据的增删改查请求,InnoDB在每次接收MySQL Server的请求时,会查看自身已经在处理多少个线程了。如果这个参数的值是0,则不检查;这个参数一般是设置成服务器CPU的核数。


热点更新下的死锁检测

由于热点更新是分布式的客户端并发的向单点的数据库进行了并行更新一条记录,到数据库最后是把并行的线程转行成串行的操作。

但在串行操作的时候,由于对同一记录的锁申请列表过大,死锁检测的机制在检测锁队列的时候,反而拖慢了每一个更新。


热点更新下关闭死锁检测

这个场景,其实在2009年就有国外友人遇到过 ,链接见此。这里面的讨论很有意思,InnoDB事务的作者对这个问题认为是业务设计不合理,觉得应该通过业务架构调整来避免。

facebook于2010年提出了 ,增加一个参数innodb_deadlock_detect,通过参数的值来判断是否进入死锁检测,实现了性能的大幅提升。具体的代码可以下载fb5.6的源码进行学习。我们也是基于fb的补丁,把对应的代码合并到了MySQL5.6.19和Percona5.6.25 。

2016年,Oracle MySQL 官方5.7.15终于合并了这个innodb_deadlock_detect的补丁。通过对比FB的补丁的实现,官方是基于FB的实现来增加功能的。


线程池

MySQL处理客户端对应的参数是thread_handling,对应了3个方式

1.no-threads,用于Linux下的debug模式,服务端只创建一个线程来服务一个客户端链接

2.one-thread-per-connection  每一个客户端链接,服务端都会创建对应的一个线程来服务,然后根据thread_cache来进行缓存线程信息以便重复使用。这种模式在低并发的时候可以极大的利用服务器资源,但到了高并发的场景下,服务端管理太多的线程反而导致上下文切换成本过高。

3.dynamically-loaded 线程池模式 服务端预先根据设置的线程池大小,创建好线程,等客户端创建connections到Server后,调度线程池里面的线程来进行排队服务,可以理解为线程池帮助服务端做了一下缓冲,减少对后端的影响,后端可以更专注于本身的事情。


线程池模式在MySQL 5.5 企业版,提供了一个线程池的Plugin,专门针对MySQL的活跃线程超过一定数量(128个)性能会大幅下跌的场景。线程池通过限制了进入到存储引擎级别的线程,提高了MySQL性能的稳定。但没开源。

MariaDB 随后也开发了线程池功能,并把代码进行了开源。

Percona基于MariaDB的线程池,也增加了线程池功能,我们压测的版本Percona-5.6.25默认带有线程池功能。

我们可以看一下,Oracle官方提供的线程池和没有线程池的性能对比图,性能在高并发情况下是杠杠的。

谈谈死锁之四 秒杀场景下开源MySQL压测细节


性能压测详细数据


MySQL5.6.19 版本(默认有死锁检测) A

谈谈死锁之四 秒杀场景下开源MySQL压测细节


MySQL5.6.19 版本(增加关闭死锁检测补丁,设置关闭死锁检测) B

谈谈死锁之四 秒杀场景下开源MySQL压测细节


Percona5.6.25 线程池调优+关闭死锁检测 C

谈谈死锁之四 秒杀场景下开源MySQL压测细节


Percona5.6.25 线程池调优+死锁检测 D



注:ACMUG收录技术文章版权属于原作者本人所有。如有疑问,请联系作者。



以上是关于谈谈死锁之四 秒杀场景下开源MySQL压测细节的主要内容,如果未能解决你的问题,请参考以下文章

谈谈MySQL死锁 一

谈谈MySQL死锁 一

谈谈mongodb,mysql的区别和具体应用场景

谈谈MySQL死锁之二 死锁检测和处理源码分析

实践角度,谈谈库存扣减和锁

谈谈环保问题之四-做环保的程序员