高并发的MySQL数据查询时,会不会选择数据库连接池?

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了高并发的MySQL数据查询时,会不会选择数据库连接池?相关的知识,希望对你有一定的参考价值。

现象

Sysbench对mysql进行压测, 并发数过大(>5k)时, Sysbench建立连接的步骤会超时.

猜想

猜想: 直觉上这很简单, Sysbench每建立一个连接, 都要消耗一个线程, 资源消耗过大导致超时.

验证: 修改Sysbench源码, 调大超时时间, 仍然会发生超时.

检查环境

猜想失败, 回到常规的环境检查:

    MySQL error log 未见异常.

    syslog 未见异常.

    tcpdump 观察网络包未见异常, 连接能完成正常的三次握手; 只观察到在出问题的连接中, 有一部分的TCP握手的第一个SYN包发生了重传, 另一部分没有发生重传.

    自己写一个简单的并发发生器, 替换sysbench, 可重现场景. 排除sysbench的影响

    猜想2

    怀疑 MySQL 在应用层因为某种原因, 没有发送握手包, 比如卡在某一个流程上:

    检查MySQL堆栈未见异常, 仿佛MySQL在应用层没有看到新连接进入.

    通过strace检查MySQL, 发现 accept() 调用确实没有感知到新连接.

    怀疑是OS的原因, Google之, 得到参考文档: A TCP “stuck” connection mystery【http://www.evanjones.ca/tcp-stuck-connection-mystery.html

    分析

    参考文档中的现象跟目前的状况很类似, 简述如下:

    正常的TCP连接流程:

    Client 向 Server 发起连接请求, 发送SYN.

    Server 预留连接资源, 向 Client 回复SYN-ACK.

    Client 向 Server 回复ACK.

    Server 收到 ACK, 连接建立.

    在业务层上, Client和Server间进行通讯.

    当发生类似SYN-flood的现象时, TCP连接的流程会使用SYN-cookie, 变为:

    Client 向 Server 发起连接请求, 发送SYN.

    Server 不预留连接资源, 向 Client 回复SYN-ACK, 包中附带有签名A.

    Client 向 Server 回复ACK, 附带 f(签名A) (对签名进行运算的结果).

    Server 验证签名, 分配连接资源, 连接建立.

    在业务层上, Client和Server间进行通讯.

    当启用SYN-cookie时, 第3步的ACK包因为 某种原因 丢失, 那么:

    从Client的视角, 连接已经建立.

    从Server的视角, 连接并不存在, 既没有建立, 也没有”即将建立” (若不启用SYN-cookie, Server会知道某个连接”即将建立”)

    发生这种情况时:

    若业务层的第一个包应是从 Client 发往 Server, 则会进行重发或抛出连接错误

    若业务层的第一个包应是从 Server 发往 Client的, Server不会发出第一个包. MySQL的故障就属于这种情况.

    TCP握手的第三步ACK包为什么丢失

    参考文档中, 对于TCP握手的第三步ACK包的丢失原因, 描述为:

    Some of these packets get lost because some buffer somewhere overflows.

    我们可以通过Systemtap进一步探究原因. 通过一个简单的脚本:

    probe kernel.function("cookie_v4_check").return

    source_port = @cast($skb->head + $skb->transport_header, "struct tcphdr")->source

    printf("source=%d, return=%d\\n",readable_port(source_port), $return)

    function readable_port(port)

    return (port & ((1<<9)-1)) << 8 | (port >> 8)

    观察结果, 可以确认cookie_v4_check (syn cookie机制进行包签名检查的函数)会返回 NULL(0). 即验证是由于syn cookie验证不通过, 导致TCP握手的第三步ACK包不被接受.

    之后就是对其中不同条件进行观察, 看看是哪个条件不通过. 最终原因是accept队列满(sk_acceptq_is_full):

    static inline bool sk_acceptq_is_full(const struct sock  *sk)   return sk->sk_ack_backlog > sk-   >sk_max_ack_backlog;

    恢复故障与日志的正关联

    在故障处理的一开始, 我们就检查了syslog, 结论是未见异常.

    当整个故障分析完成, 得知了故障与syn cookie有关, 回头看syslog, 里面是有相关的信息, 只是和故障发生的时间不匹配, 没有正关联, 因此被忽略.

    检查Linux源码:

    if (!queue->synflood_warned &&

    sysctl_tcp_syncookies != 2 &&

    xchg(&queue->synflood_warned, 1) == 0)

    pr_info("%s: Possible SYN flooding on port %d. %s.

    Check SNMP counters.\\n",

    proto, ntohs(tcp_hdr(skb)->dest), msg);

    可以看到日志受到了抑制, 因此日志与故障的正关联被破坏.

    粗看源码, 每个listen socket只会发送一次告警日志, 要获得日志与故障的正关联, 必须每次测试重启MySQL.

    解决方案

    这种故障一旦形成, 难以检测; 系统日志中只会出现一次, 在下次重启MySQL之前就不会再出现了; Client如果没有合适的超时机制, 万劫不复.

    解决方案:
    1. 修改MySQL的协议, 让Client先发握手包. 显然不现实.
    2. 关闭syn_cookie. 有安全的人又要跳出来了.
    3. 或者调高syn_cookie的触发条件 (syn backlog长度). 降低系统对syn flood的敏感度, 使之可以容忍业务的syn波动.

    有多个系统参数混合影响syn backlog长度, 参看【http://blog.dubbelboer.com/2012/04/09/syn-cookies.html】

    下图为精华总结

    请点击输入图片描述

参考技术A 好了,基本概念说完了,言归正传进行比较了。
首先说明的一点,为了应用便于移植以及可配置的角度,建议还是使用jndi统一进行连接池的配置。怎么配置其实网上都有很多例子,
这里简单举个例子(使用spring框架):
首先在应用的上下文定义中配置jndi名称,如一个resource.xml文件,里边的写法
<bean id="dataSource" class="org.springframework.jndi.JndiObjectFactoryBean">
<property name="jndiName"><value>jdbc/myapp</value></property>
</bean>
注意dataSource这个bean在dao层(hibernate或jdbc)的配置文件里需要作为dataSource名称的属性配置到所有bean中
其中“jdbc/myds”这个就是jndi名称了,下一步就是在应用服务器连接池里进行数据库连接以及对应的jndi配置了

高并发系统设计:Mysql数据库的优化主从读写分离分库分表

主从读写分离

其实,大部分系统的访问模型是读多写少,读写请求量的差距可能达到几个数量级,那么这就是我们所说的主从读写分离。

主从复制的原理这里不再阐述,本人博客里有关于Mysql主从的配置文章,当然里面也介绍了原理。

做了主从复制之后,就可以在写入时只写主库,在读数据时只读从库,这样即使写请求会锁表或者锁记录,也不会影响到读请求的执行。同时呢,在读流量比较大的情况下,可以部署多个从库共同承担读流量,这就是所说的“一主多从”部署方式,另外,从库也可以当成一个备库来使用,以避免主库故障导致数据丢失。但随着从库数量增加,从库连接上来的IO线程比较多,主库也需要创建同样多的log dump线程来处理复制的请求,对于主库资源消耗比较高,同时受限于主库的网络带宽,所以在实际使用中,一般一个主库最多挂3~5个从库。

当然也会出现主从同步延迟的情况,那么也可以有响应的办法解决此类问题,或者根据不同的业务场景来设计代码,哪怕出现数据冗余,或者适当的从主库拿数据。如主库发不完信息把信息同时写入缓存,读的时候直接从缓存取数据;比如关键数据的信息不仅仅把ID写入队列或者缓存,也可以避免查库;再比如直接主库拿;

分库分表

系统正在持续不断地的发展,注册的用户越来越多,产生的订单越来越多,数据库中存储的数据也越来越多,单个表的数据量超过了千万甚至到了亿级别。这时即使你使用了索引,索引占用的空间也随着数据量的增长而增大,数据库就无法缓存全量的索引信息,那么就需要从磁盘上读取索引数据,就会影响到查询的性能了。那么这时可以分库分表。

数据库分库分表的方式有两种:一种是垂直拆分,另一种是水平拆分。这两种方式,在我看来,掌握拆分方式是关键,理解拆分原理是内核。所以、最好可以结合自身业务来思考。

如何对数据库做水平拆分

和垂直拆分的关注点不同,垂直拆分的关注点在于业务相关性,而水平拆分指的是将单一数据表按照某一种规则拆分到多个数据库和多个数据表中,关注点在数据的特点。

拆分的规则有下面这两种:

1.按照某一个字段的哈希值做拆分,这种拆分规则比较适用于实体表,比如说用户表,内容表,我们一般按照这些实体表的ID字段来拆分。比如说我们想把用户表拆分成16个库,64张表,那么可以先对用户ID做哈希,哈希的目的是将ID尽量打散,然后再对16取余,这样就得到了分库后的索引值;对64取余,就得到了分表后的索引值。

 

 

 

2.另一种比较常用的是按照某一个字段的区间来拆分,比较常用的是时间字段。你知道在内容表里面有“创建时间”的字段,而我们也是按照时间来查看一个人发布的内容。我们可能会要看昨天的内容,也可能会看一个月前发布的内容,这时就可以按照创建时间的区间来分库分表,比如说可以把一个月的数据放入一张表中,这样在查询时就可以根据创建时间先定位数据存储在哪个表里面,再按照查询条件来查询。

一般来说,列表数据可以使用这种拆分方式,比如一个人一段时间的订单,一段时间发布的内容。但是这种方式可能会存在明显的热点,这很好理解嘛,你当然会更关注最近我买了什么,发了什么,所以查询的QPS也会更多一些,对性能有一定的影响。另外,使用这种拆分规则后,数据表要提前建立好,否则如果时间到了2020年元旦,DBA(Database Administrator,数据库管理员)却忘记了建表,那么2020年的数据就没有库表可写了,就会发生故障了。

 

 

数据库在分库分表之后,数据的访问方式也有了极大的改变,原先只需要根据查询条件到从库中查询数据即可,现在则需要先确认数据在哪一个库表中,再到那个库表中查询数据。提示:需要对所使用数据库中间件的原理有足够的了解和足够强的运维上的把控能力。

 

以上是关于高并发的MySQL数据查询时,会不会选择数据库连接池?的主要内容,如果未能解决你的问题,请参考以下文章

mysql 利用唯一索引Unique 高并发创建不重复唯一订单号是不是和兴?

tomcat 线程数与 mysql 连接数综合调优

性能调优之MYSQL高并发优化

mysql数据库怎么解决高并发问题

高并发系统设计:如何减少频繁创建数据库连接的性能损耗?

Tomcat优化-提高并发