数据库优化 | 亿级数据量系统数据库性能优化方案

Posted wyf0518

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了数据库优化 | 亿级数据量系统数据库性能优化方案相关的知识,希望对你有一定的参考价值。

一、数据库性能瓶颈主要原因

1、数据库连接

mysql数据库默认连接为100,我们可以通过配置initialSize、minIdle、maxActive等进行调优,但由于硬件资源的限制,数据库连接不可能无限制的增加,对大型单体应用单实例数据库可能会出现最大连接数不能满足实际需求的情况,这时就会系统业务阻塞。

2、表数据量大(空间存储问题)

普遍观点认为单表数据量超过1000万条时就是出现数据库读取性能瓶颈。从索引角度分析,如果索引未被命中,数据库系统就会全表扫描,数据量越大,扫描全表的时间就会越长;即使索引被命中了,由于B+TREE索引是存放在硬盘上的,数据量越大B+TREE层次越深,IO次数也就越多。

3、硬件资源限制

硬件资源直接影响QPS每秒查询数/TPS每秒事务数。

二、数据性能优化方案

常见的数据性能优化方案:SQL优化、缓存、创建索引、读写分离、分库分表等。

解决大数据量性能优化,真正有效方案是采用分布式数据存储,即上面所述读写分离和分库分表。

1、读写分离

读写分离基于主从复制,采用区别读、写多数据源方式进行数据的存储和加载。数据的存储(增删改)指定写数据源,数据的读取查询指定读数据源。

技术图片

通过读写分离复制与master相同的数据源(一主多从),多数据源可以部署到不同主机上,从而可以解决数据里连接瓶颈和硬件资源限制问题。

2、分库分表

对数据的库表进行拆分,用分片的方式对数据进行管理。

技术图片

数据库垂直拆分将单一库拆分多个领域数据库,使各领域数据库移植性更好,功能划分更清晰。同时也能解决数据库连接、硬件资源限制问题。任何一种方案在解决问题的同时,也会带来新的问题,分库分表也不例外,比如关联查询变得复杂、分布式事务问题等。

技术图片

水平拆分是将大表按照一定规则拆分成若干个小表,比如将3000万数据量的一张单表user拆分为3个小表user01、user02、user03。主要解决了单表数据量大问题,从而也就解决了存储空间带来的数据库性能瓶颈。

下一篇文章将重点讲解MyCat及其在分库分表方面的应用,更详细介绍分库分表实现方案。

以上是关于数据库优化 | 亿级数据量系统数据库性能优化方案的主要内容,如果未能解决你的问题,请参考以下文章

亿级 Elasticsearch 性能优化

亿级 Elasticsearch 性能优化

SQL优化(SQL TUNING)之10分钟完成亿级数据量性能优化(SQL调优)

SQL优化(SQL TUNING)之10分钟完毕亿级数据量性能优化(SQL调优)

基于Mysql数据库亿级数据下的分库分表方案

突破性能瓶颈!ElasticSearch百亿级数据检索优化案例