ClickHouse 读写分离方案
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了ClickHouse 读写分离方案相关的知识,希望对你有一定的参考价值。
参考技术A 1、通过上面的配置,写的时候,我们自己控制写到除第一个replica的其他replica上;在通过分布式表读的时候,就会自动把读请求分发到第一个replica上,再利用复制特性把数据同步到自己replica上。通过这样子的设计,使得读请求与写请求分开。2、优点
(1)相比之前的普通集群配置,等于把空闲的资源利用起来,提供了集群资源利用率。
(2)读写互不干扰,单并发的写、读性能提升。
3、缺点
(1)相比普通的集群配置,当并发多查请求时,性能下降更厉害。假设集群有N台,则在多个请求过来的时候,可以理解集群有N台服务器能提供读服务;当使用这种架构的时候,则只有N/2台能提供服务,单台负载的请求数翻倍。
4、all
mysql 官方读写分离方案
mysql 8.0 集群模式下的自动读写分离方案
问题
- 多主模式下的组复制,看起来挺好,起始问题和限制很多。而且中断一个复制就无法配置了
- 多主模式下,innodbcluster 等于是无用的,不需要自动切换,
- 多主模式,不应该作为高可用方案,太多风险
- 单主模式下,innodbcluster 自动切换,前端挂mysql router进行自动读负载和写转发。
- 但是程序 往往没有做读写分离的方案,无法写的时候找写节点,读的时候找读节点
解决方案:
Oracle官方想到了这个问题,让JDBC驱动来解决
JDBC 驱动有一种 replication 模式,可以看如下链接
https://dev.mysql.com/doc/connector-j/8.0/en/connector-j-master-slave-replication-connection.html
http://shift-alt-ctrl.iteye.com/blog/2399464
URL 范例
- jdbc:mysql:replication://address=(type=master)(host=mr1)(port=mp1),address=(type=master)(host=mr2)(port=mp2),address=(type=slave)(host=sr1)(port=sp1)../database
根据上文约定,良好架构下,针对WRITE操作的Router集群应该有3个节点,那么我们需要在URL中指定三个“type=master”的Router地址;此外“type=slave”的地址为接收READ操作的Router节点地址,需要多个。
根据replication协议的设计原理,对于WRITE、READ操作将会在相应的Router节点之间“负载均衡”,默认策略为“轮询”;当其中某个Router失效,replication协议提供了Failover机制,将会把请求路由到同一type的其他Router节点。
此外有几个可以参考的参数,我们配合replication协议:
1)autoReconnect:设置为false,遵循默认值。
2)failOverReadOnly:此参数只会在autoReconnect为true时生效,建议保持默认值“true”。
3)roundRobinLoadBalance:此参数只会在autoReconnect为true、failOverReadOnly为false时生效,建议保持默认值。
4)readFromMasterWhenNoSlaves:当“type=slave”的所有地址都不可达时,是否可以将read请求转发给master,默认值为“false”,这个值根据实际情况设定,如果你的master可以承载所有的read请求,可以设置为true。
5)loadBalanceStrategy:可选值为“random”、“bestResponseTime”、“serverAffinity”,默认值为“random”。
6)loadBalanceAutoCommitStatementThreshold:当请求状态为“autoCommit”时,在一个连接上操作一定次数的请求后,触发“负载均衡”,选在其他Server。(参见源码)。
7)allowMasterDownConnections:默认值为false,在replication协议中,如果Master无法连接时是否允许Client创建或者获取连接(包括获取Slave的连接)。“false”表示当Master无法连接时,将不能创建任何连接,包括Slave读操作。在基于Router集群时,建议设置为true。
8)allowSlaveDownConnections:默认为false,同上。
以上是关于ClickHouse 读写分离方案的主要内容,如果未能解决你的问题,请参考以下文章