分布式配置中心201902

Posted 2021-02-12 nznzd

分布式配置中心

1.配置中心简介

2.xxl-conf简介

3.代码模拟演示

 

1.配置中心简介

为什么需要集中配置

当然是程序的发展，需要引入集中配置

随着程序功能的日益复杂，程序的配置日益增多：各种功能的开关、参数的配置、服务器的地址……

对配置的期望也越来越高，配置修改后实时生效，灰度发布，分环境、分集群管理配置，完善的权限、审核机制……

随着采用分布式的开发模式，项目之间的相互引用随着服务的不断增多，相互之间的调用复杂度成指数升高，每次投产或者上线新的项目时苦不堪言，因此需要引用配置中心治理

 

1.1 程序现状

业务的急剧扩张，导致单机服务无法满业务需求。这时候需要对单体大服务进行切开，服务走向SOA(微服务化)

?

这种场景中，配置文件的部署如上图所示。这样去部署配置简直是一场噩梦，而且无法做到快速的动态的调整。失去了配置主要意义之一。所以统一配置中心显得非常必要。

 

1.2 有哪些开源配置中心

spring-cloud/spring-cloud-config https://github.com/spring-cloud/spring-cloud-config spring出品，可以和spring cloud无缝配合

淘宝 diamond https://github.com/takeseem/diamond 已经不维护

disconf https://github.com/knightliao/disconf java开发，蚂蚁金服技术专家发起，业界使用广泛

ctrip apollo https://github.com/ctripcorp/apollo/ Apollo（阿波罗）是携程框架部门研发的开源配置管理中心，具备规范的权限、流程治理等特性。

xxl-conf https://gitee.com/xuxueli0323/xxl-conf 轻量级分布式配置管理平台，拥有"轻量级、秒级动态推送、多环境、跨语言、跨机房、配置监听、权限控制、版本回滚"等特性。

 

1.3 配置中心对比

功能特性?

?

 

技术路线兼容性?

可用性与易用性?

 

1.4 对比结果

综上，ctrip applo是较好的选择方案，但是由于xxl-conf功能简单易用,可满足绝大多数配置需求,也轻量化,依赖也低。

支持不同环境（开发、测试、生产）、不同集群

完善的管理系统，权限管理、发布审核、操作审计

SpringBoot集成友好 ，较小的迁移成本

配置修改实时生效（热发布）

版本发布管理

 

2.xxl-conf简介

1，概述特性

2，背景发展

3，架构设计

4，快速入门

2.1 概述特性

概述

XXL-CONF 是一个轻量级分布式配置管理平台，拥有"轻量级、秒级动态推送、多环境、跨语言、跨机房、配置监听、权限控制、版本回滚"等特性。现已开放源代码，开箱即用。

特性

1、简单易用: 接入灵活方便，一分钟上手；

2、轻量级: 部署简单，不依赖第三方服务，一分钟上手；

3、配置中心HA：配置中心支持集群部署，提升配置中心系统容灾和可用性。

4、在线管理: 提供配置中心, 通过Web界面在线操作配置数据，直观高效；

5、多环境支持：单个配置中心集群，支持自定义多套环境，管理多个环境的的配置数据；环境之间相互隔离；

6、多数据类型配置：支持多种数据类型配置，如：String、Boolean、Short、Integer、Long、Float、Double 等；

7、跨语言：底层通过http服务（long-polling）拉取配置数据并实时感知配置变更，从而实现多语言支持。

8、跨机房：得益于配置中心集群关系对等特性，集群各节点提供幂等的配置服务；因此，异地跨机房部署时，只需要请求本机房配置中心即可，实现异地多活；

9、高性能：得益于配置中心的 "磁盘配置" 与客户端的 "LocalCache"，因此配置服务性能非常高；单机可承担大量配置请求；

10、实时性: 秒级动态推送；配置更新后, 实时推送配置信息, 项目中配置数据会实时更新并生效, 不需要重启线上机器;

11、配置变更监听功能：可开发Listener逻辑，监听配置变更事件，可据此动态刷新JDBC连接池等高级功能；

12、最终一致性：底层借助内置广播机制，保障配置数据的最终一致性，从而保证配置数据的同步；

13、配置备份: 配置数据同时在磁盘与mysql中存储和备份，并定期同步， 提高配置数据的安全性;

14、多种获取配置方式：支持 "API、 注解、XML占位符" 等多种方式获取配置，可灵活选择使用；

15、兼容Spring原生配置：兼容Spring原生配置方式 "@Value"、"${}" 加载本地配置功能；与分布式配置获取方式隔离，互不干扰；

16、分布式: 支持多业务线接入并统一管理配置信息，支撑分布式业务场景;

17、项目隔离: 以项目为维度管理配置, 方便隔离不同业务线配置;

18、高性能: 通过LocalCache对配置数据做缓存, 提高性能;

19、客户端断线重连强化：设置守护线程，周期性检测客户端连接、配置同步，提高异常情况下配置稳定性和时效性；

20、空配置处理：主动缓存null或不存在类型配置，避免配置请求穿透到远程配置Server引发雪崩问题；

21、用户管理：支持在线添加和维护用户，包括普通用户和管理员两种类型用户；

22、配置权限控制；以项目为维度进行配置权限控制，管理员拥有全部项目权限，普通用户只有分配才拥有项目下配置的查看和管理权限；

23、历史版本回滚：记录配置变更历史，方便历史配置版本回溯，默认记录10个历史版本；

24、配置快照：客户端从配置中心获取到的配置数据后，会周期性缓存到本地快照文件中，当从配置中心获取配置失败时，将会使用使用本地快照文件中的配置数据；提高系统可用性；

25、访问令牌（accessToken）：为提升系统安全性，配置中心和客户端进行安全性校验，双方AccessToken匹配才允许通讯；

 

2.2 背景发展

背景

常规项目开发过程中, 通常会将配置信息位于在项目resource目录下的properties文件文件中, 配置信息通常包括有: jdbc地址配置、redis地址配置、活动开关、阈值配置、黑白名单……等等。使用properties维护配置信息将会导致以下几个问题:

1、需要手动修改properties文件;

2、需要重新编译打包;

3、需要重启线上服务器 (项目集群时,更加令人崩溃) ;

4、配置生效不及时: 因为流程复杂, 新的配置生效需要经历比较长的时间才可以生效;

5、不同环境上线包不一致: 例如JDBC连接, 不同环境需要差异化配置;

 

优点

1、不需要 (手动修改properties文件) : 在配置中心提供的Web界面中, 定位到指定配置项, 输入新的配置的值, 点击更新按钮即可;

2、不需要 (重新编译打包) : 配置更新后, 实时推送新配置信息至项目中, 不需要编译打包;

3、不需要 (重启线上服务器) : 配置更新后, 实时推送新配置信息至项目中, 实时生效, 不需要重启线上机器; (在项目集群部署时, 将会节省大量的时间, 避免了集群机器一个一个的重启, 费时费力)

4、配置生效 "非常及时" : 点击更新按钮, 新的配置信息将会即可推送到项目中, 瞬间生效, 非常及时。比如一些开关类型的配置, 配置变更后, 将会立刻推送至项目中并生效, 相对常规配置修改繁琐的流程, 及时性可谓天壤之别;

5、不同环境 "同一个上线包" : 因为差异化的配置托管在配置中心, 因此一个上线包可以复用在生产、测试等各个运行环境, 提供能效;

 

发展

于2015年，我在github上创建XXL-CONF项目仓库并提交第一个commit，随之进行系统结构设计，UI选型，交互设计……

至今，XXL-CONF已接入多家公司的线上产品线，接入场景如电商业务，O2O业务和核心中间件配置动态化等，截止2018-10-24为止，XXL-CONF已接入的公司包括不限于：

- 1、深圳市绽放工场科技有限公司

- 2、深圳双猴科技有限公司

- 3、商智神州软件有限公司

- 4、浙江力太科技 - ……

 

2.3 架构设计

架构图?

配置中心由以下几个核心部分组成：

1、管理平台：提供一个完善强大的配置管理平台，包含：环境管理、用户管理、项目管理、配置管理等功能，全部操作通过Web界面在线完成；

2、管理平台DB：存储配置信息备份、配置的版本变更信息等，进一步保证数据的安全性；同时也存储"管理平台"中多个模块的底层数据；

3、磁盘配置数据：配置中心在每个配置中心集群节点磁盘中维护一份镜像数据，当配置新增、更新等操作时，将会广播通知并实时刷新每个集群节点磁盘中的配置数据, 最终实时通知接入方客户端；

4、客户端；

客户端设计?

客户端基于多层设计，核心四层设计如下:

1、API层：提供业务方可直接使用的上层API, 简单易用, 一行代码获取配置信息；同时保证配置的实时性、高性能;

2、LocalCache层：客户端的Local Cache，极大提升API层的性能，降低对配置中心集群的压力；首次加载配置、监听配置变更、底层异步周期性同步配置时，将会写入或更新缓存；

3、Mirror-File层：配置数据的本地快照文件，会周期性同步 "LocalCache层" 中的配置数据写入到 "Mirror-File" 中；当无法从配置中心获取配置，如配置中心宕机时，将会使用 "Mirror-File" 中的配置数据，提高系统的可用性；

4、Remote层：配置中心远程客户端的封装，用于加载远程配置、实时监听配置变更，提高配置时效性；

 

2.4 快速入门

环境搭建

1,mysql安装

2,mysql数据库初始化

3,zookeeper安装

4,xxl-conf源码编译打包(或Docker镜像方式)

5,xxl-conf调整配置文件配置

6,启动配置中心,添加配置内容

7,客户端引入xxl-conf的maven的jar

8,客户端配置获取4种方式

9,配置变更监听

 

3.代码模拟演示

1，管理中心操作指南

2，配置获取3种方式

3，数据库配置热发布

4，操作演示

 

3.1 管理中心操作指南

环境管理

环境管理(新增|编辑|删除)

?

项目管理

项目管理(新增|编辑|删除)

?

用户（权限）管理

用户(新增|编辑|删除|授权项目)

?

配置管理

配置(新增|编辑|删除|同步)

?

 

3.2 配置获取3种方式

?

 

1,API方式

String paramByApi = XxlConfClient.get("default.key01", null);

?

 

2,@XxlConf 注解方式

@XxlConf("default.key02")

public String paramByAnno;

?

?

 

3,XML占位符方式

<bean id="demoConf" class="com.xxl.conf.sample.demo.DemoConf">     <property name="paramByXml" value="$XxlConf{default.key03}" /> </bean>

?

?

 

3.3 数据库配置热发布

?

?

?

 

3.4 操作演示

1,添加环境

2,添加项目

3,授权项目

4,添加配置

5,编写客户端代码

6,演示3种取值方式

7,动态数据源动态更新配置热生效配置

8,动态数据源动代码阅读

 

感谢大家观看！

如有错误请指出互相交流,让小弟也学习学习,谢谢!