分布式配置中心201902

分布式配置中心

1.配置中心简介

2.xxl-conf简介

3.代码模拟演示

 

1.配置中心简介

为什么需要集中配置

当然是程序的发展,需要引入集中配置

随着程序功能的日益复杂,程序的配置日益增多:各种功能的开关、参数的配置、服务器的地址……

对配置的期望也越来越高,配置修改后实时生效,灰度发布,分环境、分集群管理配置,完善的权限、审核机制……

随着采用分布式的开发模式,项目之间的相互引用随着服务的不断增多,相互之间的调用复杂度成指数升高,每次投产或者上线新的项目时苦不堪言,因此需要引用配置中心治理

 

1.1 程序现状

业务的急剧扩张,导致单机服务无法满业务需求。这时候需要对单体大服务进行切开,服务走向SOA(微服务化)

分布式配置中心201902分布式配置中心201902

这种场景中,配置文件的部署如上图所示。这样去部署配置简直是一场噩梦,而且无法做到快速的动态的调整。失去了配置主要意义之一。所以统一配置中心显得非常必要。

 

1.2 有哪些开源配置中心

spring-cloud/spring-cloud-config https://github.com/spring-cloud/spring-cloud-config spring出品,可以和spring cloud无缝配合

淘宝 diamond https://github.com/takeseem/diamond 已经不维护

disconf https://github.com/knightliao/disconf java开发,蚂蚁金服技术专家发起,业界使用广泛

ctrip apollo https://github.com/ctripcorp/apollo/ Apollo(阿波罗)是携程框架部门研发的开源配置管理中心,具备规范的权限、流程治理等特性。

xxl-conf https://gitee.com/xuxueli0323/xxl-conf 轻量级分布式配置管理平台,拥有"轻量级、秒级动态推送、多环境、跨语言、跨机房、配置监听、权限控制、版本回滚"等特性。

 

1.3 配置中心对比

功能特性分布式配置中心201902分布式配置中心201902

分布式配置中心201902分布式配置中心201902

 

技术路线兼容性分布式配置中心201902分布式配置中心201902

可用性与易用性分布式配置中心201902分布式配置中心201902

 

1.4 对比结果

综上,ctrip applo是较好的选择方案,但是由于xxl-conf功能简单易用,可满足绝大多数配置需求,也轻量化,依赖也低。

支持不同环境(开发、测试、生产)、不同集群

完善的管理系统,权限管理、发布审核、操作审计

SpringBoot集成友好 ,较小的迁移成本

配置修改实时生效(热发布)

版本发布管理

 

2.xxl-conf简介

1,概述特性

2,背景发展

3,架构设计

4,快速入门

2.1 概述特性

概述

XXL-CONF 是一个轻量级分布式配置管理平台,拥有"轻量级、秒级动态推送、多环境、跨语言、跨机房、配置监听、权限控制、版本回滚"等特性。现已开放源代码,开箱即用。

特性

1、简单易用: 接入灵活方便,一分钟上手;

2、轻量级: 部署简单,不依赖第三方服务,一分钟上手;

3、配置中心HA:配置中心支持集群部署,提升配置中心系统容灾和可用性。

4、在线管理: 提供配置中心, 通过Web界面在线操作配置数据,直观高效;

5、多环境支持:单个配置中心集群,支持自定义多套环境,管理多个环境的的配置数据;环境之间相互隔离;

6、多数据类型配置:支持多种数据类型配置,如:String、Boolean、Short、Integer、Long、Float、Double 等;

7、跨语言:底层通过http服务(long-polling)拉取配置数据并实时感知配置变更,从而实现多语言支持。

8、跨机房:得益于配置中心集群关系对等特性,集群各节点提供幂等的配置服务;因此,异地跨机房部署时,只需要请求本机房配置中心即可,实现异地多活;

9、高性能:得益于配置中心的 "磁盘配置" 与客户端的 "LocalCache",因此配置服务性能非常高;单机可承担大量配置请求;

10、实时性: 秒级动态推送;配置更新后, 实时推送配置信息, 项目中配置数据会实时更新并生效, 不需要重启线上机器;

11、配置变更监听功能:可开发Listener逻辑,监听配置变更事件,可据此动态刷新JDBC连接池等高级功能;

12、最终一致性:底层借助内置广播机制,保障配置数据的最终一致性,从而保证配置数据的同步;

13、配置备份: 配置数据同时在磁盘与MySQL中存储和备份,并定期同步, 提高配置数据的安全性;

14、多种获取配置方式:支持 "API、 注解、XML占位符" 等多种方式获取配置,可灵活选择使用;

15、兼容Spring原生配置:兼容Spring原生配置方式 "@Value"、"${}" 加载本地配置功能;与分布式配置获取方式隔离,互不干扰;

16、分布式: 支持多业务线接入并统一管理配置信息,支撑分布式业务场景;

17、项目隔离: 以项目为维度管理配置, 方便隔离不同业务线配置;

18、高性能: 通过LocalCache对配置数据做缓存, 提高性能;

19、客户端断线重连强化:设置守护线程,周期性检测客户端连接、配置同步,提高异常情况下配置稳定性和时效性;

20、空配置处理:主动缓存null或不存在类型配置,避免配置请求穿透到远程配置Server引发雪崩问题;

21、用户管理:支持在线添加和维护用户,包括普通用户和管理员两种类型用户;

22、配置权限控制;以项目为维度进行配置权限控制,管理员拥有全部项目权限,普通用户只有分配才拥有项目下配置的查看和管理权限;

23、历史版本回滚:记录配置变更历史,方便历史配置版本回溯,默认记录10个历史版本;

24、配置快照:客户端从配置中心获取到的配置数据后,会周期性缓存到本地快照文件中,当从配置中心获取配置失败时,将会使用使用本地快照文件中的配置数据;提高系统可用性;

25、访问令牌(accessToken):为提升系统安全性,配置中心和客户端进行安全性校验,双方AccessToken匹配才允许通讯;

 

2.2 背景发展

背景

常规项目开发过程中, 通常会将配置信息位于在项目resource目录下的properties文件文件中, 配置信息通常包括有: jdbc地址配置、redis地址配置、活动开关、阈值配置、黑白名单……等等。使用properties维护配置信息将会导致以下几个问题:

1、需要手动修改properties文件;

2、需要重新编译打包;

3、需要重启线上服务器 (项目集群时,更加令人崩溃) ;

4、配置生效不及时: 因为流程复杂, 新的配置生效需要经历比较长的时间才可以生效;

5、不同环境上线包不一致: 例如JDBC连接, 不同环境需要差异化配置;

 

优点

1、不需要 (手动修改properties文件) : 在配置中心提供的Web界面中, 定位到指定配置项, 输入新的配置的值, 点击更新按钮即可;

2、不需要 (重新编译打包) : 配置更新后, 实时推送新配置信息至项目中, 不需要编译打包;

3、不需要 (重启线上服务器) : 配置更新后, 实时推送新配置信息至项目中, 实时生效, 不需要重启线上机器; (在项目集群部署时, 将会节省大量的时间, 避免了集群机器一个一个的重启, 费时费力)

4、配置生效 "非常及时" : 点击更新按钮, 新的配置信息将会即可推送到项目中, 瞬间生效, 非常及时。比如一些开关类型的配置, 配置变更后, 将会立刻推送至项目中并生效, 相对常规配置修改繁琐的流程, 及时性可谓天壤之别;

5、不同环境 "同一个上线包" : 因为差异化的配置托管在配置中心, 因此一个上线包可以复用在生产、测试等各个运行环境, 提供能效;

 

发展

于2015年,我在github上创建XXL-CONF项目仓库并提交第一个commit,随之进行系统结构设计,UI选型,交互设计……

至今,XXL-CONF已接入多家公司的线上产品线,接入场景如电商业务,O2O业务和核心中间件配置动态化等,截止2018-10-24为止,XXL-CONF已接入的公司包括不限于:

- 1、深圳市绽放工场科技有限公司

- 2、深圳双猴科技有限公司

- 3、商智神州软件有限公司

- 4、浙江力太科技 - ……

 

2.3 架构设计

架构图分布式配置中心201902分布式配置中心201902

配置中心由以下几个核心部分组成:

1、管理平台:提供一个完善强大的配置管理平台,包含:环境管理、用户管理、项目管理、配置管理等功能,全部操作通过Web界面在线完成;

2、管理平台DB:存储配置信息备份、配置的版本变更信息等,进一步保证数据的安全性;同时也存储"管理平台"中多个模块的底层数据;

3、磁盘配置数据:配置中心在每个配置中心集群节点磁盘中维护一份镜像数据,当配置新增、更新等操作时,将会广播通知并实时刷新每个集群节点磁盘中的配置数据, 最终实时通知接入方客户端;

4、客户端;

客户端设计分布式配置中心201902分布式配置中心201902

客户端基于多层设计,核心四层设计如下:

1、API层:提供业务方可直接使用的上层API, 简单易用, 一行代码获取配置信息;同时保证配置的实时性、高性能;

2、LocalCache层:客户端的Local Cache,极大提升API层的性能,降低对配置中心集群的压力;首次加载配置、监听配置变更、底层异步周期性同步配置时,将会写入或更新缓存;

3、Mirror-File层:配置数据的本地快照文件,会周期性同步 "LocalCache层" 中的配置数据写入到 "Mirror-File" 中;当无法从配置中心获取配置,如配置中心宕机时,将会使用 "Mirror-File" 中的配置数据,提高系统的可用性;

4、Remote层:配置中心远程客户端的封装,用于加载远程配置、实时监听配置变更,提高配置时效性;

 

2.4 快速入门

环境搭建

1,mysql安装

2,mysql数据库初始化

3,zookeeper安装

4,xxl-conf源码编译打包(或Docker镜像方式)

5,xxl-conf调整配置文件配置

6,启动配置中心,添加配置内容

7,客户端引入xxl-conf的maven的jar

8,客户端配置获取4种方式

9,配置变更监听

 

3.代码模拟演示

1,管理中心操作指南

2,配置获取3种方式

3,数据库配置热发布

4,操作演示

 

3.1 管理中心操作指南

环境管理

环境管理(新增|编辑|删除)

分布式配置中心201902分布式配置中心201902

项目管理

项目管理(新增|编辑|删除)

分布式配置中心201902分布式配置中心201902

用户(权限)管理

用户(新增|编辑|删除|授权项目)

分布式配置中心201902分布式配置中心201902

配置管理

配置(新增|编辑|删除|同步)

分布式配置中心201902分布式配置中心201902

 

3.2 配置获取3种方式

分布式配置中心201902分布式配置中心201902

 

1,API方式

String paramByApi = XxlConfClient.get("default.key01", null);

分布式配置中心201902分布式配置中心201902

 

2,@XxlConf 注解方式

@XxlConf("default.key02")

public String paramByAnno;

分布式配置中心201902分布式配置中心201902

分布式配置中心201902分布式配置中心201902

 

3,XML占位符方式

<bean id="demoConf" class="com.xxl.conf.sample.demo.DemoConf">     <property name="paramByXml" value="$XxlConf{default.key03}" /> </bean>

分布式配置中心201902分布式配置中心201902

分布式配置中心201902分布式配置中心201902

 

3.3 数据库配置热发布

分布式配置中心201902分布式配置中心201902

分布式配置中心201902分布式配置中心201902

分布式配置中心201902分布式配置中心201902

 

3.4 操作演示

1,添加环境

2,添加项目

3,授权项目

4,添加配置

5,编写客户端代码

6,演示3种取值方式

7,动态数据源动态更新配置热生效配置

8,动态数据源动代码阅读

 

感谢大家观看!

如有错误请指出互相交流,让小弟也学习学习,谢谢!

上一篇:springboot整合xxl-mq学习笔记


下一篇:集成xxl-job分布式任务调度平台