Spring Cloud都做了些什么

Posted 2021-02-02 lealchen

Spring Cloud 作为一套微服务治理的框架，几乎考虑到了微服务治理的方方面面，之前也写过一些关于 Spring Cloud 的文章，主要偏重各组件的使用。

本次分享主要解答这两个问题：Spring Cloud 在微服务的架构中都做了哪些事情？Spring Cloud 提供的这些功能对微服务的架构提供了怎样的便利？

 

我们先来简单回顾一下，我们以往互联网架构的发展情况：

 

传统架构发展史

单体架构

单体架构在小微企业比较常见，典型代表就是一个应用、一个数据库、一个 Web 容器就可以跑起来，比如我们开发的开源软件云收藏，就是标准的单体架构。

 

在两种情况下可能会选择单体架构：

在企业发展的初期，为了保证快速上线，采用此种方案较为简单灵活。

传统企业中垂直度较高，访问压力较小的业务。在这种模式下对技术要求较低，方便各层次开发人员接手，也能满足客户需求。

 

下面是单体架构的架构图：

 

在单体架构中，技术选型非常灵活，优先满足快速上线的要求，也便于快速跟进市场。

 

垂直架构

 

在单体架构发展一段时间后，公司的业务模式得到了认可，交易量也慢慢的大起来，这时候有些企业为了应对更大的流量，就会对原有的业务进行拆分，比如说：后台系统、前端系统、交易系统等。

 

在这一阶段往往会将系统分为不同的层级，每个层级有对应的职责，UI 层负责和用户进行交互、业务逻辑层负责具体的业务功能、数据库层负责和上层进行数据交换和存储。

 

下面是垂直架构的架构图：

 

在这个阶段 SSH（Struts+Spring+Hibernate）是项目的关键技术，Struts 负责 Web 层逻辑控制、Spring 负责业务层管理 Bean、Hibernate 负责对数据库操作进行封装，持久化数据。

 

服务化架构

如果公司进一步的做大，垂直子系统会变的越来越多，系统和系统之间的调用关系呈指数上升的趋势。

 

在这样的背景下，很多公司都会考虑服务的 SOA 化。SOA 代表面向服务的架构，将应用程序按照不同的职责划分为不同的模块，不同的模块直接通过特定的协议和接口进行交互。

 

这样将整个系统切分成很多单个组件服务来完成请求，当流量过大时通过水平扩展相应的组件来支撑，所有的组件通过交互来满足整体的业务需求。

 

SOA 服务化的优点是，它可以根据需求通过网络对松散耦合的粗粒度应用组件进行分布式部署、组合和使用。

 

服务层是 SOA 的基础，可以直接被应用调用，从而有效控制系统中与软件代理交互的人为依赖性。

 

服务化架构是一套松耦合的架构，服务的拆分原则是服务内部高内聚，服务之间低耦合。

 

下面是服务化架构图：

 

在这个阶段可以使用 Web Service 或者 Dubbo 来服务治理。

 

SOA 和微服务架构

SOA 和微服务的区别

服务化架构已经可以解决大部分企业的需求了，那么我们为什么要研究微服务呢？

 

先说说它们的区别，如下几点：

微服务架构强调业务系统需要彻底的组件化和服务化，一个组件就是一个产品，可以独立对外提供服务。

微服务不再强调传统 SOA 架构里面比较重的 ESB 企业服务总线。

微服务强调每个微服务都有自己独立的运行空间，包括数据库资源。

微服务架构本身来源于互联网的思路，因此组件对外发布的服务强调了采用 HTTP Rest API 的方式来进行。

微服务的切分粒度会更小。

 

总结：微服务架构是 SOA 架构思想的一种扩展，更加强调服务个体的独立性、拆分粒度更小。

为什么考虑 Spring Cloud

考虑 Spring Cloud 的原因有如下几点：

Spring Cloud 来源于 Spring，质量、稳定性、持续性都可以得到保证。

Spirng Cloud 天然支持 Spring Boot，更加便于业务落地。

Spring Cloud 发展非常的快，从 2016 年开始接触的时候相关组件版本为 1.x，到现在将要发布 2.x 系列。

Spring Cloud 是 Java 领域最适合做微服务的框架。

相比于其它框架，Spring Cloud 对微服务周边环境的支持力度最大。

对于中小企业来讲，使用门槛较低。

Spring Cloud 是微服务架构的最佳落地方案。

Spring Cloud 的特性

以下为 Spring Cloud 的核心特性：

分布式/版本化配置。

服务注册和发现。

路由。

服务和服务之间的调用。

负载均衡。

断路器。

分布式消息传递。

 

这些特性都是由不同的组件来完成，在架构的演进过程中扮演着重要的角色，接下来我们一起看看。

 

微服务架构

 

Spring Cloud 解决的第一个问题就是：服务与服务之间的解耦。很多公司在业务高速发展的时候，服务组件也会相应的不断增加。

 

服务和服务之间有着复杂的相互调用关系，经常有服务 A 调用服务 B，服务 B 调用服务 C 和服务 D …，随着服务化组件的不断增多，服务之间的调用关系成指数级别的增长，极端情况如下图所示：

 

这样最容易导致的情况就是牵一发而动全身，经常出现由于某个服务更新而没有通知到其它服务，导致上线后惨案频发。

 

这时候就应该进行服务治理，将服务之间的直接依赖转化为服务对服务中心的依赖。Spring Cloud 核心组件 Eureka 就可以解决这类问题。

 

Eureka

Eureka 是 Netflix 开源的一款提供服务注册和发现的产品，它提供了完整的 Service Registry 和 Service Discovery 实现。它也是 Spring Cloud 体系中最重要最核心的组件之一。

 

用大白话讲，Eureka 就是一个服务中心，将所有的可以提供的服务都注册到它这里来管理，其他各调用者需要的时候去注册中心获取，然后再进行调用，避免了服务之间的直接调用，方便后续的水平扩展、故障转移等。如下图：

 

当然服务中心这么重要的组件一旦挂掉将会影响全部服务，因此需要搭建 Eureka 集群来保持高可用性，生产中建议最少两台。

 

随着系统的流量不断增加，需要根据情况来扩展某个服务，Eureka 内部已经提供均衡负载的功能，只需要增加相应的服务端实例既可。

 

那么在系统的运行期间某个实例挂了怎么办？Eureka 内容有一个心跳检测机制，如果某个实例在规定的时间内没有进行通讯则会自动被剔除掉，避免了某个实例挂掉而影响服务。

 

因此使用了 Eureka 就自动具有了注册中心、负载均衡、故障转移的功能。

 

Hystrix

在微服务架构中通常会有多个服务层调用，基础服务的故障可能会导致级联故障，进而造成整个系统不可用的情况，这种现象被称为服务雪崩效应。

 

服务雪崩效应是一种因“服务提供者”的不可用导致“服务消费者”的不可用，并将不可用逐渐放大的过程。

 

如下图所示：A 作为服务提供者，B 为 A 的服务消费者，C 和 D 是 B 的服务消费者。A 不可用引起了 B 的不可用，并将不可用像滚雪球一样放大到 C 和 D 时，雪崩效应就形成了。

 

在这种情况下就需要整个服务机构具有故障隔离的功能，避免某一个服务挂掉影响全局。在 Spring Cloud 中 Hystrix 组件就扮演这个角色。

 

Hystrix 会在某个服务连续调用N次不响应的情况下，立即通知调用端调用失败，避免调用端持续等待而影响了整体服务。Hystrix 间隔时间会再次检查此服务，如果服务恢复将继续提供服务。

 

Hystrix Dashboard 和 Turbine

当熔断发生的时候需要迅速的响应来解决问题，避免故障进一步扩散，那么对熔断的监控就变得非常重要。

 

熔断的监控现在有两款工具：Hystrix-dashboard 和 Turbine。

 

Hystrix-dashboard 是一款针对 Hystrix 进行实时监控的工具，通过 Hystrix Dashboard 我们可以直观地看到各 Hystrix Command 的请求响应时间, 请求成功率等数据。

 

但是只使用 Hystrix Dashboard 的话, 你只能看到单个应用内的服务信息, 这明显不够。

 

我们需要一个工具能让我们汇总系统内多个服务的数据并显示到 Hystrix Dashboard 上，这个工具就是 Turbine。

 

监控的效果图如下：

 

配置中心

随着微服务不断的增多，每个微服务都有自己对应的配置文件。在研发过程中有测试环境、UAT 环境、生产环境，因此每个微服务又对应至少三个不同环境的配置文件。

 

这么多的配置文件，如果需要修改某个公共服务的配置信息，如：缓存、数据库等，难免会产生混乱，这个时候就需要引入 Spring Cloud 另外一个组件：Spring Cloud Config。

 

Spring Cloud Config

 

Spring Cloud Config 是一个解决分布式系统的配置管理方案。它包含了 Client 和 Server 两个部分，Server 提供配置文件的存储、以接口的形式将配置文件的内容提供出去，Client 通过接口获取数据、并依据此数据初始化自己的应用。

 

具体实现是 Server 端将所有的配置文件服务化，需要配置文件的服务实例去 Config Server 获取对应的数据。将所有的配置文件统一整理，避免了配置文件碎片化。

 

如果服务运行期间改变配置文件，服务是不会得到最新的配置信息，需要解决这个问题就需要引入 Refresh。它可以在服务的运行期间重新加载配置文件。

 

当所有的配置文件都存储在配置中心的时候，配置中心就成为了一个非常重要的组件。

 

如果配置中心出现问题将会导致灾难性的后果，因此在生产中建议对配置中心做集群，来支持配置中心高可用性。

 

Spring Cloud Bus

 

上面的 Refresh 方案虽然可以解决单个微服务运行期间重载配置信息的问题，但是在真正的实践生产中，可能会有 N 多的服务需要更新配置。

 

如果每次依靠手动 Refresh 将是一个巨大的工作量，这时候 Spring Cloud 提出了另外一个解决方案：Spring Cloud Bus。

 

Spring Cloud Bus 通过轻量消息代理连接各个分布的节点。这会用在广播状态的变化（例如配置变化）或者其它的消息指令中。

 

Spring Cloud Bus 的一个核心思想是通过分布式的启动器对 Spring Boot 应用进行扩展，也可以用来建立一个或多个应用之间的通信频道。目前唯一实现的方式是用 AMQP 消息代理作为通道。

 

Spring Cloud Bus 是轻量级的通讯组件，也可以用在其它类似的场景中。有了 Spring Cloud Bus 之后，当我们改变配置文件提交到版本库中时，会自动的触发对应实例的Refresh，具体的工作流程如下：

 

服务网关

在微服务架构模式下，后端服务的实例数一般是动态的，对于客户端而言很难发现动态改变的服务实例的访问地址信息。

 

因此在基于微服务的项目中为了简化前端的调用逻辑，通常会引入 API Gateway 作为轻量级网关，同时 API Gateway 中也会实现相关的认证逻辑从而简化内部服务之间相互调用的复杂度。

 

Spring Cloud 体系中支持 API Gateway 落地的技术就是 Zuul。Spring Cloud Zuul 路由是微服务架构中不可或缺的一部分，提供动态路由，监控，弹性，安全等的边缘服务。

 

Zuul 是 Netflix 出品的一个基于 JVM 路由和服务端的负载均衡器。

 

它的具体作用就是服务转发，接收并转发所有内外部的客户端调用。使用 Zuul 可以作为资源的统一访问入口，同时也可以在网关做一些权限校验等类似的功能。

 

链路跟踪

随着服务数量越来越多，对调用链的分析会越来越复杂，如服务之间的调用关系、某个请求对应的调用链、调用之间消费的时间等，对这些信息进行监控就成为一个问题。

 

在实际的使用中，我们需要监控服务和服务之间通讯的各项指标，这些数据将是我们改进系统架构的主要依据。

 

因此分布式的链路跟踪就变的非常重要，Spring Cloud 也给出了具体的解决方案：Spring Cloud Sleuth 和 Zipkin。

 

Spring Cloud Sleuth 为服务之间调用提供链路追踪。通过 Sleuth 可以很清楚的了解到一个服务请求经过了哪些服务，每个服务处理花费了多长时间。从而让我们可以很方便的理清各微服务间的调用关系。

 

Zipkin 是 Twitter 的一个开源项目，允许开发者收集 Twitter 各个服务上的监控数据，并提供查询接口。

 

总结

我们从整体上来看一下 Spring Cloud 各个组件如何来配套使用。

 

从上图可以看出 Spring Cloud 各个组件相互配合，合作支持了一套完整的微服务架构：

Eureka 负责服务的注册与发现，很好地将各服务连接起来。

Hystrix 负责监控服务之间的调用情况，连续多次失败进行熔断保护。

Hystrix dashboard，Turbine 负责监控 Hystrix 的熔断情况，并给予图形化的展示。

Spring Cloud Config 提供了统一的配置中心服务。

当配置文件发生变化的时候，Spring Cloud Bus 负责通知各服务去获取最新的配置信息。

所有对外的请求和服务，我们都通过Zuul来进行转发，起到 API 网关的作用。

最后我们使用 Sleuth+Zipkin 将所有的请求数据记录下来，方便我们进行后续分析。

 

Spring Cloud 从设计之初就考虑了绝大多数互联网公司架构演化所需的功能，如服务发现注册、配置中心、消息总线、负载均衡、断路器、数据监控等。

 

这些功能都是以插拔的形式提供出来，方便我们系统架构在演进的过程中，可以合理的选择需要的组件进行集成，从而在架构演进的过程中会更加平滑、顺利。

 

微服务架构是一种趋势，Spring Cloud 提供了标准化的、全站式的技术方案，意义可能会堪比当前 Servlet 规范的诞生，有效推进服务端软件系统技术水平的进步。