idou老师教你学Istio11 : 如何用Istio实现流量熔断

Posted 2021-02-06

在之前的最佳实践中，已经带大家通过一系列的实践任务领略了Istio的无穷魅力。今天，将向大家介绍如何用Istio实现流量熔断。

熔断机制是创建弹性微服务应用程序的重要模式。熔断可以帮助您自由控制故障影响的范围、网络延迟的峰值以及抵御其他一些来自外部的恶意***等场景。

在接下来的任务中，idou老师将通过配置一个熔断器来详细介绍如何在Istio中实现熔断，以及背后的原理。

首先，我们需要添加一个应用程序来模拟访问网络中的通信。接着我们按照前面Istio实践中所要求的将Sidecar注入进应用中，然后启动应用。

步骤一

为了演示Istio的熔断功能，我们需要创建熔断器，并在熔断器中设置一个目标规则，如下所示：

在本步骤中，我们可以理解为Istio的熔断功能主要是通过在链接池中加入上述三个参数：

MaxConnections定义了到目标主机的 HTTP1/TCP 最大连接数；

http1MaxPendingRequests定义了针对一个目标的 HTTP 请求的最大排队数量；

maxRequestsPerConnection定义了对某一后端的请求中，一个连接内能够发出的最大请求数量。如果将这一参数设置为 1 则会禁止 keep alive 特性。

在上述yaml文件中，我们为了方便进行实践，所以都设置成了1，当然大家也可以根据自己的需求自己设定阈值。

步骤二

对于网络通信熟悉的小伙伴应该都知道，模拟网络通信的环境需要一个服务端接收请求，一个请求端发送请求。刚刚我们已经创建完成一个服务端，并给服务端配置了熔断的条件，现在我们继续创建一个请求端来发送请求触发熔断机制。

我们用了官网上的一个例子fortio来进行测试。这个客户端可以控制连接数量、并发数、以及发送HTTP请求的延迟，当然我们也必须将Sidecar注入其中。

步骤三

我们可以通过命令kubectl exec -it $FORTIO_POD -c fortio /usr/local/bin/fortio -- load -curl http://httpbin:8000/get来登入客户端Pod，并使用刚刚创建的客户端来调用httpbin。将会看到如下所示：

这表明我们创建的客户端已经成功与服务端进行了一次通信。

步骤四

开始进入今天的主题，在上面的熔断设置中指定了 maxConnections=1 以及 http1MaxPendingRequests=1。这意味着如果超过了一个连接同时发起请求，Istio 就会熔断，阻止后续的请求或连接。我们不妨尝试通过并发2个连接发送20个请求数来看一下结果。

通过上图不难看出，基本上所有的请求都发送成功了。明明我们设置的最大连接数是1，而我们模拟了两个并发连接，理论上应该只有一半的请求能成功才对，难道熔断没有成功？这里别忘了我们还设置了http1MaxPendingRequests=1，正如在前文中介绍的，这个参数的功能类似于为最大连接数提供了一级缓存，所以虽然我们的最大连接数是1，但是因为这个参数也为1，所以两个并发连接的请求都可以发送成功。

步骤五

接下来我们再修改一下参数与步骤四做个对比，模拟并发连接数数改为3请求数依然是20，我们将会看到如下图所示的结果：

正如我们在第三步中说的那样，只有2/3的请求成功，还有1/3的请求数被熔断。如果你觉得还不放心，那么我们不妨再把http1MaxPendingRequests置为2。这时候缓存区的请求相当于最大允许连接数的2倍，是不是并发数为3的模拟连接发送的请求都可以成功呢？

从上图我们可以看到，确实如此，基本上所有的请求都成功了。

通过今天的实践我们就可以知道，如何通过修改Istio的目标规则来对请求数启动熔断机制。