Polly 熔断策略

Posted 2021-10-27 rajesh

熔断策略主要以 CircuitBreaker 来完成、

工作原理

熔断器可以被看作为一个主要含有三个状态的状态机

如果以电路开关来看：

开关闭合对应 CLOSED 状态， 开关打开对应 OPEN 状态， 而 HALF OPEN 只是为了过渡处理过程中的状态变化

• OPEN 状态， FLOW 不通
• CLOSED 状态， FLOW 正常

CLOSED

熔断器的初始状态就是 CLOSED， 当熔断器状态为 CLOSED 的时候：

• 所有通过策略的操作将会被执行， 熔断器也会记录这些操作的失败与成功
• 如果通过策略执行的操作失败数到达某个设置的阈值，熔断器将会被熔断，即状态变更为 OPEN 。
  • CircuitBreaker 会在 N 次连续的操作失败被熔断
  • AdvancedCircuitBreaker 的熔断取决于失败比率
• 对于改变熔断器状态的操作，此操作产生的原始 exception 将会被抛出， 而熔断器的状态将会变更为 OPEN

OPEN

当熔断器状态为 OPEN 的时候：

• 所有通过策略的操作都不会被执行
• 调用方会立刻被返回 BrokenCircuitException 异常
  • BrokenCircuitException 将包含最后试熔断器状态改变操作抛出的异常作为 InnerException
• 熔断器打开之后， 会持续 durationOfBreak 参数配置的时间。在此时间结束之后，当下一个经过策略的操作执行或者当 CircuitState 熔断器状态被查询的时候， 熔断器的状态会变更为 HALF OPEN。

HALF OPEN

当熔断器状态为 HALF OPEN 的时候：

• 下一个经过策略的操作将会被视作测试，用来检查熔断器的健康状态
  • 如果该操作执行的时候已经超过了 durationOfBreak 设置的熔断时间，则执行操作。熔断器在每次熔断的期间内 durationOfBreak，只允许有一次尝试操作。所有其他在 HALF OPEN 状态的操作都会被拒绝执行，并抛出 BrokenCircuitException 。
• 传入 Execute() （或类似重载） 的委托方法将被尝试调用
  • 如果调用抛出了已处理的异常， 原本的异常将会被再次抛出，并且熔断器的状态会立即变更为 OPEN，持续 durationOfBreak 配置的时间。
  • 如果此操作未抛出异常，则熔断器状态变更为 CLOSED

流程图

Circuit Breaker

public static void TryBasic()
{
    var breaker = Policy
        // 设置熔断器处理的异常类型
        .Handle<Exception>()

        // 设置异常阈值 3 ，熔断持续时间 5.5 秒
        .CircuitBreaker(3, TimeSpan.FromSeconds(5.5), 
                        (e, state, tspan, context)=> 
                        {
                            Console.WriteLine($"OnBreak: state: {state} \\r\\n ex: {e.Message}");
                        }, 
                        context => 
                        {
                            Console.WriteLine("onReset");
                        },
                        ()=> 
                        {
                            Console.WriteLine("onHalfOpen");
                        });


    var random = new Random();
    var obj = Policy<object>
        .Handle<Exception>()
        .WaitAndRetryForever(
        (times, tspan) => TimeSpan.FromSeconds(1),
        (res, times, tspan, c) =>
        {
            Console.WriteLine($"retry: {times}, breaker state: {breaker.CircuitState}");
        })

        // 组合重试与熔断策略
        .Wrap(breaker)

        .Execute(() =>
                 {
                     var val = random.Next(1, 100);
                     Console.WriteLine($"called:{val}");
                     switch (val % 9)
                     {
                         case 0:
                             return "Success";
                         default:
                             throw new Exception($"error val: {val}");
                     }
                 });

    Console.WriteLine(obj);
}

输出：

熔断器初始化状态为 CLOSED， 在产生三次异常之后，触发 OnBreak 回调， 状态也变更为了 OPEN，

在上面我们设置的熔断持续时间结束后，状态变更为了 HALF OPEN， 由重试策略执行了一次 Execute ,

called: 20

因为由引发了一次异常，导致 CircuitBreaker 再次熔断， 状态变更为 OPEN，与流程图一致。

AdvancedCircuitBreaker

public static void TryAdvanced()
        {
            var breaker = Policy
                .Handle<Exception>()

                // 设置高级熔断器
                .AdvancedCircuitBreaker(
                
                // 设置超过30%的失败率则熔断
                failureThreshold: 0.8,

                // 10 秒做一次采样
                samplingDuration: TimeSpan.FromSeconds(10),

                // 在采样时间内最小吞吐量
                minimumThroughput: 5,

                // 熔断持续时间
                durationOfBreak: TimeSpan.FromSeconds(10),
                onBreak: (e, state, tspan, context) => 
                {
                    Console.WriteLine($"OnBreak: state: {state} \\r\\n ex: {e.Message}");
                },
                onReset: context => 
                {
                    Console.WriteLine("onReset");
                },
                onHalfOpen: () => 
                {
                    Console.WriteLine("onHalfOpen");
                });


            var random = new Random();
            var obj = Policy<object>
                .Handle<Exception>()
                .WaitAndRetryForever(
                (times, tspan) => TimeSpan.FromSeconds(1),
                (res, times, tspan, c) =>
                {
                    Console.WriteLine($"retry: {times}, breaker state: {breaker.CircuitState}");
                })
                .Wrap(breaker)
                .Execute(() =>
                {
                    var val = random.Next(1, 100);
                    Console.WriteLine($"called:{val}");
                    switch (val % 9)
                    {
                        case 0:
                            return "Success";
                        default:
                            throw new Exception($"error val: {val}");
                    }
                });

            Console.WriteLine(obj);
        }

输出：

将采样时间内 samplingDuration 异常次数除以设置最小吞吐量 minimumThroughput，得到失败率，若超过设置的 failureThreshold，则触发熔断。

注意

使用 Wrap 方法组合两个或 更多策略一起监控 Execute 中执行的操作。