Polly 熔断策略

Posted rajesh

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Polly 熔断策略相关的知识,希望对你有一定的参考价值。

熔断策略主要以 CircuitBreaker 来完成、

工作原理

熔断器可以被看作为一个主要含有三个状态的状态机

技术图片

如果以电路开关来看:

技术图片

开关闭合对应 CLOSED 状态, 开关打开对应 OPEN 状态, 而 HALF OPEN 只是为了过渡处理过程中的状态变化

  • OPEN 状态, FLOW 不通
  • CLOSED 状态, FLOW 正常

CLOSED

熔断器的初始状态就是 CLOSED, 当熔断器状态为 CLOSED 的时候:

  • 所有通过策略的操作将会被执行, 熔断器也会记录这些操作的失败与成功
  • 如果通过策略执行的操作失败数到达某个设置的阈值,熔断器将会被熔断,即状态变更为 OPEN 。
    • CircuitBreaker 会在 N 次连续的操作失败被熔断
    • AdvancedCircuitBreaker 的熔断取决于失败比率
  • 对于改变熔断器状态的操作,此操作产生的原始 exception 将会被抛出, 而熔断器的状态将会变更为 OPEN

OPEN

当熔断器状态为 OPEN 的时候:

  • 所有通过策略的操作都不会被执行
  • 调用方会立刻被返回 BrokenCircuitException 异常
    • BrokenCircuitException 将包含最后试熔断器状态改变操作抛出的异常作为 InnerException
  • 熔断器打开之后, 会持续 durationOfBreak 参数配置的时间。在此时间结束之后,当下一个经过策略的操作执行或者当 CircuitState 熔断器状态被查询的时候, 熔断器的状态会变更为 HALF OPEN。

HALF OPEN

当熔断器状态为 HALF OPEN 的时候:

  • 下一个经过策略的操作将会被视作测试,用来检查熔断器的健康状态
    • 如果该操作执行的时候已经超过了 durationOfBreak 设置的熔断时间,则执行操作。熔断器在每次熔断的期间内 durationOfBreak,只允许有一次尝试操作。所有其他在 HALF OPEN 状态的操作都会被拒绝执行,并抛出 BrokenCircuitException
  • 传入 Execute() (或类似重载) 的委托方法将被尝试调用
    • 如果调用抛出了已处理的异常, 原本的异常将会被再次抛出,并且熔断器的状态会立即变更为 OPEN,持续 durationOfBreak 配置的时间。
    • 如果此操作未抛出异常,则熔断器状态变更为 CLOSED

流程图

技术图片

Circuit Breaker

public static void TryBasic()
{
    var breaker = Policy
        // 设置熔断器处理的异常类型
        .Handle<Exception>()

        // 设置异常阈值 3 ,熔断持续时间 5.5 秒
        .CircuitBreaker(3, TimeSpan.FromSeconds(5.5), 
                        (e, state, tspan, context)=> 
                        {
                            Console.WriteLine($"OnBreak: state: {state} \\r\\n ex: {e.Message}");
                        }, 
                        context => 
                        {
                            Console.WriteLine("onReset");
                        },
                        ()=> 
                        {
                            Console.WriteLine("onHalfOpen");
                        });


    var random = new Random();
    var obj = Policy<object>
        .Handle<Exception>()
        .WaitAndRetryForever(
        (times, tspan) => TimeSpan.FromSeconds(1),
        (res, times, tspan, c) =>
        {
            Console.WriteLine($"retry: {times}, breaker state: {breaker.CircuitState}");
        })

        // 组合重试与熔断策略
        .Wrap(breaker)

        .Execute(() =>
                 {
                     var val = random.Next(1, 100);
                     Console.WriteLine($"called:{val}");
                     switch (val % 9)
                     {
                         case 0:
                             return "Success";
                         default:
                             throw new Exception($"error val: {val}");
                     }
                 });

    Console.WriteLine(obj);
}

输出:

技术图片

熔断器初始化状态为 CLOSED, 在产生三次异常之后,触发 OnBreak 回调, 状态也变更为了 OPEN,

在上面我们设置的熔断持续时间结束后,状态变更为了 HALF OPEN, 由重试策略执行了一次 Execute ,

called: 20

因为由引发了一次异常,导致 CircuitBreaker 再次熔断, 状态变更为 OPEN,与流程图一致。

AdvancedCircuitBreaker

public static void TryAdvanced()
        {
            var breaker = Policy
                .Handle<Exception>()

                // 设置高级熔断器
                .AdvancedCircuitBreaker(
                
                // 设置超过30%的失败率则熔断
                failureThreshold: 0.8,

                // 10 秒做一次采样
                samplingDuration: TimeSpan.FromSeconds(10),

                // 在采样时间内最小吞吐量
                minimumThroughput: 5,

                // 熔断持续时间
                durationOfBreak: TimeSpan.FromSeconds(10),
                onBreak: (e, state, tspan, context) => 
                {
                    Console.WriteLine($"OnBreak: state: {state} \\r\\n ex: {e.Message}");
                },
                onReset: context => 
                {
                    Console.WriteLine("onReset");
                },
                onHalfOpen: () => 
                {
                    Console.WriteLine("onHalfOpen");
                });


            var random = new Random();
            var obj = Policy<object>
                .Handle<Exception>()
                .WaitAndRetryForever(
                (times, tspan) => TimeSpan.FromSeconds(1),
                (res, times, tspan, c) =>
                {
                    Console.WriteLine($"retry: {times}, breaker state: {breaker.CircuitState}");
                })
                .Wrap(breaker)
                .Execute(() =>
                {
                    var val = random.Next(1, 100);
                    Console.WriteLine($"called:{val}");
                    switch (val % 9)
                    {
                        case 0:
                            return "Success";
                        default:
                            throw new Exception($"error val: {val}");
                    }
                });

            Console.WriteLine(obj);
        }

输出:

技术图片

将采样时间内 samplingDuration 异常次数除以设置最小吞吐量 minimumThroughput,得到失败率,若超过设置的 failureThreshold,则触发熔断。

注意

使用 Wrap 方法组合两个或 更多策略一起监控 Execute 中执行的操作。

以上是关于Polly 熔断策略的主要内容,如果未能解决你的问题,请参考以下文章

.Net Core with 微服务 - Polly 服务降级熔断

polly异常重试熔断

熔断降级(Polly)

熔断 降级(polly)

asp.net core 使用HttpClientFactory Polly实现熔断降级

Refit结合Polly访问ASP.NET Core Web API