熔断策略主要以 CircuitBreaker 来完成、
工作原理
熔断器可以被看作为一个主要含有三个状态的状态机
如果以电路开关来看:
开关闭合对应 CLOSED 状态, 开关打开对应 OPEN 状态, 而 HALF OPEN 只是为了过渡处理过程中的状态变化
- OPEN 状态, FLOW 不通
- CLOSED 状态, FLOW 正常
CLOSED
熔断器的初始状态就是 CLOSED, 当熔断器状态为 CLOSED 的时候:
- 所有通过策略的操作将会被执行, 熔断器也会记录这些操作的失败与成功
- 如果通过策略执行的操作失败数到达某个设置的阈值,熔断器将会被熔断,即状态变更为 OPEN 。
- CircuitBreaker 会在 N 次连续的操作失败被熔断
- AdvancedCircuitBreaker 的熔断取决于失败比率
- 对于改变熔断器状态的操作,此操作产生的原始 exception 将会被抛出, 而熔断器的状态将会变更为 OPEN
OPEN
当熔断器状态为 OPEN 的时候:
- 所有通过策略的操作都不会被执行
- 调用方会立刻被返回
BrokenCircuitException
异常-
BrokenCircuitException
将包含最后试熔断器状态改变操作抛出的异常作为InnerException
-
- 熔断器打开之后, 会持续
durationOfBreak
参数配置的时间。在此时间结束之后,当下一个经过策略的操作执行或者当
CircuitState
熔断器状态被查询的时候, 熔断器的状态会变更为 HALF OPEN。
HALF OPEN
当熔断器状态为 HALF OPEN 的时候:
- 下一个经过策略的操作将会被视作测试,用来检查熔断器的健康状态
- 如果该操作执行的时候已经超过了
durationOfBreak
设置的熔断时间,则执行操作。熔断器在每次熔断的期间内durationOfBreak
,只允许有一次尝试操作。所有其他在 HALF OPEN 状态的操作都会被拒绝执行,并抛出BrokenCircuitException
。
- 如果该操作执行的时候已经超过了
- 传入
Execute()
(或类似重载) 的委托方法将被尝试调用- 如果调用抛出了已处理的异常, 原本的异常将会被再次抛出,并且熔断器的状态会立即变更为 OPEN,持续
durationOfBreak
配置的时间。 - 如果此操作未抛出异常,则熔断器状态变更为 CLOSED
- 如果调用抛出了已处理的异常, 原本的异常将会被再次抛出,并且熔断器的状态会立即变更为 OPEN,持续
流程图
Circuit Breaker
public static void TryBasic()
{
var breaker = Policy
// 设置熔断器处理的异常类型
.Handle<Exception>()
// 设置异常阈值 3 ,熔断持续时间 5.5 秒
.CircuitBreaker(3, TimeSpan.FromSeconds(5.5),
(e, state, tspan, context)=>
{
Console.WriteLine($"OnBreak: state: {state} \r\n ex: {e.Message}");
},
context =>
{
Console.WriteLine("onReset");
},
()=>
{
Console.WriteLine("onHalfOpen");
});
var random = new Random();
var obj = Policy<object>
.Handle<Exception>()
.WaitAndRetryForever(
(times, tspan) => TimeSpan.FromSeconds(1),
(res, times, tspan, c) =>
{
Console.WriteLine($"retry: {times}, breaker state: {breaker.CircuitState}");
})
// 组合重试与熔断策略
.Wrap(breaker)
.Execute(() =>
{
var val = random.Next(1, 100);
Console.WriteLine($"called:{val}");
switch (val % 9)
{
case 0:
return "Success";
default:
throw new Exception($"error val: {val}");
}
});
Console.WriteLine(obj);
}
输出:
熔断器初始化状态为 CLOSED, 在产生三次异常之后,触发 OnBreak
回调, 状态也变更为了 OPEN,
在上面我们设置的熔断持续时间结束后,状态变更为了 HALF OPEN, 由重试策略执行了一次 Execute
,
called: 20
因为由引发了一次异常,导致 CircuitBreaker
再次熔断, 状态变更为 OPEN,与流程图一致。
AdvancedCircuitBreaker
public static void TryAdvanced()
{
var breaker = Policy
.Handle<Exception>()
// 设置高级熔断器
.AdvancedCircuitBreaker(
// 设置超过30%的失败率则熔断
failureThreshold: 0.8,
// 10 秒做一次采样
samplingDuration: TimeSpan.FromSeconds(10),
// 在采样时间内最小吞吐量
minimumThroughput: 5,
// 熔断持续时间
durationOfBreak: TimeSpan.FromSeconds(10),
onBreak: (e, state, tspan, context) =>
{
Console.WriteLine($"OnBreak: state: {state} \r\n ex: {e.Message}");
},
onReset: context =>
{
Console.WriteLine("onReset");
},
onHalfOpen: () =>
{
Console.WriteLine("onHalfOpen");
});
var random = new Random();
var obj = Policy<object>
.Handle<Exception>()
.WaitAndRetryForever(
(times, tspan) => TimeSpan.FromSeconds(1),
(res, times, tspan, c) =>
{
Console.WriteLine($"retry: {times}, breaker state: {breaker.CircuitState}");
})
.Wrap(breaker)
.Execute(() =>
{
var val = random.Next(1, 100);
Console.WriteLine($"called:{val}");
switch (val % 9)
{
case 0:
return "Success";
default:
throw new Exception($"error val: {val}");
}
});
Console.WriteLine(obj);
}
输出:
将采样时间内 samplingDuration
异常次数除以设置最小吞吐量 minimumThroughput
,得到失败率,若超过设置的 failureThreshold
,则触发熔断。
注意
使用 Wrap
方法组合两个或 更多策略一起监控 Execute
中执行的操作。