golang|golang 熔断器的实现过程
目录
- 1.熔断器的模式
- 2.gobreaker 的实现
- 2.1熔断器的定义
- 2.2请求的执行
- 2.3请求之前的判定操作
- 2.4请求之后的处理操作
文章图片
熔断器像是一个保险丝。当我们依赖的服务出现问题时,可以及时容错。一方面可以减少依赖服务对自身访问的依赖,防止出现雪崩效应;另一方面降低请求频率以方便上游尽快恢复服务。
熔断器的应用也非常广泛。除了在我们应用中,为了请求服务时使用熔断器外,在 web 网关、微服务中,也有非常广泛的应用。本文将从源码角度学习 sony 开源的一个熔断器实现
github/sony/gobreaker
(代码注释可以从github/lpflpf/gobreaker
查看)1.熔断器的模式
gobreaker
是基于《微软云设计模式》一书中的熔断器模式的 Golang 实现。有 sony 公司开源,目前 star 数有 1.2K。使用人数较多。下面是模式定义的一个状态机:
文章图片
熔断器有三种状态,四种状态转移的情况:
- 熔断器关闭状态,服务正常访问
- 熔断器开启状态,服务异常
- 熔断器半开状态,部分请求限流访问
- 在熔断器关闭状态下,当失败后并满足一定条件后,将直接转移为熔断器开启状态。
- 在熔断器开启状态下,如果过了规定的时间,将进入半开启状态,验证目前服务是否可用。
- 在熔断器半开启状态下,如果出现失败,则再次进入关闭状态。
- 在熔断器半开启后,所有请求(有限额)都是成功的,则熔断器关闭。所有请求将正常访问。
2.gobreaker 的实现
gobreaker
是在上述状态机的基础上,实现的一个熔断器。2.1熔断器的定义
type CircuitBreaker struct {namestringmaxRequestsuint32// 最大请求数 (半开启状态会限流)intervaltime.Duration// 统计周期timeouttime.Duration// 进入熔断后的超时时间readyToTripfunc(counts Counts) bool // 通过 Counts 判断是否开启熔断。需要自定义onStateChange func(name string, from State, to State) // 状态修改时的钩子函数mutexsync.Mutex // 互斥锁,下面数据的更新都需要加锁stateState// 记录了当前的状态generation uint64 // 标记属于哪个周期countsCounts // 计数器,统计了 成功、失败、连续成功、连续失败等,用于决策是否进入熔断expirytime.Time // 进入下个周期的时间}
其中,如下参数是我们可以自定义的:
MaxRequests
:最大请求数。当在最大请求数下,均请求正常的情况下,会关闭熔断器interval
:一个正常的统计周期。如果为 0,那每次都会将计数清零timeout
: 进入熔断后,可以再次请求的时间readyToTrip
:判断熔断生效的钩子函数onStateChagne
:状态变更的钩子函数
2.2请求的执行
熔断器的执行操作,主要包括三个阶段;①请求之前的判定;②服务的请求执行;③请求后的状态和计数的更新
// 熔断器的调用func (cb *CircuitBreaker) Execute(req func() (interface{}, error)) (interface{}, error) {// ①请求之前的判断generation, err := cb.beforeRequest()if err != nil {return nil, err}defer func() {e := recover()if e != nil {// ③ panic 的捕获cb.afterRequest(generation, false)panic(e)}}()// ② 请求和执行result, err := req()// ③ 更新计数cb.afterRequest(generation, err == nil)return result, err}
2.3请求之前的判定操作
请求之前,会判断当前熔断器的状态。如果熔断器以开启,则不会继续请求。如果熔断器半开,并且已达到最大请求阈值,也不会继续请求。
func (cb *CircuitBreaker) beforeRequest() (uint64, error) {cb.mutex.Lock()defer cb.mutex.Unlock()now := time.Now()state, generation := cb.currentState(now)if state == StateOpen { // 熔断器开启,直接返回return generation, ErrOpenState} else if state == StateHalfOpen && cb.counts.Requests >= cb.maxRequests { // 如果是半打开的状态,并且请求次数过多了,则直接返回return generation, ErrTooManyRequests}cb.counts.onRequest()return generation, nil}
其中当前状态的计算,是依据当前状态来的。如果当前状态为已开启,则判断是否已经超时,超时就可以变更状态到半开;如果当前状态为关闭状态,则通过周期判断是否进入下一个周期。
func (cb *CircuitBreaker) currentState(now time.Time) (State, uint64) {switch cb.state {case StateClosed:if !cb.expiry.IsZero() && cb.expiry.Before(now) { // 是否需要进入下一个计数周期cb.toNewGeneration(now)}case StateOpen:if cb.expiry.Before(now) {// 熔断器由开启变更为半开cb.setState(StateHalfOpen, now)}}return cb.state, cb.generation}
周期长度的设定,也是以据当前状态来的。如果当前正常(熔断器关闭),则设置为一个 interval 的周期;如果当前熔断器是开启状态,则设置为超时时间(超时后,才能变更为半开状态)。
2.4请求之后的处理操作
每次请求之后,会通过请求结果是否成功,对熔断器做计数。
func (cb *CircuitBreaker) afterRequest(before uint64, success bool) {cb.mutex.Lock()defer cb.mutex.Unlock()now := time.Now()// 如果不在一个周期,就不再计数state, generation := cb.currentState(now)if generation != before {return}if success {cb.onSuccess(state, now)} else {cb.onFailure(state, now)}}
如果在半开的状态下:
如果请求成功,则会判断当前连续成功的请求数 大于等于 maxRequests, 则可以把状态由半开状态转移为关闭状态
如果在半开状态下,请求失败,则会直接将半开状态转移为开启状态
如果在关闭状态下:
如果请求成功,则计数更新
如果请求失败,则调用
readyToTrip
判断是否需要将状态关闭状态转移为开启状态总结:
- 于频繁请求一些远程或者第三方的不可靠的服务,存在失败的概率还是非常大的。使用熔断器的好处就是可以是我们自身的服务不被这些不可靠的服务拖垮,造成雪崩。
- 由于熔断器里面,不仅会维护不少的统计数据,还有互斥锁做资源隔离,成本也会不少。
- 在半开状态下,可能出现请求过多的情况。这是由于半开状态下,连续请求成功的数量未达到最大请求值。所以,熔断器对于请求时间过长(但是比较频繁)的服务可能会造成大量的 too many requests 错误
推荐阅读
- 如果你在Android|如果你在Android Studio碰到gradle的各种问题就来看这篇文章吧(强烈建议收藏)
- golang实现WebSocket的商业化使用的开发逻辑(1)
- 『忘了再学』Shell基础|『忘了再学』Shell基础 — 3、echo命令的介绍与使用
- 编程语言丨什么是用于黑客攻击的最佳编程语言,你知道吗()
- 信息安全|“脚本小子”和真正黑客的区别是什么()
- 专访|专访 KubeVela 核心团队(如何简化云原生复杂环境下的应用交付和管理)
- 生成型神经网络
- DevOps Master凤凰沙盘的学习体验
- 知识社会的到来(知识管理与知识协同)
- 一文读懂蓝绿发布、A/B 测试和金丝雀发布的优缺点