SpringCloud Alibaba微服务实战四 - 限流熔断
本篇作为SpringCloud Alibaba微服务实战系列的第五篇,主要内容是使用Sentinel给微服务加上限流熔断功能,防止异常情况拖垮应用服务
简介
Sentinel是面向分布式服务框架的轻量级流量控制框架,主要以流量为切入点,从流量控制,熔断降级,系统负载保护等多个维度来维护系统的稳定性。 在SpringCloud体系中,Sentinel主要是为了替换原Hystrix的功能,与Hystrix相比,Sentinel的隔离级别更加精细,提供的Dashboard可以在线更改限流熔断规则,而且使用也越加方便。要了解更多详细信息请移步至Sentinel官网。
【微服务|SpringCloud Alibaba微服务实战四 - 限流熔断】基础准备
要使用Sentinel提供的限流熔断能力,需要先做如下准备:
- 安装Sentinel
- 引入Sentinel
com.alibaba.cloud
spring-cloud-starter-alibaba-sentinel
自定义资源@SentinelResource
我们只需要在相关方法上加上@SentinelResource注解,让其可以成为sentinel识别的资源即可。如:
/***
*SentinelResource
* @param id
* @return
*@ blockHandler = "flowHandler"为自定义熔断异常
*@fallback = "fallbackHandler"自定义异常策略
*/
@GetMapping("/getAccountByUserid/{id}")
@SentinelResource(value = "https://www.it610.com/article/getAccountByUserid", blockHandler = "flowHandler", fallback = "fallbackHandler")
public Result getAccountByUserid(@PathVariable("id") Integer id) {
//模拟一个异常
//try {
//TimeUnit.SECONDS.sleep(1);
//睡眠1秒
//} catch (InterruptedException e) {
//e.printStackTrace();
//}
LambdaQueryWrapper wrapper = new LambdaQueryWrapper<>();
wrapper.eq(Account::getId, id);
List accountList = accountService.list();
return Result.ok().data("accountList", accountList).data("port", port);
//thrownew RuntimeException("error");
}
/***
* 自定义异常策略
* 返回值参数要和目标函数一样,参数可以追加BlockException
* @param id
* @param ex
* @return
*/
public Result flowHandler(@PathVariable("id") Integer id, BlockException ex) {
//虽然在这里这些参数看似毫无意义,但是在实战中,这些参数我们可以存入到消息队列,配合消息队列或数据库对失败的操作进行一个手动处理
ex.printStackTrace();
return Result.error().message("访问过于频繁,请稍后重试");
}/***
* 自定义熔断异常
* 返回值参数要和目标函数一样,参数可以追加BlockException
* @param id
* @param
* @return
* @ fallback = "fallbackHandler"
*/
public Result fallbackHandler(@PathVariable("id") Integer id) {
//虽然在这里这些参数看似毫无意义,但是在实战中,这些参数我们可以存入到消息队列,配合消息队列或数据库对失败的操作进行一个手动处理
//熔断一般出现了异常,或者访问资源超时,都会触发熔断机制
//在一个方法中,熔断和限流都可以同时进行的
return Result.error().message("程序因为不可控原因触发了熔断机制,请稍后重试");
}
- 在配置文件中添加sentinel的服务端地址
server:
port: 8011spring:
application:
name: account-service
cloud:
nacos:
discovery:
server-addr: 192.168.203.129:8848
sentinel:
transport:
# sentinel服务端地址
dashboard: 192.168.203.129:8080
# 取消延迟加载
eager: true
loadbalancer:
cache:
enabled: false
ribbon:
enabled: false
经过以上几步我们准备好了使用Sentinel的基础环境,接下来我们看看限流熔断的具体配置。
流控
qps限流与并发线程数限流区别
在创建sentinel的限制规则时有下面这种选择
文章图片
qps是每秒并发的总数
线程并发总数是当前正在处理业务所能承受的最大值
比如我有10个请求同时开始,在没有进入到服务端时,这就是它的QPS,
如果选择qps限流,假设并发有11个有一个肯定会报错
假设有10个请求,每个请求在controller层处理业务需要耗时1秒,
在1一秒内同时请求10次,只有第一次的那个处理业务成功了,其他的都失败
二者一个是将请求拦在外面,一个是让请求进入来,内部处理。
sentinel流控模式有如下几种
文章图片
直接就是直接给出错误提示
关联就是a服务调用b服务,如果b服务挂了那么a服务就会进行限流
熔断
文章图片
熔断降级规则(DegradeRule)包含下面几个重要的属性:
Field 说明 默认值
resource 资源名,即规则的作用对象
grade 熔断策略,支持慢调用比例/异常比例/异常数策略 慢调用比例
count 慢调用比例模式下为慢调用临界 RT(超出该值计为慢调用);异常比例/异常数模式下为对应的阈值
timeWindow 熔断时长,单位为 s
minRequestAmount 熔断触发的最小请求数,请求数小于该值时即使异常比率超出阈值也不会熔断(1.7.0 引入) 5
statIntervalMs 统计时长(单位为 ms),如 60*1000 代表分钟级(1.8.0 引入) 1000 ms
slowRatioThreshold 慢调用比例阈值,仅慢调用比例模式有效(1.8.0 引入)
Sentinel 的断路器是没有半开状态的
限流
概念说明
生产者accout-service是一个核心服务,我们通过压测得出服务的最大负载能力为60。如果某个时间account-service的请求数飙升达到了600,那服务肯定就直接gg了。所以为了保护我们的accout-service,我们会给它配置一个限流规则,如果每秒钟有超过60的请求那不好意思我直接丢掉不处理了,然后丢给消费者一个异常,想拖垮我,哼,没门!。
?
文章图片
总而言之,限流是通过限制调用方对自己的调用,起到保护自己系统的效果。
限流配置
假设我们就将accout-service的QPS单机阈值设置成5,如果每秒QPS超过5,直接丢弃。
推荐阅读
- Linux|Linux常用命令解析
- java|java 微服务 优势_微服务是什么?微服务主要优势是什么?
- spring|23.Spring Cloud + Spring Boot + Mybatis + Uniapp分布式、微服务、云架构企业快速开发架构之Shell 函数
- 架构|Spring Cloud Alibaba+saas企业架构技术选型+架构全景业务图 + 架构典型部署方案
- IDEA|将eclipse中的动态项目导入Idea中运行(配置和启动)
- 数据库|Java连接Mysql数据库存取图片
- IDEA中一个项目的.idea文件夹,.iml文件,src文件夹,out文件夹
- springboot基于web的酒店预订系统的设计与实现源码+论文第四稿+代码讲解视频+包安装配置+查重报告(已降重)
- 基于springboot的社区问答系统的设计与实现+论文第六稿+安装配置(已降重)