我是靠谱客的博主 优美砖头,最近开发中收集的这篇文章主要介绍spring cloud 容错主要思想配置断路器,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

@[TOC](springcloud(5) - hystrix)

rabbion

Ribbon 是一个客户端负载均衡器(Nginx 为服务端负载均衡),
它赋予了应用一些支配 HTTP 与 TCP 行为的能力,可以得知,这里的客户端负载均衡也是进程内负载均衡的一种。
它在 Spring Cloud 生态内是一个不可缺少的组件,少了它,服务便不能横向扩展,这显然是有违云原生12要素的。
此外 Feign 与 Zuul 中已经默认集成了 Ribbon,在我们的服务之间凡是涉及调用的,都可以集成它并应用,从而使我们的调用链具备良好的伸缩性。

Ribbon是Netflix公司开源的一个负载均衡的项目,它属于上述的第二种,是一个客户端负载均衡器,运行在客户端上。
它是一个经过了云端测试的IPC库,可以很好地控制HTTP和TCP客户端的一些行为。 Feign已经默认使用了Ribbon。
负载均衡
容错
多协议(HTTP,TCP,UDP)支持异步和反应模型
缓存和批处理

Ribbon的负载均衡策略
andomRule (随机策略): 随机选择 Server
RoundRobinRule (轮训策略): 按顺序循环选择 Server
RetryRule (重试策略): 在一个配置时问段内当选择 Server 不成功,则一直尝试选择一个可用的 Server
BestAvailableRule (最低并发策略): 逐个考察 Server,如果 Server 断路器打开,则忽略,再选择其中并发连接最低的 Server
AvailabilityFilteringRule (可用过滤策略): 过滤掉一直连接失败并被标记为 circuit tripped 的 Server,过滤掉那些高并发连接的 Server(active connections 超过配置的网值)
ResponseTimeWeightedRule (响应时间加权策略): 根据 Server 的响应时间分配权重。响应时间越长,权重越低,被选择到的概率就越低;响应时间越短,权重越高,被选择到的概率就越高。这个策略很
贴切,综合了各种因素,如:网络、磁盘、IO等,这些因素直接影响着响应时间
ZoneAvoidanceRule (区域权衡策略): 综合判断 Server 所在区域的性能和 Server 的可用性轮询选择 Server,并且判定一个 AWS Zone 的运行性能是否可用,剔除不可用的 Zone 中的所有 Server

主要思想

现在我们假设一下,服务提供者响应非常缓慢,那么消费者对提供者的请求就会被强制等待,直到服务返回.
在高负载场景下,如果不做任何处理,这种问题很可能造成所有处理用户的请求的线程都被耗尽.
而不能响应用户的进一步请求.

如果是微服务工程,则很有可能出现服务雪崩效应

什么是雪崩效应:

在微服务架构中,根据业务来拆分成一个个的服务,服务与服务之间可以相互调用,在spring cloud 可以用RestTemplate + ribbon 或feign来调用.
为了保证其高可用,单个服务通常会集群部署,由于网络原因或者自身原因,服务并不能保证100%可用,如果单个服务出现问题,调用这个服务就会出现线程阻塞,
此时如果有大量请求涌入,servlet容器的线程资源会被消耗完毕,导致服务瘫痪.服务与服务之间的依赖性,故障会传播,会对整个微服务系统造成灾难性的严重后果,
这就是服务故障的雪崩效应.如果不懂,请看下文:

而此时,A服务的流量波动很大,流量经常突然性增加.那么在这种情况下,就算A服务能扛得住请求,B服务和C服务未必能扛得住这突发的请求.
此时,如果C服务因为扛不住请求,变得不可用,那么B服务的请求也会阻塞,慢慢耗尽B服务的线程资源,B服务就会变得不可用.紧接着,A也会不可用,
这个过程用图来说明,如下:

如上图所示,一个服务失败,导致整条链路的服务都失败的情形,我们称之为服务雪崩.

解决的方法

如何解决:

超时机制
通过网络请求其他服务时,都必须设置超时,征程情况下,一个远程调用一般在几十毫秒被就返回了,
当依赖的服务不可用或者因为网络问题,响应时间将会变的很长,而通常情况下,一次远程调用对应了一个线程,
如果响应太慢,那么这个线程得不到释放,而线程对应了系统资源,如果大量的线程得不到释放,并且越积越多.
服务资源就会被耗尽,从而导致资源服务不可用,所以必须为每个请求设置超时时间,如果超时,则释放线程资源.

熔断器模式
试想一下,家庭如果没有断路器,电流过载了(例如:功率过大,电线短路),电路不断开的话,电路就会升温,甚至是烧断电路,起火.
有了断路器之后,当电流过载时,会自动切断电路(跳闸).从而保护了整条电路与家庭的安全.当电流过载的问题解决后,只要将
关闭断路器,电路就又可以工作了.

同样的道理,当依赖的服务有大量超时时,再让新的请求去访问已经没有太大意义,只会无畏的消耗现有的资源.
譬如我们设置了超时时间为1秒,如果短时间内有大量请求,在1秒内都得不到响应,就往往意味着异常,此时就没有必要让更多
的请求去访问这个服务了,我们应该使用断路器避免资源浪费.

段利器可以实现快速失败,如果它在一段时间内侦测到许多类似的错误(比如超时),就会强迫其后续的多个调用快速失败,不再
请求所依赖的服务,从而方式应用程序不断的尝试执行可能失败的操作.这样因应用程序可以继续执行而不用等待修正错误,或
浪费CPU时间去等待长时间的超时.断路器可以使用因共用程序能够诊断错误是否已修正,如果已经修正,则应用程序会再次尝试
调用操作.

断路器模式就像是那些容易导致错误的操作的一种代理,这种代理能够记录最近调用发生错误的次数,然后决定适用于需操作继续
或立即返回错误.

实现断路器的思路:
1.监控 监控总共请求多少次,有多少次失败,假设失败率为多少,断路器打开
2.状态 打开,关闭,断开
3.分流
4.自我修复(状态的切换)

代码实现

1.在pom.xml中

org.springframework.cloud spring-cloud-starter-netflix-hystrix

2.主启动类

@SpringBootApplication
@EnableEurekaClient
@EnableFeignClients
@EnableHystrix
public class LearnerApplication {
public static void main(String[] args) {
SpringApplication.run(LearnerApplication.class,args);
}
}

3.方法级容错回调

//获取考试试卷试题列表(用于学生讲解,带答案)
@RequestMapping(value = “/getAnswerQuestionStudentList”,method = RequestMethod.POST,name = “PROFILE”)
@HystrixCommand(fallbackMethod = “getAnswerQuestionStudentListFallBack”,commandProperties = {
@HystrixProperty(name = HystrixPropertiesManager.CIRCUIT_BREAKER_ENABLED,value = “true”), //开启熔断
@HystrixProperty(name = HystrixPropertiesManager.EXECUTION_ISOLATION_STRATEGY, value = “SEMAPHORE”), //隔离策略: 线程模式,信号量模式
@HystrixProperty(name = HystrixPropertiesManager.CIRCUIT_BREAKER_REQUEST_VOLUME_THRESHOLD,value=“1”),//请求数量达到10个后才计算
@HystrixProperty(name = HystrixPropertiesManager.CIRCUIT_BREAKER_ERROR_THRESHOLD_PERCENTAGE,value = “1”),//错误率
@HystrixProperty(name = HystrixPropertiesManager.CIRCUIT_BREAKER_SLEEP_WINDOW_IN_MILLISECONDS, value = “1000”)//当满足请求数量和 错误率后,会在这个时间内随机拿取一个请求查看是否成功,成功则正常运行,否则继续运行该后备方法
})
public Result getAnswerQuestionStudentList(@RequestBody Exam exam){
return studentExamService.getAnswerQuestionStudentList(exam);
}

public Result getAnswerQuestionStudentListFallBack(Exam exam){
return new Result(ResultCode.FAIL,“请求错误,服务调用失败,启用后备方法”);
}

在服务端中写入错误
//试卷讲解时的数据集合
@RequestMapping(value = “/getQuestionExamTeacherList”,method = RequestMethod.POST,name = “API-EXAM-EXPLAIN”)
public Result getQuestionExamTeacherList(@RequestBody Exam exam){
int i = 1 / 0;
return examService.getQuestionExamList(exam);
}

关闭全局异常
//@ControllerAdvice //controller层的增强器: 捕获controller层抛出的异常
public class BaseExceptionHandler {
//do something …
}

三.实现思路(Feign回调)

application.yml feign: client: config: default: connectTimeout: 50000 readTimeout: 50000 loggerLevel: full hystrix: enabled: true

com.jwxt.clients.fallback.UserClientFallback
@Component
public class UserClientFallback implements UserClient {

//省略其他接口实现....
@Override
public Result getQuestionExamTeacherList(Exam exam) {
return new Result(ResultCode.FAIL,"启动了userClient实现类的后备方法");
}

}

com.jwxt.clients.UserClient
@FeignClient(name = “JWXT-TEACHER”,fallback = UserClientFallback=.class)
public interface UserClient {
//do something …
}

四.实现思路(Feign回调工厂)

application.yml

配置断路器

hystrix:
command:
default:
circuitBreaker:
enabled: true #启动断路器
requestVolumeThreshold: 10 #请求数达到后才计算
sleepWindowInMilliseconds: 10000 #休眠时间
errorThresholdPercentage: 50 #错误率
execution:
isolation:
thread:
timeoutInMilliseconds: 5000 #设置请求超时时间(默认是一秒) 超时后会走后备方法

com.jwxt.clients.fallback.UserClientFallbackFactory

package com.jwxt.clients.fallback;

import com.jwxt.clients.UserClient;
import com.jwxt.entity.academic.Exam;
import com.jwxt.response.Result;
import com.jwxt.response.ResultCode;
import com.jwxt.vo.QuestionVo;
import feign.hystrix.FallbackFactory;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.stereotype.Component;

@Component
public class UserClientFallbackFactory implements FallbackFactory {

private static final Logger LOGGER = LoggerFactory.getLogger(UserClientFallbackFactory.class);
@Override
public UserClient create(Throwable e) {
LOGGER.warn("错误服务回调:{}",e.getMessage());
return new UserClient() {
//省略其他接口实现...
@Override
public Result getQuestionExamTeacherList(Exam exam) {
return new Result(ResultCode.FAIL,"启动了回调工厂");
}
};
}

}

@FeignClient(name = “JWXT-TEACHER”,fallbackFactory = UserClientFallbackFactory.class)
public interface UserClient {
//do something …
}

注意: fallback 与 fallbackFactory 不能同时存在

五. 禁用Feign的Hystrix

方式一:

application.yml
feign.hystrix.enabled=false

方式二:

通过代码的方式禁用某个客户端

@Configuration
public class FeignConfiguration {
@Bean
@Scope(“prototype”)
public Feign.Builder feignBuilder() {
return Feign.builder();
}
}

最后

以上就是优美砖头为你收集整理的spring cloud 容错主要思想配置断路器的全部内容,希望文章能够帮你解决spring cloud 容错主要思想配置断路器所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(43)

评论列表共有 0 条评论

立即
投稿
返回
顶部