Spring Cloud负载均衡及远程调用实现详解

 更新时间:2020年08月21日 09:14:07   作者:编了个程  
这篇文章主要介绍了Spring Cloud负载均衡及远程调用实现详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下

负载均衡

使用微服务后,为了能够承担高并发的压力,同一个服务可能会启动多个实例。这时候消费者就需要负载均衡,把请求分散到各个实例。负载均衡主要有两种设计:

服务端负载均衡客户端负载均衡

对于传统的分布式服务来说,大多使用服务端负载均衡。一般会使用Nginx或者ELB等工具作为负载均衡器,如下图:


传统负载均衡

而在Spring Cloud中,使用的是「客户端负载均衡」的方式,使用「Ribbon」组件来实现客户端的负载均衡。只要引入了微服务注册中心依赖,就会自动引入Ribbon依赖。客户端负载均衡原理如下图:

客户端负载均衡

Ribbon的原理

Ribbon利用了RestTemplate的拦截器(接口是ClientHttpRequestInterceptor)机制,在拦截器中实现的负载均衡。负载均衡的基本实现就是利用从「服务注册中心」获取可用的服务地址列表,然后通过一定算法负载,决定使用哪一个服务地址来进行HTTP调用。

详情可以查看LoadBalancerInterceptor这个类,位于org.springframework.cloud.client.loadbalancer包下。

使用Ribbon

首先定义一下生产者「service-user」,我这里使用容器启动了多个生产者实例,每个实例具有不同的id,我的示例代码里面启动了两个实例:

service-user-1
service-user-2

代码:

@RestController
@RequestMapping
public class HelloController {

  @Value("${spring.cloud.consul.discovery.instanceId}")
  private String instanceId;

  @GetMapping("hello")
  public String hello() {
    return String.format("hello, this is %s", instanceId);
  }
}

然后对于消费者「service-order」,可以使用Java声明式注解的方式来使用Ribbon,只需要在消费者给RestTemplate类型的Bean配上一个@LoadBalanced就可以了。然后再配置一下负载均衡策略:

@Configuration
public class RibbonConfig {

  @Bean
  @LoadBalanced
  public RestTemplate ribbonRestTemplate(){
    return new RestTemplate();
  }

  @Bean
  public IRule ribbonRule() {
    return new RandomRule(); // 随机负载均衡
  }
}

然后就可以直接使用自动注入的RestTemplate类型的Bean了:

@RestController
@RequestMapping
public class HelloController {

  @Autowired
  RestTemplate restTemplate;

  @GetMapping("/ribbon/service-user")
  public String ribbonService(){
    return restTemplate.getForObject("http://service-user/hello", String.class);
  }
}

这个时候访问消费者的/ribbon/service-user,刷新几次,就会看到下面两个随机的响应:

hello, this is service-user-2
hello, this is service-user-1

负载均衡策略

查看IRule接口的实现类,可以看到Ribbon的所有负载均衡策略,查看各实现类顶部的注释可以看到它的具体策略:


负载均衡器

  • RandomRule:随机选择;
  • RoundRobinRule:轮询;
  • WeightedResponseTimeRule:根据每个服务的响应时间设置权重,响应时间越长,所占权重越少;
  • AvailabilityFilteringRule:过滤掉那些因为一直连接失败的被标记为circuit tripped的后端server,并过滤掉那些高并发的的后端server(active connections 超过配置的阈值);
  • ZoneAvoidanceRule:使用CompositePredicate根据区域和可用性过滤服务器的规则;
  • BestAvailableRule:选择一个最小的并发请求的server;
  • RetryRule:在现有的策略基础上,添加重试机制,因为IRule支持「级联」。

远程调用

Spring Cloud提供了OpenFeign组件(以前叫Feign)来进行远程的HTTP调用。它是对RestTemplate的一个封装。

Feign是一个声明式Web Service客户端。使用Feign能让编写Web Service客户端更加简单。Spring Cloud对Feign进行了封装,使其支持了Spring MVC标准注解和HttpMessageConverters。Feign可以与微服务注册中心和Ribbon组合使用以支持负载均衡。

使用OpenFeign

第一步,引入依赖:

implementation 'org.springframework.cloud:spring-cloud-starter-openfeign'

第二步,启动配置,在启动类上添加@EnableFeignClients注解:

@SpringBootApplicationbr/>@EnableFeignClients
public class ServiceOrderApplication {
public static void main(String[] args) {
  SpringApplication.run(ServiceOrderApplication.class, args);
}
}

第三步:声明调用接口,我这里案例是service-order调用service-user的/hello接口,这里的注解就跟Spring MVC的注解一致:

注意Feign在做POST请求的时候有一个小坑,详情参考:SpringCloud Feign Post表单请求。

@FeignClient("service-user")
public interface UserClient {
  @GetMapping("hello")
  String getUserHello();
}

第四步:使用,注解使用@Autowired注解注入就可以了:

@RestController
@RequestMapping
public class HelloController {

  @Autowired
  UserClient userClient;

  @GetMapping("hello")
  public String hello() {
    return "hello, this is order service";
  }

  @GetMapping("userHello")
  public String user() {
    return userClient.getUserHello() + ", this is order-service";
  }
}

是不是看起来非常简单?

OpenFeign集成Ribbon

前面我们提到,OpenFeign底层是对RestTemplate的一个封装,而Ribbon是通过给RestTemplate添加过滤器来实现的,所以OpenFeign天生就自动集成了Ribbon,我们不需要任何额外的配置。

在上述代码中,启动后,可以访问service-order的/userHello端口,不断刷新,发现已经实现了负载均衡。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

相关文章

  • Java SpringMVC数据响应超详细讲解

    Java SpringMVC数据响应超详细讲解

    Spring MVC 是 Spring 提供的一个基于 MVC 设计模式的轻量级 Web 开发框架,本质上相当于 Servlet,Spring MVC 角色划分清晰,分工明细,本章来讲解SpringMVC数据响应
    2022-04-04
  • idea如何关闭右侧类显示方法

    idea如何关闭右侧类显示方法

    这篇文章主要介绍了idea如何关闭右侧类显示方法,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-07-07
  • MyBatis-Puls插入或修改时某些字段自动填充操作示例

    MyBatis-Puls插入或修改时某些字段自动填充操作示例

    这篇文章主要为大家介绍了MyBatis-Puls插入或修改时某些字段自动填充操作示例详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2023-12-12
  • SpringBoot面试突击之过滤器和拦截器区别详解

    SpringBoot面试突击之过滤器和拦截器区别详解

    过滤器(Filter)和拦截器(Interceptor)都是基于 AOP(Aspect Oriented Programming,面向切面编程)思想实现的,用来解决项目中某一类问题的两种“工具”,但二者有着明显的差距,接下来我们一起来看
    2022-10-10
  • Java黑科技之通过Google Java Style 文件配置IDEA和Ecplise代码风格

    Java黑科技之通过Google Java Style 文件配置IDEA和Ecplise代码风格

    在日常开发中,多人团队协作开发一个项目是很常见的,特别是大公司,这就会涉及到多人在一个工程上开发代码.无规矩不成方圆,一个好的代码风格,更加有利于团队协作,减少代码冲突,提高代码可阅读性,美观性.本文就带着大家仔细研究这个黑科技 ,需要的朋友可以参考下
    2021-05-05
  • java中URLEncoder.encode与URLDecoder.decode处理url特殊参数的方法

    java中URLEncoder.encode与URLDecoder.decode处理url特殊参数的方法

    这篇文章主要给大家介绍了关于java中URLEncoder.encode与URLDecoder.decode处理url特殊参数的方法,文中介绍的非常详细,需要的朋友可以参考借鉴,下面来一起看看吧。
    2017-03-03
  • 解决Maven的pom.xml中设置repository不起作用问题

    解决Maven的pom.xml中设置repository不起作用问题

    这篇文章主要介绍了解决Maven的pom.xml中设置repository不起作用问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2024-03-03
  • Java方法重写的超详细讲解

    Java方法重写的超详细讲解

    在 Java 编程的精彩世界里,方法重写是一项极为重要且实用的特性,它犹如一把神奇的钥匙,为我们开启了面向对象编程中多态性的大门,今天,就让我们一同深入探索 Java 方法重写的奥秘,感兴趣的小伙伴跟着小编一起来看看吧
    2025-03-03
  • 线程池之newCachedThreadPool可缓存线程池的实例

    线程池之newCachedThreadPool可缓存线程池的实例

    这篇文章主要介绍了线程池之newCachedThreadPool可缓存线程池的实例,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2021-06-06
  • Java中Lambda表达式的进化之路详解

    Java中Lambda表达式的进化之路详解

    本文通过示例大家给大家介绍了Java中Lambda表达式的进化之路,感兴趣的的朋友一起看看吧,希望能够给你带来帮助
    2021-11-11

最新评论