详解Nginx轮询算法底层实现的方法

 更新时间:2020年01月19日 15:10:17   作者:qq_38163309  
这篇文章主要介绍了详解Nginx轮询算法底层实现的方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

轮询算法简介

在工作中很多人都使用到了nginx,对nginx得配置也是烂熟于心,今天我主要想介绍一下nginx轮询算法得几种底层实现方式。

简单轮询算法

这种算法比较简单,举个例子就是你有三台服务器

第一台服务器 192.168.1.1
第二台服务器 192.168.1.2
第三台服务器 192.168.1.3

第一个请求过来之后默认访问第一台,第二个请求过来访问第二台,第三次请求过来访问第三台,第四次请求过来访问第一台,以此类推。以下是我代码实现简单得算法:

public class SimplePolling {

  /**
   * key是ip
   */
  public static List <String> ipService = new LinkedList <>();
  static {
    ipService.add("192.168.1.1");
    ipService.add("192.168.1.2");
    ipService.add("192.168.1.3");
  }
  public static int pos = 0;
  public static String getIp(){
    if(pos >= ipService.size()){
      //防止索引越界
      pos = 0;
    }
    String ip = ipService.get(pos);
    pos ++;
    return ip;

  }

  public static void main(String[] args) {
    for (int i = 0; i < 4; i++) {
      System.out.println(getIp());

    }
  }
}

模拟执行4次执行结果是

在这里插入图片描述

此时如果我有一台服务器性能比较好(比如192.168.1.1),我想让这台服务器处理多一点请求,此时就涉及到了权重得概率,这种算法就不能实现,请看我后面描述的轮询升级版算法。

加权轮询算法

此时我需要把我前面3台服务器都设置权重,比如第一台设置5,第二台设置1,第三台设置1

第一台服务器 192.168.1.1 5
第二台服务器 192.168.1.2 1
第三台服务器 192.168.1.3 1

此时前5个请求都会访问到第一台服务器,第六个请求会访问到第二台服务器,第七个请求会访问到第三台服务器。

以下是我给出的代码案例:

public class WeightPolling {

  /**
   * key是ip,value是权重
   */
  public static Map<String, Integer> ipService = new LinkedHashMap<>();
  static {
    ipService.put("192.168.1.1", 5);
    ipService.put("192.168.1.2", 1);
    ipService.put("192.168.1.3", 1);
  }
  public static int requestId = 0;
  public static int getAndIncrement() {
    return requestId++;
  }

  public static String getIp(){
    //获取总的权重
    int totalWeight =0;
    for (Integer value : ipService.values()) {
      totalWeight+= value;
    }
    //获取当前轮询的值
    int andIncrement = getAndIncrement();
    int pos = andIncrement% totalWeight;
    for (String ip : ipService.keySet()) {
      if(pos < ipService.get(ip)){
        return ip;
      }
      pos -= ipService.get(ip);
    }
    return null;
  }

  public static void main(String[] args) {
    for (int i = 0; i < 7; i++) {
      System.out.println(getIp());
    }
  }

}

此时运行结果是

在这里插入图片描述

可以看的第一台服务器执行了5次,后面2台依次执行一次,依次类推。可能你觉得这种算法还不错。其实这种算法有一个缺点是,如果我第一台服务器设置权重过大可能我需要很多次请求都执行到第一台服务器上去,这样的情况分布是不均匀的,会造成某一台服务器压力过大导致崩溃。所以我后面要引入第三种算法来解决这个问题

平滑加权轮询算法

这种算法可能比较复杂,我第一次看也有点不太明白,后面看过相关资料在结合我自己的理解给大家图文解释一下,这里我举例的服务器配置和权重还是和上面一样

请求 当前权重 = 自身权重+选中后当前权重 总权重 当前最大权重 返回的ip 选中后当前权重=当前最大权重-总权重
1 {5,1,1} 7 5 192.168.1.1 {-2,1,1}
2 {3,2,2} 7 3 192.168.1.1 {-4,2,2}
3 {1,3,3} 7 3 192.168.1.2 {1,-4,3}
4 {6,-3,4} 7 6 192.168.1.1 {-1,-3,4}
5 {4,-2,5} 7 5 192.168.1.3 {4,-2,-2}
6 {9,-1,-1} 7 9 192.168.1.1 {2,-1,-1}
7 {7,0,0} 7 7 192.168.1.1 {0,0,0}

由上图可以看出第一台服务器虽然权重设置的是5,但并不是第五次请求过来都是第一台服务器执行,而是分散执行,调度序列是非常均匀的,且第 7 次调度时选中后当前权重又回到 {0, 0, 0},实例的状态同初始状态一致,所以后续可以一直重复调度操作。

可能有的人还不能清楚的明白上一张图表示的含义,我这里大概描述一下:

1.首先总权重不会变,默认就是当前设置的权重之和

2.在第一次请求进来的时候我默认初始化当前权重选中值是{0,0,0},所以当前权重的值就是{5+0,1+0,1+0},这里的5,1,1就是我们前面每台服务器设置的权重。

3.这里我们可以得出第一次请求过来的最大权重是5。然后返回第一台服务器ip

4.然后我们设置选中后当前权重,这里就是当前最大权重减去总权重(5-7),没有选中的权重不变,这时候得到当前权重选中权重的值{5-7,1,1}

5.在第二次请求过来的时候我们延续上面的2,3,4步骤执行.

如果这里还有不懂得我下面会提供我自己用java代码实现的算法:

public class Polling {

  /**
   * key是ip,value是权重
   */
  public static Map <String,Integer> ipService = new LinkedHashMap <>();
  static {
    ipService.put("192.168.1.1",5);
    ipService.put("192.168.1.2",1);
    ipService.put("192.168.1.3",1);
  }
  private static Map<String,Weight> weightMap = new LinkedHashMap <>();

  public static String getIp(){
    //计算总的权重
     int totalWeight = 0;
    for (Integer value : ipService.values()) {
      totalWeight+=value;
    }
    //首先判断weightMap是否为空
    if(weightMap.isEmpty()){
      ipService.forEach((ip,weight)->{
        Weight weights = new Weight(ip, weight,0);
        weightMap.put(ip,weights);
      });
    }
    //给map中得对象设置当前权重
    weightMap.forEach((ip,weight)->{
      weight.setCurrentWeight(weight.getWeight() + weight.getCurrentWeight());
    });

    //判断最大权重是否大于当前权重,如果为空或者小于当前权重,则把当前权重赋值给最大权重
    Weight maxWeight = null;
    for (Weight weight : weightMap.values()) {
      if(maxWeight ==null || weight.getCurrentWeight() > maxWeight.getCurrentWeight()){
        maxWeight = weight;
      }
    }
    //最后把当前最大权重减去总的权重
    maxWeight.setCurrentWeight(maxWeight.getCurrentWeight() - totalWeight);
    //返回
    return maxWeight.getIp();
  }

  public static void main(String[] args) {
    //模拟轮询7次取ip
    for (int i = 0; i < 7; i++) {
      System.out.println(getIp());
    }
  }

}

class Weight{
  /**
   * ip
   */
  private String ip;
  /**
   * 设置得权重
   */
  private int weight;
  /**
   * 当前权重
   */
  private int currentWeight;

  public Weight(String ip, int weight,int currentWeight) {
    this.ip = ip;
    this.weight = weight;
    this.currentWeight = currentWeight;
  }

  public String getIp() {
    return ip;
  }

  public void setIp(String ip) {
    this.ip = ip;
  }

  public int getWeight() {
    return weight;
  }

  public void setWeight(int weight) {
    this.weight = weight;
  }

  public int getCurrentWeight() {
    return currentWeight;
  }

  public void setCurrentWeight(int currentWeight) {
    this.currentWeight = currentWeight;
  }
}

这里代码得执行结果是:

在这里插入图片描述

可以看出此处执行结果和表格里描述得结果一致。

总结

可能第三种算法理解起来有点复杂,如果看不懂图表得意思可以先执行下代码,debugger一步步调试后还是很好理解。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

相关文章

  • Nginx配置srcache_nginx模块搭配Redis建立缓存系统

    Nginx配置srcache_nginx模块搭配Redis建立缓存系统

    这篇文章主要介绍了Nginx配置srcache_nginx模块搭配Redis建立缓存系统的方法,文中关于Nginx模块和Redis数据库的安装就不再说明了,这里只关注配置搭建阶段,需要的朋友可以参考下
    2016-01-01
  • 详解nginx惊群问题的解决方式

    详解nginx惊群问题的解决方式

    这篇文章主要介绍了详解nginx惊群问题的解决方式,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-01-01
  • nginx使用ssl模块配置支持HTTPS访问的方法

    nginx使用ssl模块配置支持HTTPS访问的方法

    这篇文章主要介绍了nginx使用ssl模块配置支持HTTPS访问的方法,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2018-06-06
  • Nginx服务器作反向代理实现内部局域网的url转发配置

    Nginx服务器作反向代理实现内部局域网的url转发配置

    这篇文章主要介绍了Nginx服务器作反向代理实现内部局域网的url转发实例,文中提到需要注意proxy_read_timeout参数的相关调整,需要的朋友可以参考下
    2016-01-01
  • Nginx 介绍及日常管理的详解

    Nginx 介绍及日常管理的详解

    这篇文章主要介绍了Nginx 介绍及日常管理的详解的相关资料,希望通过本文能帮助到大家,需要的朋友可以参考下
    2017-10-10
  • 详解如何部署H5游戏到nginx服务器

    详解如何部署H5游戏到nginx服务器

    这篇文章主要介绍了详解如何部署H5游戏到nginx服务器,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-05-05
  • Nginx基础入门之gzip配置指南

    Nginx基础入门之gzip配置指南

    众所周知随着nginx的发展,越来越多的网站使用nginx,因此nginx的优化变得越来越重要,所以下面这篇文章主要给大家介绍了关于Nginx基础入门之gzip配置的相关资料,需要的朋友可以参考借鉴,下面来一起看看吧。
    2017-08-08
  • 用nginx搭建简单的文件下载服务器的方法

    用nginx搭建简单的文件下载服务器的方法

    本篇文章主要介绍了用nginx搭建简单的文件下载服务器的方法,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2018-01-01
  • nginx利用ctx实现数据共享、修改上下文功能

    nginx利用ctx实现数据共享、修改上下文功能

    这篇文章主要给大家介绍了关于nginx利用ctx实现数据共享、修改上下文功能的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-01-01
  • 通过Nginx解决网络隔离实践记录详解

    通过Nginx解决网络隔离实践记录详解

    这篇文章主要介绍了通过Nginx解决网络隔离实践记录详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-05-05

最新评论