使用Golang实现加权负载均衡算法的实现代码

 更新时间:2021年09月09日 17:24:16   作者:Mr.YF  
这篇文章主要介绍了使用Golang实现加权负载均衡算法的实现代码,详细说明权重转发算法的实现,通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下

背景描述

如下图所示,负载均衡做为反向代理,将请求方的请求转发至后端的服务节点,实现服务的请求。

在nginx中可以通过upstream配置server时,设置weight表示对应server的权重。

若存在多个服务节点时,负载均衡如何通过服务节点的权重进行转发。

如下详细说明权重转发算法的实现。

用三个后端服务节点为例说明

设置三个后端服务ServerA,ServerB和ServerC,它们的权重分布是 5,3,1

按照加权负载均衡算法,在一轮(5+3+1=9次)中ServerA占5次,ServerB占3次,ServerC占1次,从而实现均衡。

如下图所示:

为了实现这个功能,可以给每一个后端设置对应的权重5,3,1

变量1:后端服务的权重 Weight

变量2:均衡器累计的总的有效权重EffectiveWeight

变量3:实时统计后端服务的当前权重 CurrentWeight

算法设计

第一步,向均衡器中增加后端服务标识

  • 将三个后端服务标识和权重Weight增加到负载均衡器列表中。
  • 每次增加后端服务时,累计总的有效权重EffectiveWeight。

第二步,每次获取一个后端服务标识

  • 对均衡器中的所有后端服务增加自己的权重Weight,即(5,3,1),计算ABC三个服务的当前权重。
  • 选择当前权重CurrentWeight最大的服务,做为本次期望的后端服务。
  • 将期望的后端服务的当前权重CurrentWeight减小总的权重EffectiveWeight,供下一轮使用。

如下是一个一轮(5+3+1=9次)获取的权重变化表:

从这个表中可以看到后端服务轮询的顺序是 A B A C A B A B A,其中A出现了5次,B出现了3次,C出现了1次,满足三个服务的权重Weight设置。

完成9次获取后,ABC三个服务的权重都归0,因此下一轮的9次获取也是均衡的,

算法实现

按照如上算法说明,使用Golang实现这个算法如下

package weightroundrobin

import (
    "fmt"
    "strings"
)

// 每一个后端服务定义
type BackendServer struct {
    // 实例权重
    Weight int
    // 当前的权重,初始为Weight
    currentWeight int
    // 后端服务名称
    ServerName string
}

// 通过权重实现调用轮询的定义
type WeightServerRoundRobin struct {
    // 所有有效的权重总和
    effectiveWeight int
    // 后端服务列表
    backendServerList []*BackendServer
}

// 创建一个负载轮询器
func NewWeightServerRoundRobin() *WeightServerRoundRobin {
    return &WeightServerRoundRobin{
        effectiveWeight: 0,
    }
}

// 增加后端服务名称和权重
func (r *WeightServerRoundRobin) AddBackendServer(backendServer *BackendServer) {
    r.effectiveWeight += backendServer.Weight
    r.backendServerList = append(r.backendServerList, backendServer)
}

// 更具权重获取一个后端服务名称
func (r *WeightServerRoundRobin) GetBackendServer() *BackendServer {
    var expectBackendServer *BackendServer
    for _, backendServer := range r.backendServerList {
        // 给每个后端服务增加自身权重
        backendServer.currentWeight += backendServer.Weight
        if expectBackendServer == nil {
            expectBackendServer = backendServer
        }
        if backendServer.currentWeight > expectBackendServer.currentWeight {
            expectBackendServer = backendServer
        }
    }
    r.VisitBackendServerCurrentWeight()
    // 把选择的后端服务权重减掉总权重
    expectBackendServer.currentWeight -= r.effectiveWeight
    return expectBackendServer
}

// 打印后端服务的当前权重变化
func (r *WeightServerRoundRobin) VisitBackendServerCurrentWeight() {
    var serverListForLog []string
    for _, backendServer := range r.backendServerList {
        serverListForLog = append(serverListForLog,
            fmt.Sprintf("%v", backendServer.currentWeight))
    }
    fmt.Printf("(%v)\n", strings.Join(serverListForLog, ", "))
}

写一个单测进行验证

package weightroundrobin

import (
    "fmt"
    "testing"
)

func TestNewWeightServerRoundRobin(t *testing.T) {
    weightServerRoundRobin := NewWeightServerRoundRobin()
    weightServerRoundRobin.AddBackendServer(&BackendServer{
        ServerName: "ServerA",
        Weight: 5,
    })
    weightServerRoundRobin.AddBackendServer(&BackendServer{
        ServerName: "ServerB",
        Weight: 3,
    })
    weightServerRoundRobin.AddBackendServer(&BackendServer{
        ServerName: "ServerC",
        Weight: 1,
    })

    expectServerNameList := []string{
        "ServerA", "ServerB", "ServerA", "ServerC", "ServerA", "ServerB", "ServerA", "ServerB", "ServerA",
        //"ServerA", "ServerB", "ServerA", "ServerC", "ServerA", "ServerB", "ServerA", "ServerB", "ServerA",
    }
    fmt.Printf("(A, B, C)\n")
    for ii, expectServerName := range expectServerNameList {
        weightServerRoundRobin.VisitBackendServerCurrentWeight()
        backendServer := weightServerRoundRobin.GetBackendServer()
        if backendServer.ServerName != expectServerName {
            t.Errorf("%v.%v.expect:%v, actual:%v", t.Name(), ii, expectServerName, backendServer.ServerName)
            return
        }
    }
}

运行单元测试,观察运行结果是否符合算法设计的预期

=== RUN   TestNewWeightServerRoundRobin
(A, B, C)
(0, 0, 0)
(5, 3, 1)
(-4, 3, 1)
(1, 6, 2)
(1, -3, 2)
(6, 0, 3)
(-3, 0, 3)
(2, 3, 4)
(2, 3, -5)
(7, 6, -4)
(-2, 6, -4)
(3, 9, -3)
(3, 0, -3)
(8, 3, -2)
(-1, 3, -2)
(4, 6, -1)
(4, -3, -1)
(9, 0, 0)
--- PASS: TestNewWeightServerRoundRobin (0.00s)
PASS

参考材料:

https://github.com/phusion/nginx/commit/27e94984486058d73157038f7950a0a36ecc6e35

到此这篇关于使用Golang实现加权负载均衡算法的文章就介绍到这了,更多相关Golang负载均衡算法内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • 探索Golang实现Redis持久化AOF实例

    探索Golang实现Redis持久化AOF实例

    这篇文章主要为大家介绍了Golang实现Redis持久化AOF实例探索,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2024-01-01
  • Go语言实现优雅关机和重启的示例详解

    Go语言实现优雅关机和重启的示例详解

    优雅的关机是指在关闭服务之前,先让服务处理完当前正在处理的请求,然后再关闭服务,本文主要为大家详细介绍了如何使用Go语言实现优雅关机和重启,感兴趣的小伙伴可以参考一下
    2025-04-04
  • graphql---go http请求使用详解

    graphql---go http请求使用详解

    这篇文章主要介绍了graphql---go http请求使用详解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-12-12
  • Go语言入门Go Web Fiber框架快速了解

    Go语言入门Go Web Fiber框架快速了解

    这篇文章主要为大家介绍了Go语言入门Go Web Fiber框架的示例详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2022-05-05
  • 如何在golang中检查文件是否存在

    如何在golang中检查文件是否存在

    如果你用的是 Python,可通过 os.path.exists 这样的标准库函数实现,遗憾的是,Go 标准库没有提供这样直接的函数,所以下面我们就来了解下如何使用GO语言能实现检查文件是否存在呢
    2024-02-02
  • OpenTelemetry-go的SDK使用方法详解

    OpenTelemetry-go的SDK使用方法详解

    这篇文章主要介绍了OpenTelemetry-go的SDK使用方法,OpenTelemetry帮我们实现了相应语言的SDK,所以我们只需要进行调用即可,本文根据官方文档实例讲解,需要的朋友可以参考下
    2022-09-09
  • go语言数组及结构体继承和初始化示例解析

    go语言数组及结构体继承和初始化示例解析

    这篇文章主要为大家介绍了go语言数组及结构体继承和初始化示例解析,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步早日升职加薪
    2022-04-04
  • golang判断文本文件是否是BOM格式的方法详解

    golang判断文本文件是否是BOM格式的方法详解

    在Go语言中,我们可以通过读取文本文件的前几个字节来识别它是否是BOM格式的文件,BOM(Byte Order Mark)是UTF编码标准中的一部分,用于标示文本文件的编码顺序,文中通过代码介绍的非常详细,需要的朋友可以参考下
    2023-10-10
  • golang如何用type-switch判断interface变量的实际存储类型

    golang如何用type-switch判断interface变量的实际存储类型

    这篇文章主要介绍了golang如何用type-switch判断interface变量的实际存储类型,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-04-04
  • 手把手教你如何在Goland中创建和运行项目

    手把手教你如何在Goland中创建和运行项目

    欢迎来到本指南!我们将手把手地教您在Goland中如何创建、配置并运行项目,通过简单的步骤,您将迅速上手这款强大的集成开发环境(IDE),轻松实现您的编程梦想,让我们一起开启这段精彩的旅程吧!
    2024-02-02

最新评论