Go语言使用漏桶算法和令牌桶算法来实现API限流

 更新时间:2024年11月21日 10:13:10   作者:左诗右码  
为防止服务器被过多的请求压垮,限流是一个至关重要的技术手段,下面我们就来看看如何使用漏桶算法和令牌桶算法来实现 API 的限流吧

在现代 Web 应用程序中,流量的突增是不可避免的。为防止服务器被过多的请求压垮,限流(Rate Limiting) 是一个至关重要的技术手段。

本文将通过 Go 语言的 Gin 框架,演示如何使用漏桶算法令牌桶算法来实现 API 的限流。

限流的意义

限流的主要目的是保护系统资源,防止因请求量过大导致服务器崩溃。同时,它也能防止恶意用户对系统的攻击,确保服务的稳定性和可用性。

两种常见的限流算法

1.漏桶算法(Leaky Bucket)

漏桶算法将请求视为水滴,水滴先进入桶中,然后以固定的速率从桶中流出。如果请求的速率超过了桶的流出速率,多余的请求将会被丢弃。

这个算法的优点很明显,就是让请求非常稳定,但是缺点也很明显,因为请求非常稳定,就不适于一些秒杀等一些可能在某一段时间会有洪峰流量的场景。不太好适情况控制流量的进入。

2.令牌桶算法(Token Bucket)

令牌桶算法中,系统会以固定的速率向桶中加入令牌,每个请求需要获取一个令牌才能执行。如果桶中没有足够的令牌,请求将被拒绝。

代码实现

在这个示例中,我们将展示如何在 Gin 框架中应用这两种算法来实现 API 的限流。

package main

import (
	"fmt"
	"net/http"
	"time"

	"github.com/gin-gonic/gin"
	ratelimit2 "github.com/juju/ratelimit" // 令牌桶算法
	ratelimit1 "go.uber.org/ratelimit"     // 漏桶算法
)

func pingHandler(c *gin.Context) {
	c.JSON(200, gin.H{
		"message": "pong",
	})
}

func pingHandler2(c *gin.Context) {
	c.JSON(200, gin.H{
		"message": "pong2",
	})
}

// rateLimit1 使用漏桶算法来限制请求速率
func rateLimit1() func(ctx *gin.Context) {
	// 漏桶算法,第一个参数为两滴水滴之间的时间间隔。
	// 此时表示两滴水之间的时间间隔是 100 纳秒
	rl := ratelimit1.New(100)

	return func(ctx *gin.Context) {
		// 尝试取出水滴
		if waitTime := rl.Take().Sub(time.Now()); waitTime > 0 {
			fmt.Printf("需要等待 %v 秒,下一滴水才会滴下来\n", waitTime)
			// 这里我们可以让程序继续等待,也可以直接拒绝掉
			// time.Sleep(waitTime)
			ctx.String(http.StatusOK, "rate limit, try again later")
			ctx.Abort()
			return
		}
		// 证明可以继续执行
		ctx.Next()
	}
}

// rateLimit2 使用令牌桶算法来限制请求速率
func rateLimit2() func(ctx *gin.Context) {
	// 令牌桶算法:第一个参数为每秒填充令牌的速率为多少
	// 第二个参数为令牌桶的容量
	// 这里表示每秒填充 10 个令牌
	rl := ratelimit2.NewBucket(time.Second, 10)

	return func(ctx *gin.Context) {
		// 尝试取出令牌
		var num int64 = 1
		// 这里表示需要 num 个令牌和已经取出的令牌数是否相等
		// 不相等,则表示超过了限流
                // 比如,假设每一个请求过来消耗2个令牌,但是从桶中取出的令牌个数为 1 ,那么则认为超过了限流(一般而言是一个请求消耗一个令牌,这里仅为举例)
		if rl.TakeAvailable(num) != num {
			// 此次没有取到令牌,说明超过了限流
			ctx.String(http.StatusOK, "rate limit, try again later")
			ctx.Abort()
			return
		}
		// 证明可以继续执行
		ctx.Next()
	}
}

func main() {
	r := gin.Default()

	// 漏桶算法限流
	r.GET("/ping", rateLimit1(), pingHandler)

	// 令牌桶算法限流
	r.GET("/ping2", rateLimit2(), pingHandler2)

	r.Run()
}

代码解析

漏桶算法的实现(rateLimit1 函数)

  • 通过 go.uber.org/ratelimit 包中的 ratelimit.New 方法创建了一个限流器。
  • 当请求速率超过限流器的处理能力时,请求将被拒绝,并返回 "rate limit, try again later"。

令牌桶算法的实现(rateLimit2 函数)

  • 使用 github.com/juju/ratelimit 包实现了令牌桶算法。每秒填充一定数量的令牌到桶中。
  • 如果桶中没有足够的令牌,请求将被拒绝。

Gin 路由配置

main 函数中,通过 rateLimit1rateLimit2 中间件为 /ping/ping2 路由分别设置了漏桶和令牌桶限流。

总结

在本文中,我们演示了如何在 Go 中使用漏桶算法和令牌桶算法实现 API 的限流。

这些算法在高并发的 Web 服务中非常有用,可以有效防止服务被大量请求淹没,确保系统的稳定性。希望通过这篇文章,您能更好地理解并应用这些限流技术到您的项目中。

以上就是Go语言使用漏桶算法和令牌桶算法来实现API限流的详细内容,更多关于Go API限流的资料请关注脚本之家其它相关文章!

相关文章

  • Golang urfave/cli库简单应用示例详解

    Golang urfave/cli库简单应用示例详解

    这篇文章主要为大家介绍了Golang urfave/cli库简单应用示例详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2023-09-09
  • go性能分析工具pprof的用途及使用详解

    go性能分析工具pprof的用途及使用详解

    刚开始接触go就遇到了一个内存问题,在进行内存分析的时候发现了一下比较好的工具,在此留下记录,下面这篇文章主要给大家介绍了关于go性能分析工具pprof的用途及使用的相关资料,需要的朋友可以参考下
    2023-01-01
  • Golang异常处理之defer,panic,recover的使用详解

    Golang异常处理之defer,panic,recover的使用详解

    这篇文章主要为大家介绍了Go语言异常处理机制中defer、panic和recover三者的使用方法,文中示例代码讲解详细,需要的朋友可以参考下
    2022-05-05
  • Go语言实现常见限流算法的示例代码

    Go语言实现常见限流算法的示例代码

    计数器、滑动窗口、漏斗算法、令牌桶算法是我们常见的几个限流算法,本文将依次用Go语言实现这几个限流算法,感兴趣的可以了解一下
    2023-05-05
  • Go语言{}大括号的特殊用法实例探究

    Go语言{}大括号的特殊用法实例探究

    这篇文章主要为大家介绍了Go语言{}大括号的特殊用法实例探究,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2024-01-01
  • golang如何自定义json序列化应用详解

    golang如何自定义json序列化应用详解

    son格式可以算我们日常最常用的序列化格式之一了,下面这篇文章主要给大家介绍了关于golang如何自定义json序列化应用的相关资料,文中通过示例代码介绍的非常详细,需要的朋友可以参考借鉴,下面来一起看看吧
    2018-08-08
  • go语言中的指针自动解引用

    go语言中的指针自动解引用

    Go语言中,编译器会自动解引用指针来访问字段,自动解引用使得使用指针访问结构体字段和方法变得更加直观,降低了编程错误的风险,并使代码更易于理解和维护
    2024-10-10
  • go实现冒泡排序的示例代码

    go实现冒泡排序的示例代码

    这篇文章主要介绍了go实现冒泡排序的示例代码,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2021-01-01
  • 图文详解Go程序如何编译并运行起来的

    图文详解Go程序如何编译并运行起来的

    Go语言这两年在语言排行榜上的上升势头非常猛,Go语言虽然是静态编译型语言,但是它却拥有脚本化的语法,下面这篇文章主要给大家介绍了关于Go程序如何编译并运行起来的相关资料,需要的朋友可以参考下
    2024-05-05
  • 详解Go如何实现协程并发执行

    详解Go如何实现协程并发执行

    线程是通过本地队列,全局队列或者偷其它线程的方式来获取协程的,目前看来,线程运行完一个协程后再从队列中获取下一个协程执行,还只是顺序执行协程的,而多个线程一起这么运行也能达到并发的效果,接下来就给给大家详细介绍一下Go如何实现协程并发执行
    2023-08-08

最新评论