redis lua限流算法实现示例
限流算法
常见的限流算法
- 计数器算法
- 漏桶算法
- 令牌桶算法
计数器算法
顾名思义,计数器算法是指在一定的时间窗口内允许的固定数量的请求.比如,2s内允许10个请求,30s内允许100个请求等等.如果设置的时间粒度越细,那么相对而言限流就会越平滑,控制的粒度就会更细.
场景分析
试想,如果设置的粒度比较粗会出现什么样的问题呢?如下图设置一个 1000/3s 的限流计数统计.
图中的限流策略为3s内允许的最大请求量为1000,那么会出现2个极端:
极端情况1:
- 第1s请流量为10,
- 第2s请流量为10,
- 第3s请流量突然激增到980.这意味着在这一刻,有大量的请求蜂拥而至,假设服务每秒能处理的
上线为800/1s,但是此刻却有超过这个量级的请求量,那么后果是不堪设想的.
极端情况2:
- 第1s请流量突然就达到990,
- 留给后续第2s,3s的可请求数量就非常少了,可能会出现大量的拒绝请求.
结论:
如果用统计计数算法,尽量保持粒度切割精细.
算法实现
redis的ttl特性完美的满足了这一需求,将时间窗口设置为key的失效时间,然后将key的值每次请求+1即可.伪代码实现思路:
//1.判断是否存在该key
if(EXIT(key)){
// 1.1自增后判断是否大于最大值,并返回结果
if(INCR(key) > maxPermit){
return false;
}
return true;
}
//2.不存在key,则设置key初始值为1,失效时间为3秒
SET(KEY,1);
EXPIRE(KEY,3);漏铜算法
漏桶算法核心概念：
- 桶的容量是固定的,并且水流以一个固定的速率流出；
- 流入的水流可以是任意速率；
- 如果流入的水流超出了桶的容量，则后续流入的水流溢出(请求被丢弃)。
- 如果桶内没有水,则不需要流出
缺点:
不难想象漏桶算法并不能很好的应对突发的流量限制,在某一个时间段流量激增,则漏桶算法处理就比较无能为力.这个时候就需要用到和他相反设计的令牌桶算法
令牌桶算法:
如上图所示,整个请求流程一目了然.简单概括如下:
1.用户请求资源时首选从桶里获取令牌,如果有令牌则放行,如此同时桶里的令牌数量-1
2.于此同时,以一定的速率往桶里加入令牌,这个速度是可根据实际场景随意设置.
算法实现
var key;
var maxPermit;//桶的容量,即最大请求限制
var expire;//失效时间
var bucketInterval;//每次向桶里添加令牌的时间间隔
var bucketNum;//每次向桶里添加令牌的个数
var lastTimeKey = key +"last";//标记上一次操作时间
//判断是否存在该key
if(EXIT(key)){
var value = GET(key);
var diffTime = now() - lastTimeKey;
// 1.1判断是否超出时间间隔
if(diffTime > bucketInterval){
// 1.2根据时间间隔,计算出应该向桶里添加令牌的个数
local maxValue = value+math.floor(diff/interval)*step;
if (maxValue > limit)
value = limit;
else
value = maxValue;
//设置key的值及操作时间
SET(key,value);
SET(lastTimeKey,now());
}
// 2.1在时间间隔内,判断桶里是否有值
if(value <= 0){
reurn false;
}else{
// 2.2 减1
DECR(key);
}
reture true;
}
//2.不存在key,则设置key初始值为maxPermit-1
SET(key,maxPermit-1);
EXPIRE(lastTimeKey,now());上面实现代码只是伪代码,提供的是一种思路而已. 仔细想来其中某个环节其实并不完美.大家可以参考Guava的ratelimit实现思路,他的限流就是基于令牌桶算法,但是比较遗憾的是在单机下的限流.
思考:
就是时间间隔如果过长的话,一次性向桶里添加的令牌数量则是桶的最大容量!那么某个时间的瞬间请求过来,服务器的压力是非常大的.
所以此处增加令牌数可以设置的稍微合理些,哪怕间隔时间再长!
以上就是redis lua限流算法实现示例的详细内容，更多关于redis lua限流算法的资料请关注脚本之家其它相关文章！
相关文章
文章主要讨论了分布式系统中的数据一致性模型、缓存使用场景以及数据同步策略,一致性模型包括强一致性、弱一致性和最终一致性,缓存使用场景主要在高并发读取数据时提升性能,数据同步策略分为先删除缓存再更新数据库和先更新数据库再删除缓存两种2024-11-11
集群技术是构建高性能网站架构的重要手段，下面这篇文章主要介绍了Redis 集群搭建和简单使用教程，文中通过示例代码和图片介绍的很想，对大家具有一定的参考价值，有需要的朋友们下面来一起看看吧。2017-02-02
Redis的位图可以高效实现用户签到功能,每个bit位对应一个签到状态,节省存储空间,利用SETBIT、GETBIT等命令操作签到数据,可统计连续签到天数和本月签到情况,感兴趣的可以了解一下2024-09-09
这篇文章主要给大家介绍了Redis新手入门的相关资料，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-11-11
跳表是一种基于并联的链表结构,用于在有序元素序列中快速查找元素的数据结构,本文给大家介绍Redis中的数据结构跳表,感兴趣的朋友跟随小编一起看看吧2024-06-06
这篇文章主要介绍了redis如何后台启动的方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-03-03
本文详细讲解了如何在Linux系统中监控Redis连接池的使用情况,以及如何通过连接池参数配置、系统资源使用情况、Redis命令监控、外部监控工具等多种方法进行检测和优化,以确保系统在高并发场景下的性能和稳定性,讨论了连接池的概念、工作原理、参数配置,以及优化策略等内容2024-09-09
文章分享了常见的Redis服务器优化技巧和策略,主要包括内存管理、持久化配置、连接配置和网络优化四个方面,内存管理主要是设置maxmemory参数和选择合适的内存淘汰策略,持久化配置包括RDB持久化和AOF持久化2024-09-09
这篇文章主要介绍了Redis Cluster 集群搭建过程，本文分步骤通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2021-08-08
使用百度地图api通过redis实现地标存储及范围坐标点查询功能
这篇文章主要介绍了使用百度地图api通过redis实现地标存储及范围坐标点查询功能,本文通过图文实例代码相结合给大家介绍的非常详细，需要的朋友可以参考下2021-08-08
最新评论