redis 限制内存使用大小的实现
记录一次生产环境问题排查过程：
生产环境部署方式：nginx + uwsgi + flask
问题描述：
发现生产环境中之前正常运行的服务突然不可用了，查看程序日志发现部分接口访问时报I/O写错误，nginx acess.log显示504，error.log显示 upstream time out.
同时netstat -apn | grep 6379 | wc -l检查发现redis存在大量连接，进一步检查发现其中大多为SYN_SENT包，连接大多归属于uwsgi进程。
因为程序中有很多接口被调用是会访问redis, 以为是redis连接池导致，对程序中的redis连接池进行优化后重启服务，刚启动时一切正常，http 200, 但几分钟后服务再次挂掉，http 504.
检查系统资源使用情况，发现 kswapd0 进程CPU占用很高，这个进程是当物理内存不足时，会将一部分硬盘当做虚拟内存来使用, 使用swap分区与内存换页操作交换数据，导致CPU占用过高, 再细看发现redis-server内存占用已超过100%：
进入redis中查看info memory和各存储数据的key下数据量，果然存在大量未处理完毕的数据。
到此问题终于是找到了。
设置redis最大占用内存
# 编辑redis配置文件，加入最大内存使用限制，我根据服务器的情况设置为3G maxmemory 3221225472
设置redis数据过期策略：
redis中有6种过期策略：
# 根据LRU算法生成的过期时间来删除 # volatile-lru -> remove the key with an expire set using an LRU algorithm # 根据LRU算法删除任何key。 # allkeys-lru -> remove any key accordingly to the LRU algorithm # 根据过期设置来随机删除key。 # volatile-random -> remove a random key with an expire set # 无差别随机删。 # allkeys-random -> remove a random key, any key # 根据最近过期时间来删除（辅以TTL） # volatile-ttl -> remove the key with the nearest expire time (minor TTL) # 谁也不删，直接在写操作时返回错误。 # noeviction -> don't expire at all, just return an error on write operations
在redis配置文件中设置过期策略为：maxmemory-policy allkeys-lru
一开始是设置为volatile-lru的，但是该策略只是清除设置过期时间的key值，因为很多key并没有设置过期时间。因此修改为maxmemory-policy allkeys-lru，指明非活跃近期很少用的key值清除.
在使用maxmemory-policy allkeys-lru策略时，内存超限后将不再存储数据，但数据的读取删除操作不会受影响，超限时显示错误
OOM command not allowed when used memory > 'maxmemory'
重启程序，至此服务终于正常运行。
总结：本次的问题归根结底是redis中存储入了大量脏数据，但数据处理并没有及时的清理掉这部分数据，最终导致服务停滞，allkeys-lru策略有可能会将长期未用但实际有用的数据清理掉，所以还是应优化数据处理为主。
到此这篇关于redis 限制内存使用大小的实现的文章就介绍到这了,更多相关redis 限制内存内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
在现代的分布式系统中,Redis作为一种高性能的键值存储数据库,被广泛应用于缓存、消息队列、会话存储等场景,随着业务的发展,Redis实例的数据迁移需求也变得越来越常见,本文将详细介绍Redis数据迁移的多种方法,并通过命令行工具帮助你轻松完成迁移任务2025-01-01
本文介绍了在Kubernetes环境下搭建Redis集群的详细步骤,包括环境准备、安装NFS、创建PV卷、搭建Redis集群、集群初始化、主从切换测试以及开放外网端口等内容2025-01-01
限流是大型系统必备的保护措施,本文将结合redis , lua 脚本 以及 Nestjs Guard 来实现 限流的效果,感兴趣的小伙伴可以跟随小编一起学习一下2023-11-11
缓存Redis，是我们最常用的服务，其适用场景广泛，被大量应用到各业务场景中。也正因如此，缓存成为了重要的硬件成本来源，我们有必要从空间上做一些优化，降低成本的同时也会提高性能，本文通过代码示例介绍了redis如何优化缓存空间，需要的朋友可以参考一下2023-04-04
Redis 的 List 是一个双向链表，链表中的每个节点都包含了一个字符串。是redis中最常用的数据结构之一，本文主要介绍了Redis链表底层实现及生产实战，文中通过示例代码介绍的非常详细，需要的朋友们下面随着小编来一起学习学习吧2023-03-03
Redis 中使用 list,streams,pub/sub 几种方式实现消息队列的问题
这篇文章主要介绍了Redis 中使用 list,streams,pub/sub 几种方式实现消息队列,本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2022-03-03
这里我们来讲解一个简单粗暴的Redis数据备份和恢复方法,有一个在不同主机上迁移Redis数据的示例,还有一个备份脚本实现的关键点提示,一起来看一下:2016-06-06
SpringBoot整合Redis实现序列化存储Java对象的操作方法
这篇文章主要介绍了SpringBoot整合Redis实现序列化存储Java对象,本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2023-03-03
基于sentienl 获取和动态感知 master、slaves节点信息的变化，我们的读写分离客户端就能具备高可用+动态扩容感知能力了，接下来通过本文给大家分享redis客户端实现高可用读写分离的方式，感兴趣的朋友一起看看吧2021-07-07
这篇文章主要介绍了基于redis乐观锁实现并发排队的相关资料,需要的朋友可以参考下2022-12-12
最新评论