排查Redis大key的方法总结
更新时间：2024年08月14日 08:29:27 作者：jc0803kevin
这篇文章主要介绍了排查Redis大key的方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面跟着小编来一起学习学习吧
排查Redis大key的方法
redis-cli --bigkeys
特点：
- 使用–bigkeys参数会扫描整个Redis数据库，应该在低流量峰值时执行
- 这个方法只能返回每种类型中最大的那个bigkey，无法得到大小排到前N位的bigkey
- 对于集合类型来说，这个方法只统计集合元素的多少，而不是实际占用的内存量。因为一个集合中元素个数多，并不一定占用内存就多
@GetMapping("init")
@Async
public void initData(@RequestParam (name = "size", defaultValue = "5000") Integer size){
redisTemplate.opsForValue().set("string_large_key1", generateTestData(10* 1024));
redisTemplate.opsForValue().set("string_large_key2", generateTestData(10* 1024));
redisTemplate.opsForSet().add("set_large_key1", new HashSet<>(50000));
redisTemplate.opsForSet().add("set_large_key2", new HashSet<>(50000));
redisTemplate.opsForHash().putAll("hash_large_key1", buildMapData(50000));
redisTemplate.opsForHash().putAll("hash_large_key2", buildMapData(50000));
redisTemplate.opsForList().rightPushAll("list_large_key1", buildListData(50000));
redisTemplate.opsForList().rightPushAll("list_large_key2", buildListData(50000));
}
private Map buildMapData(int initialCapacity){
Map<String, String> result =new HashMap<>(initialCapacity);
for (int i = 0; i < initialCapacity; i++) {
result.put("kevin_" + i, "123");
}
return result;
}
private List<String> buildListData(int initialCapacity){
List<String> result = new ArrayList<>(initialCapacity);
for (int i = 0; i < initialCapacity; i++) {
result.add("kevin_" + i );
}
return result;
}
- 使用–bigkeys查询
root@DESKTOP-0JS7U4E:~# redis-cli -h 127.0.0.1 -p 16379 --bigkeys # Scanning the entire keyspace to find biggest keys as well as # average sizes per key type. You can use -i 0.1 to sleep 0.1 sec # per 100 SCAN commands (not usually needed). [00.00%] Biggest hash found so far 'hash_large_key2' with 50000 fields # 只返回了最大的那个bigkey [00.00%] Biggest string found so far 'string_large_key2' with 10485762 bytes [00.00%] Biggest set found so far 'set_large_key2' with 1 members [00.00%] Biggest list found so far 'list_large_key1' with 50000 items -------- summary ------- Sampled 9 keys in the keyspace! Total key length in bytes is 135 (avg len 15.00) Biggest list found 'list_large_key1' has 50000 items Biggest hash found 'hash_large_key2' has 50000 fields Biggest string found 'string_large_key2' has 10485762 bytes Biggest set found 'set_large_key2' has 1 members # 返回了list的容量 2 lists with 100000 items (22.22% of keys, avg size 50000.00) # 返回了hash的容量 2 hashs with 100000 fields (22.22% of keys, avg size 50000.00) 2 strings with 20971524 bytes (22.22% of keys, avg size 10485762.00) 0 streams with 0 entries (00.00% of keys, avg size 0.00) 3 sets with 3 members (33.33% of keys, avg size 1.00) 0 zsets with 0 members (00.00% of keys, avg size 0.00) root@DESKTOP-0JS7U4E:~#
redis-cli scan VS memory usage组合
实际上bigkey的底层也使用SCAN命令执行。
SCAN命令可以用于迭代遍历所有key。它是一个非阻塞操作，支持游标(cursor)的方式来逐步遍历所有key。使用SCAN命令可以避免阻塞，减少对Redis性能的影响。
1、先使用scan扫描出key
127.0.0.1:16379> scan 1000 MATCH "string*" 1) "0" 2) 1) "string_large_key2" 2) "string_large_key1" 127.0.0.1:16379> 127.0.0.1:16379> scan 0 MATCH "string*" count 20 1) "0" 2) 1) "string_large_key2" 2) "string_large_key1" 127.0.0.1:16379>
2、使用 memory usage查询key占用的内存大小
127.0.0.1:16379> memory usage string_large_key1 (integer) 10485831 127.0.0.1:16379>
这样组合的方式操作比较复杂，需要对命令使用非常熟悉。在生产环境需要更快，更高效的发现问题还是建议使用成熟的分析工具，毕竟也都是用这些命令组合起来的。
使用云上的Redis可以直接使用CloundDBA功能
redis-rdb-tools
该三方工具Github地址redis-rdb-tools。
安装该分析工具
python setup.py install
要使用memory功能，需要安装
pip3 install python-lzf
如果出现没有权限的问题，那就以管理员打开cmd再运行
error: [Errno 13] Permission denied: 'C:\\Python310\\Scripts\\rdb-script.py'
安装完成之后目录下面多出这几个文件。
C:\Python310\Scripts>dir .................... 2024/08/08 13:38 996 rdb-script.py 2024/08/08 13:38 74,752 rdb.exe 2024/08/08 13:38 1,030 redis-memory-for-key-script.py 2024/08/08 13:38 74,752 redis-memory-for-key.exe 2024/08/08 13:38 1,018 redis-profiler-script.py 2024/08/08 13:38 74,752 redis-profiler.exe C:\Python310\Scripts>
使用rdb进行分析
C:\Python310\Scripts>rdb --command memory --bytes 102400 \\wsl.localhost\Ubuntu-20.04\var\lib\redis\dump.rdb database,type,key,size_in_bytes,encoding,num_elements,len_largest_element,expiry 0,hash,hash_large_key2,3186588,hashtable,50000,11, 0,hash,hash_large_key1,3186588,hashtable,50000,11, 0,string,string_large_key1,12582976,string,10485762,10485762, 0,list,list_large_key1,744355,quicklist,50000,13, 0,string,string_large_key2,12582976,string,10485762,10485762, 0,list,list_large_key2,744355,quicklist,50000,13, C:\Python310\Scripts>
也可以加上-f参数，将结果输出到本地文件中。
rdb --command memory --bytes 102400 \\wsl.localhost\Ubuntu-20.04\var\lib\redis\dump.rdb -f d:\kevin.csv
以上就是排查Redis大key的方法总结的详细内容，更多关于排查Redis大key的资料请关注脚本之家其它相关文章！
相关文章
Jedis 是老牌的 Redis 的 Java 客户端，提供了比较全面的 Redis 命令的操作支持，也是目前使用最广泛的客户端。这篇文章主要为大家详细介绍了Jedis的使用技巧，需要的可以参考一下2022-12-12
本文给大家介绍redis cluster支持pipeline的实现思路，在 cluster 上执行 pipeline 可能会由于 redis 节点扩缩容 中途 redirection 切换连接导致结果丢失，具体细节问题请参考下本文2021-06-06
redis在2.6推出了脚本功能，允许开发者使用Lua语言编写脚本传到redis中执行。本文就介绍了redis执行lua脚本的实现方法，感兴趣的可以了解一下2021-11-11
在开发过程中，会遇到要批量删除某种规则的key值，但是通常情况下没有批量删除某一个类的命令，遇到这种情况该如何处理呢？下面小编给大家带来了redis批量删除key值的问题，感兴趣的朋友一起看看吧2022-03-03
这篇文章主要介绍了使用Redis实现UA池的方案，本文给大家介绍的非常详细，具有一定的参考借鉴价值,需要的朋友可以参考下2019-11-11
本文主要介绍了redis-cli创建redis集群的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧2024-06-06
这篇文章主要给大家介绍了关于redis实现加锁的几种方法，加锁命令分别是INCR、SETNX和SET，文中给出了详细的示例代码，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧。2017-09-09
Redis是一款内存高速缓存数据库，可以满足我们对海量数据的读写需求，本文重点给大家介绍Windows下Redis x64的安装与使用教程，感兴趣的朋友一起看看吧2022-03-03
在Linux系统上运行Redis服务时,有时会遇到“无法连接Redis服务”的报错,本文就详细的介绍一下解决方法,具有一定的参考价值,感兴趣的可以了解一下2023-09-09
这篇文章主要介绍了Redis如何高效删除大key问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2024-04-04
最新评论