Redis中HyperLogLog的使用详情
前言
HyperLogLog ，基数统计；
那什么是基数？
比如有两个数组
数组A = [1,2,3,4,5];
数组B = [3,4,5,6,7];
这时候基数就是 [1,2,3,4,5,6,7]，总共有7个数；
就是去重之后的数据；
HyperLogLog 就是用来做去重复统计的；
bitmap 在做统计时，虽然使用的是 bit 来做记录，已经很节省空间了；
但是在随着数据量快速增长的情况下，bitmap 也是很占内存空间的；
而 HyperLogLog 就不同了，HyperLogLog 的每个 key 只占用 12kb 的内存，
就可以统计 2的64 次方个基数；
而且不会随着数据量的增多而变大，就是固定的 12kb；
这是因为 HyperLogLog 每次只会根据添加的数据去计算基数，而不保存添加的数据本身；
但这也造成了一个问题，就是 HyperLogLog 基数统计的准确率不是100%，会有 0.81% 的误差；
但对于亿级数据的统计，这点误差似乎可以忽略不计；
同样的，bitmap 记录数据本身，它的计算是精确的；
所有，也可以说 HyperLogLog 是一种概率计算，但是误差是很小的。
HyperLogLog 的使用也非常简单，就3个操作api
添加元素
pfadd key value [value ...]
pfadd 20220628:uv ip1 ip2 ip3 pfadd 20220629:uv ip1 ip2 ip3 ip4 ip5 pfadd 20220630:uv ip2 ip4 ip5 ip6 ip7 ip8
重复数据不会被保存，返回的是0
> pfadd 20220628:uv ip1 ip2 ip3 1 > pfadd 20220628:uv ip1 ip2 ip3 0
- 获取 HyperLogLog 的基数估算值
PFCOUNT key [key ...]
> pfcount 20220628:uv 20220629:uv 5
合并得出的不会被储存，使用之后就会被删掉
- 合并多个key
pfmerge destkey key [key ...]
> pfmerge result 20220628:uv 20220629:uv 20220630:uv OK
pfmerge 合并多个key后，会生成一条 result 数据
然后再对 result 做 pfcount 操作
> pfcount result 8
这时候拿到的值就是 上面3个key 计算出来的基数。
HyperLogLog 在 spring 里的使用也非常简单，
pfadd 对应的是 .add() 操作；
pfcount 对应的是 .size() 操作；
pfmerge 对应的是 .union() 操作；
下面是使用的 Demo
import org.junit.jupiter.api.Test;
import org.junit.runner.RunWith;
import org.springframework.boot.test.context.SpringBootTest;
import org.springframework.data.redis.core.HyperLogLogOperations;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.test.context.junit4.SpringRunner;
import javax.annotation.Resource;
@SpringBootTest
@RunWith(SpringRunner.class)
class RedisTest {
@Resource
private RedisTemplate<String, String> redisTemplate;
@Test
void hyperLogLogTest() {
HyperLogLogOperations<String, String> hyperLogLogOperations = redisTemplate.opsForHyperLogLog();
// 添加元素
Long add = hyperLogLogOperations.add("20220628:uv", "ip1", "ip2", "ip3");
System.out.println("add : " + add);
hyperLogLogOperations.add("20220629:uv", "ip1", "ip2", "ip3", "ip4", "ip5");
hyperLogLogOperations.add("20220630:uv", "ip2", "ip4", "ip5", "ip6", "ip7", "ip8");
// 获取元素基数
Long size = hyperLogLogOperations.size("20220628:uv", "20220629:uv");
System.out.println("size : " + size);
// 合并多个元素
Long result = hyperLogLogOperations.union("unionResult", "20220628:uv", "20220629:uv", "20220630:uv");
System.out.println("result : " + result);
Long unionResult = hyperLogLogOperations.size("unionResult");
System.out.println("unionResult : " + unionResult);
}
}到此这篇关于Redis中HyperLogLog的使用详情的文章就介绍到这了,更多相关RedisH yperLogLog内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
异步队列是一种底层基于异步 I/O 模型的消息队列,用于在分布式系统中进行同步和异步的通讯和协作,本文主要介绍了Redis异步队列的实现及应用场景,感兴趣的可以了解一下2023-12-12
这篇文章主要为大家详细介绍了redis中RDB结构，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2017-08-08
Redis缓存的过期策略是保证缓存可靠性和性能的关键之一,本文主要介绍了Redis缓存过期的实现示例,具有一定的参考价值,感兴趣的可以了解一下2023-12-12
基于sentienl 获取和动态感知 master、slaves节点信息的变化，我们的读写分离客户端就能具备高可用+动态扩容感知能力了，接下来通过本文给大家分享redis客户端实现高可用读写分离的方式，感兴趣的朋友一起看看吧2021-07-07
Redis报错NOAUTH Authentication required简单解决办法
这篇文章主要给大家介绍了关于Redis报错NOAUTH Authentication required的简单解决办法,Redis无密码报错NOAUTH Authentication required的原因是客户端访问Redis时需要提供密码,但是没有提供或提供的密码不正确,需要的朋友可以参考下2024-05-05
文章介绍了通过Python脚本生成Redis命令并输出至文件,再用Shell脚本批量执行的流程,强调Pipeline技术可提升批量写入效率,并说明如何验证数据插入成功2025-08-08
Redis是一个开源的（BSD协议），内存中的数据结构存储，它可以用作数据库，缓存，消息代理。这篇文章主要介绍了Redis不仅仅是缓存，还是……,需要的朋友可以参考下2020-12-12
这篇文章主要为大家介绍了k8s部署redis集群实现过程实例详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2023-02-02
这篇文章主要介绍了Redis集群的三种部署方式及三种应用问题的处理,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2024-04-04
解读redis slaveof命令执行后为什么需要清库重新同步
这篇文章主要介绍了redis slaveof命令执行后为什么需要清库重新同步,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2025-04-04
最新评论