详解redis大幅性能提升之使用管道（PipeLine）和批量（Batch）操作
前段时间在做用户画像的时候，遇到了这样的一个问题，记录某一个商品的用户购买群，刚好这种需求就可以用到Redis中的Set，key作为productID，value就是具体的customerid集合，后续的话，我就可以通过productid来查看该customerid是否买了此商品，如果购买了，就可以有相关的关联推荐，当然这只是系统中的一个小业务条件，这时候我就可以用到SADD操作方法，代码如下：
static void Main(string[] args)
{
ConnectionMultiplexer redis = ConnectionMultiplexer.Connect("192.168.23.151:6379");
var db = redis.GetDatabase();
var productID = string.Format("productID_{0}", 1);
for (int i = 0; i < 10; i++)
{
var customerID = i;
db.SetAdd(productID, customerID);
}
}
一：问题
但是上面的这段代码很明显存在一个大问题，Redis本身就是基于tcp的一个Request/Response protocol模式，不信的话，可以用wireshark监视一下：
从图中可以看到，有很多次的192.168.23.1 => 192.168.23.151 之间的数据往返，从传输内容中大概也可以看到有一个叫做productid_xxx的前缀，
那如果有百万次局域网这样的round trip，那这个延迟性可想而知，肯定达不到我们预想的高性能。
二：解决方案【Batch】
刚好基于我们现有的业务，我可以定时的将批量的productid和customerid进行分组整合，然后用batch的形式插入到某一个具体的product的set中去，接下来我可以把上面的代码改成类似下面这样：
static void Main(string[] args)
{
ConnectionMultiplexer redis = ConnectionMultiplexer.Connect("...:");
var db = redis.GetDatabase();
var productID = string.Format("productID_{}", );
var list = new List<int>();
for (int i = ; i < ; i++)
{
list.Add(i);
}
db.SetAdd(productID, list.Select(i => (RedisValue)i).ToArray());
}
从截图中传输的request,response可以看到，这次我们一次性提交过去，极大的较少了在网络传输方面带来的尴尬性。。
三：再次提出问题
product维度的画像我们可以解决了，但是我们还有一个customerid的维度，也就是说我需要维护一个customerid为key的set集合，其中value的值为该customerid的各种平均值，比如说“总交易次数”，“总交易金额”。。。等等这样的聚合信息，然后推送过来的是批量的customerid，也就是说你需要定时维护一小嘬set集合，在这种情况下某一个set的批量操作就搞不定了。。。原始代码如下：
static void Main(string[] args)
{
ConnectionMultiplexer redis = ConnectionMultiplexer.Connect("...:");
var db = redis.GetDatabase();
//批量过来的数据： customeridlist， ordertotalprice，具体业务逻辑省略
var orderTotalPrice = ;
var customerIDList = new List<int>();
for (int i = ; i < ; i++)
{
customerIDList.Add(i);
}
//foreach更新每个redis 的set集合
foreach (var item in customerIDList)
{
var customerID = string.Format("customerid_{}", item);
db.SetAdd(customerID, orderTotalPrice);
}
}
四：解决方案【PipeLine】
=上面这种代码在生产上当然是行不通的，不过针对这种问题，redis早已经提出了相关的解决方案，那就是pipeline机制，原理还是一样，将命令集整合起来通过一条request请求一起送过去，由redis内部fake出一个client做批量执行操作，代码如下：
static void Main(string[] args)
{
ConnectionMultiplexer redis = ConnectionMultiplexer.Connect("...:");
var db = redis.GetDatabase();
//批量过来的数据： customeridlist， ordertotalprice，具体业务逻辑省略
var orderTotalPrice = ;
var customerIDList = new List<int>();
for (int i = ; i < ; i++)
{
customerIDList.Add(i);
}
var batch = db.CreateBatch();
foreach (var item in customerIDList)
{
var customerID = string.Format("customerid_{}", item);
batch.SetAddAsync(customerID, orderTotalPrice);
}
batch.Execute();
}
然后，我们再看下面的wireshark截图，可以看到有很多的SADD这样的小命令，这就说明有很多命令是一起过去的，大大的提升了性能。
最后可以再看一下redis，数据也是有的，是不是很爽~~~
192.168.23.151:6379> keys * 1) "customerid_0" 2) "customerid_9" 3) "customerid_1" 4) "customerid_3" 5) "customerid_8" 6) "customerid_2" 7) "customerid_7" 8) "customerid_5" 9) "customerid_6" 10) "customerid_4"
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。
相关文章
这篇文章主要给大家介绍了关于Redis中键的过期删除策略的相关资料，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2018-09-09
本文主要介绍了redis 哨兵集群搭建的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-08-08
这篇文章主要介绍了浅谈内存耗尽后Redis会发生什么，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-03-03
Redis实现分布式锁(setnx、getset、incr)以及如何处理超时情况
本文主要介绍了Redis实现分布式锁(setnx、getset、incr)以及如何处理超时情况，文中通过示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2021-11-11
单台机器的硬件配置有上限制约，一般我们会采用分布式架构将多台机器组成一个集群，这篇文章主要介绍了解决 Redis 数据倾斜、热点等问题,需要的朋友可以参考下2022-12-12
Redis高可用有两种模式：哨兵模式和集群模式，本文基于哨兵模式搭建一主两从三哨兵Redis高可用服务，感兴趣的可以了解一下2022-03-03
这篇文章主要介绍了利用Redis实现SQL伸缩的方法,包括讲到了锁和时间序列等方面来提升传统数据库的性能,需要的朋友可以参考下2015-06-06
SDS在Redis中是实现字符串对象的工具,本文主要介绍了Redis动态字符串SDS的实现,具有一定的参考价值,感兴趣的可以了解一下2023-11-11
本文详细的介绍了为啥使用Redis的时候，可以做到非常快的读取速度，对于大家学习Redis非常有帮助，希望大家喜欢2021-02-02
Redis分布式锁python-redis-lock使用方法
这篇文章主要介绍了Redis分布式锁python-redis-lock使用方法,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-11-11
最新评论