python使用pipeline批量读写redis的方法

 更新时间:2019年02月18日 15:08:23   转载 作者:leizhu900516  
今天小编就为大家分享一篇python使用pipeline批量读写redis的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

用了很久的redis了。随着业务的要求越来越高。对redis的读写速度要求也越来越高。正好最近有个需求(需要在秒级取值1000+的数据),如果对于传统的单词取值,循环取值,消耗实在是大,有小伙伴可能考虑到多线程,但这并不是最好的解决方案,这里考虑到了redis特有的功能pipeline管道功能。

下面就更大家演示一下pipeline在python环境下的使用情况。

1、插入数据

>>> import redis

>>> conn = redis.Redis(host='192.168.8.176',port=6379)

>>> pipe = conn.pipeline()

>>> pipe.hset("hash_key","leizhu900516",8)
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> pipe.hset("hash_key","chenhuachao",9)
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> pipe.hset("hash_key","wanger",10)
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> pipe.execute()
[1L, 1L, 1L]
>>> 

2、批量读取数据

>>> pipe.hget("hash_key","leizhu900516")
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> pipe.hget("hash_key","chenhuachao")
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> pipe.hget("hash_key","wanger")
Pipeline<ConnectionPool<Connection<host=192.168.8.176,port=6379,db=0>>>

>>> result = pipe.execute()

>>> print result
['8', '9', '10']  #有序的列表
>>>

总结:redis的pipeline就是这么简单,实际生产环境,根据需要去编写相应的代码。思路同理,如:

redis_db = redis.Redis(host='127.0.0.1',port=6379)
data = ['zhangsan', 'lisi', 'wangwu']

with redis_db.pipeline(transaction=False) as pipe:
  for i in data:
    pipe.zscore(self.key, i)

  result = pipe.execute()

print result
# [100, 80, 78]

线上的redis一般都是集群模式,集群模式下使用pipeline的时候,在创建pipeline的对象时,需要指定

pipe =conn.pipeline(transaction=False)

经过线上实测,利用pipeline取值3500条数据,大约需要900ms,如果配合线程or协程来使用,每秒返回1W数据是没有问题的,基本能满足大部分业务。

以上这篇python使用pipeline批量读写redis的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • Python入门_浅谈for循环、while循环

    Python入门_浅谈for循环、while循环

    下面小编就为大家带来一篇Python入门_浅谈for循环、while循环。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2017-05-05
  • Python黑帽编程 3.4 跨越VLAN详解

    Python黑帽编程 3.4 跨越VLAN详解

    VLAN(Virtual Local Area Network),是基于以太网交互技术构建的虚拟网络,既可以将同一物理网络划分成多个VALN,也可以跨越物理网络障碍,将不同子网中的用户划到同一个VLAN中。这篇文章主要介绍了Python黑帽编程 3.4 跨越VLAN 的相关资料,需要的朋友参考下
    2016-09-09
  • 关于Pytorch的MLP模块实现方式

    关于Pytorch的MLP模块实现方式

    今天小编就为大家分享一篇关于Pytorch的MLP模块实现方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-01-01
  • TensorFlow saver指定变量的存取

    TensorFlow saver指定变量的存取

    这篇文章主要为大家详细介绍了TensorFlow saver指定变量的存取,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-03-03
  • 关于Python字符串显示u...的解决方式

    关于Python字符串显示u...的解决方式

    这篇文章主要介绍了关于Python字符串显示u...的解决方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-03-03
  • 浅谈python下含中文字符串正则表达式的编码问题

    浅谈python下含中文字符串正则表达式的编码问题

    今天小编就为大家分享一篇浅谈python下含中文字符串正则表达式的编码问题,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-12-12
  • python numpy 按行归一化的实例

    python numpy 按行归一化的实例

    今天小编就为大家分享一篇python numpy 按行归一化的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-01-01
  • 10款最好的Web开发的 Python 框架

    10款最好的Web开发的 Python 框架

    这篇文章主要介绍了10款最好的Web开发的 Python 框架,总结的都是非常常用的而且评价都非常不错的框架,需要的朋友可以参考下
    2015-03-03
  • Python IDE环境之 新版Pycharm安装详细教程

    Python IDE环境之 新版Pycharm安装详细教程

    这篇文章主要介绍了Python IDE环境之 新版Pycharm安装教程,本文教程给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-03-03
  • python 接口返回的json字符串实例

    python 接口返回的json字符串实例

    下面小编就为大家分享一篇python 接口返回的json字符串实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-03-03

最新评论