内容简介:Redis之管道的使用
Redis管道
Redis之管道的使用
原文地址: https://blog.piaoruiqing.com/blog/2019/06/24/redis管道
关键词
Redis Pipelining
: 客户端可以向服务器发送多个请求而无需等待回复, 最后只需一步即可读取回复.
RTT(Round Trip Time)
: 往返时间.
为什么要用管道
Redis是使用 client-server 模型和 Request/Response 协议的TCP服务器. 这意味着通常通过以下步骤完成请求:
- 客户端向服务器发送查询, 并通常以阻塞方式从套接字读取服务器响应.
- 服务器处理该命令并将响应发送回客户端.
应用程序与 Redis 通过网络进行连接, 可能非常快(本地回环), 也可能很慢. 但无论网络延迟是多少, 数据包都需要时间从客户端传输到服务器, 然后从服务器返回到客户端以进行回复(此时间称为 RTT
). 当客户端需要连续执行许多请求时(例如, 将多个元素添加到同一列表或使用多个键填充数据库), 很容易发现这种频繁操作很影响性能. 使用管道将多次操作通过一次IO发送给Redis服务器, 然后一次性获取每一条指令的结果, 以减少网络上的开销.
频繁操作但未使用管道的情形如下图:
sequenceDiagram participant client participant server client ->> +server: Note over client,server: set mykey1 myvalue1 server -->> -client: OK client ->> +server: Note over client,server: set mykey1 myvalue1 server -->> -client: OK client ->> +server: Note over client,server: ... server -->> -client: OK
使用管道后如下图:
sequenceDiagram participant client participant server client ->> +server: Note over client,server: set mykey1 myvalue1 <br/> set mykey2 myvalue2 <br/>... server -->> -client: OK, OK, OK ...
如何使用
Jedis
/** jedis pool */ private final Logger LOGGER = LoggerFactory.getLogger(getClass()); private static final JedisPool POOL = new JedisPool(new JedisPoolConfig(), "test-redis-server", 6379); /** * test pipelining with Jedis */ @Test public void testPipelining() { try (Jedis jedis = POOL.getResource()) { Pipeline pipelined = jedis.pipelined(); // (一) Response<String> response1 = pipelined.set("mykey1", "myvalue1"); Response<String> response2 = pipelined.set("mykey2", "myvalue2"); Response<String> response3 = pipelined.set("mykey3", "myvalue3"); pipelined.sync(); // (二) LOGGER.info("cmd: SET mykey1 myvalue1, result: {}", response1.get()); // (三) LOGGER.info("cmd: SET mykey2 myvalue2, result: {}", response2.get()); LOGGER.info("cmd: SET mykey3 myvalue3, result: {}", response3.get()); } }
- (一):
jedis.pipelined()
: 获取一个Pipeline
用以批量执行指令. - (二):
pipelined.sync()
: 同步执行, 通过读取全部Response
来同步管道, 这个操作会关闭管道. - (三):
response1.get()
: 获取执行结果. 注意: 在执行pipelined.sync()
之前,get
是无法获取到结果的.
Lettuce
private final Logger LOGGER = LoggerFactory.getLogger(getClass()); /** redis client */ private static final RedisClient CLIENT = RedisClient.create("redis://@test-redis-server:6379/0"); /** * test pipelining with Lettuce */ @Test public void testPipelining() throws ExecutionException, InterruptedException { try (StatefulRedisConnection<String, String> connection = CLIENT.connect()) { RedisAsyncCommands<String, String> async = connection.async(); async.setAutoFlushCommands(false); RedisFuture<String> future1 = async.set("mykey1", "myvalue1"); RedisFuture<String> future2 = async.set("mykey2", "myvalue2"); RedisFuture<String> future3 = async.set("mykey3", "myvalue3"); async.flushCommands(); LOGGER.info("cmd: SET mykey1 myvalue1, result: {}", future1.get()); LOGGER.info("cmd: SET mykey2 myvalue2, result: {}", future1.get()); LOGGER.info("cmd: SET mykey3 myvalue3, result: {}", future1.get()); } }
RedisTemplate
private final Logger LOGGER = LoggerFactory.getLogger(getClass()); @Resource private StringRedisTemplate stringRedisTemplate; /** * test pipelining with RedisTemplate */ @Test public void testPipelining() { List<Object> objects = stringRedisTemplate.executePipelined((RedisCallback<Object>)connection -> { connection.set("mykey1".getBytes(), "myvalue1".getBytes()); connection.set("mykey2".getBytes(), "myvalue2".getBytes()); connection.set("mykey3".getBytes(), "myvalue3".getBytes()); return null; // (一) }); LOGGER.info("cmd: SET mykey myvalue, result: {}", objects); }
- (一): 此处必须返回
null
简单对比测试
redis服务器运行在同一个路由器下的树莓派上.
/** * pipeline vs direct */ @Test public void compared() { try (Jedis jedis = POOL.getResource()) { // warm up jedis.set("mykey", "myvalue"); } try (Jedis jedis = POOL.getResource()) { long start = System.nanoTime(); Pipeline pipelined = jedis.pipelined(); for (int index = 0; index < 500; index++) { pipelined.set("mykey" + index, "myvalue" + index); } pipelined.sync(); long end = System.nanoTime(); LOGGER.info("pipeline cost: {} ns", end - start); } try (Jedis jedis = POOL.getResource()) { long start = System.nanoTime(); for (int index = 0; index < 500; index++) { jedis.set("mykey" + index, "myvalue" + index); } long end = System.nanoTime(); LOGGER.info("direct cost: {} ns", end - start); } }
使用 Jedis
执行500条set, 执行结果如下:
22:16:00.523 [main] INFO - pipeline cost: 73681257 ns // 管道 22:16:03.040 [main] INFO - direct cost : 2511915103 ns // 直接执行
500次set执行时间总和已经和管道执行一次的所消耗的时间不在一个量级上了.
扩展
摘自redis官方文档
使用管道不仅仅是为了降低 RTT
以减少延迟成本, 实际上使用管道也能大大提高Redis服务器中每秒可执行的总操作量. 这是因为, 在不使用管道的情况下, 尽管操作单个命令开起来十分简单, 但实际上这种频繁的 I/O
操作造成的消耗是巨大的, 这涉及到系统读写的调用, 这意味着从用户域到内核域.上下文切换会对速度产生极大的损耗.
使用管道操作时, 通常使用单个 read()
系统调用读取许多命令,并通过单个 write()
系统调用传递多个回复. 因此, 每秒执行的总查询数最初会随着较长的管道线性增加, 并最终达到不使用管道技术获的10倍, 如下图所示:
参考文献
© 2019,朴瑞卿.
[版权声明]
本文发布于朴瑞卿的博客, 允许非商业用途转载, 但转载必须保留原作者朴瑞卿 及链接: https://blog.piaoruiqing.com . 如有授权方面的协商或合作, 请联系邮箱: piaoruiqing@gmail.com .
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网
猜你喜欢:- 速度不够,管道来凑——Redis管道技术
- Golang pipline泛型管道和类型管道的性能差距
- Linux 管道那些事儿
- mongodb 聚合管道
- Clojure 集合管道函数练习
- Redis学习之管道机制
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
Processing编程学习指南(原书第2版)
[美]丹尼尔希夫曼(Daniel Shiffman) / 李存 / 机械工业出版社 / 2017-3-1 / 99.00元
在视觉化界面中学习电脑编程的基本原理! 本书介绍了编程的基本原理,涵盖了创建最前沿的图形应用程序(例如互动艺术、实时视频处理和数据可视化)所需要的基础知识。作为一本实验风格的手册,本书精心挑选了部分高级技术进行详尽解释,可以让图形和网页设计师、艺术家及平面设计师快速熟悉Processing编程环境。 从算法设计到数据可视化,从计算机视觉到3D图形,在有趣的互动视觉媒体和创意编程的背景之......一起来看看 《Processing编程学习指南(原书第2版)》 这本书的介绍吧!
HTML 编码/解码
HTML 编码/解码
UNIX 时间戳转换
UNIX 时间戳转换