场景

假设有这样一个使用场景,依次执行下面的5条命令 命令1:hset mall:sale:freq:ctrl:860000000000001 599055114591 1(hash结构,field表示购买的商品ID,value表示购买次数)简单说明: mall:sale:freq:ctrl:860000000000001是一个hash表;599055114591表示key;1表示key对应的value命令2:hset mall:sale:freq:ctrl:860000000000001 599055114592 2
命令3:expire mall:sale:freq:ctrl:860000000000001 3127(设置过期时间)简单说明:给hash表mall:mall:sale:freq:ctrl:860000000000001设置过期时间命令4:set mall:total:freq:ctrl:860000000000001 3简单说明:set key vlaue命令5:expire mall:total:freq:ctrl:860000000000001 3127(设置过期时间)简单说明: set key 过期时间

优化缘由

执行一条命令 经历的过程

  • 发送命令网络传输时间

  • 命令在Redis服务端队列中等待的时间

  • 命令执行的时间(Redis中的slowlog只是检测这一步骤的时间)

  • 结果返回的Redis客户端的时间

执行一条命令 就需要经过上面的过程,发送命令-〉命令排队-〉命令执行-〉返回结果
那么执行5条命令,可想而知,性能优化的空间还是蛮大的,
下面咱们来进行优化一下吧

优化

第一次优化:利用hmset命令将两条hmset命令合二为一

命令1和命令2 合二为一hmset mall:sale:freq:ctrl:860000000000001 599055114591 1 599055114592 2expire mall:sale:freq:ctrl:860000000000001 3127set mall:total:freq:ctrl:860000000000001 3expire mall:total:freq:ctrl:860000000000001 3127

第二次优化:将set和expire命令合二为一

将命令4和命令5合二为一命令a: hmset mall:sale:freq:ctrl:860000000000001 599055114591 1 599055114592 2
命令b: expire mall:sale:freq:ctrl:860000000000001 3127命令c: setex mall:total:freq:ctrl:860000000000001 3127 3

第三次优化:使用pipeline

需要注意:RedisCluster中使用pipeline时必须满足pipeline打包的所有命令key在RedisCluster的同一个slot上

分析下是否在同一个slot上

slot原理简介

Redis 集群使用数据分片(sharding)而非一致性哈希(consistency hashing)来实现: 一个 Redis 集群包含 16384 个哈希槽(hash slot), 数据库中的每个键都属于这 16384 个哈希槽的其中一个, 集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽, 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。集群中的每个节点负责处理一部分哈希槽。 举个例子, 一个集群可以有三个哈希槽, 其中:节点 A 负责处理 0 号至 5500 号哈希槽。节点 B 负责处理 5501 号至 11000 号哈希槽。节点 C 负责处理 11001 号至 16384 号哈希槽。这种将哈希槽分布到不同节点的做法使得用户可以很容易地向集群中添加或者删除节点。 比如说:如果用户将新节点 D 添加到集群中, 那么集群只需要将节点 A 、B 、 C 中的某些槽移动到节点 D 就可以了。与此类似, 如果用户要从集群中移除节点 A , 那么集群只需要将节点 A 中的所有哈希槽移动到节点 B 和节点 C , 然后再移除空白(不包含任何哈希槽)的节点 A 就可以了。因为将一个哈希槽从一个节点移动到另一个节点不会造成节点阻塞, 所以无论是添加新节点还是移除已存在节点, 又或者改变某个节点包含的哈希槽数量, 都不会造成集群下线。

结论

由此可知 命令a和命令b在同一个slot上,命令c在另外一个slot上
所以命令a和命令b用pipline来处理

如何使用pipline

  • 先创建一个txt文件

vim pipeline.txthmset mall:sale:freq:ctrl:860000000000001 599055114591 1 599055114592 2
expire mall:sale:freq:ctrl:860000000000001 3127
  • 格式化 使得 这个文本文件中每一行都必须以\r\n而不是\n结束

需要安装下dos2unix

a、brew install dos2unix

b、unix2dos pipeline.txt

  • 命令执行

cat pipeline.txt | redis-cli --pipe

第四次优化 使用 高级特性:hashtag

CRC16(key) % 16384 来计算键 key 属于哪个槽 可知,key决定了存储在哪个slot上,那么使用hashtag可以使得 满足部分key一致的所有key都存储在同一个slot上

比如

mall:sale:freq:ctrl:{860000000000001} 只要key中有{860000000000001}这一部分,就一定落在同一个slot上

**注意:使用hashtag特性 不能把key的离散性变得非常差 **

  • 离散性好

mall:sale:freq:ctrl:{860000000000001} 这种key还是与用户相关
  • 离散性差

mall:{sale:freq:ctrl}:860000000000001所有的key都会落在同一个slot上,导致整个Redis集群出现严重的倾斜问题

经过这4次优化 perfect ==> 5条Redis命令压缩到3条Redis命令,并且3条Redis命令只需要发送一次,并且结果也一次就能全部返回

pipline

  • 未使用pipline

  • 使用了pipline

  • 性能对比

这是一组统计数据出来的数据,使用Pipeline执行速度比逐条执行要快,特别是客户端与服务端的网络延迟越大,性能体能越明显

性能测试代码

pipeline 实现 mdel

redis提供了mset、mget方法 但没有提供mdel方法 可以借助pipeline实现

将不同类型的操作命令合并提交

原生批命令(mset, mget)与Pipeline对比

  • 原生批命令是原子性,pipeline是非原子性

    (原子性概念:一个事务是一个不可分割的最小工作单位,要么都成功要么都失败。原子操作是指你的一个业务逻辑必须是不可拆分的. 处理一件事情要么都成功,要么都失败,原子不可拆分)

  • 原生批命令一命令多个key, 但pipeline支持多命令(存在事务),非原子性

  • 原生批命令是服务端实现,而pipeline需要服务端与客户端共同完成

使用pipeline组装的命令个数不能太多,不然数据量过大,增加客户端的等待时间,还可能造成网络阻塞,可以将大量命令的拆分多个小的pipeline命令完成

事务

  • redsi事务

  • discard事务

  • 命令错误,语法不正确,导致事务不能正常结束

  • 运行错误,语法正确,但类型错误,事务可以正常结束

  • watch命令

使用watch后, multi失效,事务失效WATCH的机制是:
在事务EXEC命令执行时,Redis会检查被WATCH的key,
只有被WATCH的key从WATCH起始时至今没有发生过变更,EXEC才会被执行。
如果WATCH的key在WATCH命令到EXEC命令之间发生过变化,则EXEC命令会返回失败。

源码地址

https://gitee.com/pingfanrenbiji/springboot-jedisCluster/blob/master/demo/src/main/java/com/example/pipline/PipelineTest.java

参考文档

https://www.jianshu.com/p/8849c0b5753d
http://www.gxlcms.com/redis-377198.html
https://blog.csdn.net/huangbaokang/article/details/88028814
https://blog.csdn.net/w1lgy/article/details/84455579
官方文档 :
http://redisdoc.com/topic/cluster-tutorial.html?highlight=slot

本文使用 mdnice 排版

Redis命令性能优化及事务使用过程相关推荐

  1. 阿里P8架构师谈:多线程、架构、异步消息、Redis等性能优化策略

    常见性能优化策略分类 1.代码 之所以把代码放到第一位,是因为这一点最容易引起技术人员的忽视.很多技术人员拿到一个性能优化的需求以后,言必称缓存.异步.JVM等.实际上,第一步就应该是分析相关的代码, ...

  2. 性能优化: http 请求的过程及潜在的性能优化点

    此文章主要讲解: 1. 什么是 Web 前端 2. BS架构 与 CS架构 3. 浏览器的一个请求从发送到返回都经历了什么 4. 浏览器的一个请求从发送到返回的这个过程, 我们都有那些点可以进行优化 ...

  3. 网站性能优化之HTTP请求过程简述!

    网站性能优化中首要的一条就是要减少HTTP请求,那么为要减少HTTP请求呢?其实有些HTTP分析工具可以帮我们了解当浏览器请求一个资源时大致需要经历的哪些过程. 1 域名解析(DNS Lookup): ...

  4. 关于前端性能优化问题,认识网页加载过程和防抖节流

    前端性能优化-网页加载过程.性能优化方法.防抖和节流 一.网页加载过程 1.加载资源的形式 2.加载资源的过程 3.渲染页面的过程 4.关于window.onload 和 DOMContentLoad ...

  5. Redis 学习 - 2.Redis高级:RDB AOF 事务 锁 删除策略 Bitmaps HyperLogLog GEO

    目录 2. Redis高级 2.1 Redis Linux安装 047-Linux安装redis 048-指定端口启动服务 049-指定配置文件启动服务 050-配置文件启动目录管理 2.2 持久化 ...

  6. 阿里P8架构师谈:Web前端、应用服务器、数据库SQL等性能优化总结

    web前端性能优化 Web前端指网站业务逻辑之前的部分,包括: 1.浏览器加载 2.网站视图模型 3.图片服务 4.CDN服务等 主要优化手段有优化浏览器访问,使用反向代理,CDN等. 1.浏览器访问 ...

  7. Go 调用 Java 方案和性能优化分享

    点击上方"朱小厮的博客",选择"设为星标" 后台回复"书",获取 后台回复"k8s",可领取k8s资料 一  背景 一个 ...

  8. Android Studio 性能优化工具 - Profiler、CPU Profiler、Memory Profiler、Netwrok Profiler、Evengy Profiler 详解

    关于性能优化的问题,可能一直有遇到,也一直在解决,但是在中小厂和自我要求不严格的场景下,我们很少去实实在在的做性能优化: 在性能优化中我们通常会通过自己的经验或工具来发现问题,本想着能短时间内搞定Pr ...

  9. redis geo 性能分析及对问题的思考

    redis geo 性能分析及对问题的思考 文章目录 redis geo 性能分析及对问题的思考 对 redis 进行压力测试 对 redis 进行满载压力分析 georadiusGeneric me ...

最新文章

  1. 用Microsoft DirectX光线跟踪改善渲染质量
  2. java基本类型是类吗_Java基本数据类型和引用类型(一)
  3. ruby(wrong number of arguments (1 for 2) )
  4. 神经网络 | 玻尔兹曼机(附python源代码)
  5. 前端学习(1320):同步和异步得区别
  6. Java面试宝典————基础篇
  7. php图片中不显示文字内容,水印效果 只有图片,文字不显示
  8. 【Java数据结构】平衡二叉树
  9. 2.2 流程控制-for序列 2.3 流程控制-for字典 2.4 循环退出 2.5 流程控制-while
  10. 我误会atoi()函数了
  11. oracle中取得当前日期,前一天,当前月,前一个月
  12. docker 中 NGINX+PHP+MYSQL+REDIS+Elasticsearch 环境搭建 (linux系统)
  13. NI VISION视觉安装
  14. 使用GithubPage做图片库生成引用图片链接
  15. word设置表格文字紧贴下框线
  16. 品优购网页搭建过程(HTML5+CSS)
  17. python中的反三角函数_用python画所有三角函数和反三角函数图像
  18. 网络应用程序体系结构
  19. 物理计算机主机ip在哪,查看电脑的物理地址_查看电脑的物理ip地址
  20. linux yum安装xz,CentOS 7 上安装 xz utils 解压缩工具

热门文章

  1. 用Java描述数据结构之线性表的顺序存储(顺序表),ArrayList及其方法的介绍
  2. 超详细:Springboot连接centos7下redis6的必要配置和失败分析
  3. java完成键盘动作_java实现鼠标和键盘动作后台监听
  4. java hashcode 多少位_hash-为什么XOR通常在Java hashCode()中使用,而很少使用按位运算符?...
  5. Signal和Slot是同步的还是异步的
  6. BUAA_OO_第二单元
  7. 解决Oracle 本地可以连接,远程不能连接问题
  8. 优秀的gdb图形化前端调试器
  9. zt:tcpdump抓包对性能的影响
  10. flask_script扩展包的作用