Redis删除策略和发布订阅

  • 过期数据
    • Redis中的数据特征
    • 时效性数据的存储结构
  • 数据删除策略
    • 定时删除
    • 惰性删除
    • 定期删除
    • 删除策略对比
  • 逐出算法
    • 新数据进入检测
    • 影响数据逐出的相关配置
  • Redis发布订阅
    • Redis 发布订阅命令
    • 测试
    • 原理

过期数据

曾经设置过有效期的数据,到达了有效期,却没有被删除的数据

Redis中的数据特征

  • Redis是一种内存级数据库,所有数据均存放在内存中,内存中的数据可以通过TTL指令获取其状态

    • XX :具有时效性的数据
    • -1 :永久有效的数据
    • -2 :已经过期的数据 或 被删除的数据 或 未定义的数据

时效性数据的存储结构


这四个指令可以设置过期时间,会给一个key设置对应的过期时间

内部是这样存储的

左边0x0110是内存地址
右边则是过期时间
一个value对应一个field 是hash的结构

数据删除策略

  1. 定时删除
  2. 惰性删除
  3. 定期删除

数据删除策略的目标
在内存占用与CPU占用之间寻找一种平衡,顾此失彼都会造成整体redis性能的下降,甚至引发服务器宕机或内存泄露

定时删除

  • 创建一个定时器,当key设置有过期时间,且过期时间到达时,由定时器任务立即执行对键的删除操作
  • 优点:节约内存,到时就删除,快速释放掉不必要的内存占用
  • 缺点:CPU压力很大,无论CPU此时负载量多高,均占用CPU,会影响redis服务器响应时间和指令吞吐量
  • 总结:用处理器性能换取存储空间(拿时间换空间)

惰性删除

  • 数据到达过期时间,不做处理。直到下次访问该数据时

    • 如果未过期,返回数据
    • 发现已过期,删除,返回不存在
    • 内部有一个操作expirelfNeeded() 这个函数检查数据是否过期
  • 优点:节约CPU性能,发现必须删除的时候才删除
  • 缺点:内存压力很大,出现长期占用内存的数据
  • 总结:用存储空间换取处理器性能 (拿时间换空间)

定期删除


  • Redis启动服务器初始化时,读取配置server.hz的值,默认为10
127.0.0.1:6379> info server
configured_hz:10
  • 每秒钟执行server.hz次serverCron() serverCron()是轮询

    • databasesCron() 对每个库进行轮询

      • activeExpireCycle()
  • activeExpireCycle()对每个expires[*]逐一进行检测,每次执行250ms/server.hz

  • 对某个expires[*]检测时,随机挑选W个key检测

    • 如果key超时,删除key
    • 如果一轮中删除的key的数量>W*25%,循环该过程
    • 如果一轮中删除的key的数量≤W*25%,检查下一个expires[*],0-15循环
    • W的取值=ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP属性值
  • 参数current_db用于记录activeExpireCycle()进入哪个expires[*] 执行

  • 如果activeExpireCycle()执行时间到期,下次从current_db继续向下执行

  1. 每秒钟执行若干次serverCron()
  2. 然后对所有数据库进行轮询databasesCron()
  3. 在访问的时候对库中key进行轮询
  4. 对key轮询的算法是随机挑选若干个key出来检查判断是否过期
  5. 过期则删除,还要判断删除的量占整体的量是多还是少,如果多再来循环一次,如果少就去下一个库
  • 周期性轮询redis库中的时效性数据,采用随机抽取的策略,利用过期数据占比的方式控制删除频度
  • 特点1:CPU性能占用设置有峰值,检测频度可自定义设置
  • 特点2:内存压力不是很大,长期占用内存的冷数据会被持续清理
  • 总结:周期性抽查存储空间(随机抽查,重点抽查)

删除策略对比

策略 对内存 对cpu 总结
定时删除 节约内存,无占用 不分时段占用CPU资源,频度高 拿时间换空间
惰性删除 内存占用严重 延时执行,CPU利用率高 拿空间换时间
定期删除 内存定期随机清理 每秒花费固定的CPU资源维护内存 随机抽查,重点抽查

逐出算法

新数据进入检测

当新数据进入redis时,如果内存不足怎么办?

  • Redis使用内存存储数据,在执行每一个命令前,会调用freeMemoryIfNeeded()检测内存是否充足。如果内存不满足新加入数据的最低存储要求,redis要临时删除一些数据为当前指令清理存储空间。清理数据的策略称为逐出算法。
  • 注意:逐出数据的过程不是100%能够清理出足够的可使用的内存空间,如果不成功则反复执行。当对所有数据尝试完毕后,如果不能达到内存清理的要求,将出现错误信息

影响数据逐出的相关配置

  • 最大可使用内存

    maxmemory

    • 占用物理内存的比例,默认值为0,表示不限制。生产环境中根据需求设定,通常设置在50%以上。
  • 每次选取待删除数据的个数

    maxmemory-samples

    • 选取数据时并不会全库扫描,导致严重的性能消耗,降低读写性能。因此采用随机获取数据的方式作为待检测删除数据
  • 删除策略

    maxmemory-policy

    • 达到最大内存后的,对被挑选出来的数据进行删除的策略
  1. 检测易失数据(可能会过期的数据集server.db[i].expires )
    ① volatile-lru:挑选最近最少使用的数据淘汰
    ② volatile-lfu:挑选最近使用次数最少的数据淘汰
    ③ volatile-ttl:挑选将要过期的数据淘汰
    ④ volatile-random:任意选择数据淘汰

  2. 检测全库数据(所有数据集server.db[i].dict )
    ⑤ allkeys-lru:挑选最近最少使用的数据淘汰
    ⑥ allkeys-lfu:挑选最近使用次数最少的数据淘汰
    ⑦ allkeys-random:任意选择数据淘汰

  3. 放弃数据驱逐
    ⑧ no-enviction(驱逐):禁止驱逐数据(redis4.0中默认策略),会引发错误OOM(Out Of Memory 内存溢出)

在配置文件中

maxmemory-policy volatile-lru

数据逐出策略配置依据

  • 使用INFO命令输出监控信息,查询缓存 hit 和 miss 的次数,根据业务需求调优Redis配置
通过info查看下面两个值
127.0.0.1:6379> info
keyspace_hits:24        # 命中空间
keyspace_misses:0       # 命中丢失

Redis发布订阅

Redis 发布订阅(pub/sub)是一种消息通信模式:发送者(pub)发送消息,订阅者(sub)接收消息。微信,微博的关注系统
Redis 客户端可以订阅任意数量的频道。
订阅/发布消息图:

  1. 消息发送者

  2. 频道

  3. 消息订阅者

    下图展示了频道 channel1,以及订阅这个频道的三个客户端—— client2 client5 client1之间的关系:

    当有新消息通过PUBLISH命令发送给频道channel1时,这个消息就会被发送给订阅它的三个客户端:

Redis 发布订阅命令

命令 作用
PSUBSCRIBE pattern [pattern …] 订阅一个或多个符合给定模式的频道。
PUBSUB subcommand [argument [argument …]] 查看订阅与发布系统状态。
PUBLISH channel message 将信息发送到指定的频道。
PUNSUBSCRIBE [pattern [pattern …]] 退订所有给定模式的频道。
SUBSCRIBE channel [channel …] 订阅给定的一个或多个频道的信息。
UNSUBSCRIBE [channel [channel …]] 指退订给定的频道。

测试

订阅端:

127.0.0.1:6379> subscribe xiaotian    # 订阅一个频道 xiaotian
Reading messages... (press Ctrl-C to quit)  # 监听读取信息
1) "subscribe"
2) "xiaotian"
3) (integer) 1
# 等待读取推送的信息
1) "message"          # 消息
2) "xiaotian"         # 哪个频道的消息
3) "hello xiaotian"       # 消息的具体内容
1) "message"
2) "xiaotian"
3) "nihao"

发送端:

127.0.0.1:6379> publish xiaotian 'hello xiaotian'   # 发布者发布消息到频道
(integer) 1
127.0.0.1:6379> publish xiaotian 'nihao'   # 发布者发布消息到频道
(integer) 1

原理

Redis是使用C实现的,通过分析Redis源码里的pubsub.c文件,了解发布和订阅机制的底层实现,籍此加深对Redis的理解。

Redis通过PUBLISH、SUBSCRIBE和PSUBSCRIBE等命令实现发布和订阅功能。

通过SUBSCRIBE 命令订阅某频道后,redis-server里维护了一个字典,字典的键就是一个个频道channel,而字典的值则是一个链表,链表中保存了所有订阅这个channel的客户端。SUBSCRIBE命令的关键,就是将客户端添加到给定channel的订阅链表中。

通过PUBLSH命令向订阅者发送消息,redis-server会使用给定的频道作为键,在它所维护的channel字典中查找记录了订阅这个频道的所有客户端的链表,遍历这个链表,将消息发布给所有订阅者。

Pub/Sub从字面上理解就是发布(Publish ))与订阅(Subscribe ),在Redis中,你可以设定对某一个key值进行消息发布及消息订阅,当一个key值上进行了消息发布后,所有订阅它的客户端都会收到相应的消息。这一功能最明显的用法就是用作实时消息系统,比如普通的即时聊天,群聊等功能。

使用场景:

  1. 实时消息系统
  2. 实时聊天(频道当作聊天室,将信息回显给所有人即可)
  3. 订阅,关注系统

稍微复杂的场景,我们就会使用 消息中间件 MQ

Redis——Redis删除策略和发布订阅相关推荐

  1. php订阅系统,php redis pub/sub(Publish/Subscribe,发布/订阅的信息系统)之基本使用

    一.场景介绍 最近的一个项目需要用到发布/订阅的信息系统,以做到最新实时消息的通知.经查找后发现了redis pub/sub(发布/订阅的信息系统)可以满足我的开发需求,而且学习成本和使用成本也比较低 ...

  2. Redis淘汰删除策略

    Redis淘汰删除策略 Redis淘汰删除策略6种淘汰Key策略3种删除过期键策略定时删除惰性删除定期删除其他模块的淘汰处理RDB 快照持久化创建载入AOF 只追加持久化写入重写主从复模式下对过期键的 ...

  3. Redis过期删除策略和内存淘汰策略

    目录 一.过期删除策略 1.如何设置过期时间? 2.如何判定 key 已过期了? 3.过期删除策略有哪些? 1.定时删除策略 2.惰性删除策略 3.定期删除策略 4.Redis 过期删除策略 5.Re ...

  4. Redis 缓存删除策略

    Redis(Remote Dictionary Server ),即远程字典服务,是一个开源的使用ANSI C语言编写.支持网络.可基于内存亦可持久化的日志型.Key-Value数据库,并提供多种语言 ...

  5. 说说 Redis 缓存删除策略

    Redis 缓存删除策略分为定时删除.定期删除与惰性删除.前两个是主动删除,后一个是被动删除. 1 定时删除 为 key 设置一个过期时间,时间一到,由定时器任务删除这个 key. 优点:节省内存,因 ...

  6. 面试官:Redis 过期删除策略和内存淘汰策略有什么区别?

    作者:小林coding 计算机八股文网站:https://xiaolincoding.com 大家好,我是小林. Redis 的「内存淘汰策略」和「过期删除策略」,很多小伙伴容易混淆,这两个机制虽然都 ...

  7. Redis 笔记(10)— 发布订阅模式(发布订阅单个信道、订阅信道后的返回值分类、发布订阅多个信道)

    1. 发布-订阅概念 发布-订阅 模式包含两种角色,分别为发布者和订阅者. 订阅者可以订阅一个或者若干个频道(channel): 而发布者可以向指定的频道发送消息,所有订阅此频道的订阅者都可以收到此消 ...

  8. java redis mq_redis之mq实现发布订阅模式

    概述 Redis不仅可作为缓存服务器,还可用作消息队列,本示例演示如何使用redis实现发布/订阅消息队列. 在Redis中,发布者没有将消息发送给特定订阅者的程序.相反,发布的消息被描述为通道,而不 ...

  9. redis 数据删除策略和逐出算法

    数据存储和有效期# 在 redis 工作流程中,过期的数据并不需要马上就要执行删除操作.因为这些删不删除只是一种状态表示,可以异步的去处理,在不忙的时候去把这些不紧急的删除操作做了,从而保证 redi ...

最新文章

  1. linux中cooy命令_Linux复制指令
  2. html5游戏生态,白鹭引擎发起共建HTML5游戏生态访谈!
  3. 济南申请计算机软件著作权需要的材料
  4. DL之LSTM之UvP:基于TF利用LSTM基于DIY时间训练1200个数据预测后200个数据状态
  5. C语言编写扫雷小游戏
  6. struts+hibernate+oracle+easyui实现lazyout组件的简单案例——Jsp页面
  7. mac 通过 homebrew 安装mongodb
  8. 客座编辑:杜小勇(1963-),男,中国人民大学信息学院教授,博士生导师,教育部数据工程与知识工程重点实验室主任。...
  9. 计算机控制系统的框图,计算机控制系统原理框图.doc
  10. Onvif协议快速入门
  11. 【C语言】判断数字是否为素数或合数
  12. 2017年sfdc工作总结_Duplicate, Matching Rule
  13. html中colGroup,col
  14. 2023数学建模(提供个人latex、word模板)
  15. python套用word模板_Python3操作Office之Word模板技术
  16. 物理拷贝备份mysql到其他机器上恢复
  17. python入门之综合应用--名片管理系统
  18. 分享一个在线听音乐的秘密花园
  19. 腾讯TCA考试内容是什么?怎么备考?
  20. Practice02

热门文章

  1. 关于椭球的一点形象的解说
  2. 网页中在线玩合金弹头
  3. Creo9.0 特征的成组
  4. 政务微信内接H5页面,获取当前登录的用户信息
  5. 2018年将是互联网IPO大年!内容赛道最热,三地争夺独角兽
  6. 关于队里面最菜的在博客打卡第五十九天这件事
  7. SQL数据库中如何把一个表中的数据复制到另一个表中?
  8. sql复制表结构及内容
  9. 架构师内功心法-----手写springv2.0aop
  10. 22、wpf之Combobox使用小记