建立数组并写入数据_redis高并发利器:神奇的位操作,底层原理、数据结构剖析...
本文主要和大家分享一下redis的高级特性:bit位操作。
力求让大家彻底学会使用redis的bit位操作并掌握其底层实现原理!主要包含以下内容:
- redis位操作命令示例
- 底层数据结构分析
- 为什么他的算法时间复杂度是O(1)?
- 10亿数据量需要多大的存储空间?
- redis位操作适合哪些应用场景?
文章内容较长,建议大家收藏后持续阅读,点击右上角关注,获取更多技术干货文章!
本文redis试验代码基于如下环境:
操作系统:Mac OS 64位
版本:Redis 5.0.7 64 bit
运行模式:standalone mode
redis位操作
reids位操作也叫位数组操作、bitmap,它提供了SETBIT、GETBIT、BITCOUNT、BITTOP四个命令用于操作二进制位数组。
先来看一波基本操作示例:
SETBIT
语法:SETBIT key offset value
即:命令 key 偏移量 0/1
setbit命令用于写入位数组指定偏移量的二进制位设置值,偏移量从0开始计数,且只允许写入1或者0,如果写入非0和1的值则写入失败:
GETBIT
语法:GETBIT key offset
即:命令 key 偏移量
gitbit命令用于获取位数组指定偏移量上的二进制值:
BITCOUNT
语法:BITCOUNT key
即:命令 key
bitcount命令用于获取指定key的位数组中值为1的二进制位的数量,之前我们写入了偏移量0的值为1,偏移量10 的值为1,偏移量8的值为0:
BITOP
语法:BITOP operation destkey key [key...]
即:命令 操作 结果目标key key1 key2 ...
bitop命令可以对多个位数组的key进行and(按位与)、or(按位或)、xor(按位异或)运算,并将运算结果设置到destkey中:
底层数据结构分析
SDS是redis中的一种数据结构,叫做简单动态字符串(Simple Dynamic String),并且它是一种二进制安全的,在大多数的情况下redis中的字符串都用SDS来存储。
SDS的数据结构:
struct sdshdr { #记录buff数组中已使用字节的数量 #也是SDS所保存字符串的长度 int len; #记录buff数组中未使用字节的数量 int free; #字节数组,字符串就存储在这个数组里 char buff[];}
数据存储示例:
图片来源《redis设计与实现》
SDS的优点:
- 时间复杂度为O(1)
- 杜绝缓冲区溢出
- 减少修改字符串长度时候所需的内存重分配次数
- 二进制安全的API操作
- 兼容部分C字符串函数
关于SDS的详细介绍请大家参阅《redis设计与实现》一文。
redis中的位数组采用的是String字符串数据格式来存储,而字符串对象使用的正是上文说的SDS简单动态字符串数据结构。
图片来源《redis设计与实现》
大家都知道的是一个字节用的是8个二进制位来存储的,也就是8个0或者1,即一个字节可以存储十进制0~127的数字,也即包含了所有的数字、英文大小写字母以及标点符号。
1Byte=8bit
1KB=1024Byte
1MB=1024KB
1GB=1024MB
位数组在redis存储世界里,每一个字节也是8位,初始都是:
0 0 0 0 0 0 0 0
而位操作就是在对应的offset偏移量上设置0或者1,比如将第3位设置为1,即:
0 0 0 0 1 0 0 0#对应redis操作即:setbit key 3 1
在此基础上,如果要在偏移量为13的位置设置1,即:
setbit key 13 1#对应redis中的存储为:0 0 1 0 | 0 0 0 0 | 0 0 0 0 | 1 0 0 0
时间复杂度
GETBIT命令时间复杂度O(1)
STEBIT命令时间复杂度O(1)
BITCOUNT命令时间复杂度O(n)
BITOP命令时间复杂度O(n)、O(n2)
我们来看GETBIT以及SETBIT命令的时间复杂度为什么是O(1),当我们执行一个SETBIT key 10086 1的值的时候,reids的计算方式如下:
获取到要写入位数组中的哪个字节:10086÷8=1260,需要写入到位数组的下标1260的字节
获取要写入到这个字节的第几位:10086 mod 8 = 6,需要写入到这个字节的下标为6即第7位上去。
通过这两种计算方式大家可以清晰的看到,位操作的GETBIT和SETBIT都是常量计算,因此它的时间复杂度为O(1)。
而BITCOUNT命令需要对整个位数组的所有元素进行遍历算出值为1的有多少个,当然redis对于大数据了的bit执行bitcount命令会有一整套复杂的优化的算法,但是核心思路还是这个意思,无非是减少部分遍历查询次数。比如以128位为一次遍历,那么他的遍历次数就是所有的位数除以128。
BITTOP命令则是根据不同的操作有不同的执行方式。比如AND操作,则需要查看位值为1的即可。
存储空间计算
根据上面的介绍,相信大家已经知道了基于redis的位数组数据结构存储的数据占用内存大小是怎么计算的了。比如有100亿的数据,那么它需要的字节数组:
1000000000÷8÷1024÷1024≈119.21MB
也就是存储10亿的数据只需要119MB左右的内存空间,这对于现在动辄16G、32G集群版的redis,完全没有问题。
需要注意的是,如果你的数据量不大,那就不要把起始偏移量搞的很大,这样也是占空间的,比如我们只需要存储几百条数据,但是其中的偏移量却很大,这就会造成了很大的内存空间浪费。
应用场景
实际项目开发中有很多业务都适合采用redis的bit来实现。
用户签到场景
每天的日期字符串作为一个key,用户Id作为offset,统计每天用户的签到情况,总的用户签到数
活跃用户数统计
用户日活、月活、留存率等均可以用redis位数组来存储,还是以每天的日期作为key,用户活跃了就写入offset为用户id的位值1。
同理月活也是如此。
用户是否在线以及总在线人数统计
同样是使用一个位数组,用户的id映射偏移量,在线标识为1,下线标识为0。即可实现用户上下线查询和总在线人数的统计
APP内用户的全局消息提示小红点
现在大多数的APP里都有站内信的功能,当有消息的时候,则提示一个小红点,代表用户有新的消息。
大家在平时工作中还有哪些场景运用到了redis的位操作呢?欢迎评论区一起交流使用redis位存储的经验!
我是java架构设计,关注我,免费技术文章!
相关文章推荐:
搞清楚Spring事件机制后:Spring的源码看起来简单多了
源码解析(一):SpringBoot是怎么启动的?(基于最新版2.2.0)
源码解析(二):SpringBoot是如何一步步加载监听器的?
源码解析(三):SpringBoot是怎么执行监听器的?事件驱动思想
源码解析(四):SpringBoot创建Spring容器都做了哪些事情?
建立数组并写入数据_redis高并发利器:神奇的位操作,底层原理、数据结构剖析...相关推荐
- 建立数组并写入数据_Visual Studio 2010--C#跟西门子1200通讯(Sharp7)⑥--数据写入
Visual Studio 2010--C#跟西门子1200通讯(Sharp7)⑥--数据写入 上期回顾(上2期主要编写了从PLC读取数据到缓冲区,再从缓冲区拿取需要的数据,并转换成C#格式): 本期 ...
- 建立数组并写入数据_VBA学习笔记19:数组1
学习资源:<Excel VBA从入门到进阶>第20集 by兰色幻想 一.什么是VBA数组? VBA数组就是储存一组数据的数据空间,数据类型可以数字,可以是文本,可以是对象,也可以是VBA数 ...
- 搞定高并发,岂能不懂Synchronized底层原理?
Synchronized 是 Java 中解决并发问题的一种最常用的方法,也是最简单的一种方法.本文作者将全面剖析 Synchronized 的底层原理. Synchronized 的基本使用 Syn ...
- 建立数组并写入数据_VBA数组与字典解决方案第37讲:在VBA中字典的应用
大家好,我们今日继续讲解VBA数组与字典解决方案第37讲内容:在VBA中字典的应用.对于字典,也许许多的朋友对此比较陌生,在有的语言里字典也称之为MAP,应用也是比较广泛的. 字典,其实就是一些&qu ...
- MySQL在大数据、高并发场景下的SQL语句优化
转载自:https://segmentfault.com/a/1190000007311574 本文主要针对中小型应用或网站,重点探讨日常程序开发中SQL语句的优化问题,所谓"大数据&quo ...
- java架构知识点-大数据与高并发(学习笔记)
大数据与高并发 一.秒杀架构设计 业务介绍 什么是秒杀?通俗一点讲就是网络商家为促销等目的组织的网上限时抢购活动 比如说京东秒杀,就是一种定时定量秒杀,在规定的时间内,无论商品是否秒杀完毕,该场次的秒 ...
- 大数据与高并发解决方案
1.海量数据 1. 缓存和页面静态化 1.1 缓存 数据量大这个问题最直接的解决方案就是使用缓存,缓存就是将数据库中获取的结果暂时保存起来在,在下次使用的时候无需从数据库中提取,这样可以大大降低数据库 ...
- 数据量高并发的数据库优化
数据量高并发的数据库优化一.数据库结构的设计如果不能设计一个合理的数据库模型,不仅会增加客户端和服务器段程序的编程和维护的难度,而且将会影响系统实际运行的性能.所以,在一个系统开始实施之前,完备的数据 ...
- 总结概括对于大数据、高并发的网站如何进行优化的问题
对于大数据.高并发的网站,如何进行优化?我这里作出一个概括性的总结,以后慢慢细化与完善,可能存在不全或有误的地方,欢迎大家一起交流,谢谢! 服务器端: 1.采用缓存或分布式缓存技术(cache.mem ...
最新文章
- HTTP协议之Chunked解析
- 微信小程序 延迟执行
- UA STAT675 统计计算I 随机数生成2 线性递归模m与Multiple Recursive Generator (MRG)
- 交叉编译成windows版
- Java 集合之自动打包和解包以及泛型
- 【ES11(2020)】新增数据类型 BigInt
- 红旗linux 装xp,XP下硬盘安装红旗LINUX
- python程序是由一系列代码组成的_以下选项中,对程序的描述错误的是() (6.0分)_学小易找答案...
- 确认系统存储模式C语言,关于C语言中的union
- ios 高德地图加载瓦片地图_OpenLayers加载谷歌地球离线瓦片地图
- 常用的简单的ps快捷键
- python模拟点击屏幕ios_python模拟点击可以在ios中实现吗?
- 2021年 个人年度总结
- 数据挖掘里的“降维”----从五阶魔方的玩法思考
- Spark SQL_JZZ158_MBY
- 云平台的几个概念和典型平台关系对比
- 日记侠:微信引流第一步你做对了吗?
- Vs2017带数据库打包软件(单机版)
- Empty set (0.00 sec)
- 使用Java实现哈夫曼编码(Huffman Coding)
热门文章
- R语言plotly可视化:plotly可视化互相重叠的归一化直方图并在直方图中添加密度曲线kde、设置不同的直方图使用不同的分箱大小(bin size)、在直方图的边缘添加边缘轴须图
- R语言ggplot2可视化:为箱图的均值进行连线、将多个分组的均值连接起来Joining means on a boxplot with a line
- R可视化ggplot2绘制重叠密度图(Overlay Density Plots)
- Stacking+Blending
- 可视化深度学习模型的训练误差和验证误差
- 大数据,正在到来的数据革命——涂子沛
- matplotlib的安装
- 三代测序数据超快组装软件--大牛Li heng 力作
- 华为云王红新_Veritas与华为云签署合作谅解备忘录推进云数据安全进阶
- python 打开网页、封装自己的浏览器、制作浏览器、打开麦克风和摄像头、忽略ssl证书错误、置顶、无边框