SQL结构化查询语言

Structured Query Language结构化查询语言,
为啥不叫非结构化查询语言呢?NoSQL
为啥不叫结构化操作语言呢?Operate
为啥不叫结构化查询操作呢?
因为这个是针对结构化数据的,查询。

那么什么是结构化数据呢?一摞书,一摞笔记本,一捆钢笔。这是半理想状态。

书随意摆放,笔记本随意摆放,钢笔夹在书里,笔记本里,放在笔筒里,这是最不理想的状态。

一摞按照书名首字母排序摆放在书架的书,一摞按照科目(语文、英语、化学…)顺序摆放的笔记本,一捆按照品牌顺序摆放的钢笔。这是最理想的状态。显然这样的状态是结构化,有规律,按照一定规则安排、处理的。(最直观的是图书馆及图书管理学)如果不是实际物品,而是抽象的概念,那么这个结构化就是现在的关系型数据库(DataBase)。

而查询结构化数据的语言就是结构化语言。查询化学这个笔记本,只需要定位到笔记本存放的位置(笔记本统一放置在一起,一个地方,甚至是一摞这种状态),第三个就是了。

而select * from notebook where notebook_name =“化学”就是比较合理的查询语句,翻译过来就是从笔记本中找出名字是化学的那个东西(*不管是什么,都直接拿过来给我就可以)

继而形成了SQL。

1.单机MYSQL的年代

90年代静态网页html,服务器根本没有太大的压力.

整个网站的瓶颈是什么?

  • 1.数据量太大,一个机器放不下了.
  • 2.数据的索引 (B + Tree) 一个机器的内存也放不下
    • mysql超过300万一定要建立索引,否则很慢
  • 3.访问量(读写混合),一个服务器承受不住

如果出现上面三种情况之一,就必须要晋级

淘宝一开始买了个php网站,后来转向了java,为什么?因为java是分布式.

这也是为什么java这么多年jave排行第一

2.Memcached(缓存) + MYSQL + 垂直拆分

网站80%的情况都是在读,每次都要去查询数据库的话就十分的麻烦!所以说我们希望减轻数据的压力,我们可以使用缓存来保证效率!

发展过程:优化数据结构和索引->文件缓存(lO)->Memcached(当时最热门的技术!)

不缺人,你们的竞争对手并不是人才,而是那些图安稳又踏实(老实人)

3.分库分表 – 水平拆分 – MYSQL集群

技术和业务在发展的同时,对人的要求也越来越高!

本质:数据库 (读 写)

​ 用Cache缓存解决读的问题

早点的MyISAM:表锁,十分影响效率。高并发下就会出现严重的锁问题。(100万行,我查张三的密码,他会把整个表锁起来)

转战Innodb:行锁

慢慢的开始使用分库分表来缓解压力,MYSQL在那个年代推出了表分区,这个并没有多少公司使用。

MYSQL的集群,很好的满足了那个年代的所有需求。

4.如今最近的年代

2010–2020,世界已经发生了翻天覆地的变化(定位,也是一种数据。微博热榜……)

MyStQL等关系型数据库就不够用了!数据量很多,变化很快~!

例如微信热点数据,通过redis,用json字符串,直接保存可以。

浏览 10W+,每一个用户看完后,后台是不可能立马写入MySQL关系型数据库持久化到本地的。它都是先放到缓存中,过一段固定的时间(例1h)来保证效率跟安全,否则刷个微信都能把服务器刷崩。

MySQL有的人使用它来存储一些比较大的文件、博客、图片。数据库表很大,效率就低了。如果有一种数据库来专门处理这种出具,像这些乱七八糟的数据,我们把他抽出来,放到专业的文件型数据库、文本型数据库……这时候mysql压力就会变得十分小(我们就是研究如何处理这些问题)。

大数据的IO压力下,表的结构,几乎无法更改。例如1亿条数据,你想加一列,相当于要加1亿列。程序员估计脑袋都大了。所以数据库设计表结构要很久,想要把所有都面面俱到,不要以后再迁移。

目前互联网架构框架

为什么要用NoSQL。

用户的个人信息,社交网络,地理位置。用户自己产生的数据,用户日志等等爆发式增长!
这时候我们就需要使用NoSQL数据库的,Nosql可以很好的处理以上的情况!

什么是NoSQL

NoSQL

NoSQL = Not Only SQL (不仅仅是SQL)

关系型数据库:表格,行,列

泛指非关系型数据库的,随着web2.0互联网的诞生!传统的关系型数据库很难对付web2.0时代!尤其是超大规模的高并发的社区!暴露出来很多难以克服的问题,NoSQL在当今大数据环境下发展的十分迅速,Redis是发展最快的,而且是我们当下必须要掌握的一个技术。

很多的数据类型用户的个人信息,社交网络,地理位置。这些数据类型的存储不需要一个固定的格式!不需要多余的操作就可以横向扩展的!

Map<String,Object>,使用键值对来控制。这个就是典型的Redis的一种。

NoSQL的特点

1.方便扩展(K,V之间没有关系,很好扩展)。像Java为什么做接口,就是为了解耦。

2.大数据量高性能(Redis 1秒写8万次,读取11万 N哦SQL缓存记录级,是一种细粒度的缓存,性能会比较高!)

3、数据类型是多样型的!(不需要事先设计数据库!随取随用!如果是数据量十分大的表,很多人就无法设计了!)

4、传统RDBMS和NoSQL

传统的RDBMS
- 结构化组织
- SQL
- 数据和关系都存在单独的表中
- 操作操作,数据定义语言
- 严格的一致性
- 基础的事务
Nosq1
- 不仅仅是数据
- 没有固定的查询语言
- 键值对存储,列存储(像大数据的HBase),文档存储,图形数据库(社交关系)
- 最终一致性,
- CAP定理和BASE(异地多活) 初级架构师 (只要学不死 就往死里学)
- 高性能,高可用,高可扩

NoSQL的四大分类:

  • KV键值对:
    新浪:Redis
    美团:Redis+Tair
    阿里/百度:Redis+memecache
  • 文档型数据库(bson 格式和jason一样)

​ MongoDB(一般必须要掌握)
​ MongoDB是一个基于分布式文件存储的数据库,C++存储,主要用来处理大量文档。
​ MongoDB是一个介于关系型数据库和非关系型数据库中中间的产品。
​ MongoDB是非关系型数据库功能最丰富,最像关系型数据库的。

​ ConthDB
​ 国外的,略过不提

  • 列存储数据库
    你现在学的MYSQL就是列存储数据库,但是他不是NoSQL哈
    HBase
    分布式文件系统
  • 图关系数据库
    他不是存图形,放的是关系,比如:朋友圈社交网络,广告推荐。
    Neo4j,InfoGrid;只要公司需要你也要去学,你是一块砖,哪里需要哪里搬

现在东西很多变革很快,我们只要学重要的,Redis/MongoDB/Hbase/Neo4j只要掌握这四个

Redis入门

CAP和BASE会在事务操作中讲解

Redis是什么?
Remote Dictionary Server,远程字典服务
是一个开源的使用ANSI C语言编写,支持网络,可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API(什么意思,也可以通过python等来调用)
redis会周期性的把更新的数据写入磁盘或者修改操作写入追加的记录文件,并且在此基础上实现了master-slave(主-从)同步。
免费和开源!是当下最热门的NoSQL技术之一!也被人们称为结构化数据库。

Redis能干嘛?
1.内存存储、持久化,内存中是断电即失、所以说持久化很重要(rdb、aof)
2.效率高,可以用于高速缓存
3.发布订阅系统
4.地图信息分析
5.定时器、计时器(浏览量!incr decre就可以,不需要从数据库中取数据)
6、…

特性:
1、多样的数据类型
2、持久化
3、集群
4、事务

学习中需要用到的东西
1.官网:redis.io
2、中文网:redis.cn
3、Windows在Github上下载,他的代码是托管在Github上的(停更很久了,官方不建议我们在Windows上开发)
Redis推荐都是在Linux服务器上搭建的,我们都是基于Linux学习

Windows安装

​ https://github.com/dmajkic/redis/releases

​ redis-benchmark.exe测试性能
​ redis-check-aof.exe测试持久化
​ redis-cli.exe客户端
​ redis-server.exe服务端

默认端口是6379命令ping,返回PONG,说明是空的
他的存储方式是KV键值对,set name kuangshen,返回ok。get name,返回kuangshen。

中文官网:http://redis.cn/topics/introduction

英文官网:http://redis.io/topics/introduction

Windows下使用确实简单,但是Redis推荐我们使用Linux开发。
官方不支持Windows版本的Redis,但是微软开发和维护着支持win-64的Redis版本,但是现在也没怎么维护了

# Linux安装

1.下载安装

2.解压redis的安装包

3.进入解压后的文件,可以看到我们redis的配置文件

​ redis.conf – redis配置文件

4.基本命令环境安装

安装C的环境

yum install gcc-c++

查看当前版本

gcc -v

会把所有的环境都给你配置好,需要点时间,等待他make完毕,make完毕后 make install再次确认下

make
||
make install

如果报错提示:Linux环境下安装redis报错structredisServer没有名为XXXX的成员

解决办法:
1、安装gcc套装:
yum install cpp
yum install binutils
yum install glibc
yum install glibc-kernheaders
yum install glibc-common
yum install glibc-devel
yum install gcc
yum install make
2、升级gccyum -y install centos-release-sclyum -y install devtoolset-9-gcc devtoolset-9-gcc-c++ devtoolset-9-binutilsscl enable devtoolset-9 bash3、执行完上述命令后再次make即可。
  1. 默认的安装路径
 /usr/local/bin

将redis配置文件复制到当前文件下,先创建个文件夹

mkdir kconfig
||
cp /home/kuangshen_redis/redis-6.0.9/redis.conf /usr/local/bin/kconfig/

我们以后就用这个拷贝的配置文件来启动,保障原生文件的安全

redis默认不是后台启动的,vim这个.conf文件

改了之后这样就默认后台启动了,这样就配置完成了,如果不设置就会如后台所示

223行
# Note that Redis will write a pid file in /var/run/redis.pid when daemonized.
daemonize no||
这里的no改成yes
||# Note that Redis will write a pid file in /var/run/redis.pid when daemonized.
daemonize yes

启动redis服务,指定启动的conf文件

redis-server kconfig/redis.conf

使用redis-cli 进行连接测试

redis-cli -p 6379

当你get不存在的值得时候会返回空:(nil)

keys *  查看所有的key

查看redis的进程是否开启

ps -ef|grep redis

如何关闭redis服务呢?

shutdown  关闭redis
然后到未连接状态,直接exit退出即可
然后可以再次查看进程是否存在

后面我们会使用单机多Redis启动集群测试

测试性能

redis-benchmark是一个压力测试工具!
官方自带的性能测试工具!
redis-benchmark命令参数!

图片来自菜鸟教程https://www.runoob.com/redis/redis-benchmarks.html:

默认主机名127.0.0.1
默认端口6379
默认50个并发
默认请求10000个

我们来简单测试下

# 测试:100个并发连接  100000请求
redis-benchmark -h localhost -p 6379 -c 100 -n 100000

如何查看这些分析呢?

  • 先看SET

    • 这个测试可以帮助我们理解redis有多快

Redis基础知识

redis默认有16个数据库,不信的话可以vim配置文件

默认使用的是第0个数据库

  • select 3:切换到第三个数据库
  • DBSIZE:查看数据库的大小
  • keys *:查看当前数据库所有的key
  • set key:设置key
    • set key1 v1
  • get key:获得value
    • get key1 ,返回v1
  • flushdb:清空当前数据库的所有key
  • flushall:清空整个 Redis 服务器的数据(删除所有数据库的所有 key)
  • exists:查看当前key是否存在
    • EXISTS name

      • 返回1存在 返回0不存在
  • move:移除当前的key字段
    • move name 1

      • 不过一般我们不会这么用的
  • expire:设置key的过期时间,单位是秒
    • expire name 10:设置10秒后name-key自动失效
  • ttl:查看当前key的剩余时间
    • ttl name:查看name-key还有多久自动过期

      • 已经过期了返回-2
  • type:查看当前key类型
    • type name ,返回string

后面如果碰到不会的命令行,可以去官网查,redis.cn/commands.html

思考:为什么端口号6379:粉丝效应(了解即可)

Redis是单线程的!

明白Redis是很快的,官方表示,Redis是基于内存操作,CPU不是Redis性能瓶颈,Redis的瓶颈是根据机器的内存和网络带宽,既然可以使用单线程来实现,就使用单线程了!所以就是用了单线程了。

Redis是C语言写的,官方提供的数据为100000+的QPS,完全不比同样是使用key-vale的Memecache差!

Redis为什么单线程还这么快?

1、误区1:高性能的服务器一定是多线程的?

​ 答:不一定

2、误区2:多线程(CPU上下文会切换!)一定比单线程效率高r!

​ 多线程有弊端,跟CPU调度有关。CPU会上下文切换,也会耗费资源。

​ CPU速度 > 内存 > 硬盘

核心:redis是将所有的数据全部放在内存中的,所以说使用单线程去操作效率就是最高的。因为多线程CPU会上下文切换,这是一个耗时的操作!!!对于内存系统来说,如果没有上下文切换,效率就是最高的。多次读写都是在一个CPU上的,在内存情况下,这个就是最佳的方案。

​ CPU切换一般在1500~2500纳秒之间。

五大数据类型

命令后面有个-,就说明这个命令是正确的

Redis-Key

官方文档

It supports data structures such as strings, hashes, lists, sets, sorted sets with range queries, bitmaps, hyperloglogs, geospatial indexes with radius queries and streams. 翻译:

Redis 是一个开源(BSD许可)的,内存中的数据结构存储系统,它可以用作数据库缓存消息中间件MQ。 它支持多种类型的数据结构,如 字符串(strings), 散列(hashes), 列表(lists), 集合(sets), 有序集合(sorted sets) 与范围查询, bitmaps, hyperloglogs 和 地理空间(geospatial) 索引半径查询。 Redis 内置了 复制(replication),LUA脚本(Lua scripting), LRU驱动事件(LRU eviction),事务(transactions) 和不同级别的 磁盘持久化(persistence), 并通过 Redis哨兵(Sentinel)和自动 分区(Cluster)提供高可用性(high availability)。

80%只会用string类型

String(字符串类型)

90%的java程序员使用redis只会使用1个String类型!

#######################################################################
127.0.0.1:6379> set key1 v1
OK
127.0.0.1:6379> get key1
"v1"
127.0.0.1:6379> keys *
1) "key1"
127.0.0.1:6379> exists key1
(integer) 1
127.0.0.1:6379> append key1 "hello"  # 追加字符串
(integer) 7
127.0.0.1:6379> append name "zhangsan"  # 追加字符串 如果key不存在,就相当于setkey
(integer) 8
127.0.0.1:6379> keys *
1) "name"
2) "key1"
127.0.0.1:6379> get key1
"v1hello"
127.0.0.1:6379> strlen key1    # 获取字符串长度
(integer) 7
127.0.0.1:6379> append key1 ",kuangshen"
(integer) 17
127.0.0.1:6379> strlen key1
(integer) 17
127.0.0.1:6379> get key1
"v1hello,kuangshen"
#######################################################################
127.0.0.1:6379> set views 0  # 设置初始浏览量为0
OK
127.0.0.1:6379> get views
"0"
127.0.0.1:6379> incr views   #  自增1
(integer) 1
127.0.0.1:6379> incr views
(integer) 2
127.0.0.1:6379> get views
"2"
127.0.0.1:6379> decr views    #   自减1
(integer) 1
127.0.0.1:6379> decr views
(integer) 0
127.0.0.1:6379> decr views
(integer) -1
127.0.0.1:6379> INCRBY views 10   #【步长-增量】
(integer) 9
127.0.0.1:6379> DECRBY views 10   #【步长-增量】
(integer) -1
#######################################################################
字符串范围 range
【getrange】
127.0.0.1:6379> set key1 "hello,kuangshen"
OK
127.0.0.1:6379> get key1
"hello,kuangshen"
127.0.0.1:6379> GETRANGE key1 0 3   # 截取字符串 [0,3]
"hell"
127.0.0.1:6379> GETRANGE key1 0 -1   #  读取全部的字符串 和 get key是一样的
"hello,kuangshen"
【setrange】
127.0.0.1:6379> set key2 abcdefg
OK
127.0.0.1:6379> get key2
"abcdefg"
127.0.0.1:6379> setrange key2 1 xx  # 替换指定位置开始的字符串!
(integer) 7
127.0.0.1:6379> get key2
"axxdefg"
#######################################################################
【setex】:(set with expire)# 设置过期时间
【setnx】:(set if not exist)# 不存在再设置(在分布式锁中会常常使用!)127.0.0.1:6379> setex key3 30 "hello"  # 设置key3的值伟hello,30秒后过期
OK
127.0.0.1:6379> get key3
"hello"
127.0.0.1:6379> ttl key3
(integer) 23
127.0.0.1:6379> SETNX mykey "redis"  # 如果mykey不存在,创建mykey
(integer) 1
127.0.0.1:6379> keys *   # 此时key3没有因为已经过期
1) "mykey"
2) "key"
3) "key1"
4) "key2"
127.0.0.1:6379> ttl key3     # -2表示已经过期
(integer) -2
127.0.0.1:6379> setnx mykey "MongoDB"    #  如果mykey存在,创建失败!
(integer) 0
127.0.0.1:6379> get mykey
"redis"#######################################################################
127.0.0.1:6379> mset k1 v1 k2 v2 k3 v3  # 同时设置多个值
OK
127.0.0.1:6379> keys *
1) "k2"
2) "k3"
3) "k1"
127.0.0.1:6379> mget k1 k2 k3   #  同时获取多个值
1) "v1"
2) "v2"
3) "v3"
127.0.0.1:6379> msetnx k1 v1 k4 v4   # msetnx 是一个原子性的操作 要么一起成功/一起失败!
(integer) 0
127.0.0.1:6379> get v4
(nil)# 对象
set user:1{name:zhangsan,age:3}  # 设置一个user:1 对象,对象值为 json字符来保存一个对象!# 这里的key是一个巧妙的设计: user:{id}:{filed},如此设计在Redis中是完全OK的!
127.0.0.1:6379> mset user:1:name zhangsan user:1:age 2
OK
127.0.0.1:6379> mget user:1:name user:1:age
1) "zhangsan"
2) "2"# 这个作用是什么呢?比如微信阅读量
127.0.0.1:6379> set article:10000:views 0  # 设置文章编号为10000的对象的初始浏览量,为0###############################################################################
getset  # 先get然后再set127.0.0.1:6379> getset db redis   #  如果不存在值  则返回 nil
(nil)
127.0.0.1:6379> get db
"redis"
127.0.0.1:6379> getset db mongodb   #  如果存在值  获取原来的值,并设置新的值 用于更新一般
"redis"
127.0.0.1:6379> get db
"mongodb"

数据结构是相同的,未来的话,我们会去学jedis,是redis官方推荐的操作客户端。

​ jedis.get/set方法,你现在所有学的key,未来都会变成一个个的方法

String类似的适用场景:value除了是我们的字符串,还可以是我们的数字

  • 计数器
  • 统计多单位的数量
    • 关注数 、粉丝数 、获赞数 、播放数

      • uid:95256449:follow 0 incr 关注数
    • 对象缓存存储

像微信的阅读量、在看量,并不是说真的即时读写到数据库中。

List(列表)

所有的List命令都是L开头的!

在redis里面,我们可以把list玩成,栈、队列、阻塞队列!

  • 4个元素:A、B、C、D

    • 一边进一边出:队列
    • 一边进不能出:栈
    • 两边都打开都能同时取:阻塞队列

Redis不区分大小写命令!

字符串加不加双引号都没事,会自动识别

################################################################################
【LPUSH】
【RPUSH】
【LRANGE】
127.0.0.1:6379> LPUSH list one   #将一个值或者多个值,插入到列表头部(左)
(integer) 1
127.0.0.1:6379> LPUSH list two
(integer) 2
127.0.0.1:6379> LPUSH list three
(integer) 3
127.0.0.1:6379> LRANGE list 0 -1   #  获取list中的值
1) "three"
2) "two"
3) "one"
127.0.0.1:6379> LRANGE list 0 1   # 通过区间获取具体的值!
1) "three"
2) "two"
127.0.0.1:6379> rpush list right # 将一个值或者多个值,插入到列表尾部(右)
(integer) 4
127.0.0.1:6379> LRANGE list 0 -1
1) "three"
2) "two"
3) "one"
4) "right"
################################################################################
【LPOP】
【RPOP】
127.0.0.1:6379> LRANGE list 0 -1
1) "three"
2) "two"
3) "one"
4) "right"
127.0.0.1:6379> Lpop list  # 从左边移除1ist的第一个元素
"three"
127.0.0.1:6379> Rpop list  # 从右边移除1ist的第一个元素
"right"
127.0.0.1:6379> LRANGE list 0 -1
1) "two"
2) "one"
127.0.0.1:6379>
################################################################################
【Lindex】
127.0.0.1:6379> LRANGE list 0 -1
1) "two"
2) "one"
127.0.0.1:6379> lindex list 1  # 通过下标  获取list中下标为1的元素
"one"
127.0.0.1:6379> lindex list 0
"two"
################################################################################
【Llen】
127.0.0.1:6379> LPUSH list one
(integer) 1
127.0.0.1:6379> LPUSH list two
(integer) 2
127.0.0.1:6379> LPUSH list three
(integer) 3
127.0.0.1:6379> llen list  # 返回列表的长度
(integer) 3
################################################################################
移除指定的值!
取关 uid
【Lrem】
127.0.0.1:6379> LPUSH list one
(integer) 1
127.0.0.1:6379> LPUSH list two
(integer) 2
127.0.0.1:6379> LPUSH list three
(integer) 3
127.0.0.1:6379> llen list
(integer) 3
127.0.0.1:6379> LPUSH list three
(integer) 4
127.0.0.1:6379> LRANGE list 0 -1
1) "three"
2) "three"
3) "two"
4) "one"
127.0.0.1:6379> LREM list 1 one  # 移除list集合中的指定个数的value 精确匹配
(integer) 1
127.0.0.1:6379> LREM list 2 three # 移除list中的three 并且移除2个
(integer) 2
127.0.0.1:6379> LRANGE list 0 -1
1) "two"
#########################################################################################
【Ltrim】
trim 修剪操作,  list:截断
127.0.0.1:6379> RPUSH mylist "hello"
(integer) 1
127.0.0.1:6379> RPUSH mylist "hello1"
(integer) 2
127.0.0.1:6379> RPUSH mylist "hello2"
(integer) 3
127.0.0.1:6379> RPUSH mylist "hello3"
(integer) 4
127.0.0.1:6379> LTRIM mylist 1 2  #  通过下标截取指定的长度,这个1ist已经被改变了,截断了只剩下截取的元素!
OK
127.0.0.1:6379> LRANGE mylist 0 -1
1) "hello1"
2) "hello2"
#########################################################################################
【rpoplpush】 移除列表的最后一个元素,将他移动到新的列表中!
127.0.0.1:6379> rpush mylist "hello"
(integer) 1
127.0.0.1:6379> rpush mylist "hello1"
(integer) 2
127.0.0.1:6379> rpush mylist "hello2"
(integer) 3
127.0.0.1:6379> RPOPLPUSH mylist myotherlist # 移除列表的最后一个元素,将他移动到新的列表中!
"hello2"
127.0.0.1:6379> LRANGE mylist 0 -1  #  查看原列表
1) "hello"
2) "hello1"
127.0.0.1:6379> LRANGE myotherlist 0 -1  #  查看目标列表中,确实存在该值!
1) "hello2"
#########################################################################################
【lset】  将列表中指定下标的值替换为另外一个值,更新操作
127.0.0.1:6379> EXISTS list   #  判断列表是否存在
(integer) 0
127.0.0.1:6379> lset list 0 item  # 如果不存在列表我们去更新就会报错
(error) ERR no such key
127.0.0.1:6379> lpush list value1
(integer) 1
127.0.0.1:6379> LRANGE list 0 0
1) "value1"
127.0.0.1:6379> lset list 0 item  # 如果存在,更新当前下标的值
OK
127.0.0.1:6379> LRANGE list 0 0
1) "item"
127.0.0.1:6379> lset list 1 other  # 如果不存在,则会报错!
(error) ERR index out of range
#########################################################################################
【linsert】将某个具体的value插入到列中的某个元素的前面或者后面
127.0.0.1:6379> RPUSH mylist "hello"    # 注意这里不是Lpush  而是Rpush  注意顺序哦
(integer) 1
127.0.0.1:6379> RPUSH mylist "world"
(integer) 2
127.0.0.1:6379> LINSERT mylist before "world" "other"
(integer) 3
127.0.0.1:6379> LRANGE mylist 0 -1
1) "hello"
2) "other"
3) "world"
127.0.0.1:6379> LINSERT mylist after "world" new
(integer) 4
127.0.0.1:6379> LRANGE mylist 0 -1
1) "hello"
2) "other"
3) "world"
4) "new"

小结

  • 他实际上是一个链表,before Node after,left,right都可以插入值

  • 如果key不存在,创建新的链表

  • 如果key存在,新增内容

  • 如果移除了所看值,空链表,也代表不存在!

  • 在两边插入或者改动值,效率最高!如果链表非常长,中间元素,相对来说效率会低一点

  • 消息排队!

    • 消息队列 (LPush Rpop ) 从左边进,右边拿出来
    • 栈(Lpush Lpop)从左边进 左边出

Set(集合)

所有的Set命令都是S开头的!

【Smembers】       查看指定set的所有值
【SisMember】     判断某一个值是不是在set集合中,类似于Java:contains
127.0.0.1:6379> sadd myset "hello"    # set集合中添加元素 注意set中的值不能重复的!
(integer) 1
127.0.0.1:6379> sadd myset "kuangshen"
(integer) 1
127.0.0.1:6379> sadd myset "lovekuangshen"
(integer) 1
127.0.0.1:6379> SMEMBERS myset  # 查看指定set的所有值
1) "lovekuangshen"
2) "hello"
3) "kuangshen"
127.0.0.1:6379> SISMEMBER myset hello  #  判断某一个值是不是在set集合中!
(integer) 1
127.0.0.1:6379> SISMEMBER myset world
(integer) 0
#########################################################################################
【Scard】         获取set集合中的内容元素个数
127.0.0.1:6379> SCARD myset  #  获取set集合中的内容元素个数!
(integer) 4
#########################################################################################
【Srem】       移除set集合中的指定元素
127.0.0.1:6379> srem myset hello  #  移除set集合中的指定元素
(integer) 1
127.0.0.1:6379> SCARD myset
(integer) 3
127.0.0.1:6379> smembers myset
1) "lovekuangshen"
2) "kuangshen"
3) "lovekuangshen1"#########################################################################################
【SRandMember】   随机抽选出指定个数的元素set是无序不重复集合,可以用来【抽随机】。127.0.0.1:6379> SMEMBERS myset
1) "lovekuangshen"
2) "kuangshen"
3) "lovekuangshen1"
127.0.0.1:6379> SRANDMEMBER myset  # 随机抽选出一个元素
"kuangshen"
127.0.0.1:6379> SRANDMEMBER myset
"lovekuangshen"
127.0.0.1:6379> SRANDMEMBER myset 2  # 随机抽选出指定个数的元素
1) "lovekuangshen"
2) "lovekuangshen1"
#########################################################################################
【Spop】      随机删除key!
127.0.0.1:6379> SMEMBERS myset
1) "lovekuangshen"
2) "kuangshen"
3) "lovekuangshen1"
127.0.0.1:6379> spop myset  #  随机删除key   附:栈的弹出函数pop()
"lovekuangshen"
127.0.0.1:6379> spop myset
"lovekuangshen1"
127.0.0.1:6379> SMEMBERS myset
1) "kuangshen"
#########################################################################################
【SMove】     将一个指定的值,移动到另外一个set集合
127.0.0.1:6379> sadd myset "hello"
(integer) 1
127.0.0.1:6379> sadd myset "world"
(integer) 1
127.0.0.1:6379> sadd myset "kuangshen"
(integer) 1
127.0.0.1:6379> sadd myset2 "set2"
(integer) 1
127.0.0.1:6379> smove myset myset2 kuangshen  # 将一个指定的值,移动到另外一个set集合!
(integer) 1
127.0.0.1:6379> SMEMBERS myset
1) "hello"
2) "world"
127.0.0.1:6379> SMEMBERS myset2
1) "kuangshen"
2) "set2"
#########################################################################################
微博,B站,共同关注!(并集)这里可以把key1当成up主1,a/b/c是up主1的粉丝把key2当成up主2,c/d/e是up主2的粉丝
数学集合类:- 差集- 交集- 并集
127.0.0.1:6379> sadd key1 a
(integer) 1
127.0.0.1:6379> sadd key1 b
(integer) 1
127.0.0.1:6379> sadd key1 c
(integer) 1
127.0.0.1:6379> sadd key2 c
(integer) 1
127.0.0.1:6379> sadd key2 d
(integer) 1
127.0.0.1:6379> sadd key2 e
(integer) 1
【sdiff】
127.0.0.1:6379> sdiff key1 key2    #  差集  注意是以key1为参照物
1) "b"
2) "a"
【sinter】
127.0.0.1:6379> sinter key1 key2    #  交集  共同好友就可以这么实现
1) "c"
【sunion】
127.0.0.1:6379> sunion key1 key2   #  并集
1) "b"
2) "c"
3) "e"
4) "a"
5) "d"微博,A用户将所有关注的人放在一个set集合中!将它的粉丝也放在一个集合中!
共同关注,共同爱好,二度好友,推荐好友!(六度分割理论)

Hash(哈希)

你可以理解成map集合 key-value形式,只是这个value是一个map集合的形式

本质和String类型没有太大区别,还是一个简单的key-vlaue!

#########################################################################################【hset】
127.0.0.1:6379> hset myhash field1 kuangshen  # set 一个具体 key-value
(integer) 1
【hget】
127.0.0.1:6379> hget myhash field1  # 获取1个字段值
"kuangshen"
【hmset】
127.0.0.1:6379> hmset myhash field1 hello field2 world  # set 多个具体 key-value 存在则覆盖
OK
【hkeys】
127.0.0.1:6379> hkeys myhash  # 只获取所有key
1) "field2"
2) "field1"
【hvals】
127.0.0.1:6379> hvals myhash  # 只获取所有value
1) "world"
2) "hello"
【hmget】
127.0.0.1:6379> hmget myhash field1 field2   # 获取多个字段值
1) "hello"
2) "world"
【hgetall】
127.0.0.1:6379> hgetall myhash  # 获取哈希中全部的数据
1) "field1"
2) "hello"
3) "field2"
4) "world"
【hlen】
127.0.0.1:6379> hlen myhash  # 获取哈希表字段的数量
(integer) 2
【hdel】
127.0.0.1:6379>  hdel myhash field1  # 删除hash指定key字段:对应的value值也就消失了
(integer) 1
127.0.0.1:6379> hgetall myhash
1) "field2"
2) "world"
【hexists】
127.0.0.1:6379> hexists myhash field2  #  判断hash中指定字段是否存在!
(integer) 1
127.0.0.1:6379> hexists myhash field3
(integer) 0
#########################################################################################127.0.0.1:6379> hset myhash field3 5
(integer) 1
【incr】
127.0.0.1:6379> hincrby myhash field3 1  #  设置自增1
(integer) 6
【反向incr = decr】
127.0.0.1:6379> hincrby myhash field3 -1  # 设置自减
(integer) 5
【hsetnx】
127.0.0.1:6379> hsetnx myhash field4 hello  #  如果不存在则可以设置
(integer) 1
127.0.0.1:6379> hsetnx myhash field4 world  #  如果存在则不能设置
(integer) 0
#########################################################################################

hash变更数据,user name age ,尤其用于用户信息保存,经常变动的信息!
hash更适合对象的存储,String更加适合字符串存储

Zset(有序集合)

Zset和Set多了一个Z,在set的基础上增加了一个值,set k1 v1 ,zset k1 score1 v1

#########################################################################################
【Zadd】
127.0.0.1:6379> zadd myset 1 one # 添加1个值
(integer) 1
127.0.0.1:6379> zadd myset 2 two 3 three  # 添加多个值
(integer) 2
【Zrange】
127.0.0.1:6379> zrange myset 0 -1 # 遍历打印所有数据
1) "one"
2) "two"
#########################################################################################127.0.0.1:6379> zadd salary 2500 zhangsan # 添加3个用户
(integer) 1
127.0.0.1:6379> zadd salary 5000 xiaoming
(integer) 1
127.0.0.1:6379> zadd salary 500 kuangshen
(integer) 1
【ZrangeByScore】
127.0.0.1:6379> ZRANGEBYSCORE salary -inf +inf  # 显示全部用户 【从小到大】
1) "kuangshen"
2) "zhangsan"
3) "xiaoming"
【ZrevRange】
127.0.0.1:6379> ZREVRANGE salary 0 -1  # 【从大到小】 进行排序  rev反转的意思
1) "xiaoming"
2) "zhangsan"
3) "kuangshen"
127.0.0.1:6379> ZRANGEBYSCORE salary -inf 2500 withscores # 显示工资小于2500的升序排列
1) "kuangshen"
2) "500"
3) "zhangsan"
4) "2500"
【zrem】
127.0.0.1:6379> zrem salary xiaoming  # 移除有序集合中的元素
(integer) 1
127.0.0.1:6379> zrange salary 0 -1
1) "kuangshen"
2) "zhangsan"
【zcard】
127.0.0.1:6379> zcard salary  # 获取有序集合中的个数
(integer) 2
#########################################################################################
127.0.0.1:6379> zadd myset 1 hello
(integer) 1
127.0.0.1:6379> zadd myset 2 world 3 kuangshen
(integer) 2
【zcount】
127.0.0.1:6379> zcount myset 1 3  # 获取指定区间的成员数量
(integer) 3
127.0.0.1:6379> zcount myset 1 2
(integer) 2

其与的一些API,通过我们的学习,你们剩下的如果工作中有需要,这个时候你可以去查查看官方文档!

案例思路:set 排序存储班级成绩表,工资表排序!
普通消息,1,重要消息2,带权重进行判断!
bilibili热点排行榜应用实现(set集合排序 按分钟刷新)

每个学的知识都有应用的场景,你没有想到就是你学的少看的少

你学了新知识 在看到一些东西 奥原来可以这样来实现

三种特殊数据类型

geospatial 地理位置空间

​ 官方网址:https://www.redis.net.cn/order/3689.html

朋友的定位,附近的人,打车距离计算?
Redis 的 Geo 在Redis3.2版本就推出了!这个功能可以推算地理位置的信息,两地之间的距离,方圆几里的人!
可以查询一些测试数据:https://jingweidu.51240.com/

只有6个命令

getadd

# getadd 添加地理位置
# 规则:南北两级无法直接添加,我们一般会下载城市数据,直接通过java程序一次性导入!
# 参数 key 值(纬度、经度、名称)
# 有效的经度从-180度到180度。
# 有效的纬度从-85.05112878度到85.05112878度。
# 当坐标位置超出上述指定范围时,该命令会返回一个错误
# (error) ERR invalid longitude,latitude pair 39.900000,116.400000
127.0.0.1:6379> geoadd china:city 116.40 39.90 beijing
(integer) 1
127.0.0.1:6379> geoadd china:city 121.47 31.23 shanghai 106.50 29.53 chongqing
(integer) 2
127.0.0.1:6379> geoadd china:city 120.16 30.24 hangzhou 108.96 34.26 xian 114.05 22.52 shenzhen
(integer) 3

geopos

或者当前定位:一定是一个坐标值!


127.0.0.1:6379> geopos china:city hangzhou beijing  # 获取指定的城市的经度 和 维度!
1) 1) "120.1600000262260437"2) "30.2400003229490224"
2) 1) "116.39999896287918091"2) "39.90000009167092543"

geodist 返回两个给定位置之间的距离

  • m 表示单位为米。
  • km 表示单位为千米。
  • mi 表示单位为英里。
  • ft 表示单位为英尺。

如果用户没有显式地指定单位参数, 那么 GEODIST 默认使用米作为单位。

127.0.0.1:6379> geodist china:city hangzhou shanghai # 查看杭州到上海的直线距离 单位:米
"166761.2770"
127.0.0.1:6379> geodist china:city hangzhou beijing km  # 查看杭州到北京的直线距离 单位:千米
"1127.3378"

georadius 以给定的经纬度为中心, 找出某一半径内的元素

如何实现:我附近的人?(获取所有附近的人的地址,定位!)通过半径来查询!

127.0.0.1:6379> GEORADIUS china:city 110 30 1000 km   # 以110,30这个经纬度为中心,寻找方圆1000km内的城市         前提:所有数据应该都录入:china:city,才会让结果更加精确!
1) "chongqing"
2) "xian"
3) "shenzhen"
4) "hangzhou"
127.0.0.1:6379> GEORADIUS china:city 110 30 500 km withdist # 显示到中间位置的直线距离 半径500km
1) 1) "chongqing"2) "341.9374"
2) 1) "xian"2) "483.8340"
127.0.0.1:6379> GEORADIUS china:city 110 30 500 km withcoord # 显示到中心距离半径500km的城市 +  经纬度信息
1) 1) "chongqing"2) 1) "106.49999767541885376"2) "29.52999957900659211"
2) 1) "xian"2) 1) "108.96000176668167114"2) "34.25999964418929977"
127.0.0.1:6379> GEORADIUS china:city 110 30 500 km withcoord withdist count 3 # 筛选出指定结果  只显示2个是因为只有2个
1) 1) "chongqing"2) "341.9374"3) 1) "106.49999767541885376"2) "29.52999957900659211"
2) 1) "xian"2) "483.8340"3) 1) "108.96000176668167114"2) "34.25999964418929977"

GEORADIUSBYMEMBER

# 找出位于指定范围内的元素,中心点是由给定的位置元素决定
127.0.0.1:6379> GEORADIUSBYMEMBER china:city beijing 1000 km
1) "beijing"
2) "xian"
127.0.0.1:6379> GEORADIUSBYMEMBER china:city shanghai 500 km
1) "hangzhou"
2) "shanghai"

GEOHASH 命令 - 返回一个或多个位置元素的 Geohash 表示

该命令将返回11个字符的Geohash字符串!

# 将二维的经纬度转换为一维的字符串,如果两个字符串越接近,那么则距离越近!
127.0.0.1:6379> GEOHASH china:city beijing chongqing
1) "wx4fbxxfke0"
2) "wm5xzrybty0"

GEO 底层的实现原理:Zset! 我们可以用Zset命令来操作Geo

127.0.0.1:6379> zrem china:city beijing  # 移除指定元素
(integer) 1
127.0.0.1:6379> ZRANGE china:city 0 -1  # 查看地图中全部元素
1) "chongqing"
2) "xian"
3) "shenzhen"
4) "hangzhou"
5) "shanghai"

hyperloglog 位图

什么是基数?

A{1,3,5,7,8,7}

B{1,3,5,7,8}

基数(一个集合中不重复的元素) = 5 ,可以接受误差!

简介

Redis 2.8.9版本就更新了Hyperloglog数据结构!

Redis Hyperloglog基数统计的算法!

优点:占用的内存是固定的,2^64不同的元素的技术,只需要废12kb内存。如果要从内存角度来比较的话Hyperloglog首选!

网页的UV(一个人访问一个网站多次,但是还是算作一个人!)

传统的方式,set 保存用户的id,然后就可以统计set中的元素数量作为标准判断!

这个方式如果保存大量的用户id,就会比较麻烦!我们的目的是为了计数,而不是保存用户id;

0.81%错误率!统计UV任务,可以忽略不计的!

测试使用

  • 如果允许容错,那么一定可以使用Hyperloglog
  • 如果不允许容错,就使用 set 或 自己的数据类型 即可
node1:6379> pfadd mykey a b c d e f g h i j  # 创建第一组元素 mykey
(integer) 1
node1:6379> PFCOUNT mykey  # 统计mykey元素的基数数量
(integer) 10
node1:6379> pfadd mykey2 i j z x c v n m  # 创建第二组元素mykey2
(integer) 1
node1:6379> PFCOUNT mykey2
(integer) 8
node1:6379> pfcount mykey2 mykey
(integer) 15
node1:6379> PFMERGE mykey3 mykey mykey2 # 合并两组 mykey mykey2=>mykey3并集
OK
node1:6379> PFCOUNT mykey3  # 看并集的数量!
(integer) 15

bitmap 位图

为什么其他教 程都不喜欢讲这些?这些在生活中或者开发中,都有十分多的应用场景,学习了,就是就是多一个思路!
技多不压身!

位存储

面试题:如何筛选用户是最快的,0-1-0-1是最快的。

  • 统计疫情感染人数:0 0 1 0 0

    • 14亿个中国人,设14亿个0,被感染了设为1.
  • 统计用户信息,活跃、不活跃。登录、未登录。打卡,钉钉打卡打卡!只要2个状态的,都可以用Bitmaps来处理。

    • userid status day 这样非常麻烦

​ Bitmaps位图,数据结构!都是操作二进制位来进行记录,就只有0和1两个状态!

​ 365天=365bit 1字节=8bit 46个字节左右!

测试

使用bitmap来记录周一到周日的打卡!

周一:1 周二:0 周三:0 周四:1……


【getbit】
node1:63 79> getbit sign 3   # 查看某一天是否打卡
(integer) 1
node1:6379> getbit sign 6
(integer) 0【bigcount】
node1:6379> bitcount sign   # 查看是否全勤 统计操作,统计打卡的天数
(integer) 3

事务

原子性:要么同时成功,要么同时失败。

redis单条命令是保障原子性的, 但是事务是不保证原子性的

Redis事务本质:一组命令的集合!一个事务中的所有命令都会被序列化,在事务执行过程的中,会按照顺序执行!

  • 一次性执行
  • 顺序性
  • 排他性
    • 不允许别人感染
------ 队列 set set set 执行 ------
  • Redis事务没有隔离级别的概念
  • 所有的命令在事务中,并没有直接被执行!
    • 在队列中并没有执行
    • 只有发起执行命令的时候才会执行!Exec

redis的事务:

  • 开启事务(multi)
  • 命令入队(…)
  • 执行事务(exec)

正常执行事务

node1:6379> multi    # 开启事务
OK
node1:6379> set k1 v1  # 命令的入队
QUEUED
node1:6379> set k2 v2
QUEUED
node1:6379> get k2
QUEUED
node1:6379> set k3 v3
QUEUED
node1:6379> exec   # 执行事务
1) OK
2) OK
3) "v2"
4) OK

放弃事务

node1:6379> multi    # 开启事务
OK
node1:6379> set k1 v1
QUEUED
node1:6379> set k4 v4
QUEUED
node1:6379> DISCARD  #  取消事务
OK
node1:6379> get k4  #  事务队列中命令都不会被执行!
(nil)

编译型异常(代码有问题!命令有错!),事务中所有的命令都不会被执行!

node1:6379> MULTI
OK
node1:6379>
node1:6379> set k1 v1
QUEUED
node1:6379> getset k2    #  错误的命令
(error) ERR wrong number of arguments for 'getset' command
node1:6379> set k5 v5
QUEUED
node1:6379> exec   # 执行事务报错
(error) EXECABORT Transaction discarded because of previous errors.
node1:6379> get k5  # 所有命令都不会被执行!
(nil)

运行时异常(1/0),如果事务队列中存在语法性,那么执行命令的时候,其他命令是可以正常执行的 错误命令抛出异常

node1:6379> set k1 v1
OK
node1:6379> MULTI
OK
node1:6379> INCR k1 # 会执行的时候执行失败
QUEUED
node1:6379> set k2 v2
QUEUED
node1:6379> get k2
QUEUED
node1:6379> exec
1) (error) ERR value is not an integer or out of range # 虽然第一条命令报错了,但是依旧正常执行成功了
2) OK
3) "v2"

这里也就是说的,redis单条保证原子性,但是事务不保证原子性

redis还可以做监控

监控!Watch监视器

悲观锁:

  • 很悲观,认为什么时候都会出问题,无论做什么都会加锁!

乐观锁:

  • 很乐观,认为什么时候都不会出问题,所以不会上锁!

    • 更新的时候去判断一下,在此期间是否有人修改过这个数据,mysql中的version字段!

      • 获取version
      • 更新的时候比较version
    • 我们基本大部分使用乐观锁为主,很少使用悲观锁,因为效率太低了。

redis监视测试

正常执行成功!

node1:6379> set money 100
OK
node1:6379> set out 0
OK
node1:6379> watch money  # 监视 money 对象
OK
node1:6379> MULTI # 事务正常结束,数据期间没有发生变动,这个时候正常执行成功。
OK
node1:6379> decrby money 20
QUEUED
node1:6379> incrby out 20
QUEUED
node1:6379> exec
1) (integer) 80
2) (integer) 20

测试多线程修改值,使用watch可以当作redis的乐观锁操作

node1:6379> set money 100
OK
node1:6379> set out 0
OK
node1:6379> watch money  # 监视money
OK
node1:6379> MULTI
OK
node1:6379> DECRBY money 10
QUEUED
node1:6379> INCRBY out 10
QUEUED
##############  另一线程修改数据    ##########
node1:6379> set money 1000
OK
##############  原线程执行    ##########
node1:6379> exec  # 执行之前,另外线程修改了我们的值,就会导致执行失败
(nil)############# 还想继续执行怎么办?   #############
node1:6379> unwatch   # 先解锁
OK
node1:6379> WATCH money  # 重新加锁,获取最新version 再操作即可
OK
node1:6379> exec # 对比监视的值是否发生了变化,如果没有变化,那么可以执行成功,如果变了就执行失败

如果修改失败, 获取最新的值version就好

Jedis

知其然并知其所以然,授人以渔!学习不能急躁,慢慢来会很快!

什么是jedis,jedis是官方推荐的java连接开发工具!使用java操作redis中间件!

Redis.conf详解

工作中如果你会看配置文件,那么你就比一些人厉害了,如果你只会基操,容易被淘汰。

行家有没有,出手就知道。

1.配置文件 unit单位 对大小写不敏感

包含

可以把多个配置文件都导入进来,(??为高可用做准备是吗???)。

网络NETWORK

bind node1  # 绑定的ip
protected-mode yes   # 保护模式 默认开启
port 6379 # 端口设置

通用GENERAL

daemonize yes # 以守护进程的方式运行 默认no  我们需要手动修改yes !pidfile /var/run/redis_6379.pid # 如果以后台的方式运行,我们就需要指定一个pid文件# 日志
# Specify the server verbosity level.
# This can be one of:
# debug (a lot of information, useful for development/testing)
# verbose (many rarely useful info, but not a mess like the debug level)
# notice (moderately verbose, what you want in production probably)  # 生产环境用
# warning (only very important / critical messages are logged)
loglevel notice
logfile "" # 日志的文件位置名
databases 16 # 数据库数量,默认16个
always-show-logo yes  # 是否总是显示logo  那个魔方一样的

快照SNAPSHOTTING

持久化,在规定的时间内, 执行了多少次操作,就会持久化到文件.rdb.aof

redis是内存数据库,如果没有持久化,那么数据断电即失。

save 900 1  # 如果900秒15分钟内 至少1个key修改 我们就进行持久化操作
save 300 10 # 如果300秒5分钟内 至少10个key修改 我们就 进行持久化操作
save 60 10000 # 如果60秒内 至少10000个key修改(高迸发) 进行持久化操作
# 我们之后学习持久化,会自己定义这个测试stop-writes-on-bgsave-error yes # 持久化出错了,是否还要继续工作,默认 要!rdbcompression yes # 是否压缩rdb文件,需要消耗cpu资源rdbchecksum yes # 保存reb文件的时候,进行错误校验,错误的话修复dir ./ # rdb文件保存的目录,默认当前目录下

复制REPLICATION

​ 我们后面讲主从复制的时候讲

安全:SECURITY

可以在这里设置redis密码,默认是没有密码的

requirepass foobared  # 默认密码为空 如果需要设置123则:requirepass 123
# 不过我们更多的用命令去设置密码node1:6379> config set requirepass "123456" # 设置密码123456
OK
node1:6379> config get requirepass  # 发现所有命令没权限了
(error) NOAUTH Authentication required.
node1:6379> ping
(error) NOAUTH Authentication required.
node1:6379> auth 123456  # 使用密码进行登陆
OK
node1:6379> config get requirepass  # 获取redis密码
1) "requirepass"
2) "123456"

限制CLIENTS

maxclients 10000 # 设置能连接上redis的最大客户端的数量
maaxmemory <bytes> # redis 配置最大的内存容量
maxmemory-policy noeviction # 内存达到上限之后的处理策略
||
1、volatile-lru:只对设置了过期时间的key进行LRU(默认值)
2、allkeys-lru : 删除lru算法的key
3、volatile-random:随机删除即将过期key
4、allkeys-random:随机删除
5、volatile-ttl : 删除即将过期的
6、noeviction : 永不过期,返回错误

APPEND ONLY 模式 aof配置

appendonly no  #默认是不开启aof模式的,默认是使用rdb方式持久化的,在大部分所有的情况下,rdb完全够用!
appendfilename "appendonly.aof"  # 持久化的文件的名字# appendfsync always  # 每次修改都会 sync 消耗性能
appendfsync everysec  # 每秒执行一次 sync,可能会丢失这一秒的数据
# appendfsync no      # 不执行 sync 操作系统自己同步数据,速度最快,但一般也不用。

具体的配置在Redis持久化中说明

Redis持久化

面试和工作,持久化都是重点

Redis是内存数据库,如果不将内存中的数据库状态保存到磁盘,一旦服务器进程退出,服务器中的数据库状态也会消失,所以Redis提供了持久化功能。

RDB(Redis DataBase)

什么是RDB

主从复制中,RDB是备用的。在从机上面,不占用主机内存。而AOF基本不用,

在指定的时间间隔内将内存中的数据集快照写入磁盘,也就是行话讲的Snapshot快照,它恢复时是将快照文件直接读到内存里。

Redis会单独创建(fork)一个子进程来进行持久化,会先将数据写入到一个临时文件中,待持久化过程都结束了,再用这个临时文件替换上次持久化好的文件。整个过程中,主进程是不进行任何IO操作的。这就确保了极高的性能。如果需要进行大规模数据的恢复,且对于数据恢复的完整性不是非常敏感,那RDB方式要比AOF方式更加的高效。RDB的缺点是最后一次持久化后的数据可能丢失。

我们默认的就是RDB,一般情况下不需要修改这个配置。

有时候在生产环境我们会将dump.rdb进行备份

rdb保存的文件是dump.rdb 都是在我们的配置文件中快照中配置的

触发机制

1、save的规则满足的情况下,会自动触发rdb规则

2、执行flushall命令,也会触发我们的rdb规则!
3、退出redis,也会产生rdb文件!

备份就自动生成一个dump.rdb文件

如何恢复rdb文件!

1、只需要将rdb文件放在我们redis启动目录就可以,redis启动的时候会自动检查dump.rdb恢复其中的数据!
2、查看需要存在的位置

node1:6379> CONFIG GET dir
1) "dir"
2) "/export/server/redis-3.2.8-bin/datas" # 如果在这个目录下存在dump.rdb文件,启动就会自动恢复其中的数据

几乎就他自己默认的配置就够用了,但是我们还是需要去学习!

优点:

1.大规模的数据恢复

2.对数据的完整性要不高!

缺点:

1.需要一定的时间间隔进程操作!(当然你也可以自己去修改配置)。如果redis意外宕机了,这个最后一次修改数据就没有的了!

2.fork进程的时候,会占用一定的内存空间!!

AOF(Append Only File)

将我们的所有命令都记录下来,history,恢复的时候就把这个文件全部在执行一遍!

是什么?翻译:追加文件

以日志的形式来记录每个写操作,将Redis执行过的所有指令记录下来(读操作不记录),只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,换言之,redis重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作(万一是大数据就很慢)

Aof保存的是appendonly.aof文件

append

appendonly no # 默认是不开启aof模式的,默认是使用rdb方式持久化的,在大部分所有的情况下,rdb完全够用!

一般的话,我们只要每秒保存即可

# appendfsync always
appendfsync everysec
# appendfsync no

是否要用append重写,默认no即可

# If you have latency problems turn this to "yes". Otherwise leave it as
# "no" that is the safest pick from the point of view of durability.
# 如果有延迟问题,请将此选项转换为“yes”。否则就让它保持原样 “no”从耐久性的角度来看,这是最安全的选择。
no-appendfsync-on-rewrite no
auto-aof-rewrite-percentage 100 # 重写的基准是100 增幅100%就重新覆盖一次
auto-aof-rewrite-min-size 64mb  # 最小值是64MB

默认是不开启的,我们要把他改成yes来开启。我们只需要将appendoly 改为yes就开启了aof!

重启服务,shutdown 再登录就可以生效了。

然后我们set k1 v1 ,并且get k1 v1以下,输入cat appendonly.aof看看

redis-check-aof:aof文件修复工具,我们来测试下

如果这个aof文件有错误,这时候redis是启动不起来的,我们需要修复这个aof文件

redis 给我们提供了一个工具 redis-check-aof --fix

步骤:

1.shutdown exit,退出redis
2.删除datas/dump.rdb文件,因为里面有保存数据
3.vim appendonly.aof,肆意修改,并保存
4.尝试启动redis,登录cli的时候报错:
Could not connect to Redis at node1:6379: Connection refused
5.执行修复工具:redis-check-aof ../datas/appendonly.aof
6.需要你确认,输入y,修复成功。Successfully truncated AOF
7.再次执行,如果aof文件正常,就会发现数据都恢复了

这里注意,你破坏aof文件,在aof文件底部添加数据是可以修复的,但是如果set k1 v1这种的,你结构破坏了,aof也无法修复,修复了直接是空的数据库。

重写规则说明

aof默认就是文件的无限追加,文件会越来越大!

​ 如果这个aof文件大于64M,太大了。fork一个新的进程来将文件进行重写!。,

优点和缺点!

appendonly no  #默认是不开启aof模式的,默认是使用rdb方式持久化的,在大部分所有的情况下,rdb完全够用!
appendfilename "appendonly.aof"  # 持久化的文件的名字# appendfsync always  # 每次修改都会 sync 消耗性能
appendfsync everysec  # 每秒执行一次 sync,可能会丢失这一秒的数据
# appendfsync no      # 不执行 sync 操作系统自己同步数据,速度最快,但一般也不用。

优点:

1.每一次修复都同步,文件的完整会更好。

2.每秒同步一次,可能会丢失一秒的数据。

3.从不同步,效率最高的。

缺点:

1.相对于数据文件来说,aof远远大于rdb,修复的速度也比rdb慢!

  1. Aof运行效率也要比rdb慢,所以我们redis默认的配置就是rdb持久化!

1、RDB持久化方式能够在指定的时间间隔内对你的数据进行快照存储

2、AOF持久化方式记录每次对服务器写的操作,当服务器重启的时候会重新执行这些命令来恢复原始的数据,AOF命令以Redis协议追加保存每次写的操作到文件未尾,Redis还能对AOF文件进行后台重写,使得AOF文件的体积不至于过大。

3、只做缓存,如果你只希望你的数据在服务器运行的时候存在,你也可以不使用任何持久化

4、同时开启两种持久化方式

  • 在这种情况下,当redis重启的时候会优先载入AOF文件来恢复原始的数据,因为在通常情况下AOF文件保存的数据集要比RDB文件保存的数据集要完整。
  • RDB的数据不实时,同时使用两者时服务器重启也只会找AOF文件,那要不要只使用AOF呢?作者建议不要,因为RDB更适合用于备份数据库(AOF在不断变化不好备份),快速重启,而且不会有AOF可能潜在的Bug,留着作为一个万一的手段。

5.性能建议

  • 因为RDB文件只用作后备用途,建议只在Slave上持久化RDB文件,而且只要15分钟备份一次就够了,只保留 save9001这条规则。

  • 如果EnableAOF,好处是在最恶劣情况下也只会丢失不超过两秒数据,启动脚本较简单只load自己的AOF文件就可以了,代价一是带来了持续的IO,二是AOF rewrite的最后将rewrite过程中产生的新数据写到新文件造成的阻塞几乎是不可避免的。只要硬盘许可,应该尽量减少AOF rewrite的频率,AOF重写的基础大小默认值64M太小了,可以设到5G以上,默认超过原大小100%大小重写可以改到适当的数值。

  • 如果不Enable AOF,仅靠Master-Slave Repllcation 实现高可用性也可以,能省掉一大笔IO,也减少了rewrite时带来的系统波动。代价是如果Master/Slave同时倒掉(断电),会丢失十几分钟的数据,启动脚本也要比较两个Master/Slave中的RDB文件,载入较新的那个,微博就是这种架构。

Redis发布订阅

Redis 发布订阅(pub/sub)是一种消息通信模式:发送者(pub)发送消息,订阅者(sub)接收消息。微信、微博、关注系统!
Redis客户端可以订阅任意数量的频道。
订阅/发布消息图:

下图展示了频道 channel1,以及订阅这个频道的三个客户端——client2、client5和client1之间的关系:

当有新消息通过PUBLISH命令发送给频道channel1时,这个消息就会被发送给订阅它的三个客户端:

命令

这些命令被广泛用于构建即时通信应用,比如网络聊天室(chatroom)和实时广播、实时提醒等。

测试

# 订阅端
node1:6379> SUBSCRIBE xiaoyin  # 订阅1个频道,频道名xiaoyin
Reading messages... (press Ctrl-C to quit)
1) "subscribe"
2) "xiaoyin"
3) (integer) 1
# 等待读取推送信息
1) "message"  # 消息
2) "xiaoyin"  # 来自哪个频道
3) "jiayou"     # 消息内容             # 发布端
node1:6379> PUBLISH xiaoyin "jiayou" # 发布者发布消息"jiayou" 到频道"xiaoyin"
(integer) 1

原理

Redis是使用C实现的,通过分析Redis源码里的pubsub.c文件,了解发布和订阅机制的底层实现,籍此加深对Redis的理解。

微信:

Redis通过PUBLISH、SUBSCRIBE和PSUBSCRIBE等命令实现发布和订阅功能。

通过SUBSCRIBE命令订阅某频道后,redis-server里维护了一个字典,字典的键就是一个个channel(频道),而字典的值则是一个链表,链表中保存了所有订阅这个channel的客户端。SUBSCRIBE命令的关键,就是将客户端添加到给定channel的订阅链表中。

通过PUB凵SH命令向订阅者发送消息,redis-server会使用给定的频道作为键,在它所维护的channel字典中查找记录了订阅这个频道的所有客户端的链表,遍历这个链表,将消息发布给所有订阅者。

Pub/Sub从字面上理解就是发布(Publish)与订阅(Subscribe),在Redis中你可以设定对某一个key值进行消息发布及消息订阅,当一个key值上进行了消息发布后,所有订阅它的客户端都会收到相应的消息。这一功能最明显的用法是用作实时消息系统,比如普通的即时聊天,群聊等功能。

使用场景:

​ 1.实时消息系统

​ 2.实时聊天(频道当做聊天室,将消息回显给所有人即可)

​ 3.订阅、关注的系统都可以。

稍微复杂的场景我们就会使用 消息中间件 MQ ()

Redis主从复制

1主人 – 2仆从

概念

主从复制,是指将一台Redis服务器的数据,复制到其他的Redis服务器。前者称为主节点(master/leader),后者称为从节点(slave/follower);数据的复制是单向的,只能由主节点到从节点。Master以写为主,Slave以读为主。

默认情况下,每台Redis服务器都是主节点(因为你还没有配置主从);

且一个主节点可以有多个从节点(或没有从节点),但一个从节点只能有一个主节点。

主从复制的作用主要包括

1、数据冗余:主从复制实现了数据的热备份,是持久化之外的一种数据冗余方式。

2、故障恢复:当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复;实际上是一种服务的冗余。

3、负载均衡:在主从复制的基础上,配合读写分离,可以由主节点提供写服务,由从节点提供读服务(即写Redis数据时应用连接主节点,读Redis数据时应用连接从节点),分担服务器负载;尤其是在写少读多的场景下,通过多个从节点分担读负载,可以大大提高Redis服务器的并发量。

4、高可用(集群)基石:除了上述作用用以外,主从复制还是哨兵和集群能够实施的基础,因此说主从复制是Redis高可用的基础。

一般来说,要将Redis运用于工程项目中,只使用一台Redis是万万不能的(可能宕机,1主2从),原因如下:

1、从结构上,单个Redis服务器会发生单点故障,并且一台服务器需要处理所有的请求负载,压力较大

2、从容量上,单个Redis服务器内存容量有限,就算一台Redis服务器内存容量为256G,也不能将所有内存用作Redis存储内存

一般来说,单台Redis最大使用内存不应该超过20G

电商网站上的商品,一般都是一次上传,无数次浏览的,说专业点也就是"多读少写"。

对于这种场景,我们可以使如下这种架构:

主从复制,读写分离!80%的情况下都是在进行读操作!减缓服务器压力。架构中经常使用,最低1主2从。

只要在公司中,主从复制就是必须要用的,因为真实项目中不可能单机使用Redis!

环境配置(单机多集群)

只配置从库,不用配置主库。

node1:6379> info replication  # 查看当前库的信息
# Replication
role:master         # 角色 master
connected_slaves:0  # 没有从机
master_repl_offset:0
repl_backlog_active:0
repl_backlog_size:1048576
repl_backlog_first_byte_o

注意我们接下来配置的是单机多集群,就是一台虚拟机上开多个窗口,实现多集群的意义,正常我们是应该配置多机多集群的,这样效果会好点。

复制3个配置文件,然后修改对应的信息

1、端口

2、pid名字

3、log文件名字

4、dump.rdg名字

# 步骤:
# 在一台虚拟机上,克隆3个窗口,复制3份conf文件[root@node1 redis-3.2.8-bin]# cd /export/server/redis-3.2.8-bin
[root@node1 redis-3.2.8-bin]# cp redis.conf redis79.conf
[root@node1 redis-3.2.8-bin]# cp redis.conf redis80.conf
[root@node1 redis-3.2.8-bin]# cp redis.conf redis81.conf  命令:vim redis79.conf
port 6379 # 84行  端口这里不用改 本身这个文件就是79端口
daemonize yes # 128行 后台运行 要yes
pidfile /var/run/redis_6379.pid # 150行 这里pid file 也没问题
logfile "/export/server/redis-3.2.8-bin/logs/redis6379.log" # 163行 logfile加上后缀6379
dbfilename dump6379.rdb # 236行 dump.rdb改成 dump6379.rdb 否则会重名# 至此第一个就保存好了。
# 第二个文件对应的改成6380和6381

修改完毕之后,在三个窗口分别启动我们3个redis服务器,可以通过进程查看。(注意我们是一台虚拟机的3个窗口上)

# 窗口1
[root@node1 redis-3.2.8-bin]# redis-server redis79.conf
[root@node1 redis-3.2.8-bin]# redis-cli -h node1 -p 6379# 窗口2
[root@node1 redis-3.2.8-bin]# redis-server redis80.conf
[root@node1 redis-3.2.8-bin]# redis-cli -h node1 -p 6380# 窗口3
[root@node1 redis-3.2.8-bin]# redis-server redis81.conf
[root@node1 redis-3.2.8-bin]# redis-cli -h node1 -p 6381

一主二从

默认情况下,每台redis服务器都是主节点。(因为你还没有配置主从)。

一般情况下,我们只配置从机就可以了。

认老大,一主(用79),二从(用80和81)

info replication

#  在从机中查看信息
node1:6380> SLAVEOF node1 6379 # SLAVEOF host 6379  找谁当自己的老大
OK
node1:6380> info replication
# Replication
role:slave  # 当前角色的从机
master_host:node1  # 可以看到主机的信息
master_port:6379
master_link_status:up
master_last_io_seconds_ago:0
master_sync_in_progress:0
slave_repl_offset:15
slave_priority:100
slave_read_only:1
connected_slaves:0
master_repl_offset:0
repl_backlog_active:0
repl_backlog_size:1048576
repl_backlog_first_byte_offset:0
repl_backlog_histlen:0#  在主机中查看信息
node1:6379> info replication
# Replication
role:master
connected_slaves:2  # 多了从机的配置
slave0:ip=192.168.88.161,port=6380,state=online,offset=253,lag=1
slave1:ip=192.168.88.161,port=6381,state=online,offset=253,lag=1
master_repl_offset:267
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:2
repl_backlog_histlen:266

两个从机都配置完了 就有2个从机的配置

真是的从主配置应该在配置文件中配置,这样的话是永久的,我们这里使用的是命令,是暂时的。

细节

主机可以写;从机不能写只能读。

主机中的所有信息和数据,都会自动被从机保存

​ (error) READONLY You can’t write against a read only slave.

​ 翻译:你不能写,只能读,你仅仅只是一个从机

  • 主节点崩了,就不能写了。但是你从节点还在,还能读!

    • 不信我们可以对主机进行 shutdown exit,再在从机上进行读取

      • 这还不是真正的高可用

        • 在你没有配置哨兵模式的情况下,主机宕机了,从机还是salve状态,不会自动选举。
      • 真正的高可用是:
        • 你主机宕机了,在剩下的2台从机中,应该给我选出1台主机来
  • 命令行模式下:

    • 主机宕机了,再登录回来,主机再次写入的信息,从机依旧可以读取到主机写的信息!
    • 从机宕机了,再重新连接,默认是新的主机,拿不到原主机在断开期间写的数据。
      • 如果此时你再次连接主机变成从机,立马就可以获取主机的所有数据。SLAVEOF node1 6379

        • 全量复制
        • 增量复制

    复制原理

    SIave启动成功连接master后会发送一个sync命令

    Master接到命令,启动后台的存盘进程,同时收集所有接收到的用于修改数据集命令,在后台进程执行完毕之后,master将传送整个数据文件到slave,并完成一次完全同步

    • 全量复制:而slave服务在接收到数据库文件数据后,将其存盘并加载到内存中。

      • 主机set k1 v1,从机断开,主机set k2 v2,从机重新连接主机,全量复制,从机还可以get k2。
    • 增量复制:Master继续将新的所有收集到的修改命令依次传给slave,完成同步

      • 主机连接主机后,主机set k3 v3,从机可以get k3,这就是增量复制

    但是只要是重新连接master,一次完全同步(全量复制)将被自动执行。我们的数据一定可以在从机中看到。

上面这种模式有个缺点, 当6379主机Master挂了之后,整个集群就只能读,不能写了。

层层链路模式

我们现在来想一个新的模式,让6381认6380做老大

​ 即:上一个主节点,连接下一个从节点

也可以的完成主从复制:

​ 这个时候在6380窗口2输入:info replication

 6379窗口:
​       set k6 v6
​   6380和6381窗口:
​       都可以正常get k6
# 窗口1
[root@node1 redis-3.2.8-bin]# redis-server redis79.conf
[root@node1 redis-3.2.8-bin]# redis-cli -h node1 -p 6379# 窗口2
[root@node1 redis-3.2.8-bin]# redis-server redis80.conf
[root@node1 redis-3.2.8-bin]# redis-cli -h node1 -p 6380
[root@node1 redis-3.2.8-bin]# SLAVEOF node1 6379# 窗口3
[root@node1 redis-3.2.8-bin]# redis-server redis81.conf
[root@node1 redis-3.2.8-bin]# redis-cli -h node1 -p 6381
[root@node1 redis-3.2.8-bin]# SLAVEOF node1 6380

问题:如果6379老大断开了,这个时候能不能选择一个老大出来呢?

​ 在哨兵模式没有出来之前,我们都是手动设置的。

​ 如果主机断开了连接,我们可以使用 SLAVEOF no one ,来让自己变成主机!其他节点就可以手动连接到这个最新的节点(手动)!

​ 如果这个时候老大6379恢复了,也只是光杆司令了。除非手动让6380再次跟从6379.

哨兵模式

(自动选举老大的模式)

概述

主从切换技术的方方法是“当主服务器宕机后需要手动把一台从服务器切换为主服务器,这就需要人工干预,费事费力,还会造成一段时间内服务不可用。这不是一种推荐的方式,更多时候,我们优先考虑哨兵模式。Redis从2.8开始正式提提供了sentinel(哨兵)架构解决这个问题。

谋朝篡位的自动版,能够后台监控主机是否故障,如果故障了根据投票数自动将从库转换为主库

哨兵模式是一种特殊的模式,首先Redis提供了哨兵的命令,哨兵是一个独立的进程,作为进程,它会独立运行。其原理是哨兵通过发送命令,等待Redis服务器响应,从而监控运行的多个Redis实例

哨兵模式文件:redis-sentinel

这里的哨兵有两个作用:

  • 通过发送命令,让Redis服务器返回监控其运行状态,包括主服务器和从服务器。

  • 当哨兵监测到master宕机,会自动将slave切换成master,然后通过发布订阅模式通知其他的从服务器,修改配置文件,让它们切换主机。

然而一个哨兵进程对Redis服务器进行监控,可能会出现问题,为此,我们可以使用多个哨兵进行监控。各个哨兵之间还会进行监控,这样就形成了多哨兵模式

假设主服务器宕机哨兵1先检测到这个结果,系统并不会马上进行failover过程,仅仅是哨兵1主观的认为主服务器

不可用,这个现象成为主观下线。当后面的哨兵也检测到主服务器不可用,并且数量达到一定值时,那么哨兵之间

就会进行一次投票,投票的结果由一个哨兵发起,进行failover[故障转移]操作。切换成功后,就会通过发布订阅

模式,让各个哨兵把自己监控的从服务器实现切换主机,这个过程称为客观下线

测试

我们目前的状态是1主2从

1.配置哨兵配置文件

哨兵模式有非常多,我们只写一个最简单的。

vim sentinel.conf

sentinel monitor myredis node1 6379 1
# 哨兵    监视     被监控名称:自定义   主机名  端口名port  1代表主机挂了,slave投票看谁成为主机,票数最多的就会成为主机

2.启动哨兵

[root@node1 bin]# redis-sentinel ../sentinel.conf27661:X 26 Nov 18:37:58.600 * Increased maximum number of open files to 10032 (it was originally set to 1024)._._                                                  _.-``__ ''-._                                             _.-``    `.  `_.  ''-._           Redis 3.2.8 (00000000/0) 64 bit.-`` .-```.  ```\/    _.,_ ''-._                                   (    '      ,       .-`  | `,    )     Running in sentinel mode|`-._`-...-` __...-.``-._|'` _.-'|     Port: 26379|    `-._   `._    /     _.-'    |     PID: 27661`-._    `-._  `-./  _.-'    _.-'                                   |`-._`-._    `-.__.-'    _.-'_.-'|                                  |    `-._`-._        _.-'_.-'    |           http://redis.io        `-._    `-._`-.__.-'_.-'    _.-'                                   |`-._`-._    `-.__.-'    _.-'_.-'|                                  |    `-._`-._        _.-'_.-'    |                                  `-._    `-._`-.__.-'_.-'    _.-'                                   `-._    `-.__.-'    _.-'                                       `-._        _.-'                                           `-.__.-'                                               27661:X 26 Nov 18:37:58.600 # WARNING: The TCP backlog setting of 511 cannot be enforced because /proc/sys/net/core/somaxconn is set to the lower value of 128.
27661:X 26 Nov 18:37:58.601 # Sentinel ID is b289eec7e609a7cad25fcb5e9891931fc10afc15
27661:X 26 Nov 18:37:58.601 # +monitor master myredis 192.168.88.161 6379 quorum 1  # 当前监控主机是6379
27661:X 26 Nov 18:37:58.601 * +slave slave 192.168.88.161:6381 192.168.88.161 6381 @ myredis 192.168.88.161 6379  # 从机是6381
27661:X 26 Nov 18:37:58.602 * +slave slave 192.168.88.161:6380 192.168.88.161 6380 @ myredis 192.168.88.161 6379  # 从机是6380

我们现在测试主机崩了会怎么样

1.在6379主机,set k8 v8,然后shutdown exit退出
2.在6380 和 6381从机 分别:info replication ,发现目前依旧是:slave模式,不要急 ,观察下哨兵日志
3.哨兵日志:27661:X 26 Nov 18:42:03.730 # +sdown master myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:03.731 # +odown master myredis 192.168.88.161 6379 #quorum 1/1
27661:X 26 Nov 18:42:03.731 # +new-epoch 1
27661:X 26 Nov 18:42:03.731 # +try-failover master myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:03.732 # +vote-for-leader b289eec7e609a7cad25fcb5e9891931fc10afc15 1
27661:X 26 Nov 18:42:03.732 # +elected-leader master myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:03.732 # +failover-state-select-slave master myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:03.823 # +selected-slave slave 192.168.88.161:6380 192.168.88.161 6380 @ myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:03.823 * +failover-state-send-slaveof-noone slave 192.168.88.161:6380 192.168.88.161 6380 @ myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:03.924 * +failover-state-wait-promotion slave 192.168.88.161:6380 192.168.88.161 6380 @ myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:04.427 # +promoted-slave slave 192.168.88.161:6380 192.168.88.161 6380 @ myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:04.427 # +failover-state-reconf-slaves master myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:04.482 * +slave-reconf-sent slave 192.168.88.161:6381 192.168.88.161 6381 @ myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:05.443 * +slave-reconf-inprog slave 192.168.88.161:6381 192.168.88.161 6381 @ myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:05.443 * +slave-reconf-done slave 192.168.88.161:6381 192.168.88.161 6381 @ myredis 192.168.88.161 6379
27661:X 26 Nov 18:42:05.496 # +failover-end master myredis 192.168.88.161 6379  # 故障转移6379
27661:X 26 Nov 18:42:05.496 # +switch-master myredis 192.168.88.161 6379 192.168.88.161 6380
27661:X 26 Nov 18:42:05.496 * +slave slave 192.168.88.161:6381 192.168.88.161 6381 @ myredis 192.168.88.161 6380
27661:X 26 Nov 18:42:05.496 * +slave slave 192.168.88.161:6379 192.168.88.161 6379 @ myredis 192.168.88.161 6380
27661:X 26 Nov 18:42:35.513 # +sdown slave 192.168.88.161:6379 192.168.88.161 6379 @ myredis 192.168.88.161 6380  # 发现6379已经sdown了,选举6380作为master4.再次观察6380和6381,就会发现6380变成了master

如果Master节点断开了,这个时候就会从从机中随机选择一个服务器(这里面有一个投票算法)!

现在选出了新的主机,你就算把6379连回来,也没用了,因为已经选出了6380作为新的老大,6379是光杆司令了。

这里有个有趣的点:

  • 当你6379主机刚连接回来的时候,info replication,这时候6379是master主机

  • 观察哨兵日志,发现开始转换

27661:X 26 Nov 18:48:51.189 * +convert-to-slave slave 192.168.88.161:6379 192.168.88.161 6379 @ myredis 192.168.88.161 6380
  • 这时候才看6379,info replication,发现6379已经是slave了

  • 再看6380,info replication,发现6380的connected_slaves:从1变成了2,也就是说6379恢复连接后,被转换成了新的Master6380的从机了

哨兵模式

如果主机此时回来了,只能归并到新的主机下,当做从机,这就是哨兵模式的规则!

优点:

1、哨兵集群,基于主从复制模式,所有的主从配置优点,他全有。

2、主从可以切换,故障可以转换,系统的可用性就会更好

3、哨兵模式就是主从模式的升级,手动到自动,更加健壮!

缺点:

1、Redis不好在线扩容的,集群容量一旦到达上限,在线扩容就会非常麻烦!

2、实现哨兵模式的配置其实是很麻烦的,里面有很多选择!(我们这是这是开了一个最简单的哨兵模式)

哨兵模式的全部配置

​ 这些配置一般是由运维来处理的

如果你真的能学完了狂神的课程,说明你这个人自律性真的非常强。

任何的公司都需要这样的人,当然我自己也需要这样的朋友。 因为乐交诤友不交损友

Redis缓存穿透和雪崩 (面试高频 工作常用)

这三个都是服务器高可用需要面临的问题!

这里我们不会详细的去分析解决方案的底层(未来开专题讲解底层)

Redis缓存的使用,极大的提升了应用程序的性能和效率,特别是数据查询方面。但同时,它也带来了一些问题。其中,最要害的问题,就是数据的一致性问题,从严格意义上讲,这个问题无解。如果对数据的一致性要求很高,那么就不能使用缓存。

另外的一些典型问题就是,缓存穿透、缓存雪崩和缓存击穿。目前,业界也都有比较流行的解决方案。

场景:秒杀

缓存穿透(查不到)

概念

缓存穿透的概念很简单,用户想要査询一个数据,发现 redis内存数据库没有,也就是缓存没有命中,于是向持久层数据库査询。发现也没有,于是本次査询失败。当用户很多的时候,缓存都没有命中,于是都去请求了持久层数据库。这会给持久层数据库造成很大的压力,这时候就相当于出现了缓存穿透。

解决方案

布隆过滤器

布隆过滤器是一种数据结构,对所有可能査询的参数以hash形式存储,在控制层先进行校验,不符合则丟弃,从而避免了对底层存储系统的查询压力;

缓存空对象

当存储层不命中后,即使返回的空对象也将其缓存起来,同时会设置一个过期时间,之后再访问这个数据将会从缓存中获取,保护了后端数据源

但是这种方法存在2个问题:

1、如果空值能够被缓存起来,这就意味着缓存需要更多的空间存储更多的键,因为这当中可能会有很多的空值的键

2、即使对空值设置了过期时间,还是会存在缓存层和存储层的数据会有一段时间窗口的不一致,这对于需要保持一致性的业务会有影响。

缓存击穿(量太大,缓存过期!)

微博热搜,服务器宕机(60秒过期,60.1秒回复,这0.1秒的间隔 ==> 瞬间全部砸在mysql服务器上)

概述

这里需要注意和缓存击穿的区别,缓存击穿,是指一个key非常热点,在不停的扛着大并发,大并发集中对这一个点进行访问,当这个key在失效的瞬间,持续的大并发就穿破缓存,直接请求数据库,就像在一个屏障上凿开了一个洞。

当某个key在过期的瞬间,有大量的请求并发访问,这类数据一般是热点数据,由于缓存过期,会同时访问数据库来查询最新数据,并且回写缓存,会导使数据库瞬间压力过大。

解决方案

设置热点数据永不过期

从缓存层面来看,没有设置过期时间,所以不会出现热点key过期后产生的问题。

加互斥锁

分布式锁:使用分布式锁,保证对于每个key同时只有一个线程去査询后端服务,其他线程没有获得分布式锁的权限,因此只需要等待即可。这种方式将高并发的压力转移到了分布式锁,因此对分布式锁的考验很大。

缓存雪崩

概念

缓存雪崩,是指在某一个时间段,缓存集中过期失效。或者Redis宕机(停电了)!

产生雪崩的原因之一,比如在写本文的时候,马上就要到双十二零点,很快就会迎来一波抢购,这波商品时间比较集中的放入了缓存,假设缓存一个小时。那么到了凌晨一点钟的时候,这批商品的缓存就都过期了。而对这批商品的访问查询,都落到了数据库上,对于数据库而言,就会产生周期性的压力波峰。于是所有的请求都会达到存储层,存储层的调用量会暴増,造成存储层也会挂掉的情况。

其实集中过期,倒不是非常致命,比较致命的缓存雪崩,是缓存服务器某个节点宕机或断网。因为自然形成的缓存雪崩,一定是在某个时间段集中创建缓存,这个时候,数据库也是可以顶住压力的。无非就是对数据库产生周期性的压力而已。而缓存服务节点的宕机,对数据库服务器造成的压力是不可预知的,很有可能瞬间就把数据库压垮。

双十一:停掉一些服务,来保证主要的服务可用!

解决方案

redis高可用

这个思想的含义是,既然 redis有可能挂掉,那我多增设几台 redis,这样一台挂掉之后其他的还可以继续工作,其实就是搭建的集群。(异地多活!)

限流降级

这个解决方案的思想是,在缓存失效后,通过加锁或者队列来控制读数据库写缓存的线程数量。比如对某个key只允许一个线程査询数据和写缓存,其他线程等待。

数据预热

数据加热的含义就是在正式部署之前,我先把可能的数据先预先访闩-遍,这样部分可能大量访问的数据就会加载到缓存中。在即将发生大并发访问前手动触发加载缓存不同的key,设置不同的过期时间,让缓存失效的时间点尽量均匀

总结

资料如何获取

如果主机此时回来了,只能归并到新的主机下,当做从机,这就是哨兵模式的规则!

优点:

1、哨兵集群,基于主从复制模式,所有的主从配置优点,他全有。

2、主从可以切换,故障可以转换,系统的可用性就会更好

3、哨兵模式就是主从模式的升级,手动到自动,更加健壮!

缺点:

1、Redis不好在线扩容的,集群容量一旦到达上限,在线扩容就会非常麻烦!

2、实现哨兵模式的配置其实是很麻烦的,里面有很多选择!(我们这是这是开了一个最简单的哨兵模式)

哨兵模式的全部配置

​ 这些配置一般是由运维来处理的

[外链图片转存中…(img-0bo8bCQW-1606392817085)]

[外链图片转存中…(img-nTbJYWQ3-1606392817086)]

[外链图片转存中…(img-fyDDtlfr-1606392817086)]

[外链图片转存中…(img-b3iof0Fg-1606392817086)]

[外链图片转存中…(img-DPNNqDVQ-1606392817086)]

如果你真的能学完了狂神的课程,说明你这个人自律性真的非常强。

任何的公司都需要这样的人,当然我自己也需要这样的朋友。 因为乐交诤友不交损友

Redis缓存穿透和雪崩 (面试高频 工作常用)

这三个都是服务器高可用需要面临的问题!

这里我们不会详细的去分析解决方案的底层(未来开专题讲解底层)

Redis缓存的使用,极大的提升了应用程序的性能和效率,特别是数据查询方面。但同时,它也带来了一些问题。其中,最要害的问题,就是数据的一致性问题,从严格意义上讲,这个问题无解。如果对数据的一致性要求很高,那么就不能使用缓存。

另外的一些典型问题就是,缓存穿透、缓存雪崩和缓存击穿。目前,业界也都有比较流行的解决方案。

场景:秒杀

缓存穿透(查不到)

概念

缓存穿透的概念很简单,用户想要査询一个数据,发现 redis内存数据库没有,也就是缓存没有命中,于是向持久层数据库査询。发现也没有,于是本次査询失败。当用户很多的时候,缓存都没有命中,于是都去请求了持久层数据库。这会给持久层数据库造成很大的压力,这时候就相当于出现了缓存穿透。

[外链图片转存中…(img-yuUBcwsF-1606392817087)]

解决方案

布隆过滤器

布隆过滤器是一种数据结构,对所有可能査询的参数以hash形式存储,在控制层先进行校验,不符合则丟弃,从而避免了对底层存储系统的查询压力;

[外链图片转存中…(img-3CUnrINx-1606392817087)]

缓存空对象

当存储层不命中后,即使返回的空对象也将其缓存起来,同时会设置一个过期时间,之后再访问这个数据将会从缓存中获取,保护了后端数据源

[外链图片转存中…(img-AHEkWZES-1606392817087)]

但是这种方法存在2个问题:

1、如果空值能够被缓存起来,这就意味着缓存需要更多的空间存储更多的键,因为这当中可能会有很多的空值的键

2、即使对空值设置了过期时间,还是会存在缓存层和存储层的数据会有一段时间窗口的不一致,这对于需要保持一致性的业务会有影响。

缓存击穿(量太大,缓存过期!)

微博热搜,服务器宕机(60秒过期,60.1秒回复,这0.1秒的间隔 ==> 瞬间全部砸在mysql服务器上)

概述

这里需要注意和缓存击穿的区别,缓存击穿,是指一个key非常热点,在不停的扛着大并发,大并发集中对这一个点进行访问,当这个key在失效的瞬间,持续的大并发就穿破缓存,直接请求数据库,就像在一个屏障上凿开了一个洞。

当某个key在过期的瞬间,有大量的请求并发访问,这类数据一般是热点数据,由于缓存过期,会同时访问数据库来查询最新数据,并且回写缓存,会导使数据库瞬间压力过大。

解决方案

设置热点数据永不过期

从缓存层面来看,没有设置过期时间,所以不会出现热点key过期后产生的问题。

加互斥锁

分布式锁:使用分布式锁,保证对于每个key同时只有一个线程去査询后端服务,其他线程没有获得分布式锁的权限,因此只需要等待即可。这种方式将高并发的压力转移到了分布式锁,因此对分布式锁的考验很大。

[外链图片转存中…(img-6FwO9O6c-1606392817088)]

缓存雪崩

概念

缓存雪崩,是指在某一个时间段,缓存集中过期失效。或者Redis宕机(停电了)!

产生雪崩的原因之一,比如在写本文的时候,马上就要到双十二零点,很快就会迎来一波抢购,这波商品时间比较集中的放入了缓存,假设缓存一个小时。那么到了凌晨一点钟的时候,这批商品的缓存就都过期了。而对这批商品的访问查询,都落到了数据库上,对于数据库而言,就会产生周期性的压力波峰。于是所有的请求都会达到存储层,存储层的调用量会暴増,造成存储层也会挂掉的情况。

[外链图片转存中…(img-ihfB4VGP-1606392817088)]

其实集中过期,倒不是非常致命,比较致命的缓存雪崩,是缓存服务器某个节点宕机或断网。因为自然形成的缓存雪崩,一定是在某个时间段集中创建缓存,这个时候,数据库也是可以顶住压力的。无非就是对数据库产生周期性的压力而已。而缓存服务节点的宕机,对数据库服务器造成的压力是不可预知的,很有可能瞬间就把数据库压垮。

双十一:停掉一些服务,来保证主要的服务可用!

解决方案

redis高可用

这个思想的含义是,既然 redis有可能挂掉,那我多增设几台 redis,这样一台挂掉之后其他的还可以继续工作,其实就是搭建的集群。(异地多活!)

限流降级

这个解决方案的思想是,在缓存失效后,通过加锁或者队列来控制读数据库写缓存的线程数量。比如对某个key只允许一个线程査询数据和写缓存,其他线程等待。

数据预热

数据加热的含义就是在正式部署之前,我先把可能的数据先预先访闩-遍,这样部分可能大量访问的数据就会加载到缓存中。在即将发生大并发访问前手动触发加载缓存不同的key,设置不同的过期时间,让缓存失效的时间点尽量均匀

总结

资料如何获取

Redis-狂神笔记-菜鸟风闲整理相关推荐

  1. Redis学习笔记(B站狂神说)(自己总结方便复习)

    Redis学习笔记B站狂神说 redis: 非关系型数据库 一.NoSQL概述 1.为什么要用Nosql 1.单机Mysql的年代 思考一下,这种情况下:整个网站的瓶颈是什么? 1.数据量如果太大,一 ...

  2. SpringBoot集成Redis用法笔记

    今天给大家整理一下SpringBoot集成Redis用法笔记,希望对大家能有所帮助! 一.Redis优点介绍 1.速度快 不需要等待磁盘的IO,在内存之间进行的数据存储和查询,速度非常快.当然,缓存的 ...

  3. Redis学习笔记(实战篇)(自用)

    Redis学习笔记(实战篇)(自用) 本文根据黑马程序员的课程资料与百度搜索的资料共同整理所得,仅用于学习使用,如有侵权,请联系删除 文章目录 Redis学习笔记(实战篇)(自用) 1.基于Sessi ...

  4. 腾讯Redis压轴笔记,成功入职阿里

    01 阿里中间件(四面,Java岗) 1.1 Java中间件一面 技术一面考察范围 重点问了Java线程锁:synchronized 和ReentrantLock相关的底层实现 线程池的底层实现以及常 ...

  5. Redis学习笔记 - 数据类型与API(1)Key

    Redis学习笔记 - 数据类型与API(1)Key Key相关命令 1. 常用命令 命令 含义 时间复杂度 keys 查找所有符合给定模式 pattern 的 key O(N), N 为数据库中 k ...

  6. Redis学习笔记~Redis在windows环境下的安装

    Redis是一个key-value的存储系统,它最大的特点就是可以将数据序列化到文件中. redis存储在服务器的内存或者文件中,它不是session,不是cookies,它只是个更安全,更稳定,更可 ...

  7. redis学习笔记-持久化

    redis学习笔记-持久化 前言 redis持久化有两种方式:RDB和AOF.分别对应着全量复制和增量复制.深刻理解各自的实现方式及适用场景对redis的使用和运维十分重要.下面就分别介绍. RDB持 ...

  8. StackExchange.Redis学习笔记(五) 发布和订阅

    StackExchange.Redis学习笔记(五) 发布和订阅 原文:StackExchange.Redis学习笔记(五) 发布和订阅 Redis命令中的Pub/Sub Redis在 2.0之后的版 ...

  9. Redis学习笔记~分布式的Pub/Sub模式

    redis的客户端有很多,这次用它的pub/sub发布与订阅我选择了StackExchange.Redis,发布与订阅大家应该很清楚了,首先一个订阅者,订阅一个服务,服务执行一些处理程序(可能是写个日 ...

最新文章

  1. Docker学习(5)——创建私有仓库,为私有仓库添加web界面
  2. 手把手教你搭建Linux开发环境(VMware+Ubuntu)(二)——安装VMwareTools并设置共享文件夹
  3. 【week3】psp (技术随笔)
  4. html audio播放本地语音文件,HTML5+ - audio音频播放及网络音频文件播放
  5. 记录一下Junit测试MongoDB,获取MongoTemplate
  6. MySQL大批量数据插入
  7. 封装jquery的ajax,便于加载等待提示框
  8. Linux学习笔记-编译与链接的过程
  9. activity中获取fragment布局_安卓开发入门教程Fragment
  10. 学JAVA的诗句_学Java有感(终)
  11. sae php 当前路径,SAE上使用自定义环境运行异步任务
  12. perl模块Getopt::Std用法及实例-从命令行读取参数模块
  13. Linux:查看文件夹大小
  14. mysql 格式化_在线SQL代码格式化
  15. 2021年电力电缆作业考试题库
  16. 三次Hermite插值
  17. python微博_「Python」 - 微博数据分析
  18. Ubuntu 20.04 server乌班图服务器部署django,uwsgi,mysql,nginx细节
  19. 操作系统概论【引入操作系统中的基本概念和操作】
  20. 计算机原理理解编程语言_计算机如何理解我们对编程语言及其工作原理的高级概述...

热门文章

  1. 空间发表说说html页面实现原理,空间说说还能这样玩?jquery开发腾讯QQ空间说说发表效果...
  2. Windows系统中 Xmanager 6 企业版下载安装激活教程
  3. SpringSecurity(二) :授权流程
  4. 群晖DS3617 DS918引导文件+安装文件下载
  5. nested exception is io.lettuce.core.RedisCommandExecutionException: MOVED 7514 100.71.1.91:6380
  6. Google Capture The Flag 2019 (Quals) WP
  7. anemometer mysql 500_Anemometer将Mysql慢查询日志可视化
  8. java中原子变量AtomicInteger等用法
  9. 本周大新闻|华为发布BB观影眼镜,Geenee AR试穿加入AI生成玩法
  10. 黑客又没有工资,那他们靠什么来维持生活?答案说出让人意外!