基于 Docker 的 Redis 高可用集群搭建（redis-sentinel）

前言

之前介绍了用docker来搭建redis主从环境，但这只是对数据添加了从库备份(主从复制)，当主库down掉的时候，从库是不会自动升级为主库的，也就是说，该redis主从集群并非是高可用的。
目前来说，高可用(主从复制、主从切换)redis集群有两种方案，一种是redis-sentinel，只有一个master，各实例数据保持一致；一种是redis-cluster，也叫分布式redis集群，可以有多个master，数据分片分布在这些master上。
本文介绍基于docker和redis-sentinel的高可用redis集群搭建，大多数情况下，redis-sentinel也需要做高可用，这里先对redis搭建一主二从环境，另外需要3个redis-sentinel监控redis master。

很显然，只使用单个redis-sentinel进程来监控redis集群是不可靠的，由于redis-sentinel本身也有single-point-of-failure-problem(单点问题)，当出现问题时整个redis集群系统将无法按照预期的方式切换主从。官方推荐：一个健康的集群部署，至少需要3个Sentinel实例。另外，redis-sentinel只需要配置监控redis master，而集群之间可以通过master相互通信。

redis-sentinel

redis-sentinel作为独立的服务，用于管理多个redis实例，该系统主要执行以下三个任务：

监控 (Monitor): 检查redis主、从实例是否正常运作
通知 (Notification): 监控的redis服务出现问题时，可通过API发送通知告警
自动故障迁移 (Automatic Failover): 当检测到redis主库不能正常工作时，redis-sentinel会开始做自动故障判断、迁移等操作，先是移除失效redis主服务，然后将其中一个从服务器升级为新的主服务器，并让失效主服务器的其他从服务器改为复制新的主服务器。当客户端试图连接失效的主服务器时，集群也会向客户端返回最新主服务器的地址，使得集群可以使用新的主服务器来代替失效服务器

环境说明

Docker
Ubuntu/CentOS
Redis v4.0.10

sentinel.conf

sentinel.conf是启动redis-sentinel的核心配置文件，可以从官网下载：

 wget http://download.redis.io/redis-stable/sentinel.conf

一主二从

先搭建好Redis一主二从环境，这里仅给出操作过程，可以参考之前写的《Docker + Redis (4.0.10) 主从环境搭建》，在master上使用info Replication查看集群状态(注意，为了让redis-sentinel可以发现slave，这里要确保redis服务端口和容器映射端口一致)：

 # 主库docker run -it --name redis-master -d -p 6300:6300 redis redis-server --requirepass redispassword --port 6300docker exec -it redis-master bashredis-cli -a redispassword -p 6300config set masterauth redispassword# 从库1docker run -it --name redis-slave -d -p 6301:6301 redis redis-server --requirepass redispassword --port 6301docker exec -it redis-slave bashredis-cli -a redispassword -p 6301slaveof <master-ip> <master-port>config set masterauth redispassword# 从库2docker run -it --name redis-slave2 -d -p 6302:6302 redis redis-server --requirepass redispassword --port 6302docker exec -it redis-slave2 bashredis-cli -a redispassword -p 6302slaveof <master-ip> <master-port>config set masterauth redispassword

配置

根据上面下载好的sentinel.conf，找到并修改如下配置：

 # mymaster:自定义集群名，如果需要监控多个redis集群，只需要配置多次并定义不同的<master-name> <master-redis-ip>:主库ip <master-redis-port>:主库port <quorum>:最小投票数，由于有三台redis-sentinel实例，所以可以设置成2sentinel monitor mymaster <master-redis-ip> <master-redis-port> <quorum># 注：redis主从库搭建的时候，要么都不配置密码(这样下面这句也不需要配置)，不然都需要设置成一样的密码sentinel auth-pass mymaster redispassword# 添加后台运行daemonize yes

将上面的sentinel.conf复制三份，分别为sentinel1.conf,sentinel2.conf和sentinel3.conf，再次编辑修改port为26000,26001和26002。

启动

redis-sentinel启动有以下两种方式：

redis-sentinel /path/to/sentinel.conf
redis-server /path/to/sentinel.conf --sentinel

大多数版本的redis都支持以上两种方式启动。实战中，为了让redis-sentinel作为独立的服务运行，这里用docker搭建环境：

 # redis-sentinel实例1docker run -it --name redis-sentinel1 -v /root/redis/sentinel1.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash# redis-sentinel实例2docker run -it --name redis-sentinel2 -v /root/redis/sentinel2.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash# redis-sentinel实例3docker run -it --name redis-sentinel3 -v /root/redis/sentinel3.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash

分别进入以上三个容器启动redis-sentinel：

 docker exec -it redis-sentinel(x) bash# 或redis-server /usr/local/etc/redis/sentinel.conf --sentinelredis-sentinel /usr/local/etc/redis/sentinel.conf

连接并使用redis-sentinel API查看监控状况:

 redis-cli -p 26000 (26001 | 26002)sentinel master mymaster 或 sentinel slaves mymaster

测试

进入redis-master容器，休眠60秒redis服务：

 docker exec -it redis-master bashredis-cli -a redispassword -p 6300 DEBUG sleep 60

进入redis-slave或redis-slave2容器，查看info Replication，可以看到master已经完成了切换。

60秒后原redis主库恢复服务，但降级后当前redis服务已无法恢复原主库身份。

参考

Docker化高可用redis集群
Redis Sentinel Documentation
Redis Sentinel 机制与用法（4.0.0版本）
Redis practise（二）使用Docker部署Redis高可用，分布式集群