基于|基于 Docker 的 Redis 高可用集群搭建(redis-sentinel)

前言
??之前介绍了用docker来搭建redis主从环境,但这只是对数据添加了从库备份(主从复制),当主库down掉的时候,从库是不会自动升级为主库的,也就是说,该redis主从集群并非是高可用的。
??目前来说,高可用(主从复制、主从切换)redis集群有两种方案,一种是redis-sentinel,只有一个master,各实例数据保持一致;一种是redis-cluster,也叫分布式redis集群,可以有多个master,数据分片分布在这些master上。
??本文介绍基于docker和redis-sentinel的高可用redis集群搭建,大多数情况下,redis-sentinel也需要做高可用,这里先对redis搭建一主二从环境,另外需要3个redis-sentinel监控redis master。

??很显然,只使用单个redis-sentinel进程来监控redis集群是不可靠的,由于redis-sentinel本身也有single-point-of-failure-problem(单点问题),当出现问题时整个redis集群系统将无法按照预期的方式切换主从。官方推荐:一个健康的集群部署,至少需要3个Sentinel实例。另外,redis-sentinel只需要配置监控redis master,而集群之间可以通过master相互通信。
基于|基于 Docker 的 Redis 高可用集群搭建(redis-sentinel)
文章图片
实战拓扑图 redis-sentinel
??redis-sentinel作为独立的服务,用于管理多个redis实例,该系统主要执行以下三个任务:
  • 监控 (Monitor): 检查redis主、从实例是否正常运作
  • 通知 (Notification): 监控的redis服务出现问题时,可通过API发送通知告警
  • 自动故障迁移 (Automatic Failover): 当检测到redis主库不能正常工作时,redis-sentinel会开始做自动故障判断、迁移等操作,先是移除失效redis主服务,然后将其中一个从服务器升级为新的主服务器,并让失效主服务器的其他从服务器改为复制新的主服务器。当客户端试图连接失效的主服务器时,集群也会向客户端返回最新主服务器的地址,使得集群可以使用新的主服务器来代替失效服务器
环境说明
  • Docker
  • Ubuntu/CentOS
  • Redis v4.0.10
sentinel.conf
??sentinel.conf是启动redis-sentinel的核心配置文件,可以从官网下载:
wget http://download.redis.io/redis-stable/sentinel.conf

一主二从
??先搭建好Redis一主二从环境,这里仅给出操作过程,可以参考之前写的《Docker + Redis (4.0.10) 主从环境搭建》,在master上使用info Replication查看集群状态(注意,为了让redis-sentinel可以发现slave,这里要确保redis服务端口和容器映射端口一致):
# 主库 docker run -it --name redis-master -d -p 6300:6300 redis redis-server --requirepass redispassword --port 6300 docker exec -it redis-master bash redis-cli -a redispassword -p 6300 config set masterauth redispassword# 从库1 docker run -it --name redis-slave -d -p 6301:6301 redis redis-server --requirepass redispassword --port 6301 docker exec -it redis-slave bash redis-cli -a redispassword -p 6301 slaveof config set masterauth redispassword# 从库2 docker run -it --name redis-slave2 -d -p 6302:6302 redis redis-server --requirepass redispassword --port 6302 docker exec -it redis-slave2 bash redis-cli -a redispassword -p 6302 slaveof config set masterauth redispassword

基于|基于 Docker 的 Redis 高可用集群搭建(redis-sentinel)
文章图片
一主二从 配置
??根据上面下载好的sentinel.conf,找到并修改如下配置:
# mymaster:自定义集群名,如果需要监控多个redis集群,只需要配置多次并定义不同的 :主库ip :主库port :最小投票数,由于有三台redis-sentinel实例,所以可以设置成2 sentinel monitor mymaster # 注:redis主从库搭建的时候,要么都不配置密码(这样下面这句也不需要配置),不然都需要设置成一样的密码 sentinel auth-pass mymaster redispassword# 添加后台运行 daemonize yes

??将上面的sentinel.conf复制三份,分别为sentinel1.conf,sentinel2.confsentinel3.conf,再次编辑修改port26000,2600126002
启动
??redis-sentinel启动有以下两种方式:
  • redis-sentinel /path/to/sentinel.conf
  • redis-server /path/to/sentinel.conf --sentinel
??大多数版本的redis都支持以上两种方式启动。实战中,为了让redis-sentinel作为独立的服务运行,这里用docker搭建环境:
# redis-sentinel实例1 docker run -it --name redis-sentinel1 -v /root/redis/sentinel1.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash# redis-sentinel实例2 docker run -it --name redis-sentinel2 -v /root/redis/sentinel2.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash# redis-sentinel实例3 docker run -it --name redis-sentinel3 -v /root/redis/sentinel3.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash

??分别进入以上三个容器启动redis-sentinel:
docker exec -it redis-sentinel(x) bash # 或redis-server /usr/local/etc/redis/sentinel.conf --sentinel redis-sentinel /usr/local/etc/redis/sentinel.conf

??连接并使用redis-sentinel API查看监控状况:
redis-cli -p 26000 (26001 | 26002) sentinel master mymaster 或 sentinel slaves mymaster

基于|基于 Docker 的 Redis 高可用集群搭建(redis-sentinel)
文章图片
sentinel master mymaster 测试
??进入redis-master容器,休眠60秒redis服务:
docker exec -it redis-master bash redis-cli -a redispassword -p 6300 DEBUG sleep 60

??进入redis-slave或redis-slave2容器,查看info Replication,可以看到master已经完成了切换。
基于|基于 Docker 的 Redis 高可用集群搭建(redis-sentinel)
文章图片
原从库切换成主库 基于|基于 Docker 的 Redis 高可用集群搭建(redis-sentinel)
文章图片
redis-sentinel输出主库切换信息 ??60秒后原redis主库恢复服务,但降级后当前redis服务已无法恢复原主库身份。
基于|基于 Docker 的 Redis 高可用集群搭建(redis-sentinel)
文章图片
60秒后原主库服务 参考
【基于|基于 Docker 的 Redis 高可用集群搭建(redis-sentinel)】Docker化高可用redis集群
Redis Sentinel Documentation
Redis Sentinel 机制与用法(4.0.0版本)
Redis practise(二)使用Docker部署Redis高可用,分布式集群

    推荐阅读