Redis全方位讲解--主从复制和哨兵模式

前言

前面介绍了 redis持久化和容灾备份 ，这篇会介绍 redis 主从复制和redis持久化在主从复制中的一些应用。因为本人没有那么多服务器或机器，所以这里主要介绍下如何在 docker 容器中搭建主从复制以及搭建过程中遇到的一些问题。关于redis的深入讲解，这边博客 《深入学习Redis(3)：主从复制》 介绍的非常详细，有兴趣的可以学习一下。

主从复制运行的机制

• 当一个 master 实例和一个 slave 实例连接正常时， master 会发送一连串的命令流来保持对 slave 的更新，以便于将自身数据集的改变复制给 slave ：包括客户端的写入、key 的过期或被逐出等等。
• 当 master 和 slave 之间的连接断开之后，因为网络问题、或者是主从意识到连接超时， slave 重新连接上 master 并会尝试进行部分重同步：这意味着它会尝试只获取在断开连接期间内丢失的命令流。
• 当无法进行部分重同步时， slave 会请求进行全量重同步。这会涉及到一个更复杂的过程，例如 master 需要创建所有数据的快照，将之发送给 slave ，之后在数据集更改时持续发送命令流到 slave 。

关于全量重同步和部分重同步，在文章开头介绍的那篇博客中都有详细的介绍。在搭建之前，让我们先了解关于redis的几个重要的事实。

• Redis 使用异步复制，slave 和 master 之间异步地确认处理的数据量。也正是因为异步复制，所以有可能会造成数据延迟或不同步。
• 一个 master 可以拥有多个 slave，slave也可以有sub-slave，但从 Redis 4.0 起，所有的 sub-slave 将会从 master 收到完全一样的复制流。
• Redis 复制在 master 侧是非阻塞的。这意味着 master 在一个或多个 slave 进行初次同步或者是部分重同步时，可以继续处理查询请求。
• 复制在 slave 侧大部分也是非阻塞的。当 slave 进行初次同步时，它可以使用旧数据集处理查询请求，假设你在 redis.conf 中配置了让 Redis 这样做的话。否则，你可以配置如果复制流断开， Redis slave 会返回一个 error 给客户端。但是，在初次同步之后，旧数据集必须被删除，同时加载新的数据集。 slave 在这个短暂的时间窗口内（如果数据集很大，会持续较长时间），会阻塞到来的连接请求。自 Redis 4.0 开始，可以配置 Redis 使删除旧数据集的操作在另一个不同的线程中进行，但是，加载新数据集的操作依然需要在主线程中进行并且会阻塞 slave 。
• 复制既可以被用在可伸缩性，以便只读查询可以有多个 slave 进行（例如 O(N) 复杂度的慢操作可以被下放到 slave ），或者仅用于数据安全。
• 可以使用复制来避免 master 将全部数据集写入磁盘造成的开销：一种典型的技术是配置你的 master Redis.conf 以避免对磁盘进行持久化，然后连接一个 slave ，其配置为不定期保存或是启用 AOF。但是，这个设置必须小心处理，因为重新启动的 master 程序将从一个空数据集开始：如果一个 slave 试图与它同步，那么这个 slave 也会被清空。

关于最后一点，一般主从复制一般会采用读写分离，master都用来接受所有的写操作，这样为了减少master的压力，就不会开启数据持久化，而是在slave中开启数据持久化。

redis主从复制在docker中搭建

redis.conf文件配置

这里需要注意的一点是，最好所有的主从redis要么没有设置密码，要么设置的密码都一样。

• master: https://github.com/Johnson19900110/johnsondock/blob/master/redis/config/redis-master.conf  这里需要注意的是，如果你的redis设有密码，那么  masterauth yourpassword  这个配置一定要配置，因为在哨兵模式下，如果master出现宕机，当它重启后就变成slave了。
• slave1: https://github.com/Johnson19900110/johnsondock/blob/master/redis/config/redis-slave1.conf
• slave2: https://github.com/Johnson19900110/johnsondock/blob/master/redis/config/redis-slave2.conf

两个slave需要配置的是

################################# REPLICATION #################################

# Master-Slave replication. Use slaveof to make a Redis instance a copy of
# another Redis server. A few things to understand ASAP about Redis replication.
#
# 1) Redis replication is asynchronous, but you can configure a master to
#    stop accepting writes if it appears to be not connected with at least
#    a given number of slaves.
# 2) Redis slaves are able to perform a partial resynchronization with the
#    master if the replication link is lost for a relatively small amount of
#    time. You may want to configure the replication backlog size (see the next
#    sections of this file) with a sensible value depending on your needs.
# 3) Replication is automatic and does not need user intervention. After a
#    network partition slaves automatically try to reconnect to masters
#    and resynchronize with them.
#
slaveof redis 6379 　　# redis是master的容器名

# If the master is password protected (using the "requirepass" configuration
# directive below) it is possible to tell the slave to authenticate before
# starting the replication synchronization process, otherwise the master will
# refuse the slave request.
#
masterauth 123455

slave-read-only yes　　# slave只读

三个配置文件配置好后，就可以配置docker-composer.yml文件了

version: "3.7"

networks:
  backend:
    driver: bridge

services:

### Redis ################################################
  # master
  redis:
    image: johnson19900110/redis:latest
    restart: always
    volumes:
      - ${DATA_PATH_HOST}/redis/master:/data
      - ./redis/config/redis-master.conf:/usr/local/etc/redis/redis.conf
    ports:
      - 6379:6379
    networks:
      - backend

  # slave 1
  redis-slave1:
    image: johnson19900110/redis:latest
    restart: always
    volumes:
      - ${DATA_PATH_HOST}/redis/slave1:/data
      - ./redis/config/redis-slave1.conf:/usr/local/etc/redis/redis.conf
    ports:
      - 6380:6379
    networks:
      - backend
    depends_on:
      - redis

  # slave 2
  redis-slave2:
    image: johnson19900110/redis:latest
    restart: always
    volumes:
      - ${DATA_PATH_HOST}/redis/slave2:/data
      - ./redis/config/redis-slave2.conf:/usr/local/etc/redis/redis.conf
    ports:
      - 6381:6379
    networks:
      - backend
    depends_on:
      - redis
      - redis-slave1

然后就可以启动redis容器了

docker-composer up -d redis-slave2

这时候3个redis就已经启动起来了

这是我们进入master容器。在redis-cli命令下执行 info replication ,就可以看到如下信息。 

从上面信息可以看到，这个是master角色，有两个从slave，并且可以看到slave的状态和同步的offset。然后再进入slave容器，可以看到。

可以看到它的角色是slave和一些master的信息。因为我们设置了slave是只读模式。所以当我们想在slave下进行写入操作时会报错。

所以只能去master里进行写操作。

这时我们可以去slave看下slave是否复制成功。

这就表明我们这次redis的主从复制在docker中搭建成功了。

notice:这里还要重申一遍的是，1、如果你的redis设置了密码，那么所有的都设置成一样。2、如果你的rendis设置了密码，那么master配置文件中的masterauth 这一项一定要配置。不然在后面搭建redis哨兵模式的时候，肯定会有一些你意想不到我的问题。