侧边栏壁纸
博主头像
zyixin

当你觉得为时已晚的时候,恰恰是最早的时候

  • 累计撰写 64 篇文章
  • 累计创建 0 个标签
  • 累计收到 1 条评论

目 录CONTENT

文章目录

搭建Redis集群(哨兵)

zyixin
2022-04-01 / 0 评论 / 0 点赞 / 1,916 阅读 / 11,969 字
温馨提示:
本文最后更新于 2022-04-01,若内容或图片失效,请留言反馈。部分素材来自网络,若不小心影响到您的利益,请联系我们删除。

一. Redis 简介

  • Redis 是完全开源的,遵守 BSD 协议,是一个高性能的 key-value 数据库。
  • Redis 与其他 key - value 缓存产品有以下三个特点:

Redis支持数据的持久化,可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。
Redis不仅仅支持简单的key-value类型的数据,同时还提供list,set,zset,hash等数据结构的存储。
Redis支持数据的备份,即master-slave模式的数据备份。

二. Redis搭建部署

1、下载安装包

官网下载地址:https://redis.io/download, 直接点击下载。
或者直接使用命令下载,如下:

[root@ecs-0001 setup]# wget http://download.redis.io/releases/redis-6.0.9.tar.gz

2、安装

首先解压安装包,如下

[root@ecs-0001 setup]# tar -zxvf redis-6.0.9.tar.gz

进入解压文件目录使用make命令对解压的 redis 文件进行编译,如下

# cd redis-6.0.9
# make

可以使用命令 echo $? 查看是否编译安装成功
编译完成之后,可以看到解压文件 redis-6.0.9 中会有对应的 src、conf 等文件,如下
redis目录

编译成功后,进入 src 文件夹,执行 make install 进行 Redis 安装。

# cd src/
# make install

redis目录2

注:如出现/bin/sh: cc: command not found错误,是因为没有安装 gcc 环境,使用命令yum install gcc安装 gcc 环境即可。
以上操作中,这里可能出现的问题就是gcc版本问题。使用下边的命令进行升级gcc。
]# gcc -v # 查看gcc版本
]# yum -y install centos-release-scl # 升级到9.1版本
]# yum -y install devtoolset-9-gcc devtoolset-9-gcc-c++ devtoolset-9-binutils
]# scl enable devtoolset-9 bash
以上为临时启用,推出xshell或者重启服务器就会失效,如果要长期使用gcc 9.1的话:
]# echo “source /opt/rh/devtoolset-9/enable” >>/etc/profile

3、部署

由于 src 下文件非常多,我们可以将几个常用的命令和 conf 配置文件复制出来进行统一管理
(1)新建 bin 和 etc 文件夹

[root@ecs-0001 ~]# cd /home/setup/redis-6.0.9/
[root@ecs-0001 redis-6.0.9]# mkdir etc
[root@ecs-0001 redis-6.0.9]# mkdir bin

(2)回到安装目录,将redis.conf复制到 ect 文件夹下

[root@ecs-0001 redis-6.0.9]# cp redis.conf /home/setup/redis-6.0.9/etc/

(3)进入 src 文件夹下,将mkreleasehdr.sh、redis-benchmark、redis-check-aof、redis-check-rdb、redis-cli、redis-server、redis-sentinel文件复制到 bin 文件夹

[root@ecs-0001 redis-6.0.9]# cd src/
[root@ecs-0001 redis-6.0.9]# cp mkreleasehdr.sh redis-benchmark redis-check-aof redis-check-rdb redis-cli redis-server redis-sentinel /home/setup/redis-6.0.9/bin/

查看复制后的文件,如下
redis目录3

4、启动redis服务

切换到 bin 目录,使用./redis-server即可启动 redis 服务,但是这种方式没有指明配置文件,redis 将采用默认配置,所以我们需要让 redis 按照我们的配置文件来启动,如下,启动时指定刚才我们复制到 etc 文件夹下的redis.conf。

[root@ecs-0001 ~]# cd /home/setup/redis-6.0.9/bin
[root@ecs-0001 bin]# ./redis-server ../etc/redis.conf &

启动后查看redis的进程,如下,可以看到6379端口就是我们运行的 redis 服务(配置文件中默认端口为6379)。
redis启动

使用redis-cli命令连接客户端,如下

[root@ecs-0001 bin]# redis-cli -p 6379
127.0.0.1:6379> set test 666
OK
127.0.0.1:6379> get test
"666"
127.0.0.1:6379> info replication
# Replication
role:master
connected_slaves:0
master_replid:4940a84c35dd68a756ee81f00410dd6df1ace8df
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:0
second_repl_offset:-1
repl_backlog_active:0
repl_backlog_size:1048576
repl_backlog_first_byte_offset:0
repl_backlog_histlen:0
127.0.0.1:6379>

redis启动2

5、关闭redis服务

如果需要关闭redis服务,使用如下命令即可关闭。

[root@ecs-0001 bin]# redis-cli -p 6379 shutdown
或者使用kill -9 删除进程

三. Redis 集群整体架构

这里我们采用的集群整体架构就是主从结构+哨兵(sentinel),实现容灾的自动切换,如下图所示:
redis集群
一个主节点(master)可拥有多个从节点(slave),从节点实现对主节点的复制,保证数据同步。而哨兵(sentinel)则对各节点进行监控,主要包括主节点存活检测、主从运行情况检测等,一旦主节点宕机,哨兵可自动进行故障转移 (failover)、主从切换。

四. Redis 主从配置及数据同步

在第一步 Redis 安装部署中我们已经启动了 Redis 服务,但是配置文件并没有做修改,因为主从配置主要就是通过修改配置文件来实现,所以 Redis 配置文件的修改统一在这里进行讲解。
这里我创建了三台虚拟机来演示,分别按照上述安装方式安装好 Redis,三台虚拟机如下配置:
redis集群2

首先看一下redis.conf 配置文件中的各个参数,详解如下

# redis进程是否以守护进程的方式运行,yes为是,no为否(不以守护进程的方式运行会占用一个终端)。
daemonize no
# 指定redis进程的PID文件存放位置
pidfile /var/run/redis.pid
# redis进程的端口号
port 6379
#是否开启保护模式,默认开启。要是配置里没有指定bind和密码。开启该参数后,redis只会本地进行访问,拒绝外部访问。要是开启了密码和bind,可以开启。否则最好关闭设置为no。
protected-mode yes
# 绑定的主机地址
bind 127.0.0.1
# 客户端闲置多长时间后关闭连接,默认此参数为0即关闭此功能
timeout 300
# redis日志级别,可用的级别有debug.verbose.notice.warning
loglevel verbose
# log文件输出位置,如果进程以守护进程的方式运行,此处又将输出文件设置为stdout的话,就会将日志信息输出到/dev/null里面去了
logfile stdout
# 设置数据库的数量,默认为0可以使用select <dbid>命令在连接上指定数据库id
databases 16
# 指定在多少时间内刷新次数达到多少的时候会将数据同步到数据文件
save <seconds> <changes>
# 指定存储至本地数据库时是否压缩文件,默认为yes即启用存储
rdbcompression yes
# 指定本地数据库文件名
dbfilename dump.db
# 指定本地数据问就按存放位置
dir ./
# 指定当本机为slave服务时,设置master服务的IP地址及端口,在redis启动的时候他会自动跟master进行数据同步
replicaof <masterip> <masterport>
# 当master设置了密码保护时,slave服务连接master的密码
masterauth <master-password>
# 设置redis连接密码,如果配置了连接密码,客户端在连接redis是需要通过AUTH<password>命令提供密码,默认关闭
requirepass footbared
# 设置同一时间最大客户连接数,默认无限制。redis可以同时连接的客户端数为redis程序可以打开的最大文件描述符,如果设置 maxclients 0,表示不作限制。当客户端连接数到达限制时,Redis会关闭新的连接并向客户端返回 max number of clients reached 错误信息
maxclients 128
# 指定Redis最大内存限制,Redis在启动时会把数据加载到内存中,达到最大内存后,Redis会先尝试清除已到期或即将到期的Key。当此方法处理后,仍然到达最大内存设置,将无法再进行写入操作,但仍然可以进行读取操作。Redis新的vm机制,会把Key存放内存,Value会存放在swap区
maxmemory<bytes>
# 指定是否在每次更新操作后进行日志记录,Redis在默认情况下是异步的把数据写入磁盘,如果不开启,可能会在断电时导致一段时间内的数据丢失。因为redis本身同步数据文件是按上面save条件来同步的,所以有的数据会在一段时间内只存在于内存中。默认为no。
appendonly no
# 指定跟新日志文件名默认为appendonly.aof
appendfilename appendonly.aof
# 指定更新日志的条件,有三个可选参数 - no:表示等操作系统进行数据缓存同步到磁盘(快),always:表示每次更新操作后手动调用fsync()将数据写到磁盘(慢,安全), everysec:表示每秒同步一次(折衷,默认值);
appendfsync everysec

1、主机配置

主机(192.168.0.101)需要改动的配置如下所示。
进入 etc 文件夹,修改 redis.conf 配置文件,如下

bind 0.0.0.0
port 6379
pidfile /var/run/redis_6379.pid
logfile "redis-6379.log"
daemonize yes
dbfilename dump6379.rdb
  • bind 0.0.0.0
    Redis 默认只允许本机访问,把 bind 修改为 0.0.0.0 表示允许所有远程访问。如果想指定限制访问,可设置对应的 ip。
  • port:6379
    监听端口默认为6379,想改其他也行。
  • pidfile /var/run/redis_6379.pid
    指定redis进程的PID文件存放位置
  • logfile redis-6379.log
    redis 日志文件,生成后在 bin 目录下可找到。
  • daemonize yes
    设置为后台启动。
  • dbfilename dump6379.rdb
    指定本地数据库文件名

2、从机配置

从机的配置和主机相似,相同的地方我就不再详解,不同的地方是需要使用replicaof指定主机(master)的IP地址和端口,需要注意的是老版本使用的是 slaveof,目前我使用的5.0.7版本要使用 replicaof ,如下。
从1:

bind 0.0.0.0
port 6380
pidfile /var/run/redis_6380.pid
logfile "redis-6380.log"
daemonize yes
dbfilename dump6380.rdb
replicaof 192.168.0.101 6379

从2:

bind 0.0.0.0
port 6381
pidfile /var/run/redis_6381.pid
logfile "redis-6381.log"
daemonize yes
dbfilename dump6381.rdb
replicaof 192.168.0.101 6379

replicaof 192.168.0.101 6379
指定当本机为 slave 服务时,设置 master 服务的IP地址及端口,在 redis 启动的时候会自动跟 master 进行数据同步,所以两台从机都这样配置即可。

3、数据同步

上面我们主从节点的配置文件配置好后,重启 redis 服务,进入 bin 目录即可查看配置文件中指定的redis.log日志文件。

[root@ecs-0001 bin]# cat redis-6379.log

redis集群3-1024x309

至此主从结构搭建完毕,不出意外主从机已经可以数据同步,下面我们分别查看三台机器的信息。
可以看到当前角色为主机,并且连接了另外两台从机(slave)。如下
** 192.168.0.101 6379(主)**

[root@ecs-0001 bin]# ./redis-cli -p 6379
127.0.0.1:6379> info replication
# Replication
role:master
connected_slaves:2
slave0:ip=192.168.0.102,port=6380,state=online,offset=938,lag=0
slave1:ip=192.168.0.103,port=6381,state=online,offset=938,lag=1
master_replid:86ab0b393f88a960ad23fe04e20785aaf1a67de2
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:938
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:938
127.0.0.1:6379>

** 192.168.0.102 6380(从)**

[root@ecs0002 bin]# ./redis-cli -p 6380
127.0.0.1:6380> info replication
# Replication
role:slave
master_host:192.168.0.101
master_port:6379
master_link_status:up
master_last_io_seconds_ago:4
master_sync_in_progress:0
slave_repl_offset:1190
slave_priority:100
slave_read_only:1
connected_slaves:0
master_replid:86ab0b393f88a960ad23fe04e20785aaf1a67de2
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:1190
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:1190
127.0.0.1:6380>

** 192.168.0.103 6381(从)**

[root@ecs0003 bin]# ./redis-cli -p 6381
127.0.0.1:6381> info replication
# Replication
role:slave
master_host:192.168.0.101
master_port:6379
master_link_status:up
master_last_io_seconds_ago:0
master_sync_in_progress:0
slave_repl_offset:1610
slave_priority:100
slave_read_only:1
connected_slaves:0
master_replid:86ab0b393f88a960ad23fe04e20785aaf1a67de2
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:1610
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:43
repl_backlog_histlen:1568
127.0.0.1:6381>

4、主从验证

接下来我们在主机(master)添加几条数据,看从机(slave)是否可以获取到,如果能获取,说明数据已经同步到了从机,主机添加数据,如下

[root@ecs-0001 bin]# ./redis-cli -p 6379
127.0.0.1:6379> set name yang
OK
127.0.0.1:6379> get name
"yang"
127.0.0.1:6379>

两台从机已经获取到数据,证明主从搭建成功并可同步数据,如下所示:

从1:
[root@ecs0002 bin]# ./redis-cli -p 6380
127.0.0.1:6380> get name
"yang"
127.0.0.1:6380>

从2:
127.0.0.1:6381> get name
"yang"
127.0.0.1:6381>

五、Redis 哨兵模式搭建

1、哨兵模式详解

Redis Sentinel是Redis 的高可用性解决方案,由一个或多个Sentinel(哨兵)实例组成。它可以监视任意多个主服务器,以及这些主服务器属下的所有从服务器,并在被监视的主服务器进入下线状态时,自动将下线主服务器属下的某个从服务器升级为新的主服务器,它的主要功能如下:

  • 监控(Monitoring):Sentinel会不断地检查你的主服务器和从服务器是否运作正常。
  • 通知(Notification):当被监控的某个 Redis 服务器出现问题时, Sentinel可以通过API向管理员或者其他应用程序发送通知。
  • 故障迁移:当主服务器不能正常工作时,Sentinel会自动进行故障迁移,也就是主从切换。
  • 统一的配置管理:连接者询问sentinel取得主从的地址。

哨兵原理
Sentinel 使用的算法核心是 Raft 算法,主要用途就是用于分布式系统,系统容错,以及Leader选举,每个Sentinel都需要定期的执行以下任务:

  • 每个 Sentinel 会自动发现其他 Sentinel 和从服务器,它以每秒钟一次的频率向它所知的主服务器、从服务器以及其他 Sentinel 实例发送一个 PING 命令。
  • 如果一个实例(instance)距离最后一次有效回复 PING 命令的时间超过 down-after-milliseconds 选项所指定的值, 那么这个实例会被 Sentinel 标记为主观下线。 有效回复可以是: +PONG 、 -LOADING 或者 -MASTERDOWN 。
  • 如果一个主服务器被标记为主观下线, 那么正在监视这个主服务器的所有Sentinel要以每秒一次的频率确认主服务器的确进入了主观下线状态。
  • 如果一个主服务器被标记为主观下线, 并且有足够数量的Sentinel(至少要达到配置文件指定的数量)在指定的时间范围内同意这一判断, 那么这个主服务器被标记为客观下线。
  • 在一般情况下, 每个Sentinel会以每 10 秒一次的频率向它已知的所有主服务器和从服务器发送 INFO 命令。 当一个主服务器被Sentinel标记为客观下线时,Sentinel向下线主服务器的所有从服务器发送 INFO 命令的频率会从 10 秒一次改为每秒一次。
  • 当没有足够数量的Sentinel同意主服务器已经下线, 主服务器的客观下线状态就会被移除。 当主服务器重新向Sentinel的 PING 命令返回有效回复时, 主服务器的主管下线状态就会被移除。
    redis哨兵

配置文件详解
哨兵的配置主要就是修改sentinel.conf配置文件中的参数,在Redis安装目录即可看到此配置文件,各参数详解如下:

# 哨兵sentinel实例运行的端口,默认26379  
port 26379
# 哨兵sentinel的工作目录
dir ./
# 是否开启保护模式,默认开启。
protected-mode:no
# 是否设置为后台启动。
daemonize:yes

# 哨兵sentinel的日志文件
logfile:./sentinel.log

# 哨兵sentinel监控的redis主节点的 
## ip:主机ip地址
## port:哨兵端口号
## master-name:可以自己命名的主节点名字(只能由字母A-z、数字0-9 、这三个字符".-_"组成。)
## quorum:当这些quorum个数sentinel哨兵认为master主节点失联 那么这时 客观上认为主节点失联了  
# sentinel monitor <master-name> <ip> <redis-port> <quorum>  
sentinel monitor mymaster 127.0.0.1 6379 2

# 当在Redis实例中开启了requirepass,所有连接Redis实例的客户端都要提供密码。
# sentinel auth-pass <master-name> <password>  
sentinel auth-pass mymaster 123456  

# 指定主节点应答哨兵sentinel的最大时间间隔,超过这个时间,哨兵主观上认为主节点下线,默认30秒  
# sentinel down-after-milliseconds <master-name> <milliseconds>
sentinel down-after-milliseconds mymaster 30000  

# 指定了在发生failover主备切换时,最多可以有多少个slave同时对新的master进行同步。这个数字越小,完成failover所需的时间就越长;反之,但是如果这个数字越大,就意味着越多的slave因为replication而不可用。可以通过将这个值设为1,来保证每次只有一个slave,处于不能处理命令请求的状态。
# sentinel parallel-syncs <master-name> <numslaves>
sentinel parallel-syncs mymaster 1  

# 故障转移的超时时间failover-timeout,默认三分钟,可以用在以下这些方面:
## 1. 同一个sentinel对同一个master两次failover之间的间隔时间。  
## 2. 当一个slave从一个错误的master那里同步数据时开始,直到slave被纠正为从正确的master那里同步数据时结束。  
## 3. 当想要取消一个正在进行的failover时所需要的时间。
## 4.当进行failover时,配置所有slaves指向新的master所需的最大时间。不过,即使过了这个超时,slaves依然会被正确配置为指向master,但是就不按parallel-syncs所配置的规则来同步数据了
# sentinel failover-timeout <master-name> <milliseconds>  
sentinel failover-timeout mymaster 180000

# 当sentinel有任何警告级别的事件发生时(比如说redis实例的主观失效和客观失效等等),将会去调用这个脚本。一个脚本的最大执行时间为60s,如果超过这个时间,脚本将会被一个SIGKILL信号终止,之后重新执行。
# 对于脚本的运行结果有以下规则:  
## 1. 若脚本执行后返回1,那么该脚本稍后将会被再次执行,重复次数目前默认为10。
## 2. 若脚本执行后返回2,或者比2更高的一个返回值,脚本将不会重复执行。  
## 3. 如果脚本在执行过程中由于收到系统中断信号被终止了,则同返回值为1时的行为相同。
# sentinel notification-script <master-name> <script-path>  
sentinel notification-script mymaster /var/redis/notify.sh

# 这个脚本应该是通用的,能被多次调用,不是针对性的。
# sentinel client-reconfig-script <master-name> <script-path>
sentinel client-reconfig-script mymaster /var/redis/reconfig.sh

2、哨兵搭建

这里我们部署三个哨兵,每台服务器一个哨兵,配置方式相同,如下
(1)同样为了方便管理,首先将sentinel.conf复制到 etc 下

[root@ecs-0001 ~]# cd /home/setup/redis-6.0.9
[root@ecs-0001 redis-6.0.9]# cp sentinel.conf etc/

(2)编辑 sentinel.conf,配置文件修改如下

[root@ecs-0001 ~]# cd /home/setup/redis-6.0.9/etc/
[root@ecs-0001 etc]# vim sentinel.conf
#端口默认为26379。
port 26379
#关闭保护模式,可以外部访问。
protected-mode:no
#设置为后台启动。
daemonize yes
#日志文件。
logfile "sentinel.log"
#指定主机IP地址和端口,并且指定当有2台哨兵认为主机挂了,则对主机进行容灾切换。
sentinel monitor mymaster 192.168.0.101 6379 2
#当在Redis实例中开启了requirepass,这里就需要提供密码。
sentinel auth-pass mymaster pwdtest@2019
#这里设置了主机多少秒无响应,则认为挂了。
sentinel down-after-milliseconds mymaster 3000
#故障转移的超时时间,这里设置为三分钟。
sentinel failover-timeout mymaster 180000

3、启动三个哨兵:

[root@ecs-0001 ~]# cd /data/redis-5.0.7/bin
[root@ecs-0001 bin]# ./redis-sentinel ../etc/sentinel.conf

三个哨兵都启动后,可使用如下命令查看哨兵信息

[root@ecs-0001 bin]# ./redis-cli -p 26379
127.0.0.1:26379> info sentinel
# Sentinel
sentinel_masters:1
sentinel_tilt:0
sentinel_running_scripts:0
sentinel_scripts_queue_length:0
sentinel_simulate_failure_flags:0
master0:name=mymaster,status=ok,address=192.168.0.101:6379,slaves=2,sentinels=3
127.0.0.1:26379>

redis哨兵2
可以看到,哨兵已经监听到当前的主机IP端口和运行状态,并且有2台从机,3个哨兵。

4、容灾切换

现在我们模拟主机宕机,将主机 redis 服务关闭,如下
redis哨兵3

现在我们去看三台服务器的情况,发现刚才的主机(192.168.0.101 6379)已经变成了从机,并且哨兵(Sentinel)通过选举机制选举了从机(192.168.0.103 6381)作为了新的主机,如下
redis哨兵4

进入192.168.0.103 6381 可以看到它已经由从机(slave)变为了主机(master),并且成功连接从机。
redis哨兵5

需要注意的是,主从切换后配置文件已经被自动进行了更改,我们现在看一下新上位的主机 redis 日志,如下
redis哨兵6-1024x247

可以看到,当主机挂了的时候,一直连接主机被拒绝,当哨兵选举它为主机后,它成功执行重写的配置文件,并且连接了其他从机。
至此,主从+哨兵的集群架构搭建完毕

0

评论区