Redis集群配置及原理分析

发表于 | 分类于 | | 阅读次数:

首先创建两台虚拟机（有服务器的可以直接在服务器上搞），每台机器分别3个节点，创建出3个master和3个salve环境。

redis 采用 redis-3.2.10 版本（redis版本必须高于3.0版本，3.0版本以下不支持集群）。

两台虚拟机都是 CentOS ，一台 CentOS 7 （主IP:192.168.1.115），一台 CentOS 6.5（从IP:192.168.1.160） 。

之所以弄两个不同的操作系统版本，是为了方便大家的系统版本可能不太一样，导致进入一些坑。

先关闭防火墙
1
2
systemctl stop firewalld.service       //Centos 7
service iptables stop                  //Centos 6.5
安装Redis

先在主服务器安装redis：

1
2
3
4
5
cd /usr/local/etc
wget http://download.redis.io/releases/redis-3.2.10.tar.gz
tar -zxf redis-3.2.10.tar.gz
cd redis-3.2.10
make

将 redis-trib.rb 复制到 /usr/local/bin 目录下

1
2
cd src
cp redis-trib.rb /usr/local/bin/

再创建 redis 各个节点。

首先在 192.168.31.115 机器的 /usr/local/etc/redis-3.2.10 目录下创建 redis_cluster 目录。

1
2
mkdir redis_cluster
cd redis_cluster

在 redis_cluster 目录下，创建名为7000、7001、7002的目录，并将 redis.conf 拷贝到这三个目录中。

1
2
3
4
mkdir 7000 7001 7002
cp ../redis.conf 7000/
cp ../redis.conf 7001/
cp ../redis.conf 7002/

分别修改这三个配置文件，修改如下内容(每个配置文件的端口号、pidfile、cluster-config-file 都改为对应的端口号，很重要！）。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
# 端口号
port  7000
# 默认ip为127.0.0.1 需要改为本机器ip，这里会有巨坑，如果是Centos 7版本的小伙伴请配置内网ip，Centos 6版本的小伙伴配置公网ip，否则无法启动redis。    
bind 192.168.1.115
# redis后台运行         
daemonize    yes
# pidfile文件  
pidfile  /var/run/redis_7000.pid
# 开启集群，把注释#去掉         
cluster-enabled  yes
# 集群的配置，配置文件首次启动自动生成                
cluster-config-file  nodes_7000.conf
# 请求超时时间，默认15秒，可自行设置
cluster-node-timeout  15000
# aof日志开启  有需要就开启，它会每次写操作都记录一条日志          
appendonly  yes

接着在另外一台机器上 192.168.1.160 重复以上相应的操作，只是把目录改为7003、7004、7005，对应的配置文件也按照这个规则修改即可。一定要细心的修改，否则就会入坑。

然后在两台服务器上启动redis服务，如下：

1
2
3
4
5
6
7
8
9
# 主服务器
redis-server redis_cluster/7000/redis.conf
redis-server redis_cluster/7001/redis.conf
redis-server redis_cluster/7002/redis.conf

# 从服务器
redis-server redis_cluster/7003/redis.conf
redis-server redis_cluster/7004/redis.conf
redis-server redis_cluster/7005/redis.conf

启动完后查看redis启动情况。

1
2
3
4
5
6
7
8
9
10
11
12
13
# 主服务器
ps -ef | grep redis
root     24802     1  0 Sep14 ?        00:00:57 /usr/local/etc/redis-3.2.10/src/redis-server 192.168.1.115:7000 [cluster]
root     24804     1  0 Sep14 ?        00:00:56 /usr/local/etc/redis-3.2.10/src/redis-server 192.168.1.115:7001 [cluster]
root     24808     1  0 Sep14 ?        00:00:54 /usr/local/etc/redis-3.2.10/src/redis-server 192.168.1.115:7002 [cluster]
root     27623 27605  0 10:51 pts/1    00:00:00 grep --color=auto redis

# 从服务器
ps -ef | grep redis
root     24802     1  0 Sep14 ?        00:00:57 /usr/local/etc/redis-3.2.10/src/redis-server 192.168.1.160:7003 [cluster]
root     24804     1  0 Sep14 ?        00:00:56 /usr/local/etc/redis-3.2.10/src/redis-server 192.168.1.160:7004 [cluster]
root     24808     1  0 Sep14 ?        00:00:54 /usr/local/etc/redis-3.2.10/src/redis-server 192.168.1.160:7005 [cluster]
root     27623 27605  0 10:51 pts/1    00:00:00 grep --color=auto redis

如果没有启动成功，请仔细查看并修改两台服务器的redis.conf文件。

最重要的一步来了，在主服务器上创建集群，其中前三个 ip:port 为主服务器的节点，剩下三个为从服务器的节点。

Redis 官方提供了 redis-trib.rb 这个工具，就在解压目录的 src 目录中，上面我们已经将它复制到 /usr/local/bin 目录中，可以直接在命令行中使用了。使用下面这个命令即可完成安装。

1
2
cd /usr/local/bin 
./redis-trib.rb  create  --replicas  1  192.168.1.115:7000 192.168.1.115:7001  192.168.1.115:7002 1192.168.1.160:7003  1192.168.1.160:7004  1192.168.1.160:7005

这个工具是用 ruby 实现的，如果没有安装 ruby，需要先安装 ruby（只需要在主服务上安装）。

1
2
yum -y install ruby ruby-devel rubygems rpm-build
gem install redis -v 3.2.1

之后再运行 redis-trib.rb 命令，会出现如下提示，输入 yes。

出现以下内容说明已经安装集群成功。

注意：如果上述命令执行后一直出现 waiting for the cluster to join... 的状态，第一，先看下redis.conf文件的bind绑定的ip是否是命令行上的ip（主ip和从ip两个）。第二，再看下防火墙是否已经关闭，如果没有，请关闭防火墙。

开始进行集群验证。

在从服务器上连接集群的7005端口的节点，连接方式为 redis-cli -h 192.168.1.160 -c -p 7005，加参数 -c 可连接到集群，因为上面 redis.conf 将 bind 改为了ip地址，所以 -h 参数不可以省略。

1
2
3
4
./redis-cli -h 192.168.1.160 -c -p 7005
192.168.1.160:7005> set name "hello world"
OK
192.168.1.160:7005>

在主服务器上连接7002节点。

1
2
3
4
5
6
7
./redis-cli -h 192.168.1.115 -c -p 7002
192.168.1.115:7002> keys *
1) "name"
192.168.1.115:7002> get name
-> Redirected to slot [5798] located at 192.168.1.115:7002
"hello world"
192.168.1.115:7002>

说明集群运作正常。

如果要设置集群密码，需要连接每个redis节点再依次设置如下：

1
2
3
4
config set masterauth passwd123
config set requirepass passwd123
auth passwd123
config rewrite
简单说一下集群原理

redis cluster在设计的时候，就考虑到了去中心化，去中间件，也就是说，集群中的每个节点都是平等的关系，都是对等的，每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连接，而且这些连接保持活跃，这样就保证了我们只需要连接集群中的任意一个节点，就可以获取到其他节点的数据。

Redis 集群没有并使用传统的一致性哈希来分配数据，而是采用另外一种叫做哈希槽 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot，当我们set一个key 时，会用CRC16算法来取模得到所属的slot，然后将这个key 分到哈希槽区间的节点上，具体算法就是：CRC16(key) % 16384。所以我们在测试的时候看到 set 和 get 的时候，直接跳转到了7000端口的节点。

Redis 集群会把数据存在一个 master 节点，然后在这个 master 和其对应的 salve 之间进行数据同步。当读取数据时，也根据一致性哈希算法到对应的 master 节点获取数据。只有当一个master 挂掉之后，才会启动一个对应的 salve 节点，充当 master 。

需要注意的是：必须要3个或以上的主节点，否则在创建集群时会失败，并且当存活的主节点数小于总节点数的一半时，整个集群就无法提供服务了。