redis集群搭建及一些问题

摘要:
redis1、简化版redis(本套Redis集群为简化版安装部署,只需解压至普通用户家目录下或者任意目录,解压后修改脚本,执行脚本后即可使用。)注意,此版本需要在redis配置文件中添加protected-modeno,确认添加完成后再启动服务。sh~/script/start_redis_cluster.sh2.7.检查ps-ef|grepredis如果有三个redis进程,则表明启动成功。

redis

1、简化版redis

(本套Redis集群为简化版安装部署,只需解压至普通用户家目录下或者任意目录,解压后修改脚本,执行脚本后即可使用。)

注意,此版本需要在redis配置文件中添加 protected-mode no,确认添加完成后再启动服务。

1、单机部署

1.新建普通用户,将压缩包解压到家目录下。

tar zxf rediscluster.tar.gz -C /home/sm01

2.修改scripts下的modify_userdir.sh脚本

userdir='/home/sm01' #修改为普通用户的家目录

3.修改scripts下的start_redis_cluster.sh脚本

localip="192.168.188.155" #本地IP

userdir="/home/sm01" #修改为普通用户的家目录

4.加载家目录下环境变量

source .bash_profile

5.启动脚本

sh start_redis_cluster.sh

(注意:以上操作仅限单台机器情况,并且部署的方式为三主三从方式,一共启动6redis进程,端口分别为7001~7006。)

6、创建集群

这个目录下 /home/redis/redis/bin

redis-trib.rb create --replicas 1 192.168.58.135:7001 192.168.58.135:7002 192.168.58.135:7003 192.168.58.135:7004 192.168.58.135:7005 192.168.58.135:7006

7、测试

上述目录下的登录redis客户端

redis-cli -h 192.168.58.135 -p 7001 -c

8、问题

1、ruby 找不着

.bash_profile为隐藏文件,查看里面是否配置了 ruby的信息

每次启动集群前加载其中ruby配置文件

2、Node xxxx:x is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0

删除.aof,dump.rdb,清空nodes.conf文件,不可删除

2、多机部署

1、第一台机器部署(端口为7001~7003):

1.1.新建普通用户,将压缩包解压到家目录下。

tar zxf rediscluster.tar.gz -C /home/sm01

1.2.修改scripts下的modify_userdir.sh脚本

userdir='/home/sm01' #修改为普通用户的家目录

1.3.修改scripts下的start_redis_cluster.sh脚本

localip="192.168.188.155" #本地IP

userdir="/home/sm01" #修改为普通用户的家目录

同时注释掉不用启动的端口

redis集群搭建及一些问题第1张redis集群搭建及一些问题第2张

1.4.加载家目录下环境变量

source .bash_profile

1.5.删除不用的文件及目录,进入redis_cluster目录

由于本机仅使用7001~7003端口,因此需要删除7004~7006目录以及其目录下的所有文件。

1.6.启动redis。

sh ~/script/start_redis_cluster.sh

1.7.检查

ps -ef|grep redis

如果有三个redis进程,则表明启动成功。

2、第二台机器部署(端口为7004~7006):

2.1.新建普通用户,将压缩包解压到家目录下。

tar zxf rediscluster.tar.gz -C /home/sm01

2.2.修改scripts下的modify_userdir.sh脚本

userdir='/home/sm01' #修改为普通用户的家目录

2.3.修改scripts下的start_redis_cluster.sh脚本

localip="192.168.188.155" #本地IP

userdir="/home/sm01" #修改为普通用户的家目录

同时注释掉不用启动的端口

redis集群搭建及一些问题第3张redis集群搭建及一些问题第2张

2.4.加载家目录下环境变量

source .bash_profile

2.5.删除不用的文件及目录,进入redis_cluster目录

由于本机仅使用7004~7006端口,因此需要删除7001~7003目录以及其目录下的所有文件。

2.6.启动redis。

sh ~/script/start_redis_cluster.sh

2.7.检查

ps -ef|grep redis

如果有三个redis进程,则表明启动成功。

3、创建集群

3.1修改节点配置文件

创建集群的时候,修改nodes.conf

3.2创建集群

${userdir}/redis/bin/redis-trib.rb create --replicas 1 IP_1:7001 IP_1:7002 IP_1:7003 IP_2:7004 IP_2:7005 IP_2:7006

(注意:$(userdir)为该程序解压的文件路径,如果解压的目录为家目录,则$(userdir)需要改成家目录路径。)

启动后,redis自己的进程会自动分配主和从

/home/redis/redis/bin/redis-trib.rb create --replicas 1 192.168.58.136:7001 192.168.58.136:7002 192.168.58.136:7003 192.168.58.137:7004 192.168.58.137:7005 192.168.58.137:7006

redis集群搭建及一些问题第5张redis集群搭建及一些问题第2张

如果确认这些主都分配在不同的机器上后,输入yes ,然后等待redis自己创建集群。

4、问题

4.1集群有问题

3966:M 12 Nov 10:55:31.720 #You requested maxclients of 10000 requiring at least 10032 max file descriptors.

3966:M 12 Nov 10:55:31.720 # Server can't set maximum open files to 10032 because of OS error: Operation not permitted.

3966:M 12 Nov 10:55:31.720 # Current maximum open files is 4096. maxclients has been reduced to 4064 to compensate for low ulimit. If you need higher maxclients increase 'ulimit -n'.

3966:M 12 Nov 10:55:31.734 * Node configuration loaded, I'm 6a0147d71f1f32b70cabb177445bfa919adea47c

4.2检查

redis-trib.rb check 192.168.58.136:7001

[ERR] Sorry, can't connect to node 192.168.58.136:xxx

……

4.3修改xxx节点对应的nodes.conf

18860debef76e635b06795d7a6dca709ca0cde49 192.168.188.155:7002 master - 0 1468643278156 2 connected 5461-10922

ae5653466f624c96a7c829afbab2eb8683daac4b 192.168.188.155:7003 master - 0 1468643278758 3 connected 10923-16383

6a0147d71f1f32b70cabb177445bfa919adea47c 192.168.188.155:7001 myself,master - 0 0 1 connected 0-5460

f6bd8b2d33e2448f08f5e3c942f6a552d8c4494a 192.168.188.155:7006 slave ae5653466f624c96a7c829afbab2eb8683daac4b 0 1468643278257 6 connected

87c629fc5e2c3340d157d9db617fac722b57d453 192.168.188.155:7004 slave 6a0147d71f1f32b70cabb177445bfa919adea47c 0 1468643278758 4 connected

631a997bad244b734ad6e1873685cb3042ac5342 192.168.188.155:7005 slave 18860debef76e635b06795d7a6dca709ca0cde49 1468643279259 1468643276752 5 connected

vars currentEpoch 6 lastVoteEpoch 0

2、从头部署redis

1、redis cluster安装

1、下载和解包

cd /usr/local/

wget http://download.redis.io/releases/redis-3.2.1.tar.gz

tar -zxvf /redis-3.2.1.tar.gz

2、 编译安装

cd redis-3.2.1

make && make install

3、创建redis节点

测试我们选择2台服务器,分别为:192.168.1.237,192.168.1.238.每分服务器有3个节点。

1、我先在192.168.1.237创建3个节点:

cd /usr/local/

mkdir redis_cluster //创建集群目录

mkdir 7003 7001 7002 //分别代表三个节点 其对应端口 7003 7001 7002

//创建7003节点为例,拷贝到7003目录

cp /usr/local/redis-3.2.1/redis.conf ./redis_cluster/7003/

//拷贝到7001目录

cp /usr/local/redis-3.2.1/redis.conf ./redis_cluster/7001/

//拷贝到7002目录

cp /usr/local/redis-3.2.1/redis.conf ./redis_cluster/7002/

分别对7001,7002、7003文件夹中的3个文件修改对应的配置

2、复制下面的代码到redis.conf

daemonize yes //redis后台运行

pidfile /var/run/redis_7000.pid //pidfile文件对应7001,7002,7003

port 7000 //端口7001,7002,7003

cluster-enabled yes //开启集群 把注释#去掉

cluster-config-file nodes_7000.conf //集群的配置配置文件首次启动自动生成

cluster-node-timeout 5000 //请求超时 设置5秒够了

appendonly yes //aof日志开启 有需要就开启,它会每次写操作都记录一条日志

3、重复以上2步

在192.168.1.238创建3个节点:对应的端口改为7006,7004,7005.配置对应的改一下就可以了。

4、两台机启动各节点(两台服务器方式一样)

cd /usr/local

redis-server redis_cluster/7000/redis.conf

redis-server redis_cluster/7001/redis.conf

redis-server redis_cluster/7002/redis.conf

redis-server redis_cluster/7003/redis.conf

redis-server redis_cluster/7004/redis.conf

redis-server redis_cluster/7005/redis.conf

5、查看服务

ps -ef | grep redis #查看是否启动成功

netstat -tnlp | grep redis #可以看到redis监听端口

2、创建集群

1、集群前准备

前面已经准备好了搭建集群的redis节点,接下来我们要把这些节点都串连起来搭建集群。官方提供了一个工具:redis-trib.rb(/usr/local/redis-3.2.1/src/redis-trib.rb) 看后缀就知道这鸟东西不能直接执行,它是用ruby写的一个程序,所以我们还得安装ruby.

yum -y install ruby ruby-devel rubygems rpm-build

再用 gem 这个命令来安装 redis接口 gem是ruby的一个工具包.

gem install redis //等一会儿就好了

当然,方便操作,两台Server都要安装。

/usr/local/redis-3.2.1/src/redis-trib.rb

Usage: redis-trib <command> <options> <arguments ...>

reshard host:port

--to <arg>

--yes

--slots <arg>

--from <arg>

check host:port

call host:port command arg arg .. arg

set-timeout host:port milliseconds

add-node new_host:new_port existing_host:existing_port

--master-id <arg>

--slave

del-node host:port node_id

fix host:port

import host:port

--from <arg>

help (show this help)

create host1:port1 ... hostN:portN

--replicas <arg>

2、创建集群

/usr/local/redis-3.2.1/src/redis-trib.rb create --replicas 1 192.168.1.237:7000 192.168.1.237:7001 192.168.1.237:7003 192.168.1.238:7003 192.168.1.238:7004 192.168.1.238:7005

1、 --replicas 1

表示 自动为每一个master节点分配一个slave节点 上面有6个节点,程序会按照一定规则生成 3个master(主)3个slave(从)

2、运行中

提示Can I set the above configuration? (type 'yes' to accept): yes //输入yes

3、接下来 提示 Waiting for the cluster to join..........

安装的时候在这里就一直等等等,没反应,傻傻等半天,看这句提示上面一句,Sending Cluster Meet Message to join the Cluster.

这下明白了,我刚开始在一台Server上去配,是不需要等的,这里还需要跑到Server2上做一些这样的操作。

在192.168.1.238, redis-cli -c -p 700* 分别进入redis各节点的客户端命令窗口, 依次输入

cluster meet 192.168.1.238 7000

……

回到Server1,已经创建完毕了。

查看一下 /usr/local/redis/src/redis-trib.rb check 192.168.1.237:7000

3、测试

1、说明

还是要说明一下,redis集群有16383个slot组成,通过分片分布到多个节点上,读写都发生在master节点。

2、假设测试

果断先把192.168.1.238服务Down掉,(192.168.1.238有1个Master, 2个Slave) , 跑回192.168.1.238, 查看一下 发生了什么事,192.168.1.237的3个节点全部都是Master,其他几个Server2的不见了

测试一下,依然没有问题,集群依然能继续工作。

原因: redis集群 通过选举方式进行容错,保证一台Server挂了还能跑,这个选举是全部集群超过半数以上的Master发现其他Master挂了后,会将其他对应的Slave节点升级成Master.

疑问: 要是挂的是192.168.1.237怎么办? 哥试了,cluster is down!! 没办法,超过半数挂了那救不了了,整个集群就无法工作了。 要是有三台Server,每台两Master,切记对应的主从节点

不要放在一台Server,别问我为什么自己用脑子想想看,互相交叉配置主从,挂哪台也没事,你要说同时两台crash了,呵呵哒......

3、安装遇到的问题

1、GCC没有安装或版本不对

CC adlist.o

/bin/sh: cc: command not found

make[1]: *** [adlist.o] Error 127

make[1]: Leaving directory `/usr/local/redis-3.2.1/src

make: *** [all] Error 2

解决办法:

yum install gcc

2、没有安装jemalloc

zmalloc.h:50:31:

error: jemalloc/jemalloc.h: No such file or directory

zmalloc.h:55:2: error:

#error "Newer version of jemalloc required"

make[1]: *** [adlist.o] Error

1

make[1]: Leaving directory `/data0/src/redis-2.6.2/src

make: *** [all]

Error 2

解决办法:原因是没有安装jemalloc内存分配器,

1、可以安装jemalloc 直接

2、输入make MALLOC=libc && make install

免责声明:文章转载自《redis集群搭建及一些问题》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇4、MySQL 申明变量给查询数据编号Bootstrap Multiselect插件使用步骤以及常见参数配置介绍下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

redis源代码结构解析

看了黄建宏老师的《Redis设计与实现》,对redis的部分实现有了一个简明的认识; 之前面试的时候被问到了这部分的内容,没有关注,好在还有时间,就把Redis的源码看了一遍。 Redis源码的获取Redis是完全开源的,其源代码可以在直接在GitHub上获取:https://github.com/antirez/redis(目前的版本是4.4.0)。此时...

【Docker】关于存储驱动

参考教程:https://docs.docker.com/storage/storagedriver/以下内容来自官方文档翻译 环境 virtual box 6.1 centos 7.8 docker 19.03 To use storage drivers effectively, it’s important to know how Docker b...

ZooKeeper管理员指南——部署与管理ZooKeeper

1.部署 本章节主要讲述如何部署ZooKeeper,包括以下三部分的内容: 系统环境 集群模式的配置 单机模式的配置 系统环境和集群模式配置这两节内容大体讲述了如何部署一个能够用于生产环境的ZK集群。如果仅仅是想在单机上将ZK运行起来,进行一些开发与测试,那么第三部分或许是你的菜。 1.1系统环境 1.1.1平台支持 平 台 运行c...

Redis安装和基本命令

1. Redis简介 Redis是一个开源(BSD许可),内存存储的数据结构服务器,可用作数据库,高速缓存和消息队列代理。 它支持字符串、哈希表、列表、集合、有序集合,位图,hyperloglogs等数据类型。内置复制、Lua脚本、LRU收回、事务以及不同级别磁盘持久化功能, 同时通过Redis Sentinel提供高可用,通过Redis Cluster提...

使用 Elastic 技术栈构建 Kubernetes全栈监控

以下我们描述如何使用 Elastic 技术栈来为 Kubernetes 构建监控环境。可观测性的目标是为生产环境提供运维工具来检测服务不可用的情况(比如服务宕机、错误或者响应变慢等),并且保留一些可以排查的信息,以帮助我们定位问题。总的来说主要包括3个方面: 监控指标提供系统各个组件的时间序列数据,比如 CPU、内存、磁盘、网络等信息,通常可以用来显示系...

C#操作redis

Redis 是一个非关系型高性能的key-value数据库。在部分场合可以对关系数据库起到很好的补充作用。它提供了Java,C/C++,C#,PHP,JavaScript,Perl,Object-C,Python,Ruby,Erlang等客户端,使用很方便。 redis提供五种数据类型:string,hash,list,set及zset(sorted se...