Influxdb Cluster集群部署

服务器 0

准备工作

确定安装版本

1、此次安装选择的是influxdb-cluster集群部署方案,参考项目开源地址为:https://github.com/chengshiwen/influxdb-cluster/wiki,选择的版本为v1.8.10-c1.2.0。

下载地址

https://github.com/chengshiwen/influxdb-cluster/releases

下载命令

# 注意机器版本wget https://github.com/chengshiwen/influxdb-cluster/releases/download/v1.8.10-c1.1.2/influxdb-cluster_1.8.10-c1.1.2_linux_amd64.tar.gz

验证端口是否占用

1、influxdb使用的默认端口号为分别为用于meta集群内部服务的8091端口,meta节点通信的8089端口,data集群内部服务的8088端口,以及data节点对外提供http服务的8086端口。2、通过 lsof -i :端口号 命令检查端口占用情况,如果存在占用需要进行修改3、如果存在修改端口后发现在添加meta节点进入集群时出现报错并提示出修改前的端口,需要手动删除指定存放meta数据的目录再进行添加。

注意以上端口都为默认端口,可以在配置文件中进行修改

Meta节点说明和要求

1、确定部署机器数量,Meta节点至少需要三个,如果超过三个也必须为奇数个节点(官方不建议超过三个)。如果只有一个Meta节点那需要在启动该单个Meta节点时添加-single-server标志。2、建议不要在同一服务器上部署多个Meta节点,因为如果该特定服务器无响应,它会产生更大的潜在故障。InfluxDB Cluster建议在占用空间相对较小的服务器上部署Meta节点。3、Meta节点可以与Data节点部署在同一台物理机上,不过最好的情况是都分开部署

Data节点说明和要求

1、InfluxDB Cluster需要至少两个Data节点才能实现高可用性和冗余。2、InfluxDB Cluster没有负载均衡功能,所以需要借助Nginx或其他有相同功能的应用进行负载均衡,在负载均衡应配置data节点对外提供http服务的8086端口。

主机配置

修改主机名
1、确定集群机器后,在每一台主机的/etc/hosts文件添加主机ip与主机名的映射(当然如果您希望使用IP地址,可忽略该步骤),示例如下:	172.168.1.176 influxdb-cluster-1	172.168.1.167 influxdb-cluster-15	172.168.1.182 influxdb-cluster-18	172.168.1.171 influxdb-cluster-5
验证主机间连通性
1、使用ping命令进行验证,示例如下:	ping -qc 1 influxdb-cluster-1	ping -qc 1 influxdb-cluster-15	ping -qc 1 influxdb-cluster-18	ping -qc 1 influxdb-cluster-5
目录创建
# 创建influxdb所需目录mkdir -p influx/{meta,data,wal,hh}

配置Meta节点集群

确定配置机器

influxdb-cluster-1influxdb-cluster-15influxdb-cluster-5

配置步骤

注:确定部署Meta节点的每台机器都需做如下配置1、编辑meta节点配置文件 vim influxdb-cluster-1.8.10-c1.1.2-1/etc/influxdb/influxdb-meta.conf2、主要修改的项为以下几处:    bind-address = ":8091"    hostname = "influxdb-cluster-1"        [meta]        # Directory where cluster meta data is stored.        dir = "/data/ops/home-influxdb/influx/meta"        # The default address for meta node communication        bind-address = ":8089"        # The default address to bind the API to.        http-bind-address = ":8091"            3、修改完成后启动Meta节点, 启动命令如下:	nohup ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-meta -config influxdb-cluster-1.8.10-c1.1.2-1/etc/influxdb/influxdb-meta.conf > nohup.out 2>&1 &	4、验证各机器上data节点是否正常启动,命令如下:	ps -ef | grep meta	5、启动完成后,在任意一个Meta节点上,加入所有Meta节点,包括它自己。加入的命令如下(下列命令都在hebsjzx-1plusn-86-qt-1执行):	./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-meta influxdb-cluster-1:8091	./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-meta influxdb-cluster-15:8091	./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-meta influxdb-cluster-5:8091		预期的输出为:Added meta node 1 at influxdb-cluster-1:80916、验证节点是否正确加入,在任意一台Meta节点机器上使用如下命令:	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl show   预期的输出为:   	Data Nodes    ==========    ID      TCP Address     Version    Meta Nodes    ==========    ID      TCP Address                     Version    1       influxdb-cluster-1:8091    1.8.10-c1.1.2    2       influxdb-cluster-15:8091   1.8.10-c1.1.2    3       influxdb-cluster-5:8091    1.8.10-c1.1.27、至此Meta集群搭建完成

配置Data节点集群

确定配置机器

influxdb-cluster-1influxdb-cluster-15influxdb-cluster-18influxdb-cluster-5

配置步骤

注:确定部署Data节点的每台机器都需做如下配置1、编辑Data节点配置文件 vim influxdb-cluster-1.8.10-c1.1.2-1/etc/influxdb/influxdb.conf2、主要修改的项为以下几处: 	# The TCP bind address to use for cluster-internal services.	bind-address = ":8088"	# Hostname advertised by this host for remote addresses. This must be resolvable by all	# other nodes in the cluster.	hostname = "influxdb-cluster-1"	[meta]    	# Directory where the cluster metadata is stored.    	dir = "/data/ops/home-influxdb/influx/meta"    	    [data]  		# The directory where the TSM storage engine stores TSM files. 		dir = "/data/ops/home-influxdb/influx/data"  		# The directory where the TSM storage engine stores WAL files. 		wal-dir = "/data/ops/home-influxdb/influx/wal" 	[http] 		# The bind address used by the HTTP service. 	 	bind-address = ":8086"  		  	[hinted-handoff]        # The directory where the hinted handoff queues are stored.        dir = "/data/ops/home-influxdb/influx/hh"3、修改完成后启动Data节点, 启动命令如下:    	nohup ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd -config influxdb-cluster-1.8.10-c1.1.2-1/etc/influxdb/influxdb.conf > datanode.out 2>&1 &4、验证各机器上data节点是否正常启动,命令如下:	ps -ef | grep influxd5、Data 节点在未被加入集群之前,出现 Failed to create storage,failed to store statistics 或 meta service unavailable 日志是正常情况。6、将Data节点加入集群,在任意一台Data节点,命令如下:	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-data influxdb-cluster-1:8088	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-data influxdb-cluster-15:8088	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-data influxdb-cluster-18:8088	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl add-data influxdb-cluster-5:8088	预期的输出为:Added data node 7 at influxdb-cluster-1:80887、验证节点是否正确加入,在任意一台Meta节点机器上使用如下命令:	 ./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influxd-ctl show  	预期的输出为:    Data Nodes    ==========    ID      TCP Address                     Version    4       influxdb-cluster-1:8088    1.8.10-c1.1.2    5       influxdb-cluster-15:8088   1.8.10-c1.1.2    6       influxdb-cluster-18:8088   1.8.10-c1.1.2    7       influxdb-cluster-5:8088    1.8.10-c1.1.2    Meta Nodes    ==========    ID      TCP Address                     Version    1       influxdb-cluster-1:8091    1.8.10-c1.1.2    2       influxdb-cluster-15:8091   1.8.10-c1.1.2    3       influxdb-cluster-5:8091    1.8.10-c1.1.2    8、至此Data集群搭建完成

配置Data节点JWT访问

注意:创建用户后再增加该配置1、在未设置Jwt访问前启动Data节点并使用./influxdb-cluster-1.8.10-c1.1.2-1/usr/bin/influx 进入并创建用户,创建用户并赋权的语句如下:	# 创建用户并赋予全部权限	create user admin  with password 'admin' with all privileges:	# 创建用户只服务写权限,ALL为全部权限,WRITE为写,READ为读权限,多权限以逗号分割	create user pxq  with password 'pxq'	GRANT WRITE ON test TO pxq2、编辑Data节点配置文件 vim influxdb-cluster-1.8.10-c1.1.2-1/etc/influxdb/influxdb.conf3、主要修改的项为以下几处:	[http]  		# Determines whether user authentication is enabled over HTTP/HTTPS.  		# 开启  		auth-enabled = true		# The JWT auth shared secret to validate requests using JSON web tokens.		# token加密字符串  		shared-secret = "XXXX"  		4、生成token,网站:https://jwt.io/,生成规则如下:	HEADER:{  		"alg": "HS256",  		"typ": "JWT"	}	PAYLOAD:{  		"username": "pxq", # 用户名  		"exp": 1679642512 # 过期时间	}	# 主要为最后那串字符使用influxdb.conf中shared-secret配置的字符串	VERIFY SIGNATURE:	HMACSHA256(base64UrlEncode(header) + "." + base64UrlEncode(payload),I don't even know what it is)	5、验证是否成功		curl -XPOST "http://172.168.1.176:8086/query?db=test" --data-urlencode "q=Select * from Test" --header "Authorization: Bearer eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.xxxx.5rcJ_-YeJsZ3XjRtxwe7kzH_4e__2btz0pEw_GQ8OJs"		权限不足将提示:{"error":"error authorizing query: pxq not authorized to execute statement 'SELECT * FROM Test', requires READ on test"}		正常将提示展示结果		

配置负载均衡

由于InfluxDB Cluster 不能用作负载均衡器,故需要配置

1、nginx配置于/data/ops/nginx/目录2、具体配置如下:	upstream influxdb {        server influxdb-cluster-1:8086;        server influxdb-cluster-15:8086;        server influxdb-cluster-18:8086;        server influxdb-cluster-5:8086;    }    server {        listen       8888;        server_name  localhost;        location /influx/ {          proxy_set_header Host $proxy_host;          proxy_pass   http://influxdb/;        }    }3、对外统一访问地址:http://192.168.1.2:8888/influx	例如访问查询test库Test表全部数据:curl -XPOST "http://192.168.1.2:8888/influx/query?db=test" --data-urlencode "q=Select * from Test" --header "Authorization: Bearer eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJ1c2VybmFtZSI6ImFkbWluIiwiZXhwIjoxNjc5NjQyNTEyfQ.7mIPMjB60kFGFQuTSyf7KvYF921MkMmL662_icTfvRQ"

也许您对下面的内容还感兴趣: