接上篇《构建一个完整的数据仓库(四)为doris环境安装hdfs_broker》。前面我们演示了doris单机的安装,同时还有broker的安装。这里我们要逐步的建立起来生产环境的演示,所以今天我们介绍下doris集群的扩容,为我们的单机环境的doris再添加一台服务器,添加一个fe,再添加一个be。
前提说明
在官方的文档里面,有介绍:
1、通常我们建议 10 ~ 100 台左右的机器,来充分发挥 Doris 的性能(其中 3 台部署 FE(HA),剩余的部署 BE) 2、当然,Doris的性能与节点数量及配置正相关。在最少4台机器(一台 FE,三台 BE,其中一台 BE 混部一个 Observer FE 提供元数据备份),以及较低配置的情况下,依然可以平稳的运行 Doris。 3、如果 FE 和 BE 混部,需注意资源竞争问题,并保证元数据目录和数据目录分属不同磁盘。
所以说如果有条件的同学建议,建议可以参考官方的建议,充分发挥doris的性能。好了,不多说,我们准备下环境。这里我们新添加一台服务器,IP地址是: 192.168.31.20服务器。我们先把192.168.31.30服务器的doris文件夹拷贝到192.168.31.20服务器上。
scp -r doris 192.168.31.20:/home/pubserver/
然后等待拷贝完即可。
这里就拷贝完了。然后在/home/pubserver下面就可以看到刚才拷贝的doris目录了。
一、向doris集群添加一个fe
首先我们看下原来的doris集群有多少fe节点及节点信息。访问:http://192.168.31.30:38030/System?path=//frontends
可以看到 运行了一个fe节点,ip在192.168.31.30上。然后我们需要添加一个fe节点,那么先要去注册信息,使用navicat进入到doris,并且创建一个查询
然后执行
ALTER SYSTEM ADD FOLLOWER "192.168.31.20:39010";
然后我们把192.168.31.20上面的fe节点启动起来,第一次启动的时候,有特别需要注意的地方,因为集群已经选举了leader角色,所以我们第一次启动的时候,本节点只能作为follower节点。此时我们要指定下leader节点。后续待follower节点把leader节点的数据同步完后,就不再需要去指定节点了。所以第一次启动的话,需要执行如下的命令:
./start_fe.sh --helper 192.168.31.30:39010 --daemon
执行完毕后,我们使用jps,可以看到这里也有一个PaloFe进程了,然后我们去页面上验证一下:访问:http://192.168.31.30:38030/System?path=//frontends
可以看到有2个fe了。
大家看到上面新加入的节点状态不正确,然后我们去服务器上使用jps,发现Palobe进程消失了,这就说明这个fe添加失败了,是为什么呢?是因为我们是从192.168.31.30把文件拷贝过来的,这里已经存在了30的配置信息,所以我们要删除掉一些内容
rm -rf /home/pubserver/doris/fe/doris-meta/* rm -rf /home/pubserver/doris/fe/temp_dir rm -rf /home/pubserver/doris/fe/log/*
然后重新从走一遍此流程,就成功了。
二、向doris集群添加一个be
首先我们看下这个集群里面有多少backends,访问:http://192.168.31.30:38030/System?path=//backends
我们将向这个集群里面新添加一个backends,ip为:192.168.31.20
我们使用navicat进入到doris,并创建一个新的查询。
执行如下命令:
ALTER SYSTEM ADD BACKEND "192.168.31.20:39050";
然后我们去20服务器把be启动起来即可。
可以看到报错了,这里我们在安装的时候有提到,需要打开文件句柄,所以我们执行
ulimit -HSn 1000000
然后再删除下文件
rm -rf /home/pubserver/doris/be/storage/*
重新启动
./start_be.sh --daemon
就启动起来了。
然后我们访问下页面:http://192.168.31.30:38030/System?path=//backends
可以看到新的be已经添加进来了。
最后总结一下:
1、在新增集群的时候,一定要使用date看下服务器的时间情况,如果时间相差很大,集群无法搭建成功。最好使用:ntpdate ntp1.aliyun.com同步一下时间比较保险 2、集群创建成功之后,doris会自动做be之间的数据均衡,一般时间是几个小时到1天左右,数据越多,数据均衡的时间更长。
还没有评论,来说两句吧...