3.103.173.75.2.15.4.1

hubble数据库集群安装

当我们准备好了集群环境服务配置之后，就可以正式安装hubble集群了

安装hubble

使用root用户操作

  • 解压安装包
   tar -zxvf hubble.tar.gz
  • 复制到/usr/local/bin目录下 
   cp -r hubble /usr/local/bin/
  • 分发/usr/local/bin/hubble 到集群所有节点的该目录下
   scp -r /usr/local/bin/hubble node:/usr/local/bin/hubble

创建hubble所需目录

在集群每个节点上，使用root用户操作

  • 创建证书及数据存储目录并授权
   mkdir /var/lib/hubble 
   mkdir /var/lib/hubble/certs 
   mkdir /var/lib/hubble/mysafedirectory 
   chown hubble:hubble -R /var/lib/hubble
   chown -R hubble:hubble /usr/local/bin/hubble
   chmod 711 /usr/local/bin/hubble
   mkdir /data/hubbledir    ## 数据存储目录，按集群存储规划创建
   chown -R hubble:hubble /data/hubbledir

注意：
certs生成CA证书以及所有节点和客户端证书
mysafedirectory用于创建签名证书CA密钥，用于整个集群创建和验证证书

hubble数据库license注册激活

选取任意一个节点执行license注册

  • 获取license机器码
cd /var/lib/hubble 
/usr/local/bin/hubble license  machinecode --certs-dir=certs  #执行后会生成/var/lib/hubble/certs/BDPMACHINE.txt文件机器码
  • 将/var/lib/hubble/certs/BDPMACHINE.txt文件机器码发送到公司申请license激活码
  • 激活license
    1> 将license激活码写入到/var/lib/hubble/certs/BDPLIC.txt文件
    2> 执行license注册激活 
/usr/local/bin/hubble license register --certs-dir=/var/lib/hubble/certs

添加hubble数据库配置文件

在集群每个节点上，使用root用户操作

vi /etc/systemd/system/hubble.service
[Unit]
Description=Hubble Database cluster
Requires=network.target
[Service]
Type=notify
WorkingDirectory=/var/lib/hubble
ExecStart=/usr/local/bin/hubble start --locality=country=cn,region=ch-beijin,datacenter=tianyun,rack=1,node=1 --certs-dir=certs --listen-addr=hubble01:15432 --advertise-host=hubble01 --join=hubble01:15432,hubble02:15432,hubble03:15432,hubble04:15432,hubble05:15432 --cache=30GiB --max-sql-memory=10GiB --store=path=/data3/hubbledir/hubble,attrs=ssd,size=350GiB,rocksdb=write_buffer_size=134217728 --store=path=/data4/hubbledir/hubble,attrs=ssd,size=350GiB,rocksdb=write_buffer_size=134217728 --store=path=/data5/hubbledir/hubble,attrs=ssd,size=350GiB,rocksdb=write_buffer_size=134217728 --http-addr=0.0.0.0:48080 --sql-audit-dir=/data/hubbledir/auditdir --log-dir=/data/hubbledir/logs --log-dir-max-size=1GiB --max-disk-temp-storage=10GiB --external-io-dir=/data_shares
TimeoutStopSec=60
Restart=always
RestartSec=10
StandardOutput=syslog
StandardError=syslog
SyslogIdentifier=hubble
User=hubble
LimitNOFILE=1000000
[Install]
WantedBy=default.target

注意：

  • ExecStart=
    --locality=country=cn,region=ch-beijin,datacenter=tianyun,rack=1,node=1 #设置区域 可以设置国家、地区、数据中心、机架、节点ID
    --certs-dir=certs #设置证书
    --listen-addr=hubble01:15432 #监听地址和端口
    --advertise-host=hubble01 #当前节点的主机地址
    --join=hubble01:15432,hubble02:15432,hubble03:15432,hubble04:15432,hubble05:15432 #集群中的节点
    --cache=30GiB #缓存大小设置
    --max-sql-memory=10GiB #最大查询过程中所占用的内存大小，可以使用%或者容量大小限制内存使用情况
    --store=path=/data3/hubbledir/hubble,attrs=ssd,size=350GiB,rocksdb=write_buffer_size=134217728 #设置数据存储目录 ，size可以设置占用空间大小(选填)，attrs 设置硬盘类型：转速， 可以设置rocksdb方式写入同步
    --http-addr=0.0.0.0:48080 #页面访问端口
    --sql-audit-dir=/data/hubbledir/auditdir #审计日志目录
    --log-dir=/data/hubbledir/logs #日志输出目录
    --log-dir-max-size=1GiB #设置日志文件生成大小
    --max-disk-temp-storage=10GiB #可用于存储基于磁盘的临时文件的最大存储容量
    --external-io-dir=/data_shares #指定外部目录 用于数据导入导出， NFS 模式，推荐使用NFS模式
    更多信息详情，可以使用 hubble start --help 查看
  • RestartSec
    RestartSec=10 10s后重启
  • User
    User=hubble 设置用户

添加普通用户启停特权

在集群每个节点上，使用root用户操作

  • 修改 hubble.service 文件的用户权限
chown hubble:hubble /etc/systemd/system/hubble.service
  • 添加普通用户权限
vi /etc/sudoers

## Same thing without a password 
hubble ALL=(root) NOPASSWD:/usr/bin/systemctl start hubble,/usr/bin/systemctl stop hubble,/usr/bin/systemctl restart hubble,/usr/bin/systemctl enable hubble,/usr/bin/systemctl disable hubble,/usr/bin/systemctl daemon-reload
  • 保存并退出操作
:wq!

证书配置

之后的所有操作均在license执行注册的节点上使用普通用户操作

  • 在第一台服务器生成证书， 使用hubble账户
cd /var/lib/hubble/
hubble cert create-ca --certs-dir=certs --ca-key=mysafedirectory/ca.key    #生成本机证书和密钥
  • 生成其他服务器证书，使用hubble账户
cd /var/lib/hubble/
hubble cert create-node hubble02 192.168.1.12 --certs-dir=certs --ca-key=mysafedirectory/ca.key --overwrite
scp -r certs/ hubble@hubble02:/var/lib/hubble/

注意：
create-node hubble02 192.168.1.12 创建其他节点的证书
基于ca.key 生成其他节点证书
scp 分发到对应的节点上

  • 生成本机服务器证书，使用hubble账户
cd /var/lib/hubble/
hubble cert create-node hubble01 192.168.1.11 --certs-dir=certs --ca-key=mysafedirectory/ca.key --overwrite
  • 生成数据库客户端用户证书与密钥，使用hubble账户
cd /var/lib/hubble/
hubble cert create-client root --certs-dir=certs --ca-key=mysafedirectory/ca.key --overwrite  # root的，也可以生成其他账户的

注意：
如果在执行create-client客户端授权时，有的license申请期限时常较少，会出现"Error: failed to generate client certificate and key: xxx key: CA lifetime is 2364.193159h, shorter than the requested 43920.000000h. Renew CA certificate, or rerun with --lifetime=2364h for a shorter duration" 需要后面在执行命令后面添加hubble cert create-client root --certs-dir=certs --ca-key=mysafedirectory/ca.key --overwrite --lifetime=2364h 在每个节点都执行一次

启动服务

使用hubble用户操作

sudo systemctl daemon-reload 
sudo systemctl start hubble

初始化服务

使用hubble用户操作

hubble init --certs-dir=/var/lib/hubble/certs --host=hubble01:15432

注意：
--host=hubble01:15432 指定主机地址，集群中任意一台服务器

连接数据库，创建用户

使用hubble用户操作

hubble sql --certs-dir=/var/lib/hubble/certs --host=hubble01   #连接
show databases;
create user hubble with password 'Sjk-Qkl^2021379';
grant admin to hubble with admin option;

set cluster setting kv.snapshot_rebalance.max_rate='10GiB';
set cluster setting kv.snapshot_recovery.max_rate='10GiB';
set cluster setting sql.distsql.temp_storage.workmem = '2GiB'

注意：
--host=hubble01 指定主机地址，集群中任意一台服务器

测试验证

  • 页面访问
https://192.168.1.11:48080/
  • 查看进程
systemctl status hubble

设置开机自启动

systemctl enable hubble  ## root用户操作
sudo systemctl enable hubble  ## hubble用户操作
Copyright © 2024 天云融创数据科技（北京）有限公司京ICP备15014755号-3