Greenplum安装
目录
1、安装说明
1.1、环境说明
1.2、集群介绍
1.3、修改主机名称
2、安装准备
2.1、修改各节点hosts(所有节点)
2.2、修改network文件(所有节点,名称有差异)
2.3修改内核文件(所有节点)
2.4、修改进程数文件(所有节点)
2.5、关闭防火墙(所有节点)
2.6、创建用户(各节点共享)
3、安装Greenplum DB
3.1、在Master节点上安装Greenplum
3.2、创建hostlist、seg_hosts文件
3.3、配置免密连接
4、初始化数据库
4.1、创建资源目录
4.2、环境变量配置(所有节点)
4.3、NTP配置
4.4、检查各节点的连通性
4.5、执行初始化
5、数据库操作
5.1、停止和启动集群
5.2、登陆数据库
5.3、集群状态
1、安装说明
1.1、环境说明
名称 | 版本 |
操作系统 | CentOS Linux release 7.5.1804 |
greenplum | greenplum-db-5.21.0-rhel6-x86_64.rpm |
1.2、集群介绍
5台虚拟机,1个master节点,4个segment的集群,示例:
wuxiang-test-1(master)
wuxiang-test-2
wuxiang-test-3
wuxiang-test-4
wuxiang-test-5
1.3、修改主机名称
由于虚拟机重启后主机名称变为localhost,所以要永久性地修改为wuxiang-test-1这种形式,进行如下操作:
2、安装准备
2.1、修改各节点hosts(所有节点)
[root@wuxiang-test-2 ~]# cat /etc/hosts 127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4 ::1 localhost localhost.localdomain localhost6 localhost6.localdomain6 192.168.40.218 wuxiang-test-1 192.168.40.238 wuxiang-test-2 192.168.40.239 wuxiang-test-3 192.168.40.240 wuxiang-test-4 192.168.40.241 wuxiang-test-5
注:标注了所有节点的配置项可以在安装greenplum并配置免密后用gpssh统一操作3.3。
2.2、修改network文件(所有节点,名称有差异)
[root@wuxiang-test-2 ~]# cat /etc/sysconfig/network NISDOMAIN=QI HOSTNAME=wuxiang-test-2
2.3修改内核文件(所有节点)
[root@wuxiang-test-2 ~]# cat /etc/sysctl.conf vm.swappiness = 10 kernel.shmmax = 500000000 kernel.shmmni = 4096 kernel.shmall = 4000000000 kernel.sem = 250 512000 100 2048 kernel.sysrq = 1 kernel.core_uses_pid = 1 kernel.msgmnb = 65536 kernel.msgmax = 65536 kernel.msgmni = 2048 net.ipv4.tcp_syncookies = 1 net.ipv4.ip_forward = 0 net.ipv4.conf.default.accept_source_route = 0 net.ipv4.tcp_tw_recycle = 1 net.ipv4.tcp_max_syn_backlog = 4096 net.ipv4.conf.all.arp_filter = 1 net.ipv4.ip_local_port_range = 1025 65535 net.core.netdev_max_backlog = 10000 vm.overcommit_memory = 2
最后使配置生效:
[root@wuxiang-test-2 ~]# sysctl -p
2.4、修改进程数文件(所有节点)
[root@wuxiang-test-2 ~]# cat /etc/security/limits.d/20-nproc.conf # Default limit for number of user's processes to prevent # accidental fork bombs. # See rhbz #432903 for reasoning.* soft nproc 4096 root soft nproc unlimited
2.5、关闭防火墙(所有节点)
查看防火墙状态:firewall-cmd --state
关闭防火墙:systemctl stop firewalld.service
禁止防火墙开机启动:systemctl disable firewalld.service
修改配置(所有节点):
[root@wuxiang-test-2 ~]# cat /etc/selinux/confin SELINUX=disabled SELINUXTYPE=targeted
2.6、创建用户(各节点共享)
groupadd -g 530 gpadmin useradd -g 530 -u 530 -m -d /home/gpadmin -s /bin/bash gpadmin chown -R gpadmin:gpadmin /home/gpadmin echo "gpadmin" | passwd --stdin gpadmin
3、安装Greenplum DB
3.1、在Master节点上安装Greenplum
安装包下载地址:https://network.pivotal.io/products/pivotal-gpdb/#/releases/413133/file_groups/1866
安装包是rpm格式的执行rpm安装命令:
[root@wuxiang-test-1 ~]# rpm -ivh greenplum-db-5.21.0-rhel6-x86_64.rpm
默认的安装路径是/usr/local。
将/usr/local/greenplum-db-5.21.0文件拷贝至所有节点(可以压缩再解压,也可以使用gpssh方式)
然后需要修改该路径gpadmin操作权限(所有节点):
chown -R gpadmin:gpadmin /usr/local chown -R gpadmin:gpadmin /opt
建立软连接(所有节点):
ln -s /usr/local/greenplum-db-5.21.0 greenplum-db
3.2、创建hostlist、seg_hosts文件
切换gpadmin用户,创建conf文件夹,
[gpadmin@wuxiang-test-1 ~]# cd conf/ [gpadmin@wuxiang-test-1 conf]# cat hostlist wuxiang-test-1 wuxiang-test-2 wuxiang-test-3 wuxiang-test-4 wuxiang-test-5 [gpadmin@wuxiang-test-1 conf]# cat seg_hosts wuxiang-test-2 wuxiang-test-3 wuxiang-test-4 wuxiang-test-5
3.3、配置免密连接
[root@ wuxiang-test-1 ~]# su gpadmin [gpadmin@ wuxiang-test-1 ~]# source /usr/local/greenplum-db/greenplum_path.sh [gpadmin@ wuxiang-test-1 ~]# gpssh-exkeys -f /home/gpadmin/conf/hostlist[STEP 1 of 5] create local ID and authorize on local host... /home/gpadmin/.ssh/id_rsa file exists ... key generation skipped[STEP 2 of 5] keyscan all hosts and update known_hosts file[STEP 3 of 5] authorize current user on remote hosts... send to wuxiang-test-1... send to wuxiang-test-2... send to wuxiang-test-3... send to wuxiang-test-4... send to wuxiang-test-5 #提示:这里提示输入各个子节点gpadmin用户密码 [STEP 4 of 5] determine common authentication file content[STEP 5 of 5] copy authentication files to all remote hosts... finished key exchange with wuxiang-test-1... finished key exchange with wuxiang-test-2... finished key exchange with wuxiang-test-3... finished key exchange with wuxiang-test-4... finished key exchange with wuxiang-test-5 [INFO] completed successfully
测试免密是否成功:
[gpadmin@wuxiang-test-1 ~]# ssh wuxiang-test-4
或者用gpssh:
[gpadmin@wuxiang-test-1 ~]$ gpssh -f /home/gpadmin/conf/hostlist => pwd [wuxiang-test-1] /home/gpadmin [wuxiang-test-4] /home/gpadmin [wuxiang-test-5] /home/gpadmin [wuxiang-test-3] /home/gpadmin [wuxiang-test-2] /home/gpadmin => exit
显示上面内容,即为成功。
4、初始化数据库
4.1、创建资源目录
source /usr/local/ greenplum-db/greenplum_path.sh gpssh -f /home/gpadmin/conf/hostlist #统一处理所有节点#创建资源目录 /opt/greenplum/data下一系列目录(生产目录个数可根据需求生成) => mkdir -p /opt/greenplum/data/master => mkdir -p /opt/greenplum/data/primary => mkdir -p /opt/greenplum/data/mirror => mkdir -p /opt/greenplum/data2/primary => mkdir -p /opt/greenplum/data2/mirror
4.2、环境变量配置(所有节点)
[gpadmin@wuxiang-test-1 ~]$ cat /home/gpadmin/.bash_profile # .bash_profile# Get the aliases and functions if [ -f ~/.bashrc ]; then. ~/.bashrc fi# User specific environment and startup programsPATH=$PATH:$HOME/.local/bin:$HOME/binexport PATHsource /usr/local/greenplum-db/greenplum_path.sh export MASTER_DATA_DIRECTORY=/opt/greenplum/data/master/gpseg-1 export GPPORT=5432 export PGDATABASE=gp_sydb
注:不能用gpssh编辑文件
让环境变量生效:
source /home/gpadmin/.bash_profile
4.3、NTP配置
启用master节点上的ntp,并在Segment节点上配置和启动NTP:
#master 节点 [root@wuxiang-test-1 ~]# echo "server 127.127.1.0" >>/etc/ntp.conf #Segment节点 [root@wuxiang-test-2 ~]# echo "server wuxiang-test-1 perfer" >>/etc/ntp.conf #master节点 [root@wuxiang-test-1 ~]# systemctl start ntpd [root@wuxiang-test-1 ~]# systemctl enable ntpd
4.4、检查各节点的连通性
[gpadmin@wuxiang-test-1 bin]$ cd /usr/local/greenplum-db/bin
[gpadmin@wuxiang-test-1 bin]$ gpcheckperf -f /home/gpadmin/conf/hostlist -r N -d /tmp /usr/local/greenplum-db/./bin/gpcheckperf -f /home/gpadmin/conf/hostlist -r N -d /tmp------------------- -- NETPERF TEST ------------------- [Warning] retrying with port 23012 [Warning] retrying with port 23024 [Warning] retrying with port 23036 [Warning] retrying with port 23048 [Warning] retrying with port 23060==================== == RESULT ==================== Netperf bisection bandwidth test wuxiang-test-1 -> wuxiang-test-2 = 110.490000 wuxiang-test-3 -> wuxiang-test-4 = 112.120000 wuxiang-test-5 -> wuxiang-test-1 = 108.990000 wuxiang-test-2 -> wuxiang-test-1 = 102.830000 wuxiang-test-4 -> wuxiang-test-3 = 112.010000 wuxiang-test-1 -> wuxiang-test-5 = 108.930000Summary: sum = 655.37 MB/sec min = 102.83 MB/sec max = 112.12 MB/sec avg = 109.23 MB/sec median = 110.49 MB/sec
我在安装过程中由于反复尝试了多次,出现了如下错误:
[gpadmin@wuxiang-test-1 bin]$ gpcheckperf -f /home/gpadmin/conf/hostlist -r N -d /tmp /usr/local/greenplum-db/./bin/gpcheckperf -f /home/gpadmin/conf/hostlist -r N -d /tmp------------------- -- NETPERF TEST ------------------- [Warning] retrying with port 23012 [Warning] retrying with port 23024 [Warning] retrying with port 23036 [Warning] retrying with port 23048 [Error] unable to start netserver ... abort netperf test==================== == RESULT ====================
经尝试是由于端口占用过多导致,gpcheckperf文件中默认是尝试5次,如果5次都没连通,则会报这个错误,由于未找到删除端口办法,所以修改了gpcheckperf文件中xrange为10次
4.5、执行初始化
[gpadmin@wuxiang-test-1 bin]$ cd /usr/local/greenplum-db/docs/cli_help/gpconfigs [gpadmin@wuxiang-test-1 gpconfigs]$ cp gpinitsystem_config initgp_config [gpadmin@wuxiang-test-1 gpconfigs]$ vim initgp_config
修改内容:
#目录与4.1创建的目录一致 declare -a DATA_DIRECTORY=(/opt/greenplum//data/primary /opt/greenplum//data/primary /opt/greenplum//data/primary /opt/greenplum//data2/primary /opt/greenplum//data2/primary /opt/greenplum//data2/primary) declare -a MIRROR_DATA_DIRECTORY=(/opt/greenplum/data/mirror /opt/greenplum/data/mirror /opt/greenplum/data/mirror /opt/greenplum/data2/mirror /opt/greenplum/data2/mirror /opt/greenplum/data2/mirror)ARRAY_NAME="gp_sydb" #初始化数据库名称 MASTER_HOSTNAME=wuxiang-test-1 #主节点名称 MASTER_DIRECTORY=/opt/greenplum/data/master MASTER_DATA_DIRECTORY=/opt/greenplum/data/master/gpseg-1 DATABASE_NAME=gp_sydb MACHINE_LIST_FILE=/home/gpadmin/conf/seg_hosts
执行初始化:
View Code
若初始化失败,则重新执行4.1,删除已初始化的数据。
执行psql -d postgres进入到数据库,则说明安装完成。
5、数据库操作
5.1、停止和启动集群
gpstop -M fast gpstart -a
5.2、登陆数据库
$ psql -d postgres
5.3、集群状态
gpstate -e #查看mirror的状态 gpstate -f #查看standby master的状态 gpstate -s #查看整个GP群集的状态 gpstate -i #查看GP的版本 gpstate --help #帮助文档,可以查看gpstate更多用法
目前为止数据库已经操作完毕。默认只有本地可以连数据库,如果需要别的I可以连,需要修改gp_hba.conf文件。
Greenplum安装相关推荐
- greenplum安装札记(待完善)
1.安装配置 1.1硬件配置 硬件服务器用到某私有云中ip段为192.168.228.111-192.168.228.120的十台服务器,相关主要配置如下表: 类别 主机名 IP 内存 硬盘 主要目录 ...
- greenplum 安装笔记
折腾两天了,终于把greenplum装成功了.记录下遇到的问题. 环境变量一点要配置准确.greenplum安装,按照这里一步步走: http://www.cnblogs.com/liuyungao/ ...
- GreenPlum 安装
GreenPlum 安装 1. Greenplum数据库简介 Greenplum是基于开源PostgreSQL的分布式数据库,采用shared-nothing架构,即主机.操作系统.内存.存储都是每台 ...
- centos7 下greenplum 安装初始化使用
把编译好的放到 /usr/local/greenplum-db 这个greenplum我这里是用上面用源码编译好的文件,也可以用官网上的商业版本下载安装,都一样,出来greenplum目录后再执行下面 ...
- ubuntu 18.04下greenplum安装笔记(二)安装Greenplum的失败的尝试
之前对Linux环境进行了搭建,现在开始进行Greenplum的正式安装. 下载 进Greenplum的官网:https://greenplum.org/download/ 可以发现,对于ubuntu ...
- greenplum安装方法详解
一.环境准备 1.安装VMware软件,然后在VMware里安装三台Linux虚拟机(我使用的是redhat) 2.设置虚拟机 主机名 ip 内存 硬盘 mdw 192.168.10.200 500M ...
- Greenplum安装手册
文章目录 0.Ready 1.系统基本设置 1.1 添加所有节点到host 1.2 主机系统必须禁用SELinux和防火墙 1.3 内核参数设置 1.4 用户限制 1.5 磁盘访问I/O优化策略 1. ...
- greenplum 安装与初始化单机版
.安装前准备 (注:本人使用Fedora16) 1-在/etc/sysctl.conf 文件中加入有关共享内存与网络参数配置 Plain代码 kernel.shmmax = 500000000 ke ...
- 三、GP安装笔记-greenplum安装
一.创建安装目录 在每台服务器上均创建软件的安装目录: mkdir /opt/greenplum chown -R gpadmin:gpadmin /opt/greenplum 二.在master节点 ...
- ubuntu 18.04下greenplum安装笔记(一)Linux下基础环境的搭建
背景 需要构建一个用于数据仓库的分布式数据库集群. 每一个节点暂时不需要进行备份,同时也不考虑坏掉的情况. 每一个数据节点最好都不用进行过多的配置,安装起来方便. Greenplum的Shared-N ...
最新文章
- 前端入门(加载特效,css)
- 科大星云诗社动态20210813
- mysql函数移植到oracle,oracle到mysql的迁移,函数部分
- matlab实验函数编写与程序设计,matlab实验四函数编写与程序设计
- c语言源程序最多可能由组成,一个C语言源程序由若干函数组成,其中至少应含有一个()。...
- python 装饰器(可以接收多个值)
- html cdn不缓存,【前端开发日常 - 6】七牛CDN上的网页缓存问题及HTML禁止缓存(续)...
- 堆-动态的排序(洛谷1801-黑匣子)
- vim写python_用 Vim 写 Python 的最佳实践
- YUI3 CSS框架学习
- HTML页面浏览历史,浏览历史记录功能
- 红帽linux创建c文件,RedHat成功运行的第一个C程序全过程(适合新手)
- SpringBoot项目yml文件 不显示绿色小树叶的问题
- 基于航空RFID行李处理应用方案
- 使用R进行数据可视化套路之-茎叶图、盒形图
- swt 做界面时部分要点
- 洛谷P2006 赵神牛的游戏
- Win10_此电脑_多余项目设备和驱动器
- Java给PNG透明图片加水印,亲测可用
- java poi 段落行间距_java - Apache poi XWPF Paragraph行间距 - 堆栈内存溢出
热门文章
- centos开ftp账号
- ERROR 1130 (HY000): Host '113.57.150.82' is not allowed to connect to this MySQL server
- 描述符合目前计算机网络的基本特征的有,简述网络传播的基本特征。
- 自动恢复保险丝/开关(RXE375)的原理和在开关稳压电源中的作用
- WWDC23 苹果开发者大会2023 内容一览
- java dwr 漏洞_DWR异常处理
- allegro.cfg文件不能打开
- 《泰坦尼克号》未公映结局曝光
- 华擎z390m-ITX/ac组NAS 安装PVE 7.1+ikuai+黑裙+Windows7(安装备忘录)一
- honeywell 设备开启二维码扫描功能