一文看懂GFS如何搭建
文章目录
- 一、服务端配置
- 1.环境
- 2.修改主机名
- 3.使用脚本对硬盘进行分区挂载
- 4.添加四个节点域名解析
- 5.安装本地源GFS
- 6.创建卷
- 1.创建分布式卷
- 2.创建条带卷
- 3.创建复制卷
- 4.创建分布式条带卷
- 5.创建分布式复制卷
- 二、客户端配置
- 1.安装客户端
- 2.验证gluster文件系统
- 3.冗余(破坏)测试
- 三、Gluster的其他的维护命令
一、服务端配置
1.环境
- 每台虚拟机需要添加4块5G磁盘
Node1节点:node1/192.168.3.11 磁盘:/dev/sdb1 挂载点:/data/sdb1 5GX4/dev/sdc1 /data/sdc1/dev/sdd1 /data/sdd1/dev/sde1 /data/sde1Node2节点:node2/192.168.3.12 磁盘:/dev/sdb1 挂载点:/data/sdb1 5GX4/dev/sdc1 /data/sdc1/dev/sdd1 /data/sdd1/dev/sde1 /data/sde1Node3节点:node3/192.168.3.13 磁盘:/dev/sdb1 挂载点:/data/sdb1 5GX4/dev/sdc1 /data/sdc1/dev/sdd1 /data/sdd1/dev/sde1 /data/sde1Node4节点:node4/192.168.3.14 磁盘:/dev/sdb1 挂载点:/data/sdb1 5GX4/dev/sdc1 /data/sdc1/dev/sdd1 /data/sdd1/dev/sde1 /data/sde1Client节点:192.168.3.15
2.修改主机名
hostnamectl set-hostname node1
suhostnamectl set-hostname node2
suhostnamectl set-hostname node3
suhostnamectl set-hostname node4
suhostnamectl set-hostname client
su
3.使用脚本对硬盘进行分区挂载
vim /opt/fdisk.sh#!/bin/bash
#刷新磁盘
echo "- - -" >/sys/class/scsi_host/host0/scan
echo "- - -" >/sys/class/scsi_host/host1/scan
echo "- - -" >/sys/class/scsi_host/host2/scan
##grep出系统所带磁盘
fdisk -l |grep '磁盘 /dev/sd[a-z]'
echo "=================================================="
PS3="chose which disk you want to create:"##选择需要创建的磁盘编号
select VAR in `ls /dev/sd*|grep -o 'sd[b-z]'|uniq` quit
docase $VAR insda)##本地磁盘就退出case语句fdisk -l /dev/sdabreak ;;sd[b-z])#create partitionsecho "n ##创建磁盘pw" | fdisk /dev/$VAR#make filesystem
##格式化mkfs.xfs -i size=512 /dev/${VAR}"1" &> /dev/null#mount the systemmkdir -p /data/${VAR}"1" &> /dev/null
###永久挂载echo -e "/dev/${VAR}"1" /data/${VAR}"1" xfs defaults 0 0\n" >> /etc/fstab
###使得挂载生效mount -a &> /dev/nullbreak ;;quit)break;;*)echo "wrong disk,please check again";;esac
done>>>>>>wq
- 交互时 依次输入1、2、3、4
4.添加四个节点域名解析
vim /etc/hosts
192.168.3.11 node1
192.168.3.12 node2
192.168.3.13 node3
192.168.3.14 node4
5.安装本地源GFS
- 四个节点相同操作
cd /opt
wget http://112.124.46.81/gfsrepo.zip
unzip gfsrepo.zip ##解压
cd /etc/yum.repos.d/
mkdir bak ##将原来的源移动到新建的目录中
mv Cent* bak/vim local.repo //配置本地源[glfs]
name=glfs
baseurl=file:///opt/gfsrepo
gpgcheck=0
enabled=1>>>>>>>wq#安装GFS软件包,四台节点都做
yum clean all && yum makecacheyum -y install glusterfs glusterfs-server glusterfs-fuse glusterfs-rdma ###安装
#glusterfs-server服务端软件、glusterfs-fuse使用gfs文件系统软件systemctl start glusterd.service ###启动
systemctl enable glusterd.service ###开机自启
systemctl status glusterd.service ###查看状态
- 添加节点到存储信任池中(在node1节点上操作)
gluster peer probe node1
gluster peer probe node2
gluster peer probe node3
gluster peer probe node4gluster peer status ##在每个节点上查看群集状态
6.创建卷
- 根据规划创建如下卷
卷名称 | 卷类型 | Brick |
---|---|---|
dis-volume | 分布式卷 | node1(/data/sdb1)、node2(/data/sdb1) |
stripe-volume | 条带卷 | node1(/data/sdc1)、node2(/data/sdc1) |
rep-volume | 复制卷 | node3(/data/sdb1)、node4(/data/sdb1) |
dis-stripe | 分布式条带卷 | node1(/data/sdd1)、node2(/data/sdd1)、node3(/data/sdd1)、node4(/data/sdd1) |
dis-rep | 分布式复制卷 | node1(/data/sde1)、node2(/data/sde1)、node3(/data/sde1)、node4(/data/sde1) |
1.创建分布式卷
#创建分布式卷,没有指定类型,默认创建的是分布式卷
gluster volume create dis-volume node1:/data/sdb1 node2:/data/sdb1 force #查看卷列表
gluster volume list #启动新建分布式卷
gluster volume start dis-volume #查看创建分布式卷信息
gluster volume info dis-volume
2.创建条带卷
#指定类型为 stripe,数值为 2,且后面跟了 2 个 Brick Server,所以创建的是条带卷
gluster volume create stripe-volume stripe 2 node1:/data/sdc1 node2:/data/sdc1 force#启动新建条带卷
gluster volume start stripe-volume #查看创建条带卷信息
gluster volume info stripe-volume
3.创建复制卷
#指定类型为 replica,数值为 2,且后面跟了 2 个 Brick Server,所以创建的是复制卷
gluster volume create rep-volume replica 2 node3:/data/sdb1 node4:/data/sdb1 force#启动新建复制卷
gluster volume start rep-volume #查看创建复制卷信息
gluster volume info rep-volume
4.创建分布式条带卷
#指定类型为 stripe,数值为 2,而且后面跟了 4 个 Brick Server,是 2 的两倍,所以创建的是分布式条带卷
gluster volume create dis-stripe stripe 2 node1:/data/sdd1 node2:/data/sdd1 node3:/data/sdd1 node4:/data/sdd1 force#启动新建分布式条带卷
gluster volume start dis-stripe #查看创建分布式条带卷信息
gluster volume info dis-stripe
5.创建分布式复制卷
#指定类型为 replica,数值为 2,而且后面跟了 4 个 Brick Server,是 2 的两倍,所以创建的是分布式复制卷
gluster volume create dis-rep replica 2 node1:/data/sde1 node2:/data/sde1 node3:/data/sde1 node4:/data/sde1 force#启动新建分布式复制卷
gluster volume start dis-rep #查看创建分布式复制卷信息
gluster volume info dis-rep
- 此时再去查看卷列表,应有五个卷
gluster volume list ##查看卷列表
二、客户端配置
- 客户端的操作:在node1上创建五个卷后,在客户端上把卷挂载在指定的五个目录内,在目录内写入了五个文件,五个文件分别保存在五个目录里面
1.安装客户端
cd /opt
wget http://112.124.46.81/gfsrepo.zip //下载安装包
unzip gfsrepo.zip //解压cd /etc/yum.repos.d/
mkdir repo.bak //创建备份目录
mv local.repo repos.bak/ //备份vim glfs.repo[glfs]
name=glfs
baseurl=file:///opt/gfsrepo
gpgcheck=0
enabled=1>>>>>>>wqyum clean all && yum makecache
yum install -y glusterfs glusterfs-fuse#创建挂载目录
mkdir -p /test/{dis,stripe,rep,dis_stripe,dis_rep}
ls /test#配置域名解析
echo "192.168.3.11 node1" >> /etc/hosts
echo "192.168.3.12 node2" >> /etc/hosts
echo "192.168.3.13 node3" >> /etc/hosts
echo "192.168.3.14 node4" >> /etc/hosts#挂载 Gluster 文件系统
mount.glusterfs node1:dis-volume /test/dis
mount.glusterfs node1:stripe-volume /test/stripe
mount.glusterfs node1:rep-volume /test/rep
mount.glusterfs node1:dis-stripe /test/dis_stripe
mount.glusterfs node1:dis-rep /test/dis_rep
df -Th
查看挂载
卷中写入文件,客户端操作
cd /opt#生成一个特定大小的文件给与/opt/demo*.log下,大小为1M,共处理40次
dd if=/dev/zero of=/opt/demo1.log bs=1M count=40
dd if=/dev/zero of=/opt/demo2.log bs=1M count=40
dd if=/dev/zero of=/opt/demo3.log bs=1M count=40
dd if=/dev/zero of=/opt/demo4.log bs=1M count=40
dd if=/dev/zero of=/opt/demo5.log bs=1M count=40ls -lh /opt
cp demo* /test/dis
cp demo* /test/stripe/
cp demo* /test/rep/
cp demo* /test/dis_stripe/
cp demo* /test/dis_rep/ls /test/
#查看/test/的文件夹/文件的目录树
2.验证gluster文件系统
- gluster服务器上查看文件分布
- 查看分布式文件分布
ls -lh /data/sdb1 ##没有被分片,文件分开节点存放
- 查看条带卷文件分布
ls -lh /data/sdc1 ##查询数据被分片50% 没副本 没冗余
- 查看复制卷分布
复制卷放在了node3、node4
ll -h /data/sdb1 ##没有被分片,有副本,有冗余
- 查看分布式条带卷分布
ll -h /data/sdd1 ##文件被分片50%,没副本,没冗余
- 查看分布式复制卷分布
ll -h /data/sde1 ##数据没有被分片 有副本 有冗余
3.冗余(破坏)测试
1.在客户端查看文件
[root@client test]# cd /test/
[root@client test]# ll -h dis
总用量 200M
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo1.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo2.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo3.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo4.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo5.log2.把node2节点关闭(模拟宕机),再回到客户端检查,可以看到demo5没了,所以可以得出分布式卷(node1/2)不具备冗余的特性
[root@node2 ~]# init 0[root@client opt]# cd /test
[root@client test]# ll -h dis
总用量 160M
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo1.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo2.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo3.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo4.log3.且发现条带卷(node1/2)数据为0,不具备冗余
[root@client test]# ll -h stripe/
总用量 04.关闭node3,测试复制卷(node3/node4)的冗余性
[root@node3 ~]# init 0[root@client test]# ll -h rep/
总用量 200M
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo1.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo2.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo3.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo4.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo5.log
#可以看到数据仍然存在,不受影响5.查看分布式条带卷(node1/2/3/4)
[root@client test]# ll -h dis_stripe/
总用量 0
#也并不具备冗余性6.查看分布式复制卷(node1/2/3/4)
[root@client test]# ll -h dis_rep/
总用量 200M
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo1.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo2.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo3.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo4.log
-rw-r--r-- 1 root root 40M 11月 17 14:20 demo5.log
结果证明:只要带复制数据的相比而言,数据比较安全
三、Gluster的其他的维护命令
1.查看GlusterFS卷
gluster volume list2.查看所有卷的信息
gluster volume info3.查看所有卷的状态
gluster volume status4.停止一个卷
gluster volume stop dis-stripe5.删除一个卷
gluster volume delete dis-stripe
#注意:删除卷时,需要先停止卷,且信任池中不能有主机处于宕机状态,否则不能成功删除6.设置卷的访问控制
gluster volume set dis-rep auth.allow 192.168.3.100
#仅拒绝,设置为IP地址为192.168.3.100的主机禁止访问dis-rep(分布式复制卷)gluster volume set dis-rep auth.allow 192.168.3.*
#仅允许,设置为192.168.3.0网段的所有IP地址都能访问dis-rep(分布式复制卷)
一文看懂GFS如何搭建相关推荐
- 干货|一文看懂什么是“非标资产”
干货|一文看懂什么是"非标资产" 2017-05-19 18:56 监管/信托/资管 本文作者:中诚信托 一.非标资产的界定和范围 非标资产全称为非标准债权资产,是相对于标准化金融 ...
- 一文看懂“业务定制智能客服”的产品设计_团员分享_@苍狼剑歌
前言:本文作者是"AI产品经理大本营"团员@苍狼剑歌,现任某一线大厂AI产品经理.另外,文末还有2个"hanniman读者专属福利",1)优惠券 for 三节课 ...
- 一文看懂“语音识别ASR” | AI产品经理需要了解的AI技术概念
原标题:一文看懂"语音识别ASR" | AI产品经理需要了解的AI技术概念 温馨提示:文末有[重大福利]:优惠券(金额很大) for 三节课<产品经理P2(进阶)系列课程&g ...
- 一文看懂“声纹识别VPR” | AI产品经理需要了解的AI技术概念_团员分享_@cony
前言:声纹识别是AI领域中一个看似很小.但其实有机会在近期落地,且比较有意思的细分方向:本文作者是"AI产品经理大本营"团员@cony ,她总结了AI产品经理"最必要& ...
- 一文看懂前端和后端开发
作为一名开发者,你可能会想:2021 年最好的软件开发技术和编程语言会是什么?它们又是如何被应用在软件开发当中的?如果你在思考这个问题,那就来对地方了.这篇文章将对前端和后端开发技术做一个对比,先从基 ...
- 一文看懂大数据生态圈完整知识体系【大数据技术及架构图解实战派】
一文看懂大数据生态圈完整知识体系 徐葳 随着大数据行业的发展,大数据生态圈中相关的技术也在一直迭代进步,作者有幸亲身经历了国内大数据行业从零到一的发展历程,通过本文希望能够帮助大家快速构建大数据生态圈 ...
- 从零开始系列(四):一文看懂arm架构和x86架构有什么区别
从零开始系列(四):一文看懂arm架构和x86架构有什么区别 相关系列文章推荐: 从零开始系列(一):在github上搭建自己的博客 从零开始系列(二):数据库基础篇 从零开始系列(三): ...
- 带你一文看懂数字乡村怎么建
引言 新一代信息化的大背景下,数字乡村.智慧城市.数字中国的概念,近几年被频繁提及.今年在疫情防控的环境下,农产品电商.在线助农.农业直播等互联网农业新业态不断涌现.近日,中央网信办等七部门联合印发& ...
- 一文看懂 AI 训练集、验证集、测试集(附:分割方法+交叉验证)
2019-12-20 20:01:00 数据在人工智能技术里是非常重要的!本篇文章将详细给大家介绍3种数据集:训练集.验证集.测试集. 同时还会介绍如何更合理的讲数据划分为3种数据集.最后给大家介绍一 ...
最新文章
- 如何在Vizio电视上禁用运动平滑
- 【技术文档】jeecg3.7.1-maven版本搭建环境手把手入门-eclipse
- 睡眠多少分钟一个循环_睡眠分为几个阶段每个阶段大概多少时间?
- python是如何引起的_1.2.8 如何开始使用python
- vue-touch不能上下滑动的问题【解决】
- git log 查看自己修改的行数_Git 笔记 day2
- 老板子华硕A7N8X-X
- 2021第十二届蓝桥杯python组真题答案
- 《Redis视频教程》(p1)
- 通过新版阿里ACE认证,实验操作题你来解一下
- word中如何插入参考文献
- win10护眼模式_这6个电脑操作技巧,会让你爱上Win10系统
- QT24A01 TNK以太网变压器
- 400家门店直接“云”上办公 JASONWOOD 是如何做到的?
- 腾讯蓝鲸-蓝鲸应用统一开发环境指南
- php给发qq消息,PHP 模拟QQ登录及发送消息实现方法
- Excel编程 VBA环境搭建(一)
- Educational Codeforces Round 121 (Rated for Div. 2) unr场 A B C
- 恺撒密码是古罗马恺撒大帝用来对军事情报进行加解密的算法,它采用了替换方法对信息中的每一个英文字符循环替换为字母表序列中该字符后面的第三个字符,即,字母表的对应关系如下:
- 微信3d小游戏(three)-逻辑设计与场景添加