GPFS 并行文件系统
GPFS
- 学习目标:
- 内容模块:
- GPFS架构:
- 部署GPFS
- 学习总结:
学习目标:
- 了解GPFS性能
- 解析GPFS原理
- 配置GPFS
- 使用GPFS
内容模块:
GPFS官方文档,请点击…
GPFS架构:
GPFS
是一款并行的文件系统,它保证在资源组内的所有节点可以并行访问整个文件系统,而且针对此文件系统的服务操作,可以同时安全地在此文件系统的多个节点上实现。GPFS 允许客户共享文件,而这些文件可能分布在不同节点的不同硬盘上,保证了数据的一致性和完整性。
关键词:
- 共享
- 并行
- 多节点
- 文件系统
在介绍GPFS之前,先了解一下什么是文件系统。
文件系统定义:
- 文件系统是OS中负责管理、存储文件信息的软件机构
- 在存储设备上【磁盘、内存】组织文件
文件系统功能:
- 管理和调度文件的存储空间
- 提供文件的逻辑结构、物理结构、存储方法
文件系统的分类:
- 分布式文件系统:指C/S架构的文件系统,用户数据存储在远端存储设备上【远程服务器,本地虚拟机、他人电脑】。NFS是典型代表。
- 集群文件系统:指协同多个节点提供高性能、高可用、负载均衡的文件系统。典型代表是 GlusterFS。
- 并行文件系统:指为并行应用优化的文件系统,主要面向所有客户端可以在同一时间并发读写同一个文件【可在同一时间,多人访问】。典型代表GPFS、BeeGFS
GPFS的特性:
- GPFS 自动在各个节点间同步配置文件和文件系统信息,而且在同一个节点内,对 GPFS 的管理可以在任一个节点上进行,实现简单管理【数据同步】
- GPFS通过一套复杂的信令管理机制(令牌管理机制)保证数据一致性。通过这套机制允许任意节点通过各自独立的路径到达同一个文件。
- GPFS 也是一种日志文件系统,为不同节点建立各自独立的日志。
- GPFS支持超大文件或文件系统,理论上支持2的99次方字节大小(超过100TB)的文件系统,每个文件系统支持2Billion个文件。
GPFS架构:
NSD:
- 网络共享磁盘,是由物理磁盘映射出来的虚拟设备。
部署GPFS
前提环境:
- yum安装必须的服务应用
yum install -y compat-libstdc++-33 rpm-build kernel-headers kernel-devel imake gcc-c++ libstdc++ redhat-lsb
说明:
- -y 参数表示更新【若当前虚拟机上没有该服务,则下载;若有该服务,则更新】
目前没有下载到GPFS的npm包,故只能按照官方上的来。等后续补充。在下载了安装包后,应该就可以使用mmlscluster命令了。
我在官网找了很久,还是没有找到。国外的,下载也成问题。
mmlscluster工具程序的基本操作
mmlscluster
查看基本群集配置信息。
mmlscluster --ces
显示有关协议节点的信息
将节点添加到 GPFS 集群
- 通过发出
mmaddnode
命令将节点添加到现有 GPFS 集群 - 只能从已属于 GPFS 集群的节点发出
mmaddnode
命令 - 一个节点一次只能属于一个 GPFS 集群
要将节点添加到 GPFS 集群,请发出以下命令:
mmaddnode -N k164n01.kgn.ibm.com
确认添加节点后,发出以下命令:
mmlscluster
从 GPFS 集群中删除节点
- 必须关闭 GPFS 守护程序
- 如果节点是一个或多个 NSD 的唯一 NSD 服务器,则无法删除该节点
- 无法删除作为主群集配置服务器或辅助群集配置服务器的节点
发出以下命令以查看要删除的节点是否是文件的成员 审核日志记录消息队列:
mmmsgqueue status
要删除名为 nodes_to_delete 的文件中列出的节点,请发出以下命令 命令:
mmdelnode -N /tmp/nodes_to_delete
要确认删除节点,请发出以下命令 命令:
mmlscluster
更改 GPFS 集群 配置数据
- 可以使用
mmchcluster
或mmchconfig
命令去更改集群的配置信息
使用mmchcluster
命令 以执行以下任务:
- 更改群集的名称
- 启用或禁用群集配置存储库
更改 GPFS 集群数据的主服务器:
mmchcluster -p k164n06
确认更改,请输入:
mmlscluster
安全模式:
集群的安全模式决定了 群集为节点之间的通信提供的安全性 在集群中以及集群之间的通信。
有三种安全模式:
- none【公开】
接收节点和发送节点不对每个节点进行身份验证,不加密传输的数据,也不检查完整性传输的数据。
- 仅授权
发送节点和接收节点使用 TLS 握手,然后关闭 TLS 连接。节点间不加密传输的数据,也不检查数据完整性。
- 密码
发送和 接收节点通过 TLS 握手相互进行身份验证。一个 TLS 连接已建立。传输的数据使用 指定的密码,并检查数据完整性。但要设置此模式,必须指定受支持的密码的名称。
查看集群的安全模式,输入以下命令:
mmauth show ciphers
mmlsconfig cipherlist
使用以下命令更改安全模式:
mmchconfig cipherlist=security_mode
注意:
- 将安全模式从空更改为 另一种模式,您可以在不停止 GPFS 守护程序的情况下执行此操作。
- 更改 安全模式从另一种模式变为空, 您必须停止 GPFS 守护程序 在群集中的所有节点上。
- 将安全模式更改为空,然后 然后重新启动 GPFS 守护程序。
启动和停止 GPFS
发出 mmStartup
在群集中的所有节点上的守护程序 -a 命令【启动】:
mmstartup -a
检查 /var/adm/ras/mmfs.log.latest 中记录的消息 一个节点进行验证。查找与此类似的消息:
GPFS: 6027-300 [N] mmfsd ready
这表示仲裁已形成,此节点 已成功加入群集,现在可以挂载文件 系统。
如果需要停止 GPFS,可以通过命令行执行此操作: 发出 mmshutdown 命令:
mmshutdown -a
学习总结:
- GPFS的常用命令基本了解
- 目前未实践
- 本人目前也是学习阶段,若不尽如意,请见谅…后续会补充的
GPFS 并行文件系统相关推荐
- 存储调研:GPFS并行文件系统原理解析
1.GPFS历史背景及发展 GPFS(General Parallel File System)是IBM公司推出的行业领先的并行分布式通用并行集群文件系统,GPFS从1993开始研发,1995年投入商 ...
- DB2-GPFS(General Parallel File System)并行文件系统简叙、安装使用及DB高可用
DB2-Spectrum Scale(GPFS)并行文件系统简叙.安装使用及DB高可用 这篇介绍GPFS概念.使用场景,以及用GPFS实现DB2高可用配置过程. IBM Spectrum Scale( ...
- 部署WekaFS并行文件系统的10大理由
导语: 预测新应用和工作负载的存储需求是IT界的噩梦,因为人们往往对应用概况.I/o模式或预测的数据大小知之甚少.传统的企业NAS设备不再具有竞争优势,虽然易于部署,但这些系统并非为现代工作负载所需的 ...
- 存储调研:BeeGFS并行文件系统体系结构
ThinkParQ成立于2013年底,由BeeGFS背后的一些关键人物组成,为BeeGFS客户提供专业的支持,服务和咨询.BeeGFS原名为FhGFS,是由Fraunhofer Institute为工 ...
- gpfs集群linux编译环境,GPFS通用并行文件系统之Python自动部署GPFS集群
GPFS文件系统能够横跨在所有主机上,分布在所有磁盘上,条带化读写,高性能.信令管理机制,并发性好.可配置fail组,可用性高.下面是GPFS集群的自动安装部署Python代码...... 注:该脚本 ...
- 存储调研:Lustre并行文件系统体系结构
Lustre架构是一种集群存储体系结构,其核心组件就是Lustre文件系统.该文件系统可在Linux操作系统上运行,并提供了符合POSIX标准的UNIX文件系统接口. Lustre文件系统是什么 Lu ...
- Lustre并行文件系统建设
Author By esxu 2015/08/19 项目背景介绍 本次项目目的在于构建一个具有高性能.支持高并发读写.文件共享的存储系统.Lustre在HPC领域被广泛使用,本次项目建设也是在调研了其 ...
- 【存储】GPFS简介及搭建
[存储]GPFS简介及搭建 第一章 GPFS简介 1.1 GPFS 文件系统介绍 IBM的GPFS(General Parallel File System,通用并行文件系统)可以让用户共享文件系统 ...
- GPFS文件系统分析
什么是GPFS文件系统 GPFS(General Parallel File System)是IBM公司开发的高性能集群文件系统,从1998年 开始首先应用于AIX集群,2001年后应用于Linux集 ...
最新文章
- html+仿百度外卖地址选择,百度外卖选择地址中的地图功能是怎么实现的?
- Faster RCNN算法详解
- 录屏 模拟器_系统自带的录屏好用吗?其实有功能更强大的软件
- 【编辑器】Notepad++相关
- 电脑硬盘恢复数据恢复软件免费版下载
- 软硬件交互 - 扫码枪
- PLC中忘记cpu密码怎么办?
- cc联盟网-中国最佳电子商务托管平台
- 群辉nas虚拟linux,UNRAID教程:3分钟 用unraid自带的虚拟机 安装 黑群晖NAS DSM系统 很强大!...
- 如何用sql语句对性别的 约束条件让它只能填 男 或 女
- java mongo gte_java-如何操作$concat使用spring mongodb
- web前端期末大作业 html+css+javascript网页设计实例 企业网站制作 (绿色植物网站设计)
- 6款程序员常用代码对比工具,你用过几款?
- Mysql中大于、大于等于、小于、小于等于的写法
- 大小端介绍,你知道常用的VS2019内存中字节序存储的顺序吗?
- css区分ie8/ie9/ie10/ie11 chrome firefox的代码
- 山东中天物联网/威海天乐物联网有限公司不诚信商家
- php获取网络图片的大小,PHP获取远程图片尺寸和大小实例演示
- 专用短程通讯(DSRC)技术介绍
- 〖Python 数据库开发实战 - Python与MySQL交互篇⑤〗- MySQL Connector 模块的删除数据