2019独角兽企业重金招聘Python工程师标准>>>

我这用的Ubuntu 18.04系统（已经内置支持ZFS和Gluster文件系统了），原来磁盘存储使用的Ext4格式和LVM，现在需要迁移到ZFS/Gluster支持的分布式软件定义存储（SDS）和容器存储体系（CSI），以充分利用分布式架构的存储虚拟化、多机容错、水平扩容、网络访问的集群环境下应用的需要。

方案：

  • 集群节点既能提供存储服务，也能执行高通量、非密集型计算任务。
  • 集群存储主机至少有两个节点。
  • 每节点四核CPU，16G内存，512G高速SSD。
  • 每节点PCIE至少双槽，一块双口万兆网卡，一块SATA扩展卡或SAS阵列卡。
  • 每节点至少4块磁盘（达到400MB/s以上，磁盘越多越快；8块盘可达到800MB/s左右）。
  • 节点的磁盘使用ZFS条带卷以获得最大磁盘IO速度，将SSD设为缓存和log卷执行加速。
  • 多个节点存储通过Gluster做网络镜像存储，可以灵活地按照镜像（可靠性高）或者条带（容量大、性能高）来组织存储方案。节点越多，可靠性、性能越好。

步骤：

中间需要有多个步骤，记录如下：

  1. 先把新的存储系统准备好。

    • 安装ZFS，sudo apt install zfsutils-linux 。
    • 安装Gluster，sudo apt install glusterfs-server 。
    • 在所有节点上，创建ZFS存储池和文件系统。
    • 在所有节点上，互相添加为gluster peer。
    • 在任一节点上，创建gluster volume存储卷，可选镜像或条带模式。
    • 在需要访问的工作节点挂载gluster存储卷，映射为本地卷，然后就可以直接访问了。
      • 在Kubernetes上，每一个Node都需要能访问网络存储卷，或者挂载为本地卷、通过hostpah来使用。
  2. 把Ext4和原来磁盘阵列的数据复制到新的存储系统。
    • 确认数据已经全部复制。
  3. 把原来的存储系统重新格式化为ZFS/Gluster。
    • 再次确认数据已经全部复制。
  4. 把原始数据复制回原来的存储系统。
  5. 建立软连接，连接到原来的卷到新的存储系统主目录。
    • ln -s 新的目录 原来目录的链接名

      • 如：ln -s /zpool/data /home/supermap/data
    • 恢复原来的服务。

注意：

  • ⚠️不要出错，否则把原始数据搞丢了，就麻烦大了。
  • 建议使用万兆（10Gbps）网络（存储节点使用万兆网卡，全万兆交换机连接）。
    • 网络存储传输带宽，理论上：

      • 百兆连接9MB/s。
      • 千兆连接90MB/s。
      • 万兆连接900MB/s。
      • 双万兆连接1600MB/s以上。
    • 推荐：双万兆端口网卡，双路互备、链路聚合。
  • 需要至少双倍于现有数据的存储空间。
    • 新的分布式存储启用镜像和副本，需要“数据容量X副本数量”的物理磁盘容量。

参考：

  • 万兆网与测试

    • Ubuntu测试-使用phoronix-test-suite
    • Ubuntu16.04 双网卡链路聚合
  • ZFS
    • ZFS快速安装和性能测试
    • Ubuntu上使用ZFS（Zettabyte File System）
    • 提升ZFS性能的10个简便方法
    • ZFS-最佳实践指南
    • ZFS-自我恢复RAID
  • GlusterFS
    • 安装 GlusterFS - 快速开始
    • Setting up GlusterFS Volumes
    • Intel 40G网卡与LSI MegaRAID驱动安装

转载于:https://my.oschina.net/u/2306127/blog/2865263

向分布式存储系统的迁移-使用ZFS/Gluster相关推荐

  1. 2021年最新 k8s安装部署步骤 kubernetes从入门到实践 K8S实战容器化迁移实战教程 K8S存储之Ceph分布式存储系统 K8S架构师实战指南

    2021年最新 k8s安装部署步骤 kubernetes从入门到实践 K8S实战容器化迁移实战教程 K8S存储之Ceph分布式存储系统 K8S架构师实战指南

  2. 38掌握分布式存储系统 GlusterFS 的基本用法，包括卷管理、数据复制

    GlusterFS是一种分布式文件系统,可以将多个存储服务器集成为一个分布式存储池.以下是一些基本的使用方法和示例代码. 安装和启动 GlusterFS 在所有节点上安装 GlusterFS,并确保每 ...

  3. 分布式存储系统中的数据高效缓存方法

    点击上方蓝字关注我们 分布式存储系统中的数据高效缓存方法 杨青霖, 吴桂勇, 张广艳 清华大学计算机科学与技术系,北京 100084 摘要:针对典型分布式存储系统存在的写放大.I/O路径过长.响应时延 ...

  4. 分布式存储系统——GlusterFS/GFS

    目录 背景 分布式存储系统 GlusterFS概述 GlusterFS特点 GlusterFS 术语 模块化堆栈式架构 GlusterFS 工作流程 弹性HASH算法 GlusterFS 支持卷类型 ...

  5. 分布式文件与分布式存储系统学习总结(持续更新)

    存储系统知识 Write Ahead Log 问题引入 存储系统在运行过程中,每时每刻都在发生数据更新.如对文件数据的CRUD. 对于中心控制节点来说,这些都会涉及到metadata的更新操作. 为了 ...

  6. 浅谈分布式存储系统数据分布算法

    目录 前言 指标 演进 应用案例 前言 分布式存储系统面临着的首要问题,就是如何将大量的数据分布在不同的存储节点上.无论上层接口是 KV存储.对象存储.块存储.亦或是列存储,在这个问题上大体是一致的. ...

  7. ceph 存储 对比_分布式存储系统 Curve

    CURVE 是网易开源的高性能.高可用.高可靠分布式存储系统,具有非常良好的扩展性.基于该存储底座可以打造适用于不同应用场景的存储系统,如块存储.对象存储.云原生数据库等. 授权协议: Apache ...

  8. 腾讯CKV海量分布式存储系统

    摘要:腾讯CKV,是腾讯自主研发的高性能.低延时.持久化.分布式KV存储服务.在腾讯的微信平台.开放平台.腾讯云.腾讯游戏和电商平台广泛使用,日访问量超过万亿次.本文将全面剖析CKV的实现原理和技术挑 ...

  9. 这些常见的分布式存储系统，你是否都了解？

    来源 | 清平の乐 来源 | CSDN博客,责编 | Carol 头图 | CSDN 下载自视觉中国 一.数据存储类型 一般情况下,我们将存储分成了4种类型,基于本机的DAS和网络的NAS存储.SAN ...

最新文章

  1. 刚刚，CVPR 2021论文接收结果「开奖了」
  2. 装有linux的硬盘装到不同主机,把ubuntu系统安装进移动硬盘,可在不同电脑上运行...
  3. mac用什么写python程序_mac下的应用程序发布 及 打包（Python写的脚本，可打包第三方库）...
  4. 【Groovy】MOP 元对象协议与元编程 ( 使用 Groovy 元编程进行函数拦截 | 实现 GroovyInterceptable 接口 | 重写 invokeMethod 方法 )
  5. 2021年100题Java春招面试题
  6. 基于深度学习的文本分类2
  7. 微服务网关总结之 —— zuul
  8. IPTV视频码流分析
  9. 微软将所有的Windows代码库迁移到Git
  10. Maven常见异常及解决方法---测试代码编译错误
  11. atitit.系统架构图 的设计 与工具 attilax总结
  12. [SNMP超详解]：简介、抓包分析与编程实战
  13. 等腰三角形悬臂梁式光纤光栅振动传感器分析
  14. python职位要求_python 开发工程师职位描述与岗位职责任职要求
  15. 分享一下申请CSDN博客专家成功后的好处
  16. 追寻缺失的大学精神 一个民族需要关注天空的人
  17. 【程序员的爱情】彼岸花开谁又种下了执念
  18. GitHub 3.6k Satr自监督学习(Self-Supervised Learning)资源你值得拥有！
  19. 发烧级蓝牙耳机哪款音质最好？200元内性价比高的蓝牙耳机
  20. 大学计算机信息技术教程2020版知识点,大学计算机信息技术教程习题集.doc

热门文章

  1. AttributeError: module ‘scipy.signal‘ has no attribute ‘correlation_lags‘
  2. scrollIntoView 滚不动
  3. 耳麦没声音，耳麦不能说话
  4. Python 设计模式 - 建造者模式
  5. native聊天界面 react_ReactNative 仿微信聊天 App 实例分享|RN 仿朋友圈
  6. SpringBoot数据库密码动态配置
  7. win10多用户同时远程桌面登陆Termsrv.dll(允许多个RDP会话)-win10最新2004版。
  8. 基于tensorflow和卷积神经网络的电影推荐系统的实现
  9. 手写文字识别的使用软件
  10. 2011考研数学二第（6）题——积分大小关系比较