------------------------------------重要说明------------------------------------

以下部分内容来网络,部分自华为存储官方教材

具体教材内容请移步华为存储官网进行教材下载

网络引用内容无法找到原创,如有侵权请通知

------------------------------------重要说明------------------------------------

① 统一命名空间

DFS分布式文件系采用全对称结构, 将所有节点的命名空间整合为统一命名空间, 将整个系统的所有节点的存储容量组成一个大的虚拟存储池, 元数据和数据保存在每个节点上, 每个节点都是元数据服务器同时也是数据服务器, 访问文件数据时DFS文件系统首先定位到文件所归属的元数据服务器, 然后通过元数据服务器获取文件的数据分布, 即获取文件分布在哪些节点上以及在节点上的具体位置, 再去访问这些节点完成数据读写操作。

支持最大60PB全局命名空间, 用户不用管理多个命名空间, 从而减轻管理复杂度。 消除多个命名空间, 也消除了多个命名空间带来的数据孤岛。

传统数据存储方式是将磁盘映射成分块, 文件系统管理分块, 并使用元数据来标记分块使用情况。 对象存储访问不关注分块, 看到的是一个个的对象, 上层使用对象名来访问。 这种对象系统通常是扁平化的, 区别于文件系统。

虚拟化借鉴了两种优势, 一方面把底层以对象方式管理, 简化了管理方式和元数据开销;另一方面, 上层在虚拟出的对象基础上仍然构建成文件系统树形结构。

② 文件系统的功能和组织

③ 元数据

元数据,描述数据的数据。由Dentry(目录项)和Inode(索引节点)组成。Dentry记录着文件名,上级目录等信息,形成了树状结构;而有关该对象的组织和管理信息主要存放Inode里面,记录着对象的KeyID和对象在存储介质上的位置与信息。

④ 元数据对象和数据对象

数据对象是由一组stripe(分条)组成,而分条有Erasure Code矩阵运算生成。

对象(Object)是对象存储系统的基础单元,包含文件数据以及相关的属性信息,具有唯一的KeyID,可进行自我管理。由于对象规模仅受KeyID的位数限制,因此拥有着接近无限的扩展能力。

⑤ 元数据的存储与访问

使用动态子树方式组织元数据。

将命名空间中的所有元数据按照名字子树的方式划分, 每棵名字子树划分给一个MDS处理。 一个MDS可以管理若干棵子树。

正常处理流程: CA将报文发给任意一个MDS, 该MDS查询本地动态子树表, 如果属于本地MDS处理范围, 则直接处理; 如果不属于则将该请求转交给负责该名字子树的MDS( 如果无法直接找到, 则转给最可能负责该名字子树的MDS) 。

故障迁移:一台MDS故障后, 其他MDS将分担故障MDS负责管理的名字子树。

负载均衡:当MDS数组增减或某个MDS负责的名字子树访问过冷/过热时, 会采用负载均衡策略, 将过热节点上的名字子树部分迁移到较冷节点管理。

注意:这里讲的是元数据的缓存, 与元数据实际存放的位置不同。 元数据实际按M+2存放在各节点的硬盘中, 与系统运行时缓存的位置可能并不相同。

转载于:https://blog.51cto.com/hostman/2095070

39、【华为HCIE-Storage】--对象存储原理相关推荐

  1. minio对象存储原理_使用MinIO在本地运行S3对象存储

    minio对象存储原理 Object storage is amazingly versatile. We normally associate it with AWS S3, but Object ...

  2. SDS之Object Storage: 对象存储 - 生于时代,长于场景

    [编者Peter Ye按] 十年了,我还是喜欢下面这张图,它表明了存储发展的趋势. 在这漫长的发展中,对象存储将随之茁壮成长.还记得第一次见这张图的时候,是我2008年从EMC刚跳槽到Compelle ...

  3. tp5 华为云OBS对象存储

    项目场景:tp5 华为云OBS对象存储 官网下载SDK文件 extend 下放obs文件: @Override<?php /*** Created by PhpStorm.* User: Adm ...

  4. 华为云OBS对象存储服务:值得拥有的贴心的存储管家

    对象存储服务(Object Storage Service,OBS)是一个基于对象的存储服务,为客户提供海量.安全.高可靠.低成本的数据存储能力,使用时无需考虑容量限制,并且提供多种存储类型供选择,满 ...

  5. SDS之Object Storage: 对象存储,老树开新花

    本文的副标题是: 对象存储发展史  & "云大无人区"的时代,非结构化数据存储高耸出海面 备注: 1.云大无人区,其实就是云计算.大数据.物联网.人工智能.区块链的谐音记忆 ...

  6. RADOS分布式对象存储原理简介

    Ceph是一个开源的PB级文件系统,最早是加州大学Santa Cruz分校的一个研究项目,项目创始人sage weil是该校的一名博士.ceph包括一个兼容POSIX的分布式文件CephFS,一个分布 ...

  7. 华为云OBS对象存储使用临时URL访问,并对下载文件重命名

    目录 解读 1.使用临时URL访问OBS,并获取临时URL 官方文档 举例 2.使用临时URL访问OBS,并对临时URL下载的文件重命名 分析 举例 解读 在使用OBS进行对云上文件进行下载的时候,发 ...

  8. 对象存储3:对象存储的原理、构造和详解

    前两篇介绍了对象存储的基础,包括存储类型,常用存储分类和分类方法. SCSI,TCP/IP,FC等存储介质以及DAS\NAS\SAN等存储网络,请参考:对象存储1:传统存储类型和分类. 文件存储,块存 ...

  9. 如何从零起步搭建一个分布式对象存储的架构

    早在几年前,云存储还只是存在于业界大佬们口中的一个概念,其应用场景仅供大公司使用.突飞猛进的网络技术似乎在一瞬间就把这个概念普及到千家万户,现在云存储已经是大家司空见惯的一个网络服务了.比如大家用的百 ...

  10. 分布式对象存储 读书笔记(一) 开始

    这是 <分布式对象存储 原理架构及Go语言实现>的学习笔记的第一篇 我们简单的实现一个REST(表述性状态传递,英文:Representational State Transfer)服务接 ...

最新文章

  1. Java:RMI远程调用
  2. class function,delphi静态函数的对象基址分析static
  3. 090_块元素行内元素行内块元素空元素
  4. Linux企业级项目实践之网络爬虫(28)——爬虫socket处理
  5. 网络相关知识点:nginx相关概念
  6. 方立勋_30天掌握JavaWeb_XML
  7. 怎么把word转换pdf,pdf转换word ,pdf转换成高清图片
  8. ajax获取php的数组,使用AJAX请求获取数组并将其传递到php数组中 - javascript
  9. 取消堆集以提高延迟并减少AWS账单
  10. 2014蓝桥杯:地宫取宝(DFS详解)
  11. springboot整合rabbitmq之延时队列
  12. python深度学习之TensorFlow
  13. 干货:react新手入门之react小书
  14. levene ttest
  15. 中文冒号vs英文冒号
  16. 查看自己电脑的主板支持多大的内存
  17. Unity GL画线的坑
  18. OpenCV学完基础知识不知道做什么?!我不相信这是真的
  19. 蚂蚁金服彭翼捷:金融科技不止用来改良 更要用来改变
  20. 人生的一道窄门,教育

热门文章

  1. Mysql之INFORMATION_SCHEMA解析1
  2. 四、Hyper-v Server 2008r2 设置远程管理
  3. 每日小记2012.5.1
  4. 写给自己,关于对纯技术的追求,以及为了金钱与前途的技术追求
  5. 内存管理学习之内存寻址
  6. x86体系Linux内核进程切换原理(64位和32位)
  7. linux内存源码分析 - 伙伴系统(初始化和申请页框)
  8. cgroup学习(二)——cgroup框架结构
  9. html5微信分享图标和文本设置,科技常识:Html5 实现微信分享及自定义内容的流程...
  10. 缺少更新或刷新的键列信息_iPhone 12缺少的五个功能你会在意吗?