minio存储类型 归档管理页面_软件定义存储,看这一篇就够了_婷婷与li的博客-CSDN博客

请看链接

文章来源于TaoCloud ,作者刘爱贵

1.SDS科普

SDS(Software Defined Storage)即软件定义存储,简单地说就是将存储硬件和软件进行分离,采用标准化硬件作为载体(如X86架构),基于软件实现企业级存储功能和服务。相对于传统存储硬件盒子,SDS中存储软件成为了核心。SDS通常都是分布式存储,形式分为文件存储(POSIX/NFS/CIFS)、对象存储(S3)和块存储(iSCSI/iSER/NVMeoF)三种。

SDS的兴起源于硬件的快速发展,CPU、网络、SSD等硬件成熟度、稳定性、性能不断提升,同时云计算对存储扩展性、可靠性、高性能、低成本的迫切需求,从而使得SDS成为可能。

从云计算到传统行业,从边缘到核心业务,SDS目前已经成为存储市场主流,替换传统SAN/NAS存储,即去IOE运动。SDS的产品模式分为独立存储和HCI超融合两种,后者中SDS决定着HCI的核心竞争力。

SDS开源软件和商业系统,可谓百家争鸣,多为面向HDD机械硬盘或SSD混合型容量存储。随着SSD技术和成本不断演进,新一代性能型全闪SDS即将成为主流趋势。同时,智能化SDS发展趋势凸显,即第五代智能存储。

2.发展简史

2003年,Lustre 1.0发布,一款面向HPC的开源高性能集群并行文件系统。

2006年,Gluster诞生,最初目标是代替Lustre和GPFS分布式文件系统。

2009年,Nutanix公司发布具有专利的超融合基础架构,公认为HCI鼻祖。

2010年,Sheepdog发布,一款极简风格的开源分布式块存储系统。

2011年,Sage Weil创立了Inktank公司主导Ceph的开发和社区维护。

2012年,Pure Storage发布第一代AFA全闪存阵列,引领全闪存储潮流。

2014年,VMWare正式发布VSAN第一个版本,内嵌于vSphere内核中。

2014年,FhGFS改名为BeeGFS,并在中小型HPC系统中得到关注和应用。

2014年,MinIO发布,一款极简风格的开源高性能分布式对象存储系统。

2015年,这年前后中国涌现一批基于开源Gluster/Ceph/BeeGFS的存储初创公司。

2015年,被普遍认为是中国SDS/HCI市场的元年,整个市场呈现高速增长的局面。

2017年,Qumulo发布新一代高性能全闪存文件存储系统,面向百亿级别文件数量应用。

2017年,这年前后中国涌现一批巨头入场,基于开源Ceph研发SDS存储产品。

2019年,根据IDC统计数字SDS/HCI已经成为市场主流,占据超过1/3外部存储市场份额。

2020年,信创产业开始将SDS纳入产品名录,中国市场出现新一代性能型全闪SDS产品。

3.技术流派

本身SDS产品技术路线而言,国内开源存储占了大多数,分为六大技术流派,各显神通。

Lustre,开源高性能并行文件系统,波澜不惊的20+年发展历程,常青树标杆。

Lustre最大特点就是可扩展的高性能,尤其TB级超高带宽,以及MPI并行支持。

Lustre缺陷同样非常明显,系统复杂性极高,数据可靠性过度依赖硬件。

Lustre专注高性能并行计算场景,几乎占据HPCTOP500半壁天下。

Lustre正在发展全闪存架构、集群元数据、副本/纠删码冗余机制,以突破更高带宽、百亿级小文件、Share-nothing架构下数据高可用等挑战。

Gluster,极简架构的开源分布式文件系统,目标是替换Lustre/GPFS,最为广泛流行。

Gluster,最大特点是简单可靠,独特去中心架构下的高弹性扩展能力,更低硬件要求。

Gluster最明显的不足是海量文件下的元数据检索能力,小I/O能力不太够。

Gluster非常适合大文件带宽型应用场景,比如媒体资源、视频监控、HPC,适用面宽泛。

Gluster正在优化大规模集群管控、海量元数据管理、容器持久化存储、混合云存储等功能,以拓宽更多的应用场景。

Sheepdog,极简架构的开源分布式块存储系统,专为KVM/QEMU设计,昙花一现。

Sheepdog最大特点同样是简单易用,无中心架构扩展能力强,专注做好块存储功能。

Sheepdog显著短板是高级存储特性不足,背后无公司运营,系统稳定成熟度不够。

Sheepdog专为QEMU虚拟机设计,适用OpenStack,也可作为独立iSCSI块存储设备。

Sheepdog起了个大早,2015年前后曾经发展势头很不错,2018年基本停滞,甚是可惜。

Ceph,开源分布式统一存储系统,追求完美架构,因OpenStack和对象存储成为云计算宠儿。

Ceph最大特点是统一存储,同时支持块儿、对象和文件存储,高级存储功能规格全面。

Ceph最大问题同样是统一存储,系统架构复杂度极高,文件功能一直未能达到生产成熟度。

Ceph最佳应用场景是OpenStack,天然生态融合,对象存储应用比较广泛已经超越块存储。

Ceph正在努力优化其文件系统成熟度、降低I/O延迟、支持高速网络和新型存储介质,以适应云计算的快速发展步伐。

BeeGFS,开源高性能分布式文件系统,Lustre挑战者,HPC领域存储新秀。

BeeGFS最大特点是开放硬件架构下的高性能,相对Lustre/GPFS更加灵活易用和更高扩展性。

BeeGFS不足之处是同样是系统复杂性极高,性能之外的高级存储功能缺失比较多。

BeeGFS聚焦HPC高性能计算场景(尤其是中小型),目前已经在TOP500/IO500崭露头角。

BeeGFS正在发展混合云化环境文件存储服务、全闪存架构性能优化、AI场景化应用优化,以及高级存储功能,以拓宽HPC高性能计算之外的更多应用场景。

Minio,极简架构的开源分布式对象存储系统,AWSS3兼容最好的开源实现,对象存储新贵。

Minio最大特点是轻量可靠,专注做好对象存储,独特扩展模式获得更高扩展性和易维护性。

Minio被诟病最多的同样是按集群扩展模式,单个桶无法扩容,仅支持EC纠删码延迟较大。

Minio主要应用场景为人工智能、大数据分析、云原生应用、数据备份容灾等。

Minio正在发展对接更多云生态应用、对象存储混合云化服务、高性能硬件环境下的性能优化,更好帮助构建云原生数据基础架构,并承载更多关键核心应用。

4.技术门槛

存储圈流传这样一个说法,搞存储是一个危险系数很高的职业。

为啥呢?计算出问题通常都是局部单机故障,重启试试大概率就能解决,而存储一旦出问题就是全局系统故障,搞不好就成背锅侠。存储作为IT基础设施的底座,重要性不言而喻,谁整谁知道。

存储圈内人士总是对存储有无穷的敬畏,越是大牛越是如此。而存储圈外人士往往低估存储的门槛,认为只要投钱花时间就能搞出牛逼的存储产品。这里面直接忽略了科学理论、工程技术的系统复杂性和人的决定性因素。如果是这样,哪有什么卡脖子关键技术一说。

存储系统软件是一个复杂的系统软件工程,需要严谨的理论架构和工程化来保证数据安全性和系统稳定性,存储的底线和红线是不允许丢失数据。存储算法理论、系统架构、硬件结构、操作系统、软件工程等各个环节都非常复杂。系统复杂性决定了存储研发不可能是一件容易的事,对于存储新产品技术要在无人区不断摸索和试错,对理论创新、系统架构、工程化能力要求很高,这些都直接决定了存储的极高门槛。

就存储产品技术而言,中国至少落后硅谷一代,时间上真不大好估算,有些技术我们是压根没有掌握。国内存储采用开源路线居多,同质化现象极为严重,研发上采用Follow对标跟随策略,创新领先的东西极少,并没有出现类似硅谷百家争鸣的景象。这些同样佐证了存储门槛很高,一定要有客观清醒的认知。

5.全闪SDS

SSD固态硬盘技术成熟度和先进性不断增强,成本不断下降,取代大部分HDD机械硬盘是必然结果。第五代智能存储发展趋势,全闪满足不断提升的性能型场景需求和企业数字化转型。从存储颗粒芯片、主控芯片到主控软件,SSD能够实现完全国产化,而机械硬盘无法做到,全闪存是信创产业实现国产化存储替换的必由之路。

2015年被普遍认为是中国SDS/HCI市场的元年,整个市场呈现高速增长的局面,2019年根据IDC统计数字认为SDS/HCI已经成为市场主流,占据超过1/3的外部存储市场份额。同时,全闪存储(全闪阵列AFA和全闪SDS)成为主流趋势,占用外部存储市场的半壁江山。2020可能会成为中国全闪存的发展元年,多家存储厂商发布了新一代的AFA全闪阵列,TaoCloud则发布了FASS新一代性能型全闪SDS产品。

全闪SDS特点是高性能,尤其是随机读写、低延迟和高带宽,主要用于高性能场景。

1) 云计算:云基础设施加速,高速云存储,帮助核心业务上云;

2) 金融科技:数据库加速,高性能容器存储,帮助去IOE和国产化替换;

3) 新基建:5G、AI、物联网、工业互联网,解决新兴行业性能痛点需求;

4) 其他:4K/8K高清非编、HPC、海量小文件,满足行业技术升级需求;

全闪存趋势已经很明显,全闪和混闪在SDS中占比已经达到50%。分布式全闪存硅谷代表创业公司有Pure Storage、kaminario、Excelero、E8、Qumulo、Wekaio、Elastifile,国内目前全闪SDS产品凤毛麟角。全闪存如果已经是绝对主流,那意味着再入场可能为时已晚,2020年正当时。

6.免费开源

SDS开源软件发展繁荣兴盛,诸如Lustre、Gluster、Sheepdog、Ceph、BeeGFS、Minio六大技术流派,国内存储厂商或多或少都享受着开源存储软件红利。开源软件降低了存储研发的门槛,基于成熟的开源存储系统可以快速构建起具有一定竞争力的存储产品体系,实现市场布局和自主可控国产化。借助开源软件打造存储,无非是出于几种考虑,或是看好顺应开源大势,或是图快吃红利,或是认为研发成本低,或是没有能力自主研发。

采用SDS开源存储软件同样面临诸多巨大挑战。开源系统本身复杂性高,吃透并且能够掌握难度是挺大的,通常都是跟随社区主导者的步伐发展。越是火热的开源存储,越是市场上同质化更加严重,容易陷入价格战的恶性竞争而非技术取胜,同质化竞争导致市场分散也限制了厂商的发展上升空间。开源软件需要严格遵守开源许可,尤其是走向国际化市场。另外,开源模式并不意味着免费或低成本。

对于国内存储厂商尤其是初创公司,自主研发SDS产品并且拥有完全知识产权的,实际上可以考虑免费和开源模式。这种模式下,技术先进性和世界顶级公司保持一致,降低全球化的门槛,从国内走向国际化,符合软件模式发展趋势。商业模式上来看,借助数字化新营销,免费软件模式能够实现零成本广泛获客,通过服务订阅和商业软件转化。

SDS软件定义存储的核心是软件,支持部署在裸金属、私有云、公有云及混合云上。SDS的理想目标是,简单稳定好用低成本,发展方向是免费开源软件和SaaS公有云化。当然,纵观开源社区,免费开源的关键在于谁来主导,掌控者得大发展(比如Redhat,也有例外),跟随者吃点红利小发展。

7.竞争格局

国内SDS产品基于开源路线为主,Ceph占绝对多数,其他有Gluster和BeeGFS。几乎全部都是第一代容量型SDS,落后硅谷一代技术,自研产品少。以下竞争格局根据厂商公开资料和存储圈内资讯整理而成,如有出入敬请拨正。

巨头企业:

华为:FusionStorage(参考Ceph,块存储)、OecanStor 9000(参考Ceph,文件存储)

浪潮:AS13000(开源Ceph,重点是文件存储)

新华三:OneStor(开源Ceph,块和对象存储)

曙光:Parastor(自研,文件系统,HPC场景)

深信服:EDS(开源Gluster+Ceph,块存储、文件和对象存储)

初创公司:

TaoCloud:XDFS(开源Gluster,以文件存储为主),FASS(自研,新一代全闪块存储)

XSKY:SDS系列产品(开源Ceph,块和对象存储)

杉岩:SDS系列产品(开源Ceph,块和对象存储)

鹏云:ZettaStor DBS(自研,块存储)

霄云:BOSS(自研,统一存储)

焱融:YRCloudFile(开源BeeGFS,文件存储)

龙存:Loong系列(自研,文件系统,HPC场景)

8.未来展望

数字世界那么大,存储必然有好发展。

2020年可能是全闪存储发展元年,全闪存已经是大势所趋,国内市场会加速度发展。

新兴技术、产业升级、新基建、信创产业,新兴需求驱动细分应用感知智能存储发展。

第五代智能存储,业界基本形成共识,人工智能技术将颠覆存储技术走向新境界。

预测未来的最好方法是创造它,JUST DO IT!

————————————————

版权声明:本文为CSDN博主「婷婷与li」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。

原文链接:https://blog.csdn.net/weixin_35193765/article/details/112219204

minio存储类型 归档管理页面_软件定义存储,看这一篇就够了相关推荐

  1. c fscanf 按行读取文件_语言 文件 看这一篇就够了

    码字不易,对你有帮助 点赞/转发/关注 支持一下作者 微信搜公众号:不会编程的程序圆看更多干货,获取第一时间更新 想看更好排版,可以看原文 网页链接​mp.weixin.qq.com 文件 格式化的输 ...

  2. python 股票自动交易助手_学习 Python 看这一篇就够了!

    2019.08.05 「Python 技术」公众号发出了第一篇文章,时至今日,已经快一年了.期间我们累积发文 260+ 篇,52 周除去周末我们基本做到了日更,这一路走来磕磕碰碰有太多的不容易,会有为 ...

  3. JVM常量池最全详解-常量池/运行时常量池/字符串常量池/基本类型常量池,看这一篇就够了

    JVM常量池最全详解-常量池/运行时常量池/字符串常量池/基本类型常量池,看这一篇就够了! 常量池详解 1. 字面量和符号引用 1.1 字面量 1.2 符号引用 2. 常量池vs运行时常量池 3. 常 ...

  4. docker 删除所有镜像_关于 Docker 镜像的操作,看完这篇就够啦 !(下)| 文末福利...

    紧接着上篇<关于 Docker 镜像的操作,看完这篇就够啦 !(上)>,奉上下篇 !!! 镜像作为 Docker 三大核心概念中最重要的一个关键词,它有很多操作,是您想学习容器技术不得不掌 ...

  5. 【存储】软件定义存储,看这一篇就够了!

    原文:https://www.sohu.com/a/397070625_505795 1.SDS科普 SDS(Software Defined Storage)即软件定义存储,简单地说就是将存储硬件和 ...

  6. 25q64存储多个数据_一篇文章看懂,存储虚拟化在不同用例中的实践与优势

    存储虚拟化是一种对物理存储资源进行抽象的技术,使其看起来像是一个集中的资源.虚拟化掩盖了管理内存.网络.服务器和存储中资源的复杂性. 存储虚拟化运行在多个存储设备上,使它们看起来就像一个单一的存储池. ...

  7. 对飞行前请求的响应未通过访问控制检查:它没有http ok状态。_对不起,看完这篇HTTP,真的可以吊打面试官...

    点击上方"码农沉思录",选择"设为星标" 优质文章,及时送达 HTTP 内容协商 什么是内容协商 在 HTTP 中,内容协商是一种用于在同一 URL 上提供资源 ...

  8. 内存spd规范_关于内存,看这一篇就够了!

    点击蓝字关注我们 通常大家提起的内存严格上来说应该称为内存条(Memory Module).内存条可以在普通的电脑市场或者网上平台上购买到.内存条通常采用DRAM(动态随机存取存储器)作为内存颗粒,若 ...

  9. 冷热分离和直接使用大数据库_还不知道HBase冷热分离的技术原理?看这一篇就够了...

    作者:郭泽晖(索月),阿里巴巴技术专家 HBase是当下流行的一款海量数据存储的分布式数据库.往往海量数据存储会涉及到一个成本问题,如何降低成本.常见的方案就是通过冷热分离来治理数据.冷数据可以用更高 ...

最新文章

  1. ocr识别技术-车牌识别一体机的核心关键
  2. Git下使用Beyond Compare作为比较和合并工具
  3. python jsonpath
  4. 【Machine Learning 四】设置机器学习可用的Matlab编程分配环境
  5. 解决iphone横屏时字体变大问题或者内容大小不一样等...
  6. 【医院HIS系统专题】医院HIS系统应用案例及解决方案汇总贴
  7. Android中英文单词录入背诵软件
  8. mysql cluster 数据文件_关于MYSQL CLUSTER数据文件存放节点错误问题 -问答-阿里云开发者社区-阿里云...
  9. macos安装vscode_什么!你还没有安装Flutter!
  10. SQL语言概况(4.1)
  11. 比特币创业公司Circle首获数字货币许可证
  12. 大数据应用能力层次模型
  13. 问题 F: 小明与隔壁老王之间不得不说的故事
  14. Catch the moments of your life. Catch them while you're young and quick.
  15. 携程网机票查询token参数的生成过程
  16. python写安卓游戏_10分钟学会python写游戏脚本!Python其实很简单
  17. 计算机、软件学硕与专硕的区别
  18. python-三角函数
  19. rundll32.exe的用途
  20. 中国化合物半导体产业竞争趋势与投资前景建议报告2022-2028年版

热门文章

  1. 数据探索性分析(EDA)常用方法大合集
  2. 【DP】西北大学集训队选拔赛(重现赛) B 饱和式救援
  3. 红队培训班作业 | 免杀过360和火绒 四种方法大对比
  4. 鸿蒙os2.0第一批升级名单,首批升级鸿蒙OS名单终于来了!
  5. 文章管理系统的系统分析与设
  6. JAVA POI导出EXCEL设置自定义样式(线框加粗,合并指定行,合计求和,冻结行)
  7. 如何使用计算机处理文件,如何设置电脑自动清理文件
  8. 写给 Java 程序员的前端 Promise 教程
  9. 【C语言刷题】喝汽水问题、上三角矩阵判定以及矩阵相等判定
  10. 详解三大编译器:gcc、llvm 和 clang