刚刚获悉,Apache基金董事会通过一致表决,正式批准分布式文件对象存储Ozone从Hadoop社区孵化成功,成为独立的Apache顶级开源项目。这意味着,作为腾讯大数据团队首个参与和主导的开源项目,Ozone已得到全球Apache技术专家的一致认可,成为世界顶级的存储开源项目之一。

Ozone 是Apache Hadoop社区推出的面向大数据领域的新一代分布式存储系统,它的推出解决了Hadoop分布式文件系统在可扩展性上限方面的缺陷问题,能够支持百亿甚至千亿级文件规模的存储。

自1999年成立以来,Apache 软件基金会已成功建立起强大的生态圈,其社区涌现了非常多优秀的开源项目,同时有越来越多国内外项目走向这个国际开源社区进行孵化。目前所有的 Apache 项目都需要经过孵化器孵化,满足一系列质量要求之后才可毕业。Ozone从Hadoop社区孵化成功,不仅是项目本身的重要里程碑,也是对项目成员学习Apache Way和推动社区发展等一系列成果的认可。

今年9月,腾讯主导的Ozone 1.0.0版本在Apache Hadoop社区正式发布,标志着历经了2年多的社区持续开发,Ozone 已经具备了在大规模生产环境下部署使用的能力。Ozone的设计,吸收和借鉴了很多HDFS的优点。同时支持兼容AWS S3协议的对象访问接口,且兼容 Hadoop Compatible File System的分布式文件访问接口。

Ozone构架图

除了参与和贡献社区,在0zone的应用层面,腾讯也走在前列。据了解,在腾讯内部,目前已经在对象和容器等一些场景使用了Ozone,并且获得了内部用户积极的好评反馈,后续也会持续将这部分经验分享出来。

随着1.0.0 的发布,腾讯参与和见证了 Ozone 孵化成为一个 Apache 顶级开源项目的过程。腾讯大数据团队Ozone项目技术负责人陈怡也被社区推选为Apache Ozone 首位项目主席(Chair) ,同时项目团队诞生了多位PMC成员和committer,带领社区一起把Ozone向新一代大数据文件对象存储系统推进。

Ozone的生态栈

“随着Ozone 成为Apache 顶级项目,越来越多的贡献者加入到社区的开发中。腾讯内部,一方面计划在Ozone的基础上,开发基于SCM的新一代高性能分布式文件系统;另一方面,持续推进 Ozone 在更多业务落地,部署更大规模的生产集群,进一步提高Ozone的可靠性、稳定性和性能,立志将Ozone打磨成为新一代文件对象存储的标杆。”腾讯云大数据团队Ozone项目技术负责人陈怡表示。

开源协同是当前腾讯最重要的技术战略之一。以大数据团队为代表的腾讯内部技术团队经历了从使用开源、回馈开源再到主导开源的演变。除了在Ozone项目上的贡献之外,目前已完成了大数据核心能力全开源。如今,在Apache基金会的大数据项目上,腾讯已经为主流的Hadoop、Spark、Flink等项目贡献了大量的特性和patch。

从各大开源基金会公开的数据来看,腾讯已经成为对开源社区贡献最大的中国互联网公司之一。

Apache基金会正式宣布新一代分布式对象存储Ozone成为顶级项目相关推荐

  1. hadoop api 复制文件_Hadoop发布新组件:分布式对象存储系统Ozone

    大数据 / 人工智能 / 区块链 / 数据库 / 分布式存储 2020年9月,Ozone 1.0.0分布式对象存储系统在Apache Hadoop社区正式发布.据了解,经过2年多的社区持续开发和内部1 ...

  2. 分布式存储--理解分布式文件系统、分布式块存储、分布式对象存储、分布式数据库

    1. 单机文件系统 vs 分布式文件系统 传统单机文件系统是计算机中一个非常重要的组件,为存储设备提供一致的访问和管理方式.在不同的操作系统中,文件系统会有一些差别,但也有一些共性几十年都没怎么变化: ...

  3. 如何从零起步搭建一个分布式对象存储的架构

    早在几年前,云存储还只是存在于业界大佬们口中的一个概念,其应用场景仅供大公司使用.突飞猛进的网络技术似乎在一瞬间就把这个概念普及到千家万户,现在云存储已经是大家司空见惯的一个网络服务了.比如大家用的百 ...

  4. python分布式对象存储_推荐:一款分布式的对象存储服务

    最近公司在准备内部数据上云,并且内部数据库每天的数据量很大,需要采用大数据存储的方案. 方案调研 每个程序技术在实现之前,需要进行开源产品的调研,适合自己产品的技术方案才是最好的. 需求 我们需要处理 ...

  5. 分布式对象存储 读书笔记(一) 开始

    这是 <分布式对象存储 原理架构及Go语言实现>的学习笔记的第一篇 我们简单的实现一个REST(表述性状态传递,英文:Representational State Transfer)服务接 ...

  6. 对象存储搭建文件服务器,搭建分布式对象存储服务MinIO-单点模式

    # 搭建分布式对象存储服务 MinIO-单点模式 本文介绍开源的分布式对象存储服务 MinIO 的单点模式的搭建步骤.对象存储系统相比于传统的 NAS 文件系统有很多的优势,访问效率高.方便扩容,支持 ...

  7. 分布式对象存储设计原理

    保存像图片.音视频这类大文件就是对象存储.不仅有很好的大文件读写性能,还可通过水平扩展实现近乎无限容量,并兼顾服务高可用.数据高可靠. 对象存储"全能",主要因,对象存储是原生分布 ...

  8. Minio分布式对象存储的部署与使用

    一.部署 下载Minio直接Github搜索即可,minio/minio: Multi-Cloud Object Storage 1.1 单机部署 单机部署命令,指定静态端口9001. 一般会占用两个 ...

  9. minio分布式对象存储

    介绍 Minio的冗余 (纠删码可以在丢失一半-1的盘的情况下,仍可以保证数据安全) 采用纠删码来防范多个节点宕机和位衰减. 分布式至少需要4个节点(4台服务器),使用分布式 Minio 就自动引入了 ...

最新文章

  1. 关于jetbrains系列产品2018.1.5以后的使用(crack)方法
  2. nginx内存占用高---内存池使用思考
  3. HttpClient的简单使用
  4. 可持续字典树 Perfect Security
  5. mysql mgr CONSuL_Mysql MGR + Consul + Consul-template + Haproxy 搭建mysql 高可用集群 (三)...
  6. code forces 436 C. Bus
  7. python 字典默认会引用 除非深拷贝
  8. 算法 Tricks(二) —— 大数的处理
  9. jQuery 遍历函数(w3school)
  10. [极客大挑战 2019]Http 1(修改HTTP请求包)
  11. 6,Java毕向东百度云盘
  12. 严蔚敏《数据结构》——线索二叉树
  13. 扫盲:集线器、网桥、交换机、路由器、网关大解析
  14. Neuroimage | 孤独症与功能近红外光谱(fNIRS)综述
  15. IE浏览器不能上网而其他浏览器可以正常上网解决办法
  16. HLOJ 1562* 手指游戏
  17. 跑深度学习CV的代码的常用包安装
  18. vue中methods、mounted等使用方法整理
  19. 100个python算法超详细讲解:存钱
  20. win10环境Redis安装及配置,以及Redis服务无法启动的解决方法

热门文章

  1. 初探内核之《Linux内核设计与实现》笔记下
  2. 逛知乎才知网站建设不只有wordpress建站系统,小白值得收藏
  3. django 环境配置.
  4. git command not found
  5. js实现点击“验证码”开始倒计时
  6. 基本sql语句--触发器
  7. (爱加密系列教程十二) 如何防止jd-gui查看代码
  8. 罕有数据库系统之比拟 - Oracle数据库
  9. Visual Studio调试之避免单步跟踪调试模式
  10. 为ASP.NET 2.0网站生成唯一程序集