为什么看起来不是很复杂的网站,淘宝、腾讯却需要大量顶尖高手来开发?


导读:对大型互联网公司而言,海量图片或者视频的存储是一个很大的挑战。Bryce Canyon 是 Facebook 为解决这一问题而设计的专用存储硬件方案。本文是对 Bryce Canyon 这一方案的介绍。转载请注明来自高可用架构。

在 Facebook,我们的存储需求不断演进。 为了在运行工作负载时更高效,我们一直致力于优化我们的存储服务器设计。 2013 年,我们与设计合作伙伴 Wiwynn 合作,将第一个存储机柜 Open Vault(Knox)提供给开放计算项目(Open Compute Project),然后在 2015 年利用该设计创建了我们的存储服务器 Honey Badger,还有 2016 年的 Lightning NVMe 机柜。

由于重点关注我们的应用程序的视频体验,存储的工作负载越来越需要更多的存储容量和密度。 我们开始设计我们的下一代存储,关注效率和性能,并于今天宣布,我们最新的存储平台 Bryce Canyon 的设计规范现在可通过开放计算项目(Open Compute Project)获取。

Bryce Canyon 将主要用于高密度存储,包括照片和视频,并提供比 Open Vault 高 20% 的硬盘驱动器(HDD)密度。它被设计为支持更强大的处理器和更大的内存,它通过在底盘下方吸入空气来提高热和电源效率。

我们的目标是建立一个平台,不仅能满足我们今天的需求,还能扩展以适应未来增长的新模块。 Bryce Canyon 提供了强大的分类存储功能,与其他存储平台相比可以轻松扩展。

Bryce Canyon 存储系统支持 72 个 3.5 英寸硬盘(12 Gb SAS/6 Gb SATA)。系统可以配置为单个 72 驱动器存储服务器,或者作为具有完全独立电源的双 36 驱动器的存储服务器,或作为 36/72 驱动器的 JBOD(just a bunch of disks,一堆磁盘)。由于它减少了我们将来支持的存储平台配置数量,这种灵活性进一步简化了我们的数据中心操作。

当配置为存储服务器时,Bryce Canyon 支持单或双 Mono Lake CPU 模块。我们发现,对于某些工作负载(如 Web 和存储),单插槽架构更高效,每瓦性能更高;我们以前改变了我们的 Web 层来利用这种架构,并在 Bryce Canyon 平台上实现了相同的 Mono Lake 构建块。

驱动器连接由存储控制器卡(SCC)提供,在此迭代中提供 12 Gb SAS / 6 Gb SATA 连接接口。对于前端连接,有一个包含 OCP 夹层 NIC 的输入/输出模块(IOM),它支持 25 Gb 和 50 Gb 网卡。目前有 IOM 的两个变体:一个具有 2 x 四通道 M.2 模块,一个具有12Gb SAS 控制器。通过填充不同的模块,Bryce Canyon 可以通过多种方式进行配置,以优化各种用例,如 JBOD,Hadoop,冷存储等。

Bryce Canyon 完全符合 Open Rack v2 标准,并且利用了 OCP 硬件产品中的许多构建块。该系统通过 OpenBMC 进行管理,可以兼容 Facebook 数据中心中大多数新硬件的通用管理框架。 CPU 模块是 Mono Lake 卡,并且支持包括 25 Gb 和 50 Gb OCP 夹层 NIC。

模块化和灵活的平台

由于模块化设计,未来的平台可以采用下一代 CPU 模块,以在新技术采用时提高性能。 如果需要其他输入/输出接口,可以设计一个新的 I/O 模块以满足需要。 通过 16 条 PCIe 通道进入 IOM,大量的带宽可用于支持各种可能性。 该系统设计为协议无关的,所以如果需要 NVMe 系统,存储控制器卡就可以换成一个基于 PCIe 交换机解决方案。

支持不同工作负载的灵活性

高性能工作负载

对于大功率配置(如用于我们的某个分类存储服务的配置),Bryce Canyon 配置了两个 Mono Lake CPU 模块,以在同一机箱内创建两个独立的 36 驱动器存储服务器。 除了 OCP 夹层 NIC,此配置中使用的 I/O 模块支持两个 PCIe M.2 插槽,四个 PCIe Gen 3 通道。 M.2 插槽可用于缓存或合并写入。

平衡工作负载

对于每个驱动器需要较少 CPU 性能的存储系统(由于容量大和读/写速率低),可以使用单个 Mono Lake 连接到系统中的所有 72 个驱动器。

最大容量

对于需要超过 72 个驱动器存储空间的应用程序(例如,存档用例),您可以将多个 Bryce Canyon JBOD 以菊花链形式连接到 Bryce Canyon 头节点或外部服务器。


专用数据中心 - 规模化部署

由于无工具的设计,Bryce Canyon 系统可以快速而简单的上线服务。 系统中的每个主要 FRU 可以在不使用工具的情况下更换 - 它们包含在闩锁或指旋螺钉中。 该设计最独特的一个方面是无需工具的驱动器固定系统,不需要任何托架:系统使用闩锁机构来保持裸驱动器。为了移除存储器,闩锁通过将驱动器部分地拉出系统来帮助用户,以便于操作。 该系统大大简化了部署和维护。

Bryce Canyon 的设计规范通过开放计算项目(Open Compute Project)公开提供,全面的硬件设计文档将近期发布。请关注高可用架构留意后续文章。

英文原文

https://code.facebook.com/posts/1869788206569924/introducing-bryce-canyon-our-next-generation-storage-platform/

看完本文有收获?请转发分享给更多人


欢迎关注“互联网架构师”,我们分享最有价值的互联网技术干货文章,助力您成为有思想的全栈架构师,我们只聊互联网、只聊架构,不聊其他!打造最有价值的架构师圈子和社区。

本公众号覆盖中国主要首席架构师、高级架构师、CTO、技术总监、技术负责人等人 群。分享最有价值的架构思想和内容。打造中国互联网圈最有价值的架构师圈子。

  • 长按下方的二维码可以快速关注我们

  • 如想加群讨论学习,请点击右下角的“加群学习”菜单入群


为极致的视频体验而设计:facebook新一代存储平台Bryce Canyon架构相关推荐

  1. 【架构设计】——k8s云平台上分布式应用架构浅谈

    一.前言 这篇文章我其实写了很久,有小半年时间.迟迟没发,也是犹豫了很久,都不知道怎么取名,因为内容有点形而上的感觉,没贴出具体实现代码,所以干脆大言不惭的说这是架构设计吧. 二.系统架构 在基于k8 ...

  2. 网易超分黑科技来了!全新移动端视频体验时代来临

    如今,互联网上的社交行为已不局限于QQ和微信.泛娱乐与社交领域相融合所形成的泛娱乐社交正在帮助企业打开全新的文娱布局.泛娱乐应用社交与互动性强成为共同特征,而具备这些特性的产品往往都集中在直播.短视频 ...

  3. 于冰:用户导向的音视频体验优化

    在LiveVideoStackCon2018音视频技术大会上,快手音视频技术负责人于冰分享了题为<用户导向的音视频体验优化>的主题演讲,从用户的角度来去谈音视频的体验优化. 文 / 于冰 ...

  4. 基于web的在线视频编辑的设计

    前言 在这里,先吐槽一下,最近一直很忙,就要过年了,公司项目赶得要命,吃不好,睡不好,周末都没得休息(写到这里就憋着一肚火了).不过,付出还是有回报的,在团队的合作努力下,项目还是在过年前完成了,最近 ...

  5. springboot采用协同过滤算法的视频推荐系统的设计与实现毕业设计源码261620

    摘  要 现阶段,社会的发展和科技的进步,以及大数据时代下纷繁数据信息的融合,使得人们在生产及生活过程中,都将会接收到各种类型的数据信息,而通过计算机技术与网络技术,则能够将众多人们所不了解或不常用的 ...

  6. Springboot+采用协同过滤算法的视频推荐系统的设计与实现 毕业设计-附源码261620

    摘  要 现阶段,社会的发展和科技的进步,以及大数据时代下纷繁数据信息的融合,使得人们在生产及生活过程中,都将会接收到各种类型的数据信息,而通过计算机技术与网络技术,则能够将众多人们所不了解或不常用的 ...

  7. (附源码)springboot+mysql+采用协同过滤算法的视频推荐系统的设计与实现 毕业设计261620

    摘 要 现阶段,社会的发展和科技的进步,以及大数据时代下纷繁数据信息的融合,使得人们在生产及生活过程中,都将会接收到各种类型的数据信息,而通过计算机技术与网络技术,则能够将众多人们所不了解或不常用的信 ...

  8. springboot+mysql+采用协同过滤算法的视频推荐系统的设计与实现 毕业设计-附源码261620

    摘  要 现阶段,社会的发展和科技的进步,以及大数据时代下纷繁数据信息的融合,使得人们在生产及生活过程中,都将会接收到各种类型的数据信息,而通过计算机技术与网络技术,则能够将众多人们所不了解或不常用的 ...

  9. 云游戏音视频体验优化实践

     点击上方"LiveVideoStack"关注我们 ▲扫描图中二维码或点击阅读原文▲ 了解音视频技术大会更多信息 编者按:从2019年开始,云游戏的热度迅速上升,云游戏平台如雨后春 ...

  10. 【品牌专场】抖音背后的视频体验分析体系与优化技术揭秘

    LiveVideoStackCon 2022 音视频技术大会 北京站将于3月31日至4月1日在北京丽亭华苑酒店召开,本次大会「火山引擎」品牌技术专场重磅加盟,火山引擎视频云团队基于抖音亿级DAU实践, ...

最新文章

  1. 基于ARM Cortex-M的SoC存储体系结构和实战
  2. 这三个普通程序员,几个月就成功转型AI,他们的经验是...
  3. 盖茨在毕业礼上给毕业生的11个人生建议
  4. Pandas——loc、iloc、ix 函数区别
  5. MySql 数据操作类
  6. 原本挂起的线程继续执行
  7. MFC启动和关闭线程
  8. 【Hihocoder - offer编程练习赛39 - D】前缀后缀查询(后缀字典树,哈希,思维)
  9. [强烈推荐]ORACLE PL/SQL编程详解之七:程序包的创建与应用(聪明在于学习,天才在于积累!)...
  10. mysql 临时表 中文_MySQL 临时表
  11. PHP MD5 SHA1 比较 漏洞绕过
  12. c语言 误差函数erf代码,高斯(余补)误差函数erf和erfc
  13. nc数据处理,掩膜,经纬度定位格点
  14. 自动刷票工具的实现机理简介
  15. [BJDCTF2020]Mark loves cat
  16. dlib android版本号,dlib-android
  17. 博弈论(初级)——数学知识(C++)
  18. 人脸识别-Loss-2010:Softmax Loss(Softmax激活函数 + “交叉熵损失函数”)【样本3真实标签为c_5,则样本3的损失:loss_3=-log(\hat{y}_5^3)】
  19. Truffle 初始化项目 truffle init
  20. 新人开淘宝店做代销必须要了解的东西,你知道吗?

热门文章

  1. C#基础知识五之abstract virtual关键字
  2. 大数据处理方面的 7 个开源搜索引擎
  3. Tip:部署sharepoint2013SP1指定SQL数据库时的小细节
  4. android的wake_lock介绍
  5. 简单算法系列之完数的计算
  6. Git版本管理工具Tower for Mac
  7. Nik Collection 4.2.0 for Mac(PS滤镜插件套装)
  8. Sublime Text 3 如何配置Python环境及安装插件?
  9. Android项目总结(3)-登录页图片循环过渡播放动画效果
  10. Linux下cacti+syslog-ng+snare