云栖大会|小米大数据运维管理体系的建设与实践
前言
前段时间,很荣幸能参加云栖大会,并和大家分享一个议题,接下来我们来回顾一下
介绍
这次给大家带来的题目是《小米大数据运维管理体系的建设和实践》
今天整个分享分两部分,第一部分我们先来聊聊大数据运维数字化转型相关的内容 看看运维层面如何做到化繁为简,打造极致效率的;
紧接着第二部分,会给大家介绍一下小米大数据的技术架构 大家可以从中了解到小米怎样应对海量数据挑战的。
服务定位
为了帮助大家理解,我们先来简单聊一聊小米服务的架构
整个业务架构按照云计算的分层模型来说分为三层,依次是iass层、pass层、sass层
小米的iass层是一个混合云的现状,涉及IDC、公有云、网络等资源
小米的saas层不仅包含战略业务手机 * IOT * 汽车,还包括互联网、电商等数百个业务线
大数据作为pass层的一员,向下对接基础资源,向上承接业务的数据需求
提供离线报表、实时数仓等多种场景化能力
进一步帮助业务沉淀数据资产,提升整体数据效率
同时,大数据是的集团数字化底座,起到中流砥柱的作用
大数据服务架构
我们再来看下小米服务架构
整个小米的大数据服务是立足于x86和ecs之上的自下而上分为4层,依次是数据采集层、数据存储层、数据计算层、数据平台层
数据采集层:主要使用自研的LCS和以Talos为代表的消息队列组合去实现的,这一块也会在后面的分享中展开讲述
数据存储层:各类开源和自研存储引擎,包含我们的文件存储HDFS、KV存储HBase、对象存储Ceph等等;其中Pegasus是小米自研的,目前在apache已经开源。
数据计算层:小米使用Yarn作为统一的资源管理,基于Yarn之上提供了批处理、流处理多种计算引擎,比如我们常见的MapReduce、Spark、Flink等;除此之外提供丰富的Olap引擎, 满足即席查询和检索需求。
数据平台层:我们内部称之为数据工场,主要提供一站式的数据开发和数据管理能力
小米大数据业务发展非常迅速,已经覆盖国内海外多个区域
现已达到千+集群,数万节点的规模,在存储总量上已经近EB,计算任务30w/天
大数据运维转型挑战
如此数据规模,给服务运维带来了很多挑战,接下来,我们重点聊一聊
运维成本高:传统运维方案和服务快速发展间的摩擦越来越多,导致运维成本呈熵增趋势,表现在质量、成本、效率各方面
服务生命周期断层:大数据服务场景多、差异大,进一步增加了运维复杂度
数据孤岛问题导致数据效率难以达到最佳状态
运维层面呈经验型单核心发展,导致流程多落地难
轻舟整体能力结构
识别到问题后我们内部经过充分讨论,结合小米长期处于混合云的状态,发起了大数据运维中台-轻舟的整体规划
轻舟的主线是通过建设通用的基线能力、打造极致的垂域能力,来彻底贯通服务的生命周期
轻舟的整体能力结构是两能力+三中心
基线能力层包含数据集市和发布中心,是整个运维管理体系的基础
垂域能力层是贯穿服务的生命周期的,从服务的创建、运营到消亡,运营是我们日常工作花费时间精力最多的部分,包含服务升级迭代、机器管理、巡检管理等等
轻舟-一体化运维数据集市
在数据上为了解决孤岛问题,我们的解决方案是数据集成、架构解耦
通过构建大数据的一体化运维数据集市,收敛运维周边的所有数据,在数据源头和数据使用方之间做了一层解耦
在数据集市层我们制定了数据规范,将运维数据进行建模和分层处理
最后针对现有的数据源进行ETL调度,最终实现数据统一存储和使用
新的数据架构统一了运维数据体系,解决数据孤岛问题的同时,降低数据使用门槛,
目前整套数据体系已经应用到所有的大数据服务当中,真正做到了数出一孔
再有整个数据场景是闭环的,复杂度由O(n^2)变成O(n),并且核心数据分析逻辑可复用
整个新的数据架构是以数据场景为中心,取代之前以人为中心
轻舟-发布中心
轻舟的发布中心,通过调度编排+低代码的模式,去灵活定义工作流
同时依托模版将SOP进行沉淀,将个人经验转化为组织能力
上图就是发布中心的工作流模版,我们将执行系统和自定义脚本抽象为操作池
在调度编排上定义了多种逻辑区域,如我们的单次执行区,循环区和异步执行区。
目前整套正在逐步推广到所有大数据服务中,并且在一些场景中实现了变更的无人值守,效率提升30%;
后续整个发布中心也会在现有基础上继续优化和迭代,打造全局互联互通,最终实现全流程自动化
轻舟-运营中心
在运营中心中,我们结合数据和混合ops的理念,重点解决协同、服务差异和经验化等多个核心痛点
目前整体的效果还是不错的,比如在机器故障处理上已经实现了全流程自动
覆盖了95%的大数据服务,年均自动化处理机器故障近万次
在容量管理上,通过数据趋势的分析,覆盖全场景的容量的检测,降低大量的人工介入
在巡检管理上,通过将风险量化打分,进一步固化了巡检标准和处理流程
此外还有环境管理、配置管理,这里由于时间关系,就不一一介绍了
目前整个运营中心还在持续建设和完善中
核心数据链路
接下来是第二部分,大数据的架构实践
小米的核心数据链路,是以消息队列Talos+接入转储这样的组合,作为数据总线去实现数据从端到端的打通
各类原始数据,通过Agent的采集方式,进入到消息队列中,同时也支持基于binlog的存量和增量采集
在转储层一般通过的统一transfer模块,将数据灌入其他大数据的存储引擎中,供进一步使用
目前小米半数以上的数据都是通过这套方案接入的
整套流程做了产品化的设计,用户可以基于平台可自由定义数据链路
实时+离线湖仓架构
小米在数仓这个方向上也经历了基于Hadoop的离线数仓、Kappa实时数仓、Lambda架构数仓的过程
最新的数仓体系是基于数据湖iceberg+flink+spark构建的离线+实时数仓
结合上面提到的,数据经过MQ,最终进入到数据湖当中
数仓的每一层之间通过spark或flink方式进行etl建设
同时小米的olap引擎经过改造可直接查询湖中数据
整个方案在性能上效果表现很好,相比历史架构,其复杂度更低
由于了数仓存储层的统一和ztsd压缩算法的升级,在存储上也有很大的优化
HDFS Tiering 冷热数据分层
上面提到的数据湖iceberg的底座也是基于HDFS的,这里我们聊聊HDFS 的数据架构实践
一般业界实现中,为了实现数据分层的目的,会使用固态盘、机械盘和高密度存储的方式
在小米内部实现中,为了进一步压缩成本,自研了一套HDFS Tering的架构,将冷数据直接上云管理
上面就是整体的架构图,可以看到后台会有一个mover程序自动的将HDFS冷数据的转储到阿里云OSS上
随后更新Namenode上的元数据,实现文件属性到block到对象的变化
同时对用户透明,在架构上增加了proxydn模块
目前整套方案,已经累计冷备了200+PB数据,数据成本降低80+%
Lindorm引入(一)
为了支撑小米IOT的战略,解决业务海量数据索引+事务的需求
小米历史是基于封装HBase Coprocessor实现的自研存储,我们内部称之为SDS
但随着数据规模不断上涨,暴露了很多架构问题,比如基于范围分片,failover时间慢,依赖链路多等等
同时无法支撑业务的时序数据需求;此外SDS在开发维护成本上也非常高昂
Lindorm引入(二)
经过我们选型后,阿里云的Lindorm是非常符合我们需求的,在图中我们可以看到
Lindorm兼容HBase、Hadoop等协议,提供了宽表引擎的同时,还提供了时序等多种引擎
与此同时结合多级混合存储、Serverless等多种特性,可以解决很多遗留问题
小米内部测试后性能还是蛮不错的,符合我们的整体需求
Lindorm引入(三)
选型完成后,如何低成本的由sds迁移到lindorm上也是一个至关重要的问题。
图中就是整体的迁移架构,我们为IDC到云间打通百G的网络链路
服务层面,SDS和Lindorm之间会提前建立好数据同步链路,保证SDS 和Lindorm都是最新数据
为了最小化业务改动成本,提供了sds proxy的组件
将数据代理到lindorm上,最终实现业务迁移
大数据事件云图
这一页是最近一段时间参与的大数据相关的事件云图,由于时间关系,很遗憾不能展开说,感兴趣的老师可以线下沟通
「原创推荐」
2023年总结|人生本是一场修行
联邦架构是大规模YARN的唯一选择吗?
揭开Linkedln YARN集群性能预测的面纱
LinKedIn YARN集群10000节点性能优化实战
架构师必知必会之分段式提交
慌了!Apache Sqoop正式退役?
啥?分布式啥?啥事务?
一文入魂!聊透分布式系统一致性!
拜托!这才是分布式系统CAP的正确打开方式!
震惊!全网唯一 直击范围分片本质[适用HBase、Tidb等]
大数据基础-求锤得锤,你要的一致性hash来了(下)[附代码]
大数据基础-求锤得锤,你要的一致性hash来了(上)[附代码]
「好文推荐」
两万字|带你遨游ElasticSearch
五万字 | Hive知识体系保姆级教程
HBase Compaction Offload功能的实现与应用
HDFS,MapReduce,Yarn 的架构思想和设计原理
「最佳实践」
Apache Kyuubi 在B站大数据场景下的应用实践
Kafka在美团的大规模实践(2.4亿条/秒)
小米数据管理与应用实践
小米Hadoop YARN平滑升级3.1实践
小米HDFS-Tiering冷热数据分层存储
小米HBase HBCK2.0实战
小米HDFS 短路读优化
快手EB级HDFS挑战与实践
快手Yarn资源调度优化实践
云栖大会|小米大数据运维管理体系的建设与实践相关推荐
- 「深圳云栖大会」大数据时代以及人工智能推动下的阿里云异构计算
摘要: 最近几年,在大数据和人工智能的推动下,异构计算有了长足的发展.无论是在产品形态上,还是在应用领域上,阿里云异构计算都取得了累累硕果. 最近几年,在大数据和人工智能的推动下,异构计算有了长足的发 ...
- 2022 云栖大会 | 一体化大数据智能峰会预约开启
2022云栖大会如约而至,精彩议程提前知晓! 11月5日云栖小镇 · A馆 · 云栖厅听20位专家解读大数据+AI一体化!Back to Basic,一体化大数据智能峰会解读阿里云坚持13年深耕基础技 ...
- 互联网下半场的角逐,玩转轻资产的大数据服务 | 阿里云栖开发者沙龙大数据专场(北京站)干货集锦...
2019独角兽企业重金招聘Python工程师标准>>> 2019年1月18日下午,一个晴冷的冬日,由阿里巴巴MaxCompute开发者社区和阿里云栖社区联合主办的"阿里云栖 ...
- 互联网下半场的角逐,玩转轻资产的大数据服务 | 阿里云栖开发者沙龙大数据专场(北京站)干货集锦
2019年1月18日下午,一个晴冷的冬日,由阿里巴巴MaxCompute开发者社区和阿里云栖社区联合主办的"阿里云栖开发者沙龙大数据技术专场"走近北京联合大学.当日,近200名大数 ...
- 2020云栖大会奖品大盘点(持续更新中)
简介:2020云栖大会开发者游乐园正在火热进行中,但是阿里妹听到有许多开发者表示,不知道这次开发者游乐园都有哪些礼品,或是不知道上哪赢取.阿里妹决定为你带来一篇最全的开发者奖品大盘点!奖品持续更新中, ...
- 独家 | 2017云栖大会放出哪些数据科学界的利好消息?
最近,科技界可谓盛事不断.继华为全联接大会.苹果秋季发布会.谷歌新品布会之后,由阿里巴巴主办的云栖大会在杭州西湖区云栖小镇正式拉开大幕.包括中国唯一的图灵奖获得者姚期智院士.中国量子力学第一人潘建伟院 ...
- 2021云栖大会丨大咖都讲了啥?
2021年10月21日,杭州 – 今日,阿里云于云栖大会正式发布Apsara Stack 2.0,从面向单一私有云场景,升级为服务大型集团云&行业云场景. 本届云栖大会混合云建管用一体化升级论 ...
- 【云栖大会精华汇】历届云栖大会精彩资料大放送,一篇看尽云栖大会前世今生...
[热点头条] 历届云栖大会精彩资料大放送,一篇看尽云栖大会前世今生 如果从2009-2010年算起,2017杭州云栖大会已经是第八届.为帮助更多朋友认识云栖大会,云栖社区特别整理了历届云 ...
- 云栖大会 | Apache Spark 3.0 和 Koalas 最新进展
本资料来自2019-09-26在杭州举办的云栖大会的大数据 & AI 峰会分会.议题名称<New Developments in the Open Source Ecosystem: A ...
最新文章
- routeros v6.43.2_routeros软路由负载均衡,充分利用带宽,提高效率降低成本
- python unittest库的入门学习
- c++中多线程传递参数原理分析
- 雨棚板弹性法计算简图_钢结构工程量计算、报价要点
- PHP鼠标滑过变色命令,WordPress鼠标悬停变色的修改方法
- 物联网技术或颠覆传统高等教育
- poi判断合并行_POI实战2——实战代码
- yum安装mysql具体步骤_CentOS7.0下使用yum安装MySQL的步骤教程
- 暴力枚举Gmail邮箱地址的新姿势
- 数据库系统的组成及模式结构
- 连续仨月霸占牛客榜首京东T8呕心巨作:700页JVM虚拟机实战手册
- 4K工业级高清2进1出HDMI自动USB KVM多电脑切换器(MT-HK201)
- hangfire安装
- 元器件科普 | 变压器的分类及形状构造
- 文本生成任务常见评估指标
- Boll布林带波动率策略
- 学区块链技术,到底学什么?区块链培训机构or自学?
- IDEA快捷键大全(详细)
- veloview读二维雷达数据_Windows下VLP16激光雷达数据解析
- IDEA搜索上一个下一个搜索关键字的快捷键
热门文章
- linux mysql root免密_Linux下MySQL忘记root密码的完美解决方法
- 复帧、帧、时隙的关系以及时隙结构
- 微型计算机组装与维修中级试题,计算机组装与维修复习题
- 第5章第23节:如何往幻灯片中添加声音和录制声音 [PowerPoint精美幻灯片实战教程]
- lombok 基础注解之 @NonNull
- 登录页面的SQL注入漏洞
- 找不到 .NETFramework,Version=v5.0
- Fiddler4抓包PC、移动端https请求
- 计算机更改虚拟内存有用吗,虚拟内存有什么用处,对电脑的性能有什么影响.
- 使用sql脚本创建数据库表