数仓架构的持续演进与发展 — 云原生、湖仓一体、离线实时一体、SaaS模式

简介： 数据仓库概念从1990年提出，经过了四个主要阶段。从最初的数据库演进到数据仓库，到MPP架构，到大数据时代的数据仓库，再到今天的云原生的数据仓库。在不断的演进过程中，数据仓库面临着不同的挑战。

作者张良模阿里云智能资深产品专家

谈到数据仓库，我们往往容易忽略“数据”两个字，阿里云有着很多业务场景和业务体系，在这些数据应用之下我们如何管理数据的呢？数据仓库是如何帮到我们以及它自身是如何演进的？

数据仓库概念从1990年提出，经过了四个主要阶段。从最初的数据库演进到数据仓库，到MPP架构，到大数据时代的数据仓库，再到今天的云原生的数据仓库。在不断的演进过程中，数据仓库面临着不同的挑战。

第一启动成本高、建设周期长，价值难以快速验证

对于数仓的建设人员，面临的挑战是业务人员希望数仓建设周期能更短。而传统数据仓库往往要面临从采购服务器，建立物理仓库到逻辑仓库等一个较长的周期，所以数据仓库面临的第一个挑战就是怎样去降低建设周期。

第二 如何处理多样数据，拥抱新技术，充分挖掘数据价值

随着大数据的到来，传统数据仓库管理的大多是结构化数据。如何对半结构化的数据进行统一全面的管理就成为传统数据仓库面临的第二个挑战。

第三难以共享企业数据资产、数据创新成本高

数据仓库更加强调管理和安全，在强调安全的情况下如何在组织里以及整个生态上下游中更好的共享和交换数据，成为了新的挑战。例如在企业的部门间或业务间依然存在为数不少的数据孤岛，数据共享成本高，缺乏企业级别的统一的数据获取出口，由此导致数据消费方获取数据困难，难于自助分析，严重依赖IT部门支持来满足企业更广泛的数据需求。

第四平台架构复杂、运营成本高

随着数据处理种类的多样化和数据量的不断变大，不同的技术被叠加在一起从而使得数据仓库架构变得越发复杂。同一企业里往往会同时存在各种技术类型的数据仓库。所以如何简化数据仓库的架构也是面临的一个重要挑战。一般需要投入专业团队负责管理复杂的数据平台，同时对资源利用率不高的情况进行管理和治理。

第五满足业务需要的扩展性、弹性、灵活性

业务快速发展的企业，经常会有大促活动，补数据，处理非常规事件的需求，如何快速扩展数仓性能，提高业务峰谷的响应时效，也带来很多挑战。

对于传统数据仓库面临的这些挑战，在技术和业务的驱动下新型数据仓库如何应对呢？这里可以看到六个主要的驱动力。

第一我们希望有一个统一的数据平台，能去连接，去存储和处理多种数据。

第二实时化，企业基于数据驱动能实时对业务作出支撑和决策的信息，这里有更高时效性的要求。

第三数据量变得非常庞大，在海量数据中如何找到想要的数据，就需要有一张地图，要对数据进行管理和治理。

第四传统数据仓库中，数据的存储采用集中的方式，一定要把数据集中在同一个存储中。而在新的业务驱动下，需要去连接数据而不是统一存储在一起。

第五数据仓库之上如何支持更多智能化的应用，信息化的业务以及业务的信息化等关系。这就是数仓智能化和智能化数仓的需求驱动力。

第六数据领域的不同角色对数据平台有着不同需求。例如数据工程师，数据分析人员，数据科学家等，他们对数据平台的响应时间，处理速度，数据量，开发语言等有着不同的需求。所以更多的做好分析服务，成为数据管理平台第六个驱动力。

据仓库在不断地演进过程中，从30年前的概念来看已经注入了更多新的内涵。对于新的内涵，我们可以从数据仓库的基础架构，数据架构，数据分析以及服务模型四个角度来明显看到云原生，湖仓一体，离线实时一体化、服务模型的SAAS化的演进趋势。

云原生 — 数仓基础架构的演进方向

云原生是数仓基础架构的一个基本的演进方向。传统数据仓库是基于物理服务器或云上托管服务器的模式。而云原生的情况下可以更多去应用云的基础服务，包括存储服务，网络服务以及更多的监控服务。这就意味着在云上用原生服务可以获得云的自服务、弹性等能力，云数仓就可以更好的去集成更多的云上服务，包括如何把日志数据从各种数据源抽取到数据仓库中，也包括如何进行全链路的数据管理和机器学习等。所以云原生往往包含了如何构建和如何与云上服务原生的集成。

如图，云原生的情况下在底层充分利用了云的弹性计算，存储以及安全能力。在此之上可以看到我们把所有云的复杂性都屏蔽掉，作为数据平台的用户，只需开通服务，通过web方式创建项目空间，五分钟开通一个数据仓库进行数据仓库后面模型的开发。大大简化了服务交付的周期以及数据仓库整个底层架构，技术架构构建过程。另一方面是云原生数仓的扩展性，不管你提交了一个只需要1CU的作业还是提交一个可能需要10000CU的作业，平台都会按你的需要调度资源来进行数据处理。所以云原生又给我们带来近乎无限的扩展性。

湖仓一体 — 数仓数据架构的演进方向

讲到湖仓一体，先来看湖仓一体背后的原因。不得不说到今天为止数据仓库仍然是企业管理数据最优的解决方案。各个企业大都有自己的数据仓库，只不过可能是基于不同的技术形态构建的数据仓库。在处理策略，对语义的支持上，对场景的优化上以及工程经验上，数据仓库是目前沉淀下来的一个最优的方案。在此之上，企业数据量越来越大，需要更灵活更敏捷的数据探索能力。同时，对未知数据存在先存储下来再进一步探索的诉求。由此，企业在架构上需要融合数据分析的最优化和可探索两个方面的优势，从处理策略到语义支持，以及使用案例上，数据仓库和数据湖分别带给企业不同的优势。数据仓库在易管理，数据质量高，而数据湖在可探索，灵活性强方面为我们带来优势。我们要思考和讨论如何将两种方式结合起来共用，这就是提出“湖仓一体”的背景。

在MaxCompute以数据仓库为主的场景下，将数据仓库对数据管理的最优工程经验，管理经验和数据湖对数据管理的灵活性，数据处理的灵活性更好的结合在一起， 2019年我们在全球率先提出了“湖仓一体”的全新数据管理架构。基于MaxCompute数据仓库来提供安全可靠的，结构化的数据管理方式，以及在此之上由DataWorks提供数据血缘，数据地图和数据治理等能力。这些能力如何延伸到数据湖中？今天我们可见的数据湖包括基于云上的对象存储OSS，也包含企业中基于Hadoop HDFS的数据湖，对于这两类数据湖如何基于已有的灵活性能够获得更容易探索能力，能提升它们得数据处理性能，管理能力和安全性？

我们所做的就是把数据仓库和数据湖两者打通，通过数据湖构建DLF，发现数据湖的元数据，进行结构化的统一管理，融合湖的灵活和便捷优势。这就是以仓为中心的湖仓一体新型数据管理的架构，数据仓库在企业数据的管理方式上往前又推进了一步。

离线实时一体 — 数仓数据分析的演进方向

在企业的数据仓库中，通过SLS、Kafka等订阅的方式进行数据采集，通常有三种路径。第一种可能是将一部分数据归档在数据仓库中，然后进行全量的分析。第二种是进行实时的查询分析，比如风控场景下查一个电话号码过去三年的通话记录，要马上查出来，就需要进行实时的连接分析。第三种是进行一些关联的多维度查询，对这些实时数据等进行关联的基础上，后面再来进行批量的处理，实时处理以及点查。实时数据的获取，计算以及应用这三方面，构成了整个数仓由离线向实时发展的三个核心含义。这里最核心的就是计算。计算的本质无外乎两个，一个是主动计算，另一个是被动计算。离线计算往往是被动计算，需要数仓工程师通过定义任务来调度作业，才能计算出新的结果。在实时离线一体化中，除了被动计算，还要有主动计算能力。当数据流入后，不做人工干预，任何作业的插入和重启都能自动算出新的结果或中间结果。参与实时计算就最大程度的增加了主动计算的过程，而主动的结果带给我们的好处就是无需重新调度任何作业就能拿到想要的结果数据。

在离线和实时一体的情况下虽然可以解决业务上的一些问题，但架构会非常复杂。所以阿里云提出离线实时一体化的数仓架构。简化是说我们只需要核心的几个产品，就可以实现离线和实时一体化的架构。数据源包括了交易数据以及各个服务器生成的人的行为数据和物的行为数据，通过日志服务，定期归档到Hologres,之后，实时数仓加上流计算来进行实时计算，然后在下面是全量的数仓，整个完成了主动计算、被动计算和数据的实时获取。结果数据可以不用做任何搬迁，直接通过Hologres来做实时分析。将实时的数据获取，实时的数据计算和实时的数据分析服务三者打通为一体，架构上做了最大程度的简化，这就是今天所说的离线实时一体化的云数据仓库。

SaaS模式 — 数仓服务模式的演进方向

基于数仓基础架构、数据管理架构、数据分析架构的演进，这些产品的服务是如何被交付的呢？那就是通过SaaS化的方式向客户来交付数据仓库，可以最简化的去使用数据仓库的服务。

数据仓库的构成有几种方式，第一种是说基于物理服务器自建数据仓库，这是大家最为熟悉的方式。第二种是在云上基于Hadoop，也可以基于各种MPP的数据库去构建和搭建半托管的云上数据仓库。第三种和第四种就属于比较深的云原生的形式，第三种是典型Snowflake的方式，这种方式下云基础服务其实并不会暴露给数据仓库的管理者，所以我们把它叫做嵌入式的，将IaaS这一层嵌入到PaaS层中，但最终数据仓库是通过SaaS的完全web的方式暴露出来的。2021年全球Forrester评测中有13家厂商参与了评估，其中以SaaS模式交付数据仓库服务的只有三家，分别是谷歌的BigQuery，Snowflake和阿里云MaxCompute。

可以看到通过云计算的数据仓库服务，从自建到云原生，帮我们最大化的降低了数据仓库的管理复杂度，整个架构少了很多层，无需管理集群和软件，通过服务化的方式达到免运维，将底层的所有这些需管理的内容去掉，后台升级是由云厂商来提供服务的，只需要管理自己的数据和数据模型，通过web方式来使用数据仓库服务。在数据仓库里存储的数据与云存储一样，按存储量付费。计算也是一样的，不计算不花钱。充分体现了SaaS化的优势。同时，在匹配业务需求上具备非常强的弹性能力，我们有很多客户日常只需要一万核的算力，在双十一当天需要三万核的算力。在这种SaaS模式的服务下，用户在完全无感知的情况下我们就可以保证充沛的弹性能力去满足数据仓库的各种工作需求了。

综上，数据仓库从1990年的数据库演进到数据仓库，到MPP架构，到大数据时代的数据仓库，再到今天的云原生的数据仓库的一路演进，基础架构的云原生，数据架构的湖仓一体，数据分析的离线实时一体化以及数仓服务模式的SaaS化，是最为主要的四个演进的方向和特征。阿里云正在通过全新数据仓库架构给企业带来具备更优体验的数据管理的方式。

原文链接

本文为阿里云原创内容，未经允许不得转载。

数仓架构的持续演进与发展 — 云原生、湖仓一体、离线实时一体、SaaS模式相关推荐

指数级暴增、复杂场景下，揭秘百度云原生湖仓架构等系列数据产品
9月28日,百度智能云2021"云智技术论坛"智能大数据专场在上海举办.本次会议以"云智一体,让大数据发挥大价值"为主题,百度副总裁谢广军携百度多位资深技术专家 ...
QCon大会实录：PB级数据秒级分析-腾讯云原生湖仓DLC架构揭秘
导语 ‍‍‍‍文章整理了全球软件开发大会QCon<PB级数据秒级分析-腾讯云原生湖仓DLC架构揭秘>.大数据基于海量数据的分析,硬件.存储.计算资源尽量都可以用廉价的资源完成,如何在廉价资 ...
偶数科技：基于OushuDB的新一代云原生湖仓一体为企业助力
实时性数据分析需求暴增,偶数湖仓一体为企业助力在愈发复杂的大数据场景下,数据仓库与数据湖各自的弊端开始显现,湖仓一体架构走向舞台中央.在国外有两种流行的实现数据湖仓的技术,他们分别是基于数据仓库和基 ...
华为云FusionInsight湖仓一体解决方案的前世今生
摘要:华为云发布新一代智能数据湖华为云FusionInsight时再次提到了湖仓一体理念,那我们就来看看湖仓一体的前世今生. 伴随5G.大数据.AI.IoT的飞速发展,数据呈现大规模.多样性的极速增长 ...
采访亚马逊云科技顾凡：我们的智能湖仓是架构，而非产品，更非湖仓一体
大数据产业创新服务媒体 --聚焦数据 · 改变商业本月,亚马逊创始人贝索斯正式宣布卸任CEO一职,将大权交给AWS CEO 安迪·贾西(Andy Jassy),后者用了不到20年时间将AWS打造成全 ...
云原生与微服务架构基础：01 | 为什么说云原生重构了互联网产品开发模式
为什么说云原生重构了互联网产品开发模式? 云原生的概念云计算的前世今生阶段1:虚拟化技术阶段2:虚拟机的市场化应用阶段3:容器化和容器编排的兴起云原生到底是什么? 云原生出现的背景云原生解 ...
PouchContainer 容器技术演进助力阿里云原生升级
点击下载<不一样的双11 技术:阿里巴巴经济体云原生实践> 作者 | 杨育兵(沈陵) 阿里巴巴高级技术专家我们从 2016 年开始在集团推广全面的镜像化容器化,今年是集团全面镜像化容器 ...
柯基数据通过Rainbond完成云原生改造，实现离线持续交付客户
1.关于柯基数据南京柯基数据科技有限公司成立于2015年,提供一站式全生命周期知识图谱构建和运维.智能应用服务,致力于"链接海量数据,从大数据中挖掘智慧".帮助企业运用知识图谱 ...
云原生微服务架构实战精讲第二节云原生和Kubernete
第03讲:云原生应用的 15 个特征本课时我将带你学习云原生应用. 微服务架构只是一种软件架构风格,并不限制所采用的实现技术,开发团队可以自由选择最合适的技术来实现.在第 01 课时介绍微服务架构的 ...

数仓架构的持续演进与发展 — 云原生、湖仓一体、离线实时一体、SaaS模式

数仓架构的持续演进与发展 — 云原生、湖仓一体、离线实时一体、SaaS模式相关推荐

最新文章

热门文章