连载：阿里巴巴大数据实践—数据开发平台
简介：介绍MaxCompute和阿里巴巴内部基于MaxCompute的大数据开发套件，并对在数据开发过程中经常遇到的问题和相关解决方案进行介绍。
前言：
-更多关于数智化转型、数据中台内容请加入阿里云数据中台交流群—数智俱乐部 和关注官方微信公总号（文末扫描二维码或点此加入）
-阿里云数据中台官网 https://dp.alibaba.com/index
数据只有被整合和计算，才能被用于洞察商业规律，挖掘潜在信息，从而实现大数据价值，达到赋能于商业和创造价值的目的。面对海量的数据和复杂的计算，阿里巴巴的数据计算层包括两大体系：数据存储及计算平台（离线计算平台MaxCompute和实时计算平台StreamCompute）、数据整合及管理体系（OneData）。
阿里数据研发岗位的工作大致可以概括为：了解需求→模型设计→ETL开发→测试→发布上线→日常运维→任务下线。与传统的数据仓库开发（ETL）相比，阿里数据研发有如下几个特点：
- 业务变更频繁——业务发展非常快，业务需求多且变更频繁；
- 需要快速交付——业务驱动，需要快速给出结果；
- 频繁发布上线——迭代周期以天为单位，每天需要发布数次；
- 运维任务多——在集团公共层平均每个开发人员负责上百多个任务；
- 系统环境复杂——阿里平台系统多为自研，且为了保证业务的发展，平台系统的迭代速度较快，平台的稳定性压力较大。
通过统一的计算平台（MaxCompute）、统一的开发平台、统一的数据模型规范和统一的数据研发规范，可以在一定程度上解决数据研发的痛点。
本文主要介绍MaxCompute和阿里巴巴内部基于MaxCompute的大数据开发套件，并对在数据开发过程中经常遇到的问题和相关解决方案进行介绍。
1、统一计算平台
阿里离线数据仓库的存储和计算都是在阿里云大数据计算服务MaxCompute上完成的。
大数据计算服务MaxCompute是由阿里云自主研发的海量数据处理平台，主要服务于海量数据的存储和计算，提供完善的数据导入方案，以及多种经典的分布式计算模型，提供海量数据仓库的解决方案，能够更快速地解决用户的海量数据计算问题，有效降低企业成本，并保障数据安全。
MaxCompute采用抽象的作业处理框架，将不同场景的各种计算任务统一在同一个平台之上，共享安全、存储、数据管理和资源调度，为来自不同用户需求的各种数据处理任务提供统一的编程接口和界面。它提供数据上传/下载通道、SQL、MapReduce、机器学习算法、图编程模型和流式计算模型多种计算分析服务，并且提供完善的安全解决方案。
1．MaxCompute的体系架构
MaxCompute由四部分组成，分别是客户端（MaxCompute Client）、接入层（MaxCompute Front End）、逻辑层（MaxCompute Server）及存储与计算层（Apsara Core）。
图：MaxCompute体系架构图
2．MaxCompute的特点
（1）计算性能高且更加普惠
2016年11月10日，Sort Benchmark在官方网站公布了2016年排序竞赛CloudSort项目的最终成绩。阿里云以$1.44/TB的成绩获得 Indy（专用目的排序）和Daytona（通用目的排序）两个子项的世界冠军，打破了AWS在2014年保持的纪录$4.51/TB。这意味着阿里云将世界顶级的计算能力，变成普惠科技的云产品。CloudSort又被称为“云计算效率之争”，这项目赛比拼的是完成100TB数据排序谁的花费更少，也是Sort Benchmark的各项比赛当中最具现实意义的项目之一。
（2）集群规模大且稳定性高
MaxCompute平台共有几万台机器、存储近1000PB，支撑着阿里巴巴的很多业务系统，包括数据仓库、BI分析和决策支持、信用评估和无担保贷款风险控制、广告业务、每天几十亿流量的搜索和推荐相关性分析等，系统运行非常稳定。同时，MaxCompute能保证数据的正确性，如对数据的准确性要求非常高的蚂蚁金服小额贷款业务，就运行于MaxCompute平台之上。
（3）功能组件非常强大
MaxCompute SQL：标准SQL的语法，提供各类操作和函数来处理数据。
MaxCompute MapReduce：提供Java MapReduce 编程模型，通过接口编写MR程序处理MaxCompute中的数据。还提供基于MapReduce的扩展模型MR2，在该模型下，一个Map函数后可以接入连续多个Reduce函数，执行效率比普通的MapReduce模型高。
MaxCompute Graph：面向迭代的图计算处理框架，典型应用有PageRank、单源最短距离算法、K-均值聚类算法。
Spark：使用Spark接口编程处理存储在MaxCompute中的数据。
RMaxCompute：使用R处理MaxCompute中的数据。
Volume：MaxCompute以Volume的形式支持文件，管理非二维表数据。
（4）安全性高
MaxCompute提供功能强大的安全服务，为用户的数据安全提供保护。MaxCompute采用多租户数据安全体系，实现用户认证、项目空间的用户与授权管理、跨项目空间的资源分享，以及项目空间的数据保护。如支付宝数据，符合银行监管的安全性要求，支持各种授权鉴权审查和“最小访问权限”原则，确保数据安全。
2、统一开发平台
阿里数据开发平台集成了多个子系统来解决实际生产中的各种痛点。围绕MaxCompute计算平台，从任务开发、调试、测试、发布、监控、报警到运维管理，形成了整套工具和产品，既提高了开发效率，又保证了数据质量，并且在确保数据产出时效的同时，能对数据进行有效管理。
数据研发人员完成需求了解和模型设计之后，进入开发环节，开发工作流如图所示。
图：开发工作流图
对应于开发工作流的产品和工具如下图所示，我们将对其功能进行简要介绍。
1．在云端（D2）
D2是集成任务开发、调试及发布，生产任务调度及大数据运维，数据权限申请及管理等功能的一站式数据开发平台，并能承担数据分析工作台的功能。
图：对应于开发工作流的产品和工具
用户使用D2进行数据开发的基本流程如下：
——用户使用IDE进行计算节点的创建，可以是SQL/MR任务，也可以是Shell任务或者数据同步任务等，用户需要编写节点代码、设置节点属性和通过输入输出关联节点间依赖。设置好这些后，可以通过试运行来测试计算逻辑是否正确、结果是否符合预期。
——用户点击提交，节点进入开发环境中，并成为某个工作流的其中一个节点。整个工作流可以被触发调度，这种触发可以是人为的（称之为“临时工作流”），也可以是系统自动的（称之为“日常工作流”）。当某个节点满足所有触发条件后，会被下发到调度系统的执行引擎Alisa中，完成资源分配和执行的整个过程。
如果节点在开发环境中运行无误，用户可以点击发布，将该节点正式提交到生产环境中，成为线上生产链路的一个环节。
2．SQLSCAN
SQLSCAN将在任务开发中遇到的各种问题，如用户编写的SQL质量差、性能低、不遵守规范等，总结后形成规则，并通过系统及研发流程保障，事前解决故障隐患，避免事后处理。
SQLSCAN与D2进行结合，嵌入到开发流程中，用户在提交代码时会触发SQLSCAN检查。SQLSCAN工作流程如下图所示。
图：SQLSCAN工作流程图
用户在D2的IDE中编写代码。
——用户提交代码，D2将代码、调度等信息传到SQLSCAN。
——SQLSCAN根据所配置的规则执行相应的规则校验。
——SQLSCAN将检查成功或者失败的信息传回D2。
——D2的IDE显示OK（成功）、WARNNING（警告）、FAILED（失败，禁止用户提交）等消息。
SQLSCAN主要有如下三类规则校验：
代码规范类规则，如表命名规范、生命周期设置、表注释等。
代码质量类规则，如调度参数使用检查、分母为0提醒、NULL值参与计算影响结果提醒、插入字段顺序错误等。
代码性能类规则，如分区裁剪失效、扫描大表提醒、重复计算检测等。
SQLSCAN规则有强规则和弱规则两类。触发强规则后，任务的提交会被阻断，必须修复代码后才能再次提交；而触发弱规则，则只会显示违反规则的提示，用户可以继续提交任务。
3．DQC
DQC（Data Quality Center，数据质量中心）主要关注数据质量，通过配置数据质量校验规则，自动在数据处理任务过程中进行数据质量方面的监控。
DQC主要有数据监控和数据清洗两大功能。数据监控，顾名思义，能监控数据质量并报警，其本身不对数据产出进行处理，需要报警接收人判断并决定如何处理；而数据清洗则是将不符合既定规则的数据清洗掉，以保证最终数据产出不含“脏数据”，数据清洗不会触发报警。
DQC数据监控规则有强规则和弱规则之分，强规则会阻断任务的执行（将任务置为失败状态，其下游任务将不会被执行）；而弱规则只告警而不会阻断任务的执行。常见的DQC监控规则有：主键监控、表数据量及波动监控、重要字段的非空监控、重要枚举字段的离散值监控、指标值波动监控、业务规则监控等。
阿里数据仓库的数据清洗采用非侵入式的清洗策略，在数据同步过程中不进行数据清洗，避免影响数据同步的效率，其过程在数据进入ODS层之后执行。对于需要清洗的表，首先在DQC配置清洗规则；对于离线任务，每隔固定的时间间隔，数据入仓之后，启动清洗任务，调用DQC配置的清洗规则，将符合清洗规则的数据清洗掉，并保存至DIRTY表归档。如果清洗掉的数据量大于预设的阈值，则阻断任务的执行；否则不会阻断。
DQC工作流程如下图所示。
图：DQC工作流程图
4．在彼岸
数据测试的典型测试方法是功能测试，主要验证目标数据是否符合预期。其主要有如下场景：
（1）新增业务需求
新增产品经理、运营、BI等的报表、应用或产品需求，需要开发新的ETL任务，此时应对上线前的ETL任务进行测试，确保目标数据符合业务预期，避免业务方根据错误数据做出决策。其主要对目标数据和源数据进行对比，包括数据量、主键、字段空值、字段枚举值、复杂逻辑（如UDF、多路分支）等的测试。
（2）数据迁移、重构和修改
由于数据仓库系统迁移、源系统业务变化、业务需求变更或重构等，需要对现有的代码逻辑进行修改，为保证数据质量需要对修改前后的数据进行对比，包括数据量差异、字段值差异对比等，保证逻辑变更正确。为了严格保证数据质量，对于优先级（优先级的定义见“数据质量”章节）大于某个阈值的任务，强制要求必须使用在彼岸进行回归测试，在彼岸回归测试通过之后，才允许进入发布流程。
在彼岸则是用于解决上述测试问题而开发的大数据系统的自动化测试平台，将通用的、重复性的操作沉淀在测试平台中，避免被“人肉”，提高测试效率。
在彼岸主要包含如下组件，除满足数据测试的数据对比组件之外，还有数据分布和数据脱敏组件。
数据对比：支持不同集群、异构数据库的表做数据对比。表级对比规则主要包括数据量和全文对比；字段级对比规则主要包括字段的统计值（如SUM、AVG、MAX、MIN等）、枚举值、空值、去重数、长度值等。
数据分布：提取表和字段的一些特征值，并将这些特征值与预期值进行比对。表级数据特征提取主要包括数据量、主键等；字段级数据特征提取主要包括字段枚举值分布、空值分布、统计值（如SUM、AVG、MAX、MIN等）、去重数、长度值等。
数据脱敏：将敏感数据模糊化。在数据安全的大前提下，实现线上数据脱敏，在保证数据安全的同时又保持数据形态的分布，以便业务联调、数据调研和数据交换。
使用在彼岸进行回归测试的流程如下图所示。
图：使用在彼岸进行回归测试流程图
注：本书中出现的部分专有名词、专业术语、产品名称、软件项目名称、工具名称等，是淘宝（中国）软件有限公司内部项目的惯用词语，如与第三方名称雷同，实属巧合。
本文节选自《大数据之路：阿里巴巴大数据实践》已受版权保护，未经授权不得转载
数据中台是企业数智化的新基建，阿里巴巴认为数据中台是集方法论、工具、组织于一体的，“快”、“准”、“全”、“统”、“通”的智能大数据体系。目前正通过阿里云数据中台解决方案对外输出，包括零售、金融、互联网、政务等领域，其中核心产品有：
- Dataphin，一站式、智能化的数据构建及管理平台；
- Quick BI，随时随地 智能决策；
- Quick Audience，全方位洞察、全域营销、智能增长；
- Quick A+， 跨多端全域应用体验分析及洞察的一站式数据化运营平台；
官方站点：
数据中台官网 https://dp.alibaba.com
原文链接：https://developer.aliyun.com/article/769644?
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
连载：阿里巴巴大数据实践—数据开发平台相关推荐
- 连载：阿里巴巴大数据实践—数据服务
简介:服务架构的每次升级,均在性能.稳定性.扩展性等方面有所提升,从而能更好地服务于用户 前言: -更多关于数智化转型.数据中台内容请加入阿里云数据中台交流群-数智俱乐部 和关注官方微信公总号(文末扫 ...
- 连载：阿里巴巴大数据实践—数据建模综述
简介:数据模型就是数据组织和存储方法,它强调从业务.数据存取和使用角度合理存储数据. 前言: -更多关于数智化转型.数据中台内容请加入阿里云数据中台交流群-数智俱乐部 和关注官方微信公总号(文末扫描二 ...
- 阿里巴巴大数据实践 - 数据服务
数据部门产出的海量数据,如何能方便高效地开放出去,是我们一直想要解决的难题.在没有数据服务的年代,数据开放的方式简单.粗暴,一般是直接将数据导出给对方.这种方式不仅低效,还带来了安全隐患等诸多问题. ...
- 推荐一款开源跨平台 [业务大屏，数据报表] 快速开发平台
Jeecg-Boot是一款基于SpringBoot+代码生成器的快速开发平台!采用前后端分离架构:SpringBoot,Mybatis,Shiro,JWT,Vue&Ant Design.Jee ...
- 阿里巴巴大数据实践数据建模篇读书笔记001-大数据建模的意义
为什么需要数据建模? 数据建模就是数据组织和存储方法,它强调从业务,数据存取和使用角度合理存储数据. 良好的适合业务和基础数据存储环境的模型有以下优点. 1.性能:良好的数据模型可以帮助我们快速查询所 ...
- 10大开源的快速开发平台
十款最新的与软件开发者息息相关的开源工具/应用,涵盖Bug跟踪和任务管理.实时数据仪表盘.文档转换API.oAuth转换成HTTP基本身份验证等等. 1.Putdb WebBuilder 官网:htt ...
- DH-UAP（大华统一应用开发平台）简介
DH-UAP是西安大华时代网络科技有限公司开发的新一代应用开发.运行.维护平台.该平台提供了技术统一.架构合理.性能高效.安全可靠的企业级信息系统基础框架和组件库,支撑业务系统的设计.开发.测试.发布 ...
- 连载：阿里巴巴大数据实践—实时技术
简介:相对于离线批处理技术,流式实时处理技术作为一个非常重要的技术补充,在阿里巴巴集团内被广泛使用. 前言: -更多关于数智化转型.数据中台内容请加入阿里云数据中台交流群-数智俱乐部 和关注官方微信公 ...
- 苏宁大数据离线任务开发调度平台实践：任务调度模块架构设计
https://www.infoq.cn/article/xTvBg1_9iUL0z5Pjf0Os 本文是苏宁大数据离线任务开发调度平台实践系列文章之上篇,详解苏宁的任务调度模块. 目 录 1. 绪言 ...
最新文章
- swoole实现数据库连接池
- Vmware中安装RHEL5
- 体验Windows Azure的Access Control Service
- create CRM task via code
- Delphi小技巧杂记
- stm32的afio初始化代码_STM32-IO-AFIO(复用功能IO和调试配置)
- php判断绝对路径文件是否存在,php – 如何确定文件路径是否绝对？
- java在循环中删除数组元素,在循环Perl中删除数组中的元素
- think php 3.2.3 环境,ThinkPHP 3.2.3 入口文件配置
- ajax 导致 css 延迟_在H5，小程序，uni-app中使用animate.css
- Xshell、Xftp免费版获取教程
- html英文期刊参考文献,外文期刊参考文献标准格式
- 如何快速转载网页博客
- BZOJ4771七彩树——可持久化线段树+set+树链的并+LCA
- 面试常见SQL练习题
- 用js实现动态添加表格数据
- IMSI、MSISDN、MEID、IMEI
- Citrix虚拟桌面部署
- python中write写入后文件依然空白
- Python-Dataframe使用已知数据填补空值