简介:数据集成是简单高效的数据同步平台,致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力,为数据中台的建设打好坚实的数据基座。

-更多数智化转型、数据中台内容请加入阿里云数据中台交流群以及官方微信(文末扫描二维码)

-阿里云数据中台官网 https://dp.alibaba.com/index


数据中台是当下大数据领域最前沿的数据建设体系, 它并不是从零开始, 无中生有的。数据中台是传统的数据仓库的一种升级, 是数据采集、建设、管理与使用的一整套体系。                Dataphin是一个构建数据中台的强大工具, 数据集成是Dataphin的组成部分,负责数据“采”、“建”、“管”“用”中的采集部分。数据集成是简单高效的数据同步平台,致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力,为数据中台的建设打好坚实的数据基座。

(Dataphin:面向各行各业大数据建设、管理及应用诉求,一站式提供从数据接入到数据消费全链路的智能数据构建与管理的大数据能力,包括产品、技术和方法论等,助力打造标准统一、融会贯通、资产化、服务化、闭环自优化的智能数据体系,以驱动创新。详细了解:https://dp.alibaba.com/product/dataphin)

数据集成定位

数据集成是数据中台建设中最基础的工作,将不同系统的数据相互打通,实现数据自由离线或实时流动。

面对各行各业对大数据越来越多的应用,对数据集成也有了更多的诉求。包括:能够简单高效的配置大量数据表的同步任务;能够集成多种异构数据源;能够实现对数据源的数据进行轻度预处理;能够实现数据同步任务的调优(例如容错,限速,并发)等。Dataphin的数据集成模块主要面向企业数据开发人员,以组件拖拉拽的形式,帮助企业高效构建大数据流通管道,从而将各种烟囱状态的数据汇聚到数据中台

数据集成能力

数据集成旨在为用户构建简单高效、安全可靠的数据同步平台:

  • 支持通过整库迁移(快速生成批量同步任务)和一键生成目标表的方式,提高数据集成的效率。
  • 支持流程和转换组件,实现数据源的数据预处理(例如清洗、转换、字段脱敏、计算、合并、分发、过滤等)能力。
  • 支持丰富的异构数据源,实现数据源之间数据高速稳定的同步能力。
  • 支持Dev-Prod和Basic的开发模式,您可以根据业务场景进行灵活选择开发模式。
  • 支持将Dataphin中创建的逻辑表快速地同步到目标库。
  • 用户可自定义系统尚未支持的数据源组件,以满足不同业务场景数据同步的需求。

数据集成场景关注要点

- 易用性

用户进行数据中台建设时,需要集成的表的数量往往很多,需要进行大量重复的繁琐配置工作。

Dataphin的数据集成通过高效的拖拽式操作,自动化一键自动建表、组件复制和整体管道配置复制,批量化的整库迁移等操作可大大提高系统的易用性及操作效率。

Dataphin的数据集成的画布数据的输入、转换、输出组件、采集工作流、采集任务等可视化功能,使管理员直观的掌握数据采集情况。

Dataphin的数据集成在任务搭建过程中支持同步任务试运行、度量查看、数据预览,方便用户进行数据集成任务的调试。

- 多源异构的数据同步能力

在企业信息化建设过程中,由于各业务系统建设和实施数据管理系统的阶段性、技术性以及其它经济和人为因素等因素影响,导致企业在发展过程中积累了大量采用不同存储方式的业务数据,包括采用的数据管理系统也大不相同,从简单的文件数据库到复杂的网络数据库,它们构成了企业的异构数据源。

在数据中台的建设中,需要支持各种异构数据源的数据集成,Dataphin的数据集成可支持30+种数据源的支持,同时可自定义数据源进行灵活接入。

- 数据预处理、同步配置能力

在数据集成过程中,来源端数据会有轻度预处理诉求,比如敏感数据加密、数据过滤、分库分表数据合并、追 加字等。也会有各式各样同步配置诉求,如容错,限速,并发,同步过程调试等。

Dataphin的数据集成支持数据清洗转换能力,提供字段计算、合并、分发、过滤、字段脱敏等组件或函数,支持容错配置、并发配置、限速配置等。

以上就是Dataphin的核心功能数据集成的介绍, 希望能帮助您更好地使用Dataphin数据集成功能。

了解产品更多内容可以戳入:https://dp.alibaba.com/product/dataphin


数据中台是企业数智化的必经之路,阿里巴巴认为数据中台是集方法论、工具、组织于一体的,“快”、“准”、“全”、“统”、“通”的智能大数据体系。

目前正通过阿里云对外输出系列解决方案,包括通用数据中台解决方案、零售数据中台解决方案、金融数据中台解决方案、互联网数据中台解决方案、政务数据中台解决方案等细分场景。

其中阿里云数据中台产品矩阵是以Dataphin为基座,以Quick系列为业务场景化切入,包括:

  • - Dataphin,一站式、智能化的数据构建及管理平台;
  • - Quick BI,随时随地 智能决策;
  • - Quick Audience,全方位洞察、全域营销、智能增长;
  • - Quick A+, 跨多端全域应用体验分析及洞察的一站式数据化运营平台;
  • - Quick Stock, 智能货品运营平台;
  • - Quick Decision,智能决策平台;

官方站点:

数据中台官网 https://dp.alibaba.com

原文链接:https://developer.aliyun.com/article/786433?

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

如何将业务系统的数据抽取汇聚到数据中台?相关推荐

  1. Dataphin功能:集成——如何将业务系统的数据抽取汇聚到数据中台

    简介: 数据集成是简单高效的数据同步平台,致力于提供具有强大的数据预处理能力.丰富的异构数据源之间数据高速稳定的同步能力,为数据中台的建设打好坚实的数据基座. 数据中台是当下大数据领域最前沿的数据建设 ...

  2. mysql事务中宕机_事务执行一半,业务系统宕机,数据库的数据会怎样?

    业务系统提交了一个数据库dml指令,在尚未进行提交时,系统宕机了.那么数据库的数据会是修改前的,还是修改后的?数据库中的连接是否会断开,数据是否会被锁定?带着这些疑问,我们做的如下测试: 1.在数据库 ...

  3. etl数据抽取工具_数据同步工具ETL、ELT傻傻分不清楚?3分钟看懂两者区别

    什么是数据同步工具(ETL.ELT) 数据同步工具ETL或者ELT的作用是将业务系统的数据经过抽取.清洗转换之后加载到数据仓库的过程,目的是将企业中的分散.零乱.标准不统一的数据整合到一起,为企业的决 ...

  4. 背后的力量 | 华云数据助力龙光地产灾备平台建设 推动业务系统转型革新

    ​随着云计算.大数据.AI.移动互联网等新兴IT技术的快速发展,越来越多的传统产业正加速信息化部署,实现数字化转型和赋能. 如今,大部分企业已经把数字化转型作为企业的战略核心.企业在充分享受数字技术带 ...

  5. 如何打造业务系统的数据生产力

    我们要的不是数据记录,而是能够产生业务价值的数据记录: 我们要的不是数据看板,而是能够产生业务价值的数据看板: 我们要的不是数据中台,而是能够产生业务价值的数据中台: 我们要的不是数据闭环,而是能够产 ...

  6. BI项目中的ETL设计详解(数据抽取、清洗与转换)

    ETL是BI项目最重要的一个环节,通常情况下ETL会花掉整个项目的1/3的时间,ETL设计的好坏直接关接到BI项目的成败.ETL也是一个长期的过程,只有不断的发现问题并解决问题,才能使ETL运行效率更 ...

  7. 新核心业务系统数据架构规划与数据治理

    本文根据[2016 第七届中国数据库技术大会](微信搜索DTCC2014,关注中国数据库技术大会公众号)现场演讲嘉宾种磊老师分享内容整理而成.录音整理及文字编辑IT168@田晓旭@老鱼. 嘉宾介绍: ...

  8. 【技术分享】新核心业务系统数据架构规划与数据治理

    本文整理自DTCC2016主题演讲内容,录音整理及文字编辑IT168@田晓旭@老鱼.如需转载,请先联系本公众号获取授权! 演讲嘉宾 种磊 农银人寿新核心数据架构组组长 经济师,农银人寿IT部资深专员. ...

  9. etl:BI项目中的ETL设计详解(数据抽取、清洗与转换)

    ETL是BI项目最重要的一个环节,通常情况下ETL会花掉整个项目的1/3的时间,ETL设计的好坏直接关接到BI项目的成败.ETL也是一个长期的过程,只有不断的发现问题并解决问题,才能使ETL运行效率更 ...

最新文章

  1. session 对象的简单实例
  2. MySQL数据库:编码
  3. js 手机号加密 中间星号表示
  4. Delphi中关于Rtti的一些操作(一)
  5. 在 Linux 上安装 Oracle 数据库 11g
  6. ajax php 动态,jQuery+PHP+Ajax实现动态数字统计展示功能
  7. [02] JSP内置对象
  8. 数模写作必备利器—latex
  9. ios uiview 如何刷新_ios-如何在Swift中刷新imageview而无需重新加载页面?
  10. 新浪第一时间视频直播全球火炬接力
  11. 线程安全(thread-safe)介绍
  12. Silverlight WCF RIA服务(十七)数据 7
  13. 虚拟化技术中,不同层级结构间的虚拟化运用
  14. csdn积分获取攻略
  15. 【图像增强】基于脉冲神经网络PCNN实现图像增强附matlab代码
  16. 在10分钟内完成微信小程序开发
  17. 从微盟员工删库跑路看程序员的职业素养。
  18. windows oracle部署碰到的问题:ORA-12541: TNS: 无监听程序/未找到wfmlrsvcapp.ear/导入命令
  19. 小米登录协议分析_小米智能家居设备流量分析及脚本控制
  20. Spring报错 conflicts with existing, non-compatible bean definition of same name and class

热门文章

  1. ubuntu系统如何切换到root用户登录
  2. 秀啊,用Python快速开发在线数据库更新修改工具
  3. c语言中tgx是什么函数,《高等数学》课后练习题
  4. python程序员工作时间_Python程序员是怎么找工作的?怎么最快时间找到自己想要的工作?...
  5. 南昌大学c程序计算机作业,南昌大学计算机作业第二章答案
  6. ubuntu16安装中文版和windows关联
  7. ubuntu 构建 deb 安装包
  8. vue2.0搭建vue手脚架(vue-cli)
  9. mysql-in关键字,分组查询,分页查询
  10. 【QuotationTool】主要数据结构