ETL异构数据源Datax_datax-web简述

简介
地址:https://github.com/WeiYe-Jing/datax-web

DataX Web是在DataX之上开发的分布式数据同步工具，提供简
单易用的操作界面，降低用户使用DataX的学习成本，缩短任
务配置时间，避免配置过程中出错。用户可通过页面选择数据
源即可创建数据同步任务，RDBMS数据源可批量创建数据同步
任务，支持实时查看数据同步进度及日志并提供终止同步功
能，集成并二次开发xxl-job可根据时间、自增主键增量同步数
据。

架构图

在这里插入代码片

ETL异构数据源Datax_datax-web简述_09相关推荐

ETL异构数据源Datax_工具部署_02
接上一篇:(企业内部) ETL异构数据源Datax_部署前置环境_01 https://gblfy.blog.csdn.net/article/details/118081253 文章目录一.直接下 ...
ETL异构数据源Datax_部署前置环境_01
文章目录一.概述 1. 是什么? 2. 开源地址二.简介 2.1. 设计架构 2.2. 框架结构三.检查环境 3.1. 检验是否安装JDK(1.8以上,推荐1.8) 3.2. 检验是否安装pyt ...
ETL异构数据源Datax_图形化数据同步_11
数据同步全量增量知识SQL和执行频次不一样,其他的都一样文章目录一.Oracle同步Mysql(全量) 1. 添加项目 2. 添加数据源 3. 添加任务 4. 构建json 5. 任务执行 6. ...
ETL异构数据源Datax_限速设置_06
文章目录一.提升job内Channel并发有几种配置方式二.配置简述三.案例 3.1. 第一种 3.2. 第二种 3.3. 第三种 3.4. 第四种 3.5. 案例实战 3.6. 总结前言: ...
ETL异构数据源Datax_日期增量同步_13
文章目录一.全量同步 1. 增量同步SQL 2. 构建reader 3. 构建writer 4. 字段对应关系映射 5. 构建json 6. 选择同步模板 7. 查询最早时间 8. 修改任务信息 9 ...
ETL异构数据源Datax_自增ID增量同步_12
文章目录增量同步方法 1.先同步存量数据 2.再同步增量数据(根据自增ID.日期条件) 前提条件: 1.只针对数据增长,如果老数据被update/delete则无法使用增量同步方式. 基于主键自增I ...
ETL异构数据源Datax_datax-web安装部署_10
文章目录 1. 解压 2. 一键安装 3. 修改执行器py地址 4. 一键启动 5. 查看启动日志 6. 访问地址+登录 7. 操作记录 1. 解压 tar -zxvf datax-web-2.1.2 ...
ETL异构数据源Datax_使用querySql_08
使用说明当用户配置了这一项之后,DataX系统就会忽略table,column 这些配置型,直接使用这个配置项的内容对数据进行筛选,例如需要进行多表join后同步数据,使用select a,b f ...
ETL异构数据源Datax_MySQL同步Oracle(全量)_07
文章目录 1. 清除Oracle数据库中OTBS1表的数据 2. 构建json 3. 执行脚本 4. 同步验证 5. 同步分析 7. 同步结果 1. 清除Oracle数据库中OTBS1表的数据 Tru ...

ETL异构数据源Datax_datax-web简述_09

ETL异构数据源Datax_datax-web简述_09相关推荐

最新文章

热门文章