阿里云介绍:

1. 下载安装包。作为阿里主要的数据传输工具Datax,阿里已经完全开源到github上面了。下载地址(https://github.com/alibaba/DataX)。

2. 安装环境:

  • JDK(1.6以上,推荐1.6)
  • Python(推荐Python2.6.X)
  • Apache Maven 3.x (Compile DataX)

3. 解压到工作目录。/usr/local/datax

4. 编写源和目标表的json文件

{"job": {"setting": {"speed": {"channel": 3},"errorLimit": {"record": 0,"percentage": 0.02}},"content": [{"reader": {"name": "mysqlreader","parameter": {"writeMode": "insert","username": "root","password": "******","column": ["rec_id","column","etl_time"],"connection": [{"table": ["source_table"],"jdbcUrl": ["jdbc:mysql://11.278.80.200:34001/DW"]}]}},"writer": {"name": "mysqlwriter","parameter": {"username": "root","password": "*****","column": ["rec_id","column","etl_time"],"connection": [{"jdbcUrl": "jdbc:mysql://10.208.83.202:30001/DW","table": ["target_table"]}],              }}}],"setting": {"speed": {"channel": 1},"errorLimit": {         "record": 10}}}
}

5. 运行脚本

python /home/admin/datax3/bin/datax.py ./json/table_1.json

转载于:https://www.cnblogs.com/Jesse-Li/p/9983137.html

DataX 安装和使用相关推荐

  1. 大数据DataX(三):DataX安装及使用

    文章目录 DataX安装及使用 一.安装及使用 二.​​​​​​​​​​​​​​入门案例

  2. DataX安装部署-Reader插件二次开发

    DataX DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL.Oracle.SqlServer.Postgre.HDFS.Hive.ADS.HBase.TableS ...

  3. Datax安装及使用文档

    Datax安装及使用文档 1.Datax介绍 DataX是一个在异构的数据库/文件系统之间高速交换数据的工具,实现了在任意的数据处理系统(RDBMS/Hdfs/Local filesystem)之间的 ...

  4. datax安装 及 springboot整合 datax

    换了新工作,Java出身的我,弄点大数据的活. datax安装 环境要求 1.jdk1.8 2.python 源码地址:https://github.com/alibaba/DataX 这里我下载的是 ...

  5. datax的工具配置oracle,完全小白级DataX安装配置过程详解

    apt-get install openjdk-7-jdk Linux小白,创建和删除文件夹都现问度娘学会的小白,最近被勒令研究一下DataX,当时一脸蒙X,根本木有听过吖,但是领导吩咐了就得办吖,问 ...

  6. datax安装记录备忘

    1.下载datax 2.上传datax至数据库服务器 3.解压: tar -zxvf datax.tar.gz -C  /home/soft/ 4.查看java,python 环境 Python –V ...

  7. datax安装+配置+使用文档

    1 DataX离线同步工具DataX3.0介绍 DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL.Oracle.SqlServer.Postgre.HDFS.Hiv ...

  8. datax 模板_dataX3.0安装使用手册.docx

    DataX3.0使用手册目录一.dataX概述11dataX作用12DataX3.0框架设计23DataX3.0插件体系2二.dataX安装31创建用户组及用户32环境变量配置43安装python4三 ...

  9. datax 持续数据同步_Datax 数据同步

    官方Hello入门例子{ "job": { "content": [ { "reader": { "name": &qu ...

最新文章

  1. 呵呵,你开心就好!——AI向杠精宣战
  2. 【译】在Asp.Net中操作PDF – iTextSharp -利用块,短语,段落添加文本
  3. java 市场_java市场前景怎样?
  4. 将 Windows10 中的 WSL 添加至右键菜单
  5. JAVA学习笔记-“Hello World”
  6. 字符输出流写数据的其他方法
  7. 关于人脸和指纹识别共同交流方案
  8. jsf组件不显示_JSF组件库–质量不只是零缺陷
  9. svn服务器地址更改
  10. 开发一个大型后台管理系统,真的需要用前后端分离的技术方案吗?
  11. CentOS 快速安装ftp
  12. 计算机考研复试面试问题总结——数据结构篇(含答案)
  13. swf游戏保存进度_flash格式如何保存为swf格式动画?flash格式小游戏保存成swf格式方法 - 软件教程 - 格子啦...
  14. wordpress 百度主动推送 PHP,WordPress 百度自动推送插件
  15. 传奇gom引擎架设教程
  16. 阿里云上创建 对象存储oss
  17. python正态分布函数_使用Python实现正态分布、正态分布采样
  18. Android aab打包报错(持续更新中~),android插件开发过时
  19. Finished with error:Navicat 运行SQL文件 报错
  20. 使用context:component-scan base-package= /context:component-scan报500错误

热门文章

  1. 微软职位内部推荐-Software Development Engineer II
  2. 怎么在html中写当前时间,当前时间(Javascript)在HTML
  3. android2.2编译,Android NDK编译Box2D_V2.2
  4. python excel操作单元格_python 操作excel表格的方法
  5. 后序遍历的非递归算法python_刷题系列 - Python用非递归实现二叉树后续遍历
  6. 计算机基础知识掌握欠缺,《计算机基础知识》实验教学改革探讨.pdf
  7. ajax csv写文件内容,接收.csv文件作为ajax成功函数中的数据
  8. 基于NB-IoT的智慧路灯监控系统(NB-IoT专栏—实战篇1:项目简介)
  9. kernfs_addrm_start kernfs_add_one
  10. 【深度学习】(8) CNN中的通道注意力机制(SEnet、ECAnet),附Tensorflow完整代码