DataX 安装和使用
阿里云介绍:
1. 下载安装包。作为阿里主要的数据传输工具Datax,阿里已经完全开源到github上面了。下载地址(https://github.com/alibaba/DataX)。
2. 安装环境:
- JDK(1.6以上,推荐1.6)
- Python(推荐Python2.6.X)
- Apache Maven 3.x (Compile DataX)
3. 解压到工作目录。/usr/local/datax
4. 编写源和目标表的json文件
{"job": {"setting": {"speed": {"channel": 3},"errorLimit": {"record": 0,"percentage": 0.02}},"content": [{"reader": {"name": "mysqlreader","parameter": {"writeMode": "insert","username": "root","password": "******","column": ["rec_id","column","etl_time"],"connection": [{"table": ["source_table"],"jdbcUrl": ["jdbc:mysql://11.278.80.200:34001/DW"]}]}},"writer": {"name": "mysqlwriter","parameter": {"username": "root","password": "*****","column": ["rec_id","column","etl_time"],"connection": [{"jdbcUrl": "jdbc:mysql://10.208.83.202:30001/DW","table": ["target_table"]}], }}}],"setting": {"speed": {"channel": 1},"errorLimit": { "record": 10}}} }
5. 运行脚本
python /home/admin/datax3/bin/datax.py ./json/table_1.json
转载于:https://www.cnblogs.com/Jesse-Li/p/9983137.html
DataX 安装和使用相关推荐
- 大数据DataX(三):DataX安装及使用
文章目录 DataX安装及使用 一.安装及使用 二.入门案例
- DataX安装部署-Reader插件二次开发
DataX DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL.Oracle.SqlServer.Postgre.HDFS.Hive.ADS.HBase.TableS ...
- Datax安装及使用文档
Datax安装及使用文档 1.Datax介绍 DataX是一个在异构的数据库/文件系统之间高速交换数据的工具,实现了在任意的数据处理系统(RDBMS/Hdfs/Local filesystem)之间的 ...
- datax安装 及 springboot整合 datax
换了新工作,Java出身的我,弄点大数据的活. datax安装 环境要求 1.jdk1.8 2.python 源码地址:https://github.com/alibaba/DataX 这里我下载的是 ...
- datax的工具配置oracle,完全小白级DataX安装配置过程详解
apt-get install openjdk-7-jdk Linux小白,创建和删除文件夹都现问度娘学会的小白,最近被勒令研究一下DataX,当时一脸蒙X,根本木有听过吖,但是领导吩咐了就得办吖,问 ...
- datax安装记录备忘
1.下载datax 2.上传datax至数据库服务器 3.解压: tar -zxvf datax.tar.gz -C /home/soft/ 4.查看java,python 环境 Python –V ...
- datax安装+配置+使用文档
1 DataX离线同步工具DataX3.0介绍 DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL.Oracle.SqlServer.Postgre.HDFS.Hiv ...
- datax 模板_dataX3.0安装使用手册.docx
DataX3.0使用手册目录一.dataX概述11dataX作用12DataX3.0框架设计23DataX3.0插件体系2二.dataX安装31创建用户组及用户32环境变量配置43安装python4三 ...
- datax 持续数据同步_Datax 数据同步
官方Hello入门例子{ "job": { "content": [ { "reader": { "name": &qu ...
最新文章
- 呵呵,你开心就好!——AI向杠精宣战
- 【译】在Asp.Net中操作PDF – iTextSharp -利用块,短语,段落添加文本
- java 市场_java市场前景怎样?
- 将 Windows10 中的 WSL 添加至右键菜单
- JAVA学习笔记-“Hello World”
- 字符输出流写数据的其他方法
- 关于人脸和指纹识别共同交流方案
- jsf组件不显示_JSF组件库–质量不只是零缺陷
- svn服务器地址更改
- 开发一个大型后台管理系统,真的需要用前后端分离的技术方案吗?
- CentOS 快速安装ftp
- 计算机考研复试面试问题总结——数据结构篇(含答案)
- swf游戏保存进度_flash格式如何保存为swf格式动画?flash格式小游戏保存成swf格式方法 - 软件教程 - 格子啦...
- wordpress 百度主动推送 PHP,WordPress 百度自动推送插件
- 传奇gom引擎架设教程
- 阿里云上创建 对象存储oss
- python正态分布函数_使用Python实现正态分布、正态分布采样
- Android aab打包报错(持续更新中~),android插件开发过时
- Finished with error:Navicat 运行SQL文件 报错
- 使用context:component-scan base-package= /context:component-scan报500错误
热门文章
- 微软职位内部推荐-Software Development Engineer II
- 怎么在html中写当前时间,当前时间(Javascript)在HTML
- android2.2编译,Android NDK编译Box2D_V2.2
- python excel操作单元格_python 操作excel表格的方法
- 后序遍历的非递归算法python_刷题系列 - Python用非递归实现二叉树后续遍历
- 计算机基础知识掌握欠缺,《计算机基础知识》实验教学改革探讨.pdf
- ajax csv写文件内容,接收.csv文件作为ajax成功函数中的数据
- 基于NB-IoT的智慧路灯监控系统(NB-IoT专栏—实战篇1:项目简介)
- kernfs_addrm_start kernfs_add_one
- 【深度学习】(8) CNN中的通道注意力机制(SEnet、ECAnet),附Tensorflow完整代码