ETL工具(数据同步)
一、研究了kettle
Kettle最早是一个开源的ETL工具
前置条件,kettle是一个jar包项目,依赖jdk。安装kettle需要安装好jdk环境
二、下载安装
1、源代码下载:
GitHub - pentaho/pentaho-kettle: Pentaho Data Integration ( ETL ) a.k.a KettlePentaho Data Integration ( ETL ) a.k.a Kettle. Contribute to pentaho/pentaho-kettle development by creating an account on GitHub.https://github.com/pentaho/pentaho-kettle/
kettle工具下载:
Pentaho from Hitachi Vantara - Browse Files at SourceForge.netEnd to end data integration and analytics platformhttps://sourceforge.net/projects/pentaho/files/2、目录说明
Spoon.bat: 图形界面方式启动作业和转换设计器。
Pan.bat: 命令行方式执行转换。
Kitchen.bat: 命令行方式执行作业。
Carte.bat: 启动web服务,用于 Kettle 的远程运行或集群运行。
Encr.bat: 密码加密
三、数据复制使用步骤
1、打开Spoon.bat文件
2、资源库
①选择开发方案,选择资源库方式
文件->新建->转换 打开转换操作界面
② 工具 -> 向导 -> 创建数据库向导
输入数据库连接1
然后设置JDBC地址
第一次连接mysql需要下载mysql驱动,下载好驱动,放到你的spoon解压目录中的:data-integration/lib/里面,重启spoon
相关驱动jar:
mysql驱动下载地址:
https://mvnrepository.com/artifact/mysql/mysql-connector-java
oracle驱动下载地址
https://mvnrepository.com/artifact/ojdbc/ojdbc
数据库连接一,连接成功
同理:创建另一个数据库连接,可以是mysql连接2,也可以是oracle连接,SqlServer连接等等
③、通过工具->数据库->浏览分别可以i看到多个数据库连接的,状况,表和视图等等均可以看到
④建立表输入
1、打开核心对象
2、建立表输入-源表连接
选择输入->表输入
修改步骤名称、数据库连接,和对应sql。可以预览数据
⑤建立表输出-目标表连接
选择输出->表输出,同时建立好输入与输出的关联关系
修改步骤名称、数据库连接,和对应sql。可以预览数据
⑥在输入、输出之前还需要加一个步骤清理SQL
组件库->选择脚本->选择执行SQL脚本
选择数据库连接,一定要确认好,是清理目标地址。不要选成清理源表数据!!!切记
四、 测试转换是否正常工作
查看日志转换正常
目标表也同步完成数据
五、新建作业,更改作业名称与配置
其中transformation所选择文件,是上一步转换保存的脚本路径
选择 Start 、成功、转换任务 可以选择多个转换任务
其中Start组件可以设置任务定时启动的时间配置
将转换脚本保存到 文件夹/脚本保存/中
将定时作业保存到 文件夹/job/中
方便下次重新启动
附录:kettle学习路径
1、基础学习-使用方法
ETL工具(数据同步)_无敌小田田的博客-CSDN博客Kettle做跨库数据迁移工作https://blog.csdn.net/qq_36602951/article/details/125898662
2、linux运维部署ETL工具(数据同步) 二_无敌小田田的博客-CSDN博客kettle使用掌握之后,还需要掌握在linux下的定时执行的策略https://blog.csdn.net/qq_36602951/article/details/125959374
ETL工具(数据同步)相关推荐
- ETL工具(数据同步) 二
kettle使用掌握之后,还需要掌握在linux下的定时执行的策略 一.kettle使用感觉较为方便 虽然kettle自带调度任务.但是前提是需要保持kettle打开.并且作业处在运行状态.不太适合用 ...
- ETL的数据同步工具调研(持续更新中)
扯白了,数据同步工具就是"导数据 "的 名称 社区响应 国内使用情况(以前程无忧为参考) SQOOP 更新缓慢,对于hbase2.x以上版本使用时需要老版本的jar包 9页 Dat ...
- Kettle-开源的ETL工具集-实现SqlServer到Mysql表的数据同步并部署在Windows服务器上
场景 kettle 中文名称叫水壶,该项目的主程序员MATT希望把各种数据放到一个壶里,然后 以一种指定的格式流出.是一款由纯Java编写的ETL工具,绿色无需安装,数据抽取高效稳定(数据迁移工具). ...
- etl数据抽取工具_数据同步工具ETL、ELT傻傻分不清楚?3分钟看懂两者区别
什么是数据同步工具(ETL.ELT) 数据同步工具ETL或者ELT的作用是将业务系统的数据经过抽取.清洗转换之后加载到数据仓库的过程,目的是将企业中的分散.零乱.标准不统一的数据整合到一起,为企业的决 ...
- 数据提取、转换和加载 - ETL工具
ETL,Extraction-Transformation-Loading的缩写,中文名称为数据提取.转换和加载. ETL工具有:OWB(Oracle Warehouse Builder).ODI(O ...
- 数据库增量同步/ETL工具
数据同步与订阅: 比较推荐的是阿里的Canal.Zendesk的Maxwell.以及来自社区的Python-Mysql-Replication ETL工具 kettle Kettle 是一款国外开源的 ...
- 数据同步工具Sqoop
大数据Hadoop之--数据同步工具Sqoop Sqoop基本原理及常用方法 1 概述 Apache Sqoop(SQL-to-Hadoop)项目旨在协助RDBMS(Relational Databa ...
- 数据同步工具的研究(实时)
数据同步工具的研究(实时同步): FlinkCDC.Canal.Maxwell.Debezium --2023年01月17日 --Yahui Di 1. 常用CDC方案比较 2. FlinkCDC F ...
- 常用的数据集成ETL工具有哪些?
一.Informatica Informatica是全球领先的数据管理软件提供商.在如下 Gartner魔力象限位于领导者地位:数据集成工具魔力象限.数据质量工具魔力象限.元数据管理解决方案魔力象限. ...
最新文章
- 散列表查找(哈希表)
- IT规划宜分步走 忌盲目好大喜功(载)
- Openldap配置TLS加密传输(完整版——shell脚本实现[分别在客户端与服务器端执行脚本,实现TLS加密])
- 平面设计师如何掌握色彩心理学(实用技巧)
- centos磁盘空间满查询和移动命令小记
- iPhone手机获取uuid 安装测试app
- gzip+chunked页面分段输出,resin gzip trunked无效,页面数据写入自定义buffer
- Android实现支付宝AR功能,Android RecyclerView 实现支付宝首页效果
- 我怀疑对象做了什么对不起我的事......
- PS比狠大赛!看看谁家的照片更丑!
- 统计测序数据reads数和碱基数的几种方法
- Linux中同步MySQL
- 卓越产品计划丨神策分析性能优化详解:数据重组织查询优化
- 中间件是什么意思?中间件技术简介
- 利用cad计算型材的弹性模量_已知阶梯形直杆受力如图所示,材料的弹性模量
- 【WPS】折线图数据点上添加标记(三角形、正方形、菱形等)
- 分号的html文本,vue中利用v-html按分号将文本换行
- 企业选人的三个阶段和几个标准
- 汽车电子——常见的英文缩写(更新中)
- 基于 STM32对音频数据的 Flash 读取与 DAC 播放