一、研究了kettle

Kettle最早是一个开源的ETL工具

前置条件,kettle是一个jar包项目,依赖jdk。安装kettle需要安装好jdk环境

二、下载安装

1、源代码下载:

GitHub - pentaho/pentaho-kettle: Pentaho Data Integration ( ETL ) a.k.a KettlePentaho Data Integration ( ETL ) a.k.a Kettle. Contribute to pentaho/pentaho-kettle development by creating an account on GitHub.https://github.com/pentaho/pentaho-kettle/

 kettle工具下载:

Pentaho from Hitachi Vantara - Browse Files at SourceForge.netEnd to end data integration and analytics platformhttps://sourceforge.net/projects/pentaho/files/2、目录说明

Spoon.bat: 图形界面方式启动作业和转换设计器。
Pan.bat: 命令行方式执行转换。
Kitchen.bat: 命令行方式执行作业。
Carte.bat: 启动web服务,用于 Kettle 的远程运行或集群运行。
Encr.bat: 密码加密

三、数据复制使用步骤

1、打开Spoon.bat文件

2、资源库

①选择开发方案,选择资源库方式

文件->新建->转换 打开转换操作界面

② 工具 -> 向导 -> 创建数据库向导

输入数据库连接1

然后设置JDBC地址

第一次连接mysql需要下载mysql驱动,下载好驱动,放到你的spoon解压目录中的:data-integration/lib/里面,重启spoon

相关驱动jar:

mysql驱动下载地址:

https://mvnrepository.com/artifact/mysql/mysql-connector-java

oracle驱动下载地址

https://mvnrepository.com/artifact/ojdbc/ojdbc

数据库连接一,连接成功

同理:创建另一个数据库连接,可以是mysql连接2,也可以是oracle连接,SqlServer连接等等

③、通过工具->数据库->浏览分别可以i看到多个数据库连接的,状况,表和视图等等均可以看到

④建立表输入

1、打开核心对象

2、建立表输入-源表连接

选择输入->表输入

修改步骤名称、数据库连接,和对应sql。可以预览数据

⑤建立表输出-目标表连接

选择输出->表输出,同时建立好输入与输出的关联关系

修改步骤名称、数据库连接,和对应sql。可以预览数据

⑥在输入、输出之前还需要加一个步骤清理SQL

组件库->选择脚本->选择执行SQL脚本

选择数据库连接,一定要确认好,是清理目标地址。不要选成清理源表数据!!!切记

四、 测试转换是否正常工作

查看日志转换正常

目标表也同步完成数据

五、新建作业,更改作业名称与配置

其中transformation所选择文件,是上一步转换保存的脚本路径

选择 Start 、成功、转换任务 可以选择多个转换任务

其中Start组件可以设置任务定时启动的时间配置

将转换脚本保存到 文件夹/脚本保存/中

将定时作业保存到 文件夹/job/中

方便下次重新启动

附录:kettle学习路径

1、基础学习-使用方法

ETL工具(数据同步)_无敌小田田的博客-CSDN博客Kettle做跨库数据迁移工作https://blog.csdn.net/qq_36602951/article/details/125898662

2、linux运维部署ETL工具(数据同步) 二_无敌小田田的博客-CSDN博客kettle使用掌握之后,还需要掌握在linux下的定时执行的策略https://blog.csdn.net/qq_36602951/article/details/125959374

ETL工具(数据同步)相关推荐

  1. ETL工具(数据同步) 二

    kettle使用掌握之后,还需要掌握在linux下的定时执行的策略 一.kettle使用感觉较为方便 虽然kettle自带调度任务.但是前提是需要保持kettle打开.并且作业处在运行状态.不太适合用 ...

  2. ETL的数据同步工具调研(持续更新中)

    扯白了,数据同步工具就是"导数据 "的 名称 社区响应 国内使用情况(以前程无忧为参考) SQOOP 更新缓慢,对于hbase2.x以上版本使用时需要老版本的jar包 9页 Dat ...

  3. Kettle-开源的ETL工具集-实现SqlServer到Mysql表的数据同步并部署在Windows服务器上

    场景 kettle 中文名称叫水壶,该项目的主程序员MATT希望把各种数据放到一个壶里,然后 以一种指定的格式流出.是一款由纯Java编写的ETL工具,绿色无需安装,数据抽取高效稳定(数据迁移工具). ...

  4. etl数据抽取工具_数据同步工具ETL、ELT傻傻分不清楚?3分钟看懂两者区别

    什么是数据同步工具(ETL.ELT) 数据同步工具ETL或者ELT的作用是将业务系统的数据经过抽取.清洗转换之后加载到数据仓库的过程,目的是将企业中的分散.零乱.标准不统一的数据整合到一起,为企业的决 ...

  5. 数据提取、转换和加载 - ETL工具

    ETL,Extraction-Transformation-Loading的缩写,中文名称为数据提取.转换和加载. ETL工具有:OWB(Oracle Warehouse Builder).ODI(O ...

  6. 数据库增量同步/ETL工具

    数据同步与订阅: 比较推荐的是阿里的Canal.Zendesk的Maxwell.以及来自社区的Python-Mysql-Replication ETL工具 kettle Kettle 是一款国外开源的 ...

  7. 数据同步工具Sqoop

    大数据Hadoop之--数据同步工具Sqoop Sqoop基本原理及常用方法 1 概述 Apache Sqoop(SQL-to-Hadoop)项目旨在协助RDBMS(Relational Databa ...

  8. 数据同步工具的研究(实时)

    数据同步工具的研究(实时同步): FlinkCDC.Canal.Maxwell.Debezium --2023年01月17日 --Yahui Di 1. 常用CDC方案比较 2. FlinkCDC F ...

  9. 常用的数据集成ETL工具有哪些?

    一.Informatica Informatica是全球领先的数据管理软件提供商.在如下 Gartner魔力象限位于领导者地位:数据集成工具魔力象限.数据质量工具魔力象限.元数据管理解决方案魔力象限. ...

最新文章

  1. 散列表查找(哈希表)
  2. IT规划宜分步走 忌盲目好大喜功(载)
  3. Openldap配置TLS加密传输(完整版——shell脚本实现[分别在客户端与服务器端执行脚本,实现TLS加密])
  4. 平面设计师如何掌握色彩心理学(实用技巧)
  5. centos磁盘空间满查询和移动命令小记
  6. iPhone手机获取uuid 安装测试app
  7. gzip+chunked页面分段输出,resin gzip trunked无效,页面数据写入自定义buffer
  8. Android实现支付宝AR功能,Android RecyclerView 实现支付宝首页效果
  9. 我怀疑对象做了什么对不起我的事......
  10. PS比狠大赛!看看谁家的照片更丑!
  11. 统计测序数据reads数和碱基数的几种方法
  12. Linux中同步MySQL
  13. 卓越产品计划丨神策分析性能优化详解:数据重组织查询优化
  14. 中间件是什么意思?中间件技术简介
  15. 利用cad计算型材的弹性模量_已知阶梯形直杆受力如图所示,材料的弹性模量
  16. 【WPS】折线图数据点上添加标记(三角形、正方形、菱形等)
  17. 分号的html文本,vue中利用v-html按分号将文本换行
  18. 企业选人的三个阶段和几个标准
  19. 汽车电子——常见的英文缩写(更新中)
  20. 基于 STM32对音频数据的 Flash 读取与 DAC 播放

热门文章

  1. Python进阶之正则表达式
  2. 搞笑短信笑话-夏天凉意绵绵
  3. iconfont字体图标库的使用
  4. github克隆代码加速
  5. Whoosh如何搜索
  6. apn信息实时同步服务器,apn设置服务器
  7. 2021年“金三银四”来袭!写给即将正在找工作的Android攻城狮,全套教学资料
  8. 查看Linux内核配置文件(.config)
  9. BOOST THREAD
  10. JAVA程序员M1踩坑指南 2021-08-29