SeaTunnel 简介

SeaTunnel是一个非常易于使用的超高性能分布式数据集成平台,支持海量数据的实时同步。它每天可以稳定高效地同步数百亿数据,并已用于近100家公司的生产。

SeaTunnel 是一个简单易用的数据集成框架,在企业中,由于开发时间或开发部门不通用,往往有多个异构的、运行在不同的软硬件平台上的信息系统同时运行。数据集成是把不同来源、格式、特点性质的数据在逻辑上或物理上有机地集中,从而为企业提供全面的数据共享。SeaTunnel 支持海量数据的实时同步。它每天可以稳定高效地同步数百亿数据,并已用于近 100 家公司的生产。

SeaTunnel的前身是 Waterdrop(中文名:水滴)自2021年 10月 12日更名为 SeaTunnel。2021年 12月 9日,SeaTunnel正式通过 Apache软件基金会的投票决议,以全票通过的优秀表现正式成为 Apache 孵化器项目。2022 年 3 月 18 日社区正式发布了首个 Apache 版本v2.1.0。

本质上,SeaTunnel 不是对 Saprk 和 Flink 的内部修改,而是在 Spark 和 Flink 的基础上做了一层包装。它主要运用了 控制反转的设计模式,这也是 SeaTunnel实现的基本思想。SeaTunnel 的日常使用,就是编辑配置文件。编辑好的配置文件由 SeaTunnel 转换为具体的 Spark或 Flink 任务。

使用场景

  • 大量数据同步
  • 大量数据集成
  • 大量数据汇总
  • 多数据源数据处理

特点

  1. 简单易用,灵活的配置,低代码开发
  2. 实时同步
  3. 离线多源数

数据同步工具—SeaTunnel简介相关推荐

  1. linux运维笔记:Rsync数据同步工具

    linux运维笔记:Rsync数据同步工具 1-Rsync简介 Rsync英文全称是Remote synchronization,Rsync具有可以使本地和远程两台主机之间的数据快速复制和同步镜像.远 ...

  2. 数据同步工具Sqoop

    大数据Hadoop之--数据同步工具Sqoop Sqoop基本原理及常用方法 1 概述 Apache Sqoop(SQL-to-Hadoop)项目旨在协助RDBMS(Relational Databa ...

  3. 高效数据同步工具DataX的使用

    一.DataX 简介 DataX 是阿里云 DataWorks 数据集成 的开源版本,主要就是用于实现数据间的离线同步. DataX 致力于实现包括关系型数据库(MySQL.Oracle 等).HDF ...

  4. 数据同步工具的研究(实时)

    数据同步工具的研究(实时同步): FlinkCDC.Canal.Maxwell.Debezium --2023年01月17日 --Yahui Di 1. 常用CDC方案比较 2. FlinkCDC F ...

  5. rsync远程数据同步工具

    一.简介 1.认识 Rsync(remote synchronize)是一个远程数据同步工具,可通过LAN/WAN快速同步多台主机间的文件.Rsync使用所谓的"Rsync算法"来 ...

  6. 【基础】:Rsync数据同步工具

    第二十一节 Rsync数据同步工具 1.1 Rsync介绍 1.1.1 什么是Rsync? 1.1.2 Rsync简介 1.3 Rsync的特性 1.1.4 Rsync的企业工作场景说明 1.2 Rs ...

  7. Linux实战教学笔记21:Rsync数据同步工具

    原文地址:https://www.cnblogs.com/chensiqiqi/p/6514315.html 目录 第二十一节 Rsync数据同步工具 1.1 Rsync介绍 1.1.1 什么是Rsy ...

  8. Linux的rsync远程数据同步工具

    Rsync(remote synchronize) 是一个远程数据同步工具,可以使用"Rsync算法"同步本地和远程主机之间的文件. rsync的好处是只同步两个文件不同的部分,相 ...

  9. ETL的数据同步工具调研(持续更新中)

    扯白了,数据同步工具就是"导数据 "的 名称 社区响应 国内使用情况(以前程无忧为参考) SQOOP 更新缓慢,对于hbase2.x以上版本使用时需要老版本的jar包 9页 Dat ...

最新文章

  1. python课程费用-上海Python数据分析课程
  2. 【技术系列】浅谈GPU虚拟化技术(第一章)
  3. 前端真的能做到彻底权限控制吗?
  4. 【年度盘点】10个热门Python练习项目
  5. 初探EntityFramework——来自数据库的Code First
  6. python 数据库连接池_【转】Python 数据库连接池
  7. java设计模式 单例_java设计模式--单例模式
  8. 1053: [HAOI2007]反素数ant
  9. 堆排序算法(C#实现)
  10. 计算机视频剪辑教程,一个小白也能学会的剪辑教程
  11. 利用python做一个超简单的抽签器
  12. html css使用特殊自定义字体避免侵权
  13. C语言中的逻辑移位和算术移位
  14. 研发人员的几个典型性格特征
  15. 【OI做题记录】【BZOJ】【Usaco2008 Mar】土地购买
  16. ORA-22835:缓冲区对于CLOB到CHAR转换或BLOB到RAWZ转换而言太小
  17. 最大似然函数及其求解
  18. 中段尾段全段什么意思_什么头什么尾?汽车改装排气时有的换全段,中尾段,尾段,分别都有什么效果?...
  19. 【技术贴】怎么 豆瓣网在线看书
  20. java求圆锥的体积并比较大小_帮写下作业,Java代码编写程序,声明变量保存圆锥的底圆半径和高,计算圆锥的体积和底圆面积,final double P...

热门文章

  1. 【学术相关】为什么那么多博士延期毕业了?
  2. 基于MATLAB的MIMO信道估计(附完整代码与分析)
  3. 经典的三角形软件测试用例
  4. php nette,如何在Ubuntu和LinuxMint设置Nette PHP框架
  5. 孙源即将分享 DynamicCocoa 实现细节
  6. java中404什么意思_java web中关于404问题的根本来源与解决
  7. 搭建SecureCRT
  8. python读取、保存图片的方法
  9. 安装GitHub代码所需包
  10. Linux下为命令取别名