sftp访问_实时数据处理探索:接收、处理、访问
ETL(也包括ELT)是数据处理工作里必不可少的步骤,一直以来通常都是以天或小时为单位采用批处理来对大量的数据进行 ETL 操作。随着业务的增长及需求的变化,用户/客户希望能更快的看到各类数据操作的结果,这就催生了实时 ETL 的诉求。
传统上,批量 ETL 会在数据仓库上进行。比如按 天 为单位从一个库同步原始数据到 ODS 层,再通过编写存储过程来对 ODS 层的数据进行加工后将明细数据存储到 DWS 层,然后再对 DWS 层数据作进一步加工形成业务可直接使用的数据。整个处理过程本身非常缓慢,通常需要持续几个小时……
而实时 ETL 通常要求从收到 原始数据 -> 数据清洗、加工 -> 业务可用 在 秒 级时间来完成,且通常为来一条记录既处理一条记录,实现业务数据的实时更新。
本文将将实时 ETL 抽像成 数据接收、数据处理、数据访问 三个部分,并依据此3部分来讨论实时 ETL 的一种建设方案。
数据接收
数据接收是实时 ETL 的第一步,对于数据接收方式我将期抽像为两类:
- 主动拉取:数据源提供用于数据同步的数据库、FTP/sFTP等,ETL 系统登录上去获取数据接收(常用于传统的批量 ETL)
- 被动接收:提供一个 API(HTTP接口或消息系统),由数据源主动将数据提交上来(实时 ETL 更多使用此种方式)
主动拉取
对于通过数据库同步的方式,传统的批量 ETL 有很多工具可用于数据同步,在此不再做更多的介绍。这里,介绍下实时 ETL 的一种数据拉取方式。
实时 ETL 从数据库拉取数据,可以通过 Kafka Connect JDBC 来拉取表记录并将数据写入 Kafka 主题,这样我们就可以使用各种大数据处理工具(Kafka Streams、Flink、Spark Streaming等)来消费 Kafka 主题的数据并对其进行数据清洗工作。
被动接收
被动接收通常有3种方式
- 提供一个 API(HTTP)接口,数据源调用 API 将数据推送上来
- 提供一个数据步同的消息系统(如:Kafka),数据源向消息系统写入数据
- 通过 CDC 监听业务系统数据库表数据变更
- 通过 Debezium 监听数据库表数据的变更,可实时响应业务系统数据的变化并对其进行加工、分析处理
对于基于 HTTP 的 API 接口,可以考虑使用 JSON Schema 来定义数据校验格式,在数据验证正确后再将数据写入 Kafka。JSON 作为现在最通用的数据格式,可以降低数据对接的技术难度,而因为 JSON 的动态特性,对数据进行格式校验是必不可少的,JSON Schema因其标准化、可扩展性很适合承担此任务。
这里,可以看到各种数据接收方式最终都是把数据写入了 Kafka 消息系统,那我们可以把数据写入其它消息系统或存储系统吗?答案是可以的,但这里建议还是将数据写入 Kafka 进行暂存,因为 Kafka 本身具备数据持久化、高可用/高性能等特性,且与各类数据处理工具都有适配,可以说是现在实事上的大数据处理消息系统标准。当然,也有其它很不错的消息系统(RocketMQ、Pulsar)和存储系统(Pravega)可胜任此任务,但综合技术难度、生态和已有案例,从 Kafka 开始是一个不错的选择。
数据处理
实时数据处理与传统的批量数据处理(ETL)有个显著的不同,通过消息系统与流数据处理系统的结合,可以流水线的形式来对数据进行加工。在数据处理过程中可以做到不 落盘(这里指不像存储的批处理模式那样需要每个步骤处理后需要将数据批量写入各个层里,比如:ODS、DWD、DWS等)。
数据处理是一个很灵活的部分,但也有“规则”可循。在这一部分,数据处理抽像为从 Kafka 读取数据,处理完后将数据写入数据存储(通常为 Database)或 Kafka。该一过程可能会有几轮循环,这通常取决于业务复杂程度。
在接收数据我们将数据统一暂存到 Kafka 中,这样在数据处理部分就统一了数据来源。数据处理后的结果存储到数据库中都很容易理解,这是可以直接供业务系统调用的数据(以数据仓库的概念,通常会存储到 APP 层)。
而将处理后的数据再存到 Kafka 是做什么用呢?因为对于实时 ETL,速度为第一要务,处理后的结果需要及时通知业务系统,这就可以通过 Kafka 这样的消息系统来 “推送” 给业务系统(实质上是将结果写入一个 Kafka topic,业务系统监听该 topic)。
实时数据处理,可以运用多种技术来实现,比如:Kafka Streams、Flink/Spark Streaming 等。对于比较简单的实时处理或比较小的技术团队,可以使用 Kafka Streams,相对来说对技术、运维和资源的要求更低。而对于较复杂的实时处理,或团队比较完善,有专门的大数据团队,则可以选择 Flink 或者 Spark Streaming 这样的专而全的实时处理大数据工具。
实时数据处理是一个很大课题,对于怎样进行实时数据处理及技术本身本文不作更多介绍……也许之后我会单独写文章介绍实时数据处理相关知识。
数据访问
实时数据处理,处理后的 结果 数据需要及时推送到业务系统,这可以通过消息系统来实现,Kafka 是一个很好的选择(RocketMQ、Pulsar和RabbitMQ等也可以)。这样从数据接收、数据处理到数据访问既形成了一个完整的 实时 闭环。
在消息推送之外,也需要将结果数据持久化存储下来供业务系统访问。这可以通过两种方式来实现:
- 在流处理中直接将结果写入持久化存储(如数据库)
- 消费推送到 Kafka topic 里的实时结果数据,将其存储到持久化存储
对于存储在持久化存储里的结果数据,可能使用一个统一的 data-access 微服务来像其它业务系统提供服务。通过 RESTful、RPC 等方式将数据接口暴露出去。
总结
本文简单的介绍了实时数据处理可用到的技术与业务分层探索。在大的方面可对实时数据处理分为数据接收、数据处理和数据访问3部分,对每一部分可用到的技术进行了初步的介绍。
实时数据处理还有更多可能等待探索,目的只有一个:天下武功,唯快不破!
sftp访问_实时数据处理探索:接收、处理、访问相关推荐
- 【图文教程】五分钟内搞一个双十一数据大屏_实时看到自己的业务访问情况
点击有惊喜 提到双十一人人都会想到天猫霸气的实时大屏.说起实时大屏,都会想到最典型的流式计算架构: 数据采集:将来自各源头数据实时采集 中间存储:利用类Kafka Queue进行生产系统和消费系统解耦 ...
- halo启动怎么访问_是时候(重新)访问Halo 3
halo启动怎么访问 You might have heard about Halo Infinite in the last week, with all the buzz and brutes s ...
- thinkphp开启子域名无法正常访问_解决TP6报错“当前访问路由未定义或不匹配”...
如果是报路由错误,则说明启用了路由控制,那么所有被访问的页面都需要配置路由,否则将无法访问. 例如: 在浏览器中运行http://hml.tp6.com/admin/getlog 报错:当前访问路由未 ...
- php无法访问_关于php无法用localhost访问的
关于php无法用localhost访问的 来源:互联网 发表时间:2016/5/17 0:42:16 责任编辑:鲁晓倩字体:大 中 小 为了帮助网友解决"关于php无法用localhost访 ...
- java 屏蔽地域性访问_外贸网站屏蔽中国IP访问的多种方法
大家都知道的原因,做外贸站,国人喜欢研究你的站,还总是帮你进行压力测试-- 首先想到要屏蔽中国IP就会是把中国IP库加入Nginx配置文件中,然后WEB服务器对比IP来达到屏蔽. 在Nginx中加de ...
- mysql配置域名访问_修改Host,配置域名访问
Activity中获取view的高度和宽度为0的原因以及解决方案 在activity中可以调用View.getWidth.View.getHeight().View.getMeasuredWidth( ...
- 使用 Kafka 和 Spark Streaming 构建实时数据处理系统
使用 Kafka 和 Spark Streaming 构建实时数据处理系统 来源:https://www.ibm.com/developerworks,这篇文章转载自微信里文章,正好解决了我项目中的 ...
- 基于 MaxCompute 的实时数据处理实践
简介: MaxCompute 通过流式数据高性能写入和秒级别查询能力(查询加速),提供EB级云原生数仓近实时分析能力:高效的实现对变化中的数据进行快速分析及决策辅助.当前Demo基于近实时交互式BI分 ...
- kafka+flume 实时数据处理
kafka+flume 实时数据处理 1.监测数据处理技术路线 1.1数据层 2.介绍技术 我们很多人在在使用Flume和kafka时,都会问一句为什么要将Flume和Kafka集成? ...
最新文章
- AlphaGo之父对话《连线》,曾被导师劝阻研究强化学习,如今获得ACM计算奖
- python引用传递的区别_python的值类型和引用类型及值传递和引用传递的区别
- 什么能在main()函数之前或之后执行
- 盘点数学里十大不需语言的证明
- 前端面试知识点(所谓的面试题)(备份前端网)
- vue - (引入jq)
- spring3.0学习之环境搭建
- 使用dva框架的总结
- Python 爬虫抓站 记录
- Java 求100以内的质数(素数)
- 使用Xcode8遇到的问题以及解决方案
- 千兆路由器怎么设置网速最快_tp无线路由器怎么设置网速最快
- opencv 白平衡之灰度世界算法
- 富怡CAD计算机在哪,富怡CAD软件如何与富怡数字化仪进行连接
- 如何让自己做任何事情都很有条理?适合规划工作计划的清单便签
- 重拾Activity(二)Intent和Intent过滤器
- 第三方支付平台的业务模式
- 例题:索洛模型——弹性与收敛速度
- 盈利亚健康,我该怎么办?
- python爬虫获取历史天气信息
热门文章
- opencv 对图像进行卷积
- 深度学习中常用优化器算法Optimizer详解(BGD、SGD、MBGD、Momentum、NAG、Adagrad、Adadelta、RMSprop、Adam)
- [GCN] Modification of Graph Convolutional Networks in PyTorch
- html select下拉菜单长度过长不出滚动条问题解决办法
- MySQL常用日期时间函数
- shell中 if else以及大于、小于、等于逻辑表达式介绍
- 再看2015 --北漂程序员的成长史
- iOS开发-使用Storyboard进行界面跳转及传值
- Visual Studio 2010 中编写C代码的一些常见问题
- 在 Linux 上部署 Django 应用,nginx+gunicorn+supervisor