Flume的Sink类型
1、HDFS Sink
该sink把events写进Hadoop分布式文件系统(HDFS)。它目前支持创建文本和序列文件。它支持在两种文件类型压缩。文件可以基于数据的经过时间或者大小或者事件的数量周期性地滚动。它还通过属性(如时间戳或发生事件的机器)把数据划分为桶或区。
上述配置会将时间戳降到最后10分钟。例如,带有11:54:34 AM,June 12,2012时间戳的event将会造成hdfs路径变成/flume/events/2012-06-12/1150/00。
2、 Hive Sink
该sink streams 将包含分割文本或者JSON数据的events直接传送到Hive表或分区中。使用Hive 事务写events。当一系列events提交到Hive时,它们马上可以被Hive查询到。
上述配置将会把时间戳降到最后10分钟。例如,event时间戳 header设置为 11:54:34 AM, June 12,2012 ,和 ‘country’ header 设置 为 ‘india’ , 该event评估到partition(continent='asia', country='india', time='2012-06-12-11-50')。
3、 Logger Sink
Logs event 在INFO 水平。典型用法是测试或者调试。
4 、Avro Sink
Flume events发送到sink,转换为Avro events,并发送到配置好的hostname/port。从配置好的channel按照配置好的批量大小批量获取events。
5、Thrift Sink
Flume events发送到sink,转换为Thrift events,并发送到配置好的hostname/port。从配置好的channel按照配置好的批量大小批量获取events。
6、 IRC Sink
IRC sink从链接的channel获取消息和推送消息到配置的IRC目的地。
agent a1示例:
7 、Null Sink
当接收到channel时丢弃所有events。
agent a1示例:
8、 HBaseSinks
该sink写数据到HBase。
agent a1 示例:
AsyncHBaseSink
该sink采用异步模式写数据到HBase。
agent a1示例:
9、 MorphlineSolrSink
该sink从Flume events提取数据并转换,在Apache Solr 服务端实时加载,Apache Solr servers为最终用户或者搜索应用程序提供查询服务。
agent a1示例:
10、 ElasticSearchSink
该sink写数据到elasticsearch集群。
agent a1示例:
11、 Kafka Sink
Flume Sink实现可以导出数据到一个Kafka topic。
Kafka sink配置例子:
Security and Kafka Sink
Flume和Kafka之间的联系channel支持安全认证和数据加密。
安全认证SASL/GSSAPI(Kerberos V5) 或者 SSL(TLS实现) 可以被用于Kafka 版本 0.9.0 。
数据加密由SSL/TLS提供。
设置kafka.producer.security.protocol为下面值:
- SASL_PLAINTEXT - Kerberos or plaintext authentication with no data encryption
- SASL_SSL - Kerberos or plaintext authentication with data encryption
- SSL - TLS based encryption with optional authentication.
TLS 和 Kafka Sink:
带有服务端认证和数据加密配置的例子:
注意:属性ssl.endpoint.identification.algorithm没有定义,因此没有hostname验证,为了是hostname验证,可以设置属性:
如果要求有客户端认证,在Flume agent配置中添加下述配置。每个Flume agent必须有它的客户端凭证,以便被Kafka brokers信任。
如果keystore和key使用不用的密码保护,那么ssl.key.password属性需要提供出来:
Kerberos and Kafka Sink:
kerberos配置文件可以在flume-env.sh通过JAVA_OPTS指定:
使用SASL_PLAINTEST的安全配置示例:
使用SASL_SSL的安全配置示例:
JAAS文件实例(暂时没看懂):
12 、HTTP Sink
该sink将会从channel获取events,并使用HTTP POST请求发送这些events到远程服务。event 内容作为POST body发送。
agent a1示例:
13、 Custom Sink(自定义Sink)
自定义sink是你实现Sink接口。当启动Flume agent时,一个自定义sink类和它依赖项必须在agent的classpath中。
agent a1 示例:
14、 Custom Sink(自定义Sink)
自定义sink是你实现Sink接口。当启动Flume agent时,一个自定义sink类和它依赖项必须在agent的classpath中。
agent a1 示例:
Flume的Sink类型相关推荐
- FLume 常用Sink配置说明
1.Sink 常用的Sink类型 HDFS Sink 这个Sink将Event写入Hadoop分布式文件系统(也就是HDFS). 目前支持创建文本和序列文件. 它支持两种文件类型的压缩. 可以根据写入 ...
- Flume 自定义 Sink
Flume 自定义 Sink 1)介绍 Sink 不断地轮询 Channel 中的事件且批量地移除它们,并将这些事件批量写入到存储或索引系统.或者被发送到另一个 Flume Agent.Sink 是完 ...
- flume hdfs sink 文件滚动策略
一般使用hdfs sink都会采用滚动生成文件的方式,hdfs sink滚动生成文件的策略有: 基于时间 基于文件大小 基于hdfs文件副本数(一般要规避这种情况) 基于event数量 基于文件闲置时 ...
- flume自定义sink
用户不仅可以自定义flume的source,还可以自定义flume的sink,用户自定义sink在flume中只需要继承一个基类:AbstractSink,然后实现其中的方法就可以了,例如我现在的需求 ...
- 【Flume】【源码分析】flume中sink到hdfs,文件系统频繁产生文件,文件滚动配置不起作用?
本人在测试hdfs的sink,发现sink端的文件滚动配置项起不到任何作用,配置如下: a1.sinks.k1.type=hdfs a1.sinks.k1.channel=c1 a1.sinks.k1 ...
- flume http sink
# 指定Agent的组件名称 a1.sources = r1 a1.sinks = k1 a1.channels = c1# 指定Flume source(要监听的路径) a1.sources.r1. ...
- Flume HDFS Sink配置详解
Name Default Description channel – type – 组件的名称,必须为:HDFS hdfs.path – HDFS目录路径,例如:hdfs://namenode/f ...
- flume的sink测试赫赫有名
public class MySink extends AbstractSink implements Configurable { //前缀 private String prefix; //后缀 ...
- 大数据——Flume组件Source、Channel和Sink具体使用
Flume组件Source.Channel和Sink使用说明 Flume Sources Avro Source 配置范例 Thrift Source 配置范例 Exec Source 配置范例 JM ...
最新文章
- 拖动改变Table的列宽度
- 超级直播sop直播源.zip_超级直播app壳 打造自己的直播app
- mediumtext和string转换_数据类型 - 字符串类型 - 《TiDB v3.0 用户文档》 - 书栈网 · BookStack...
- 中石油训练赛 - Spiral Matrix(找规律)
- 【渝粤教育】国家开放大学2018年春季 8617-21T燃气仪表与自动化 参考试题
- 捷作服务器 修改套接字端口,如何解决错误“每个套接字地址(协议/网络地址/端口)通常只允许使用一次”?...
- 人教版三年级下册计算机课教案,人教版三年级下册19课教案
- (数据库篇) SQL查询~ 存在一个表而不在另一个表中的数据
- 防范项目中人员频繁变动的风险
- 四个开放源代码审查工具【图文】
- java转换json格式_java中常见的JSON格式转换方法:
- 在移动硬盘上装双系统(一个Ventory+微PE,一个Win10家庭版)
- discuzdiy图片模块_Discuz各类幻灯片的制作方法 - 完全支持DIY
- 使用Windows10搭建服务器 ——一次虚拟机实验记录
- 使用Remix编辑器发布以太坊ERC20高级代币合约
- 终极实践:部署LNMP服务
- 美国宣布进入国家紧急状态!
- nbsp是jsp里的空格
- h5分页样式 css,【前端技术】Quasar Table: 自定义分页样式
- 最新欧盟自动驾驶路线图(更新版草案)
热门文章
- 小米4支持html5,针对在webview模式中,小米魅族手机不支持html5原生video的control的解决办法![原创]...
- beetle1.1性能测试报告
- 有机金属的全球与中国市场2022-2028年:技术、参与者、趋势、市场规模及占有率研究报告
- Manjaro常用软件和命令行推荐
- 那些年云计算领域的大牛们
- 第十三讲:常微分方程
- Python一看就懂系列(四)
- Python一看就懂系列(一)
- 基于比较的常见的排序算法
- 基于stm32F103ZE单片机的USART串口使用