flume 多chanel配置

#配置文
a1.sources= r1
a1.sinks= k1 k2
a1.channels= c1 c2  #Describe/configure the source  a1.sources.r1.type = avro
a1.sources.r1.bind =  slave3
a1.sources.r1.port = 50001
a1.sources.r1.host=slave3
a1.sources.r1.selector.type = replicating
a1.sources.r1.channels = c1 c2 #第一个 hdfs
a1.sinks.k1.type = hdfs
a1.sinks.k1.channel = c1
a1.sinks.k1.hdfs.path = /maats5/%{logtype}/logdate=%{date}/
a1.sinks.k1.hdfs.filePrefix = %{logtype}-%{date}
a1.sinks.k1.hdfs.round = true
a1.sinks.k1.hdfs.roundValue = 1
a1.sinks.k1.hdfs.roundUnit = hour
a1.sinks.k1.hdfs.rollInterval = 180000
a1.sinks.k1.hdfs.rollSize = 134217700a1.sinks.k1.hdfs.useLocalTimeStamp = true
a1.sinks.k1.hdfs.fileType=DataStream
a1.sinks.k1.hdfs.writeFormat=Text
#第二个到kafka#a1.channels = c1
#a1.sinks = k1
#a1.sinks.k1.type = org.example.MySink
#a1.sinks.k1.channel = c1a1.sinks.k2.channel = c2
a1.sinks.k2.type = my.bigdata.KafkaSink2
a1.sinks.k2.kafka.topic = maats1
a1.sinks.k2.kafka.bootstrap.servers = slave3:9092
a1.sinks.k2.kafka.flumeBatchSize = 20
a1.sinks.k2.kafka.producer.acks = 1
a1.sinks.k2.kafka.producer.linger.ms = 1
#a1.sinks.ki.kafka.producer.compression.type = snappy# Usea channel which buffers events in memory
a1.channels.c1.type= memory
a1.channels.c1.capacity= 1000
a1.channels.c1.transactionCapacity= 100  a1.channels.c2.type= memory
a1.channels.c2.capacity= 1000
a1.channels.c2.transactionCapacity= 100

转载于:https://www.cnblogs.com/rocky-AGE-24/p/7469297.html

flume 多chanel配置相关推荐

Flume简介及配置
Flume 作为 cloudera 开发的实时日志收集系统,受到了业界的认可与广泛应用.Flume 初始的发行版本目前被统称为 Flume OG(original generation),属于 clo ...
Flume HDFS Sink配置详解
Name Default Description channel – type – 组件的名称,必须为:HDFS hdfs.path – HDFS目录路径,例如:hdfs://namenode/f ...
【flume】flume的安装配置理解
1.Flume 的一些核心概念: 组件功能 Agent 使用JVM 运行Flume.每台机器运行一个agent,但是可以在一个agent中包含多个sources和sinks. 名称作用 Clien ...
拦截数据_大数据之六类Flume拦截器配置
时间戳拦截器 Timestamp.conf #1.定义agent名, source.channel.sink的名称a4.sources = r1a4.channels = c1a4.sinks = k ...
Flume篇---Flume安装配置与相关使用
一.前述 Copy过来一段介绍Apache Flume 是一个从可以收集例如日志,事件等数据资源,并将这些数量庞大的数据从各项数据资源中集中起来存储的工具/服务,或者数集中机制.flume具有高可用, ...
【原创】flume-1.3.0安装配置以及flume启动说明
Flume介绍一 flume基本介绍 Apache flume是一个分布式的.可靠的和可用的用来高效收集.同济和移动大量数据从众多不同sources到一个集中的数据存储库的系统. Flume eve ...
[转]大数据环境搭建步骤详解（Hadoop，Hive，Zookeeper，Kafka，Flume，Hbase，Spark等安装与配置）
大数据环境安装和配置(Hadoop2.7.7,Hive2.3.4,Zookeeper3.4.10,Kafka2.1.0,Flume1.8.0,Hbase2.1.1,Spark2.4.0等) 系统说明 ...
【Flume】举例分析如何配置Flume
Flume非常灵活,日常工作中可以根据实际需求配置. 如果大家不知道Flume支持哪些配置,那么可以关注Flume官网. 在Configuration标签下有Flume Source,Flume Si ...
大数据——Flume安装配置和使用
Flume安装配置和使用 Flume安装和配置测试监控端口数据监控文件信息监控文件夹中的新文件监控文件写入HDFS中监控文件上传到HDFS并去除首条字段信息(拦截器) 内置拦截器自定义拦 ...

flume 多chanel配置

flume 多chanel配置相关推荐

最新文章

热门文章