Flume学习笔记(一)安装与简单使用
本文环境如下:
操作系统:CentOS 7.2.1511 64位
Flume版本:1.6.0
1. 系统需求
Flume需要Java 1.6及以上(推荐1.7),对Agent监控目录的读写权限。
2. 下载软件包
到Flume官网上http://flume.apache.org/download.html
下载软件包,例如:
wget "http://mirrors.cnnic.cn/apache/flume/1.6.0/apache-flume-1.6.0-bin.tar.gz"
tar -xzvf apache-flume-1.6.0-bin.tar.gz
mv flume-1.6.0 /opt
3. 简单示例
3.1 修改配置文件
vi /opt/flume-1.6.0/conf/flume.conf
输入以下内容
# 指定Agent的组件名称
a1.sources = r1
a1.sinks = k1
a1.channels = c1# 指定Flume source(要监听的路径)
a1.sources.r1.type = spooldir
a1.sources.r1.spoolDir = /root/path# 指定Flume sink
a1.sinks.k1.type = logger# 指定Flume channel
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100# 绑定source和sink到channel上
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1
3.2 启动flume agent
cd /opt/flume-1.6.0
bin/flume-ng agent --conf conf --conf-file conf/flume.conf --name a1 -Dflume.root.logger=INFO,console
参数 | 作用 | 举例 |
---|---|---|
–conf 或 -c | 指定配置文件夹,包含flume-env.sh和log4j的配置文件 | –conf conf |
–conf-file 或 -f | 配置文件地址 | –conf-file conf/flume.conf |
–name 或 -n | agent名称 | –name a1 |
-z | zookeeper连接字符串 | -z zkhost:2181,zkhost1:2181 |
-p | zookeeper中的存储路径前缀 | -p /flume |
3.3 写入日志内容
vi 1.log
写入Hello Flume.
作为测试内容。然后拷贝到flume监听路径。
cp 1.log /root/path/
接着就可以在前一个终端看到刚刚采集的内容了,如下:
2016-06-27 10:02:58,322 (SinkRunner-PollingRunner-DefaultSinkProcessor) [INFO - org.apache.flume.sink.LoggerSink.process(LoggerSink.java:94)] Event: { headers:{} body: 48 65 6C 6C 6F 20 77 6F 72 6C 64 0D Hello Flume. }
至此flume已经能够正常运行。
Flume学习笔记(一)安装与简单使用相关推荐
- linux sipp 呼叫转移_SIPp 学习笔记 一 (安装)
SIPp学习笔记一(安装) SIPp可以用来测试各种sip的设备,如终端电话或者proxy,包括功能和性能上的(性能上只能在linux平台下才可以;)具体的描述可以去参照SIPp的官方网站; http ...
- DeepXDE学习笔记【1】——简单ODE方程求解
DeepXDE学习笔记[1]--简单ODE方程求解 1.背景 物理信息神经网络(PINN)自从2017年被提出,其应用范围在近两年也被挖掘的越来越广泛,除了可以解决物理方面的问题,信号处理.工程评估等 ...
- ZED相机学习笔记1——安装与配置(Win10 + Python)
系列文章目录 ZED相机学习笔记1--安装与配置(Win10 + Python) 文章目录 系列文章目录 前言 一.ZED2 相机 二.配置ZED相机环境 1.安装CUDA 2.安装ZED-SDK 3 ...
- OracleDesigner学习笔记1――安装篇
OracleDesigner学习笔记1――安装篇 QQ:King MSN:qiutianwh@msn.com Email:qqking@gmail.com 一. 前言 Oracle是当 ...
- tensorflow学习笔记二——建立一个简单的神经网络拟合二次函数
tensorflow学习笔记二--建立一个简单的神经网络 2016-09-23 16:04 2973人阅读 评论(2) 收藏 举报 分类: tensorflow(4) 目录(?)[+] 本笔记目的 ...
- homeassistant mysql_HomeAssistant学习笔记docker安装的ha更换数据库
HomeAssistant学习笔记docker安装的ha更换数据库 用了一段时间之后发现日志和历史打开的速度越来越慢,在论坛里查了半天发现是因为HA官方所用数据库导致,官方也给出了相关文档,https ...
- mesos 学习笔记-- mesos安装和配置
2019独角兽企业重金招聘Python工程师标准>>> mesos 学习笔记-- mesos安装和配置 博客分类: 架构 mesos 参考资料: 官方文档:http://mesos. ...
- FPGA学习笔记(1)简单的时序逻辑电路——流水灯
FPGA学习笔记(1)简单的时序逻辑电路--流水灯 编程语言为Verilog HDL 原理 (1)设计一个计数器,使开发板上的4个LED状态每500ms翻转一次.开发板上的晶振输出时钟频率为50MHz ...
- C++下opencv学习笔记(一)(图像的简单读取丶显示与存储)
C++下opencv学习笔记(一)(图像的简单读取丶显示与存储) 前言 学习C++ OpenCV,第一需要具备面向对象语言的基础,第二要对图像处理机器学习有基础了解,容易入门.觉得自己基础已经有了可以 ...
- JetpackCompose从入门到实战学习笔记2——Modifier的简单使用
JetpackCompose从入门到实战学习笔记2--Modifier的简单使用 1.Image的使用: @Composable fun Image(modifier: Modifier) {Row ...
最新文章
- 农牧行业销售经理生存手册(二)
- 打印一个字符串的所有排列。
- 【转】一个Java程序员应该掌握的10项技能
- Divan and a New Project 贪心,模拟(1000)
- Spark API 详解(转)
- 手机钉钉在进行视频会议时怎么录屏
- 选择Java加密算法第3部分–公钥/私钥非对称加密
- html快速排序,快速排序.html
- synchronized的使用和底层原理、锁状态的膨胀升级过程
- plt.subplot()和plt.subplots(),plt.gca(),
- Python 爬虫的集中简单方式
- cpu使用率偏高如何排查
- 利用Jwing窗口写程序-----简单计算器(JAVA实用教程2-第五版 第九章 编程题 三(2)小题)
- 驱动总裁 ,解决屏幕亮度无法调节(含泪推荐,屏幕亮度终于可以调整了,发热也不严重了)
- 各种音频视频编解码详细介绍
- lammps学习总结3
- java轿煤悝炾厍桴,最让人放心的汉字笔画序库.doc
- 传苹果将采用:夏普IGZO技术面板量产
- 更改WSL Docker 镜像目录 减少C盘占用
- SIM不识卡简单分析流程
热门文章
- 求n!,C(n,m)和A(n,m)最后的非零位。
- HDU4475(找规律+预处理加速)
- Qt界面开发(各种控件以及图表)
- sscanf,sscanf_s及其相关用法(字符串格式化为其他类型)
- 大规模混合部署项目在字节跳动的落地实践
- 飞哥:程序员完全没时间提升自己该怎么办?
- 09 / LiveVideoStack主编观察:有趣的灵魂是一面镜子
- LiveVideoStackCon 2021上海站 | 参会指南
- LiveVideoStack线上分享第三季(四):计算存储在视频转码中的应用
- 音视频技术开发周刊 72期