Filebeat 5.x版本
风来了.fox

1.下载和安装

https://www.elastic.co/downloads/beats/filebeat

这里选择 LINUX 64-BIT 即方式一

https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-5.6.3-linux-x86_64.tar.gz
tar -zxvf filebeat-5.6.3-linux-x86_64.tar.gz

2.配置Filebeat

环境说明:
1)elasticsearch和logstash 在不同/相同的服务器上,只发送数据给logstash/elasticsearch
2)监控nginx日志
3)监控站点日志

2.1配置

编辑filebeat.yml

vim filebeat.yml

修改为

filebeat.prospectors:- input_type: logpaths:- /www/wwwLog/www.foxwho.com/*.loginput_type: log document_type: nginx-www.foxwho.commultiline.pattern: '^\['multiline.negate: truemultiline.match: after- input_type: logpaths:- /www/wwwroot/www.foxwho.com/runtime/log/*/[0-9]*[_\w]?*.loginput_type: log document_type: web-www.foxwho.commultiline.pattern: '^\['multiline.negate: truemultiline.match: after#output.elasticsearch:#   hosts: ["localhost:9200"]#   index: "filebeat-www.babymarkt.cn"#   template.name: "filebeat"#   template.path: "filebeat.template.json"#   template.overwrite: false
output.logstash:hosts: ["10.1.5.65:5044"]...其他部分没有改动,不需要修改

2.2 说明

  1. paths:指定要监控的日志,目前按照Go语言的glob函数处理。没有对配置目录做递归处理,比如配置的如果是:
/var/log/* /*.log

则只会去/var/log目录的所有子目录中寻找以”.log”结尾的文件,而不会寻找/var/log目录下以”.log”结尾的文件。
2. input_type:指定文件的输入类型log(默认)或者stdin。
3. document_type:设定Elasticsearch输出时的document的type字段,也可以用来给日志进行分类。

把 elasticsearch和其下的所有都注释掉(这里Filebeat是新安装的,只注释这2处即可)

#output.elasticsearch:#   hosts: ["localhost:9200"]

开启 logstash(删除这两行前的#号),并把localhost改为logstash服务器地址

output.logstash:hosts: ["10.1.5.65:5044"]

如果开启logstash了,那么Logstash配置中要设置监听端口 5044:
这个是默认文件位置,如果不存在请自行查找
建立beats-input.conf配置文件

vim /etc/logstash/etc/beats-input.conf

增加端口

input {beats {port => 5044}
}

3.启动

3.1 测试

./filebeat -e -c filebeat.yml -d "Publish"

如果能看到一堆东西输出,表示正在向elasticsearch或logstash发送日志。
如果是elasticsearch可以浏览:http://localhost:9200/_search?pretty 如果有新内容返回,表示ok
测试正常后,Ctrl+C结束

3.2启动

nohup ./filebeat -e -c filebeat.yml &

上面会转入后台运行

3.3停止

查找进程 ID

ps -ef |grep filebeat

KILL他

kill -9  id

3.X kibana设置

如果使用 kibana 做日志分析,
在kibana里,创建一个索引,注意pattern为:filebeat-*

4.高级配置说明

http://kibana.logstash.es/content/beats/file.html

http://blog.csdn.net/a464057216/article/details/51233375

5.其他说明

5.1Elasticsearch知道如何处理每个日志事件

默认的Elasticsearch需要的index template在安装Filebeat的时候已经提供,路径为/etc/filebeat/filebeat.template.json,可以使用如下命令装载该模板:
filebeat 安装目录中运行

curl -XPUT 'http://localhost:9200/_template/filebeat?pretty' -d@filebeat.template.json

如果运行成功则返回如下,表示模板已被接收

{"acknowledged" : true
}

每次修改Filebeat配置,重启Filebeat才能生效

部分来源:
http://blog.csdn.net/a464057216/article/details/50987695
http://www.cnblogs.com/yjmyzz/p/filebeat-turorial-and-kibana-login-setting-with-nginx.html

Filebeat 5.x 日志收集器 安装和配置相关推荐

  1. Filebeat日志收集器

    一.Filebeat 日志收集器 1.1 Filebeat简介 Filebeat是用于"转发"和"集中日志数据"的"轻量型数据采集器",用g ...

  2. 基于filebeat + logstash的日志收集方案

    日志收集是一个很普遍的需求,各个服务的log日志,打点日志都需要收集起来做离线etl或实时分析.日志收集工具也有很多开源的可供选择,flume,  logstash, filebeat等等.  目前3 ...

  3. 开启系统事件监视服务器,Windows 系统事件日志监视软件和日志收集器 | SolarWinds...

    什么是 Windows 事件日志? Windows 事件日志是 Microsoft 系统中事务的记录.网络中的所有设备和服务都生成日志,其中包括错误和问题报告,以及成功的事务和交互记录.Windows ...

  4. 【Qt开发】Qt Creator在Windows上的调试器安装与配置

    Qt Creator在Windows上的调试器安装与配置 如果安装Qt时使用的是Visual Studio的预编译版,那么很有可能就会缺少调试器(Debugger),而使用MSVC的Qt对应的原生调试 ...

  5. 3-ELK+Kafka+Filebeat 海量级日志收集 TB PB级别

    ELK+Kafka+Filebeat 终极版 4.Kafka: 数据缓冲队列(消息队列).同时提高了可扩展性.具有峰值处理能力,使用消息队列能够使关键组件顶住突发的访问压力,而不会因为突发的超负荷的请 ...

  6. scribe - 日志收集器 分析

    1.General  description 我们知道,使用日志系统是为了使系统变得更健壮,能够应对各种错误并能从错误中较快地恢复.一个大型的分布式系统生成的日志数量是巨大的,所以需要一个有效的工具对 ...

  7. linux上logbok实时日志_日志lombok插件安装及配置

    安装lombok插件 运行Lombok.jar java -jar D:\001_software\work\Java\libs\lombok.jar 确认完eclipse的安装路径后,点击insta ...

  8. 大数据——Logstash(日志收集)

    Logstash(日志收集) ELK Stack Logstash简介 安装Logstash Logstash如何工作 Logstash配置语法(一) Logstash配置语法(二) 输入插件 编解码 ...

  9. fluentd 安装、配置、使用介绍

    fluentd 安装.配置.使用介绍 March 20, 2019 in efk, fluentd fluentd2 是一个针对日志的收集.处理.转发系统.通过丰富的插件系统, 可以收集来自于各种系统 ...

  10. ELK之日志收集filebeat,并对nginx,tomcat access日志JSON格式化

    2019独角兽企业重金招聘Python工程师标准>>> 一:ELK日志收集器组件filebeat下载 官方下载地址:https://www.elastic.co/downloads/ ...

最新文章

  1. HTML基础部分(1)字体,照片,链接
  2. GPU高性能编程CUDA实战(二)
  3. java拷贝压缩文件_Android java, 快速文件拷贝,文件压缩,获得系统时间 | 学步园...
  4. Vue常用指令v-show
  5. Jmeter之HTTP Request Defaults
  6. Establishing SSL connection without server's identityverification is not recommended. According to M
  7. CODE[VS] 1621 混合牛奶 USACO
  8. 学数据分析究竟要懂哪些统计学?全都给你梳理好了,拿走不谢
  9. 【Java】菜鸟教程Java基础测试刷题笔记
  10. C++ 小游戏程序 (共七款)
  11. 论文解读-用于人口流动数据模拟的人口流动模型
  12. mysql还原数据库非常慢_mysql还原数据库慢
  13. esp32 cam 内网穿透 视频传输
  14. 五星大饭店续集剧情大放送(最新更新)
  15. 打造零售数据中台 数澜助百果园数字化转型
  16. 单目标跟踪——个人笔记
  17. 创建个人网页,创建个人网址。
  18. CSDN博客怎么修改皮肤背景?
  19. win2000上安装sql server 2000个人版时
  20. 【NOI2007】社交网络

热门文章

  1. Paypal开源nodejs框架研究(二)KrakenJs之Enrouten
  2. 学术族谱典型用户及典型场景模拟
  3. c++编译器和连接器介绍
  4. 拓端tecdat|R语言中的神经网络预测时间序列:多层感知器(MLP)和极限学习机(ELM)数据分析报告
  5. 拓端tecdat|在R语言中轻松创建关联网络
  6. 拓端tecdat|R语言多臂试验 - 我们应该考虑多重性吗?
  7. oracle raise默认作用,Oracle:使用RAISE_APPLICATION_ERROR的情况是什么?
  8. 双屏怎么快速切换鼠标_双屏触摸一体机功能特点解析
  9. 光纤传输与网络技术作业(第一部分)
  10. 使用TensorFlow在Transformers 上生成字幕的注意机制的实现