(1)部署redis

1丶安装redis

yum install epel-release -y
yum install redis -y

2丶修改配置文件

#vim /etc/redis.conf
bind 0.0.0.0
daemonize yes
save ""
requirepass 123456

3.启动redis
systemctl enable redis
systemctl restart redis

(2)配置logstash将日志写入到redis中

1丶修改配置文件

input {file {path => "/var/log/messages"type => "systemlog"start_position => "beginning"stat_interval => "2"}
}output {if [type] == "systemlog" {redis {data_type => "list"host => "192.168.1.31"db => "6"port => "6379"password => "123456"key => "systemlog"}}
}

2丶启动

logstash -f /etc/logstash/conf.d/redis.conf  -t
logstash -f /etc/logstash/conf.d/redis.conf

3丶写入日志到messages日志中

cat /etc/hosts  >>/var/log/messages

4丶登录redis查看

# redis-cli -h 192.168.1.31
192.168.1.31:6379> auth 123456
OK
192.168.1.31:6379> select 6
OK
192.168.1.31:6379[6]> keys *
1) "systemlog"
192.168.1.31:6379[6]> llen systemlog
(integer) 11292
192.168.1.31:6379[6]> lpop systemlog

(3)配置logstash从redis中取出数据到elasticsearch

1丶修改配置文件

input {redis {type => "systemlog"host => "192.168.1.31"password => '123456'port => "6379"db => "6"data_type => "list"key => "systemlog"}
}
output {if [type] == "systemlog" {elasticsearch {hosts => ["192.168.1.31:9200"]index => "redis-systemlog-%{+YYYY.MM.dd}"}}}

2丶启动

logstash -f /etc/logstash/conf.d/redis.conf  -t
logstash -f /etc/logstash/conf.d/redis.conf

3丶启动head插件查看索引

参考链接:

logstash通过redis收集日志 : https://www.cnblogs.com/lovelinux199075/p/9112182.html

ELK下logstash通过redis收集日志相关推荐

  1. ELK(ElasticSearch, Logstash, Kibana)搭建实时日志分析平

    ELK平台介绍 在搜索ELK资料的时候,发现这篇文章比较好,于是摘抄一小段: 以下内容来自:http://baidu.blog.51cto.com/71938/1676798 日志主要包括系统日志.应 ...

  2. ELK下logstash收集java日志,多行合并成一行

    介绍 使用codec的multiline插件实现多行匹配,这是一个可以将多行进行合并的插件,而且可以使用what指定将匹配到的行与前面的行合并还是和后面的行合并. 1.java日志收集测试 input ...

  3. ELK(ElasticSearch, Logstash, Kibana)搭建实时日志分析平台

    ELK平台介绍 在搜索ELK资料的时候,发现这篇文章比较好,于是摘抄一小段: 以下内容来自: http://baidu.blog.51cto.com/71938/1676798 日志主要包括系统日志. ...

  4. ELK(ElasticSearch+Logstash+ Kibana)搭建实时日志分析平台

    来源:http://www.cnblogs.com/zclzhao/p/5749736.html 一.简介 ELK 由三部分组成elasticsearch.logstash.kibana,elasti ...

  5. ELK下Logstash性能调优

    介绍 Logstash 是一款强大的数据处理工具,它可以实现数据传输,格式处理,格式化输出,还有强大的插件功能,常用于日志处理. Logstash优化 Logstash建议在修改配置项以提高性能的时候 ...

  6. ELK学习3_使用redis+logstash+elasticsearch+kibana快速搭建日志平台

    日志的分析和监控在系统开发中占非常重要的地位,系统越复杂,日志的分析和监控就越重要,常见的需求有: 根据关键字查询日志详情 监控系统的运行状况 统计分析,比如接口的调用次数.执行时间.成功率等 异常数 ...

  7. ELK学习2_用Kibana和logstash快速搭建实时日志查询、收集与分析系统

    Logstash是一个完全开源的工具,他可以对你的日志进行收集.分析,并将其存储供以后使用(如,搜索),您可以使用它.说到搜索,logstash带有一个web界面,搜索和展示所有日志. kibana ...

  8. Centos7下使用ELK(Elasticsearch + Logstash + Kibana)搭建日志集中分析平台

    Centos7下使用ELK(Elasticsearch + Logstash + Kibana)搭建日志集中分析平台 日志监控和分析在保障业务稳定运行时,起到了很重要的作用,不过一般情况下日志都分散在 ...

  9. ELK下一个配置文件收集多个日志-if根据type类型判断

    1.同时收集/var/log/messages日志和secure日志 #vim /etc/logstash/conf.d/system.conf input {file {path => &qu ...

最新文章

  1. Makefile选项CFLAGS LDFLAGS LIBS
  2. eclipse卸载插件小记
  3. Hadoop系列二:Hadoop单节点伪分布部署并执行mapreduce示例wordcount
  4. 按窗口文件php代码,在Windows命令行窗口中输入并运行PHP代码片段(不需要php文件)的方法...
  5. 自己在项目中写的一个Jquery插件和Jquery tab 功能
  6. filter2D函数的.depth()变量的设定
  7. Android开发笔记(九十五)自定义Drawable
  8. freemark判断传过来的值为空和不为空及问号、感叹号用法
  9. Python3入门机器学习经典算法与应用 第3章 更多相关操作
  10. windows下.bat文件启动多个jar文件 (.bat 批量启动jar)
  11. 解决Sublime Text 3在GB2312编码下的中文乱码问题
  12. latex插入pdf
  13. Golang Gin Router冲突 conflicts with existing wildcard
  14. 他发现了古老疟疾背后的元凶,也在质疑声中开创了致病生物的新时代
  15. Conflux 联合创始人、CTO伍鸣博士出席杭州钱江世纪城重点发展企业座谈会
  16. MFC基于select模型的套接字类之服务器(1)
  17. 背单词的方法:抗遗忘超自然语境记单词01
  18. 安卓项目查手机电量功能_Android获取手机电池电量用法实例
  19. sqlite多进程并发读写模式下,返回SQLITE_BUSY错误的处理方法
  20. 转转二手交易平台建设高效率循环经济链

热门文章

  1. 蚂蚁金服:超大规模分布式计算系统 + 超大规模分布式优化算法
  2. java如何新建一个空的压缩包_如何在Java中创建zip文件
  3. pytorch显存管理
  4. java mac 怎么删_做java服务器开发,并发布到linux,那MacBookPro开发是绝佳工具
  5. python语言应用章节答案_智慧树APPPython语言应用第十单元章节测试答案
  6. c语言lnk1104无法打开exe,error LNK1104: 无法打开文件“C:\Users\Administrator\Desktop\....\\xxxx.exe”...
  7. LAMP-----2、php-5.3.27编译安装
  8. hadoop集群配置SSH免登陆
  9. PHP数组foreach后使用current取值的问题
  10. 查看80端口连接状态