输入插件是Logstash从特定的数据源读取数据,Logstash可用插件包括,详情可见这里,下面说一些常见的输入插件:

  stdin插件:标准的输入插件,能够从命令行中读取事件。

  可选配置:

add_field    hash(哈希)   {}

codec         codec             “line”

tags            array(数组)

type            string(字符串)

  file插件:Logstash 使用一个名叫 FileWatch 的 Ruby Gem 库来监听文件变化。这个库支持 glob 展开文件路径,而且会记录一个叫 .sincedb 的数据库文件来跟踪被监听的日志文件的当前读取位置。所以,不要担心 logstash 会漏过你的数据。

 sincedb 文件中记录了每个被监听的文件的 inode, major number, minor number 和 pos。

  示例:

inputfile {path => ["/var/log/*.log", "/var/log/message"]type => "system"start_position => "beginning"}
}

  通常你要导入原有数据进 Elasticsearch 的话,你还需要 filter/date 插件来修改默认的"@timestamp" 字段值。

  FileWatch 只支持文件的绝对路径,而且会不自动递归目录。所以有需要的话,请用数组方式都写明具体哪些文件。

 

  LogStash::Inputs::File 只是在进程运行的注册阶段初始化一个 FileWatch 对象。所以它不能支持类似 fluentd 那样的 path => "/path/to/%{+yyyy/MM/dd/hh}.log" 写法。达到相同目的,你只能写成 path => "/path/to/*/*/*/*.log"。

  logstash 每隔多久去检查一次被监听的 path 下是否有新文件。默认值是 15 秒。

  logstash 每隔多久写一次 sincedb 文件,默认是 15 秒。

  logstash 每隔多久检查一次被监听文件状态(是否有更新),默认是 1 秒。

  generator:生成数据组件,用来生成测试数据最好用。

转载于:https://blog.51cto.com/favccxx/1827456

了解Logstash输入插件相关推荐

  1. kettle 表输入 显示重复_表输入插件详解

    表输入步骤用于将数据源的数据加载到Kettle转换中的行集,可以说是数据从持久化到内存的一种加载变换,故名为输入.加载内部过程,就是通过JDBC连接到数据源执行SQL语句,将返回结果解析为行集,传递给 ...

  2. logstash java插件_[logstash-input-log4j]插件使用详解

    Log4j插件可以通过log4j.jar获取Java日志,搭配Log4j的SocketAppender和SocketHubAppender使用,常用于简单的集群日志汇总. 最小化的配置 input { ...

  3. logstash过滤器插件filter详解及实例

    原创作者:峰哥ge 原创地址: https://www.cnblogs.com/FengGeBlog/p/10305318.html logstash过滤器插件filter grok正则捕获 grok ...

  4. C# 自定义控件,日期时间选择输入插件

    using System; using System.ComponentModel; using System.Drawing; using System.Reflection; using Syst ...

  5. 【官方文档】Fluent Bit 数据管道之输入插件(Tail)

    文章目录 1. 配置参数 2. 多行支持 2.1. 多行核心 (v1.8) 2.2. 多行和容器 (v1.8) 2.3. 旧的多行配置参数 2.4. 旧的 Docker 模式配置参数 3. 入门指南 ...

  6. wx简单语音输入插件

    最近想给微信小程序做一个语音输入插件,记录一下,给以后插件制作提供指导.目前感觉微信插件官方文档不是特别全,有的接口在小程序中可以调用,但是在插件中会失效,且找不到很好的替代品,所以会感到比较头疼. ...

  7. ELK技术栈—Logstash—Input插件

    原文作者:归来朝歌 原文地址:logstash之Input插件 1.stdin标准输入和stdout标准输出 Logsrtash含有两个非常重要的基础插件,input与output:首先执行命令: b ...

  8. logstash grok插件语法介绍

    介绍 logstash拥有丰富的filter插件,它们扩展了进入过滤器的原始数据,进行复杂的逻辑处理,甚至可以无中生有的添加新的 logstash 事件到后续的流程中去!Grok 是 Logstash ...

  9. vue h5 车牌键盘 输入插件

    接下来带大家用一个键盘输入车牌号的的使用 看下效果图 首先在compoents里引入写好的插件 <template><view class="keyboard-wrap&q ...

最新文章

  1. 人工智能,“抛弃”真实数据集?
  2. 如何让history命令显示带时间
  3. 可用于在 Microsoft.NET Framework 4.0 中的 ASP.NET 浏览器定义文件的修补程序
  4. 科研神器推荐之那些年你用过的工具
  5. 过拟合(overfitting)和欠拟合(underfitting)出现原因及如何避免方案
  6. ubuntu和linux服务器,Linux服务器系统CentOS和Ubuntu Server如何选择? | 偶乃秋辰
  7. Linux中常用的网络命令
  8. 投标文件模板 | 信息化智慧校园项目投标方案 | word版
  9. CTF中遇到不知道文件类型_在营销界碰到网易,你永远不知道会遇到什么惊喜……...
  10. 深入剖析数据库底层设计
  11. 21.12.8组合数
  12. VMware中使用U盘PE系统
  13. 基于WebRtc实现安卓视频一对一聊天
  14. C++中经典的垃圾回收算法
  15. pid控制加热算法,附代码仓库——开源免费
  16. 中铁员工入职培训心得体会
  17. Linux:df查看磁盘大小、du查看文件夹大小
  18. PiMuseum-游戏开发入门级教程-中国象棋-Chapter-3
  19. 身为程序员,如何回绝下班后的工作消息?
  20. MySQL 服务正在启动 MySQL 服务无法启动解决办法

热门文章

  1. 对JavaScript内置对象arguments的一些见解
  2. 各种流行深度学习构架的性能对比
  3. QT设计UI:QT模式对话框打开文件
  4. ANN:DNN结构演进History—LSTM网络
  5. Matlab数组创建
  6. centos iptables
  7. 《深入理解Android》一2.1 浏览器工作原理概述
  8. iOS9定位获取经纬度 swift
  9. DBA日常工作内容和职责
  10. django-oscar的商品显示为unavailable(不可购买)