全网最详细的大数据ELK文章系列，强烈建议收藏加关注！

新文章都已经列出历史文章目录，帮助大家回顾前面的知识重点。

目录

系列历史文章

一、简介

二、ELK 协议栈介绍及体系结构

三、集中式日志协议栈组件功能简介

系列历史文章

2021年大数据ELK（六）：安装Elasticsearch

2021年大数据ELK（五）：Elasticsearch中的核心概念

2021年大数据ELK（四）：Lucene的美文搜索案例

2021年大数据ELK（三）：Lucene全文检索库介绍

2021年大数据ELK（二）： Elasticsearch简单介绍

2021年大数据ELK（一）：集中式日志协议栈Elastic Stack简介

一、简介

日常工作中会面临很多问题，处理问题时候。怎么解决问题？

  • 通过工作经验，迅速判断问题出在哪。
  • 通过日志
  • 系统日志：/var/log 目录下的问题的文件
  • 程序日志： 代码日志（项目代码输出的日志）
  • 服务应用日志
    • nginx、HAproxy、lvs
    • tomcat、php-fpm
    • redis、mysql、mongo
    • RabbitMq、kafka
    • Glusterfs、HDFS、NFS等等

通过日志排除，发现问题根源解决问题

如果1台或者几台服务器，我们可以通过 linux命令，tail、cat，通过grep、awk等过滤去查询定位日志查问题

但是如果几十台、甚至几百台。通过这种方式肯定不现实。

怎么办？

一些聪明人就提出了建立一套集中式的方法，把不同来源的数据集中整合到一个地方。

一个完整的集中式日志系统，是离不开以下几个主要特点的。

  • 收集－能够采集多种来源的日志数据
  • 传输－能够稳定的把日志数据传输到中央系统
  • 存储－如何存储日志数据
  • 分析－可以支持 UI 分析
  • 警告－能够提供错误报告，监控机制

二、ELK 协议栈介绍及体系结构

ELK其实并不是一款软件，而是一整套解决方案，是三个软件产品的首字母缩写，Elasticsearch，Logstash 和 Kibana。这三款软件都是开源软件，通常是配合使用，而且又先后归于 Elastic.co 公司名下，故被简称为ELK协议栈。

三、集中式日志协议栈组件功能简介

  • ElasticSearch : 主要是用于做全文检索功能、数据的存储和数据的查询
  • Logstash:  主要是用于进行数据的传递采集工作，将数据从一个地方 搬运到另一个地方去
  • Kibana :  主要是用于 图标报表展示 以及 数据探索
  • Beats : 主要是用于进行数据的写入工作