1. 背景

不废话,

Golang 日志查看疼点linux查看日志,一般开发者对linux命令不是很熟悉, 搜索日志更加难上加难

JAVA生态 ELKB 日志收集搭建复杂,

需要的是一个快速查看搜索,客户端来搜索日志

1.1 前期准备

我们可以使用logrus hook 快速的输出日志到Elastic Search 在使用Chrome Elastic Search GUI插件快速的定位你想用的日志.日志保存: docker elastic-search 数据库 : docker run -d --name es.dev -p 9201:9200 -p 9301:9300 -e "discovery.type=single-node" elastic/elasticsearch:6.7.1

2. 安装ES数据库

你可以去网上搜搜索 es数据库安装,在本教程中我们就来安装一个 docker es 单节点 (处理golang日志性能足够)拉取镜像 docker pull elasticsearch:6.7.0

安装docker docker run -d --name mojocn.es -p 9201:9200 -p 9301:9300 -e "discovery.type=single-node" elastic/elasticsearch:6.7.1

这样就您就启动了一个 名字为 mojocn.es 端口 9201的单节点数据库.

3. 编写实现 logrus HOOK interface (核心代码)package main

import (

"context"

"fmt"

"github.com/olivere/elastic"

"github.com/sirupsen/logrus"

"log"

"os"

"strings"

"time"

)

//cfg 配置文件

type cfg struct {

LogLvl string // 日志级别

EsAddrs []string //ES addr

EsUser string //ES user

EsPassword string //ES password

}

//setupLogrus 初始化logrus 同时把logrus的logger var 引用到这个common.Logger

func setupLogrus(cc cfg) error {

//logFileName := fmt.Sprintf("%s_%s.log", os.Args[1], time.Now().Format("06_01_02T15_04_05"))

//

//f, err := os.Create(logFileName)

//if err != nil {

// return err

//}

logLvl, err := logrus.ParseLevel(cc.LogLvl)

if err != nil {

return err

}

logrus.SetLevel(logLvl)

//logrus.SetReportCaller(true)

//logrus.SetFormatter(&logrus.JSONFormatter{})

//使用console默认输出

//logrus.SetOutput(f)

logrus.SetReportCaller(true)

//开启 logrus ES hook

esh := newEsHook(cc)

logrus.AddHook(esh)

fmt.Printf(">= error 级别,查看日志 %#v 中的logrus* 索引\n", cc.EsAddrs)

return nil

}

func main() {

cc := cfg{

LogLvl: "error",

EsAddrs: []string{"http://es.felix.mojotv.cn:9202/"},

EsUser: "",

EsPassword: "",

}

err := setupLogrus(cc)

if err != nil {

log.Fatal(err)

}

logrus.WithField("URI", "mojotv.cn").Error("I love my son Felix")

//等待日志发送到ES

time.Sleep(time.Second * 10)

}

//esHook 自定义的ES hook

type esHook struct {

cmd string // 记录启动的命令

client *elastic.Client

}

//newEsHook 初始化

func newEsHook(cc cfg) *esHook {

es, err := elastic.NewClient(

elastic.SetURL(cc.EsAddrs...),

elastic.SetBasicAuth(cc.EsUser, cc.EsPassword),

elastic.SetSniff(false),

elastic.SetHealthcheckInterval(15*time.Second),

elastic.SetErrorLog(log.New(os.Stderr, "ES:", log.LstdFlags)),

//elastic.SetInfoLog(log.New(os.Stdout, "ES:", log.LstdFlags)),

)

if err != nil {

log.Fatal("failed to create Elastic V6 Client: ", err)

}

return &esHook{client: es, cmd: strings.Join(os.Args, " ")}

}

//Fire logrus hook interface 方法

func (hook *esHook) Fire(entry *logrus.Entry) error {

doc := newEsLog(entry)

doc["cmd"] = hook.cmd

go hook.sendEs(doc)

return nil

}

//Levels logrus hook interface 方法

func (hook *esHook) Levels() []logrus.Level {

return []logrus.Level{

logrus.PanicLevel,

logrus.FatalLevel,

logrus.ErrorLevel,

}

}

//sendEs 异步发送日志到es

func (hook *esHook) sendEs(doc appLogDocModel) {

defer func() {

if r := recover(); r != nil {

fmt.Println("send entry to es failed: ", r)

}

}()

_, err := hook.client.Index().Index(doc.indexName()).Type("_doc").BodyJson(doc).Do(context.Background())

if err != nil {

log.Println(err)

}

}

//appLogDocModel es model

type appLogDocModel map[string]interface{}

func newEsLog(e *logrus.Entry) appLogDocModel {

ins := map[string]interface{}{}

for kk, vv := range e.Data {

ins[kk] = vv

}

ins["time"] = time.Now().Local()

ins["lvl"] = e.Level

ins["message"] = e.Message

ins["caller"] = fmt.Sprintf("%s:%d %#v", e.Caller.File, e.Caller.Line, e.Caller.Func)

return ins

}

// indexName es index name 时间分割

func (m *appLogDocModel) indexName() string {

return "mojocn-cn-" + time.Now().Local().Format("2006-01-02")

}

go run main.go 日志输出>= error 级别,查看日志 []string{"http://i.love.mojotv.cn:9202/"} 中的logrus* 索引

time="2020-07-17T17:26:03+08:00" level=error msg=lld func=main.main file="D:/GolandProjects/logrusEsHook/main.go:59" URI=mojotv.cn

4. Chrome 插件 ElasticSearch Head 日志查看配置ES 连接地址

查看/搜索 logrus日志

elk替代_Go进阶45:Golang简洁的日志收集系统(替代ELKB)相关推荐

  1. elk替代_Golang-logrus简单的日志收集系统(替代ELKB)

    1. 背景 不废话, Golang 日志查看疼点linux查看日志,一般开发者对linux命令不是很熟悉, 搜索日志更加难上加难 JAVA生态 ELKB 日志收集搭建复杂, 需要的是一个快速查看搜索, ...

  2. python分布式日志收集系统_Go实现海量日志收集系统(一)

    项目背景 每个系统都有日志,当系统出现问题时,需要通过日志解决问题 当系统机器比较少时,登陆到服务器上查看即可满足 当系统机器规模巨大,登陆到机器上查看几乎不现实 当然即使是机器规模不大,一个系统通常 ...

  3. 深入浅出ELK日志收集系统搭建

    先看一下目录图 背景 试想这么一种场景:Nginx负载了2个Tomcat,那么日志查看就很麻烦了,每次查看日志都要登录2台服务器,挨个搜索,2台还好,如果5台呢?10台呢?那查看日志就可费劲了,所以需 ...

  4. ELK 日志收集系统方案

    文章目录 背景 ELK使用组件简介 方案1 ELK 方案二 EFK 方案三: FELK 方案四:个性化框架 总结: 日志展示及查询 环境 背景 在项目初期的时候,大家都是赶着上线,一般来说对日志没有过 ...

  5. ELK日志收集系统(一)

    ELK日志收集系统(一) 一:软件包下载地址 二:环境准备 三:kibana安装与配置 四:安装nginx 五:filebeat安装配置 5.1 配置filebeat收集nginx日志 5.2 kib ...

  6. golang入门项目—日志收集

    传统ELK架构的日志收集: 存在的问题:Logstash耗资源较大,运行占用CPU和内存高.另外没有消息队列缓存,存在数据丢失隐患.适用于小规模的集群使用. 第二种架构: 位于各个节点上的Log Ag ...

  7. 再见笨重的ELK!这套轻量级日志收集方案要火!

    之前一直使用的日志收集方案是ELK,动辄占用几个G的内存,有些配置不好的服务器有点顶不住!最近发现一套轻量级日志收集方案: Loki+Promtail+Grafana(简称LPG), 几百M内存就够了 ...

  8. ELK分布式日志收集搭建和使用

    大型系统分布式日志采集系统ELK 全框架 SpringBootSecurity 1.传统系统日志收集的问题 2.Logstash操作工作原理 3.分布式日志收集ELK原理 4.Elasticsearc ...

  9. ELK日志分析系统及相关

    目录 前言 一.ELK概述 1.ELK日志分析系统 2.ELK中日志处理步骤 二.Elasticsearch介绍 1.Elasticsearch的基础核心概念 2.mysql关系型数据库与Elasti ...

最新文章

  1. 中tile函数_HelpGirlFriend 系列 --- tensorflow 中的张量运算思想
  2. 数学建模学习笔记——微分方程建模
  3. linux系统运行快捷键,Linux操作系统下运行命令时CTRL+Z的作用
  4. js跨浏览器事件处理
  5. boost::allocate_shared_noinit相关的测试程序
  6. nginx $mail-send()发送邮件报错_基于SMTP协议的E-MAIL电子邮件发送客户端软件C#实现...
  7. springmvc jpa_使用JavaConfig的SpringMVC4 + Spring Data JPA + SpringSecurity配置
  8. Mongodb 分片与副本集
  9. 这是一段有毒的js代码,求大神解释!!!
  10. 邮件服务器实用技巧和选购指南
  11. cleanlab(解决图像标记错误)
  12. tkinter label_tkinter版自制王者荣耀抽卡程序
  13. js 程序执行与顺序实现详解
  14. 从DLL导出LIB文件
  15. 机器学习笔记-阻尼牛顿法
  16. android+字体+动画效果怎么做的,字体动画效果怎么做?原来这么简单!
  17. 图库/相册/播放器看不到迅雷下载的视频的解决办法
  18. 以代码绘制圣诞,过快乐圣诞节!
  19. [经济管理]《余世维-有效沟通II》VOB AVI双版本下载及我的笔记
  20. 深入理解Camera基础知识点

热门文章

  1. scala的字符串的方法(五)
  2. org.apache.commons.io如何使用
  3. Timeline窗口详解
  4. Unity3d暴风魔镜发布ios问题记录
  5. OpenShift 4 之 GitOps(2)用ArgoCD部署应用
  6. 开源大法好,Windows 计算器又添两项新功能
  7. 实现机器学习的循序渐进指南X——KMeans
  8. python自己写包_如何将自己的Python包发布到PyPI
  9. 小程序文章怎么导出来_微信小程序点餐怎么申请,怎么建立微信点单小程序
  10. ctypealpha php_php中Ctype函数用法详解