看日志,是研发的日常工作,相信你已经从各种报错日志中查出许多BUG,但也被冗长、复杂的日志困扰过无数次。

在日常工作中,我也经常痛苦于看日志,一般是这些日志长得面目狰狞:

  • 日志文件太大,打开都很困难
  • 日志文件里的信息错综复杂,各个模块的时序纠缠不清
  • 日志搜集引擎导出的文件被切割成多个文件,很难联系上下文来看

不仅日志看的不顺眼,看日志的工具也不蹭手:

  • 搜索完关键词,上下跳几次,就忘记要干什么了(我是谁,我在哪,我在干嘛?)
  • 想按某个关键字过滤日志,有的工具还不支持
  • 刚刚自己分析得头头是道,一叫人过来就忘记从哪看起了

其实,这些问题,我们可以分为两类来看待。一类是工具问题,也就是工具的功能还不够完善;一类是方法问题,也就是缺少系统的方法来从日志中排查问题。

对于前者,我们需要的是专业的日志查看工具,而不是使用编辑器;对于后者,我有总结了一些方法论,倒是可以分享分享。

思路可视化

回顾看,排查日志一般步骤是:了解问题 => 定位出错位置 => 查看上下文 => 推测出错原因

而在这个过程中,如果我们把日志看做一维的线条,那么看日志就是在线条里,前前后后的跳转,搜集信息,然后总结得出结论。

而上面提到的一些问题,比如看日志忘记看到哪里了,讲解不知从而谈起等等,其实是没有把日志浏览的足迹、搜集的信息、总结的疑点、结论记录下来。

要把这些信息记录并可视化,你认为最合适的方式是什么呢?

我的方式是“时间线”。

像整理历史事件,分析历史事件一样,我们看到日志中有价值的地方,就做一个标记,把它放入时间线里。

起初,时间线只是一个书签栏,帮我们记录位置信息。比如出错位置在哪里,xx时间xxx在干嘛,xx在xx之前/之后等等

接着,我们开始结合日志+时间线,找到一些疑点。这个地方可疑,加个备注;这个地方的时序貌似不对,标个黄色;这个事件似乎没啥意义,先删了

上面的可疑点的梳理,基本围绕着“时间线条”这个工具在走,但,其实本质上是对你自己思路的检视,也就是,这个时候的“时间线”已经在扮演思路可视化的过程了。

最后,我们对可疑点进一步升华,发现了这份日志对应问题的根本原因。

这时候,时间线(思路的可视化),还能给你带来另一个价值——我们可以把这一份整理后的时间线发给相关人员,陈述你对日志的分析过程,是不是比直接文字表述更直观了?

主体+辅助

上面提到的“时间线”,其核心是保持思路一直延续,不被工具操作,或是其他信息干扰、打断。

思路在线,是排查日志最关键的一点。时间线是从时间维度来帮助我们做到思路在线,而“过滤窗”则可以帮助我们在“信息维度”保持思路在线。

日志排查的过程中,经常要用到的功能是:过滤含某个关键字的日志。但是仅仅过滤就行了吗?

如果只是过滤的话,会导致信息丢失。我们其实需要了解的是在整个日志范畴,这个过滤规则下的行为发生了什么,分布在哪些位置,上下文(其他模块)在干嘛,与我刚刚记录到时间线里的信息前后关系是怎样的……

也就是说,按关键字过滤出的信息除本身的信息价值外,还需要对照主体日志来提取更多信息。换言之,既是平行的,又是交错的。

那么,怎样才能合理的解决这个矛盾呢?

我把关键字过滤出的信息定义为辅助信息,放在过滤小窗,主体窗口显示完整日志,实现平行查看;同时,以“时间”为“纽带”连接“主体窗口”、“过滤小窗”、“时间线”,无论双击哪一个窗口中的事件,其他两个窗口都会立即定位到对应位置,这就实现了信息交织。

且看下图:

图中3大区域,左上是主体窗口,左下是过滤小窗,右边是时间线。

TAG

仍然围绕“思路在线”,时间(思路)和信息维度,我们都解决了,还有什么困扰呢?

辅助工具!

看日志可不是一两个关键词搜索就能搞定的(能搜索一两个关键词搞定的,那只能叫做瞄一眼),而是很多。那么,最好能把搜索过的关键词记录下来,最好还能用不同的颜色标记出来。

所以,我还设计了一个TAG栏,记录当前高亮的关键词;然后在搜索栏里,加入了历史功能,可以自动补全之前输入过的单词。

其他

为了让天下没有难看的日志,定位到xx行、前进/后退、反向搜索、字体设置……等等,这些功能也不能少

既然把日志分析这件事已经摸索出了一定的经验和方法,而现有工具又没有特别蹭手的,当然是要自己写一个了!

来看看我写的loginsight吧:

loginsight​github.com

cx_oracle写日志信息_看日志痛苦——可能是你方法不对相关推荐

  1. cx_oracle写日志信息_日志系统的设计

    笔者在写作本章节的时候,并不敢把此章节的标题叫做<高性能日志系统的设计>,之所以不敢加上"高性能"三个字的原因是: 第一,我对于日志系统设计知识和经验都来自于学习和工作 ...

  2. cx_oracle写日志信息_浅谈微服务架构之构建日志收集系统

    任何复杂的应用程序偶尔都会出现错误.在微服务应用程序中,需要跟踪几十甚至几百个服务发生的情况.要获取系统的整体视图,日志记录和监控至关重要.在微服务架构中,一个业务请求会经历多个服务,收集端到端链路上 ...

  3. cat日志 搜索_大日志,看我如何对付你

    在服务器接口测试中,我们经常会和各种日志打交道.一旦测试时服务端出现了问题,而单凭服务端的日志又不能发现问题原因的时候,往往开发要向我们测试人员询问客户端这边的情况,希望看看我们能不能提供一些有用信息 ...

  4. golang 日志分析_容器日志采集利器:Filebeat深度剖析与实践

    在云原生时代和容器化浪潮中,容器的日志采集是一个看起来不起眼却又无法忽视的重要议题.对于容器日志采集我们常用的工具有filebeat和fluentd,两者对比各有优劣,相比基于ruby的fluentd ...

  5. nginx在linux中查看日志信息,nginx查看日志

    nginx的log日志分为access log 和 error log 其中access log 记录了哪些用户,哪些页面以及用户浏览器.ip和其他的访问信息 error log 则是记录服务器错误日 ...

  6. niginx查看服务器日志信息,nginx 远程日志服务器

    nginx 远程日志服务器 内容精选 换一换 为加强对系统数据的容灾管理,云堡垒机支持配置日志备份,提高审计数据安全性和系统可扩展性.本小节主要介绍如何在系统配置Syslog服务器参数,将日志远程备份 ...

  7. 日志间隔_在日志中搜索时间间隔

    日志间隔 介绍 这篇文章与我有关日志分析的迷你系列文章间接相关. 最好阅读两个主要部分,以更好地理解我在说什么. 第1 部分 , 第2部分 . 这篇文章描述了我在实现IDE方法时遇到的一个重要问题. ...

  8. mysql 事务日志备份_事务日志备份与恢复 5

    14.5 用Bak文件恢复到故障点的奥秘 如果数据库被损坏,我们就只能利用备份集文件(通常扩展名为BAK)来恢复数据库,如果备份集中包含了尾日志备份,我们同样能将数据库恢复到故障点. 前面我们已经介绍 ...

  9. mysql事务日志备份_事务日志备份 (SQL Server)

    事务日志备份 (SQL Server)Transaction Log Backups (SQL Server) 01/05/2018 本文内容 适用于:Applies to: SQL ServerSQ ...

最新文章

  1. 听听阿里老哥对算法工程师技术学习路线的建议
  2. 这些大酒店用大数据和分析技术对我们做了什么?
  3. SVN 定时 更新代码 Demo
  4. 论文浅尝 | 将字面含义嵌入知识图谱表示学习
  5. jdbc连接mysql登录注册_jdbc+mysql+servlet+jsp实现用户注册与登录功能
  6. Java学习笔记3.1.1 类与对象
  7. 《剑指offer》第二十八题(对称的二叉树)
  8. liferay+portlet+开发实例
  9. python高维数据_高维数据怎样可视化?
  10. SQL Server存储过程文本加密与解密过程详解 2019版可用
  11. 宝塔面板ab模板建站_2020PHP自助建站系统源码/宝塔在线自助建站系统源码/集成多套模板/在线云建站系统模板...
  12. 《码农的爱情》第一章又逢情人节
  13. 【Oracle】并行等待之PX Deq: Table Q Normal
  14. 过程控制工程,离子膜烧碱一次盐水精制的膜过滤器压力控制
  15. 微信开发小程序报wxss编译错误
  16. idea Dmaven.multiModuleProjectDirectory=$M2_HOME报错!!!
  17. HBase原理 | HBase分区影响与合理分区设置
  18. 冠铭机器人_创新时代 智造引领|众为兴总冠名支持 2019富友会年会圆满落幕
  19. 远程桌面管理工具RDO下载地址
  20. 近世代数 笔记与题型连载 第八章(置换群)

热门文章

  1. gradle构建_指定Gradle构建属性
  2. JavaFX将会留下来!
  3. spring mvc拦截器_Spring MVC拦截器示例
  4. 休眠CascadeType.LOCK陷阱
  5. 使用JUnitParams进行参数化的JUnit测试
  6. 迷你搜索引擎–使用Neo4j,Crawler4j,Graphstream和Encog的基础知识
  7. Spring MVC:表单处理卷。 3 –复选框处理
  8. 绑定到JSON和XML –处理集合
  9. 先进的ListenableFuture功能
  10. REST与Apache Camel