在软件工程中,Tracing指使用特定的日志记录程序的执行信息,与之相近的还有两个概念,它们分别是Logging和Metrics。

  • Logging:用于记录离散的事件,包含程序执行到某一点或某一阶段的详细信息,比如,应用程序的调试(debug)信息或错误(error)信息。它是我们诊断问题的依据。
  • Metrics:用于记录可聚合的数据,且通常是固定类型的时序数据,每个都是一个逻辑计量单元,或者一个时间段内的柱状图,比如,队列的当前深度可以被定义为一个计量单元,在写入或读取时被更新统计;输入HTTP请求的数量可以被定义为一个计数器,用于简单累加;请求的执行时间可以被定义为一个柱状图,在指定时间片上更新和统计汇总。
  • Tracing:用于记录单次请求范围内的处理信息,其中包括服务调用和处理时长等,比如,一次调用远程服务的RPC执行过程;一次实际的SQL查询语句;一次HTTP请求的业务性ID。它是我们排查系统性能问题的利器。

系统架构从单体转变为微服务以后,一次请求往往涉及到多个服务之间的调用。随着服务数量的增多和内部调用链的复杂化,仅凭借日志和性能监控很难做到 “See the Whole Picture”,在进行问题排查或是性能分析的时候,无异于盲人摸象。

分布式追踪系统(Tracing)旨在分析请求背后调用了哪些服务,服务的调用顺序、耗时、错误原因等,帮助开发者直观分析请求链路,快速定位性能瓶颈,逐渐优化服务间依赖,也有助于开发者从更宏观的角度更好地理解整个分布式系统。

早在 2005 年,Google 就在内部部署了一套分布式追踪系统 Dapper,并发表了一篇论文《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》,阐述了该分布式追踪系统的设计和实现,可以视为分布式追踪领域的鼻祖。随后各大厂商纷纷落地了一些优秀的分布式追踪系统,比如Jaeger(Uber)、Zipkin(twitter)、X-ray(AWS)、SkyWalking等,但各家的分布式追踪方案很可能是互不兼容的,于是诞生了OpenTracing。

1. OpenTracing

OpenTracing是一个轻量级的标准化层,它位于<应用程序/类库>和<追踪或日志分析程序>之间,通过提供平台无关、厂商无关的API,使得开发人员能够方便的添加(或更换)追踪系统的实现,解决不同的分布式追踪系统API不兼容的问题,也使得在通用代码库增加对分布式追踪的支持成为可能。

  • 后台无关的一套接口,被跟踪的服务只需要调用这套接口,就可以被任何实现这套接口的跟踪后台(比如Zipkin, Jaeger等等)支持,而作为一个跟踪后台,只要实现了个这套接口,就可以跟踪到任何调用这套接口的服务。
  • 标准化了对跟踪最小单位Span的管理:定义了开始Span,结束Span和记录Span耗时的API。
  • 标准化了进程间跟踪数据传递的方式:定义了一套API方便跟踪数据的传递。
  • 标准化了进程内当前Span的管理:定义了存储和获取当前Span的API。
  • 不对编码定标准:不对进程间传递的跟踪数据的编码定标准,不对向后台发送的跟踪数据的编码定标准,让跟踪后台自己决定最适合他们的编码方式。

OpenTracing已进入 CNCF,正在为全球的分布式追踪,提供统一的概念和数据标准,支持多种语言:https://github.com/opentracing。其中,OpenTracing API for Java:https://github.com/opentracing/opentracing-java

  • opentracing-api,是一个纯粹的API没有任何依赖
  • opentracing-noop,实现了API,但是是空实现什么也不干,依赖opentracing-api
  • opentracing-util,包含了一个GlobalTracer和基于Thread_local的简单实现ScopeManager,依赖opentracing-api、opentracing-noop
  • opentracing-mock,mock测试,包含一个简单的MockTracer,将数据存储进内存,依赖opentracing-api、opentracing-noop、opentracing-util
  • opentracing-testbed,用于测试和尝试新特性

OpenTracing数据模型中有三个重要的相互关联的类型,分别是Tracer,Span和SpanContext。

  • Trace:一个完整请求链路
  • Span:一次调用过程(需要有开始时间和结束时间)
  • SpanContext:Trace的全局上下文信息,如里面有traceId

Trace

一个Trace代表一个事务或者流程在(分布式)系统中的执行过程。一条Trace(调用链)可以被认为是一个由多个Span组成的有向无环图(DAG),通过归属于此调用链的Span来隐性的定义。

Tracer接口用来创建Span,以及处理如何处理Inject(serialize) 和 Extract (deserialize),用于跨进程边界传递。

Span

一个Span代表系统中具有开始时间和执行时长的逻辑运行单元。Span之间通过嵌套或者顺序排列建立逻辑因果关系。Span可以被理解为一次方法调用, 一个程序块的调用, 或者一次RPC/数据库访问,只要是一个具有完整时间周期的程序访问,都可以被认为是一个span。每个Span包含以下的状态:

  • An operation name,操作名称
  • A start timestamp,起始时间
  • A finish timestamp,结束时间
  • Span Tag,一组键值对构成的Span标签集合。键值对中,键必须为string,值可以是字符串,布尔,或者数字类型
  • Span Log,一组span的日志集合。每次log操作包含一个键值对,以及一个时间戳。键值对中,键必须为string,值可以是任意类型
  • SpanContext,Span上下文对象
  • References,Span间关系,目前定义了两种关系:ChildOf(父子,父级span某种程度上取决于子span) 和 FollowsFrom(跟随,父级节点不以任何方式依然他们子节点的执行结果)

SpanContext

Span上下文对象,代表跨越进程边界,传递到下级span的状态。每一个SpanContext包含以下状态:

  • 任何一个OpenTracing的实现,都需要将当前调用链的状态(例如:trace和span的id),依赖一个独特的Span去跨进程边界传输
  • Baggage Items,Trace的随行数据,是一个键值对集合,它存在于trace中,也需要跨进程边界传输

OpenTracing的使用者仅仅需要,在创建span、向传输协议Inject(注入)和从传输协议中Extract(提取)时,使用SpanContext和References。

2. Jaeger

Jaeger是Uber开源的一款分布式追踪系统(https://github.com/jaegertracing/jaeger),兼容OpenTracing API(支持Java语言:https://github.com/jaegertracing/jaeger-client-java)。

  • jaeger-client:Jaeger的客户端,实现了OpenTracing的API,支持主流编程语言。客户端直接集成在应用程序中,把trace信息按指定的采样策略传递给jaeger-agent,这个过程通常被称为埋点。
  • jaeger-agent:一个监听在UDP端口上接收trace信息的网络守护进程,会将数据批量发送给jaeger-collector。它被设计成一个基础组件,部署到所有的宿主机上,agent将client和collector解耦,为client屏蔽路由和发现collector的细节。
  • jaeger-collector:负责接收jaeger-agent发送来的数据,然后异步处理,最终将数据存储到DB中。它被设计成无状态的组件,因此可以同时运行任意数量的jaeger-collector。
  • jaeger-query:接收查询请求,然后从DB中检索 trace信息并通过 UI 进行展示。Query是无状态的,可以启动多个实例,把它们部署在nginx这样的负载均衡器后面。
  • jaeger-ingester:中文名称“摄食者”,从kafka读取数据然后写到jaeger的后端存储,比如Cassandra和Elasticsearch。

分布式追踪系统大体分为三个部分,数据采集、数据持久化、数据展示。

  • 数据采集是指在代码中埋点,设置请求中要上报的阶段,以及设置当前记录的阶段隶属于哪个上级阶段。
  • 数据持久化则是指将上报的数据落盘存储,例如Jaeger就支持多种存储后端,可选用Cassandra或者Elasticsearch。
  • 数据展示则是前端根据TraceId查询与之关联的请求阶段,并在界面上呈现。

3. dd-trace-java

dd-trace-java(https://github.com/DataDog/dd-trace-java)是Datadog开源的一个java版本的APM(应用性能管理)客户端。它依赖了jaeger-client-java中的jaeger-core,采用字节码注入技术(JavaAgent)进行埋点,支持针对不同组件(http、kafka、jdbc等)进行插件化开发。

启动入口在AgentBootstrap的premain方法:

  • AgentInstaller.installBytebuddyAgent:注册各种支持不同组件的埋点插件
  • TracerInstaller.installGlobalTracer:注册一个全局的Tracer
public class AgentInstaller {public static ResettableClassFileTransformer installBytebuddyAgent(final Instrumentation inst) {AgentBuilder agentBuilder =new AgentBuilder.Default().disableClassFormatChanges().with(AgentBuilder.RedefinitionStrategy.RETRANSFORMATION).with(new RedefinitionLoggingListener()).with(AgentBuilder.DescriptionStrategy.Default.POOL_ONLY).with(AgentTooling.poolStrategy()).with(new TransformLoggingListener()).with(new ClassLoadListener()).with(AgentTooling.locationStrategy()).ignore(any(), skipClassLoader()).or(nameStartsWith("datadog.trace.")).or(nameStartsWith("datadog.opentracing.")).or(nameStartsWith("datadog.slf4j.")).or(nameStartsWith("java.").and(not(nameStartsWith("java.util.concurrent.")))).or(nameStartsWith("com.sun.")).or(nameStartsWith("sun.").and(not(nameStartsWith("sun.net.www.")))).or(nameStartsWith("jdk.")).or(nameStartsWith("org.aspectj.")).or(nameStartsWith("org.groovy.")).or(nameStartsWith("com.p6spy.")).or(nameStartsWith("org.slf4j.")).or(nameContains("javassist")).or(nameContains(".asm.")).or(nameMatches("com\\.mchange\\.v2\\.c3p0\\..*Proxy"));for (final Instrumenter instrumenter : ServiceLoader.load(Instrumenter.class)) {log.info("Loading instrumentation {}", instrumenter.getClass().getName());agentBuilder = instrumenter.instrument(agentBuilder);}return agentBuilder.installOn(inst);}
}

业务方可通过继承Instrumenter.Default进行插件化开发,以支持不同组件的埋点。

@AutoService(Instrumenter.class)
public class MDCInjectionInstrumentation extends Instrumenter.Default {private static final String mdcClassName = "org.TMP.MDC".replaceFirst("TMP", "slf4j");@Overrideprotected boolean defaultEnabled() {return Config.get().isLogsInjectionEnabled();}@Overridepublic ElementMatcher<? super TypeDescription> typeMatcher() {return named(mdcClassName);}@Overridepublic void postMatch(final TypeDescription typeDescription,final ClassLoader classLoader,final JavaModule module,final Class<?> classBeingRedefined,final ProtectionDomain protectionDomain) {if (classBeingRedefined != null) {MDCAdvice.mdcClassInitialized(classBeingRedefined);}}@Overridepublic Map<? extends ElementMatcher<? super MethodDescription>, String> transformers() {return singletonMap(isTypeInitializer(), MDCInjectionInstrumentation.class.getName() + "$MDCAdvice");}@Overridepublic String[] helperClassNames() {return new String[]{LogContextScopeListener.class.getName()};}public static class MDCAdvice {@Advice.OnMethodExit(suppress = Throwable.class)public static void mdcClassInitialized(@Advice.Origin final Class mdcClass) {try {final Method putMethod = mdcClass.getMethod("put", String.class, String.class);final Method removeMethod = mdcClass.getMethod("remove", String.class);GlobalTracer.get().addScopeListener(new LogContextScopeListener(putMethod, removeMethod));} catch (final NoSuchMethodException e) {org.slf4j.LoggerFactory.getLogger(mdcClass).debug("Failed to add MDC span listener", e);}}}
}

End

OpenTracing建立了一套标准,解决了不同的分布式追踪系统埋点API不兼容的问题(类似SLF4J);Uber开源的Jaeger提供一套完整的分布式追踪解决方案(兼容OpenTracing API),包括数据采集、数据持久化、数据展示;Datadog开源的dd-trace-java是一个APM client for Java(依赖jaeger-client-java),采用字节码注入技术(JavaAgent)进行埋点,支持针对不同组件进行插件化开发。

【学习笔记】分布式追踪Tracing相关推荐

  1. 计算机图形学学习笔记——Whitted-Style Ray Tracing(GAMES101作业5讲解)

    计算机图形学学习笔记--Whitted-Style Ray Tracing GAMES101作业5讲解 遍历所有的像素生成光线 光线与平面求交 遍历所有的像素生成光线 关于作业五中如何遍历所有的像素, ...

  2. Redis学习笔记~分布式的Pub/Sub模式

    redis的客户端有很多,这次用它的pub/sub发布与订阅我选择了StackExchange.Redis,发布与订阅大家应该很清楚了,首先一个订阅者,订阅一个服务,服务执行一些处理程序(可能是写个日 ...

  3. 新人学习笔记-分布式基础学习-分布式文件系统

    所谓分布式,在这里,很狭义的指代以Google的三驾马车,GFS.Map/Reduce.BigTable为框架核心的分布式存储和计算系统.通常如我一样初学的人,会以Google这几份经典的论文作为开端 ...

  4. 学习笔记-----分布式事务基础理论,CAP组合方式

  5. 学习笔记--------分布式事务产生的场景

  6. 分布式系统服务注册与发现原理 SpringCloud 学习笔记

    分布式系统服务注册与发现原理 & SpringCloud 学习笔记 分布式系统服务注册与发现原理 引入服务注册与发现组件的原因 单体架构 应用与数据分离 集群部署 微服务架构 架构演进总结 服 ...

  7. springcloud 链路追踪_Spring Cloud学习笔记

    spring cloud提供了一套完整的微服务架构,主要包括服务发现与治理,负载均衡,服务容错,服务调用框架,网关,配置中心,消息总线及消息驱动框架,健康检查与服务跟踪等模块. 下面这个系列,我将对每 ...

  8. 黑马程序员--分布式搜索ElasticSearch学习笔记

    写在最前 黑马视频地址:https://www.bilibili.com/video/BV1LQ4y127n4/ 想获得最佳的阅读体验,请移步至我的个人博客 SpringCloud学习笔记 消息队列M ...

  9. GAMES101课程学习笔记—Lec 14(2)~16:Ray Tracing(2) BRDF、渲染方程、全局光照、路径追踪

    GAMES101课程学习笔记-Lec 14(2)~16:Ray Tracing(2) BRDF.渲染方程.全局光照.路径追踪 0 引入--辐射度量学概述 1 相关概念 1.1 Radiant Ener ...

最新文章

  1. golang中的http conn实现分析
  2. 供销合作社对话中国农民丰收节交易会 谋定为农服务主业
  3. Python开发【Part 11】:线程与进程
  4. Android中Log信息的输出方法
  5. COLLEGE.sql(复制的时候注意路径!!!)
  6. druid 非对称加密_springboot配置文件中mysql的密码进行加密
  7. 使用pip安装virtualenv时出现问题
  8. C++学习之路 | PTA乙级—— 1007 素数对猜想 (20分)(精简)
  9. [SDOI2015]序列统计
  10. 盘点数独终盘生成算法
  11. UE5 IK重定向并修改人物姿势
  12. python 视频加字幕_【小技巧】用Python给你的视频添加字幕
  13. STM32F105RBT6 uart调试
  14. 服务器电池维修,服务器电池电量低判断方法
  15. Oracle 更改字段的部分值
  16. 宗镜录略讲——南怀瑾老师——系列7
  17. 虚拟机CentOS8安装教程
  18. python blp模型 估计_谁能简单解释一下经济学中的BLP模型?
  19. SIEM、SOC、MSS三者的区别与联系
  20. android yuv加水印_Android Camera录制视频添加水印

热门文章

  1. 硅云服务器怎么建网站,硅云怎么样,硅云香港云服务器怎么样
  2. 2018国赛数学建模B题一道工序代码
  3. 支持P2P传输的M3U8播放器
  4. 使用python实现对图片的高斯模糊
  5. PDF to EPUB Converter Mac(PDF转EPUB转换器)
  6. Java单元测试实践-08.Stub、Replace、Suppress静态方法
  7. java graphics 渐变色_使用BufferedImage进行渐变色操作
  8. js等待加载转圈圈效果
  9. java程序员工资调查_程序员真实调查,工资真的高吗?
  10. 【makefile】wildcard函数