一、设计依据
二、设计思路
- 1、核心数据模型字段
- 2、参数透传说明
- 3、日志格式（举例子）
- 4、链路性能指标（处理时间）
三、先决条件
- 1、Web Servlet Filter 调用链开始
- 2、Dubbo作为RPC 调用链跟踪
- 3、DB调用跟踪
- 4、Cache调用跟踪
- 5、MQ调用跟踪
四、系统对接步骤
- 1、引入相关JAR包
- 2、定义logger
- 3、引入拦截调用链
五、遗留问题
- 1、异步传递
- 2、并发访问
- 3、其他

分布式跟踪系统设计

想知道系统哪个地方处理慢么？想优化系统，但不知哪块慢？每个调用耗时多少？xxx，还有N多疑问。好吧，我们先从最简单的跟踪做起。

一、设计依据

谷歌，DAPPER论文。中文翻译链接http://bigbully.github.io/Dapper-translation/ 下面是开头部分。

（当代的互联网的服务，通常都是用复杂的、大规模分布式集群来实现的。互联网应用构建在不同的软件模块集上，这些软件模块，有可能是由不同的团队开发、可能使用不同的编程语言来实现、有可能布在了几千台服务器，横跨多个不同的数据中心。因此，就需要一些可以帮助理解系统行为、用于分析性能问题的工具。

Dapper--Google生产环境下的分布式跟踪系统，应运而生。那么我们就来介绍一个大规模集群的跟踪系统，它是如何满足一个低损耗、应用透明的、大范围部署这三个需求的。当然Dapper设计之初，参考了一些其他分布式系统的理念，尤其是Magpie和X-Trace，但是我们之所以能成功应用在生产环境上，还需要一些画龙点睛之笔，例如采样率的使用以及把代码植入限制在一小部分公共库的改造上。）

二、设计思路

系统是演进的。先满足最小化跟踪。先满足核心调用链跟踪。并只做一件事，如实记录发生时间。

1、核心数据模型字段

tracerNo：全栈跟踪唯一ID（UUID）

serialNo：当前节点跟踪序号（比如上述图的0.1.1等）

上述两个参数为透传系统参数，后续嵌入跟踪系统，需要设置此参数以便处理。

2、参数透传说明

透传需要传递最后一个节点的上述两个字段参数，保证后续serialNo的正确性，连续性。

3、日志格式（举例子）

alipay_tracer_log|ad7d8e36-f032-4e63-9eb7-b49ef39a2c29|0|WEB|ali_box|http://172.30.0.81:8080/TestRedis/session|1449621713215|1449621716120|

其中alipay_tracer_log 为大数据平台标识头。params 为添加进去的附带参数。

4、链路性能指标（处理时间）

整条调用链跟踪下来，计算总耗时：

1、300毫秒以下正常

2、300—500毫秒（语句调优）

3、500—1000毫秒（模块重构）

4、1000—3000毫秒（系统重构）

5、3000毫秒以上（考虑重写）

三、先决条件

JAVA语言系统。后续扩展其他语言系统。

1、Web Servlet Filter 调用链开始

基础库已实现。

2、Dubbo作为RPC 调用链跟踪

基础库已实现。

3、DB调用跟踪

（主流两种ORM框架实现，Hibernate，Mybatis；其他暂未）

4、Cache调用跟踪

（待实现）

5、MQ调用跟踪

（待实现）

四、系统对接步骤

1、引入相关JAR包

a>大数据平台日志接入JAR包。详见（大数据平台日志接入指南）

<dependency>

<groupId>com.alipay</groupId>

<artifactId>logback-flume-appender</artifactId>

<version>1.0.0</version>

</dependency>

<dependency>

<groupId>org.apache.flume</groupId>

<artifactId>flume-ng-sdk</artifactId>

<version>1.6.0</version>

</dependency>

b>基础库相关JAR包

<dependency>

<groupId>com.alipay.base</groupId>

<artifactId>alipay-base-common</artifactId>

<version>0.0.1-SNAPSHOT</version>

</dependency>

<dependency>

<groupId>com.alipay.base</groupId>

<artifactId>alipay-base-dao</artifactId>

<version>0.0.1-SNAPSHOT</version>

</dependency>

<dependency>

<groupId>com.alipay.base</groupId>

<artifactId>alipay-base-web</artifactId>

<version>0.0.1-SNAPSHOT</version>

</dependency>

其中，alipay-base-common 为必须依赖包，其他两个根据跟踪类型，选择性加入。

2、定义logger

<appender name="log_to_flume_tracer" class="com.gilt.logback.flume.FlumeLogstashV1Appender">

<flumeAgents>

172.16.4.145:5070

</flumeAgents>

<flumeProperties>

connect-timeout=4000;

request-timeout=8000

</flumeProperties>

<reporterMaxThreadPoolSize>6</reporterMaxThreadPoolSize>

<reporterMaxQueueSize>100</reporterMaxQueueSize>

<batchSize>100</batchSize>

<reportingWindow>10</reportingWindow> 

<additionalAvroHeaders> 

logType=log-type

</additionalAvroHeaders>

<application>smapleapp</application>

<layout class="ch.qos.logback.classic.PatternLayout">

<pattern>%msg%n</pattern>

</layout>

</appender>

<logger name="com.alipay.base.tracer.Node" level="INFO" additivity="false">

<appender-ref ref="log-to-flume-tracer"/>

</logger>

3、引入拦截调用链

1、引入filter，web.xml文件中

<filter>

<filter-name>tracerFilter</filter-name>

<filter-class>com.alipay.base.web.filter.TracerFilter</filter-class>

<init-param>

<param-name>appName</param-name>

<param-value>cash_box</param-value>

</init-param>

<init-param>

<param-name>staticResourceSuffix</param-name>

<param-value>js,css,png,jpg,jpeg,gif</param-value>

</init-param>

</filter>

<filter-mapping>

<filter-name>tracerFilter</filter-name>

<url-pattern>/*</url-pattern>

</filter-mapping>

2、引入dubbo，filter；一般在application-dubbo-client.xml或是application-dubbo-server.xml；找到定义的地方即可。

 

<dubbo:consumer filter="tracerClientFilter"/> 

 

<dubbo:provider filter="tracerServerFilter"/> 

3、引入ORM，Interceptor

a>Hibernate引入下述配置（一般在hibernate-config.xml）

<bean id="tracerInterceptor" class="com.alipay.base.dao.hibernate.interceptor.TracerInterceptor"/>

<bean id="sessionFactory" class="org.springframework.orm.hibernate4.LocalSessionFactoryBean">

<property name="dataSource">

<ref local="dataSource_jdbc"/>

</property>

<property name="entityInterceptor" ref="tracerInterceptor"/>

..............

</bean>

b>Mybatis引入下述配置（一般在mybatis-config.xml）

<configuration>

<settings>

<setting name="lazyLoadingEnabled" value="false"/>

<setting name="jdbcTypeForNull" value="NULL"/>

<setting name="defaultStatementTimeout" value="30"/>

</settings>

<plugins>

<plugin interceptor="com.alipay.base.dao.mybatis.interceptor.TracerInterceptor">

</plugin>

</plugins>

<!-- <mappers>

<mapper resource="mapper/*Mapper.xml"/>

</mappers> -->

</configuration>

五、遗留问题

1、异步传递

异步请求转发调用跟踪；

2、并发访问

并发访问跟踪节点对象等；

3、其他

系统设计之----分布式跟踪系统相关推荐

大规模分布式跟踪系统的理论
概述当代的互联网的服务,通常都是用复杂的.大规模分布式集群来实现的.互联网应用构建在不同的软件模块集上,这些软件模块,有可能是由不同的团队开发.可能使用不同的编程语言来实现.有可能布在了几千台服务器 ...
分布式集群系统组件架构_分布式跟踪系统的四个组件如何一起工作
分布式集群系统组件架构十年前,基本上只有认真思考分布式跟踪的人是学者和少数大型互联网公司. 如今,对于任何采用微服务的组织来说,它已经变成了赌注. 基本原理是公认的:微服务以令人惊讶且通常是惊人 ...
分布式跟踪系统(SpringCloudSluth+OpenZipkin)
当我们构建一个微服务体系结构,并且服务的数量不断增加时,我们面临着在整个系统中调试和跟踪请求的问题.当用户在请求中出现500错误时,会发生什么情况?是什么部门不正确地处理了他的请求?所有这些问题都可以 ...
java天眼培训_Java天眼大型分布式跟踪系统附带源码_IT教程网
资源名称:Java天眼大型分布式跟踪系统附带源码教程内容: APP: 接入skyeye-client的系统会通过kafkaAppender向kafka写入日志 es-indexer-group: ...
分布式跟踪系统 java_Java天眼大型分布式跟踪系统附带源码
资源名称:Java天眼大型分布式跟踪系统附带源码教程内容: APP: 接入skyeye-client的系统会通过kafkaAppender向kafka写入日志 es-indexer-group: ...
Dapper--Google生产环境下的分布式跟踪系统
Dapper--Google生产环境下的分布式跟踪系统概述当代的互联网的服务,通常都是用复杂的.大规模分布式集群来实现的.互联网应用构建在不同的软件模块集上,这些软件模块,有可能是由不同的团队开发 ...
分布式跟踪系统（一）：Zipkin的背景和设计
原文链接: https://blog.csdn.net/manzhizhen/article/details/52811600 2010年谷歌发表了其内部使用的分布式跟踪系统Dapper的论文(htt ...
Java分布式跟踪系统Zipkin（二）：Brave源码分析-Tracer和Span
所有博文均在个人独立博客http://blog.mozhu.org首发,欢迎访问! Brave是Java版的Zipkin客户端,它将收集的跟踪信息,以Span的形式上报给Zipkin系统. (Zipk ...
JAVA天眼大型分布式跟踪系统
目录 ├─源码SkyEye-master.zip ├─第1课-项目架构与技术点讲解.mp4 ├─第1课-项目架构与技术点讲解.pdf ├─第2课-日志实时采集.mp4 ├─第2课-日志实时采集.pdf ...

系统设计之----分布式跟踪系统

分布式跟踪系统设计

一、设计依据

二、设计思路

1、核心数据模型字段

2、参数透传说明

3、日志格式（举例子）

4、链路性能指标（处理时间）

三、先决条件

1、Web Servlet Filter 调用链开始

2、Dubbo作为RPC 调用链跟踪

3、DB调用跟踪

4、Cache调用跟踪

5、MQ调用跟踪

四、系统对接步骤

1、引入相关JAR包

2、定义logger

3、引入拦截调用链

五、遗留问题

1、异步传递

2、并发访问

3、其他

系统设计之----分布式跟踪系统相关推荐

最新文章

热门文章