最近因为要在 Apache/dubbo-go(以下简称 dubbo-go )里面实现类似的这个 metrics 功能,于是花了很多时间去了解现在 Dubbo 里面的 metrics 是怎么实现的。该部分,实际上是被放在一个独立的项目里面,即 metrics 。

总体上来说,Dubbo 的 metrics 是一个从设计到实现都非常优秀的模块,理论上来说,大部分的 Java 项目是可以直接使用 metrics 的。但也因为兼顾性能、扩展性等各种非功能特性,所以初看代码会有种无从下手的感觉。

今天这篇文章将会从比较大的概念和抽象上讨论一下 dubbo-go 中的 metrics 模块的设计——实际上也就是 Dubbo 中的 metrics 的设计。因为我仅仅是将 Dubbo 里面的相关内容在 dubbo-go 中复制一份。

目前 dubbo-go 的 metrics 刚刚开始起步,第一个 PR ,点击这里。

总体设计

Metric

要想理解 metrics 的设计,首先要理解,我们需要收集一些什么数据。我们可以轻易列举出来在 RPC 领域里面我们所关心的各种指标,诸如每个服务的调用次数,响应时间;如果更加细致一点,还有各种响应时间的分布,平均响应时间,999线……

但是上面列举的是从数据的内容上划分的。 metrics 在抽象上,则是摒弃了这种划分方式,而是结合了数据的特性和表现形式综合划分的。

从源码里面很容易找到这种划分的抽象。

metrics 设计了 Metric 接口作为所有数据的顶级抽象:

在 Dubbo 里面,其比较关键的子接口是:

为了大家理解,这里我抄一下这些接口的用途:

  • Gauge: 一种实时数据的度量,反映的是瞬态的数据,不具有累加性,例如当前 JVM 的线程数;
  • Counter: 计数器型指标,适用于记录调用总量等类型的数据;
  • Histogram : 直方分布指标,例如,可以用于统计某个接口的响应时间,可以展示 50%, 70%, 90% 的请求响应时间落在哪个区间内;
  • Meter: 一种用于度量一段时间内吞吐率的计量器。例如,一分钟内,五分钟内,十五分钟内的qps指标;
  • Timer: Timer相当于Meter+Histogram的组合,同时统计一段代码,一个方法的qps,以及执行时间的分布情况;

目前 dubbo-go 只实现了 FastCompass ,它也是 Metric 的子类:

这个接口功能很简单,就是用于收集一段时间之内的 subCategory 执行的次数和响应时间。 subCategory 是一个比较宽泛的概念,无论是在 Dubbo 还是在 dubbo-go 里面,一个典型的 subCategory 就会是某个服务。

这里的设计要点在于,它是从什么角度上去做这些数据的抽象的。

很多人在开发这种采集数据的相关系统或者功能的时候,最容易陷入的就是从数据内容上做抽象,例如抽象一个接口,里面的方法就是获得服务的调用次数或者平均响应时间等。

这种抽象并非不可以,尤其是在简单系统里面,还非常好用。唯独在通用性和扩展性上要差很多。

MetricManager

在我们定义了 Metric 之后,很容易就想到,我要有一个东西来管理这些 Metric 。这就是 MetricManager ——对应到 Dubbo 里面的 IMetricManager 接口。

MetricManager 接口目前在 dubbo-go 里面还很简单:

本质上来说,我在前面提到的那些 Metric 的子类,都可以从这个 MetricManager 里面拿到。它是对外的唯一入口。

因此无论是上报采集的数据,还是某些功能要用这些采集的数据,最重要的就是获得一个 MetricManager 的实例。例如我们最近正在开发的接入 Prometheus 就是拿到这个 MetriManger 实例,而后从里面拿到 FastCompass 的实例,而后采集这些数据:

MetricRegistry

MetricRegistry 是一个对 Metric 集合的抽象。 MetricManager 的默认实现里面,就是使用 MetricRegistry 来管理 Metric 的:

所以,本质上它就是提供了一些注册 Metric 然后再从里面捞出来的方法。

于是,这就有一个问题了:为什么我在有了 MetricManager 之后,还有有一个MetricRegistry?似乎这两个功能有些重叠?

答案大概是两个方面:
1、除了管理所有的 Metric 之外,还承担着额外的功能,这些功能典型的就是 IsEnabled 。而实际上,在未来我们会赋予它管理生命周期的责任,比如说在 Dubbo 里面,该接口就还有一个 clear 方法;
2、 metrics 里面还有一个 group 的概念,而这只能由 MetricManager 来进行管理,至少交给 MetricRegistry 是不合适的。

metrics 的 group 说起来也很简单。比如在 Dubbo 框架里面采集的数据,都会归属于 Dubbo 这个 group 。也就是说,如果我想将非框架层面采集的数据——比如纯粹的业务数据——分隔出来,就可以借用一个 business group 。又或者我采集到的机器自身的数据,可以将其归类到 system 这个 group 下。

所以 MetricManger 和 MetricRegistry 的关系是:

Clock

Clock 抽象是一个初看没什么用,再看会觉得其抽象的很好。Clock 里面就两个方法:

一个是获得时间戳,另外一个则是获得时间周期(Tick)。比如通常采集数据可能是每一分钟采集一次,所以你得知道现在处在哪个时间周期里面。Clock 就提供了这种抽象。

很多人在实现自己的这种 metrics 的框架的时候,大多数都是直接使用系统的时钟,也就是系统的时间戳。于是所有的 Metic 在采集数据或者上报数据的时候,不得不自己去处理这种时钟方面的问题。

这样不同的 Metric 之间就很难做到时钟的同步。比如说可能在某个 Metric1 里面,采集周期是当前这一分钟,而 Metric2 是当前这一分钟的第三十秒到下一分钟的第三十秒。虽然它们都是一分钟采集一次,但是这个周期就对不上了。

另外一个有意思的地方在于,Clock 提供的这种抽象,允许我们不必真的按照现实时间的时间戳来处理。比如说,可以考虑按照 CPU 的运行时间来设计 Clock 的实现。

例子

就用这一次 PR 的内容来展示一下这个设计。

在 dubbo-go 里面这次实现了 metricsFilter ,它主要就是收集调用次数和响应时间,其核心是:

report 其实就是把 metrics reports 给 MetricManager :

所以,这里面可以看出来,如果我们要收集什么数据,也是要先获得 MetricManager 的实例。

FastCompass 的实现里面会将这一次调用的服务及其响应时间保存下来。而后在需要的时候再取出来。

所谓的需要的时候,通常就是上报给监控系统的时候。比如前面的提到的上报给 Prometheus。

所以这个流程可以抽象表达为:

这是一个更加宽泛的抽象。也就是意味着,我们除了可以从这个 metricFilter 里面收集数据,也可以从自身的业务里面去收集数据。比如说统计某段代码的执行时间,一样可以使用 FastCompass 。

而除了 Prometheus ,如果用户自己的公司里面有监控框架,那么他们可以自己实现自己的上报逻辑。而上报的数据则只需要拿到 MetricManager 实例就能拿到。

总结

本质上来说,整个 metrics 可以看做是一个巨大无比的 provider-conumer 模型。

不同的数据会在不同的地方和不同时间点上被采集。有些人在读这些源码的时候会有点困惑,就是这些数据什么时间点会被采集呢?

它们只会在两类时间点采集:
1、实时采集。如我上面举例的 metricsFilter ,一次调用过来,它的数据就被采集了;
2、另外一个则是如同 Prometheus 。每次 Prometheus 触发了 collect 方法,那么它就会把每种(如 Meter, Gauge )里面的数据收集过来,然后上报,可以称为是定时采集;

Dubbo 里面采集了非常多的数据:

这些具体的实现,我就不一一讨论了,大家有兴趣可以去看看源码。这些数据,也是我们 dubbo-go 后面要陆续实现的东西,欢迎大家持续关注,或者来贡献代码。

原文链接
本文为阿里云原创内容,未经允许不得转载。

eBay邓明:dubbo-go 中 metrics 的设计相关推荐

  1. 18岁双料竞赛金牌得主邓明扬:我只是数学初学者,求在MIT“活”下去

    杨净 鱼羊 发自 凹非寺 量子位 报道 | 公众号 QbitAI 邓明扬又出现了! 这次是阿里全球数学竞赛的颁奖典礼上. 熟悉奥赛圈的人并不陌生,江湖人有这样一号人物--乖神. △右一为邓明扬 他在高 ...

  2. 中国首次包揽IOI 2021前四!人大附中邓明扬满分夺金

    转自:量子位 2021年国际信息学奥赛(IOI 2021)已经落下帷幕. 这次中国队包揽了前四名,创造了IOI竞赛历史上首次由同一国家选手包揽前四的记录! 而第一名则是全场唯一一位满分! 他们分别是: ...

  3. 手游NPC开始用AI对话/ 腾讯回应XR部门全线解散/ 邓明扬获美国数学竞赛第一... 今日更多新鲜事在此...

    日报君 发自 凹非寺 量子位 | 公众号 QbitAI 今天又到"疯四",可惜日报君已经憋不出什么段子-- 不如去问问聪明的ChatGPT--刚好现在连游戏用上了. 除了它,今天还 ...

  4. IOI 2021前四首次被中国包揽!人大附中邓明扬满分夺金,镇海中学再度大秀“基本操作”...

    博雯 梦晨 发自 凹非寺 量子位 报道 | 公众号 QbitAI 2021年国际信息学奥赛(IOI 2021)已经落下帷幕. 这次中国队包揽了前四名,创造了IOI竞赛历史上首次由同一国家选手包揽前四的 ...

  5. 阿里面试题:使用dubbo过程中遇到过哪些坑?

    点击上方"朱小厮的博客",选择"设为星标" 后台回复"加群"加入公众号专属技术群 Dubbo[  |ˈdʌbəʊ| ,发音为`打波`] 稳如 ...

  6. 小明对数位中含有 2、0、1、9 的数字很感兴趣,在 1 到 40 中这样的数包 括 1、2、9、10 至 32、39 和 40,共 28 个,他们的和是 574。 请问,在 1 到 2019 中,所

    试题 A: 求和 本题总分:5 分 [问题描述] 小明对数位中含有 2.0.1.9 的数字很感兴趣,在 1 到 40 中这样的数包 括 1.2.9.10 至 32.39 和 40,共 28 个,他们的 ...

  7. 巴菲特称阿贝尔将是接班人;薄睿拓将卸任百威英博CEO邓明潇接任 | 高管变动2021年5月3日-9日...

    伯克希尔.百威英博.苹果.如新.南阳乳业.埃森哲.福特.房多多等公司高管变动. 全球 巴菲特(Warren Buffett)称如果自己卸任,阿贝尔(Greg Abel)可能是他的接班人.阿贝尔一直被视 ...

  8. 分糖果 小明从糖果盒中

    注意!答案仅作为参考(实际考试中下列代码通过用例100%,但不代表最优解) 小明从糖果盒中随意抓一把糖果 每次小明会取出一半的糖果分给同学们 当糖果不能平均分配时 小明可以从糖果盒中(假设盒中糖果足够 ...

  9. 揭秘eBay四大系统 从行为数据中寻找价值

    喜欢海淘的朋友应该对eBay并不陌生,如果你还不了解,可以把eBay+PayPal理解为淘宝+支付宝的组合,当然eBay不仅有C2C还有B2C的模式.虽然介绍了背景,但今天要说的并不是电子商务的发展, ...

最新文章

  1. 推荐几个微信Markdown排版工具
  2. 李开复:明年会有一批AI公司倒闭
  3. 实验10 SQL Server 数据备份/恢复
  4. js二进制流转Blob对象。Blob对象再转File对象
  5. APP中的第三方“支付”功能该如何测试
  6. bootstrape实战案例_bootstrap 实战入门教程(一)
  7. Android 系统(250)---main log导入到uart口
  8. unity内置shader
  9. linux之iconv命令
  10. 泰然的粒子编辑器~~拿过来玩玩啊
  11. 如何查看计算机的硬盘序列号,电脑硬盘序列号怎么查?一招查看硬盘序列号的简单方法...
  12. 思维导图----百度百科
  13. Oracle Coherence中文教程五:Coherence调试
  14. linux打开caj文件,在Deepin、UOS、Linux下打开caj格式文件的软件
  15. ThinkPadnbsp;E40nbsp;硬盘异响…
  16. WinXP虚拟机安装softICE
  17. 有感:一名大学毕业生的反思:轰动中国万言帖 最露骨大学生活
  18. HBase BulkLoad批量写入数据实战
  19. [20181031]如何确定db_link的进程号.txt
  20. 在移动端设置overflow:hidden禁止滚动的解决方法

热门文章

  1. 3三星闪存刷梅林_三星电子副会长李在镕造访西安
  2. java jdbc mysql 乱码_【求助】为什么用纯java jdbc插入mysql一直乱码
  3. c++ map iterator 获取key_Java遍历Map的4种方法
  4. python定义字符串数组_python数组声明
  5. php箱子,webshell箱子php版本.rar
  6. php 强制刷新,web端实现后退强制刷新功能代码
  7. 57岁博士,第三次出征太空...
  8. 一块GPU模拟猴子大脑,普通台式机变超算,英国大学研究登上Nature子刊
  9. 重磅:2020年度国家科技奖初评结果出炉!
  10. 降级!调离!取消研究生导师资格!西南交大发布最新通报,多人被问责