Burrow 服务的安装部署
Burrow 服务的安装部署
作者:尹正杰
版权声明:原创作品,谢绝转载!否则将追究法律责任。
最近协助开发的同时帮忙把10个topic的数据使用5个topic的来工作。结果发现数据flume在手机数据时存在延迟消费的问题。因此遇到了不少坑,要是有个专门监控kafka consumer lag的开源软件就好了!当然我们通过kafka-consumer-groups.sh这个命令也可以查看到相应的参数,但每次都需要敲击命令行。无意间听网友说有LinkedIn公司开源有一款叫做Burrow都软件,专门是对kafka消费这延迟检查。
一.Burrow概述
1>.什么是Burrow
Burrow是Apache Kafka的监控伴侣,它将消费者滞后检查作为服务提供,无需指定阈值。它监控所有消费者的承诺抵消额,并根据需要计算这些消费者的状态。提供HTTP端点以按需请求状态,以及提供其他Kafka群集信息。还有可配置的通知程序可以通过电子邮件或HTTP调用将状态发送到另一个服务。
2>.Burrow特征
没有门槛!通过滑动窗口评估组。 多个Kafka群集支持 使用Kafka提交的偏移自动监视所有使用者 可配置支持Zookeeper提交的偏移量 可配置支持Storm-committed offsets 消费者组状态的HTTP端点,以及代理和消费者信息 可配置的电子邮件程序,用于发送特定组的警报 可配置的HTTP客户端,用于向所有组的另一个系统发送警报
3>.先决条件
Burrow是用Go编写的,所以在开始之前,你应该安装并设置Go。
二.安装Golang环境
1>.下载 go 的安装包
[root@node101.yinzhengjie.org.cn ~/Downloads]# wget https://dl.google.com/go/go1.12.1.linux-amd64.tar.gz --2019-03-28 16:09:35-- https://dl.google.com/go/go1.12.1.linux-amd64.tar.gz Resolving dl.google.com (dl.google.com)... 203.208.41.70, 203.208.41.72, 203.208.41.65, ... Connecting to dl.google.com (dl.google.com)|203.208.41.70|:443... connected. HTTP request sent, awaiting response... 200 OK Length: 127906702 (122M) [application/octet-stream] Saving to: ‘go1.12.1.linux-amd64.tar.gz’100%[=========================================================================================================================================================================>] 127,906,702 2.27MB/s in 54s 2019-03-28 16:10:29 (2.28 MB/s) - ‘go1.12.1.linux-amd64.tar.gz’ saved [127906702/127906702][root@node101.yinzhengjie.org.cn ~/Downloads]#
[root@node101.yinzhengjie.org.cn ~/Downloads]# wget https://dl.google.com/go/go1.12.1.linux-amd64.tar.gz
2>.解压go的安装包到指定目录
[root@node101.yinzhengjie.org.cn ~/Downloads]# tar -zxf go1.12.1.linux-amd64.tar.gz -C /yinzhengjie/softwares/ [root@node101.yinzhengjie.org.cn ~/Downloads]# [root@node101.yinzhengjie.org.cn ~/Downloads]# ll /yinzhengjie/softwares/go/ total 208 drwxr-xr-x. 2 root root 4096 Mar 15 03:43 api -rw-r--r--. 1 root root 55358 Mar 15 03:43 AUTHORS drwxr-xr-x. 2 root root 4096 Mar 15 03:46 bin -rw-r--r--. 1 root root 1339 Mar 15 03:43 CONTRIBUTING.md -rw-r--r--. 1 root root 78132 Mar 15 03:43 CONTRIBUTORS drwxr-xr-x. 8 root root 4096 Mar 15 03:43 doc -rw-r--r--. 1 root root 5686 Mar 15 03:43 favicon.ico drwxr-xr-x. 3 root root 4096 Mar 15 03:43 lib -rw-r--r--. 1 root root 1479 Mar 15 03:43 LICENSE drwxr-xr-x. 13 root root 4096 Mar 15 03:43 misc -rw-r--r--. 1 root root 1303 Mar 15 03:43 PATENTS drwxr-xr-x. 6 root root 4096 Mar 15 03:46 pkg -rw-r--r--. 1 root root 1607 Mar 15 03:43 README.md -rw-r--r--. 1 root root 26 Mar 15 03:43 robots.txt drwxr-xr-x. 46 root root 4096 Mar 15 03:43 src drwxr-xr-x. 21 root root 12288 Mar 15 03:43 test -rw-r--r--. 1 root root 8 Mar 15 03:43 VERSION [root@node101.yinzhengjie.org.cn ~/Downloads]# [root@node101.yinzhengjie.org.cn ~/Downloads]#
[root@node101.yinzhengjie.org.cn ~/Downloads]# tar -zxf go1.12.1.linux-amd64.tar.gz -C /yinzhengjie/softwares/
3>.配置go到环境变量
[root@node101.yinzhengjie.org.cn ~/Downloads]# [root@node101.yinzhengjie.org.cn ~/Downloads]# mkdir /yinzhengjie/goproject [root@node101.yinzhengjie.org.cn ~/Downloads]# [root@node101.yinzhengjie.org.cn ~/Downloads]# [root@node101.yinzhengjie.org.cn ~/Downloads]# tail -5 /etc/profile #ADD GO_PATH export GO_HOME=/yinzhengjie/softwares/go export PATH=$PATH:$GO_HOME/bin export GOPATH=/yinzhengjie/goproject[root@node101.yinzhengjie.org.cn ~/Downloads]# [root@node101.yinzhengjie.org.cn ~/Downloads]#
[root@node101.yinzhengjie.org.cn ~/Downloads]# tail -5 /etc/profile
[root@node101.yinzhengjie.org.cn ~/Downloads]# source /etc/profile [root@node101.yinzhengjie.org.cn ~/Downloads]# [root@node101.yinzhengjie.org.cn ~/Downloads]# go env GOARCH="amd64" GOBIN="" GOCACHE="/root/.cache/go-build" GOEXE="" GOFLAGS="" GOHOSTARCH="amd64" GOHOSTOS="linux" GOOS="linux" GOPATH="/yinzhengjie/goproject" GOPROXY="" GORACE="" GOROOT="/yinzhengjie/softwares/go" GOTMPDIR="" GOTOOLDIR="/yinzhengjie/softwares/go/pkg/tool/linux_amd64" GCCGO="gccgo" CC="gcc" CXX="g++" CGO_ENABLED="1" GOMOD="" CGO_CFLAGS="-g -O2" CGO_CPPFLAGS="" CGO_CXXFLAGS="-g -O2" CGO_FFLAGS="-g -O2" CGO_LDFLAGS="-g -O2" PKG_CONFIG="pkg-config" GOGCCFLAGS="-fPIC -m64 -pthread -fmessage-length=0 -fdebug-prefix-map=/tmp/go-build685793832=/tmp/go-build -gno-record-gcc-switches" [root@node101.yinzhengjie.org.cn ~/Downloads]# [root@node101.yinzhengjie.org.cn ~/Downloads]#
[root@node101.yinzhengjie.org.cn ~/Downloads]# go env
三.Burrow安装
1>.Burrow的github地址(https://github.com/linkedin/Burrow)
2>.安装git工具
[root@node101.yinzhengjie.org.cn ~]# yum -y install git Loaded plugins: fastestmirror, langpacks Loading mirror speeds from cached hostfile* base: mirrors.aliyun.com* extras: mirrors.aliyun.com* updates: mirrors.aliyun.com Resolving Dependencies --> Running transaction check ---> Package git.x86_64 0:1.8.3.1-20.el7 will be installed --> Processing Dependency: perl-Git = 1.8.3.1-20.el7 for package: git-1.8.3.1-20.el7.x86_64 --> Processing Dependency: perl(Term::ReadKey) for package: git-1.8.3.1-20.el7.x86_64 --> Processing Dependency: perl(Git) for package: git-1.8.3.1-20.el7.x86_64 --> Processing Dependency: perl(Error) for package: git-1.8.3.1-20.el7.x86_64 --> Running transaction check ---> Package perl-Error.noarch 1:0.17020-2.el7 will be installed ---> Package perl-Git.noarch 0:1.8.3.1-20.el7 will be installed ---> Package perl-TermReadKey.x86_64 0:2.30-20.el7 will be installed --> Finished Dependency ResolutionDependencies Resolved===================================================================================================================================================================================================================Package Arch Version Repository Size =================================================================================================================================================================================================================== Installing:git x86_64 1.8.3.1-20.el7 updates 4.4 M Installing for dependencies:perl-Error noarch 1:0.17020-2.el7 base 32 kperl-Git noarch 1.8.3.1-20.el7 updates 55 kperl-TermReadKey x86_64 2.30-20.el7 base 31 kTransaction Summary =================================================================================================================================================================================================================== Install 1 Package (+3 Dependent packages)Total download size: 4.5 M Installed size: 22 M Downloading packages: (1/4): perl-Error-0.17020-2.el7.noarch.rpm | 32 kB 00:00:00 perl-TermReadKey-2.30-20.el7.x FAILED http://mirrors.cloud.aliyuncs.com/centos/7/os/x86_64/Packages/perl-TermReadKey-2.30-20.el7.x86_64.rpm: [Errno 14] curl#6 - "Could not resolve host: mirrors.cloud.aliyuncs.com; Unknown error" 0 B --:--:-- ETA Trying other mirror. (2/4): perl-TermReadKey-2.30-20.el7.x86_64.rpm | 31 kB 00:00:00 perl-Git-1.8.3.1-20.el7.noarch FAILED http://mirrors.cloud.aliyuncs.com/centos/7/updates/x86_64/Packages/perl-Git-1.8.3.1-20.el7.noarch.rpm: [Errno 14] curl#6 - "Could not resolve host: mirrors.cloud.aliyuncs.com; Unknown error" 0 B --:--:-- ETA Trying other mirror. (3/4): git-1.8.3.1-20.el7.x86_64.rpm | 4.4 MB 00:00:01 (4/4): perl-Git-1.8.3.1-20.el7.noarch.rpm | 55 kB 00:00:01 ------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- Total 2.1 MB/s | 4.5 MB 00:00:02 Running transaction check Running transaction test Transaction test succeeded Running transactionInstalling : 1:perl-Error-0.17020-2.el7.noarch 1/4 Installing : perl-TermReadKey-2.30-20.el7.x86_64 2/4 Installing : git-1.8.3.1-20.el7.x86_64 3/4 Installing : perl-Git-1.8.3.1-20.el7.noarch 4/4 Verifying : perl-Git-1.8.3.1-20.el7.noarch 1/4 Verifying : 1:perl-Error-0.17020-2.el7.noarch 2/4 Verifying : git-1.8.3.1-20.el7.x86_64 3/4 Verifying : perl-TermReadKey-2.30-20.el7.x86_64 4/4 Installed:git.x86_64 0:1.8.3.1-20.el7 Dependency Installed:perl-Error.noarch 1:0.17020-2.el7 perl-Git.noarch 0:1.8.3.1-20.el7 perl-TermReadKey.x86_64 0:2.30-20.el7 Complete! [root@node101.yinzhengjie.org.cn ~]#
[root@node101.yinzhengjie.org.cn ~]# yum -y install git
2>.
3>.
4>.
5>.
转载于:https://www.cnblogs.com/yinzhengjie/p/10544629.html
Burrow 服务的安装部署相关推荐
- zabbix php 5.6 安装配置,CentOS 5.6下Zabbix 1.8.5 服务端安装部署
CentOS 5.6下Zabbix 1.8.5 服务端安装部署 CentOS 5.6 x86_64 + Zabbix 1.8.5 IP:192.168.88.130 一.安装LAMP环境依赖包: # ...
- Ubuntu系统USDT、LTC、DASH币服务的安装部署
1.USDT币服务的安装部署 创建部署路径和数据路径,并下载相应的包 mkdir USDT cd USDT/ mkdir usdtdata 下载0.3.1版本和0.5.0版本的包 wget https ...
- 虚拟机玩转 Veritas NetBackup(NBU)之服务端安装部署
前言 NBU(Veritas NetBackup)是目前企业比较常用的备份软件,为了方便大家学习和使用,本文简单讲一下如何在虚拟机安装 NBU. 一.Linux 主机安装 NBU 大多安装在 Linu ...
- xml配置linux启动脚本,linux中利用Shell脚本实现自动安装部署weblogic服务
身在物流行业,临近618和双十一,都需要进行系统压力测试,今年也不例外.这个时候需要随时切换自己开发和压测的身份,一面要完成新需求的开发任务,另一面要完成压测任务:虽然4月刚开始,但是压测任务已经排上 ...
- 综合架构网站服务概念原理/部署安装(三)
网站服务防盗链优化设置 什么是盗链概念:盗取链接 == 消耗网站流量资源 1.用户访问 B 盗链网站(图片A) 消耗图片资源 A网站流量 占用A网站带宽 云主机:网络通讯计费模式 固定带宽计费 ...
- 微软Office Online服务安装部署及wopi代码实现--------域控制服务器安装
一.前言: 1.本次是在之前已经安装好Windows Server 2012 R2 Update with系统的一台服务器上进行域控服务器的配置. 2.提一下AD,AD是Active Director ...
- 自动化运维之 安装部署 Ansible 服务
Ansible 概述 由于互联网的快速发展导致产品更新换代速度逐渐加快,运维人员每天都要进行大量的维护操作,仍旧按照传统方式进行维护使得工作效率低下.这是,部署自动化运维就可以尽可能的安全.高效地完成 ...
- pg安装部署linux_简简单单基于docker部署微服务网关
❝ 本文整理于今年3月,收录在个人开源仓库JavaScriptCollection中,其中很多概念不乏借鉴.摘抄自官网,便于复习相关概念,有兴趣的可以直接去仓库Clone文档学习.参考! ❞ 基本概念 ...
- consule服务注册和发现 安装 部署
安装部署参考 http://blog.sina.com.cn/s/blog_8ea8e9d50102wwlf.html http://www.techweb.com.cn/network/system ...
最新文章
- mysql mac客户端: sequel,mysql-workbench
- 一年的收益就是60% 熊市也能做到 股票花荣实战系统
- C# Bitmap类型与Byte[]类型相互转化
- python统计英文句子每个单词字数_Python小书3-文本英文单词统计
- mysql微服务查询问题_【mysql】微服务架构下跨服务查询的聚合有什么好的方案?...
- css网页练习-3视觉
- IO复用与select函数
- Java Script小技巧【对象,属性】(转载)
- 央行等四部门发布资管新规全文
- 构造一个简单的Linux内核的MenuOS
- yum 与pip区别
- mp3外链,文件上传,QQ空间永久背景音乐,mp3连接,
- 数论整理之费马小定理
- 你真的懂iOS的异常捕获吗?
- 书架html特效代码,原生JS写的一个书架式的图片缩放滚动展示特效代码
- 如何实现WiFi下计算机互相访问,如何让两台笔记本电脑在无线连接下互相投屏...
- axios请求发送两次请求_vue使用axios发送请求,都会发送两次请求
- 抖音运营 | 10万赞的短视频如何打造?
- AMBA总线协议AHB、APB、AXI对比分析
- 大数据Spark实战第五集 Spark股票交易实时价格分析