阿里巴巴数字化运营能力
1、鹰眼平台的架构
首先在每个应用集群的运行环境中,每当应用中进行了远程服务调用、缓存、数据库访问等操作时,都会生成相关的访问日志并保存到应用所在的服务器上。
因为这些本地日志信息仅仅是一次业务请求处理中的部分日志信息,必须要将这些日志信息汇聚到一个地方才能进行全局的统计和查看,所以在每个运行应用所在的服务器上均有一个代理程序,专门负责实时地将生成的日志文件(增量)发送到鹰眼的处理集群上。
鹰眼平台是阿里巴巴中间件团队自主研发的 JStorm流式计算引擎,对应用集群接收到的日志 进行内容的解析拆分,按照不同业务场景的需求 将拆分后的数据保存到不同的存储系统中。对于需要对日志信息进行实时业务统计的需求,会将日志信息保存到HBase中,对接收到的日志信息 进行实时的汇总计算,最后给鹰眼服务器提供实时业务统计数据,比如某一服务实时的QPS值、 交易金额的实时变化等场景。如果对于日志信息要进行批量的统计和分析,则会利用Hadoop分布式文件系统 (HDFS)提供这类业务场景下对日志数据的计算和分析。
2、埋点和输出日志
在每一个URL请求都会生成一个 全局唯一的ID,鹰眼平台中称为TraceID,这个ID 会出现在该请求中所有服务调用、数据库、缓 存、消息服务访问时生成的所有日志中。阿里巴巴采用了方式,将实现服务调用、各种资源的访问所需要生成服 务链路日志,以及TraceID传递等功能的代码(称 为埋点)植入到了服务框架层和各资源的访问驱 动层,也就是在中间件层面上统一实现了鹰眼的 上下文创建以及日志埋点功能,让调用上下文在 中间件的网络请求中传递,同时将调用上下文信 息保存在了本地ThreadLocal中,从而实现了鹰眼 平台所需的调用上下文和日志信息对于应用开发 人员完全透明。
关于TraceID的生成规则,可以 根据业务的需要在TraceID中包含一定的业务信 息,比如前端应用的IP地址,这样可以通过该信 息快速定位到生成此次请求的前端应用;比如创 建时间,方便后期将修改日志信息按照时间维度 进行分区存储。在淘宝的环境中,TraceID一般会 包含以下信息:
·IP地址:在淘宝环境可直接映射到前端应 用。
·创建时间:在存储时用于分区。·顺序数:用于链路采样。
除了TraceID负责将URL请求中所有的服务调 用和资源访问关系串联在了一起,还有另外一个 ID在分布式服务调用过程中也起到非常重要的作 用,这个ID就是RCPID,用于标识日志埋点顺序 和服务调用间的嵌套关系。
3、海量日志分布式处理平台
利用了阿里 巴巴中间件团队开发的海量日志分布式处理平台 TLog。
TLog可以根据用户定制的处理流程,持续不 断地对目标机器生成的日志数据进行解析、计 算、入库等操作,对日志的处理流程提供了“所 见即所得”的可视化配置界面,具备零业务侵 入、高性能、实时性强等特点。
要接入TLog平台,只需完成三步操作配置: 日志采集设置、日志数据处理流程自定义、API 方式数据获取,就能通过分布式日志处理的方式 实现所需要监控的技术或业务指标信息。用户只需设置好日志收集的目标应用、机器 IP、日志路径等信息并保存后,就完成了采集点的配置工作。
***********************************************************************
【如果文字看累了,可b站搜索“沙皮狗2021”,用听的方式领略知识的魅力】
传送门 :https://space.bilibili.com/407643589
【微信公众号】:沙皮狗2021
***********************************************************************
阿里巴巴数字化运营能力相关推荐
- 神策数据《2022 中国企业数字化运营成熟度报告》发布
数字化浪潮已成为互联网后中国经济发展的主要推动力,国家"十四五"规划纲要提出"加快数字化发展,建设数字中国",在此背景下,各行各业纷纷开展数字化转型,期望实现数 ...
- 重磅 | 神策数据微信生态数字化运营解决方案上线!
后疫情时代,小程序日新月异,如何才能抓住红利? 微信生态.APP.官网.CRM.线下业务.第三方平台--平台很多,数据割裂,运营孤岛现象如何解决? 近日,神策数据上线微信生态数字化运营解决方案,数据驱 ...
- 【干货】从0到1打造企业数字化运营闭环白皮书.pdf(附下载链接)
大家好,我是文文(微信:sscbg2020),今天给大家分享神策数据用户行为洞察研究院发布的白皮书<从0到1打造企业数字化运营闭环白皮书.pdf>. 在中国互联网信息中心(CNNIC)发布 ...
- 神策数据徐美玲:银行数字化运营建设路径与实践解读
近日,神策数据银行事业部总经理徐美玲出席由中国金融认证中心(CFCA).数字金融联合宣传年主办的"转型加速 2022"--CFCA 数字生态大会,就数字化运营对于银行业的价值展开分 ...
- 如何围绕用户数字化运营?
2022 年上半年,我国经济 GDP 增长为 2.5%,社会消费品零售总额 210432 亿元,同比下降 0.7%.上半年,全国网上零售额 63007 亿元,同比增长 3.1%.其中,实物商品网上零售 ...
- 数字化转型导师坚鹏:企业数字化营销能力提升
企业数字化营销能力提升 课程背景: 很多企业存在以下问题: Ø 不清楚数字化营销对企业发展有什么影响? Ø 不知道如何提升企业数字化营销能力? Ø 不知道企业如何开展数字化营销工作? 课程特色: Ø ...
- 金仕达数字化运营解决方案,助力期货公司构建4大核心能力
在以"私域运营,期货行业新增长引擎"为主题的金仕达2022期货互联网转型私享会上,金仕达互联网产品部负责人向捷从"证券和期货行业数字化运营的发展对比"和&quo ...
- 【金猿案例展】阳光保险:财险平台线上数字化运营
诸葛io案例 本案例由诸葛io投递并参与评选,数据猿独家全网首发:更多关于[金猿榜/奖·2019征集评选]的相关信息,请点击这里了解详情丨征案例.征文章.征产品=评企业.评人物.评产品. 大数据产业创 ...
- 亚信安全发布“安全定义边界”2020发展理念 赋能企业在5G时代的数字化安全运营能力
2020年4月21日,以"信行合一 聚势致远"为主题的亚信安全2020合作伙伴大会正式在云端拉开帷幕,超过1500家生态伙伴相聚云端,在为期3天的大会上共话安全,共商发展.会上,亚 ...
最新文章
- 博图读取温度的指令_1200读取温度巡检仪 16路
- Vue creatElement
- (Tree)二叉树基本操作
- java自动注入注解_Spring自动注解标签@Autowired不能注入xml配置的bean吗?
- oracle rollup分组没有数据时为0_Hive 入门数据分析基础 5
- Linux内存管理:转换后备缓冲区(TLB)原理
- 【转】两个算法题,感觉挺有意思
- 实用供暖通风空调设计手册 第三版_实用供热空调设计手册(第三版)“流体输配与水力平衡”技术专题讨论会...
- xjoi 1543 我自闭了
- 基于OpenCV视频帧差分的身高检测
- 苹果电脑mp3转gif_用苹果电脑做gif动图的方法终于找到了...
- 《写给大家看的设计书》(第四版)分享
- dlib 安装教程(三种方法)
- linux 给用户添加权限
- java rgb十六进制数据转图片
- Python爬虫实战:爬取淘女郎照片
- 稻盛和夫修的是什么心?
- 耶鲁大学 博弈论(Game Theory) 笔记6-纳什均衡之约会游戏与古诺模型
- 吉首大学计算机老师向直阳,吉首大学2020年计算机程序设计竞赛校赛完美落幕...
- kubernetes (二):通过Tectonic在本地搭建多节点k8s集群
热门文章
- commons-poll、jedis-2.7.0、jedis.properties资源分享
- html语言中kbd的含义,HTML: kbd 标签
- 雷诺手表怎么换电池?雷诺手表更换电池的方法
- AppInventor之数据库、MQTT及导出Excel表格
- i春秋 429-线上赛题(一)Writeup
- 数据分析之数据透视表多维度计算(Office2019)
- python并发编程书籍推荐_《吐血整理》-顶级程序员书单集
- Unity C# 将String字符串转换为16进制Byte数组
- 你的跑步姿势正确吗? 教你正确跑步姿势 常识
- 三跨考生准备考研复试(机试)之路(日记版)