简介:本文将会介绍如何通过使用DataWorks OpenAPI、DataWorks开放元数据、DataWorks开放事件消息三大利器搭建企业自己的DataWorks运维大屏。其中DataWorks OpenAPI已经面向所有企业开放商业化,而DataWorks开放元数据、DataWorks开放事件消息还在邀测中。

工欲善其数,必先利其器!

DataWorks OpenAPI现已正式发布,通过自带的100多个API 功能,可以快速进行批量操作与系统集成对接等,助您显著提升数据开发效率!

(DataWorks OpenAPI限企业版及以上版本使用)

DataWorks OpenAPI现开放7天免费试用,请使用钉钉扫码联系,提供试用账号的UID与Region即可。

本文将会介绍如何使用DataWorks OpenAPI、DataWorks开放元数据、DataWorks开放事件消息三大利器搭建企业自己的DataWorks运维大屏。其中DataWorks OpenAPI已经面向所有企业开放商业化,而DataWorks开放元数据、DataWorks开放事件消息还在邀测中。

租户级别运维监控

1、任务大盘

如上图所示,我们可以在大屏上展示每天的节点总数和产生的实例(任务)总数以及他们的环比情况,那么可以通过DataWorks开放元数据的表raw_v_schedule_node的数据计算出每日的节点总数然后再回流到RDS,通过raw_v_schedule_task表的数据则可以计算出每日的实例总数然后再回流到RDS,这样就能得到每日的总数,经过计算后计算出环比。

想要使用DataWorks开放元数据的表需要在我们的邀测名单中,给主账号完成表授权后就能使用自己的数据了。

2、任务运行趋势图

该图展示DataWorks每日任务完成情况,这个监控图需要借助DataWorks开放事件消息的实时数据来统计完成,DataWorks开放事件消息目前邀测开放了调度任务事件消息和元数据表事件消息两种事件消息,订阅调度任务事件消息后可实时拿到调度任务的实时运行情况,比如某个任务开始等时间时就能收一条DataWorks事件消息,在本地系统接收到该消息后能拿到任务的概要信息,如果想要获取该任务的更多信息可以通过调用GetInstance接口获取。任务从未运行->等时间->等资源->开始运行->运行成功整个运行生命周期都能订阅到事件消息,拿到实例信息后可以存储到RDS,经过积累后就能形成上面所示的任务运行情况趋势图了。

通过调度的事件消息数据不仅可以展示任务完成情况,还能展示任务各时间段等资源、运行中、运行失败情况。想要订阅DataWorks开放事件消息需要在我们的邀测名单中,我们颁发DataWorks的Kafka Topic以及账密后就能订阅到自己的消息了。

3、任务类型分布图

基于第2节中从raw_v_schedule_node统计的数据也可以拿到任务类型分布图中。任务类型对应的字段是prgName。

项目级别运维监控

1、周期实例数量趋势图

通过调用DataWorks OpenAPI的接口GetInstanceCountTrend即可拿到某项目下的周期实例运行数据,参考文档https://help.aliyun.com/document_detail/185675.html?spm=a2c4g.11186623.6.1294.13494e6dN9Hr0K

2、实例运行时长排行

通过调用DataWorks OpenAPI的接口GetInstanceConsumeTimeRank即可拿到某项目下实例运行时长数据,参考文档https://help.aliyun.com/document_detail/185676.html?spm=a2c4g.11186623.6.1295.2c0161c2yTlqiV

3、实例运行出错排行

通过调用DataWorks OpenAPI的接口GetInstanceErrorRank即可拿到某项目下近一个月节点的出错数据,参考文档https://help.aliyun.com/document_detail/185677.html?spm=a2c4g.11186623.6.1296.44945985P8ONel

4、结语

以上内容介绍了运维大屏的一些基础功能和如何使用DataWorks OpenAPI的能力来实现,基于这些能力用户可以挖掘出更多丰富的需求和场景,如果您有更好的想法也可以联系我们。

本文案例中使用到的API列表:

GetInstanceCountTrend

GetInstanceConsumeTimeRank

GetInstanceErrorRank

本文案例中使用到的元数据表列表:

raw_v_schedule_node

raw_v_schedule_task

本文案例中使用到的事件消息:任务调度事件


DataWorks OpenAPI实战系列:

数据开发全流程介绍

DataWorks OpenAPI 示例(元数据模块)

DataWorks OpenAPI现开放7天免费试用,请使用钉钉扫码联系,提供试用账号的UID与Region即可。

提效神器,DataWorks OpenAPI开放7天免费试用!

原文链接:https://developer.aliyun.com/article/782621?

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

DataWorks OpenAPI企业开发实战-运维监控大屏相关推荐

  1. 分享一个运维监控大屏看板

    公司业务的不断发展,紧接而来的是业务种类的增加.服务器数量的增长.网络环境的越发复杂以及发布更加频繁,从而不可避免地带来了线上事故的增多,因此需要对服务器到应用的全方位监控,提前预警. WGCLOUD ...

  2. 众安科技怎样帮助企业建设统一运维监控平台

    信息技术高速,企业面临着日益复杂的IT运维挑战.为了有效管理和监控企业的IT基础设施,众安科技提供了一套强大的统一运维监控平台解决方案.本文将详细介绍众安科技如何助力企业建设统一运维监控平台的重要性和 ...

  3. 企业运维监控平台架构设计与实现-高俊峰-专题视频课程

    企业运维监控平台架构设计与实现-8364人已学习 课程介绍         爱维Linux独家出品,本课程主要介绍了企业常见的运维监控平台的构建思路和常用软件,讲述了cacti.nagios.zabb ...

  4. 企业运维监控平台架构设计与实现

    课程介绍 本课程主要介绍了企业常见的运维监控平台的构建思路和常用软件,讲述了cacti.nagios.zabbix.ganglia.webnagios等常用监控软件的差异和优劣,并深入介绍了通过gan ...

  5. Telegraf+InfluxDB+Grafana大数据运维监控系统

    目  录 运维监控系统介绍 0课程安排及资料介绍 1海量日志监控告警系统介绍-ELK 2大数据定制化运维监控系统介绍-Flink 3自动化运维监控系统介绍 InfluxDB时序数据库 4InfluxD ...

  6. Open-falcon运维监控系统——微信接口二次开发

    1.Open-falcon运维监控系统简介 OpenFalcon是一款由小米运维团队从互联网公司的需求出发, 根据多年的运维经验,结合市面上使用的一些运维监控系统的使用经验和反馈,开发的一套企业级.高 ...

  7. 运维监控系统实战笔记(day1)

    第一次课 监控需求直接的是为了出现问题时能及时感知到.新的需求: 通过监控了解数据趋势,知道系统在未来的某个时刻可能出问题,预知问题. 通过监控了解系统的水位情况,为服务扩缩容提供数据支撑. 通过监控 ...

  8. 终于有阿里P8从开发、运维两个角度总结出了Redis实战手册

    从开发.运维两个角度总结了Redis实战经验,深入浅出地剖析底层实现,包含大规模集群开发与运维的实际案例.应用技巧. 前言 Redis作为基于键值对的NoSQL数据库,具有高性能.丰富的数据结构.持久 ...

  9. 优化Linux内核参数/etc/sysctl.conf sysctl 《高性能Linux服务器构建实战:运维监控、性能调优与集群应用》...

    优化Linux内核参数/etc/sysctl.conf  sysctl  <高性能Linux服务器构建实战:运维监控.性能调优与集群应用> http://book.51cto.com/ar ...

最新文章

  1. linux的git命令,linux命令实战安装git、配置git、创建仓库、部署项目
  2. DayDayUp:《机器崛起前传》第二十二章【蹒跚而来】读后感(文章源自网络)—听课笔记
  3. 《系统集成项目管理工程师》必背100个知识点-96我国企业信息化发展的战略要点...
  4. dnf安徒恩服务器不稳定,DNF安图恩掉线怎么办 INS安图恩攻坚战不惧掉线
  5. Adhesive框架系列文章--Mongodb数据服务使用实践
  6. [转载][工具]Secure CRT 自动记录日志和时间戳功能配置的方法
  7. 用最简单话概括SSH三框架
  8. 二叉树介绍与代码实现
  9. [ubuntu]deb软件源
  10. 【Spark Summit EU 2016】沃森媒体分析系统:从单租户Hadoop到3000租户Spark的架构演进...
  11. python建筑工程中的应用_Python最佳工程实践,建立一个完美的工程项目
  12. iOS编程高性能之路-基于pthread的线程池
  13. delphi xe3 oracle,delphixe3
  14. mysql子查询去重,将MySQL去重操作优化到极致之三弹连发(一):巧用索引与变量...
  15. 如何生成PSSM矩阵
  16. vba字典的key属性、item属性和keys方法、items方法、add方法
  17. 走进JavaWeb技术世界9:Java日志系统的诞生与发展
  18. Kerberos协议简介
  19. flowable报错FlowableTaskAlreadyClaimedException问题
  20. 头文件中能否进行函数的定义

热门文章

  1. 有了这款Python神器,新手也会调试代码!
  2. 漫画 | 程序员的悲哀是什么?
  3. python applymap_运行Python Applymap需要时间
  4. ubuntu16.04安装cuda8./9.
  5. 机器学习:多层感知机原理及实现
  6. python之函数名称空间,作用域,嵌套函数
  7. hadoop 源码编译---Win7(64位)
  8. 服务器cpu,内存正常, 部分网站打不开,提示死锁,应用程序池回收就正常,如何解决?...
  9. [Idea Fragments]2013.08.08
  10. Objective C 基础教程