2019独角兽企业重金招聘Python工程师标准>>>

在数据开发过程中,我们通常需要将两个作业进行对比从而定位作业运行性能或者结果有差异的问题,但是对比作业时需要同时打开两个studio 的tab页,或者两个Logview页,不停切换进行对比,使用起来非常的不方便。MaxCompute Studio从3.1.0版本开始支持作业对比,可以在一个页面同时比较两个作业,并且能自动标注出作业的差异点。

本文我以查找同个作业执行两次用时差别很大的原因为例,通过MaxCompute Studio的对比功能对两次执行的job进行对比,找出执行时间差别大的原因。

作业对比入口

MaxCompute Studio的Maxcompute 工具菜单中进入作业对比。

输入两个需要对比的job的logview url 地址,点击“OK”按钮就可以开始对比:

对比基本信息

作业一运行了01:11:08 ,作业二运行了00:45:59,想知道是什么导致了相差近半个小时。先看基本信息对比:

通过基本信息可以看到studio 标注出作业一的耗时明显上升,其他项目,如IO Bytes 等相差不多, 输入输出表完全相同。基本可以断定是同一作业,为了确保是同一个作业还可以对比执行计划和脚本。

对比执行图

打开执行图 Tab ,可以一目了然看到两个作业的执行计划,执行图无法进行标注,可以通过查看text diff查看。

点击text diff 后可以对比fuxi task 的执行时间, 输入输出等详细信息。可以比较绝对值,可以按比例比较,不一致的地方都会进行有效标注。

这里可以发现执行计划是完全一致的。

对比脚本

点击脚本对比Tab 后,可以对比settings 和script ,settings 非常关键,不同的参数可能会导致完全不同的结果。这里需要使用text diff 功能比较sql 脚本。

可以看到脚本对比功能很方便使用,即便是很复杂的sql 脚本都可以快速发现区别,这里发现只有分区日期不同,其他完全一致。

进一步分析执行计划

通过前面几个对比,确定两个作业完全一致, 再回到执行图中, 通过回放可以发现运行瓶颈在J4, 查看text diff 发现作业一的J4 用时52分, 作业二28分,由此判断作业一主要是J4用时长导致整体运行变慢。

接下来重点分析J4 ,打开J4的 Operation Graph, Studio 在Operation 层新添加了Metric 信息, 可以看到每个operation 的执行时间,inner_time_ms, 这个时间指Operation 执行完所有行的平均时间(每个fuxi instance 都会用这个operation执行, 当这个operation 处理完所有分配给他的数据后就得出一个时间,这里的inner_time_ms 指的是这些fuxi instance 对应的Operation 执行的平均时间) ,通过这个时间可以发现某个Operation 执行时间是否过长,例如自定义udf 是否有性能问题。

对比J4 的实际运行时间相差不多,并且执行的都比较快,由此可以考虑J4 是否存在等待资源情况, 导致fuxi instance 并没有及时开始运行。

对比分析Tab

打开作业分析tab的时序图子页面,可以明显发现作业一的J4_2_3 task 运行时间大于作业二的, 与前面看到的执行计划图一致。

鼠标放到J4上点击展开作业后,可以看出fuxi instance 开始执行时间非常晚,这进一步验证了资源不足导致作业等待情况。

小结

通过Studio 的作业对比功能,调查了资源等待导致的作业运行变慢情况, 并且排查的效率更高。作业对比还有很多其他功能,各位可以自行尝试。

原文链接
本文为云栖社区原创内容,未经允许不得转载。

转载于:https://my.oschina.net/u/1464083/blog/3048885

MaxCompute Studio使用心得系列7—作业对比相关推荐

  1. MaxCompute Studio使用心得系列3——可视化分析作业运行

    上一篇写分享了通过MaxCompute Studio 编写sql脚本时"编译"功能带来的便捷,这次分享脚本编译好提交运行后,自助查看作业的执行情况. 我们很熟悉的是通过logvie ...

  2. MaxCompute Studio使用心得系列6——一个工具完成整个Python UDF开发

    摘要: 2017/12/20 北京云栖大会上阿里云MaxCompute发布了最新的功能Python UDF,万众期待的功能终于支持啦,我怎么能不一试为快,今天就分享如何通过Studio进行Python ...

  3. 代码快速“检”“修”不是梦,阿里云MaxCompute Studio 2.9.0 新版本发布

    摘要: 阿里云MaxCompute Studio 2.9.0 新版本发布,此次发布的新版本,在原有功能的基础上增加了新功能,分别是支持代码检查和快速修复:支持graph开发及调试. 近日,阿里云大数据 ...

  4. MaxCompute Studio

    认识MaxCompute Studio:https://help.aliyun.com/document_detail/50889.html 安装IntelliJ IDEA:https://help. ...

  5. 乐鑫各系列芯片规格对比与主打市场分析,ESP8266/ESP32/ESP32-S2/ESP32-S3/ESP32-C3

    首先,介绍下乐鑫公司: 乐鑫科技(股票代码:688018)是一家全球化的无晶圆厂半导体公司,成立于 2008 年,在中国.捷克.印度.新加坡和巴西均设有办公地,团队来自 20 多个国家和地区.乐鑫多年 ...

  6. Android studio 使用心得(三)—从Eclipse迁移到Android studio

    断断续续的也算是把eclipse上的代码成功迁移到android studio上来了,现在,我同事继续用eclipse,我用android studio,svn上还是之前eclipse的项目,迁移成功 ...

  7. Android studio 使用心得(六)---android studio 如何加载.so文件

    2019独角兽企业重金招聘Python工程师标准>>> 之前一直没怎么注意,以为.so文件android为像eclipse一样直接加载,但是直到昨天我在android studio上 ...

  8. Android studio使用心得(二)— 打包签名apk发布

    1.-–Android Studio菜单   Build->Generate Signed APK 2.--Create new.. 3.---跟eclipse里面一样,添加keystore 信 ...

  9. 玩转MaxCompute studio SQL编辑器

    为什么80%的码农都做不了架构师?>>>    摘要: SQL因其简单易学的特点,是用户与MaxCompute服务交互的主要手段.如何帮助用户高效愉快的编写SQL是MaxComput ...

最新文章

  1. console.log()的兼容性
  2. STL源代码分析(ch2 内存分配)jjalloc.h
  3. 原子操作和互斥量的区别
  4. mysql优化之query优化
  5. web-java-Java Concurrency Utilities
  6. php如何判断是ajax,php如何判断是ajax
  7. Multilingual预训练的那些套路
  8. Jmeter+badboy
  9. SSM项目源码基于SSM实现的小说网站含前后台
  10. mysql启动的errmsg.sys文件路径问题
  11. 在 Python 中使用机器学习进行人体姿势估计
  12. RK3288开发板——Debian8系统制作
  13. PIE-engine APP 教程 ——太湖生态环境智能监测系统
  14. 关于去除“请选择”问题
  15. 各种EDA软件的PCB文件后缀名
  16. php7.2 webshell,phpStudy后门分析
  17. 图片批量上传并限制图片大小
  18. 国外大牛的黑苹果配置清单
  19. 外国人最习惯用的社交软件有哪些?
  20. 程序员两道坎:年薪50万,100万!

热门文章

  1. 技术干货 | 如何选择上班路线最省时间?从A/B测试数学原理说起
  2. 100万人同时抢1万张火车票,极限并发带来的思考
  3. 牛逼哄哄的 BitMap,到底牛逼在哪?
  4. 使用雪花id或uuid作为Mysql主键,被老板怼了一顿!
  5. 一个复杂系统的拆分改造实践!
  6. 图灵奖得主Yann LeCun最新访谈!
  7. 一天1300 Star量,GitHub上新官方命令行工具
  8. 数据竞赛Tricks集锦
  9. 说话夹杂English的人:我不是要装X,只是Brain功能太强
  10. 机器学习面试必备 CheatSheet