实验背景介绍

了解更多2017云栖大会·杭州峰会 TechInsight & Workshop.

本手册为云栖大会Workshop之《在线用户行为分析:基于流式计算的数据处理及应用》场的《数据可视化:构建实时动态运营数据分析大屏》篇所需。主要帮助现场学员熟悉并掌握DataV数据可视化的操作和使用。

实验涉及大数据产品

  • DataV数据可视化

前提准备

必备条件:1、已经从云中沙箱中获取了实验所需的阿里云账号和密码。2、安装56版本以上的GOOGLE CHROME浏览器。

实验目标

本实验将会实现如下的实时动态运营数据分析大屏大屏。

创建可视化大屏

经过上述《流数据处理:通过StreamSQL分析视频日志》章节创建的流式任务,我们可以创建酷炫的可视化大屏展示网站实时流量统计情况,为了便于大家快速掌握DataV的使用,请使用事先准备好的RDS数据源。

进入DataV管理控制台

点击进入DataV可视化管理控制台。

添加数据源

  • step1:进入DataV管理控制台,点击左侧菜单中我的数据

  • step2:点击+添加数据,跳出新建数据对话框。

  • step3:配置数据类型为RDS for MySQL、名称、域名、用户名/密码、端口和数据库,点击“获取数据列表”,选择“workshop”,并点击测试连接,最后点击“完成”。

具体数据源配置项如下:

  • 数据源类型:RDS for MySQL,内网,华东2
  • 名称:workshop_rds
  • 域名:rm-uf6t1mym355i3qdsw.mysql.rds.aliyuncs.com
  • 用户名:root
  • 密码:Workshop001
  • 端口:3306
  • 数据库:workshop

创建DataV可视化大屏

  • step1:点击左侧我的可视化,进入配置大屏操作;再点击2017_WORKSHOP_HZ进入大屏编辑界面。

  • step2:此处大屏模板为此次Workshop量身定制,大家直接进入配置界面即可。DATAV功能布局见图示。

配置DataV数据图表

依次配置实时在线人数(数字翻牌器)热门房间排名(轮播列表柱状图)在线人数变化趋势(折线图)用户卡顿率趋势(折线图)访问设备比例(饼图)用户故障地理分布(点热力图)

配置实时在线人数(数字翻牌器)
  • step1:点击数字翻牌器,进入配置实时在线人数(数字翻牌器)页面。

  • step2:点击数字翻牌器左侧“数据“选项卡,进入数据配置面板。

数据类型选择数据库,选择数据库为workshop_rds(刚创建的数据源名称)在SQL底部勾选自动更新,设置每5秒请求一次。
因为数据表包含了多条数据,需要获取最新的在线人数数据,故编写SQL如下:

附:SQL说明

SELECT sum(count_value) as value FROM online_num 
配置热门房间排名(轮播列表柱状图)

点击轮播列表在右侧进行配置数据。统一选择数据类型为数据库,且选择数据库为之前所配置的workshop_rds。

附:SQL说明

SELECT sum(count_value) as value, roomid as content
FROM hot_room_num
where
start_time < unix_timestamp()*1000
and start_time > (unix_timestamp()-100)*1000
group by content
order by value DESC
limit 5
配置在线人数变化趋势(折线图)
  • step1:同样点击在线人数变化趋势(折线图),进入数据配置页面。
  • step2:配置数据源。

数据类型选择数据库,选择数据库为workshop_rds(刚创建的数据源名称)在SQL底部勾选自动更新,设置每5秒请求一次。

附:SQL说明

   SELECT count_value as y, substring(start_time,  1, 19)  as xFROM online_numorder by start_time DESClimit 10
配置用户卡顿率变化趋势(折线图)
  • step1:同样点击用户卡顿率变化趋势(折线图),进入数据配置页面。
  • step2:配置数据源。

数据类型选择数据库,选择数据库为workshop_rds(刚创建的数据源名称)在SQL底部勾选自动更新,设置每5秒请求一次。

附:SQL说明

SELECT block as y, substring(start_time,  1, 19) as x FROM block_min order by start_time DESC limit 10
配置访问设备比例(饼图)
  • step1:同样点击配置访问设备比例(饼图),进入数据配置页面。
  • step2:配置数据源。

数据类型选择数据库,选择数据库为workshop_rds(刚创建的数据源名称)在SQL底部勾选自动更新,设置每5秒请求一次。
编写SQL如下:

附:SQL说明

SELECT
sum(count_value) as value,
agent as type,
max(start_time) as date_time
FROM access_device
where
start_time < unix_timestamp()*1000
and start_time > (unix_timestamp()-100)*1000
group by agent
配置播放故障率(点热力图)
  • step1:点击地图组件,再选择点热力图层子组件。
  • step2:进入数据配置页面,配置数据源。

数据类型选择数据库,选择数据库为workshop_rds(刚创建的数据源名称)在SQL底部勾选自动更新,设置每5秒请求一次。
我们需要的数据包括经度、纬度和故障率,但是原始数据中,经度、纬度在一个字段中,且该字段包含空数据等脏数据;同时,故障率为0的数据我们不需要,因为对绘制热力图不起作用。这就需要我们用DATAV数据过滤器处理。先用SQL查询10000条数据,保证充足的数据量进行下一步过滤。
附:SQL说明

SELECT * FROM region_failure_rate limit 10000
  • step3.1 添加数据过滤器

  • step3.2 将新建数据过滤器命名为“getVideoFaultValue”
  • step3.3 编写数据过滤器
  • step3.4 选择应用数据过滤器“getVideoFaultValue”

附:数据过滤器代码说明

var processedData = [];data.forEach(function(d, i) {if(d.remoteip && +d.fault_video > 0) {var dataObj = {};var latLngArray = d.remoteip.split(',');dataObj.lat = latLngArray[0];dataObj.lng = latLngArray[1];dataObj.value = +d.fault_video;processedData.push(dataObj);}
})return processedData;

至此我们对所有组件的数据都已经配置完成。

预览大屏

  • 点击右上角预览,查看大屏效果,会看到数据实时的刷新。

发布大屏

通过发布操作可以将制作好的大屏分享别人查看。

  • step1:点击右上角发布,弹出发布对话框,打开发布按钮会生成链接。

复制生成的URL即可共享你的大屏作品,观看制作的流式数据大屏。其他验证密码、验证Token可以参考更多教程来完成,此处将不赘述。

到此为止,相信大家一定程度掌握了阿里云流式日志的分析及处理解决方案有了一定了解,包括Log、StreamCompute到最后的DataV大屏展示。更多内容请大家持续关注文章的更新和后续的workshop内容出品。

2017云栖大会·杭州峰会:《在线用户行为分析:基于流式计算的数据处理及应用》之《数据可视化:构建实时动态运营数据分析大屏》篇...相关推荐

  1. 2017云栖大会·杭州峰会:《在线用户行为分析:基于流式计算的数据处理及应用》之《数据可视化:构建实时动态运营数据分析大屏》篇

    点击有惊喜 实验背景介绍 了解更多2017云栖大会·杭州峰会 TechInsight & Workshop. 本手册为云栖大会Workshop之<在线用户行为分析:基于流式计算的数据处理 ...

  2. 【全记录】2017云栖大会·北京峰会——企业云上业务优化专场

    作为本年度科技界的压轴大戏,2017云栖大会·北京峰会盛大空前, 30+主题论坛.深度技术解读.行业前沿实践分享以及创新互动体验让来到现场的朋友们印象深刻.本次峰会中,由阿里云客户服务部主办的 &qu ...

  3. 【资料合集】2017云栖大会·苏州峰会回顾合集:PDF下载

    技术揭秘大狂欢,12月7日,云栖大会·苏州峰会于苏州日航酒店三楼中宴会厅召开,带来前沿技术理念及实践技术成果分享.本次云栖大会的看点:企业软件供应链生产效能如何提升:如何实现高效研发实践:初创企业如何 ...

  4. 【资料合集】2017云栖大会•苏州峰会回顾合集:PDF下载

    技术揭秘大狂欢,12月7日,云栖大会·苏州峰会于苏州日航酒店三楼中宴会厅召开,带来前沿技术理念及实践技术成果分享.本次云栖大会的看点:企业软件供应链生产效能如何提升:如何实现高效研发实践:初创企业如何 ...

  5. 大数据workshop:《在线用户行为分析:基于流式计算的数据处理及应用》之《实时数据分析:海量日志数据多维透视》篇...

    实验背景介绍 了解更多2017云栖大会·成都峰会 TechInsight & Workshop. 本手册为云栖大会Workshop之<在线用户行为分析:基于流式计算的数据处理及应用> ...

  6. 【资料合集】2017云栖大会·上海峰会回顾合集:PDF下载+现场视频

    摘要: 科技盛宴再临上海,6月10日-11日,云栖大会·上海峰会于上海跨国采购会展中心召开. 为了让大家get到现场嘉宾分享的技术和知识,小编特将本次峰会的部分PPT资料和视频整理出来,供大家下载.学 ...

  7. 2017云栖大会开源峰会预告

    想不想知道是什么 想不想知道是什么

  8. 重磅干货不容错过!2017云栖大会汇总资料,速来领取!

    原文链接:点击打开链接 摘要: 2017云栖大会圆满结束!云栖大会由阿里巴巴集团主办,已经成为全球云计算TOP级峰会,汇聚DT时代最强大脑,描绘云计算发展趋势和蓝图,展现云计算.大数据.人工智能蓬勃发 ...

  9. 【印象】2016云栖大会城市峰会:上海、深圳、南京、北京等精彩复现

    2016年,云栖大会城市峰会陆续走过了9座城市,云栖社区特此打包峰会的概要,方便大家好好温习. 作为"世界级·现象级"的大会,2017云栖大会将于10月11-14日在杭州云栖小镇举 ...

最新文章

  1. 一根烟上热搜,先让AI看看你的肺
  2. XAMPP 配置虚拟域名/localhost重定向
  3. document、body对象的事件
  4. 爬虫-07-请求过程
  5. RHELServer6.2下编译GDAL和mysql和proj4支持
  6. 利用c++利用odbc连接mysql数据库
  7. 3.4 tensorflow2实现两总体样本尺度参数的秩检验法——python实战
  8. ibm服务器装群晖系统,【科技实验室】如何给工控机电子盘刷上黑群晖系统和群晖引导?如何超简单搭建NAS 超详细保姆级教程...
  9. 基于springboot实现宠物医院管理系统
  10. 作为审稿人,你什么情况下会选择拒稿?
  11. 好用的办公网优化工具OneDNS
  12. 文件下载和二进制文件(图片、mp4视频)预览响应头的设置(防止中文名名乱码)
  13. 聊聊ADAMoracle去中心化预言机网络服务介绍
  14. html 实现excel表格分页打印,excel分页-用了这么多年Excel才知道,按下这个键,一张纸便可打印全部内容...
  15. ps4如何通过虚拟服务器联机,PS4联机路由电信用自定义host
  16. 苹果邮箱怎么登录qq邮箱_怎么登陆邮箱?公司mail邮箱在哪登录?
  17. win10monkey安装教程_详解win10下pytorch-gpu安装以及CUDA详细安装过程
  18. OpenCV 学习笔记(5) 使用opencv打开笔记本摄像头
  19. CBoard框架数据集实现--DataProvider
  20. 部队应急通信指挥调度方案

热门文章

  1. 五个你绝不可忽视的HTML5特性
  2. Android清单AndroidManifest详细说明
  3. 分布式文件系统—HDFS—核心设计
  4. 为什么一直没有意识到自己还是面向过程编程
  5. SDNU 1263.C语言程序设计教程(第三版)课后习题10.5(约瑟夫环)
  6. adb 的原理以及它总重启等问题详解
  7. DataFormatString格式化字符串的总结
  8. 听歌是怀念过去 - 潇洒的走
  9. mysql中一些简单但是新手容易犯的错误
  10. POJ 2251 Dungeon Master (BFS最短路)