这是鼎叔的第十篇原创文章。
行业大牛和刚毕业的小白,都可以进来聊聊。

欢迎关注本人专栏和微信公众号《敏捷测试转型》,大量原创思考文章陆续推出。

鼎叔在MTSC-中国移动互联网测试开发大会,以及深圳敏捷之旅中,分享了《提升用户体验的评测方案》议题,本文是相关系列主题文章的第六篇。

本文继续聊聊竞品体验对比测试实战的三个真实案例。

第三节 案例-手机浏览器页面加载速度

手机浏览器的页面加载速度测试:针对TOP热门网站,能否在不同网络,不同地域,不同时间段,能否都达到良好访问体验?和竞品比起来差距如何?

内部埋点方式成本很低,但是不适合做竞品对比。

页面是否加载完成,从人眼的角度是要页面渲染结束为止,因此从UI角度测试是最直接的。但是普通UI断言脚本的编写和维护成本比较高,我们可以尝试更高效的低成本对比方案-- 利用高速摄像头和OCR识别算法

测试流程:固定高速摄像头,对准手机屏幕,打开浏览器,自动输入URL和点击“前往”,执行测试获取时间,完成日志抓包后,恢复环境。

选取高速摄像头的标准:需成像质量高,帧率高,容易稳定控制。拍摄时对焦清晰,固定好距离,可以用遮光纸板屏蔽环境光的干扰。如图所示:

控制录像开始和结束:可以获取摄像头(罗技摄像头)软件句柄,按相对坐标点击。

录制视频的分帧工具:选用FFmpeg,要求是能按毫秒命名,快速,录制尺寸小,不失真,可自动处理。

找准页面加载开始时间:打开手机的轨迹显示,视频分帧中出现第一张触摸白点时,开始计时。

找准页面加载结束时间

1 出现首文字加载的时间,只要白屏的饱和度大于0,表示首字符出现,因为页面首先出现的内容是不确定的,所以可以利用图片饱和度算法来判断何时出现首文字或图片。

2 完成首屏加载的时间,可以用感知哈希算法,图像特征可以生成指纹,HASH不同,数据/图片也不同。用待识别图片和标准加载完成图片做快速特征对比。

处理测试数据:将不同城市,不同网络(5G,4G,3G,不同运营商),不同时间段,不同竞品的测试结果入库保存,注意每次测试连续测10遍,去掉毛刺数据,获得平均时间。

展示测试结果,关注改进趋势: 展示竞品对比的报表,数据曲线,可以按照日期,产品版本,测试站点等维度打开对比,方便开发分析问题。

通过长时间的对比差距和死磕,在核心指标评分上,仅仅半年,我们的产品加载速度就从低于对手30%,优化到和对手持平;再过3个月的改进,各项指标显著超越对手!

第四节 案例-地图导航APP

作为一个地图导航软件,用户体验的期望指标是什么?

  • 路线规划正确,省路/省时间

  • 语音播报时机合适,正确,简洁

基于真实路况的LBS应用,从用户角度验收的成本是非常高的,人工在外面路测,还需要车辆支持,更何况路线规划算法非常复杂,数据极其庞大。那测试团队该怎么做,才能真正推动用户体验的改进,推动开发不断完善算法呢?

还是从上述的核心指标出发,设置竞品对比评测方案:

  1. 先从最热门的路线规划中得到测评路径,当然,真实的线上数据就是我们的抓手:目前产品的热门城市是哪里(通常是北上广深),最热的路线query是什么,选取TOP100或者1000.

  2. 强大的竞争对手是哪几个?通常他们有服务SDK,可以直接接入调用,获得路线导航路线,以及关键结果数据。

  3. 通过自动化脚本对比,如果我们的导航APP,和几个竞品比起来,明显好于对手,或者明显差于对手,就把多方的路线结果截图,展示在自建的评测网站上,人工横向对比,非常方便。

  4. 人工对比看我们的路线是不是真的太长了?如果确实不如几个竞品,打上“bad case”标签,转发给开发进行优化。 如果我们的路线比对手都短,不要着急下结论,先人工检查是否有异常阻断(如修路,塞车,小区内部道路不可走,有关闭的大门等等),有的话结果也是bad case。

  5. 最终,开发根据我们提供的数据做了算法优化,在下个版本发布后,对所有的badcase,goodcase进行回顾,给出评价结论,优化目标是否达成。

  6. 我们还可以引入出租车用户的路线轨迹进行优化结果对照,因为通常出租车司机更为专业,熟悉路线。

语音播报,也可以建设类似的语音播报对比平台。

我们可以用手机模拟回放路线的GPS位置,记录下播报的位置,时间和播报内容,再做竞品对比评测(人工介入判断是否bad case):

准确度:遇到复杂路线-如三岔口,环形路口,立交桥等,怎么行驶?

全面性:播报的关键提示信息是否齐全?

简洁性:播报的字数是否冗长?

播放时机:是否及时,有充分的操作时间,但又不会过于提前播报?

可以结合街景地图的回看,验证播报质量是否达标。

当然,随着众包平台的普及,也可以在众包上定向分发评测任务(根据用户的不同地理位置),让用户反馈导航异常结果,或者反馈与竞品有差距的导航结果。

第五节 竞品体验对比评测专题报告

竞品评测指标的持续报告,相对而言可读性和趣味性不高,考虑到用户体验需要站在用户视角上耐心挖掘思考,我们可以开展更加深入的“沉浸式”的用户体验活动:策划出品专题体验报告

虽然在多数情况,产品经理/设计师会组织相关的竞品体验活动/脑暴,但是测试团队参与或者组织这类活动,有自己的关注点--找出客观的体验场景和质量指标维度,在未来的测试中提升敏锐度,而对产品设计的创意高低不去妄加评价。专业的体验对比报告也能给产品/业务团队以积极的输入,践行以体验为中心的企业文化。

因为是以一线竞品为对比角度,给出的建议更有针对性,度量目标更明确,也更容易被团队接受。

推荐的报告策划和执行步骤如下:

一,聚焦要对比的产品和功能领域,即专题视角。通常是用户焦点,投诉比较多的,或者关注者众的价值区域,也可以是代表未来产品发展的可能方向,但是还在探索之中。

我们这次的例子,就选用理财产品的社交化,作为专题领域。

二,挑选竞品,可以是同类属性的排名靠前理财产品,也可以是大平台的理财频道(业务模式相近),或者是在本次专题领域有突出口碑的产品。

三, 集体策划(脑暴):安排一个安静的空间,一个集中的探索时间,安装好我方软件和竞品软件,进行沉浸体验,然后给出评价,集体探讨达成一致结论(如果结论比较多,投票出最关键的结论/措施)。在报告中用表格列出:竞品分析的具体场景,对比维度,对比截图和数据,从用户角度分析理由。

四,在对业务方发布的竞品对比评测报告中,建议结论先行,抛出测试方的评测结论(有赞有弹),最关键的优化建议是什么。注意给的建议一定是基于用户体验诉求,抓住可度量对比,尽量不加入个人主观好恶。

五,对于上述报告的分析和总结内容,得到参与成员的确认,并通过大家进一步的思考(意犹未尽),把希望更深入探索的对比指标/方向,纳入到下一期的竞品对比专题中,形成对比体验的系列报告。产品体验的创新改进之路,本质上就是探索出来的。

如下图,是理财产品社交化竞品对比体验报告的总结部分示例:

聊聊竞品体验对比评测(下)相关推荐

  1. 聊聊竞品体验对比评测(上)

    这是鼎叔的第九篇原创文章. 行业大牛和刚毕业的小白,都可以进来聊聊. 欢迎关注本人专栏和微信公众号<敏捷测试转型>,大量原创思考文章陆续推出. 鼎叔在MTSC-中国移动互联网测试开发大会, ...

  2. miui系统android os,color os对比miui 一加手机刷Color OS与MIUI系统体验对比评测

    color os对比miui,下面脚本之家小编将为大家带来一加手机刷Color OS与MIUI系统体验对比评测,感兴趣的朋友可以过来看一看! 一加创始人刘作虎曾在一加发布会上说,一加是一个开放性的平台 ...

  3. 市面上主流的音视频竞品分析对比

    一.平台覆盖,传输协议对比 平台 声网 即构 腾讯 阿里 ucloud 网易 anyRTC Android 支持 支持 支持 支持 支持 支持 支持 iOS 支持 支持 支持 支持 支持 支持 支持 ...

  4. 高恪智能流控怎么设置_磊科285G智能QoS与高恪K2P智能流控多用户对比评测(下, 多用户对比测试)...

    多用户对比评测: 1.多用户下载对比评测 5台PC分别接入磊科路由器与高恪路由器,同时开启迅雷下载,从下载速率可以看出,磊科智能QoS和高恪智能流控均能保证各PC公平使用网络速率,不会出现单台PC占用 ...

  5. 看了50+竞品分析,我总结出5个常见问题和1套方法论

    毋庸置疑,竞品分析,是每个产品经理必备的技能.不管处于哪个阶段的产品,都时刻需要启用该技能做一些专题性的研究.笔者最近刚好在做一些新产品规划,看了很多竞品分析的相关文章,有一些小收获,因此做下整理,如 ...

  6. 分享一篇关于社区团购的竞品分析

    ‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍ 1.行业分析 1.1 发展历史和现状 目前市场上有两大势力:一是互联网巨头,以滴滴.美团.拼多多.阿里最为活跃,其中滴滴橙心优 ...

  7. 爱奇艺视频与腾讯视频竞品分析

    随着视频直播业的火爆,市场上视频直播的APP也层出不穷,这些APP主拼的内容和资源,更需进一步推动用户付费习惯的养成.从用户关注因素出发,以用户体验的多方面的校对市场上热门视频直播类APP进行对比分析 ...

  8. 产品方法论—如何竞品分析

    一.概要 什么是竞品分析,单从组词法来说,竞品分析就是对竞争产品的分析,接下来将详细讲述到底应该如何进行竞品分析- 1.什么是竞品分析 在两个或者多个竞争产品之间,他们有什么样的商业模式,有什么样的定 ...

  9. 艾永亮:企业如何基于超级产品战略,构建业务架构,进行竞品分析

    本文运用超级产品战略,从用户角度出发,以业务构架为基础,描述如何通过竞品分析打造超级产品. 在B端产品的创新过程中,许多产品经理都不愿意做竞品分析,这是因为在细分市场当中,B端产品的竞品分析成本非常高 ...

最新文章

  1. NSMutableString和NSString区别,及相互转换方法
  2. html输入框颜色属性,css 修改input输入框属性
  3. sql 中删除重复数据的方法
  4. AC自动机build时的一点小优化
  5. 通过QEMU-GuestAgent实现从外部注入写文件到KVM虚拟机内部
  6. mysql dml回滚_mysql binlog回滚/闪回,前滚, 分析各表DML情况, 找出长事务与大事务...
  7. 【我的相册】一瓶解千愁
  8. C语言之pthread_cond_wait()和pthread_cond_timedwait()区别(十五)
  9. TMS320C55x的硬件结构
  10. Python 必备要点总结及环境搭建(上)
  11. linux命令大全dfs,Linux常用的dfs命令
  12. getch方法_C语言中getch()函数详解(附实例)
  13. 高等数学同济第七版课后答案上册
  14. 双向循环链表实现—通讯录(学生管理系统,自行车管理系统,影院管理系统)—C语言课设(万能模板)—数据结构—用文件存储数据
  15. dede文章采集管理php,织梦采集规则如何写(织梦自带采集器写规则技巧)
  16. 金税盘显示frm000013_开票软件(金税盘版)2020年4月征期抄报方法/季报方法!
  17. 拼多多36W+的后端面经
  18. volte的sip信令流程_VoLTE主叫信令流程详解(有抓包截图详细介绍)
  19. 网络限制计算机连接怎么办,电脑本地连接受限制或无连接怎么办,教您解决方法...
  20. 网站搭建需要多少钱?如何搭建比较省钱呢?

热门文章

  1. Eclipse 安装 windowbuilder插件
  2. [转贴]日本呆了三年 我眼中的日本印象!
  3. 基于C语言的材料力学模型计算实现(拉压变形篇)
  4. FGD · 把网页截图分享
  5. 练习:两数相加(链表逆序存储求和数字)
  6. 英语四级考前冲刺技巧
  7. 李彦宏、丁磊都表态要回国上市,A股将迎来新经济公司上市潮?
  8. 机床数据采集之马扎克(Mazak)Smart CNC IP地址设置
  9. 会自动分配IP地址的路由协议——DHCP
  10. 每日关注:创业板17日召开首次发审会 7家企业首批过会(9月14日)