百度 Hydra 工具在移动端 UI 兼容性测试上的高效应用

导读：尽管自动化测试技术日新月异，但是自动化case构建成本、执行稳定性等问题的存在，使手工测试依然移动端质量保证的重要手段。传统手工测试必须通过人工操作的方式执行测试用例，效率提升依赖测试人员的操作熟练度。本文从介绍百度内UI兼容性测试现状切入，引出“一机多控”并以此概念为基础打造的工具Hydra。然后从技术实现的角度，介绍了Hydra整体的设计思想以及部分核心模块的设计。

一、背景

1.1 移动端UI兼容性测试

移动端的UI兼容性测试，顾名思义就是对移动端应用在不同机型、不同分辨率、尺寸的移动设备上UI界面展示的一致性进行测试。

作为移动端应用质量保证的重要组成部分，长久以来依然通过纯手工的方式进行操作测试。传统的移动端手工兼容性测试，在百度的应用开发流程中主要在以下两个阶段：

a. 功能测试阶段

通常1_{2人，在少量业务线手机（约1}3台），总计测试时间在10~20小时。

b. 上线前全功能(回归)测试阶段

1_{4人，在业务线手机（5}12台），总计测试时间在20~50小时。

1.2 面临的问题

在当前采用的移动端手工兼容性测试，存在以下两个问题：

a. 效能提升困难

举例个简单的例子，一次回归测试中UI兼容性在10台设备上验证100个case，每个case耗时1分钟，那么总共就需要验证10x100=1000个case耗时约17个小时。这些case都需要测试人员手工在每台设备上进行操作。那么需要降低测试阶段的耗时，只能通过增加测试人力的方式。

b. 兼容性测试不够充分

对于UI兼容性测试来说，覆盖的品牌、型号、系统版本、UI版本等因素都会影响测试的召回率；但在现状中，移动设备是每个业务独有且有限的，业务线之间设备难以流通。

二、一机多控与Hydra

移动端的UI兼容性测试依然采用手工测试方式来执行，存在目前尚无法解决的客观原因，比如：移动端应用UI界面迭代快、自动化测试用例生成成本高；UI兼容性稳定无法进行标准化定义，召回困难，等等。

对于效率问题，Hydra试图从另一个思路——也就是通过“一机多控”的方式，提升手工执行测试的效率。一机多控顾名思义就是测试人员控制一台“主控”设备，他的操控动作能够同时控制多台“从控”设备，并进行人工的UI校验，达到在单位时间内进行更多测试的目的。而设备不足的问题，则是通过将“一机多控”与云设备平台对接，摆脱物理设备的限制来解决，例如云设备来提升兼容性测试覆盖度。

2.2 用户的需求

对于这样一款提效手工测试的一机多控工具，一线测试人员又是什么期望呢？总结来说是以下四个方面：

a. 准：在“主控”设备操控的位置、效果，能够准确无误地复制到“从控”设备上。这是一机多控工具的基本功能。

b. 多：包括设备数量多、设备种类多、支持的应用种类多。

c. 易用：操控的体验、交互应当是方便、快捷、符合使用习惯的。

d. 快：操控的速度快。

2.3 Hydra的方案

综合考虑用户需求之后，确定了Hydra的基本形态与技术方案：

首先我们考虑到“多”的因素，由于现在主流移动端有Android和IOS两大系统，设备的驱动方式、工具集差别非常大；其次非原生应用形式如小程序、H5越来越多地涌现出来，原生应用的驱动方式并不适合这些新形态的应用。因此我们决定采用图像算法来作为动作“复制”的核心算法。

采用图像算法，就会引申出更快地获取图像、更快地对图像计算的问题，因此采用通过PC机有线连接的方式，从而更好地满足用户对准、快的需求。

Hydra的基本形态是一个PC程序，用户可以通过有线方式连接本地设备，或者通过网络连接云设备。所有被测应用在设备上的画面在浏览器上直接展示，使测试人员能够更加直观地对UI界面进行校验，从而召回UI兼容性问题。这种展示方式也解决了设备增多之后带来的校验效率问题。

出于对测试人员使用习惯的考虑，Hydra也支持通过移动设备作为“主控”来操作。

三、Hydra的技术架构

Hydra整体采用BS架构，通过http/websocket协议与前端展示进行通信。具体的展现形式与能力实现进行解耦，可以非常方便地扩展出新的展现类型，比如手机客户端。

在功能组件中，比较核心的是群控引擎与图像合成器，分别负责“一机多控”功能的输入与输出部分。

通过浏览器/客户端捕获用户在“主控”设备上的实时输入，经由群控引擎进行复制之后，同时操作每一台“从控设备”。操作的反馈经由“实时图像流”，展示在用户的浏览器/客户端上。以此达到“所见即所得”的实时操控体验。

下文将对功能组件中，几个核心模块的设计与实现进行介绍。

3.1 群控引擎
群控引擎的设计目标是完成一次动作，多次执行。

其中的难点在于：

a. 不同分辨率下，实现坐标相关的用户输入的准确映射。

b. 不同设备性能下，单次动作在不同设备上的执行先后问题。

c. 多次动作组合的时序问题。（如点击变长按）

针对a.所指的坐标映射处理，是通过“多场景高性能图像算法”来解决，将在后续小节详细介绍。

对b. 群控引擎在并行处理“从机”执行动作的时候，会等待所有的坐标映射处理完成，统一出发执行，对于用户来说达到的效果，就是一个动作会“同时”反应。

对c. 群控引擎为“主控”和每一个“从机”建立动作执行队列，并记录“主控”每一次动作的时间戳。在“从机”执行动作的时候，依照“主控”的动作的相对间隔进行执行，确保执行的时序与用户输入尽可能的一致。

3.2 实时图像流

实时图像流是一条设备图像与展现的传输通路，其设计目标是能够实现多机“实时”图像展示，让用户能够更快地查看操作反馈。

其中的难点：

a. 不同设备性能下，输出图像帧率是不同的

b. 网络设备的图像输出帧率不稳定

c. 不受控的帧率导致数据传输多，性能消耗大，影响实时性。

d. 前端展示回调爆炸

要解决以上稳定，我们首先需要明确，对于实时图像流来说，实时性比起流畅度（帧率）是更重要的。因为用户的输入动作是一个离散的行为，通常需要需要识别的UI兼容性问题也是静态的。因此我们首先限制了设备的输入帧率为16帧并降低/权衡每帧图像的尺寸，满足“流畅”的基本需求，同时也尽可能降低了数据量造成的性能问题。

限制了单台帧率之后，多台设备叠加造成的前端回调爆炸问题，通过自定义的数据协议。将多机图像合成，从而降低展现层接收到的图像帧率。在实现的时候，采用固定合成帧率，定时采集所有设备的输入图像，为前端展示屏蔽不同设备的图像帧率差异。

如上图，我们有n台设备，设备#1以固定帧率稳定输出图像，设备#2以较低帧率稳定输出图像，设备#n则是不稳定输出图形。Hydra建立了单独的“图像合成”线程，以预期的固定帧率（16fps），从所有设备采集最新的的图像，作为给用户展示的图像，并进行合成。

上图展示了自定义的合成数据协议的设计。每一帧中包含所有图像的数据，在帧头中对帧的基本信息进行描述，其中就包括包含多少设备图像。接着在每隔一个设备的单独图像数据中，包含数据头。数据头描述了设备与图像的相关信息。同时对整个数据帧的数据部分进行再次压缩，以减少数据传输量。

3.3 多场景高性能图像算法

在实现了群控引擎和实时图像流之后，就实现了群控的基本雏形。但是要让群控的体验更好，就结合本节介绍的图像算法。

坐标映射的处于架构的核心位置，需要满足性能、准确率、通用性。我们选取的算法需要综合考虑上述要求，并进行权衡。由于我们整体属于实时系统，对于性能的要求会更高。

最基本的我们可以选取坐标值的数学转换，根据屏幕尺寸按比率进行换算。很显然这种算法最简单，性能最高，但是准确率是没办法满足的。因为只有当所有设备的图像是完全一致的时候，这种算法才能够准确换算。图像模板匹配是一种高性能、高准确率的图像算法，但是对于图像形变之后就无法识别，通用性无法满足。

我们选取了sift算法作为基本的图像算法，通过计算后的特征点进行换算映射。直接应用sift算法，在准确率、通用性都有比较好的表现，但是性能上有非常大的瓶颈，平均一组图像的处理耗时在2s，无法达到实时要求。因此我们需要对sift算法的应用进行优化：

首先我们对主控和从控设备的图像做了一次区域截取，降低算法的计算量；接着并没有直接使用计算后的特征点来映射，因为特征点的分布与图像有关，而坐标的输入可以是任意的。因此我们通过选取已有的2个特征点（图中红、绿点）a、b，计算在主控中目标点c与a、b之间关系（偏移角度与距离）。并将这种关系应用从控图像上进行计算，从而计算出目标坐标。

上述算法在大部分场景下可以表现良好，但是在部分场景（如列表）下准确率存在问题。因此需要进一步进行优化。

在一次群控映射发起的时候，首先选用cnn算法对页面进行识别，确定当前是否处于列表页面，接着再采用dnn对象识别来检测图像中是否已经存在预训练的图标。上述过程只在一次群控映射执行一次，基于以上的结果，在对每一个设备进行映射的时候，可以采取不同的策略：如果已经存在预设的图标，那么直接采用dnn识别出对象即可。接着根据是否处于列表页，决定sift算法的参数（更大的选取框、更高的特征阈值）。

基于以上算法，Hydra实现了平均160ms内的坐标映射和97.52%的准确率。

3.4 一致性修复

在实际使用过程中，设备图像出现不一致是比较常见的现象。原因可能是“从机”没有如预期那样按照“主控”的动作点击或者出现了如系统弹窗之类的预期外界面。群控中出现不一致是预期中的，为了提高效率，设计了高效的修复手段。

首先，在Hydra的操控设计时候，支持在群控过程中对每一台设备的单独查看与控制，当出现个别设备出现不一致的情况，可以立即对其进行修复，并回到正常的测试操作流程中。

其次对于比较容易出现不一致的场景，如列表页，提供了半自动化的滑动一致性修复。

如上图，当“主控”与“从控”在列表页滑动的位置不一致的时候，会分别对两个图像进行sift计算，得到对应的特征点。通过特征点连线之间的斜率，来判断当前“从控”图像是否存在滑动不一致的情况。

并不是所有的特征点都能够采用。我们试想一个列表页面，导航栏和标签页是不能滑动的，只有中间的内容才可以滑动出现不一致。因此我们将图像从上到下分成四个区域，并对每个区域中的特征点使用不同的权重，最上部分和最下部分不会变动的区域，权重值最低。中间可滑动部分也分成上下两个部分，下半部分由于屏幕尺寸关系，展示的内容高度会存在少许不一致，容易造成误导，因此赋予中等权重。上半区域是我们主要用来判断的区域，赋予最高的权重。

当得到不同权重的特征点连线之后，我们对其进行加权平均，即可根据结果判断是否存在滑动不一致的情况，并根据斜率计算差异，然后自动操控设备进行反向滑动补偿，即完成了滑动一致性修复。

3.5 移动端手持控制

测试人员传统的测试方式是直接手持设备进行操控，鼠键操控的习惯无法适应。因此Hydra也提供了通过移动手持控制的操作方式。Hydra提供了两种手持控制的方案：

1. 遥控方案

这种方案下，与浏览器方案一样，先选择一台设备作为主控。接着利用现有的前端技术。从“主控”设备采集到的图像，会发送到在遥控设备的浏览器上并展示，同时采集用户输入发送到真正的“主控”上。就好像在遥控“主控“设备一样。

这种方案的优势是实现简单，利用现有的前端技术，并且兼容性好，在Android和IOS上都通用。

但是，缺点也很明显：（1）遥控设备自身并不能用来测试，会浪费一台设备。（2）假如遥控设备和主控设备的分辨率尺寸不一致，那么在遥控设备上展示的显示效果会存在缩放，显示效果不佳。

2. Android客户端方案

这种方案是利用Android平台的开放性，Hydra提供了Android客户端，当使用这台设备作为主控的时候，可以直接进行操控。Hydra的客户端会采集用户的输入，直接群控所有的“从控”设备。

那么如何捕获用户输入呢？

客户端会预先在手机上建立双层的悬浮窗。当用户在手机上进行操控的时候，（比如这里用户点击了（400，1000）这个坐标，那么会被layer#1拦截到触摸动作的坐标。假如用户点击的是如back的虚拟按键，那么会由layer#2进行拦截。当获取到动作坐标以及按键信息的时候，客户端将这些信息发送至群控引擎，“复制”触发所有“从控”机进行执行。同时，由于用户动作已经被拦截，这些动作无法直接生效。因此Hydra客户端上，还包含了微型的执行引擎，可以对用户动作进行解释，并且在当前设备上进行操作。

四、Hydra的落地效果

Hydra目前已在百度内多条业务线进行落地，并在app回归、广告测试、运营活动等多种业务场景取得了正向的收益，每周平均提效在20%~70%。

当然Hydra也存在一定的局限性，在部分场景并不适用或者效果并不明显：

1.是不适合群控的场景，比如不同账号的登录，需要配合外部定制化的输入方案来实现。

2.是有动态背景如视频的icon点击，在识别上存在比较大的瓶颈。

3.是操作链路比较长，操作类型比较复杂的用例，在一定时间的群控之后，出现不一致的概率会增高。

4.还不支持一些复杂的手势操作如缩放、旋转等。以上问题我们在持续的进行优化改进。

五、更进一步提效手工测试——工具箱

通常我们完成移动端手工测试，需要测试人员去寻找完成测试需要的工具，学习并使用。这种测试过程有一定学习成本并且效果也很难保证。Hydra作为移动端手工兼容性的提效工具，这种使用模式也体现了我们对于移动端手工测试领域的思考——在测试人员与设备之间需要一个连接的“桥梁”，它是一个工具箱，可以开箱即用完成具体的测试目标。

期待你的加入

百度开发者中心已开启征稿模式，欢迎开发者登录developer.baidu.com进行投稿，优质文章将获得丰厚奖励和推广资源。