性能测试平台(云上移动性能测试平台)
1.功能决定现在,性能决定未来
性能测试一直是移动测试领域的一大难题,其最直观的表现就是用户在前台使用App的主观体验。然而,体验的决定背后涉及许多技术变革。
当我们习惯了诺基亚,智能手机出现了;当我们学会了原生开发,杂交就来了;当各种混合框架下的巨型应用趋于成熟时,小程序出现在我们面前;继直播、iot、ar、vr和人工智能之后,新技术和应用场景正以难以想象的速度发展。面对快速变化的场景和开发技术,性能测试技术面临着巨大的挑战。当我们还在纠结如何测试A的时候,B已经出现了。
性能测试本身有日益成熟的解决方案,如在线性能监测APM和离线性能采集工具;有来自各种应用场景的测试技术,如压力测试、稳定性测试、功耗测试等。;还有基于各种性能指标(内存、cpu、功率和流量)的各种特殊测试能力。
我们致力于打造线上线下性能解决方案,希望帮助开发者发现、定位并解决一系列移动性能问题。本文将重点介绍EMAS性能测试平台的功能和规划。同一句话,功能决定现在,性能决定未来。
2.云上的性能测试工具
通常,当我们进行特殊测试(内存、cpu、电源、流量等)时。),我们需要准备测试模型、测试包、测试环境和测试号,我们会遇到以下问题:
模型样本数量不够。
调试包不一定反映生产包的性能,但Android Studio需要调试包来测试。
安卓/iOS测试环境难以搭建和跨平台。
整理和分析了大量的测试数据。
这些问题容易导致整个测试效率低下,甚至无法实施。
基于EMAS云实机的调试能力,MQC在云上提供了更完善、更便捷的性能测试工具。
云临场感机自然提供多达600多个测试模型,支持调试测试所有安装的应用,不依赖任何本地环境配置,一键上传测试数据。
同时,EMAS性能测试工具具有以下特点:
基于app_process和instruments协议的移动双终端跨平台性能采集;
无创、短间隔(采集间隔稳定1s)、低延迟(性能数据延迟小于100ms)、低功耗(对设备性能影响小于1%);
采用+process的测试方案,满足混合小程序的测试需求。
3.云上的数据看板
性能数据的意义在于,它通过技术手段对我们常见的问题进行度量和量化,可以帮助我们在产品功能上线之前,尽可能发现潜在的性能问题和风险。MQC性能测试平台将云端存储的数据尽可能多维度地可视化给用户,并将好的版本发布到深圳生活网之前的网关。
3.1任务
用户使用云实机执行的每一个测试任务和性能数据都会直接保存为测试任务,便于再次查看和确认历史数据。
3.2用例
在实际测试过程中,很容易发现不同应用场景的性能数据完全无法比拟,在统计方法上很难通过查看性能数据的平均值直接给出定性和定量的判断,无法影响开发和产品的决策。
即使看起来是同一个场景,但不同的产品决策可能会带来很大的性能数据差距:例如,大多数云盘相册基于流量和性能考虑显示压缩图片;但是我们本地的一些相册软件基本都是显示原图,所以产品的选择导致内存开销的巨大差异。
在最初设计时,数据看板吸收了功能自动化用例平台的构建经验,将每个性能测试任务存储到用例中,并根据不同的用例维度统计性能数据。在EMAS移动测试控制台中,不同的子账户查看和管理同一个应用和用例,满足了多用户云协同的需求。
3.3多维聚合
在用例维度的基础上,MQC性能测试平台提供了深圳生活网多维度的数据统计、聚合和分析能力。
设备分类
根据设备硬件性能分为高、中、低三个等级。由于不同等级的机型对APP的实际性能指标影响较大,因此该因素可以大大降低硬件性能对指标置信度的影响。
应用程序版本
对于绩效指标,通常有三个判断问题的标准:
基于行业技术经验定义的基线指标,通常是技术决策者基于用户体验、性能需求和大数据分析提出的底线标准;
同行业APP性能指标横向对比,学习行业内优秀技术变现一直是互联网快速发展的重要原因之一;
纵向对比不同版本的APP,快速发现新版本的优化效果以及新功能对APP的影响。
指数分布
索引分布可以帮助开发人员快速判断索引区间,定位可能的异常任务和异常索引区间,更有针对性地参考任务报告。
4.未来规划
指标丰富:继续完善更多性能指标的采集方案,如功耗、GPU、温度等;
行业指标:MQC将基于开发者数据和云上专家测试数据,整理统计各行业的业绩指标作为参考;
业绩基线:如上所述,业绩指标通常有三个观察标准,即同行业APP业绩指标;不同版本APP的性能指标;基于技术解决方案和行业数据的性能标准。性能基线的定义可以更好地约束开发者对极致性能体验的追求,将性能问题的概率降到最低,比如OOM和ANR。
更多热门文章推荐: