mirror of
https://gitee.com/openharmony/release-management
synced 2024-11-23 06:30:01 +00:00
add 4.0release test report
Signed-off-by: honghao534 <honghao534@huawei.com>
This commit is contained in:
parent
128f1aa2f1
commit
671871c61e
251
test_report/OpenHarmony_4.0.4_Release测试报告.md
Normal file
251
test_report/OpenHarmony_4.0.4_Release测试报告.md
Normal file
@ -0,0 +1,251 @@
|
||||
# **OpenHarmony 4.0.4 Release 测试报告**
|
||||
|
||||
## **1** **概述**
|
||||
|
||||
本报告针对OpenHarmony 4.0.4 Release 版本的测试验证及质量状态评估,包括对子系统特性,兼容性,稳定性,安全等测试项的覆盖。
|
||||
|
||||
## **2** **测试版本与测试环境**
|
||||
|
||||
测试版本:
|
||||
|
||||
| **版本名称** | **测试起始时间** | **测试结束时间** |
|
||||
| --------------------------------- | ---------------- | ---------------- |
|
||||
| OpenHarmony 4.0.13.1-4.0.13.5版本 | 2024-09-23 | 2024-10-29 |
|
||||
|
||||
测试环境:
|
||||
|
||||
| **硬件型号** | **备注** | **版本** |
|
||||
| ----------- | -------- | ------------------------------------------------- |
|
||||
| HI3861 | 轻量系统&不带屏 | hispark_pegasus版本 |
|
||||
| HI3516DV300 | 小型系统&带屏 | hispark_taurus版本(LiteOS版本)/hispark_taurus_linux版本 |
|
||||
| RK3568 | 标准系统&带屏 | RK3568 版本(32位) |
|
||||
|
||||
## **3** **版本概要测试结论**
|
||||
|
||||
总体测试结论:Go with Risk
|
||||
|
||||
| **试项** | **版本要求** | **测试结论** | **风险和遗留关键问题** |
|
||||
| ---------- | ------------------------------------------------------------ | ------------ | ------------------------- |
|
||||
| 子系统验证 | 1、无严重与主要的缺陷 <br />2、总体问题关闭率95%以上 | Go | 子系统评估详情请见4.1章节 |
|
||||
| 兼容性测试 | 1、XTS通过率100% <br />2、接口覆盖率100% | Go | 评估详情请见4.2章节 |
|
||||
| 专项稳定性 | 4.0 release版本准出标准需要达到,核心服务/核心应用APR<=0.1, 系整机重启APR<=0.6, 系统开关机异常APR<=0.1,预制应用异常APR<=3 。( APR单位:次/千小时) | Go with Risk | 详情请见4.3章节 |
|
||||
| 专项性能 | 预置应用性能达标<br/>静态KPI:预期目标胜率90%<br />内存测试 :整机内存基线<860M | Go with Risk | 详情请见4.4章节 |
|
||||
| 安全 | 1、安全隐私漏洞:发布版本安全隐私漏洞扫描、清零 <br />2、安全问题:无安全问题遗留 <br />3、安全编码:安全类静态检查工具清零 | Go | 评估详情请见4.5章节 |
|
||||
| SDK | SDK版本配套验证完成无关键问题 | Go | 评估详情请见4.6章节 |
|
||||
| 资料 | 无资料使用关键问题遗留 | Go | 评估详情请见4.7章节 |
|
||||
|
||||
## **4** **版本详细测试结论**
|
||||
|
||||
### **4.1** **子系统测试**结论
|
||||
|
||||
| **序号** | **子系统名称** | **评估结论** | **风险和遗留关键问题** |
|
||||
| -------- | ---------------------- | ------------ | ------------------------------------------------------------ |
|
||||
| 1 | 媒体子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,无关键问题遗留<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无问题遗留<br/>【性能】测试通过,无风险<br/>【安全】覆盖了安全扫描、Fuzz测试,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】 无关键问题遗留 |
|
||||
| 2 | 应用子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无问题遗留<br/>【性能】测试通过,无风险<br/>【安全】覆盖了安全扫描等测试,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 3 | 启动恢复子系统 | Go | 需求验收:无新增需求<br/>关键特性: 无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】隐私合规用例全量覆盖,无遗留问题<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 4 | 安全基础能力子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能功耗】测试通过,无风险<br/>【安全】安全隐私合规用例全量覆盖,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 5 | ArkUI子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/> 测试活动: <br/>【功能】功能用例全量覆盖,无关键问题遗留<br/>【稳定性】长稳测试用例全量覆盖,无遗留关键稳定性问题<br/>【性能】验收通过,无风险<br/>【安全】覆盖了Fuzz测试、安全扫描等安全测试,验收通过<br/>【XTS】XTS已全部通过<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 6 | 驱动子系统 | Go | 需求验收:无新增需求<<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能功耗】测试通过,无风险<br/>【安全】安全隐私合规用例全量覆盖,无问题遗留<br/>【XTS】测试通过<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 7 | 内核子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动:<br/>【功能】功能用例全量覆盖,无关键问题遗留<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能功耗】验收通过<br/>【安全】安全扫描测试,测试通过<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需<br/>【SDK】验收通过<br/>【遗留问题】遗留轻内核容器测试版本编译问题 |
|
||||
| 8 | USB子系统 | Go | 需求验收:无新增需求<br/>关键特性: 无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 9 | 泛Sensor子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了安全扫描和fuzz测试,验收通过<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 10 | 多模输入子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了安全扫描和fuzz测试,验收通过<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 11 | 文件存储子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性 <br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】 覆盖继承用例验收通过,安全扫描及fuzz测试通过<br/>【XTS】 用例通过率100% <br/>【资料】 无新增资料需求<br/>【SDK】 验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 12 | 电源子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了安全扫描和fuzz测试,无遗留问题<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 13 | 语言编译与运行时子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了安全扫描和fuzz测试,无关键问题<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 14 | 全局资源调度管控子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了安全扫描和fuzz测试,验收通过 <br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 15 | 分布式任务调度子系统 | Go | 需求验收:无新增需求 <br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险 <br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险 <br/>【性能】测试通过,无风险 <br/>【安全】覆盖了安全扫描和fuzz测试,验收通过 <br/>【XTS】用例通过率100% <br/>【资料】无新增资料需求 <br/>【SDK】验收通过 <br/>【遗留问题】无关键问题遗留 |
|
||||
| 16 | 系统服务管理子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了安全扫描和fuzz测试,验收通过 <br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 17 | 分布式DP子系统 | Go | 需求验收:无新增需求<br/>关键特性: 无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了安全扫描和fuzz测试,验收通过 <br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 18 | 分布式数据管理子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了Fuzz、二进制文件安全扫描、敏感日志扫描测试,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 19 | 分布式硬件子系统 | Go | 需求验收:无新增需<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了Fuzz测试,病毒,漏洞,隐私扫描等,无关键问题遗留。<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 20 | 分布式软总线子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,验收通过。<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险 <br/>【性能】测试通过,无风险<br/>【安全】覆盖了Fuzz测试,病毒,漏洞,隐私扫描等,无关键问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,覆盖全量接口,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 21 | 杂散子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】验收通过<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险 <br/>【性能功耗】测试通过,无风险 <br/>【安全】覆盖了Fuzz、安全扫描,验收通过,无关键问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,覆盖全量接口,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 22 | 无障碍子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了安全隐私测试,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 23 | 账号子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了安全扫描和fuzz测试、隐私扫描测试,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,覆盖全量接口,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 24 | 电话子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险(电话受硬件限制,仅测试基础功能)<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 25 | 事件通知子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留<br/>【XTS】验收通过,无风险<br/>【资料】无新增资料需求<br/>【SDK】验收通过,覆盖全量接口,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 26 | 包管理子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无关键问题<br/>【安全】覆盖了Fuzz、安全扫描,测试通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】测试通过,覆盖全量接口,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 27 | WEB子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无关键问题<br/>【安全】覆盖了Fuzz、安全扫描,测试通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】测试通过,覆盖全量接口,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 28 | 元能力子系统 | Go | 需求验收:无新增需求 <br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,无关键问题遗留<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留<br/>【XTS】验收通过<br/>【资料】无新增资料需求<br/>【SDK】测试通过,覆盖全量接口,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 29 | 短距离通信子系统 | Go | 需求验收:无新增需求 <br/>关键特性:无新增关键特性 <br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,无关键风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 30 | 图形子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险 <br/>【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】测试通过,覆盖全量接口,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 31 | 窗口管理子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,无关键遗留问题<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,覆盖全量接口,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 32 | 全球化子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无遗留问题<br/>【稳定性】稳定性专项用例覆盖测试,测试通过,无遗留问题<br/>【性能】测试通过,无风险<br/>【安全】覆盖安全扫描测试,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,无遗留问题<br/>【遗留问题】无关键问题遗留 |
|
||||
| 33 | 位置服务子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无高风险问题<br/>【性能功耗】测试通过,无风险<br/>【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 34 | DFX | Go | 需求验收:无新增需求 <br/>关键特性:无新增关键特性 <br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无高风险问题<br/>【性能】不涉及<br/>【安全】覆盖了FUZZ、安全工具扫描,验收通过无风险<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,无风险<br/>【遗留问题】 无关键问题遗留 |
|
||||
| 35 | 升级子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例覆盖全量用例,测试通过<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无高风险问题<br/>【性能】测试全量覆盖,无关键问题<br/>【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留<br/>【XTS】验收通过<br/>【资料】无新增资料需求<br/>【SDK】验收通过,覆盖全量接口,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 36 | 程序访问控制子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】覆盖了fuzz和安全扫描测试,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,覆盖全量接口,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 37 | 测试子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】安全扫描测试通过<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 38 | AI子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】安全隐私合规用例全量覆盖,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求 <br/>【SDK】验收通过<br/>【遗留问题】无关键问题遗留 |
|
||||
| 39 | 用户IAM子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】安全隐私合规用例全量覆盖,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
| 40 | PKI签名中心子系统 | Go | 需求验收:无新增需求<br/>关键特性:无新增关键特性<br/>测试活动: <br/>【功能】功能用例全量覆盖,测试通过,无风险<br/>【稳定性】长稳测试用例全量覆盖,测试通过,无风险<br/>【性能】测试通过,无风险<br/>【安全】安全隐私合规用例全量覆盖,验收通过,无问题遗留<br/>【XTS】用例通过率100%<br/>【资料】无新增资料需求<br/>【SDK】验收通过,无风险<br/>【遗留问题】无关键问题遗留 |
|
||||
|
||||
### **4.2** **兼容性测试结论**
|
||||
|
||||
兼容性测试: 主要是验证设备和业务应用满足OpenHarmony开源兼容性定义的技术要求,确保运行在OpenHarmony上的设备和业务应用能稳定、正常运行,同时使用OpenHarmony的设备和业务应用有一致性的接口和业务体验。
|
||||
|
||||
准出结论:Go
|
||||
|
||||
| 系统分类 | **测试套名称** | **英文** | **目的** | **用例规模** | **通过率** | **验收结论** |
|
||||
| -------- | ----------------------------------- | ----------------------------------------------- | ------------------- | ---------------------- | ---------- | ------------ |
|
||||
| 标准系统 | OpenHarmony应用兼容性测试套 | ACTS (Application Compatibility Test Suite ) | 看护北向应用兼容性 | 142570 | 100% | Go |
|
||||
| 标准系统 | OpenHarmony应用兼容性测试套补充测试 | ACTS-Validator | 看护基础体验兼容性 | 53 | 100% | Go |
|
||||
| 标准系统 | OpenHarmony分布式兼容性测试套 | DCTS (Distributed Compatability Test Suite) | 看护分布式兼容性 | 1201 | 100% | Go |
|
||||
| 标准系统 | OpenHarmony硬件抽象测试套 | HATS (Hardware Abstraction Test Suite ) | 看护HDI与内核兼容性 | 1940 | 100% | Go |
|
||||
| 小型系统 | OpenHarmony应用兼容性测试套 | ACTS (Application Compatibility Test Suite ) | 看护北向应用兼容性 | liteOS:2977 linux:455 | 100% | Go |
|
||||
| 轻量系统 | OpenHarmony应用兼容性测试套 | ACTS (Application Compatibility Test Suite ) | 看护北向应用兼容性 | 383 | 100% | Go |
|
||||
|
||||
|
||||
|
||||
### **4.3** 稳定性专项测试结论
|
||||
|
||||
准出结论:Go with Risk
|
||||
|
||||
4.0.4 版本累计测试时长为10456.2 小时>3000小时,满足release版本测试时长要求 。 遗留11个问题待解决,整体评估带风险发布。
|
||||
|
||||
| 测试类分类 | 准出标准(APR为牵引值) | 质量状态 | 测试结果 |
|
||||
| -------------------- | :----------------------------------------------------------- | -------- | ------------------------------------------------------------ |
|
||||
| 核心服务可靠性 | 1、mediaserver<br/>2、camera_server<br/>3、foundation<br/>4、Samgr<br/>5、hdf_devmgr、appspawn<br/>6、softbus_server<br/>7、wifi_manager_se<br/>8、power_host<br/>9、accesstoken_ser<br/>10、render_service<br/> 各核心服务小于标准值0.1 | 不达标 | 4.0.4版本测试数据:<br/>1、render_service=0.29>0.1(标准值)<br/> |
|
||||
| 核心应用可靠性 | 1、com.ohos.mms<br/>2、com.ohos.photos<br/>3、com.ohos.note<br/>4、com.ohos.callui<br/>5、com.ohos.camera<br/>6、com.ohos.contacts<br/>7、com.ohos.settings<br/>8、com.ohos.launcher<br/> 各核心应用小于标准值0.1 | 不达标 | 4.0.4版本测试数据:<br/>1、com.ohos.systemui=0.29>0.1(标准值)<br/>2、com.ohos.settings=25.63>0.1(标准值)<br/>3、com.ohos.callui = 1.34>0.1(标准值)<br/>4、com.ohos.camera = 2.0>0.1(标准值)<br/> |
|
||||
| 预置应用异常 | 跟随版本发布预置的应用范围< 3 次/千小时 | 不达标 | 4.0.4版本测试数据:预制应用= 29.84 >3(标准值)<br/> |
|
||||
| 死机重启 | < 0.6 次/千小时 | 达标 | 无死机重启问题,达标 |
|
||||
| 不开机(只统计OS导致) | 无OS导致的不开机关键问题 | 达标 | 无不开机问题,达标 |
|
||||
| 内存泄露 | 无内存泄漏问题 | 达标 | 无内存泄漏问题,达标 |
|
||||
|
||||
**遗留问题列表:**
|
||||
|
||||
| ISSUE | 描述 |
|
||||
| ------ | ------------------------------------------------------------ |
|
||||
| IAG7CG | 【高概率】【wukong】出现143次 进程com.ohos.camera因THREAD_BLOCK_6S出现appfreeze |
|
||||
| IAG7CF | 【低概率】【wukong】出现11次 进程com.ohos.settings因APP_INPUT_BLOCK出现appfreeze |
|
||||
| IAHQXZ | 【低概率】【wukong】出现3次 进程com.ohos.systemui因APP_INPUT_BLOCK出现appfreeze |
|
||||
| IAWMHN | 【高概率】【wukong】出现103次 进程com.ohos.settings因THREAD_BLOCK_6S卡在libipc_core.z.so出现appfreeze |
|
||||
| IA8ORN | 【低概率】【reboot】出现17次 由进程softbus_server下的IPC_0_625线程导致libipc_core.z.so出现cppcrash |
|
||||
| IAWMLO | 【低概率】出现9次 进程com.ohos.callui因libark_jsruntime.so出现appfreeze |
|
||||
| IAWMTY | 【低概率【wukong】出现1次 进程com.ohos.settings出现jscrash,栈名:unregisterObserver |
|
||||
| IAWMPY | 【低概率】出现1次 进程render_service下线程render_service出现cppcrash |
|
||||
| IAYGNL | 【低概率】【wukong】出现1次 进程com.ohos.note下的ThreadPoolForeg线程出现cppcrash,崩溃栈:libweb_engine.so |
|
||||
| IAZNTP | 【低概率】【wukong】出现1次 进程wifi_manager_se下的IPC_2_4917线程出现cppcrash,崩溃栈:libcesfwk_core.z.so |
|
||||
| IAZNP7 | 【低概率】【wukong】出现1次 进程com.ohos.camera下的com.ohos.camera线程出现cppcrash,崩溃栈:libimage_native.z.so |
|
||||
|
||||
### **4.4** **性能专项测试结论**
|
||||
|
||||
准出结论:Go with Risk
|
||||
|
||||
静态KPI:预期目标胜率90%,实际胜率89.79%(44/49) 未达标,整体评估带风险发布。
|
||||
|
||||
内存测试 :整机内存818.26M,优于基线860M,已达标。
|
||||
|
||||
| 应用名称 | 用例名称 | 触发方式 | 指标类型 | 安卓基线 | RK3568数据 |
|
||||
| -------- | ---------------------------------------------- | ------------ | -------- | -------- | ---------- |
|
||||
| 桌面 | 主桌面静态壁纸滑动 | 滑动 | 帧率 | 54 | 60 |
|
||||
| 信息 | 非首次启动短信息 | 点击(启动) | 完成时延 | 1000 | 388.8 |
|
||||
| 信息 | 首次启动短信息 | 点击(启动) | 完成时延 | 2300 | 1305.5 |
|
||||
| 相机 | camera启动(冷启动) | 点击(启动) | 完成时延 | 2683 | 1208.3 |
|
||||
| 相机 | camera启动(热启动) | 点击(启动) | 完成时延 | 2216 | 504.1 |
|
||||
| 相机 | 拍照生成缩略图 | 点击拍照 | 完成时延 | 1220 | 858.3 |
|
||||
| 图库 | 图库缩略图列表滑动 | 滑动 | 帧率 | 60 | 60 |
|
||||
| 图库 | 图库单个图片缩放 | 捏合 | 帧率 | 60 | 60 |
|
||||
| 图库 | 图库缩略图列表滑动 | 滑动 | 响应时延 | 150 | 126.3 |
|
||||
| 图库 | 图库单个图片缩放 | 捏合 | 响应时延 | 150 | 136.1 |
|
||||
| 图库 | 查看图片 | 点击 | 完成时延 | 769 | 554.1 |
|
||||
| 图库 | 复制一张图片(1张5M图片) | 点击 | 完成时延 | 2300 | 550 |
|
||||
| 图库 | 剪切一张图片(1张1M图片) | 点击 | 完成时延 | 1833 | 575 |
|
||||
| 图库 | 删除多张图片(2张5M图片) | 点击 | 完成时延 | 916 | 889.5 |
|
||||
| 图库 | 图库从照片切换到相册(Tab切换) | 点击 | 完成时延 | 442 | 162.5 |
|
||||
| 图库 | 非首次启动图库 | 点击(启动) | 完成时延 | 579 | 372.9 |
|
||||
| 图库 | 首次启动图库 | 点击(启动) | 完成时延 | 1404 | 1404.1 |
|
||||
| 输入法 | 按键输入速度 | 点击 | 响应时延 | 64 | 66.6 |
|
||||
| 输入法 | 输入法键盘弹出 | 点击 | 完成时延 | 279 | 208.3 |
|
||||
| 设置 | 退出设置 | 点击 | 完成时延 | 650 | 239.5 |
|
||||
| 设置 | 启动设置(原表是冷启动设置) | 点击(启动) | 完成时延 | 1145 | 976.3 |
|
||||
| 联系人 | 联系人列表滑动 | 滑动 | 帧率 | 60 | 56.5 |
|
||||
| 联系人 | 联系人列表滑动 | 滑动 | 响应时延 | 150 | 147.9 |
|
||||
| 联系人 | 查看一条联系人 | 点击 | 完成时延 | 883 | 425 |
|
||||
| 联系人 | 存入联系人 | 点击 | 完成时延 | 625 | 329.1 |
|
||||
| 联系人 | 联系人-拨号子Tab切换 | 点击 | 完成时延 | 440 | 375 |
|
||||
| 联系人 | 删除联系人 | 点击 | 完成时延 | 370 | 216.7 |
|
||||
| 联系人 | 新建一个联系人 | 点击 | 完成时延 | 462 | 239.5 |
|
||||
| 联系人 | 非首次启动联系人 | 点击(启动) | 完成时延 | 604 | 383.3 |
|
||||
| 联系人 | 首次启动联系人 | 点击(启动) | 完成时延 | 1270 | 1436.1 |
|
||||
| webview | 浏览器打开天猫网页,从上往下滑 | 滑动 | 帧率 | 54 | 58 |
|
||||
| webview | 浏览器打开一个纯图片的网页,左右切换图片的滑动 | 滑动 | 帧率 | 54 | 60 |
|
||||
| webview | 浏览器微博首页滑动 | 滑动 | 帧率 | 54 | 59.5 |
|
||||
| webview | 浏览器天猫界面缩放 | 捏合 | 帧率 | 54 | 60 |
|
||||
| webview | 浏览器打开纯文本网页 | 滑动 | 响应时延 | 150 | 95.8 |
|
||||
| webview | 浏览器打开天猫网页 | 滑动 | 响应时延 | 300 | 79.1 |
|
||||
| webview | 浏览器天猫界面滑动 | 滑动 | 响应时延 | 150 | 154.1 |
|
||||
| webview | 浏览器键鼠事件Hover响应时延 | Hover | 响应时延 | 200 | 33.3 |
|
||||
| webview | 首次启动浏览器 | 点击(启动) | 完成时延 | 1621 | 1076.3 |
|
||||
| SystemUI | 状态栏下拉 | 滑动 | 响应时延 | 83 | 141.6 |
|
||||
| SystemUI | 调起任务管理器 | 点击 | 完成时延 | 474 | 198.6 |
|
||||
| SystemUI | 系统用户界面(清除所有后台进程时间) | 点击 | 完成时延 | 1000 | 170.8 |
|
||||
| SystemUI | 后台多任务的切换调度 | 点击 | 完成时延 | 1041 | 425 |
|
||||
| 开机 | 非首次开机 | 重启 | 完成时延 | 22916 | 23291.6 |
|
||||
| 开机 | 唤醒屏幕 | 点击 | 完成时延 | 600 | 43 |
|
||||
| 开机 | 开机 | 开机 | 完成时延 | 20512 | 22183.3 |
|
||||
| 通话 | 拨号盘按键 | 点击 | 响应时延 | 88 | 70.8 |
|
||||
| 时钟 | 首次启动 | 点击 | 完成时延 | 704 | 637.5 |
|
||||
| 计算器 | 首次启动 | 点击 | 完成时延 | 1206 | 879.1 |
|
||||
|
||||
遗留问题列表:
|
||||
|
||||
| issue | 问题描述 |
|
||||
| ------ | ------------------------------------------------------------ |
|
||||
| I9H8AP | 联系人列表滑动帧率场景基线60帧,实际值56.5帧,差基线3.5帧 |
|
||||
| I82J0M | 首次启动联系人完成时延基线1270ms,实际值1436.1ms,差基线166.1ms |
|
||||
| I9H8HP | 状态栏下拉响应时延场景基线83ms,实际值141.6ms,差基线58.6ms |
|
||||
| IA4XVX | 重启完成时延基线22916ms,实际值23291.6ms,差基线375.6ms;开机完成时延基线20512ms,实际值22183.3ms,差基线1671.3ms |
|
||||
|
||||
### **4.5** **安全专项测试结论**
|
||||
|
||||
准出结论:Go
|
||||
|
||||
安全测试活动情况:
|
||||
|
||||
| 安全测试大项 | 安全测试标准 | 测试内容 | 测试结论 | 安全问题状态 |
|
||||
| ---------------- | ------------------------------------------------------------ | ------------------------------------------------------------ | -------- | ------------ |
|
||||
| 代码安全检视 | 各模块依据[OpenHarmony安全编码规范](https://gitee.com/openharmony/docs/blob/master/zh-cn/contribute/OpenHarmony-c-cpp-secure-coding-guide.md),进行代码安全检视,检视问题均需要修复。 | 各模块参考安全编码规范,逐条进 | Go | 无问题 |
|
||||
| 静态编码扫描 | 使用安全编码扫描工具扫描测试,扫描告警结果清零。OpenHarmony代码门禁已集成一款安全编码扫描工具。 | 1、使用社区门禁编码扫描工具或其他编码工具扫描开源代码 | Go | 无问题 |
|
||||
| 编译选项验证 | 依据[OpenHarmony编译规范](https://gitee.com/openharmony/community/blob/master/sig/sig-buildsystem/编译规范.md),使用编译选项扫描工具检查二进制文件编译选项开启情况,二进制文件编译选项均需要符合规范要求。 | 1、检查二进制文件是否开启栈保护编译选项<br/>2、检查二进制文件是否开启立即绑定编译选项<br/>3、检查二进制文件是否开启堆栈不可执行编译选项<br/>4、检查二进制文件是否开启地址无关编译选项<br/>5、检查二进制文件是否开启随机化编译选项<br/>6、检查二进制文件是否开启GOT表保护编译选项<br/>7、检查二进制文件是否禁止动态库搜索路径编译选项<br/>8、检查二进制文件是否开启删除符号表搜索路径编译选项 | Go | 无问题 |
|
||||
| 开源软件漏洞扫描 | 针对开源组件使用业界漏洞扫描工具扫描,开源组件漏洞均已按照社区漏洞管理流程修复。 | 使用开源组件漏洞扫描工具,扫描开源组件是否存在已知漏洞 | Go | 无问题 |
|
||||
| 病毒扫描 | 使用主流病毒扫描软件扫描软件包,病毒扫描结果均修复或确认为工具误报。 | 使用2款以上主流病毒扫描开源软件包及代码 | Go | 无问题 |
|
||||
| 秘钥证书扫描 | 使用秘钥证书关键词扫描工具扫描软件包,秘钥证书问题均需要修复。 | 1、工具扫描开源代码中是否预置非社区公开证书<br/>2、工具扫描开源代码中是否预置非社区公开秘钥 | Go | 无问题 |
|
||||
| 黑盒Fuzz验证 | 针对暴露用户态接口进行黑盒Fuzz,包括但不限于系统服务接口、内核驱动接口、socket网络接口。 | 1、使用工具对系统服务接口进行黑盒Fuzz<br/>2、使用工具对内核驱动接口进行黑盒Fuzz<br/>3、使用工具对socket网络进行黑盒Fuzz | Go | 无问题 |
|
||||
|
||||
|
||||
|
||||
### **4.6 SDK**专项测试结论
|
||||
|
||||
准出结论:Go
|
||||
|
||||
测试从ArkTS、JS、toolchains、preview、native等维度进行看护:
|
||||
|
||||
|
||||
|
||||
| **特性** | **子特性** | **测试内容** | 结论 |
|
||||
| ---------- | ------------------------------------------------- | ------------------------------------------------------------ | --------------------------------------------------- |
|
||||
| ArkTS | API接口 | 1. API接口联想能力验证 | 验证通过,无关键问题遗留 |
|
||||
| ArkTS | 组件接口 | 1. 组件接口联想能力验证 | 验证通过,无关键问题遗留 |
|
||||
| ArkTS | 编译工具链 | IDE端到端编译ArkTS工程功能和性能验证 | IDE完成ArkTS工程编译功能和性能验证,验收通过 |
|
||||
| JS | API接口 | 同ArkTS,JS特有接口差异化测试 | 验证通过,无关键问题遗留 |
|
||||
| JS | 组件接口 | 1. 组件接口功能兼容性验证<br/>2. 组件接口联想能力验证 | 组件API接口功能和联想能力验证,无关键问题遗留,通过 |
|
||||
| JS | 编译工具链 | IDE端到端编译JS工程功能和性能验证 | IDE完成JS工程编译功能和性能验证,验收通过 |
|
||||
| Toolchains | 配置文件合法性检查工具(configcheck&modulecheck) | 验证配置文件的合法性 | 验证通过,无关键问题遗留 |
|
||||
| Toolchains | 签名工具(hap-sign-tool) | 验证hap通过工具进行签名 | 验证通过,无关键问题遗留 |
|
||||
| Toolchains | 资源编译工具(restool) | 资源编译工具验证 | 验证通过,无关键问题遗留 |
|
||||
| Toolchains | 打包&解包工具(app_packing_tool) | 验证hap和app打包和解包能力 | 验证通过,无关键问题遗留 |
|
||||
| Toolchains | 调试工具(hdc_std) | 验证hdc调试能力 | 验证通过,无关键问题遗留 |
|
||||
| Toolchains | SysCap编解码工具(Syscaptools) | 验证SysCap<->RPCID和SysCap<->PCID的编解码能力 | 验证通过,无关键问题遗 |
|
||||
| Toolchains | 方舟字节码汇编器(ark_asm) | 验证方舟字节码和json相互转换能力 | 验证通过,无关键问题遗留 |
|
||||
| Preview | 预览器 | IDE端到端验证全部富设备和轻设备组件的功能和预览效果(Windows+Mac) | 验证通过,无关键问题遗留 |
|
||||
| Native | API接口 | Native API功能和头文件验证 | Native API接口基础功能验证通过 |
|
||||
| Native | 编译工具链 | IDE端到端编译构建native工程 | native工程编译通过 |
|
||||
| 源码编译 | 应用源码编译 | 二进制交付与源码一致 | 验证通过,无关键问题遗留 |
|
||||
|
||||
### **4.7** **资料评估**
|
||||
|
||||
准出结论:Go
|
||||
|
||||
无新增资料需求
|
Loading…
Reference in New Issue
Block a user