From 9667bb3df0025835a03963e62ec28158a340776a Mon Sep 17 00:00:00 2001 From: honghao534 Date: Mon, 11 Sep 2023 21:44:42 +0800 Subject: [PATCH] add 3.2release 3.2.3 test report Signed-off-by: honghao534 --- .../OpenHarmony_3.2.3_Release测试报告.md | 253 ++++++++++++++++++ 1 file changed, 253 insertions(+) create mode 100644 test_report/OpenHarmony_3.2.3_Release测试报告.md diff --git a/test_report/OpenHarmony_3.2.3_Release测试报告.md b/test_report/OpenHarmony_3.2.3_Release测试报告.md new file mode 100644 index 0000000..d6a2d7b --- /dev/null +++ b/test_report/OpenHarmony_3.2.3_Release测试报告.md @@ -0,0 +1,253 @@ +# **OpenHarmony 3.2.3 Release测试报告** + +## **1** **概述** + + 本报告针对OpenHarmony 3.2.3 Release版本的测试验证及质量状态评估,包括对子系统特性,兼容性,稳定性,安全等测试项的覆盖。 + +## **2** **测试版本与测试环境** + + 测试版本: + +| **版本名称** | **测试起始时间** | **测试结束时间** | +| ------------------------------------- | ---------------- | ---------------- | +| OpenHarmony 3.2.14.1版本-3.2.14.6版本 | 2023-06-28 | 2023-08-29 | + + 测试环境: + +| **硬件型号** | **备注** | **版本** | +| ------------ | --------------- | ------------------------------------------------------- | +| HI3861 | 轻量系统&不带屏 | hispark_pegasus版本 | +| HI3516DV300 | 小型系统&带屏 | hispark_taurus版本(LiteOS版本)/hispark_taurus_linux版本 | +| RK3568 | 标准系统&带屏 | RK3568 版本 | + +## **3** **版本概要测试结论** + + 总体测试结论:Go with Risk + +| **测试项** | **版本要求** | **测试结论** | **风险和遗留关键问题** | +| ---------- | ------------------------------------------------------------ | ------------ | -------------------------------------------- | +| 子系统验证 | 1、无严重与主要的缺陷
2、总体问题关闭率97%以上 | Go with Risk | 遗留2个内存泄露关键问题,评估详情请见4.1章节 | +| 兼容性测试 | XTS通过率100% | Go | 无 | +| 专项稳定性 | 3.2.3版本准出标准达到,核心服务APR<=0.1,核心应用备忘录和通话>0.1, 系整机重启APR<=0.6, 系统开关机异常APR<=0.1,预制应用达标,APR<=3 。( APR单位:次/千小时) | Go with Risk | 遗留1个关键性稳定性问题,评估详情请见4.3章节 | +| 专项性能 | 预置应用性能达标 | Go | 无 | +| 安全 | 1、安全隐私漏洞:发布版本安全隐私漏洞扫描、清零
2、安全问题:无安全问题遗留
3、安全编码:安全类静态检查工具清零 | Go with Risk | 遗留1个开源组件漏洞问题,详情请见4.5章节 | +| SDK | 1、SDK验证完成无关键问题
| Go | 无 | +| 资料 | 无资料使用关键问题遗留 | Go | 无 | + +## **4** **版本详细测试结论** + +### **4.1** **子系统测试**结论 + +| **序号** | **子系统名称** | **评估结论** | **风险和遗留关键问题** | +| -------- | ---------------------- | ------------ | ------------------------------------------------------------ | +| 1 | 媒体子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无问题遗留
【稳定性】长稳测试用例全量覆盖,测试通过,无问题遗留
【性能】测试通过,无风险
【安全】覆盖了安全扫描、Fuzz测试,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 2 | 应用子系统 | Go with Risk | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】反复进入大图浏览和相册的图片宫格浏览出现内存泄,遗留2个关键问题
【性能】测试通过,无风险
【安全】覆盖了安全扫描等测试,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】
1、反复进入大图浏览界面后返回,ElementRegister::ClearRemovedItems处出现内存泄露https://gitee.com/openharmony/arkui_ace_engine/issues/I7P9VS
2、反复进入某相册的图片宫格浏览界面,ElementRegister::RemoveItem 和ElementRegister::ClearRemovedItems出现内存泄露https://gitee.com/openharmony/arkui_ace_engine/issues/I7P9T5 | +| 3 | 启动恢复子系统 | Go | 需求验收:无新增需求
关键特性: 无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】隐私合规用例全量覆盖,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】
| +| 4 | 安全基础能力子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】安全隐私合规用例全量覆盖,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 5 | ArkUI子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,无遗留关键稳定性问题
【性能】验收通过,无风险
【安全】覆盖了Fuzz测试、安全扫描等安全测试,验收通过
【XTS】XTS已全部通过
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 6 | 驱动子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】安全隐私合规用例全量覆盖,无问题遗留
【XTS】测试通过
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 7 | 内核子系统 |Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】验收通过
【安全】安全扫描测试,验收通过
【XTS】用例通过率100%
【资料】无新增资料需求,无问题遗留
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 8 | USB子系统 | Go | 需求验收:无新增需求
关键特性: 无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】验收通过,无问题遗留
【XTS】用例通过率100%,无关键遗留问题
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 9 | 泛Sensor子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了安全扫描和fuzz测试,验收通过
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 10 | 多模输入子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了安全扫描和fuzz测试,验收通过
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 11 | 文件管理子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖继承用例验收通过,安全扫描及fuzz测试通过
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 12 | 电源子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了安全扫描和fuzz测试,无遗留问题
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 13 | 语言编译与运行时子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了安全扫描和fuzz测试,无关键问题
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键遗留问题 | +| 14 | 全局资源调度管控子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了安全扫描和fuzz测试,验收通过
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 15 | 分布式任务调度子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了安全扫描和fuzz测试,验收通过
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 16 | 系统服务管理子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了安全扫描和fuzz测试,验收通过
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 17 | 分布式DP子系统 | Go | 需求验收:无新增需求
关键特性: 无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了安全扫描和fuzz测试,验收通过
【XTS】验收通过
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 18 | 分布式数据管理子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了Fuzz、二进制文件安全扫描、敏感日志扫描测试,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 19 | 分布式硬件子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了Fuzz测试,病毒,漏洞,隐私扫描等,无关键问题遗留。
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 20 | 分布式软总线子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了Fuzz测试,病毒,漏洞,隐私扫描等,无关键问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 21 | 杂散子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】验收通过
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险。
【安全】覆盖了Fuzz测试,病毒,漏洞,隐私扫描等,无关键问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 22 | 无障碍子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了安全隐私测试,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 23 | 账号子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了安全扫描和fuzz测试、隐私扫描测试,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】验收通过,问题已修改
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 24 | 电话子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 25 | 事件通知子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 26 | 包管理子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无关键问题
【安全】覆盖了Fuzz、安全扫描,测试通过,无问题遗留
【XTS】通过率100%,测试通过
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 27 | 元能力子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留
【XTS】通过率100%,测试通过
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 28 | 短距离通信子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键遗留问题 | +| 29 | 图形子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无关键遗留问题
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键遗留问题 | +| 30 | 窗口管理子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无关键遗留问题
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】无风险,无关键遗留问题
【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求险
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键遗留问题 | +| 31 | 全球化子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无遗留问题
【稳定性】稳定性专项用例覆盖测试,测试通过,无遗留问题
【性能】API接口性能测试无风险
【安全】覆盖安全扫描测试,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 32 | 位置服务子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 33 | DFX | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无高风险问题
【性能】不涉及
【安全】覆盖了FUZZ、安全工具扫描,验收通过无风险
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】 无关键问题遗留 | +| 34 | 升级服务子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例覆盖防护用例,测试通过
【稳定性】长稳测试用例全量覆盖,测试通过,无高风险问题
【性能】测试全量覆盖,无关键问题
【安全】覆盖了Fuzz、安全扫描,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】验收通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 35 | 程序访问控制子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了fuzz和安全扫描测试,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 36 | 公共基础类 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】覆盖了安全扫描测试
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 37 | AI子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】安全扫描测试通过
【XTS】验收通过
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 38 | WEB子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】安全扫描测试通过
【XTS】验收通过
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 39 | 用户IAM子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】安全隐私合规用例全量覆盖,验收通过,无问题遗留
【XTS】用例通过率100%
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 40 | PKI签名中心子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】安全扫描测试通过
【XTS】验收通过
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | +| 41 | 综合传感处理平台(MSDP)子系统 | Go | 需求验收:无新增需求
关键特性:无新增关键特性
测试活动:
【功能】功能用例全量覆盖,测试通过,无风险
【稳定性】长稳测试用例全量覆盖,测试通过,无风险
【性能】测试通过,无风险
【安全】安全扫描测试通过
【XTS】验收通过
【资料】无新增资料需求
【SDK】测试通过,覆盖全量接口,无风险
【遗留问题】无关键问题遗留 | + +3.2.3 Release版本评估遗留,关键遗留问题影响评估参考ReleaseNotes: + +| ISSUE | 描述 | 计划解决时间 | +| ------ | ------------------------------------------------------------ | -------- | +| I7P9VS | 【OpenHarmony 3.2.14.5】【RK3568】【压力测试】【必现10/10】反复进入大图浏览界面后返回,ElementRegister::ClearRemovedItems处出现内存泄露 | 10月31日 | +| I7P9T5 | 【OpenHarmony 3.2.14.5】【RK3568】【压力测试】【必现10/10】反复进入某相册的图片宫格浏览界面,ElementRegister::RemoveItem 和ElementRegister::ClearRemovedItems出现内存泄露 | 10月31日 | + + + +### **4.2** **兼容性测试结论** + +兼容性测试: 主要是验证设备和业务应用满足OpenHarmony开源兼容性定义的技术要求,确保运行在OpenHarmony上的设备和业务应用能稳定、正常运行,同时使用OpenHarmony的设备和业务应用有一致性的接口和业务体验。 + + 准出结论:Go + +| 系统分类 | **测试套名称** | **英文** | **目的** | **用例规模** | **通过率** | **验收结论** | +| -------- | ----------------------------------- | ----------------------------------------------- | ------------------- | ---------------------- | ---------- | ------------ | +| 标准系统 | OpenHarmony应用兼容性测试套 | ACTS (Application Compatibility Test Suite ) | 看护北向应用兼容性 | 118407 | 100% | Go | +| 标准系统 | OpenHarmony应用兼容性测试套补充测试 | ACTS-Validator | 看护基础体验兼容性 | 54 | 100% | Go | +| 标准系统 | OpenHarmony分布式兼容性测试套 | DCTS (Distributed Compatability Test Suite) | 看护分布式兼容性 | 863 | 100% | Go | +| 标准系统 | OpenHarmony硬件抽象测试套 | HATS (Hardware Abstraction Test Suite ) | 看护HDI与内核兼容性 | 1617 | 100% | Go | +| 小型系统 | OpenHarmony应用兼容性测试套 | ACTS (Application Compatibility Test Suite ) | 看护北向应用兼容性 | liteOS:2958 linux:410 | 100% | Go | +| 轻量系统 | OpenHarmony应用兼容性测试套 | ACTS (Application Compatibility Test Suite ) | 看护北向应用兼容性 | 368 | 100% | Go | + + + +### **4.3** 稳定性专项测试结论 + +准出结论:Go with Risk + +3.2.3版本累计测试时长11926小时。 遗留1个关键稳定性问题,3.2.3release版本评估遗留问题,在9月30号补丁版本合入,整体评估带风险发布。 + +| 测试类分类 | 准出标准(APR为牵引值) | 质量状态 | 测试结果 | +| -------------------- | :----------------------------------------------------------- | -------- | ------------------------------------------------------------ | +| 核心服务可靠性 | 1、mediaserver
2、camera_server
3、foundation
4、Samgr
5、hdf_devmgr、appspawn
6、softbus_server
7、wifi_manager_se
8、power_host
9、accesstoken_ser
10、render_service
各核心服务小于标准值0.1 | 达标 | 核心服务可靠性全部达成<0.1标准 | +| 核心应用可靠性 | 1、com.ohos.mms
2、com.ohos.photos
3、com.ohos.note
4、com.ohos.callui
5、com.ohos.camera
6、com.ohos.contacts
7、com.ohos.settings
8、com.ohos.launcher
各核心应用小于标准值0.1 | 不达标 | 3.2.3版本测试数据:
1、com.ohos.note =1.84>0.1
2、com.ohos.callui =0.17>0.1
不达标项中note和contacts共2个遗留问题经评估影响可控。(其中note作为关键问题,详细评估请见ReleaseNotes) | +| 预置应用异常 | 跟随版本发布预置的应用范围< 3 次/千小时 | 达标 | 3.2.3版本测试数据:预制应用=2.68 <3,达标 | +| 死机重启 | < 0.6 次/千小时 | 达标 | <0.6(标准值),达标 | +| 不开机(只统计OS导致) | 无OS导致的不开机关键问题 | 达标 | <0.1,达标,无不开机问题 | + +**3.2.3 Release版本评估遗留,关键遗留问题影响评估参考ReleaseNotes:** + +| ISSUE | 描述 | 计划解决时间 | +| ------ | ------------------------------------------------------------ | -------- | +| I7HW2C | 【OpenHarmony 3.2.14.1】【RK3568】【压力测试】【ToC】【低概率】【wukong】出现20次 由关键进程com.ohos.note下的com.ohos.note线程导致libace.z.so出现cppcrash | 10月31日 | + + + +### **4.4** **性能专项测试结论** + +准出结论:Go + +静态KPI:预期目标胜率90%,实际胜率94%(47/50) ,已达标。 + +负载应用:预期目标达标率90%,实际胜率95%(19/20),已达标。 + +内存测试 :整机内存798M,优于基线860M,已达标。 + +| 应用名称 | 用例名称 | 触发方式 | 指标类型 | 基线数据 | RK3568数据 | +| -------- | ---------------------------------------------- | ------------ | -------- | -------- | ---------- | +| 桌面 | 主桌面静态壁纸滑动 | 滑动 | 帧率 | 54 | 60 | +| 信息 | 非首次启动短信息 | 点击(启动) | 完成时延 | 1000 | 445.8 | +| 信息 | 首次启动短信息 | 点击(启动) | 完成时延 | 2300 | 2558.3 | +| 相机 | camera启动(冷启动) | 点击(启动) | 完成时延 | 2683 | 1258.3 | +| 相机 | camera启动(热启动) | 点击(启动) | 完成时延 | 2216 | 445.8 | +| 相机 | 拍照生成缩略图 | 点击拍照 | 完成时延 | 1220 | 750 | +| 图库 | 图库缩略图列表滑动 | 滑动 | 帧率 | 60 | 60 | +| 图库 | 图库单个图片缩放 | 捏合 | 帧率 | 60 | 60 | +| 图库 | 图库缩略图列表滑动 | 滑动 | 响应时延 | 71 | 70.8 | +| 图库 | 图库单个图片缩放 | 捏合 | 响应时延 | 150 | 125 | +| 图库 | 查看图片 | 点击 | 完成时延 | 769 | 770.8 | +| 图库 | 复制一张图片(1张5M图片) | 点击 | 完成时延 | 2300 | 641.6 | +| 图库 | 剪切一张图片(1张1M图片) | 点击 | 完成时延 | 1833 | 483.3 | +| 图库 | 删除多张图片(2张5M图片) | 点击 | 完成时延 | 916 | 625 | +| 图库 | 图库从照片切换到相册(Tab切换) | 点击 | 完成时延 | 442 | 366.6 | +| 图库 | 非首次启动图库 | 点击(启动) | 完成时延 | 579 | 458.3 | +| 图库 | 首次启动图库 | 点击(启动) | 完成时延 | 1404 | 1166.7 | +| 输入法 | 按键输入速度 | 点击 | 响应时延 | 64 | 62.5 | +| 输入法 | 输入法键盘弹出 | 点击 | 完成时延 | 279 | 250 | +| 设置 | 退出设置 | 点击 | 完成时延 | 650 | 358.3 | +| 设置 | 启动设置(原表是冷启动设置) | 点击(启动) | 完成时延 | 1145 | 1100 | +| 联系人 | 联系人列表滑动 | 滑动 | 帧率 | 60 | 60 | +| 联系人 | 联系人列表滑动 | 滑动 | 响应时延 | 68 | 66.7 | +| 联系人 | 查看一条联系人 | | 完成时延 | 883 | 570.8 | +| 联系人 | 存入联系人 | 点击 | 完成时延 | 625 | 470.8 | +| 联系人 | 联系人-拨号子Tab切换 | 点击 | 完成时延 | 440 | 262.5 | +| 联系人 | 删除联系人 | 点击 | 完成时延 | 370 | 333.3 | +| 联系人 | 新建一个联系人 | 点击 | 完成时延 | 462 | 350 | +| 联系人 | 非首次启动联系人 | 点击(启动) | 完成时延 | 604 | 433.3 | +| 联系人 | 首次启动联系人 | 点击(启动) | 完成时延 | 1270 | 1825.8 | +| webview | 浏览器打开天猫网页,从上往下滑 | 滑动 | 帧率 | 54 | 55 | +| webview | 浏览器打开淘宝网页,从左往右滑,退到上个页面 | 滑动 | 帧率 | 54 | 60 | +| webview | 浏览器打开一个纯图片的网页,左右切换图片的滑动 | 滑动 | 帧率 | 54 | 55.3 | +| webview | 浏览器微博首页滑动 | 滑动 | 帧率 | 54 | 54.5 | +| webview | 浏览器天猫界面缩放 | 捏合 | 帧率 | 54 | 59.7 | +| webview | 浏览器打开纯文本网页 | 滑动 | 响应时延 | 150 | 125 | +| webview | 浏览器打开天猫网页 | 滑动 | 响应时延 | 300 | 145.8 | +| webview | 浏览器天猫界面滑动 | 滑动 | 响应时延 | 150 | 141.6 | +| webview | 浏览器键鼠事件Hover响应时延 | Hover | 响应时延 | 200 | 41.6 | +| webview | 首次启动浏览器 | 点击(启动) | 完成时延 | 1621 | 1166.6 | +| SystemUI | 状态栏下拉 | 滑动 | 响应时延 | 83 | 58.5 | +| SystemUI | 调起任务管理器 | 点击 | 完成时延 | 474 | 208.3 | +| SystemUI | 系统用户界面(清除所有后台进程时间) | 点击 | 完成时延 | 1000 | 233.3 | +| SystemUI | 后台多任务的切换调度 | 点击 | 完成时延 | 1041 | 408.3 | +| 开机 | 非首次开机 | 重启 | 完成时延 | 22916 | 22441 | +| 开机 | 唤醒屏幕 | | 完成时延 | 600 | 37.5 | +| 开机 | 开机 | 开机 | 完成时延 | 20512 | 21183 | +| 通话 | 拨号盘按键 | 点击 | 响应时延 | 88 | 87.5 | +| 时钟 | 首次启动 | 点击 | 完成时延 | 704 | 675 | +| 计算器 | 首次启动 | 点击 | 完成时延 | 1206 | 1408.3 | + + + +### **4.5** **安全专项测试结论** + +准出结论:Go with Risk + +安全测试活动情况: + +| 安全测试大项 | 安全测试标准 | 测试内容 | 测试结论 | 安全问题状态 | +| ---------------- | ------------------------------------------------------------ | ------------------------------------------------------------ | ------------ | ------------------------------------------------------------ | +| 代码安全检视 | 各模块依据[OpenHarmony安全编码规范](https://gitee.com/openharmony/docs/blob/master/zh-cn/contribute/OpenHarmony-c-cpp-secure-coding-guide.md),进行代码安全检视,检视问题均需要修复。 | 各模块参考安全编码规范,逐条进行验证 | Go | 发现问题已经清零 | +| 静态编码扫描 | 使用安全编码扫描工具扫描测试,扫描告警结果清零。OpenHarmony代码门禁已集成一款安全编码扫描工具。 | 1、使用社区门禁编码扫描工具或其他编码工具扫描开源代码 | Go | 发现问题已经清零 | +| 编译选项验证 | 依据OpenHarmony编译规范,使用编译选项扫描工具检查二进制文件编译选项开启情况,二进制文件编译选项均需要符合规范要求。 | 1、检查二进制文件是否开启栈保护编译选项
2、检查二进制文件是否开启立即绑定编译选项
3、检查二进制文件是否开启堆栈不可执行编译选项
4、检查二进制文件是否开启地址无关编译选项
5、检查二进制文件是否开启随机化编译选项
6、检查二进制文件是否开启GOT表保护编译选项
7、检查二进制文件是否禁止动态库搜索路径编译选项
8、检查二进制文件是否开启删除符号表搜索路径编译选项 | Go | 无问题 | +| 开源软件漏洞扫描 | 针对开源组件使用业界漏洞扫描工具扫描,开源组件漏洞均已按照社区漏洞管理流程修复。 | 使用开源组件漏洞扫描工具,扫描开源组件是否存在已知漏洞 | Go with risk | I7S21V共1个开源组件漏洞,见遗留安全问题列表,暂未发布修复的patch | +| 病毒扫描 | 使用主流病毒扫描软件扫描软件包,病毒扫描结果均修复或确认为工具误报。 | 使用2款以上主流病毒扫描开源软件包及代码 | Go | 无问题 | +| 秘钥证书扫描 | 使用秘钥证书关键词扫描工具扫描软件包,秘钥证书问题均需要修复。 | 1、工具扫描开源代码中是否预置非社区公开证书
2、工具扫描开源代码中是否预置非社区公开秘钥 | Go | 无问题 | +| 黑盒Fuzz验证 | 针对暴露用户态接口进行黑盒Fuzz,包括但不限于系统服务接口、内核驱动接口、socket网络接口。 | 1、使用工具对系统服务接口进行黑盒Fuzz
2、使用工具对内核驱动接口进行黑盒Fuzz
3、使用工具对socket网络进行黑盒Fuzz | Go | 无问题 | + +遗留安全问题: + +| ISSUE | 问题描述 | 遗留原因 | +| ------ | ---------------------------------------------------- | ------------------- | +| I7S21V | 【漏洞】 【OpenHarmony-3.2-Release】 CVE-2023-33953 | 暂未发布修复的patch | + + + +### **4.6 SDK**专项测试结论 + + 准出结论:Go + +测试从ArkTS、JS、toolchains、preview、native等维度进行看护: + +| **特性** | **子特性** | **测试内容** | 结论 | +| ---------- | ------------------------------------------------- | ------------------------------------------------------------ | ------------------------------------------------------------ | +| ArkTS | API接口 | 1. API接口联想能力验证 | 验证通过,无关键问题遗留 | +| ArkTS | 组件接口 | 1. 组件接口联想能力验证 | 验证通过,无关键问题遗留 | +| ArkTS | 编译工具链 | IDE端到端编译ArkTS工程功能和性能验证 | IDE完成ArkTS工程编译功能和性能验证,验收通过 | +| JS | API接口 | 同ArkTS,JS特有接口差异化测试 | 验证通过,无关键问题遗留 | +| JS | 组件接口 | 1. 组件接口功能兼容性验证
2. 组件接口联想能力验证 | 组件API接口功能和联想能力验证,无关键问题遗留,通过 | +| JS | 编译工具链 | IDE端到端编译JS工程功能和性能验证 | IDE完成JS工程编译功能和性能验证,验收通过 | +| Toolchains | 配置文件合法性检查工具(configcheck&modulecheck) | 验证配置文件的合法性 | 验证通过,无关键问题遗留 | +| Toolchains | 签名工具(hap-sign-tool) | 验证hap通过工具进行签名 | 验证通过,无关键问题遗留 | +| Toolchains | 资源编译工具(restool) | 资源编译工具验证 | 验证通过,无关键问题遗留 | +| Toolchains | 打包&解包工具(app_packing_tool) | 验证hap和app打包和解包能力 | 验证通过,无关键问题遗留 | +| Toolchains | 调试工具(hdc_std) | 验证hdc调试能力 | 验证通过,无关键问题遗留 | +| Toolchains | SysCap编解码工具(Syscaptools) | 验证SysCap<->RPCID和SysCap<->PCID的编解码能力 | 验证通过,无关键问题遗留 | +| Toolchains | 方舟字节码汇编器(ark_asm) | 验证方舟字节码和json相互转换能力 | 验证通过,无关键问题遗留 | +| Preview | 预览器 | IDE端到端验证全部富设备和轻设备组件的功能和预览效果(Windows+Mac) | 1.正常的资源编译后在预览器上使用正常,不出现顺序混乱、索引异常等问题,测试通过
2. 样式与资源在预览器上的效果与真机保持一致 | +| Native | API接口 | Native API功能和头文件验证 | Native API接口基础功能验证通过 | +| Native | 编译工具链 | IDE端到端编译构建native工程 | Native工程编译构建功能验证通过 | +| 源码编译 | 应用源码编译 | 二进制交付与源码一致 | 验证通过,无关键问题遗留 | + + +### **4.7** **资料测试结论** + +准出结论:Go + +无新增资料需求