本次测试基于***数据处理流程涵盖数据上传、消息触发、脱敏脱密及数据存储四个核心模块。测试目标为验证各环节功能完整性、数据准确性及流程效率。1. 测试基本信息测试环境Ubuntu 22.04、Kafka消息队列、OSS存储、Argo工作流引擎。测试工具smartmontools、Kafka CLI、ossutil、阿里云日志服务SLS。2. 测试结果概览2.1 总结本测试报告主要针对ubm数据。目前在前几日的测试过程中已经基本验证了功能的正确性无阻塞性问题。 但在后续的ubm效率压测及代码调优过程中 发现了较多的问题如单机io 限制pod 调起失败云盘挂载上限 pod pending 表现为ubm 流程不通的问题。经过多次优化后修改为软件解码后压测成功。2.2 问题列表无法展示此内容另argo问题 error 状态的pod删除后 pvc 不会自动删除 需要手动清理。 需要注意。2.3 功能测试结果无法展示此内容说明1、功能测试为单项对具体功能进行验证不包含大压力情况下的表现。2、性能测试持续进行中过程中会修改代码对于之前的功能结果可能造成影响。全部完成稳定后需要再次进行功能的回归验证。3、非阻塞性问题 ubm 与 upm 日志情况不统一 需要后续修改。4、上传发kafka消息目前是走不通的内网不通合规不允许。2.4 性能测试结果目前主要验证ubm数据单盘上传效率4机器插4盘同时上传计算上传效率。单盘上传脚本效率约44M/s。优化后单盘上传脚本效率约125M/s。单节点压测方法单节点5任务*8卡预计应并发处理40任务。 配置环境为1个节点然后达到上传数据使Running workflows 达到40任务左右抽选任务统计处理时间计算效率。修改为软件解码后压测成功输出单节点单卡效率为单卡处理量 单任务效率 * 任务数 / 卡数 * 1天时长 / 1024 / 1024单卡任务效率 0.58T / day 8卡机0.58*84.64T/day过程中出现较多问题第一次4盘同时上传数据模拟压测情况。硬盘上传效率较低 导致Running workflows 达不到40运行过程中 pod出现报错Pod was rejected: Allocate failed due tono healthy devices present。第二次更换节点后使用云筒内已有数据直接循环调用10个任务数据一次性灌入超50个任务Running workflows 达到40 但任务执行日志内报错NVENCException且报错后没有失败。gpu负载较低 云盘挂载数却打满。pod 启用也有限制 实际仅支持 31-32个左右。第三次 修复报NVENCException但不失败的任务问题 又调高显存到8G继续验证, 仍使用云筒内已有数据直接循环调用10个任务数据一次性灌入超50个任务。 执行后仍出现问题 ubm argo运行任务 出现云盘挂载上限pod报错的问题。 Unschedulable: 0/7 nodes are available: 1 node(s) exceed max volume count, 6 node(s) didn’t match Pod’s node affinity/selectorubm argo运行任务出现长时间未结束问题,超过12小时超时长任务15小时候失败有出现报错的情况 pod出现报错Pod was rejected: Allocate failed due tono healthy devices present 。第四次 将硬件解码修改为软件解码使用云筒内已有数据直接循环调用10个任务数据一次性灌入超50个任务。任务正常运行没有出现失败报错。 抽查结果脱敏加密正常。3. 详细功能测试结果上传四组数据共计24628个数据包抽样检查不同功能模块。测试数据集如下图所示。抽样数量 数量数据上传 10消息触发 15脱密脱密 3数据存储 10不同功能模块测试结果如下4. 建议与风险确保ubuntu环境配置准确云上环境的各种设置及机器配置环境都可能会导致性能瓶颈及问题比如 机器io, 云盘挂载数 节点健康程度等。网络联通 docker控件续费等也可能会在运营过程中导致问题。5. 附录5.1 测试大纲5.2 kafka消息示例{“task_id”: “GAC007_20250407_211940”,“car_id”: “GAC007”,“vin”: “LNAKLAA38P5S00515”,“size”: 1665982809,“upload_datetime”: “2025-05-14 11:00:20”,“origin_storage_path”: “oss://kuandeng-input/agb/gpg/56/20240507/GAC007_LNAKLAA38P5S00515/adigobag_e2e/20250407_211940”,“oss_storage_path”: “oss:gacrnd-source/ubm/source/20240507/GAC007_LNAKLAA38P5S00515/adigobag_e2e/20250407_211940”,“data_type”: “UBM”,“disk_sn”: “2348RJ400204”}