一种模型测试方法及系统与流程

技术特征：
1.一种模型测试方法，其特征在于，所述方法应用于任务控制中心，包括：创建模型测试任务，将分布式计算系统中的至少两个计算节点作为目标计算节点，并为所述目标计算节点分配所述模型测试任务中的子任务，所述子任务用于指示基于所述子任务对应的数据块进行模型测试，所述数据块是对所述模型测试任务对应的测试集进行拆分处理得到的，所述数据块配置有对应的地址；控制所述分布式计算系统中的每个所述目标计算节点，基于为其分配的所述子任务对应的数据块的地址，下载所述子任务对应的数据块中的数据；控制所述分布式计算系统中的每个所述目标计算节点，基于所下载的数据块中的数据，执行为其分配的所述子任务，得到所述子任务的测试结果；基于每个所述子任务的测试结果，得到所述模型测试任务的测试结果。2.根据权利要求1所述的方法，其特征在于，所述数据块是通过以下方式确定的：根据所述分布式计算系统的目标计算节点的个数，确定所述数据块的个数；根据预设规则，确定所述数据块的大小。3.根据权利要求所述2的方法，其特征在于，所述根据预设规则，确定所述数据块的大小，包括：根据所述分布式计算系统中最小计算资源的磁盘空间大小，确定所述数据块的大小；或，根据预设的数据拆分单位，确定所述数据块的大小。4.根据权利要求1所述的方法，其特征在于，所述方法还包括：确定每个所述目标计算节点对应的子任务是否成功执行；若所述子任务没有成功执行，则，确定所述子任务的重试次数是否超过重试次数的上限；若所述子任务的重试次数没有超过重试次数的上限，则，为所述分布式计算系统中空闲的目标计算节点分配所述子任务，并将所述子任务的重试次数加1，所述空闲的目标计算节点的计算资源的使用率低于预设使用率阈值，且所述空闲的目标计算节点为没有执行过所述子任务的目标计算节点；若所述子任务的重试次数超过重试次数的上限，则，结束所述子任务，并返回错误信息。5.根据权利要求1所述的方法，其特征在于，所述方法还包括：确定所述模型测试任务所要测试的模型的配置文件是否完备，若否，则结束所述模型测试任务并返回错误信息。6.一种模型测试系统，其特征在于，所述系统包括：任务控制中心、分布式计算系统和分布式存储系统；所述分布式计算系统中包括多个计算节点；所述分布式存储系统，用于对模型测试任务对应的测试集进行拆分处理得到至少两个数据块，并为每个所述数据块配置对应的地址；所述任务控制中心，用于创建所述模型测试任务，将所述分布式计算系统中的至少两个计算节点作为目标计算节点，并为所述目标计算节点分配所述模型测试任务中的子任务，所述子任务用于指示基于所述子任务对应的数据块进行模型测试；所述分布式计算系统中的每个所述目标计算节点，用于基于为其分配的所述子任务对
应的数据块的地址，下载所述子任务对应的数据块的数据；基于所下载的数据块中的数据，执行为其分配的所述子任务，得到所述子任务的测试结果；所述任务控制中心，还用于基于每个所述子任务的测试结果，得到所述模型测试任务的测试结果。7.根据权利要求6所述的系统，其特征在于，所述分布式存储系统用于：根据所述分布式计算系统的目标计算节点的个数，确定所述数据块的个数；根据预设规则，确定所述数据块的大小。8.根据权利要求7所述的系统，其特征在于，所述分布式存储系统具体用于：根据所述分布式计算系统中最小计算资源的磁盘空间大小，确定所述数据块的大小；或，根据预设的数据拆分单位，确定所述数据块的大小。9.根据权利要求6所述的系统，其特征在于，所述任务控制中心还用于：确定每个所述目标计算节点对应的子任务是否成功执行；若所述子任务没有成功执行，则，确定所述子任务的重试次数是否超过重试次数的上限；若所述子任务的重试次数没有超过重试次数的上限，则，为所述分布式计算系统中空闲的目标计算节点分配所述子任务，并将所述子任务的重试次数加1，所述空闲的目标计算节点的计算资源的使用率低于预设使用率阈值，且所述空闲的目标计算节点为没有执行过所述子任务的目标计算节点；若所述子任务的重试次数超过重试次数的上限，则，结束所述子任务，并返回错误信息。10.根据权利要求6所述的系统，所述任务控制中心还用于：确定所述模型测试任务所要测试的模型的配置文件是否完备，若否，则结束所述模型测试任务并返回错误信息。

技术总结
本申请通过创建模型测试任务，为分布式计算系统中的至少两个计算节点分配模型测试任务中的子任务，分配有子任务的计算节点为目标计算节点，子任务用于指示基于数据块进行模型测试，数据块是对模型测试任务的测试集进行拆分处理得到的且配置有对应的地址；并通过控制目标计算节点，根据数据块的地址将数据块的数据下载到计算节点上，执行子任务，再根据子任务，得到子任务的测试结果，进一步得到模型测试的测试结果。本申请能够在较短时间内对大量数据进行测试，缩短了测试集庞大的模型测试的测试时间。测试时间。测试时间。


技术研发人员：吴佐 袁天宇 刘圣
受保护的技术使用者：北京爱笔科技有限公司
技术研发日：2022.03.17
技术公布日：2022/6/4