标注数据复用方法、系统、设备及计算机可读存储介质与流程
本申请涉及数据处理,具体涉及一种标注数据复用方法、系统、设备及计算机可读存储介质。
背景技术:
1、随着人工智能技术的不断发展,模型训练对标注数据的依赖程度日益加深。在自动驾驶、计算机视觉等领域,数据标注成本高昂,且随着模型迭代速度的加快,标注规范发生变更,如何高效复用历史标注数据、避免数据资产闲置对于降低研发成本至关重要。
2、相关技术中,对于标注数据的管理通常侧重于数据交付前的质量控制以及交付后的存储状态维护,在数据交付后,标注数据被存入数据池中,训练任务根据需求从数据池中选取数据进行加载,而对于未被加载的数据,往往直接删除或长期搁置。但是,现有技术中交付与训练环节缺乏关联,难以准确识别未被训练任务有效利用的标注数据;且对于未被训练任务有效利用的标注数据,缺乏有效的决策依据来确定其后续处理方向,导致部分标注数据无法被有效复用或合理归档,造成了存储资源的浪费和数据管理效率的低下。
3、因此,如何提供一种标注数据复用方法,以实现未使用标注数据的准确识别与处理是当前亟需解决的问题。
技术实现思路
1、本申请提供一种标注数据复用方法、系统、设备及计算机可读存储介质,可以实现未使用标注数据的准确识别与处理。
2、第一方面,本申请实施例提供一种标注数据复用方法,所述标注数据复用方法包括:
3、根据与标注任务数据集对应的第一标识以及与训练任务数据集对应的第二标识确定未使用标注数据及其对应的目标标识;
4、基于目标标识确定与未使用标注数据对应的目标标注规范版本和目标场景;
5、根据当前训练任务、目标标注规范版本和目标场景确定未使用标注数据的未使用原因类别;
6、基于未使用原因类别生成与未使用标注数据对应的数据处理指令。
7、结合第一方面,在一种实施方式中,所述根据当前训练任务、目标标注规范版本和目标场景确定未使用标注数据的未使用原因类别,包括:
8、基于目标标注规范版本以及当前训练任务对应的标注版本确定版本规范性;
9、根据当前训练任务在目标场景上的准确率、历史训练任务在目标场景上的准确率和历史训练集中目标场景的累计出现次数确定场景冗余性;
10、根据当前训练任务对应的训练任务数据确定模型收敛性;
11、基于版本规范性、场景冗余性和模型收敛性确定未使用标注数据的未使用原因类别。
12、结合第一方面,在一种实施方式中,所述基于目标标注规范版本以及当前训练任务对应的标注版本确定版本规范性,包括:
13、若目标标注规范版本与当前训练任务对应的标注版本不一致,则判定为版本不规范;
14、若目标标注规范版本与当前训练任务对应的标注版本一致,则判定为版本规范。
15、结合第一方面,在一种实施方式中,所述根据当前训练任务在目标场景上的准确率、历史训练任务在目标场景上的准确率和历史训练集中目标场景的累计出现次数确定场景冗余性,包括:
16、根据当前训练任务在目标场景上的准确率和历史训练任务在目标场景上的准确率确定模型在目标场景上的性能增益率;
17、若历史训练集中目标场景的累计出现次数大于预设次数阈值且性能增益率小于预设增益率阈值,则判定为场景冗余;
18、若历史训练集中目标场景的累计出现次数不大于预设次数阈值或性能增益率不小于预设增益率阈值,则判定为场景不冗余。
19、结合第一方面,在一种实施方式中,所述根据当前训练任务对应的训练任务数据确定模型收敛性,包括:
20、基于当前训练任务对应的训练任务数据确定模型损失值;
21、若模型损失值不小于预设损失阈值,则判定为模型不收敛;
22、若模型损失值小于预设损失阈值,则判定为模型收敛。
23、结合第一方面,在一种实施方式中,所述基于未使用原因类别生成与未使用标注数据对应的数据处理指令,包括:
24、当未使用原因类别为版本不规范,则生成针对与未使用标注数据对应的原始传感器数据的重新标注指令;
25、当未使用原因类别为场景冗余或模型收敛,则生成针对未使用标注数据的数据归档指令。
26、第二方面,本申请实施例提供了一种标注数据复用系统,所述标注数据复用系统包括:
27、第一处理模块,其用于根据与标注任务数据集对应的第一标识以及与训练任务数据集对应的第二标识确定未使用的标注数据及其对应的目标标识;
28、第二处理模块,其用于基于目标标识确定与未使用标注数据对应的目标标注规范版本和目标场景;
29、第三处理模块,其用于根据当前训练任务、目标标注规范版本和目标场景确定未使用标注数据的未使用原因类别;
30、第四处理模块,其用于基于未使用原因类别生成与未使用标注数据对应的数据处理指令。
31、结合第二方面,在一种实施方式中,所述第三处理模块具体用于:
32、基于目标标注规范版本以及当前训练任务对应的标注版本确定版本规范性;
33、根据当前训练任务在目标场景上的准确率、历史训练任务在目标场景上的准确率和历史训练集中目标场景的累计出现次数确定场景冗余性;
34、根据当前训练任务对应的训练任务数据确定模型收敛性;
35、基于版本规范性、场景冗余性和模型收敛性确定未使用标注数据的未使用原因类别。
36、第三方面,本申请实施例提供了一种标注数据复用设备,所述标注数据复用设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的标注数据复用程序,其中所述标注数据复用程序被所述处理器执行时,实现如前述任一项所述的标注数据复用方法的步骤。
37、第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有标注数据复用程序,其中所述标注数据复用程序被处理器执行时,实现如前述任一项所述的标注数据复用方法的步骤。
38、本申请实施例提供的技术方案带来的有益效果包括:
39、通过对比与标注任务数据集对应的第一标识以及与训练任务数据集对应的第二标识,确定未使用标注数据及其对应的目标标识,通过标识比对实现了对未使用标注数据的准确识别;进而基于目标标识确定与未使用标注数据对应的目标标注规范版本和目标场景,并根据当前训练任务、目标标注规范版本和目标场景确定未使用标注数据的未使用原因类别,通过结合数据属性与当前训练需求进行分析,为闲置数据的处理提供了明确的决策依据;最后基于未使用原因类别生成与未使用标注数据对应的数据处理指令,使得系统能够根据具体的未使用原因采取相应的处理措施,从而实现了未使用标注数据的有效复用或合理归档,避免了存储资源的浪费,显著提升了数据管理效率。
1.一种标注数据复用方法,其特征在于,所述标注数据复用方法包括:
2.如权利要求1所述的标注数据复用方法,其特征在于,所述根据当前训练任务、目标标注规范版本和目标场景确定未使用标注数据的未使用原因类别,包括:
3.如权利要求2所述的标注数据复用方法,其特征在于,所述基于目标标注规范版本以及当前训练任务对应的标注版本确定版本规范性,包括:
4.如权利要求2所述的标注数据复用方法,其特征在于,所述根据当前训练任务在目标场景上的准确率、历史训练任务在目标场景上的准确率和历史训练集中目标场景的累计出现次数确定场景冗余性,包括:
5.如权利要求2所述的标注数据复用方法,其特征在于,所述根据当前训练任务对应的训练任务数据确定模型收敛性,包括:
6.如权利要求2所述的标注数据复用方法,其特征在于,所述基于未使用原因类别生成与未使用标注数据对应的数据处理指令,包括:
7.一种标注数据复用系统,其特征在于,所述标注数据复用系统包括:
8.如权利要求7所述的标注数据复用系统,其特征在于,所述第三处理模块具体用于:
9.一种标注数据复用设备,其特征在于,所述标注数据复用设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的标注数据复用程序,其中所述标注数据复用程序被所述处理器执行时,实现如权利要求1至6中任一项所述的标注数据复用方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有标注数据复用程序,其中所述标注数据复用程序被处理器执行时,实现如权利要求1至6中任一项所述的标注数据复用方法的步骤。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com