面向数字孪生的重构抑制数据蒸馏方法及系统与流程

摘要: 本申请涉及数据蒸馏,尤其涉及一种面向数字孪生的重构抑制数据蒸馏方法及系统。背景技术:1、在图像识别、视频分析、工业检测、智能驾驶等数字孪生模型训练与更新场景中,...
面向数字孪生的重构抑制数据蒸馏方法及系统与流程

本申请涉及数据蒸馏,尤其涉及一种面向数字孪生的重构抑制数据蒸馏方法及系统。

背景技术:

1、在图像识别、视频分析、工业检测、智能驾驶等数字孪生模型训练与更新场景中,模型训练通常依赖大量车身表面图像、路试场景视频帧、底盘部件振动信号等原始样本。现有技术中,为降低原始数据在训练过程中的存储开销与传输成本,普遍采用数据蒸馏方法,将大规模原始样本压缩为少量具有代表性的合成样本或特征表示用于模型训练,具体实现方式包括基于梯度匹配的蒸馏方式、基于特征分布匹配的蒸馏方式等。在数据提供方不愿直接共享原始样本的应用场景中,现有技术进一步在数据蒸馏过程中引入重构网络或解码网络,对蒸馏结果执行重构尝试,并根据重构结果与原始样本之间的误差构建重构抑制约束,使蒸馏结果在支撑下游任务训练的同时,降低由该蒸馏结果直接还原出原始视觉内容的可能性。

2、然而,现有技术中承担重构抑制功能的重构网络或解码网络,通常是与任务模型完全独立训练、独立维护参数的另一套网络体系,二者在整个蒸馏过程中始终作用于彼此隔离的参数空间。蒸馏特征在优化过程中,仅需要针对该独立重构网络当前具备的具体解码策略进行规避,即可获得较低的重构抑制损失数值,而无需真正消除自身携带的、可被其他方式利用的原始结构信息。由于任务保持约束作用于任务模型参数、重构抑制约束作用于独立重构网络参数,蒸馏特征存在同时满足两套彼此隔离的参数体系、但并未实质抹除可恢复信息的规避空间,一旦换用架构不同或反演能力更强的重构手段对蒸馏结果进行还原尝试,先前被认为满足隐私保护要求的蒸馏结果仍可能被重新恢复出车身外观、试验场景等敏感视觉内容。

技术实现思路

1、本申请提供了一种面向数字孪生的重构抑制数据蒸馏方法及系统,解决了现有技术中隐私保护蒸馏结果依赖与任务模型彼此隔离的独立重构网络、导致换用架构不同或反演能力更强的攻击手段仍可还原原始内容的问题,提高了隐私保护蒸馏数据集在跨架构部署场景下对原始车身外观、试验场景及设备运行状态等敏感视觉信息的抵御重构能力。

2、第一方面,本申请提供了一种面向数字孪生的重构抑制数据蒸馏方法,所述面向数字孪生的重构抑制数据蒸馏方法包括:

3、步骤s1、获取车身表面图像、整车路试场景视频帧、底盘部件振动信号中的至少一种作为原始样本集,构建架构互异的任务代理模型池,初始化关联标签的蒸馏特征;

4、步骤s2、将所述蒸馏特征进行适配变换后输入所述任务代理模型池,得到联合任务保持损失,并更新所述任务代理模型池;

5、步骤s3、由更新后的所述任务代理模型池对候选重构样本进行梯度迭代处理,使所述候选重构样本逼近所述蒸馏特征在所述任务代理模型池下的映射结果,由所述候选重构样本与所述原始样本集的误差中的最小值,确定跨代理最坏情况重构抑制损失;

6、步骤s4、根据所述联合任务保持损失与所述跨代理最坏情况重构抑制损失构建总损失,对所述蒸馏特征进行迭代更新,得到隐私保护蒸馏数据集。

7、第二方面,本申请提供了一种面向数字孪生的重构抑制数据蒸馏系统,所述面向数字孪生的重构抑制数据蒸馏系统包括:

8、获取模块,用于获取车身表面图像、整车路试场景视频帧、底盘部件振动信号中的至少一种作为原始样本集,构建架构互异的任务代理模型池,初始化关联标签的蒸馏特征;

9、更新模块,用于将所述蒸馏特征进行适配变换后输入所述任务代理模型池,得到联合任务保持损失,并更新所述任务代理模型池;

10、映射模块,用于由更新后的所述任务代理模型池对候选重构样本进行梯度迭代处理,使所述候选重构样本逼近所述蒸馏特征在所述任务代理模型池下的映射结果,由所述候选重构样本与所述原始样本集的误差中的最小值,确定跨代理最坏情况重构抑制损失;

11、迭代模块,用于根据所述联合任务保持损失与所述跨代理最坏情况重构抑制损失构建总损失,对所述蒸馏特征进行迭代更新,得到隐私保护蒸馏数据集。

12、第三方面,提供了一种面向数字孪生的重构抑制数据蒸馏设备,包括:存储器和至少一个处理器,所述存储器中存储有指令;所述至少一个处理器调用所述存储器中的所述指令,以使得所述面向数字孪生的重构抑制数据蒸馏设备执行上述的面向数字孪生的重构抑制数据蒸馏方法。

13、第四方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述的面向数字孪生的重构抑制数据蒸馏方法。

14、本申请提供的技术方案中,通过获取车身表面图像、整车路试场景视频帧、底盘部件振动信号中的至少一种作为原始样本集,并据此构建架构互异的任务代理模型池,使残差卷积、视觉变换器、时序卷积三类结构分别与图像、视频帧、时序信号三种数据模态形成对应关系,让蒸馏特征在初始化阶段即关联类别标签,从起点上避免了脱离监督信息的无方向优化;蒸馏特征经适配变换输入任务代理模型池后得到的联合任务保持损失,并未依赖单一架构的判别效果作为优化依据,而是取三类架构判别结果的综合表现更新代理模型池本身,使蒸馏特征在跨越图像、视频、时序三种不同信息提取范式时均具备可训练性,这一设计尤其契合车辆制造场景中总装质检、路试验证、台架试验三类业务天然存在的数据模态差异,使同一套蒸馏机制能够直接服务于数字孪生系统内部结构迥异的多个判别任务,而不必针对每种数据模态单独设计蒸馏流程。更新后的任务代理模型池被直接用于对候选重构样本执行梯度迭代处理,使候选重构样本逼近蒸馏特征在该模型池下的映射结果,这一过程复用的正是刚刚完成任务保持更新的同一组参数,而非另行训练维护的独立重构网络,使得任务保持这一环节本身天然具备了检验蒸馏特征可恢复性的能力,两个原本可能被割裂处理的目标被统一到同一组参数演化过程中。

15、由候选重构样本与原始样本集的误差中筛选最小值来确定跨代理最坏情况重构抑制损失,这一技术特征的贡献在于将约束对象从单一代理的反演表现,扩展为三类代理模型中反演能力最强情形下的表现,使总损失的构建及蒸馏特征的后续迭代更新始终针对三种架构里最容易被还原的那一种进行压制,而不是仅满足某一架构的规避要求。在实际应用中,若脱离这一技术特征、仅依据单一架构或平均水平构建约束,蒸馏结果在替换为其他架构的判别模型或还原手段时便可能重新暴露风险,这提示在特定领域应用蒸馏类算法时,算法本身所依赖的架构假设会直接决定隐私保护效果能否随部署环境变化而保持稳定,本申请正是通过将这一算法特征嵌入损失构建方式,使蒸馏数据集在车身质检、路试验证、台架试验等不同部署场景下的复用具备了跨架构层面的适应基础。

1.一种面向数字孪生的重构抑制数据蒸馏方法,其特征在于,所述方法包括:

2.根据权利要求1所述的面向数字孪生的重构抑制数据蒸馏方法,其特征在于,所述步骤s1,包括:

3.根据权利要求2所述的面向数字孪生的重构抑制数据蒸馏方法,其特征在于,所述步骤s2,包括:

4.根据权利要求3所述的面向数字孪生的重构抑制数据蒸馏方法,其特征在于,所述步骤s3中由更新后的所述任务代理模型池对候选重构样本进行梯度迭代处理,包括:

5.根据权利要求4所述的面向数字孪生的重构抑制数据蒸馏方法,其特征在于,所述步骤s3中使所述候选重构样本逼近所述蒸馏特征在所述任务代理模型池下的映射结果,包括:

6.根据权利要求5所述的面向数字孪生的重构抑制数据蒸馏方法,其特征在于,所述步骤s3中由所述候选重构样本与所述原始样本集的误差中的最小值,确定跨代理最坏情况重构抑制损失,包括:

7.根据权利要求6所述的面向数字孪生的重构抑制数据蒸馏方法,其特征在于,所述步骤s4,包括:

8.一种面向数字孪生的重构抑制数据蒸馏系统,其特征在于,用于实现如权利要求1-7中任一项所述的面向数字孪生的重构抑制数据蒸馏方法,所述面向数字孪生的重构抑制数据蒸馏系统包括:

9.一种面向数字孪生的重构抑制数据蒸馏设备,其特征在于,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的面向数字孪生的重构抑制数据蒸馏方法。

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序在被处理器运行时使得所述处理器执行如权利要求1至7中任一项所述的面向数字孪生的重构抑制数据蒸馏方法。