一种静默数据损坏问题的数据生成方法与流程
本发明涉及数据处理,具体涉及一种静默数据损坏问题的数据生成方法。
背景技术:
1、gpu(graphics processing unit,图形处理器)是进行遥感大模型训练的必要算力工具,但gpu在使用过程中由于粒子撞击硅器件等原因会产生瞬态故障,可能会对gpu上执行的程序产生静默数据损坏(silent data corruption,sdc)。sdc问题在训练过程中难以被及时发现,损坏的数据会污染训练流程,最终导致大模型训练失败,并造成gpu计算资源与电力资源的极大浪费。为减少sdc问题带来的资源浪费,需要研究分析遥感大模型训练中sdc问题对模型的潜在危害,识别训练程序的薄弱环节,并据此设计相应的防护措施。
2、分析sdc问题对训练影响的前提是获取足够数量的sdc问题数据。现有技术在gpu上执行训练程序时,向指令序列的随机位置注入故障,并将错误注入后的输出与无错误执行时的输出进行比对,以判断是否发生了sdc问题。将出现sdc问题的数据加以收集,该过程需重复多次,以积累sdc问题数据。
3、然而,随机注入产生sdc问题的成功率不足1%。对于十亿参数级别的遥感大模型,需进行大量注入才能获得充足的sdc问题数据,耗时可达数十天,严重制约了sdc问题分析的效率。
技术实现思路
1、本发明提供了一种静默数据损坏问题的数据生成方法,以解决上述现有技术中存在的技术问题之一。
2、第一方面,本发明提供了一种静默数据损坏问题的数据生成方法,该方法包括:
3、构建遥感大模型的训练程序的样本指令图谱;
4、通过向样本指令图谱中的样本指令片段注入rtl级错误,更新产生静默数据损坏问题的基准样本库;
5、基于样本指令图谱训练初始相似度计算模型,得到目标相似度计算模型;
6、对于训练程序的每一待处理指令片段,采用目标相似度计算模型,计算待处理指令片段与基准样本库的目标相似度;
7、基于目标相似度确定风险等级,采用风险等级对应的注入策略,对待处理指令片段进行自适应rtl级错误注入,得到对应的静默数据损坏问题数据。
8、本发明通过构建遥感大模型的训练程序的样本指令图谱,能够将底层指令序列系统性地组织为富含语义信息的图结构。然后,通过向样本指令图谱中的样本指令片段注入rtl级错误更新基准样本库,能够以定向、系统化的方式获取脆弱模式样本。然后,基于样本指令图谱训练相似度计算模型,能够使模型具备评估指令片段脆弱性相似程度的能力。对于训练程序中的每一待处理指令片段,采用训练好的模型计算其与基准样本库的目标相似度,能够量化其潜在脆弱性。最后,根据目标相似度确定风险等级并采用对应的自适应注入策略,得到静默数据损坏问题数据。通过将静默数据损坏问题数据的生成从随机注入的低效方式转换为基于数据和模型的高效智能生成方式,提高了静默数据损坏问题数据的生成效率,有效提升了分析静默数据损坏问题在训练过程中传播所引发错误模式的效率,为保障遥感大规模长时间运行训练任务的可靠性提供了技术支撑。
9、在一种可选的实施方式中,构建遥感大模型的训练程序的样本指令图谱,包括:
10、从遥感大模型的训练程序中提取样本指令程序;
11、通过识别样本指令程序的指令片段边界,将样本指令程序划分为多个样本指令片段,将每一样本指令片段作为一个节点;
12、对每一样本指令片段进行多维度划分,得到每一样本指令片段的属性特征,作为对应节点的节点属性;
13、基于所有样本指令片段之间的控制流和数据依赖关系构建边,得到样本指令图谱。
14、本发明通过提取指令序列并识别指令片段边界,能够将连续的、非结构化的gpu指令序列切分为逻辑独立、内部顺序执行的指令片段,将其作为节点。对指令片段进行多维度划分,为每个节点赋予属性。通过识别控制流和数据依赖关系构建边,最终形成的样本指令图谱,为后续步骤提供富含结构信息的数据基础。
15、在一种可选的实施方式中,通过向样本指令图谱中的样本指令片段注入rtl级错误,更新产生静默数据损坏问题的基准样本库,包括:
16、从样本指令图谱中筛选多个种子节点;
17、对每种rtl级错误进行参数化扫描,得到参数组合列表;
18、对于每一种子节点,按照参数组合列表向种子节点对应的样本指令片段中注入rtl级错误并执行,得到第一指令执行结果;
19、在第一指令执行结果表现为静默数据损坏问题时,将样本指令片段作为基准样本,将基准样本及其对应的注入配置,添加至基准样本库。
20、本发明通过从样本指令图谱中筛选具有代表性的种子节点,通过对每种rtl级错误进行参数化扫描并生成完整的参数组合列表,能够系统化地遍历所有可能的错误表现形式。然后,对于每一种子节点,按照参数组合列表进行全面注入并执行,能够以定向、系统化的方式高效触发sdc问题。最后,通过将验证为sdc的样本指令片段及其注入配置添加至基准样本库,能够将经过充分验证的脆弱模式以结构化形式固化下来。
21、在一种可选的实施方式中,基于样本指令图谱训练初始相似度计算模型,得到目标相似度计算模型,包括:
22、提取样本指令图谱中每一节点的样本特征向量,枚举所有样本特征向量形成的向量对;
23、采用初始相似度计算模型,将每组向量对分别映射为嵌入向量,并计算样本相似度,嵌入向量的数据维度低于样本特征向量;
24、基于带有样本标签的向量对训练初始相似度计算模型,得到目标相似度计算模型,样本标签表示每组向量对对应的样本指令片段是否相似。
25、本发明通过提取样本指令图谱中每个节点的样本特征向量并枚举所有向量对,采用初始相似度计算模型将每组向量对映射为嵌入向量并计算样本相似度。然后,基于样本标签进行模型训练,获得具备稳定、可靠判别能力的目标相似度计算模型。
26、在一种可选的实施方式中,提取样本指令图谱中每一节点的样本特征向量,包括:
27、对于样本指令图谱中的每一节点,获取节点对应的样本指令片段的静态特征和动态特征;
28、确定节点在样本指令图谱中的入度和出度;
29、枚举样本指令图谱中的所有节点对,构建每组节点对之间的最短路径,基于经过节点的最短路径的数量和所有节点对的最短路径的总数,计算节点的中介中心性;
30、识别样本指令图谱中的关键路径节点,计算节点到关键路径节点的最短距离;
31、将节点的入度、出度、中介中心性以及最短距离,作为节点的样本图谱特征,将样本图谱特征、静态特征和动态特征进行拼接,得到节点的样本特征向量。
32、本发明通过确定节点的度中心性、中介中心性和最短距离,构建节点的图谱特征,将其与静态特征和动态特征进行拼接,形成综合反映节点结构角色与行为特性的样本特征向量,为后续相似度计算模型提供了输入表示,使得模型能够从多维度精准评估指令片段之间的脆弱性相似程度。
33、在一种可选的实施方式中,对于训练程序的每一待处理目标指令片段,采用目标相似度计算模型计算待处理目标指令片段与基准样本库的目标相似度,包括:
34、对于训练程序的每一待处理指令片段,提取待处理指令片段的第一特征向量,并提取基准样本库中每一基准样本的第二特征向量;
35、采用目标相似度计算模型,基于第一特征向量及每一基准样本的第二特征向量,计算目标指令片段与基准样本库中每一基准样本的脆弱性相似度;
36、将所有脆弱性相似度中的最大值,作为目标相似度。
37、本发明通过采用目标相似度计算模型,计算待处理指令片段与基准样本库的目标相似度,能够充分利用模型从大量训练样本中学习到的脆弱性判别知识,实现基于数据和模型的智能评估,反映待处理指令片段的脆弱性水平,为后续风险等级划分和自适应注入策略选择提供量化依据。
38、在一种可选的实施方式中,基于目标相似度确定风险等级,采用风险等级对应的注入策略,对待处理目标指令片段进行自适应rtl级错误注入,得到对应的静默数据损坏问题数据,包括:
39、在风险等级为第一等级时,对待处理指令片段进行验证性rtl级错误注入,得到对应的静默数据损坏问题数据;
40、在风险等级为第二等级时,对待处理指令片段进行边界探索性rtl级错误注入,得到对应的静默数据损坏问题数据,第一等级高于第二等级;
41、在风险等级为第三等级时,对待处理指令片段进行探索性rtl级错误注入,得到对应的静默数据损坏问题数据,第二等级高于第三等级。
42、本发明通过将目标相似度映射为风险等级,能够量化评估待处理指令片段产生sdc问题的可能性,采用风险等级对应的注入策略进行注入,提高sdc问题数据的生成效率。
43、在一种可选的实施方式中,在风险等级为第一等级时,对待处理指令片段进行验证性rtl级错误注入,得到对应的静默数据损坏问题数据,包括:
44、在风险等级为第一等级时,采用目标相似度对应的基准样本的注入配置,对待处理指令片段进行rtl级错误注入并执行,得到第二指令执行结果;
45、在第二指令执行结果表现为静默数据损坏问题时,将注入后的待处理指令片段作为静默数据损坏问题数据,并将待处理指令片段及其注入配置添加至基准样本库;
46、在第二指令执行结果未表现为静默数据损坏问题时,采用与目标相似度对应的基准样本的注入配置的微调配置,对待处理指令片段再次进行rtl级错误注入并执行,得到第三指令结果;
47、在第三指令结果表现为静默数据损坏问题时,将再次注入后的待处理指令片段作为静默数据损坏问题数据,并将待处理指令片段及其再次注入的注入配置添加至基准样本库。
48、本发明通过在第一等级时采用验证性注入策略,直接复用最相似基准样本的注入配置进行快速验证,能够以最低成本确认高风险片段的脆弱性,若复用成功,将新样本及其注入配置添加至基准样本库,持续丰富已知脆弱模式库。
49、在一种可选的实施方式中,在风险等级为第二等级时,对待处理指令片段进行边界探索性rtl级错误注入,得到对应的静默数据损坏问题数据,包括:
50、在风险等级为第二等级时,基于目标相似度确定注入次数;
51、从参数组合列表中选择注入次数的参数组合,对待处理指令片段进行分层注入,并在每层注入后执行,得到第四指令执行结果;
52、在第四指令执行结果表现为静默数据损坏问题时,将注入后的待处理指令片段作为静默数据损坏问题数据,并将待处理指令片段及其注入配置添加至基准样本库;
53、在第四指令执行结果未表现为静默数据损坏问题时,继续对待处理指令片段进行分层注入,直至达到注入次数。
54、本发明通过在第二等级时采用边界探索性注入策略,从参数组合列表中选择对应数量的参数组合进行分层注入,能够发现从正常运行到产生sdc问题的临界条件,将成功触发sdc问题的样本及其注入配置添加至基准样本库,持续丰富已知脆弱模式库。
55、在一种可选的实施方式中,在风险等级为第三等级时,对待处理指令片段进行探索性rtl级错误注入,得到对应的静默数据损坏问题数据,包括:
56、在风险等级为第三等级时,对待处理指令片段进行随机rtl级错误注入并执行,得到第五指令执行结果,重复随机注入直至达到预设注入密度;
57、在任一第五指令执行结果表现为静默数据损坏问题时,将第五指令执行结果对应的注入后的待处理指令片段作为静默数据损坏问题数据,并将待处理指令片段及其注入配置添加至基准样本库;
58、从第五指令执行结果对应的待处理指令片段所处的指令图谱中,获取待处理指令片段的邻居节点;
59、基于邻居节点对应的待处理指令片段,返回至采用目标相似度计算模型,计算待处理指令片段与基准样本库的目标相似度的步骤。
60、本发明通过在第三等级时采用探索性注入策略,采用随机注入发现sdc问题,将新发现的脆弱模式及其注入配置添加至基准样本库。然后,利用指令图谱的结构关系,对邻居节点进行处理,提高了低相似度区域的脆弱点发现效率。
61、第二方面,本发明提供了一种静默数据损坏问题的数据生成装置,该装置包括:
62、构建模块,用于构建遥感大模型的训练程序的样本指令图谱;
63、更新模块,用于通过向样本指令图谱中的样本指令片段注入rtl级错误,更新产生静默数据损坏问题的基准样本库;
64、训练模块,用于基于样本指令图谱训练初始相似度计算模型,得到目标相似度计算模型;
65、计算模块,用于对于训练程序的每一待处理指令片段,采用目标相似度计算模型,计算待处理指令片段与基准样本库的目标相似度;
66、生成模块,用于基于目标相似度确定风险等级,采用风险等级对应的注入策略,对待处理指令片段进行自适应rtl级错误注入,得到对应的静默数据损坏问题数据。
67、第三方面,本发明提供了一种电子设备,包括:存储器和处理器,存储器和处理器之间互相通信连接,存储器中存储有计算机指令,处理器通过执行计算机指令,从而执行上述第一方面或其对应的任一实施方式的静默数据损坏问题的数据生成方法。
68、第四方面,本发明提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机指令,计算机指令用于使计算机执行上述第一方面或其对应的任一实施方式的静默数据损坏问题的数据生成方法。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com