一种基于多生成模型协同评估的工业钛合金小样本数据增强方法及系统
一种基于多生成模型协同评估的工业钛合金小样本数据增强方法及系统,用于工业钛合金小样本数据增强,属于人工智能与材料信息学交叉。
背景技术:
1、工业钛合金实验数据具有以下特点:
2、(1)样本数量少,难以支撑复杂机器学习模型稳定训练;
3、(2)数据主要由连续变量构成,包括元素成分、热处理参数以及力学性能;
4、(3)变量之间存在强耦合关系,简单扩充数据容易破坏成分—工艺—性能之间的联合分布。
5、现有工业材料数据增强方法主要面向通用表格数据,并非均针对工业材料数据。主要包括:
6、(1)基于传统统计采样的方法,通过随机扰动或插值扩展实验样本;
7、(2)基于生成对抗网络、变分模型等深度生成方法生成结构化数据;
8、(3)近年来发展的表格生成模型,包括基于大语言模型的great以及基于扩散模型的tabddpm/ddpm类方法。
9、现有研究表明,大语言模型能够通过表格序列化方式生成结构化样本,而扩散模型能够通过连续空间去噪过程学习数据联合分布。将基于大语言模型的表格生成方法与基于扩散模型的连续表格生成方法直接迁移至钛合金场景时,虽然可以利用现有生成模型完成样本合成,但尚缺少与钛合金连续变量、小样本和强耦合特征相适配的数据处理、材料约束及统一评价流程。
10、综上所述,基于大语言模型的表格生成方法与基于扩散模型的连续表格生成方法直接迁移至钛合金场景时,存在以下问题:
11、1、真实实验样本少且获取成本高,预测模型易过拟合、训练结果不稳定;
12、2、不同量纲的连续变量和成分—工艺—性能强耦合关系难以同时保持,通用生成模型生成的样本可能出现负值、元素总量异常或主元素缺失;
13、3、大语言模型与扩散模型所需输入形式不同,缺少面向同一材料数据源的差异化预处理与统一输出约束;
14、4、现有评价多关注单变量统计相似性,缺少同时反映变量关联结构、高维空间分布和真实预测任务效用的评价机制,因而难以判断合成数据是否能够用于钛合金性能预测和真实数据增强;
15、5、钛合金的抗拉强度和屈服强度是评价其力学性能的重要指标,但相关实验测试成本高、周期长,尤其在涉及真空熔炼、热加工和多道次热处理的钛合金体系中,每个样本均对应完整制备及测试流程,导致工业场景中可获取的数据规模通常有限;
16、6、实际可用的工业钛合金数据呈现小样本、连续变量占比高且变量耦合关系复杂的特征,在该数据条件下,传统机器学习模型容易过拟合并降低泛化性能,同时,al、mo等元素成分、加工工艺与强度之间存在非线性关联,简单扰动或插值容易破坏“成分—工艺—性能”的联合分布。
技术实现思路
1、针对上述研究的问题,本发明的目的在于提供一种基于多生成模型协同评估的工业钛合金小样本数据增强方法及系统,解决真实实验样本少且获取成本高,预测模型易过拟合、训练结果不稳定等问题。
2、为了达到上述目的,本发明采用如下技术方案:
3、一种基于多生成模型协同评估的工业钛合金小样本数据增强方法,包括如下步骤:
4、步骤1、读取工业钛合金实验数据,从每条实验数据记录中提取24个元素成分字段、10个工艺参数字段以及2个力学性能字段,得到36维材料表格样本集;
5、步骤2、对步骤1得到的材料表格样本集依次执行字段完整性检查、36个字段提取和缺失值填充,得到清洗后的材料表格数据;
6、将清洗后的材料表格数据处理为文本序列和归一化数据;
7、并根据清洗后的材料表格数据中的24个元素成分计算材料描述符,与24个元素成分字段和10个工艺参数字段组合,得到组合输入特征;
8、步骤3、将文本序列数据输入基于大语言模型得到36维材料记录;
9、将归一化数据输入连续扩散模型得到36维归一化连续样本;
10、基于上述两条生成支路分别输出预设数量的候选生成样本;
11、步骤4、分别对大语言模型和连续扩散模型生成的候选生成样本先执行文本字段解析或逆归一化以恢复36维字段及原始量纲,再分别执行负值裁剪、非零合金元素数量限制、ti主元素保留、元素质量分数归一化至100%以及工艺参数和性能字段范围裁剪,得到满足钛合金数据格式及材料约束的修正生成数据;
12、并根据修正生成数据中的24个元素成分计算材料描述符,与修正生成数据中的24个元素成分字段和10个工艺参数字段组合,得到修正生成输入特征;
13、步骤5、对步骤4中各支路生成的修正生成数据和修正生成输入特征,得到各生成策略的相关结构评价结果、空间分布评价结果和预测效用评价结果;
14、步骤6、比较各生成支路得到的三类评价结果,选择相关结构评价结果较小、空间分布评价结果较小且预测效用评价结果较高的生成策略,并将该生成策略输出的修正生成数据单独使用或与真实训练数据混合,形成工业钛合金性能预测用增强数据集。
15、进一步,所述步骤1中的24个元素成分字段为ti、al、sn、zr、mo、v、cr、fe、si、cu、nb、ta、in、w、o、c、h、pd、ni、mn、n、b、bi和co;
16、10个工艺参数字段为固溶温度、固溶时间、二次固溶温度、二次固溶时间、时效温度、时效时间、轧制温度、轧制压下率、二次轧制温度和二次轧制压下率;
17、2个力学性能字段为抗拉强度和屈服强度。
18、进一步,所述步骤2的具体步骤为:
19、步骤2.1、建立包含36个字段名称及对应数据类型的必需字段清单,将36维材料表格样本集的字段名称与必需字段清单逐一比对,当缺少任一必需字段时,输出缺失字段名称并停止处理,否则执行步骤2.2;
20、步骤2.2、按照预设字段顺序从36维材料表格样本集中的每条工业钛合金实验数据记录中提取24个元素成分字段、10个工艺参数字段和2个力学性能字段,随后逐条检查各工业钛合金实验数据记录中相应字段的取值,将空值、无法转换为预设数值类型的字段值以及非数值异常值标记为缺失值,并将缺失值填充为0,得到36维清洗样本,即得到清洗后的材料表格数据;
21、步骤2.3、对于语言模型预处理支路,保留清洗后的材料表格数据中每条数据的各字段原始数值和字段语义,采用“字段名—is——数值”模板转换为文本序列;
22、对于连续扩散模型生成路径,利于清洗后的材料表格数据中的字段最小值和最大值进行min–max归一化,将各字段映射至[-1,1],得到归一化数据;
23、步骤2.4、根据清洗后的材料表格数据中的24个元素成分利用matminer材料特征计算库计算132维magpie物理化学描述符,即计算材料描述符,将132维材料描述符与24个元素成分字段和10个工艺参数字段组合,形成用于下游性能预测的166维的组合输入特征。
24、进一步,所述步骤3中的大语言模型采用transformer自回归结构,连续扩散模型采用ddpm训练和采样框架。
25、进一步,所述步骤4的具体步骤为:
26、步骤4.1、对于大语言模型生成支路输出的候选生成样本,按照预设字段名称和字段顺序进行文本字段解析,将其恢复为包含24个元素成分字段、10个工艺参数字段和2个力学性能字段的36维材料记录,即得到恢复后的候选生成样本;
27、对于连续扩散模型生成支路输出的候选生成样本,执行逆归一化恢复为具有原始物理量纲的36维材料记录,即得到恢复后的候选生成样本,归一化公式为:
28、
29、其中,为第个归一化字段值,和分别为候选生成样本中第个字段的最大值和最小值,为恢复原始物理量纲后的字段值;
30、步骤4.2、分别检查两生成支路恢复后的候选生成样本是否包含24个元素成分字段、10个工艺参数字段和2个力学性能字段,并检查各字段是否能够转换为数值,即对于每条恢复后的候选生成样本,若存在字段缺失、字段数量不等于36或存在无法转换为数值的字段值,将其判定为无效候选样本,否则,为有效候选样本;
31、步骤4.3、对有效候选样本执行元素成分约束,具体为:首先将24个元素成分字段中的负值裁剪为0,随后保留ti元素成分字段,并从其余23个元素成分字段中按照元素成分质量分数由高至低选择至多6个正值字段予以保留,将其余元素成分字段置为0,使包括ti元素成分在内的非零元素成分字段数量不超过7个,若ti元素成分质量分数不大于0,则将相应候选样本判定为不满足ti主元素约束,否则,满足;
32、对保留的非零元素成分字段按照下式进行归一化:
33、其中,为归一化前第个保留的非零元素成分的质量分数,为第个保留的非零元素成分归一化后的质量分数,为保留元素成分集合,使24个元素成分字段的质量分数之和为100%,表示归一化前第个保留元素成分的质量分数;
34、步骤4.4、对工艺参数字段和力学性能字段执行范围约束,具体为:将温度类工艺参数裁剪至0~1200℃,将时间类工艺参数裁剪至0~100小时,将轧制压下率裁剪至0~100%,并将抗拉强度和屈服强度中的负值裁剪为0;
35、步骤4.5、剔除步骤4.2中的无效候选样本,以及步骤4.3中ti元素成分质量分数不大于0的候选样本,按照被剔除的样本数量,通过对应生成支路补充生成候选生成样本,并重复步骤4.1至步骤4.4,直至得到预设数量n的修正生成数据;
36、步骤4.6、对修正生成数据中的24个元素成分字段,采用matminer材料特征计算库计算132维magpie物理化学描述符,将132维材料描述符与修正生成数据中的24个元素成分字段和10个工艺参数字段组合,形成166维修的正生成输入特征。
37、进一步,所述步骤5的具体步骤为:
38、步骤5.1、对于两生成支路,按照相同36个字段顺序分别计算真实数据的pearson相关矩阵和两生成支路对应的修正生成数据的pearson相关矩阵,并计算两个pearson相关矩阵的平均绝对相关差异,其中,为参与评价的字段数量,和分别表示真实数据与修正生成数据中第个字段和第个字段之间的pearson相关系数,表示两个pearson相关矩阵的平均绝对相关差异,即表示相关结构评价结果,结果越小表示生成数据对字段耦合关系的保持程度越高,其中,真实数据是指步骤2.2得到的清洗后的真实表格数据;
39、步骤5.2、对于两生成支路,将真实数据和两生成支路修正生成数据采用pca将其映射至同一pca二维空间;
40、映射后,分别计算真实数据的质心与两生成支路的修正生成数据的质心之间的欧氏距离,得到各生成策略对应的pca二维质心距离,其中,生成策略即指对应的生成支路;
41、将真实数据和两生成支路修正生成数据采用t-sne将映射至同一t-sne二维空间;
42、映射后,分别计算真实数据的质心与两生成支路的修正生成数据的质心之间的欧氏距离,得到各生成策略对应的t-sne二维质心距离;
43、将大语言模型生成支路得到的修正生成数据和连续扩散模型生成支路得到的修正生成数据在pca二维空间中的样本覆盖范围、聚类形态分别与真实数据进行比较,并结合pca二维质心距离,用于评价各生成策略对真实数据全局线性分布结构的保持程度连续扩散模型,其中,样本覆盖范围比较是指通过比较各生成支路的修正生成数据与真实数据在第一主成分和第二主成分方向上的分布区间及重叠程度进行评价,重叠程度越高,说明生成数据对真实数据总体分布范围的保持能力越强,聚类形态是指通过观察并比较样本点的整体分布轮廓、疏密程度、主要聚集区域及是否存在明显偏移或异常聚集进行评价,聚类形态比较即指各生成支路的修正生成数据与真实数据的聚类形态越接近,说明其对真实数据整体结构的保持程度越高,pca二维质心距离越小,表明修正生成数据整体分布中心与真实数据越接近;
44、将大语言模型生成支路得到的修正生成数据和连续扩散模型生成支路得到的修正生成数据在t-sne二维空间中的样本本覆盖范围、聚类形态分别与真实数据进行比较,并结合及t-sne二维质心距离,用于评价各生成策略对真实数据局部非线性邻域结构的保持程度,其中,t-sne二维质心距离越小,表明修正生成数据整体分布中心与真实数据越接近;
45、最终得到空间分布评价结果;
46、步骤5.3、采用tstr方式,分别以两生成支路得到的修正生成特征构建对应生成支路的训练集、以未参与生成支路训练的真实数据为测试集,训练catboost、gradientboosting、randomforest和xgboost四类回归模型,训练后对抗拉强度和屈服强度分别计算决定系数,为第个样本的真实值,为第个样本预测值,为所有真实值的平均值;
47、对屈服强度或抗拉强度同一性能目标的四类模型得到的决定系数取算术平均得到treeavg,即得到预测效用评价结果,treeavg越高表示修正生成数据保留的输入特征—性能目标映射关系越完整。
48、一种基于多生成模型协同评估的工业钛合金小样本数据增强系统,包括存储器、处理器及存储在存储器上的计算机程序,其特征在于:所述处理器执行所述计算机程序以实现所述一种基于多生成模型协同评估的工业钛合金小样本数据增强方法的步骤。本发明同现有技术相比,其有益效果表现在:
49、一、本发明中的小样本数据增强方法实现多变量关注,还通过同一评价体系考虑了钛合金的抗拉强度和屈服强度,同时反映变量关联结构、高维空间分布和真实预测任务效用,以用于钛合金性能预测和真实数据增强,本发明通过上述小样数据增加中的多策略评价对比可知,通过连续扩散生成模型在工业钛合金连续变量空间中学习成分、工艺与性能字段之间的联合分布关系,提高小样本材料实验数据扩展过程中生成样本的分布一致性,解决了现有技术中不同量纲的连续变量和成分—工艺—性能强耦合关系难以同时保持,通用生成模型生成的样本可能出现负值、元素总量异常或主元素缺失的问题,同时也解决了容易过拟合并降低泛化性能,al、mo等元素成分、加工工艺与强度之间存在非线性关联,简单扰动或插值容易破坏“成分—工艺—性能”的联合分布等问题;
50、二、本发明通过生成质量评价,从相关结构、空间分布以及下游预测效果三个维度评价生成数据质量,提高生成数据筛选可靠性,即解决了现有技术中真实实验样本少且获取成本高,预测模型易过拟合、训练结果不稳定的问题;
51、三、本发明对36维材料表格样本集执行字段完整性检查、36个字段提取和缺失值填充,得到清洗后的材料表格数据并分别处理为文本序列和归一化数据,解决了大语言模型与连续扩散模型所需输入形式不同,缺少面向同一材料数据源的差异化预处理与统一输出约束的问题;
52、四、本发明在864条工业钛合金实验数据上验证:ddpm生成数据与真实数据相关矩阵平均绝对差异为0.0103,最大差异为0.0792;great对应平均绝对差异为0.0750,说明扩散生成机制能够更好保持材料变量关联结构;
53、五、本发明通过生成数据增强方式,在抗拉强度预测任务中,2000条扩散生成样本与700条真实样本混合训练时treeavg 达到0.787,高于真实数据基线0.783,对于屈服强度预测,对应treeavg r²达到0.746,也高于真实数据基线的0.739,该结果说明,ddpm生成样本能够作为真实训练集的有效补充,在不显著破坏原始数据分布的前提下改善部分模型的预测表现;
54、六、本发明通过将生成模型(大语言模型和连续扩散模型)与质量评价机制组合,实现从“生成数据”到“可用于材料预测的数据增强方案”的闭环,提高工业材料小样本建模可靠性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com