一种金属高通量实验数据自动清洗溯源一体化管理系统的制作方法
本申请属于数据处理,具体涉及一种金属高通量实验数据自动清洗溯源一体化管理系统。
背景技术:
1、金属高通量实验在同一块样品盘上并行制备成分与工艺参数梯度变化的样品库,相邻孔位因成分相近其性能数据连续变化。测试后需清洗数据,剔除设备漂移、制备缺陷等引入的异常值。现有流程先运行离群值检测算法输出基于数值分布的异常标签,再由实验人员依据制备记录、测试波形或设备日志等外部信息逐点核查确认或修正,最终保存一份带有保留或剔除标签的数据表用于后续建模分析。
2、高通量实验以批次迭代推进,部分数据在上一轮清洗中已由人工依据波形文件等外部证据修正并赋予判定标签。新增数据后重新计算统计分布以更新离群值判定时,可能出现以下问题:由人工复核后的数据参与自动化离群检测算法的判定更新时,会导致算法判定规则更新的收敛方向异常;接着,异常更新后的算法在处理下一批次数据时会产生更大量错判数据,人工复核数据量增加,又会影响新一轮的算法判定更新,进而形成恶性循环。其根本原因在于人工判断依赖的物理依据与算法的统计判定不在同一语义空间——实验人员依据波形畸变、空间位置关系做出保留或剔除的判断,而离群值算法仅能处理数值分布,无法理解物理语义。为此,需要解决的问题是将这些物理约束结构化并嵌入离群值算法,使迭代计算同时兼容统计分布与物理合理性。
技术实现思路
1、为了解决上述问题,本申请实施例提供一种金属高通量实验数据自动清洗溯源一体化管理系统,所述系统包括:
2、数据获取模块,用于以批次号与样品点阵的行列号作为主键,为每个样品点建立包含空间坐标、性能数据以及历史清洗状态的数据记录,其中,性能数据包含性能测试值和原始测试波形,历史清洗状态为上一轮人工核查后的保留标签或剔除标签;
3、历史规律提取模块,用于从历史保留点中提取性能测试值聚集区间与空间聚集区域,通过性能测试值聚集区间与空间聚集区域的双向迭代约束筛选出典型保留子集,并从典型保留子集的波形中提取波形筛选模板;
4、波形匹配修正模块,用于计算本轮各样品点与波形筛选模板的波形匹配度,并基于波形匹配度与空间密度印证确定候选集及对应的波形可信度;
5、离群判定更新模块,用于固化首轮数据建立的密度参考系,并以波形可信度驱动判定阈值的自适应更新,以生成更新后的判定阈值;
6、迭代清洗与溯源模块,用于以每一轮次数据的性能测试值序列为输入,固定参照密度参考系计算局部离群因子得分,并将局部离群因子得分与判定阈值进行比较以判定异常点,并在多轮迭代中持续以更新后的判定阈值执行离群清洗,并同时记录每个样品点的判定过程与历史清洗状态。
7、本申请实施例具备以下有益效果:本申请实施例提供一种金属高通量实验数据自动清洗溯源一体化管理系统,以批次号和行列号为主键建立样品点记录,包含空间坐标、性能值、原始波形及历史清洗标签;从历史保留点中提取性能值与空间的聚集区间,经双向迭代约束筛选典型保留子集并生成波形模板;计算各点与模板的波形匹配度,结合空间密度印证确定候选集及其波形可信度;固化首轮密度参考系,由波形可信度驱动判定阈值自适应更新;每轮固定参照该参考系计算局部离群因子得分并与阈值比较以判定异常,同时全程记录判定过程与历史状态。本申请实施例能够解决人工修正与算法重判的语义冲突,根除迭代中的密度参考系漂移,使判定阈值随波形可信度合理调整,人工复核工作量逐轮下降,所有判定过程可追溯,清洗结果稳定可靠。
8、本申请的其他特征和优点将在随后的具体实施方式部分予以详细说明。
1.一种金属高通量实验数据自动清洗溯源一体化管理系统,其特征在于,所述系统包括:
2.根据权利要求1所述的金属高通量实验数据自动清洗溯源一体化管理系统,其特征在于,所述数据获取模块,包括:
3.根据权利要求1所述的金属高通量实验数据自动清洗溯源一体化管理系统,其特征在于,所述历史规律提取模块,包括:
4.根据权利要求3所述的金属高通量实验数据自动清洗溯源一体化管理系统,其特征在于,所述历史规律提取模块还包括波形筛选模板生成子模块,所述波形筛选模板生成子模块包括:
5.根据权利要求1所述的金属高通量实验数据自动清洗溯源一体化管理系统,其特征在于,所述波形匹配修正模块,包括:
6.根据权利要求5所述的金属高通量实验数据自动清洗溯源一体化管理系统,其特征在于,所述全局基准偏差的获取方式如下:
7.根据权利要求6所述的金属高通量实验数据自动清洗溯源一体化管理系统,其特征在于,所述离群判定更新模块,包括:
8.根据权利要求7所述的金属高通量实验数据自动清洗溯源一体化管理系统,其特征在于,所述迭代清洗与溯源模块,包括:
9.根据权利要求5所述的金属高通量实验数据自动清洗溯源一体化管理系统,其特征在于,所述波形可信度为归一化值,取值区间为[0,1],其中所述波形匹配度高于第一匹配度的点位的波形可信度等于其波形匹配度,经空间密度印证纳入候选集的边缘点位的波形可信度基于所述局部匹配密度和所述波形匹配度得到,未纳入候选集的点位不具有波形可信度。
10.根据权利要求1所述的金属高通量实验数据自动清洗溯源一体化管理系统,其特征在于,所述系统,还包括:
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com