一种基于自主学习的人工智能模型增量更新方法及系统与流程
本发明涉及人工智能,尤其涉及一种基于自主学习的人工智能模型增量更新方法及系统。
背景技术:
1、随着人工智能模型在智能制造、智能终端、自动控制和数据分析场景中的持续部署,模型运行过程中不断产生新的输入样本、推理结果和任务执行数据。为使模型适应数据分布变化和新增任务知识,现有技术多采用增量学习、持续学习、经验回放、知识蒸馏和参数约束方式对已部署模型进行更新,通过新增数据训练并保留部分历史知识,降低模型重新训练所需的计算资源和时间成本。
2、现有人工智能模型增量更新方法多依据固定更新周期、新增样本数量或模型输出异常启动训练,对模型自身知识欠缺与输入数据随机波动缺乏区分,容易将数据噪声引起的输出变化作为模型更新依据。部分方法利用历史样本回放或参数重要性约束保护已有知识,但模型参数承担新增知识学习和历史知识保持任务发生冲突时,多采用冻结参数、限制更新幅度或调整梯度方向的处理方式。
3、受历史知识约束的参数无法完成新增知识更新时,未完成的模型功能变化缺少独立保留和重新承载机制,新增知识学习需求容易被削弱或丢失,模型内部具有功能补偿能力的其他参数难以参与局部替代更新。模型更新后的新知识学习效果与历史知识保持效果缺少面向参数替代路径的反馈修正,容易造成新增知识吸收不足、历史知识遗忘和重复训练,难以满足人工智能模型自主持续增量更新需求。
4、因此,如何提供一种基于自主学习的人工智能模型增量更新方法及系统是本领域技术人员亟需解决的问题。
技术实现思路
1、本发明的一个目的在于提出一种基于自主学习的人工智能模型增量更新方法,本发明利用知识欠缺识别、冲突参数分析、功能替代和残量迁徙机制,实现新增知识的局部增量更新与历史知识保持,具备自主触发能力强、知识遗忘程度低、更新范围小和模型适应效率高的优点。
2、根据本发明实施例的一种基于自主学习的人工智能模型增量更新方法,包括:
3、采集模型自主学习数据,按运行时序关联,生成自主学习基础数据;
4、基于自主学习基础数据计算认知不确定性、偶然不确定性和数据分布变化并识别知识欠缺,生成自主增量学习触发信号;
5、响应自主增量学习触发信号筛选新增数据,生成增量知识集,从自主学习基础数据匹配历史知识,生成历史锚定知识集;
6、基于增量知识集和历史锚定知识集分析参数块的新知识更新作用和历史知识保持作用并识别冲突参数块,生成冲突更新残量;
7、建立冲突参数块与候选参数块的功能替代关系,将冲突更新残量迁徙至替代参数块进行局部增量更新,生成候选增量模型;
8、基于增量知识集和历史锚定知识集验证候选增量模型,依据验证结果调整功能替代关系和冲突更新残量,生成目标增量模型;
9、将目标增量模型替换人工智能模型,将增量知识集、功能替代关系和增量更新结果写入长期知识库,生成模型增量更新结果。
10、可选的,所述模型自主学习数据包括模型运行数据、模型推理数据、历史学习数据和模型参数状态数据。
11、可选的,所述生成自主学习基础数据,包括:
12、从模型运行数据中提取输入样本、运行时刻和任务执行状态,从模型推理数据中提取模型输出结果、输出置信度和中间特征,从历史学习数据中提取历史样本、历史知识表征和历史更新记录,从模型参数状态数据中提取参数标识、参数值和参数更新状态;
13、按照运行时刻对齐输入样本、模型输出结果和任务执行状态,依据历史样本对应的任务标识匹配历史知识表征和历史更新记录;
14、按照参数标识关联参数值、参数更新状态及对应历史知识表征,将对齐后的运行数据、推理数据、历史知识和参数状态按运行时序排列,生成自主学习基础数据。
15、可选的,所述生成自主增量学习触发信号,包括:
16、从模型运行数据中提取当前输入样本并执行多次随机失活推理,根据各次模型输出结果离散程度和输出置信度变化确定认知不确定性;
17、从模型运行数据中提取相同任务标识的相邻输入样本,根据输入样本波动确定偶然不确定性,从模型推理数据中提取中间特征,从历史学习数据中提取相同任务标识的历史知识表征,根据中间特征与历史知识表征的特征距离生成数据分布变化;
18、从历史学习数据中提取相同任务标识的历史样本,计算认知不确定性和数据分布变化,依据数值分布生成对应判定边界;
19、认知不确定性越过对应判定边界、认知不确定性大于偶然不确定性且数据分布变化越过对应判定边界时识别知识欠缺,生成自主增量学习触发信号。
20、可选的,所述生成历史锚定知识集,包括:
21、响应自主增量学习触发信号,从模型运行数据和模型推理数据中提取知识欠缺对应的输入样本、任务标识、任务执行状态、模型输出结果和中间特征,按运行时序排列,生成增量知识集;
22、从历史学习数据中提取与增量知识集任务标识一致的历史样本、历史任务结果和历史知识表征,计算中间特征与历史知识表征之间的特征距离;
23、依据特征距离分布划分近邻历史知识和非近邻历史知识,提取近邻历史知识对应的历史样本、历史任务结果和历史知识表征,生成历史锚定知识集。
24、可选的,所述生成冲突更新残量,包括:
25、从模型参数状态数据中提取参数标识、参数值、参数所属层标识和参数张量标识,按参数所属层标识和参数张量标识划分参数块;
26、将增量知识集输入人工智能模型,根据模型输出结果与任务执行状态的差异生成增量学习损失,计算增量学习损失相对各参数块的梯度向量,生成新知识更新作用;
27、将历史锚定知识集输入人工智能模型,根据模型输出结果与历史任务结果的差异生成历史知识保持损失,计算历史知识保持损失相对各参数块的梯度向量,生成历史知识保持作用;
28、分别按两类作用的向量长度排列参数块,依据相邻向量长度差异划分强作用区间和弱作用区间,将两类作用均处于强作用区间且方向相反的参数块确定为冲突参数块;
29、从模型参数状态数据中提取模型更新步长,根据新知识更新作用生成目标更新量,调整目标更新量直至历史知识保持损失不大于更新前对应损失,生成安全更新量,分别将目标更新量和安全更新量加载至模型副本中的冲突参数块,提取中间特征变化和模型输出变化,将两类功能变化差异生成冲突更新残量。
30、可选的,所述生成候选增量模型,包括:
31、从模型参数状态数据中提取参数块连接关系和参数更新状态,从非冲突参数块中筛除冻结参数块,保留与冲突参数块具有共同下游输出节点的参数块,生成候选参数块;
32、在模型副本中沿候选参数块的新知识更新作用调整参数值,提取与冲突更新残量对应位置的中间特征变化和模型输出变化,生成候选参数块功能响应;
33、比较候选参数块功能响应与冲突更新残量的方向,计算功能响应在冲突更新残量方向上的有效补偿量,利用历史锚定知识集计算试探更新前后的历史知识保持损失,生成历史知识损伤程度;
34、筛选功能响应方向一致且历史知识保持损失未增加的候选参数块,按有效补偿量降序建立功能替代关系,直至累计有效补偿量覆盖冲突更新残量,将对应候选参数块确定为替代参数块;
35、依据替代参数块的有效补偿量确定目标补偿量,沿新知识更新作用调整替代参数块,直至功能响应达到目标补偿量,生成残量迁徙量;
36、对冲突参数块执行安全更新量,对替代参数块执行残量迁徙量,对新知识更新作用处于强作用区间且未形成冲突的参数块执行新知识更新,保持剩余参数块不变,生成候选增量模型。
37、可选的,所述生成目标增量模型,包括:
38、从模型运行数据和模型推理数据中提取与增量知识集任务标识一致且未写入增量知识集的输入样本、任务执行状态和模型输出结果,生成增量验证数据,分别输入更新前人工智能模型和候选增量模型,根据模型输出结果与任务执行状态的差异生成增量验证损失;
39、从历史学习数据中提取与历史锚定知识集任务标识一致且未写入历史锚定知识集的历史样本和历史任务结果,生成历史验证数据,分别输入更新前人工智能模型和候选增量模型,根据模型输出结果与历史任务结果的差异生成历史验证损失;
40、候选增量模型的增量验证损失降低且历史验证损失未增大时,将候选增量模型确定为目标增量模型;
41、增量验证损失未降低时,将未建立功能替代关系且有效补偿量最大的候选参数块加入功能替代关系并重新分配冲突更新残量,历史验证损失增大时解除历史知识损伤程度最大的功能替代关系并重新分配目标补偿量,重新更新受影响参数块;
42、重复验证和受影响参数块更新直至满足目标增量模型条件,候选参数块均不满足功能替代条件时,将更新前人工智能模型确定为目标增量模型。
43、可选的,所述生成模型增量更新结果,包括:
44、目标增量模型与更新前人工智能模型不一致时保存更新前模型版本并完成替换,一致时保持当前模型版本;
45、将目标增量模型对应的增量知识集和历史锚定知识集生成长期固化知识,将冲突参数块标识、替代参数块标识、冲突更新残量、残量迁徙量、功能替代关系和验证结果生成模型增量更新记录;
46、将长期固化知识和模型增量更新记录写入长期知识库并作为新的历史学习数据,生成模型增量更新结果。
47、根据本发明实施例的一种基于自主学习的人工智能模型增量更新系统,包括如下模块:
48、自主学习数据处理模块,用于处理模型自主学习数据,生成自主学习基础数据;
49、自主学习触发模块,用于基于自主学习基础数据识别知识欠缺并生成自主增量学习触发信号;
50、增量知识构建模块,用于基于自主增量学习触发信号和自主学习基础数据生成增量知识集和历史锚定知识集;
51、参数冲突分析模块,用于根据增量知识集和历史锚定知识集识别冲突参数块,生成冲突更新残量;
52、功能替代更新模块,用于基于冲突参数块和冲突更新残量建立功能替代关系,执行残量迁徙并生成候选增量模型;
53、增量模型验证模块,用于根据增量知识集和历史锚定知识集验证候选增量模型,调整功能替代关系并生成目标增量模型;
54、知识固化模块,用于基于目标增量模型、增量知识集、历史锚定知识集和功能替代关系完成模型替换与知识固化,生成模型增量更新结果。
55、本发明的有益效果是:
56、本发明通过采集模型运行数据、模型推理数据、历史学习数据和模型参数状态数据生成自主学习基础数据,计算认知不确定性、偶然不确定性和数据分布变化,对模型知识欠缺与输入数据波动进行区分,并在满足知识欠缺条件时生成自主增量学习触发信号,使模型增量更新不再依赖固定周期或单纯新增样本数量,提高自主学习触发的针对性,减少由数据噪声和短时波动引起的无效更新。
57、本发明通过构建增量知识集和历史锚定知识集,分别分析参数块的新知识更新作用和历史知识保持作用,识别同时承担新增知识学习和历史知识保持任务的冲突参数块,基于目标更新量与安全更新量形成对应的功能变化差异并生成冲突更新残量,使受历史知识约束而未完成的新增知识更新需求能够独立保留,降低直接冻结参数、限制更新幅度造成的新知识学习不足和历史知识遗忘。
58、本发明通过筛选具备功能补偿能力的候选参数块,建立冲突参数块与替代参数块之间的功能替代关系,将冲突更新残量迁徙至替代参数块执行局部增量更新,并利用增量知识集和历史锚定知识集验证候选增量模型,根据验证结果调整功能替代关系和冲突更新残量,使未完成的模型功能变化能够由其他参数块进行补偿,减少全模型重复训练,提高新增知识吸收能力、历史知识保持能力和模型持续增量更新效率。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com