一种模型的工艺知识增强方法及系统与流程

本技术涉及人工智能与机器学习，具体涉及一种模型的工艺知识增强方法及系统。

背景技术：

1、随着人工智能、机器学习和神经网络技术在工业生产中的应用，利用生产过程数据训练预测模型，已经成为产品质量预测、工艺参数预测、设备状态分析以及生产过程优化的重要技术手段。现有模型训练通常根据训练样本和对应监督数据确定损失函数，并通过反向传播等方式更新模型参数。为了减少模型仅依赖训练数据学习可能产生的不合理预测，还可以将工艺规程、专家经验、历史生产规律、知识图谱等先验知识引入模型训练，通过知识约束辅助机器学习模型或者神经网络模型学习，使模型预测结果尽量符合已有工艺规律。

2、工业领域中的工艺知识通常具有一定的适用条件。例如，同一工艺参数在不同加工阶段、不同物料状态或者不同设备运行状态下，对产品质量或者剩余处理时间的影响可能并不相同。因此，在利用工艺知识辅助模型训练时，通常需要先根据训练样本确定当前工艺状态，再判断对应工艺知识是否适用于当前训练样本；在工艺知识被判断为适用后，再利用工艺知识规定的目标值、允许范围或者参数变化规律对模型训练过程进行约束。

3、但是，在现有知识增强模型训练过程中，用于判断工艺知识适用条件的工艺状态并不一定都来源于传感器、检测设备或者生产控制系统直接记录的数据。有些工艺状态难以直接检测，需要根据待训练模型的预测结果、中间特征或者其他由模型处理结果进一步计算得到的数据进行判断。此时，如果仍直接依据这种工艺状态确定工艺知识适用，并进一步利用对应工艺知识约束同一待训练模型，就可能出现模型自身的处理结果反过来成为约束模型训练的依据。

4、例如，在干燥生产过程中，可以训练神经网络模型预测物料的剩余处理时间，并存在“进入干燥后段后，提高处理温度时剩余处理时间通常不增加”之类的工艺规律。如果“是否进入干燥后段”本身也是依据模型预测的剩余处理时间判断，当模型当前预测存在偏差时，就可能先得到错误的工艺状态，再依据错误工艺状态启用相应工艺知识，并通过知识训练损失继续约束模型参数更新。这样不仅不能有效利用先验知识纠正模型，反而可能使模型原有预测偏差在后续训练过程中被持续强化。

5、现有技术在利用工艺知识进行知识增强学习时，通常关注训练样本是否满足工艺知识适用条件以及模型预测结果是否符合工艺约束，但对于用于判断工艺知识适用条件的工艺状态是否受到待训练模型自身模型处理结果影响，缺少进一步区分。在工艺状态受到待训练模型处理结果影响的情况下，也缺少能够判断对应工艺状态是否具有独立依据的处理机制。因此，如何避免基于待训练模型自身处理结果形成的工艺状态未经有效确认即用于触发工艺知识约束，从而降低错误工艺知识约束对模型训练过程的影响，是工艺知识增强模型训练中需要解决的技术问题。

技术实现思路

1、针对现有技术存在的不足，本技术的目的在于提供一种模型的工艺知识增强方法及系统，用于解决人工智能、机器学习或者神经网络的知识增强学习过程中，用于判断工艺知识适用条件的工艺状态受到待训练模型自身模型处理结果影响时，未经独立验证的工艺状态可能触发错误工艺知识约束，进而使模型预测偏差在模型训练过程中被进一步强化的问题；通过识别工艺状态与待训练模型的模型处理结果之间的依赖关系，并利用独立数据对存在依赖关系的工艺状态进行验证，根据依赖关系和独立数据支持结果控制工艺知识是否用于约束待训练模型的训练，从而提高工艺知识增强模型训练的可靠性。

2、为实现上述目的，本技术采用如下技术方案：

3、第一方面，本技术提供一种模型的工艺知识增强方法，包括：

4、获取训练样本和用于辅助待训练模型训练的工艺知识，其中，工艺知识包括工艺知识适用条件和满足工艺知识适用条件时成立的工艺约束关系；

5、根据训练样本确定对应的工艺状态，并根据工艺状态和工艺知识适用条件确定与训练样本匹配的工艺知识；

6、确定用于判断工艺知识适用条件的工艺状态与待训练模型的模型处理结果之间的依赖关系；

7、对依赖关系表示工艺状态依赖待训练模型的模型处理结果的工艺状态进行验证，得到验证结果，并根据验证结果确定对应工艺状态的独立数据支持结果；

8、根据依赖关系以及依赖待训练模型的模型处理结果的工艺状态对应的独立数据支持结果，确定与训练样本匹配的工艺知识是否用于约束待训练模型的训练；

9、利用训练样本对待训练模型进行训练，并在工艺知识用于约束待训练模型的训练时，根据工艺约束关系对待训练模型施加知识训练约束。

10、进一步地，确定用于判断工艺知识适用条件的工艺状态与待训练模型的模型处理结果之间的依赖关系，包括：

11、获取工艺状态对应的数据生成过程；

12、当数据生成过程使用待训练模型的输出结果、中间处理结果或者对待训练模型的模型处理结果继续处理得到的数据时，确定工艺状态与待训练模型的模型处理结果之间存在依赖关系；

13、否则，确定工艺状态与待训练模型的模型处理结果之间不存在依赖关系。

14、进一步地，对依赖关系表示工艺状态依赖待训练模型的模型处理结果的工艺状态进行验证，包括：

15、获取独立数据以及训练样本和独立数据对应的样本标识、生产批次、设备标识、物料标识、采集位置或采集时间；

16、根据样本标识、生产批次、设备标识、物料标识、采集位置或采集时间，确定独立数据与训练样本之间的关联关系；

17、根据与训练样本存在关联关系的独立数据对对应工艺状态进行验证。

18、进一步地，根据与训练样本存在关联关系的独立数据对对应工艺状态进行验证，包括：

19、获取用于验证对应工艺状态的工艺状态验证条件；

20、当独立数据满足工艺状态验证条件时，得到表示支持对应工艺状态的验证结果；

21、当独立数据不满足工艺状态验证条件时，得到表示未支持对应工艺状态的验证结果。

22、进一步地，工艺状态验证条件根据设定的工艺规程中的状态判定标准、实际生产试验结果或者历史样本及历史样本对应的独立数据确定；

23、当根据历史样本及历史样本对应的独立数据确定工艺状态验证条件时，历史样本对应的工艺状态经人工检测、实验室检测或者独立检测设备确认。

24、进一步地，工艺知识适用条件包括多个分别对应工艺状态的条件项，工艺知识还包括多个条件项之间的逻辑关系；

25、根据工艺状态分别判断多个条件项是否成立，并根据多个条件项之间的逻辑关系，从判断为成立的条件项中确定能够使工艺知识适用条件成立的一个或多个条件组合。

26、进一步地，还包括：

27、独立数据支持结果包括支持和未支持；

28、分别确定各条件组合中各条件项的条件确认结果；

29、当条件项对应的工艺状态由不依赖待训练模型的模型处理结果的数据直接确定，且根据对应工艺状态确定条件项成立时，将条件确认结果确定为直接确认；

30、当条件项对应工艺状态依赖待训练模型的模型处理结果且独立数据支持结果为支持时，将条件确认结果确定为支持确认；

31、当条件项对应工艺状态依赖待训练模型的模型处理结果且独立数据支持结果为未支持时，将条件确认结果确定为未确认。

32、进一步地，确定与训练样本匹配的工艺知识是否用于约束待训练模型的训练，包括：

33、当存在一个条件组合，且条件组合中的全部条件项的条件确认结果均为直接确认时，确定工艺知识用于约束待训练模型的训练，并根据工艺约束关系对待训练模型施加知识训练约束。

34、进一步地，确定与训练样本匹配的工艺知识是否用于约束待训练模型的训练，包括：

35、当不存在全部条件项的条件确认结果均为直接确认的条件组合，但存在不包括未确认的条件项且包括支持确认的条件项的条件组合时，确定工艺知识用于约束待训练模型的训练，并采用受限知识训练约束。

36、进一步地，确定与训练样本匹配的工艺知识是否用于约束待训练模型的训练，包括：

37、当各条件组合均包括条件确认结果为未确认的条件项时，确定工艺知识不用于约束待训练模型的训练。

38、进一步地，工艺约束关系包括模型预测结果的目标值或允许范围，以及设定的目标工艺参数与模型预测结果之间的变化方向关系，其中，变化方向关系用于表征目标工艺参数增大或减小时模型预测结果的变化方向；

39、受限知识训练约束不根据目标值或允许范围施加约束，并根据变化方向关系对待训练模型施加知识训练约束。

40、进一步地，工艺约束关系包括模型预测结果的允许范围；

41、受限知识训练约束采用扩大后的允许范围对待训练模型施加知识训练约束，其中，扩大后的允许范围包含工艺约束关系中的允许范围。

42、进一步地，工艺约束关系包括多个分别对应工艺状态的约束项目；

43、受限知识训练约束包括从多个约束项目中保留对应工艺状态的条件确认结果为支持确认的约束项目，并根据保留的约束项目对待训练模型施加知识训练约束。

44、进一步地，根据变化方向关系对待训练模型施加知识训练约束，包括：

45、获取目标工艺参数对应的工艺知识适用范围、设备允许调节范围和实际生产允许范围，并根据工艺知识适用范围、设备允许调节范围和实际生产允许范围确定目标工艺参数的变化范围；

46、在变化范围内改变训练样本中的目标工艺参数，得到变化训练样本；

47、分别利用待训练模型处理训练样本和变化训练样本，得到原始预测结果和变化预测结果，并根据原始预测结果和变化预测结果是否满足变化方向关系确定知识训练约束。

48、进一步地，根据变化方向关系对待训练模型施加知识训练约束，包括：

49、获取多个训练样本以及用于比较多个训练样本对应工艺状态的预设相近条件；

50、从多个训练样本中确定工艺状态之间满足预设相近条件且目标工艺参数不同的两个训练样本；

51、分别利用待训练模型处理两个训练样本，得到两个模型预测结果，并根据两个模型预测结果是否满足变化方向关系确定知识训练约束。

52、进一步地，还包括：

53、记录未用于约束待训练模型训练的工艺知识以及对应的训练样本和工艺状态；

54、获取与训练样本关联的新增独立数据，并根据新增独立数据对工艺状态重新进行验证，得到更新验证结果；

55、根据更新验证结果更新工艺状态的独立数据支持结果，并根据更新后的独立数据支持结果重新确定工艺知识是否用于约束待训练模型的后续训练。

56、进一步地，当训练样本与多个工艺知识匹配时，还包括：

57、判断多个工艺知识对应的工艺约束关系是否能够同时成立；

58、当多个工艺知识对应的工艺约束关系能够同时成立时，将多个工艺知识对应的知识训练约束共同用于约束待训练模型的训练；

59、当多个工艺知识对应的工艺约束关系不能同时成立时，不将多个工艺知识对应的知识训练约束共同用于约束待训练模型的训练。

60、第二方面，本技术提供一种模型的工艺知识增强系统，包括：

61、知识获取模块，用于获取训练样本和用于辅助待训练模型训练的工艺知识，其中，工艺知识包括工艺知识适用条件和满足工艺知识适用条件时成立的工艺约束关系；

62、工艺状态确定模块，用于根据训练样本确定对应的工艺状态，并根据工艺状态和工艺知识适用条件确定与训练样本匹配的工艺知识；

63、依赖关系确定模块，用于确定用于判断工艺知识适用条件的工艺状态与待训练模型的模型处理结果之间的依赖关系；

64、工艺状态验证模块，用于对依赖关系表示工艺状态依赖待训练模型的模型处理结果的工艺状态进行验证，得到验证结果，并根据验证结果确定对应工艺状态的独立数据支持结果；

65、知识约束确定模块，用于根据依赖关系以及依赖待训练模型的模型处理结果的工艺状态对应的独立数据支持结果，确定与训练样本匹配的工艺知识是否用于约束待训练模型的训练；

66、模型训练模块，用于利用训练样本对待训练模型进行训练，并在工艺知识用于约束待训练模型的训练时，根据工艺约束关系对待训练模型施加知识训练约束。

67、与现有技术相比，本技术所达到的有益效果：

68、本技术在人工智能、机器学习或神经网络的工艺知识增强模型训练过程中，在根据训练样本确定工艺状态并匹配工艺知识后，进一步确定用于判断工艺知识适用条件的工艺状态与待训练模型的模型处理结果之间的依赖关系，并对依赖待训练模型的模型处理结果的工艺状态进行独立验证，再结合依赖关系和独立数据支持结果确定工艺知识是否进入模型训练约束，由此能够避免仅依据待训练模型自身输出或中间处理结果形成的工艺状态直接触发对应工艺知识，使知识训练约束建立在具有相对独立验证依据的工艺状态基础上，降低错误工艺知识约束在知识增强学习过程中反向强化模型预测偏差的风险，提高模型训练过程及工艺知识增强结果的可靠性。