健康管理模型的训练方法、装置、电子设备及存储介质与流程

本申请属于健康管理，具体涉及一种健康管理模型的训练方法、装置、电子设备及存储介质。

背景技术：

1、随着大模型在健康管理这类高要求垂直场景的落地需求不断提升，对健康管理模型的稳定性、业务一致性和泛化能力的要求也逐渐提高。

2、相关技术中，在健康管理模型的常规sft训练模式下，仅聚焦标准答案本身的表层内容，不会覆盖其他候选表达的合理性、安全性判断逻辑，同时，若利用传统蒸馏方案进行模型训练，也往往将教师模型的输出作为硬标签，对学生模型进行训练。但由于缺少对模型推理过程的偏差纠正，都会导致学生模型无法真正学习到医养场景下的深层推理逻辑，进而训练后的模型输出结果依然存在质量差、准确度不足等问题。

技术实现思路

1、为克服相关技术中存在的问题，本发明提供了一种健康管理模型的训练方法、装置、电子设备及存储介质。

2、第一方面，本申请实施例提供了一种健康管理模型的训练方法，该方法包括：

3、将健康样本数据以及预设教师网络输出的所述健康样本数据对应的标准健康推理序列作为健康管理学生网络的输入，并获取所述健康管理学生网络对应的第一损失；

4、获取所述健康管理学生网络基于所述健康样本数据以及预设答案标签得到的第一概率分布，以及，获取所述预设教师网络基于所述健康样本数据以及所述预设答案标签得到的第二概率分布；所述预设答案标签是基于预设模式选择规则动态选择的学生自采样序列、教师生成序列或人工标注标准答案序列；

5、基于所述第一概率分布以及所述第二概率分布，计算第二损失；

6、基于所述第一损失以及所述第二损失，对所述健康管理学生网络的参数进行迭代更新，以生成健康管理模型。

7、第二方面，本申请实施例提供了一种健康管理模型的训练装置，所述装置包括：

8、第一获取模块，用于将健康样本数据以及预设教师网络输出的所述健康样本数据对应的标准健康推理序列作为健康管理学生网络的输入，并获取所述健康管理学生网络对应的第一损失；

9、第二获取模块，用于获取所述健康管理学生网络基于所述健康样本数据以及预设答案标签得到的第一概率分布，以及，获取所述预设教师网络基于所述健康样本数据以及所述预设答案标签得到的第二概率分布；所述预设答案标签是基于预设模式选择规则动态选择的学生自采样序列、教师生成序列或人工标注标准答案序列；

10、第一计算模块，用于基于所述第一概率分布以及所述第二概率分布，计算第二损失；

11、第一生成模块，用于基于所述第一损失以及所述第二损失，对所述健康管理学生网络的参数进行迭代更新，以生成健康管理模型。

12、第三方面，本申请实施例提供了一种电子设备，该电子设备包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现如第一方面所述的方法的步骤。

13、第四方面，本申请实施例提供了一种可读存储介质，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现如第一方面所述的方法的步骤。

14、第五方面，本申请实施例提供了一种芯片，所述芯片包括处理器和通信接口，所述通信接口和所述处理器耦合，所述处理器用于运行程序或指令，实现如第一方面所述的方法。

15、在本申请实施例中，通过第一损失直接对齐预设教师网络输出的标准健康推理序列，让健康管理学生网络在训练初期就学习健康管理场景下的全链路推理流程，而非仅记忆最终答案的表层文本，建立医养专属的结构化推理习惯。同时，依托动态标签调度所确定的预设答案标签，能够在模型训练过程中同时动态兼顾人工标注的正确性、教师模型的暗知识与学生自生成的分布特性，避免单一监督信号的信息缺失，为后续蒸馏提供更全面的监督基础。再通过计算第二损失，让学生网络在自身生成的分布空间内拟合教师网络的全词表相对概率，纠正自回归推理过程中的潜在偏差，而非仅学习独热硬标签，最终通过迭代更新模型参数，兼顾基础推理能力收敛与深层知识对齐，让学生网络真正掌握医养场景的专家级推理逻辑，提升了训练后模型输出的医学正确性与方案合规性，进而提高方案输出质量与准确度。

1.一种健康管理模型的训练方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述将健康样本数据以及预设教师网络输出的所述健康样本数据对应的标准健康推理序列作为健康管理学生网络的输入，并获取所述健康管理学生网络对应的第一损失，包括：

3.根据权利要求2所述的方法，其特征在于，所述获取所述健康管理学生网络针对所述训练序列中各分词输出的预测概率分布，包括：

4.根据权利要求3所述的方法，其特征在于，所述基于各分词对应的预测概率分布与所述标准健康推理序列中对应位置的分词标签，计算得到所述第一损失，包括：

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：

6.根据权利要求1所述的方法，其特征在于，所述基于所述第一概率分布以及所述第二概率分布，计算第二损失，包括：

7.根据权利要求1所述的方法，其特征在于，所述预设教师网络与所述健康管理学生网络为同一模型中的不同分支；所述方法还包括：

8.根据权利要求1所述的方法，其特征在于，所述健康管理学生网络包括至少两个专家子网络，所述至少两个专家子网络部署在并行运行的不同设备中；所述方法还包括：

9.根据权利要求1所述的方法，其特征在于，在所述基于所述第一损失以及所述第二损失，对所述健康管理学生网络的参数进行迭代更新之后，所述方法还包括：

10.一种健康管理模型的训练装置，其特征在于，所述装置包括：

11.一种电子设备，其特征在于，包括处理器，存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现如权利要求1-9任一所述的健康管理模型的训练方法的步骤。

12.一种可读存储介质，其特征在于，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现如权利要求1-9任一所述的健康管理模型的训练方法的步骤。