一种基于分层自知识蒸馏的精神分裂症识别模型的制作方法

本发明涉及人工智能辅助医疗，具体涉及一种基于分层自知识蒸馏的精神分裂症识别模型。

背景技术：

1、精神分裂症是一种严重的精神障碍疾病，患者在自由视图范式下通常表现出平均注视时长延长、注视和眼跳次数减少、对图像关键区域探索不足以及视觉注意切换异常等眼动特征。眼动追踪技术具有非侵入、可量化和便于计算机处理的特点，可为精神分裂症的客观辅助筛查提供数据基础。目前，临床上的精神分裂症识别主要依赖医生访谈、病史采集和量表评估等方式，这些方法评估时间较长，并不可避免地受患者配合程度和医生主观经验的影响。

2、现有被试者级眼动识别方法为了减轻单幅视觉刺激的偶然性以及精神分裂症群体组内差异带来的影响，通常需要整合同一被试者观看大量视觉刺激时形成的扫描路径。相关方法往往使用80个以上甚至数百个视觉刺激，以100个视觉刺激、每个呈现5秒为例，仅刺激呈现时间即超过500秒。长时间观看容易造成视觉疲劳和注意力下降，不仅降低被试者配合度，还会影响后续眼动数据的质量，从而限制其在门诊快速筛查和社区普查中的应用。

3、现有知识蒸馏方法通常将复杂教师模型的输出概率或单层特征迁移至轻量学生模型，或者仅约束同一样本在不同网络结构、不同数据增强条件下的预测一致性。在少量视觉刺激识别任务中，单层蒸馏难以同时恢复全量视觉刺激所表征的被试个体分布和类别中心关系，简单平均或拼接多条扫描路径也难以根据不同视觉刺激之间的相关性选择更有效的信息。因此，少量视觉刺激学生模型通常会出现识别性能明显下降的问题。

技术实现思路

1、本发明针对现有技术中精神分裂症眼动识别存在的数据采集时间长、被试者易产生视觉疲劳和注意力下降、识别模型难以在少量视觉刺激下保持稳定性等技术问题，提供了一种基于分层自知识蒸馏的精神分裂症识别模型。

2、为了解决上述技术问题，本发明提供了一种基于分层自知识蒸馏的精神分裂症识别模型，包括教师分支、学生分支、被试者层面蒸馏模块和类别层面蒸馏模块；

3、所述教师分支包括依次连接的教师输入、教师输入特征向量层、教师自注意力模块、教师特征聚合模块和教师分类头，用于接收训练被试者观看全量视觉刺激集合时形成的扫描路径，输出教师被试者级特征和类别概率分布；

4、所述学生分支包括依次连接的学生输入、学生输入特征向量层、学生自注意力模块、学生特征聚合模块和特征优化与分类模块，用于接收训练被试者观看少量高判别力视觉刺激时形成的扫描路径，输出学生被试者级特征和类别概率预测；

5、所述被试者层面蒸馏模块设置在所述教师特征聚合模块与所述学生特征聚合模块之间，用于将教师被试者级特征作为模拟目标约束学生网络学习；

6、所述类别层面蒸馏模块设置在所述教师分类头与所述特征优化与分类模块之间，用于以同类别教师特征作为吸引目标、不同类别教师特征作为排斥目标约束学生网络。

7、可选地，所述教师输入用于接收包含100个视觉刺激的教师视觉刺激集合对应的扫描路径。

8、可选地，所述学生输入用于接收经费希尔分数排序后选取的前10个高判别力视觉刺激对应的扫描路径。

9、可选地，所述教师输入特征向量层和所述学生输入特征向量层均用于对扫描路径中的每个注视点提取次序、横坐标、纵坐标、注视时长和语义信息，通过归一化处理、量化方法、可学习基底向量相乘的方式进行特征映射，最后通过拼接操作将不同属性映射至统一维度的特征空间。

10、可选地，所述教师自注意力模块和所述学生自注意力模块均用于通过计算查询矩阵、键矩阵和值矩阵，建立不同视觉刺激间的依赖关系，所述教师自注意力模块和所述学生自注意力模块均设置残差连接。

11、可选地，所述教师特征聚合模块用于构建余弦相似性矩阵，计算各视觉刺激特征的重要性权重，经逐元素加权求平均、批归一化层、全连接层和relu激活层，输出教师被试者级特征。

12、可选地，所述被试者层面蒸馏模块采用均方误差损失函数计算教师被试者级特征与学生被试者级特征之间的距离，并最小化该距离。

13、可选地，所述类别层面蒸馏模块用于提取教师网络学习到的类别中心特征，采用对比学习思想，使同类别学生特征向对应类别中心靠近，不同类别学生特征向对应类别中心远离。

14、可选地，所述特征优化与分类模块包括特征优化子模块和学生分类头；所述特征优化子模块由批归一化层、全连接层和relu激活层构成，其输出与输入学生特征通过残差连接相加，得到优化后的学生被试者级特征；所述学生分类头用于输出类别概率预测。

15、可选地，在模型部署阶段，仅保留学生分支，被试者层面蒸馏模块和类别层面蒸馏模块不参与推理计算。

16、本发明具有以下有益效果：

17、第一，显著降低数据采集时间和成本。学生网络仅使用按判别力筛选的10个视觉刺激，而教师网络使用100个视觉刺激，刺激数量及对应采集时间可减少约90%。被试者无需长时间观看大量图像，更容易保持注意力和配合度，并可减少视觉疲劳导致的扫描路径漂移、注视缺失和数据质量下降。

18、第二，保持稳定的识别性能。通过被试者层面蒸馏模块和类别层面蒸馏模块的两级知识迁移，分别补偿个体分布信息缺失和类别判别关系缺失，使少量刺激学生网络能够学习全量视觉刺激教师网络所包含的被试个体信息与类别判别关系。实验表明，在ems数据集上，引入分层自知识蒸馏后，验证集准确率从0.7688提高至0.8125，相对提升5.68%；测试集准确率从0.7083提高至0.7708，相对提升8.82%。

19、第三，高效的筛查效率。与使用100个视觉刺激的对照模型相比，本发明在仅使用10个视觉刺激时，测试集准确率的相对差距约为5.13%，但视觉刺激数量和采集时间降低约90%，能够以较小的识别性能差距换取显著的筛查效率提升，更适合门诊辅助筛查、社区普查以及需要快速完成眼动采集的应用场景。

20、第四，模型轻量化。训练阶段使用完整教师分支提供知识，部署阶段仅保留学生分支，不引入额外采集步骤和在线计算负担，实现了模型的高效部署。

21、综上所述，本发明通过分层自知识蒸馏框架，在显著缩短眼动数据采集时间的同时，保持了稳定的精神分裂症识别性能，为精神分裂症的客观辅助筛查提供了一种高效、实用的技术方案。

1.一种基于分层自知识蒸馏的精神分裂症识别模型，其特征在于，包括教师分支、学生分支、被试者层面蒸馏模块和类别层面蒸馏模块；

2.如权利要求1所述的精神分裂症识别模型，其特征在于，所述教师输入用于接收包含100个视觉刺激的教师视觉刺激集合对应的扫描路径。

3.如权利要求1所述的精神分裂症识别模型，其特征在于，所述学生输入用于接收经费希尔分数排序后选取的前10个高判别力视觉刺激对应的扫描路径。

4.如权利要求1所述的精神分裂症识别模型，其特征在于，所述教师输入特征向量层和所述学生输入特征向量层均用于对扫描路径中的每个注视点提取次序、横坐标、纵坐标、注视时长和语义信息，通过归一化处理、量化方法、可学习基底向量相乘的方式进行特征映射，最后通过拼接操作将不同属性映射至统一维度的特征空间。

5.如权利要求1所述的精神分裂症识别模型，其特征在于，所述教师自注意力模块和所述学生自注意力模块均用于通过计算查询矩阵、键矩阵和值矩阵，建立不同视觉刺激间的依赖关系，所述教师自注意力模块和所述学生自注意力模块均设置残差连接。

6.如权利要求1所述的精神分裂症识别模型，其特征在于，所述教师特征聚合模块用于构建余弦相似性矩阵，计算各视觉刺激特征的重要性权重，经逐元素加权求平均、批归一化层、全连接层和relu激活层，输出教师被试者级特征。

7.如权利要求1所述的精神分裂症识别模型，其特征在于，所述被试者层面蒸馏模块采用均方误差损失函数计算教师被试者级特征与学生被试者级特征之间的距离，并最小化该距离。

8.如权利要求1所述的精神分裂症识别模型，其特征在于，所述类别层面蒸馏模块用于提取教师网络学习到的类别中心特征，采用对比学习思想，使同类别学生特征向对应类别中心靠近，不同类别学生特征向对应类别中心远离。

9.如权利要求1所述的精神分裂症识别模型，其特征在于，所述特征优化与分类模块包括特征优化子模块和学生分类头；所述特征优化子模块由批归一化层、全连接层和relu激活层构成，其输出与输入学生特征通过残差连接相加，得到优化后的学生被试者级特征；所述学生分类头用于输出类别概率预测。

10.如权利要求1至9中任一项所述的精神分裂症识别模型，其特征在于，在模型部署阶段，仅保留学生分支，被试者层面蒸馏模块和类别层面蒸馏模块不参与推理计算。