面向群体偏移感知的公平性学习诊断方法

本技术涉及教育数据挖掘与学习诊断，具体涉及一种面向群体偏移感知的公平性学习诊断方法。

背景技术：

1、随着在线学习平台、国际大规模教育测评以及智能教学系统的发展，学习诊断模型已逐渐成为学生知识掌握状态分析、自适应学习路径推荐、个性化教学干预以及整体教育质量监测的核心技术基础。学习诊断模型通常基于学生与题目的交互作答数据，结合题目与知识点之间的预设映射关系，预测学生对特定题目的作答正确概率，进而推断其在知识点维度上的精细掌握状态。现有的学习诊断模型大多以优化整体预测性能作为主要目标，例如最小化所有测试样本上的二元交叉熵损失或均方根误差。此类模型虽然能够在总体样本上取得较为理想的预测效果，但在面向跨国、跨文化的教育测评场景中，往往暴露出显著的公平性问题。具体而言，不同群体在教育资源配置、课程进度安排、语言文化背景、样本规模以及题目暴露度与知识点覆盖度方面存在天然的、结构性的显著差异。若模型训练过程仅仅致力于最小化全局误差，则极易导致大样本、高正确率、或正例率较高的群体主导模型参数更新方向，而对小样本、低正确率、或局部知识点覆盖不足的群体形成系统性低估。

2、群体偏移不仅表现为整体正确率的宏观差异，更体现为细粒度的、局部的监督信号不均衡。例如，某些特定群体在某个特定知识点区间内缺少足够的、高质量的正例作答样本，导致模型无法有效学习该群体中真实掌握该知识点学生的作答模式，从而将实际已掌握的学生错误地预测为未掌握状态。这种局部层面的预测偏差在教育测评应用中会直接导致学习资源推荐的精准性下降、学生能力评价的公正性受损以及教学干预措施的有效性不足。目前，针对学习诊断模型公平性的改进技术主要分为三类：

3、(1)数据层面的重采样或重加权方法，例如通过过采样、欠采样或调整样本权重来增加不同群体的代表性；

4、(2)输出后处理方法，例如针对不同群体的预测结果进行独立的阈值调整；

5、(3)模型训练过程中的公平性正则约束方法，例如在损失函数中直接引入公平性惩罚项。虽然上述方法在一定程度上能够缓解群体间的总体预测偏差，但它们各自存在固有的技术缺陷。

6、具体而言，常规的重采样方法通常仅改变整体的样本比例，无法准确补足特定群体在特定知识点上的局部“缺口单元”；常规的损失加权方法虽然可以提高第一群体样本的重要性，但可能改变整体的损失尺度分布，进而影响模型训练的稳定性和收敛性；输出后处理方法只能在预测阶段进行阈值调整，无法从训练层面补足第一群体表示学习所需的监督信号；而单独使用公平性正则约束同样难以解决“群体-知识点”耦合层面上的局部覆盖不足问题。

技术实现思路

1、本技术的主要目的在于提供了一种面向群体偏移感知的公平性学习诊断方法，包括以下步骤：

2、步骤s1：获取学生-题目作答交互数据、题目知识点映射信息和群体信息，对数据字段进行标准化处理，构建题目-知识点关联矩阵，并划分为训练集、验证集和测试集；

3、步骤s2：基于所述训练集统计各群体的平均作答正确率，根据所述平均作答正确率将群体划分为第一群体、第二群体和第三群体，生成群体角色映射；

4、步骤s3：在原始训练集上训练参考学习诊断模型，所述参考学习诊断模型用于对未观测学生-题目候选交互输出作答正确概率；

5、步骤s4：基于群体-知识点覆盖计数识别覆盖不足的缺口单元，针对所述缺口单元构造所述未观测学生-题目候选交互，并利用所述参考学习诊断模型对所述未观测学生-题目候选交互进行高置信度伪标注，生成伪标注增强样本集合；

6、步骤s5：将所述原始训练集与所述伪标注增强样本集合合并，形成增强训练集；在所述增强训练集上统一计算公平增强权重，所述公平增强权重至少包括基于群体角色与作答标签确定的角色权重以及基于样本来源确定的来源权重，并基于所述公平增强权重训练目标学习诊断模型，使增强样本与原始样本处于同一权重归一化空间；

7、步骤s6：在所述验证集上对所述目标学习诊断模型的输出概率进行概率校准，并搜索兼顾整体准确率与公平性指标的最优判别阈值；

8、步骤s7：通过所述目标学习诊断模型，输出学生作答预测概率、知识掌握结果、群体角色映射、增强样本记录以及包含机会均等差异、弱势低估差异和第一群体识别率的公平性评估结果。

9、在一实施例中，所述获取学生-题目作答交互数据、题目知识点映射信息和群体信息，对数据字段进行标准化处理，构建题目-知识点关联矩阵，并划分为训练集、验证集和测试集的步骤，包括：

10、获取包含学生标识、题目标识、原始作答得分、题目关联知识点集合以及学生所属群体的多源数据，剔除缺失群体信息或关键作答字段的样本，并删除重复记录，形成原始交互数据集；

11、将所述原始作答得分按照预设阈值转化为二值标签；对包括学生标识、题目标识、知识点标识和群体标识进行全局连续重索引，并基于题目-知识点映射关系，构建题目-知识点关联矩阵；

12、将经过标准化处理后的所述原始交互数据集按照预设比例随机划分为训练集、验证集和测试集，并确保所述训练集、验证集和测试集均包含完整的样本字段信息。

13、在一实施例中，所述s1中，每条训练样本表示为，其中表示学生，表示题目，表示二值作答结果，表示题目的知识点关联向量，表示学生所属群体。

14、在一实施例中，所述基于所述训练集统计各群体的平均作答正确率，根据所述平均作答正确率将群体划分为第一群体、第二群体和第三群体，生成群体角色映射的步骤，包括：

15、针对所述训练集中的每一个群体，统计该群体内的所有作答交互样本总数以及其中正例样本的数量，计算所述群体的平均作答正确率；

16、将所有群体按照平均作答正确率由低到高进行排序，并采用三分位法进行划分，将处于最低三分之一区间的群体标记为第一群体，处于中间三分之一区间的群体标记为第二群体，处于最高三分之一区间的群体标记为第三群体；

17、基于上述划分结果，生成一个从群体标识到对应角色类别的映射函数ρ(g)，其中ρ(g)∈{disadv,gene,adv}，分别对应第一群体、第二群体和第三群体。

18、在一实施例中，所述在原始训练集上训练参考学习诊断模型，所述参考学习诊断模型用于对未观测学生-题目候选交互输出作答正确概率的步骤，包括：

19、选取基础学习诊断模型作为参考模型的网络架构，并初始化其模型参数；所述基础学习诊断模型用于计算未观测学生-题目交互的作答正确概率；

20、在所述原始训练集上，采用标准的二元交叉熵损失函数对所述参考学习诊断模型进行训练；

21、训练完成后，所述参考学习诊断模型能够接收任意学生-题目对作为输入，并输出该学生对该题目作答正确的预测概率。

22、在一实施例中，所述基于群体-知识点覆盖计数识别覆盖不足的缺口单元，针对所述缺口单元构造所述未观测学生-题目候选交互，并利用所述参考学习诊断模型对所述未观测学生-题目候选交互进行高置信度伪标注，生成伪标注增强样本集合的步骤，包括：

23、计算所述训练集中每个群体g与每个知识点k之间的交互覆盖计数c(g,k)，所述覆盖计数表示该群体中学生与该知识点相关题目的交互总次数；根据预设的最小覆盖下界与覆盖计数分位数阈值确定覆盖阈值tgap；当c(g,k)

24、针对每一个所述缺口单元c=(g,k)，从属于群体g的学生集合和考查知识点k的题目集合中，选取所有未出现在原始训练集观测交互中的学生-题目对，构造未观测候选交互集合xc；

25、利用所述参考学习诊断模型对候选交互集合xc中的学生-题目对(u,i)输出作答正确概率；设定置信阈值η，仅当max(,1-)≥η时保留该候选交互，并根据预设判定阈值τ0生成对应的伪标签yui；

26、将经过高置信度筛选并赋予伪标签的候选交互作为伪标注增强样本，形成所述伪标注增强样本集合dpseudo；其中，对每一个缺口单元保留的伪标注样本数量设置上限s。

27、在一实施例中，所述将所述原始训练集与所述伪标注增强样本集合合并，形成增强训练集；在所述增强训练集上统一计算公平增强权重，所述公平增强权重至少包括基于群体角色与作答标签确定的角色权重以及基于样本来源确定的来源权重，并基于所述公平增强权重训练目标学习诊断模型，使增强样本与原始样本处于同一权重归一化空间的步骤，包括：

28、将所述原始训练集与所述伪标注增强样本集合合并，形成增强训练集，并为增强训练集中的每一个样本标注来源标识，所述来源标识用于区分该样本来源于原始训练集还是来源于伪标注增强样本集合；

29、针对增强训练集中的每一个样本，分别计算其角色权重和来源权重；将所述角色权重与所述来源权重相乘，得到该样本的最终公平增强权重；

30、对增强训练集中所有样本的最终公平增强权重进行全局归一化，得到归一化采样概率；基于所述归一化采样概率，采用加权随机采样或加权损失优化方式训练目标学习诊断模型，使原始样本与增强样本在同一权重归一化空间内共同参与模型参数更新。

31、在一实施例中，所述s5中的增强训练集，其中为原始训练集，为伪标注增强样本集合；验证集和测试集保持原始划分不变；

32、所述角色权重根据该样本所属群体角色及其作答标签确定，其中，属于第一群体且作答标签为正例的样本赋予大于1的增强系数，属于第三群体且作答标签为负例的样本赋予小于1的抑制系数，其余样本的角色权重设为1；

33、所述来源权重根据该样本的来源标识确定，其中，来源于伪标注增强样本集合的样本赋予小于等于1的可信系数，来源于原始训练集的样本的源权重设为1。

34、在一实施例中，所述在所述验证集上对所述目标学习诊断模型的输出概率进行概率校准，并搜索兼顾整体准确率与公平性指标的最优判别阈值的步骤，包括：

35、在所述验证集上，采用platt缩放拟合一个概率校准映射函数；利用验证集上的真实标签与目标学习诊断模型的原始输出概率，将原始概率映射为校准概率，以消除输出概率在不同群体间的系统性偏差；

36、定义一个兼顾整体预测性能与群体公平性的综合评估目标函数，该函数由整体准确率、机会均等差异和弱势低估差异三项组成；

37、在预设的候选阈值集合内，针对每一个候选阈值，使用校准后的概率计算上述综合评估目标函数值；选择使综合评估目标函数值最大的候选阈值作为最优判别阈值，所述最优判别阈值用于对学生作答结果的最终分类判定。

38、在一实施例中，所述通过所述目标学习诊断模型，输出学生作答预测概率、知识掌握结果、群体角色映射、增强样本记录以及包含机会均等差异、弱势低估差异和第一群体识别率的公平性评估结果的步骤，包括：

39、将测试集中的学生-题目对输入所述目标学习诊断模型，输出学生对该题目的作答正确预测概率，并基于所述最优判别阈值将预测概率转化为二值预测结果，进而推断学生在各知识点维度上的掌握状态，形成知识掌握结果；

40、输出预先确定的所述群体角色映射函数，以及步骤s4中生成的伪标注增强样本集合的记录，所述记录至少包含增强样本所属群体、关联知识点、缺口单元标识、参考模型置信度和伪标签信息；

41、基于测试集上的预测结果与真实标签，分别计算各群体的真正例率和假负例率；根据所述假负例率计算弱势低估差异，用于度量第一群体相对于第三群体的漏判差异；根据第一群体的精确率和召回率计算第一群体识别率，用于表征模型对第一群体的整体识别质量；将上述三项公平性评估指标与核心诊断结果一并输出。

42、由此可见，本技术具有如下有益效果：

43、第一，本技术通过构建参考模型伪标注-目标模型公平训练的双模型协同架构，解决了现有技术中直接使用同一模型既生成伪标签又执行公平训练所导致的伪标签继承加权分布偏移的问题。参考模型在原始未加权分布上独立训练，保证了伪标注来源的纯净性和分布稳定性，避免了公平增强权重对增强样本的污染，使目标模型能够从更加可靠的伪标注样本中学习。

44、第二，本技术构建了联合公平增强框架。一方面，通过公平增强权重在全局层面调节不同群体与正负标签组合的训练重要性，缓解群体间的系统性预测偏差；另一方面，通过识别并补足“群体-知识点”细粒度上的局部监督信号缺口，解决了传统全局重加权无法覆盖局部稀疏区域的固有问题。两者协同互补，实现了从宏观到微观的全面公平性增强。

45、第三，本技术采用“先合并后加权”的统一训练集一致性处理流程。将伪标注增强样本与原始训练集合并为统一增强训练集后，再在该集合上计算归一化权重，确保了真实样本与伪标注样本处于同一权重归一化空间内，避免了权重空间分裂导致的相对重要性失真和训练目标不一致，提升了模型的稳定性和收敛性。

46、第四，本技术具有良好的模型兼容性和可解释性。公平性增强框架与基础模型结构完全解耦，可作为插件式组件与任意基础学习诊断模型组合使用。同时，系统能够输出多维度的公平性指标及完整的增强样本追溯记录，使模型的训练过程和决策依据透明化、可审计，为教育公平监测和算法治理提供了可靠的数据支撑。