一种基于深度学习的数学试题知识点自动标注方法及系统与流程

本发明涉及知识点标注，特别涉及一种基于深度学习的数学试题知识点自动标注方法及系统。

背景技术：

1、知识点标注是构建智能题库、实现个性化学习推荐与自动组卷的核心基础。作为k12教育核心学科，数学知识点体系呈、网络化特征，单道试题常涉及多知识点综合运用，精准标注是教师开展学情分析、学生查漏补缺的必要前提。

2、随着在线教育平台快速发展，k12数学题库规模已达数十万至上百万道量级。传统人工标注方式效率低、成本高，且标注标准一致性难以保障，无法满足大规模题库建设与维护的需求。同时，数学试题包含大量公式、符号与图形，此类承载关键知识点的元素难以被常规自然语言处理方法直接解析，使得数学试题知识点自动标注成为教育智能化领域亟待突破的课题。

3、现有自动标注方案主要分为两类：一类是基于规则匹配的方法，通过关键词词典、正则表达式识别公式模式，辅以tf-idf加权映射知识点，但规则覆盖范围有限，泛化能力不足；另一类是基于传统机器学习的方法，将任务转化为多标签文本分类，依托tf-idf、word2vec等提取文本特征并通过分类器标注，但对数学公式与符号的语义表征能力较弱，整体标注精度难以满足实际教学需求。

技术实现思路

1、基于此，本发明的目的是提供一种基于深度学习的数学试题知识点自动标注方法及系统，以解决现有技术的规则覆盖范围有限，泛化能力不足，同时对数学公式与符号的语义表征能力较弱，导致整体标注精度难以满足实际教学需求的问题。

2、本发明实施例第一方面提出了：

3、一种基于深度学习的数学试题知识点自动标注方法，其中，所述方法包括：

4、对数学试题原始数据进行预处理，识别并分割试题的多类语义区域并标注语义角色标签，以检测出试题中的数学公式的位置索引，同时构建知识点知识图谱，得到结构化试题数据；

5、对所述结构化试题数据进行解析生成抽象语法树，基于树形编码器进行结构编码得到公式结构编码向量，结合公式语义映射表生成语义增强向量并完成融合，生成试题token序列表示；

6、按语义区域对所述试题token序列表示进行独立编码与区域聚合，生成全局试题语义表示，以分类得到初步知识点预测结果，结合所述知识点知识图谱进行推理与约束优化，生成知识点预测标签集合；

7、基于所述知识点预测标签集合进行注意力归因与置信度分级，提取对应标注依据片段，生成知识点标注结果。

8、本发明的有益效果是：本方案通过对基础教育阶段数学试题原始数据进行预处理，识别分割多类语义区域并标注语义角色标签，在保留公式原文位置索引的前提下分离数学公式与普通文本，同步构建知识点知识图谱得到结构化试题数据，突破了传统规则方法覆盖范围有限的局限；通过解析数学公式生成抽象语法树，经树形结构编码与语义映射增强融合生成试题token序列表示，有效强化了数学公式与符号的语义表征能力，弥补了传统方案语义表征薄弱的缺陷；结合语义区域独立编码聚合与门控自适应融合生成全局试题语义表示，辅以递进式多标签分类与知识图谱图卷积推理优化，显著提升了模型泛化能力与知识点预测精度；最终通过注意力归因与置信度分级提取标注依据片段，输出可解释的知识点标注结果，可充分满足实际教学场景下的试题高精度标注需求。

9、进一步的，所述对所述结构化试题数据进行解析生成抽象语法树，基于树形编码器进行结构编码得到公式结构编码向量，结合公式语义映射表生成语义增强向量并完成融合的步骤包括：

10、采用预设公式解析器将试题中的latex格式公式文本解析为抽象语法树，将分式、根式、上下标、求和积分、矩阵类数学结构组织为具备父子关系与兄弟关系的树形结构；

11、基于所述抽象语法树，采用预设树形编码器沿语法树的父子边与兄弟边进行信息传递，对公式的结构层次进行编码，输出每个公式对应的固定维度的公式结构编码向量；

12、构建数学公式模式与数学语义的映射表，通过可学习嵌入层将公式对应的语义标签映射为语义增强向量，将所述公式结构编码向量与所述语义增强向量进行加性融合或门控融合，得到增强后的公式编码向量。

13、进一步的，所述通过交叉注意力机制实现普通文本与公式的双向语义交互，生成试题token序列表示的步骤包括：

14、将试题中普通文本的token表示向量作为query，将所有增强后的公式编码向量作为key和value，计算公式对文本的注意力权重，得到增强文本表示；

15、将增强后的公式编码向量作为query，将所有普通文本的token表示向量作为key和value，计算文本对公式的注意力权重，得到公式感知文本上下文的增强公式表示；

16、将所述增强文本表示与所述增强公式表示按照公式在原文中的位置索引进行拼接，通过线性投影层映射回原始维度，得到试题token序列表示。

17、进一步的，所述按语义区域对所述试题token序列表示进行独立编码与区域聚合，生成全局试题语义表示的步骤包括：

18、按照识别出的题干区、选项区、答案区、解析区进行区域划分，将所述试题token序列表示拆分至对应语义区域，各区域分别通过编码网络得到独立的区域token序列表示；

19、在每个区域的token序列首位插入目标标记，将所述目标标记的输出向量作为对应区域的区域聚合表示；

20、以题干区域的聚合表示为query，以所有区域的聚合表示为key和value，计算题干对其他区域的注意力权重，再通过门控自适应融合机制学习各区域的重要性权重，加权求和得到全局试题语义表示向量。

21、进一步的，所述分类得到初步知识点预测结果的步骤包括：

22、基于预设知识领域层级，对所述全局试题语义表示进行粗粒度多标签分类，预测试题所属的知识领域集合，采用二元交叉熵损失计算粗粒度分类损失；

23、根据粗粒度分类的预测结果，筛选出对应知识领域下的知识点子空间，在所述知识点子空间内进行细粒度知识点多标签分类，同样采用二元交叉熵损失计算细粒度分类损失；

24、仅对被预测为正面的粗粒度类别对应的知识点子空间计算分类损失，缩小候选标签空间，输出初步知识点预测结果。

25、进一步的，所述结合所述知识点知识图谱进行推理与约束优化，生成知识点预测标签集合的步骤包括：

26、将所述初步知识点预测结果作为图卷积网络的输入节点特征，在所述知识点知识图谱上进行消息传递，聚合邻居节点的特征信息；

27、经过图卷积网络的邻居聚合后，将输出的增强特征通过sigmoid函数得到知识点预测概率，同时设置约束损失；

28、将粗粒度分类损失、细粒度分类损失与约束损失进行加权求和，得到总损失函数并用于模型优化，输出知识点预测标签集合。

29、进一步的，所述基于所述知识点预测标签集合进行注意力归因与置信度分级，提取对应标注依据片段，生成知识点标注结果的步骤包括：

30、提取分类器全连接层中与目标知识点维度对应的权重向量，与token级别的表示向量进行点积计算，得到每个token对目标知识点的贡献得分，选取得分最高的连续token作为标注依据文本片段；

31、为每个预测知识点设置双置信度阈值，将预测概率高于第一阈值的知识点标记为自动接受，介于第一阈值与第二阈值之间的标记为待人工审核，低于第二阈值的不输出；

32、输出包含试题id、知识点名称、层级路径、置信度分数、置信度等级、标注依据文本片段及来源区域的结构化标注结果。

33、本发明实施例第二方面提出了：

34、一种基于深度学习的数学试题知识点自动标注系统，其中，所述系统包括：

35、处理模块，用于对数学试题原始数据进行预处理，识别并分割试题的多类语义区域并标注语义角色标签，以检测出试题中的数学公式的位置索引，同时构建知识点知识图谱，得到结构化试题数据；

36、编码模块，用于对所述结构化试题数据进行解析生成抽象语法树，基于树形编码器进行结构编码得到公式结构编码向量，结合公式语义映射表生成语义增强向量并完成融合，生成试题token序列表示；

37、推理模块，用于按语义区域对所述试题token序列表示进行独立编码与区域聚合，生成全局试题语义表示，以分类得到初步知识点预测结果，结合所述知识点知识图谱进行推理与约束优化，生成知识点预测标签集合；

38、输出模块，用于基于所述知识点预测标签集合进行注意力归因与置信度分级，提取对应标注依据片段，生成知识点标注结果。

39、进一步的，所述对所述结构化试题数据进行解析生成抽象语法树，基于树形编码器进行结构编码得到公式结构编码向量，结合公式语义映射表生成语义增强向量并完成融合的步骤包括：

40、采用预设公式解析器将试题中的latex格式公式文本解析为抽象语法树，将分式、根式、上下标、求和积分、矩阵类数学结构组织为具备父子关系与兄弟关系的树形结构；

41、基于所述抽象语法树，采用预设树形编码器沿语法树的父子边与兄弟边进行信息传递，对公式的结构层次进行编码，输出每个公式对应的固定维度的公式结构编码向量；

42、构建数学公式模式与数学语义的映射表，通过可学习嵌入层将公式对应的语义标签映射为语义增强向量，将所述公式结构编码向量与所述语义增强向量进行加性融合或门控融合，得到增强后的公式编码向量。

43、进一步的，所述通过交叉注意力机制实现普通文本与公式的双向语义交互，生成试题token序列表示的步骤包括：

44、将试题中普通文本的token表示向量作为query，将所有增强后的公式编码向量作为key和value，计算公式对文本的注意力权重，得到增强文本表示；

45、将增强后的公式编码向量作为query，将所有普通文本的token表示向量作为key和value，计算文本对公式的注意力权重，得到公式感知文本上下文的增强公式表示；

46、将所述增强文本表示与所述增强公式表示按照公式在原文中的位置索引进行拼接，通过线性投影层映射回原始维度，得到试题token序列表示。

47、进一步的，所述按语义区域对所述试题token序列表示进行独立编码与区域聚合，生成全局试题语义表示的步骤包括：

48、按照识别出的题干区、选项区、答案区、解析区进行区域划分，将所述试题token序列表示拆分至对应语义区域，各区域分别通过编码网络得到独立的区域token序列表示；

49、在每个区域的token序列首位插入目标标记，将所述目标标记的输出向量作为对应区域的区域聚合表示；

50、以题干区域的聚合表示为query，以所有区域的聚合表示为key和value，计算题干对其他区域的注意力权重，再通过门控自适应融合机制学习各区域的重要性权重，加权求和得到全局试题语义表示向量。

51、进一步的，所述分类得到初步知识点预测结果的步骤包括：

52、基于预设知识领域层级，对所述全局试题语义表示进行粗粒度多标签分类，预测试题所属的知识领域集合，采用二元交叉熵损失计算粗粒度分类损失；

53、根据粗粒度分类的预测结果，筛选出对应知识领域下的知识点子空间，在所述知识点子空间内进行细粒度知识点多标签分类，同样采用二元交叉熵损失计算细粒度分类损失；

54、仅对被预测为正面的粗粒度类别对应的知识点子空间计算分类损失，缩小候选标签空间，输出初步知识点预测结果。

55、进一步的，所述结合所述知识点知识图谱进行推理与约束优化，生成知识点预测标签集合的步骤包括：

56、将所述初步知识点预测结果作为图卷积网络的输入节点特征，在所述知识点知识图谱上进行消息传递，聚合邻居节点的特征信息；

57、经过图卷积网络的邻居聚合后，将输出的增强特征通过sigmoid函数得到知识点预测概率，同时设置约束损失；

58、将粗粒度分类损失、细粒度分类损失与约束损失进行加权求和，得到总损失函数并用于模型优化，输出知识点预测标签集合。

59、进一步的，所述基于所述知识点预测标签集合进行注意力归因与置信度分级，提取对应标注依据片段，生成知识点标注结果的步骤包括：

60、提取分类器全连接层中与目标知识点维度对应的权重向量，与token级别的表示向量进行点积计算，得到每个token对目标知识点的贡献得分，选取得分最高的连续token作为标注依据文本片段；

61、为每个预测知识点设置双置信度阈值，将预测概率高于第一阈值的知识点标记为自动接受，介于第一阈值与第二阈值之间的标记为待人工审核，低于第二阈值的不输出；

62、输出包含试题id、知识点名称、层级路径、置信度分数、置信度等级、标注依据文本片段及来源区域的结构化标注结果。

63、本发明实施例第三方面提出了：

64、一种计算机，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其中，所述处理器执行所述计算机程序时实现如上面所述的基于深度学习的数学试题知识点自动标注方法。

65、本发明实施例第四方面提出了：

66、一种可读存储介质，其上存储有计算机程序，其中，该程序被处理器执行时实现如上面所述的基于深度学习的数学试题知识点自动标注方法。

67、本发明的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。