一种中小学试题语义画像动态多路检索方法及系统与流程

摘要: 本发明涉及教育信息化与信息检索领域,尤其涉及一种中小学试题语义画像动态多路检索方法及系统。背景技术:1、随着中小学数字化教学资源规模持续增长,试题库通常同时包含...
一种中小学试题语义画像动态多路检索方法及系统与流程

本发明涉及教育信息化与信息检索领域,尤其涉及一种中小学试题语义画像动态多路检索方法及系统。

背景技术:

1、随着中小学数字化教学资源规模持续增长,试题库通常同时包含结构化题目字段、自然语言题干、扫描图片、版面区域以及数学公式等异构内容。现有检索系统多以关键词、向量相似度或固定索引组合执行召回,不同输入模态往往采用相互独立的预处理和检索链路,难以形成能够在各检索通道间复用的统一查询表示。

2、在原题检索、相似题检索和教学需求检索并存的场景中,查询意图以及学科、学段、年级、教材版本、知识点等教育属性可能来自不同输入片段并具有不同可信程度。若将模型输出直接作为过滤条件,容易因属性冲突或置信不足造成漏召回或跨学科、跨年级误召回;若不进行教育约束过滤,则需对大量不合格候选执行语义计算和精排。

3、此外,固定通道或全通道并行检索无法根据查询意图、输入模态、画像完整度和实时执行状态调整资源。不同通道返回的重复题目容易聚集,慢通道还会放大尾延迟;简单超时降级若放松候选范围,又可能破坏教育硬约束的一致性。

4、因此,需要一种能够解决上述现有技术不足的中小学试题语义画像动态多路检索方法及系统。

技术实现思路

1、本发明的一个目的在于提出一种中小学试题语义画像动态多路检索方法及系统,针对现有技术中多模态试题查询难以统一表示、检索意图与教育属性难以校验、固定多路检索造成不合格候选比例高、重复聚集以及尾延迟和计算开销偏大的问题,提出由统一查询对象、带来源和置信度的试题查询语义画像、教育硬约束候选位图、兼容通道执行计划以及批次配额动态控制构成的技术方案。本发明能够使不同索引在同一教育约束范围内分批召回,并依据批次合格产出和预计耗时调整配额,在截止边界内完成题目族聚合、精排和约束复核。

2、本发明提供了一种中小学试题语义画像动态多路检索方法,包括:

3、s1、获取多模态试题查询,对其进行规范化和结构解析,得到统一查询对象;

4、s2、将所述统一查询对象输入多任务语义模型,生成带来源片段、置信度和约束标记的检索意图及教育属性候选,构成试题查询语义画像;

5、s3、根据教育约束关系数据校验所述语义画像中的属性关系和置信度,将校验通过且标记为硬约束的教育属性候选编译为统一题目标识空间的候选位图,使未通过校验的属性不参与所述编译,得到经校验语义画像;

6、s4、根据所述经校验语义画像的意图概率、输入模态和完整度,从异构试题索引对应的检索通道中选择兼容通道,生成带初始配额和共同截止时间的多路执行计划;

7、s5、按照所述多路执行计划,使各兼容通道在所述候选位图内分批返回带通道得分、命中证据和题目族标识的候选题目,形成批次候选集;

8、s6、逐批复核硬约束,并根据合格产出和预计耗时确定各兼容通道的边际效用和完成概率,据此追加、回收或向保持相同或更严格候选位图的兼容通道迁移配额,直至所述共同截止时间;按所述意图概率融合证据,对保留候选进行题目族聚合、精排和约束复核,输出检索结果。

9、可选的,s1包括:对自然语言查询和题干片段进行字符编码统一、符号归一化、段落切分和噪声字符过滤;

10、对试题图片进行版面区域检测,并按题干区域、选项区域、插图区域和公式区域生成区域序列,对题干区域和选项区域执行光学字符识别;

11、对公式对象或所述公式区域的识别结果进行运算符、操作数和层级关系解析,生成公式结构树;

12、将规范化文本、区域序列、识别文本、公式结构树以及各内容在原输入中的位置关联写入所述统一查询对象。

13、可选的,s2包括:由所述多任务语义模型分别输出原题检索意图、相似题检索意图和教学需求意图的概率,以及学科、学段、年级、教材版本、知识点、题型和难度的教育属性候选;

14、将产生各候选的所述统一查询对象中的文本区间、版面区域或公式结构节点作为来源片段;

15、根据对应任务输出的归一化分值生成置信度;

16、当教育属性候选由用户明示字段、教材目录唯一映射或学段年级唯一映射得到时设置硬约束标记,使对应属性参与候选位图的交集运算,否则设置非硬约束标记,使对应属性仅作为步骤s6中的精排特征。

17、可选的,s3包括:在教育本体中校验学科与知识点的从属关系,在学段年级映射中校验学段与年级的包含关系,并在教材目录版本数据中校验教材版本、册次与知识点的关联关系;

18、将带有硬约束标记且通过校验的教育属性候选转换为各自对应的题目标识位图,并对所述题目标识位图执行交集运算得到所述候选位图;

19、将置信度未达到对应属性置信度阈值的教育属性候选、未通过所述关联关系校验的教育属性候选及其来源片段写入冲突表,并将其硬约束标记转换为非硬约束标记,使对应属性仅作为步骤s6中的精排特征;

20、所述属性置信度阈值由验证集上对应教育属性的错误接受率不超过预设错误接受率上限时所对应的置信度下界确定。

21、可选的,s4包括:所述异构试题索引包括全文索引、题目指纹索引、学习型稀疏索引、稠密向量索引、教育标签索引、光学字符识别版面索引和公式结构索引;

22、为各检索通道预先关联必需画像属性集合,将意图概率不小于对应意图选择阈值的检索意图所关联的检索通道作为第一通道集合,将支持所述输入模态的检索通道作为第二通道集合,将所述经校验语义画像已具备属性包含对应必需画像属性集合的检索通道作为第三通道集合,并由所述第一通道集合、第二通道集合和第三通道集合的交集得到所述兼容检索通道;

23、当所述交集为空时,将支持所述输入模态且保持所述候选位图的基线检索通道确定为兼容检索通道;

24、所述意图选择阈值为验证集上对应检索意图的召回率不低于预设召回率下限时所允许的概率阈值上界;

25、依据各兼容检索通道的历史合格题目族产出率和历史耗时分位数确定所述初始配额和共同截止时间,并为各兼容检索通道写入保持相同或更严格候选位图的兼容降级通道标识。

26、可选的,s5包括:将所述候选位图作为过滤条件随通道查询发送至对应兼容检索通道;

27、各兼容检索通道按照所述初始配额划分召回批次,对每个召回批次返回候选题目标识、归一化通道得分、对应的文本命中区间、图像版面区域或公式结构节点以及题目族标识;

28、在批次候选集写入前,对返回的候选题目标识与所述候选位图执行按位与校验,并舍弃校验结果为零的候选题目标识。

29、可选的,s6包括:对相邻召回批次之间新增且通过硬约束复核的题目族数量、知识点覆盖增量和跨通道重复数量进行计数,根据新增合格题目族数量和知识点覆盖增量的加权和减去跨通道重复数量的惩罚项,得到批次效用增量;

30、根据对应兼容检索通道的历史耗时分位数、实时队列长度、当前批次耗时和共同截止时间的剩余时长,估计下一召回批次在所述共同截止时间前完成的概率,将所述批次效用增量与所述下一召回批次的预计耗时之比作为所述边际效用;

31、对边际效用不小于效用阈值且完成概率不小于概率阈值的兼容检索通道追加一个召回批次的配额,对连续两个召回批次未新增合格题目族的兼容检索通道或者完成概率小于所述概率阈值的兼容检索通道回收未执行配额,并按照所述兼容降级通道标识,将回收的未执行配额迁移至边际效用不小于所述效用阈值且使用相同或更严格候选位图的兼容检索通道;

32、所述效用阈值和概率阈值分别由验证集上单位耗时合格题目族覆盖率达到预设覆盖率下限时的边际效用下界和完成概率下界确定;

33、进一步的,分别按照原题检索意图、相似题检索意图和教学需求意图对应的意图概率对各兼容检索通道的通道得分和命中证据进行加权融合;

34、按照题目族标识将同一题目族内的候选题目聚合,并从各题目族中保留融合得分满足精排配额的候选题目作为有限候选集;

35、对所述有限候选集进行精排和硬约束复核,将通过硬约束复核的候选题目标记为教育一致,并将所述多路执行计划中的降级标识关联至对应候选题目后输出;

36、进一步的,当到达所述共同截止时间时,向尚未完成的召回批次发送取消指令,保留已完成召回批次返回的候选题目,并记录未执行配额;

37、当检索通道在所述共同截止时间之前发生异常时,仅在兼容降级通道的预计批次耗时不大于共同截止时间的剩余时长且迁移后候选位图为迁移前候选位图的子集或与迁移前候选位图相同时,将未执行配额迁移至所述兼容降级通道,否则取消对应批次;

38、生成执行记录,所述执行记录包括原检索通道标识、目标检索通道标识、迁移配额、取消批次标识、迁移前候选位图摘要、迁移后候选位图摘要、约束保持校验结果和降级状态。

39、另一方面,本发明还提供一种中小学试题语义画像动态多路检索系统,包括:

40、统一查询对象生成模块,用于执行步骤s1;语义画像生成模块,用于执行步骤s2;教育约束校验模块,用于执行步骤s3;多路执行计划生成模块,用于执行步骤s4;位图限定召回模块,用于执行步骤s5;动态配额控制及结果输出模块,用于执行步骤s6。

41、本发明的有益效果是:

42、1、通过对文本、图片和公式输入进行统一规范化与结构解析,并在语义画像中保留来源片段、置信度和约束标记,使检索意图与教育属性具备可追溯、可校验的处理基础。

43、2、通过将经校验的教育硬约束编译为统一题目标识空间中的候选位图,并使各兼容检索通道仅在该位图范围内返回候选,能够减少跨学科、跨年级等不合格候选进入后续融合和精排。

44、3、通过依据批次合格产出、预计耗时、边际效用和完成概率动态追加、回收或迁移配额,并要求降级通道保持相同或更严格的候选位图,能够在控制共同截止时间的同时提高合格非重复题目族的覆盖。