一种面向纸质试卷电子化的多学科题型Markdown结构化输出、解析与富文本转换方法及系统与流程
本发明属于教育信息化、智能文档处理、多模态大模型应用、试卷图像理解、结构化信息抽取和富文本转换,具体涉及一种面向纸质试卷电子化的多学科题型markdown 结构化输出、解析与富文本转换方法及系统。
背景技术:
1、在纸质试卷电子化过程中,常见流程为:先通过ocr、版面分析或多模态大模型识别试卷图像,再把识别结果转换为题库系统所需的结构化数据。现有技术通常采用以下方案:让大模型直接输出json结构化数据;由ocr或版面解析流水线抽取文字、公式、表格等内容,再通过规则或模型转换为json;让大模型直接输出html以保留展示格式;对多格式文档先转换成markdown中间文档,再进行指标抽取或规则验证。
2、上述方案在纸质试卷电子化场景中存在明显不足。
3、第一,直接要求大模型输出json时稳定性较差。试题内容中经常包含数学公式、反斜杠、分式、上下标、图表引用、嵌套小题等复杂内容,json字符串转义要求较高。模型容易出现引号遗漏、逗号遗漏、括号不闭合、反斜杠数量错误、字段嵌套错乱、输出过长甚至不收敛等问题,导致后端json解析失败。
4、第二,直接要求大模型输出html时复杂度过高。html标签、属性、嵌套关系、转义字符和安全过滤规则均较复杂,大模型容易生成不闭合标签、错误嵌套标签或不符合业务样式规范的html,后续清洗成本高。
5、第三,纸质试卷具有强烈的学科和题型差异。数学解答题、英语阅读理解、英语完形填空、语文阅读题、物理实验题等题型所需字段、层级和输出结构不同。使用单一结构化输出提示词难以兼顾多学科、多题型。
6、第四,现有技术虽然存在将文档解析结果重组为markdown的方案,但其重点通常在多格式文档解析、指标抽取或规则验证,并未针对纸质试卷电子化建立“多模态大模型原生markdown输出协议+学科题型模板矩阵+模板绑定解析器+富文本html转换”的完整工程闭环。
7、经检索,存在以下相近公开方案:cn121859835a公开了一种多格式文档解析与验证方法,其重点并非试卷题型字段、模板解析器绑定或题库富文本入库;cn121835650a公开了结构化数据解析方法,但未针对公式富文本、学科题型差异建立专门机制;cn121768021a公开了视觉文档分析方法,但其输出重点仍是通用文档结构,并未直接解决试题对象入库问题。
8、因此,现有技术尚未形成面向纸质试卷电子化资产转换的完整方案。
技术实现思路
1、本发明要解决的技术问题是在多学科、多题型、含公式和富文本的纸质试卷电子化场景下,如何降低模型输出格式复杂度,使识别结果稳定落入题库字段,保留公式和排版展示能力,支持人工复核和错误回溯,并形成可规模化维护的模板与解析器工程闭环,为解决上述问题,提供面向纸质试卷电子化的多学科题型 markdown 结构化输出、解析与富文本转换方法及系统。
2、本发明的目的是以下述方式实现的:
3、一种面向纸质试卷电子化的多学科题型markdown 结构化输出、解析与富文本转换方法,包括以下步骤:
4、s1:接收纸质试卷图像或题目图像,并获取题目所属的学科和题型信息;
5、s2:根据所述学科和题型,从预先构建的学科×题型模板矩阵中选择对应的提示词模板和解析器;其中,所述提示词模板规定了引导多模态大模型输出符合预设markdown结构的输出协议,所述解析器用于将所述预设markdown结构解析为结构化题目对象;
6、s3:基于选中的所述提示词模板生成完整提示词,将所述题目图像及所述完整提示词输入多模态大模型,获得所述多模态大模型输出的markdown结构化文本;
7、s4:调用与所述提示词模板绑定的所述解析器,对所述markdown结构化文本进行解析,生成内部结构化题目对象;
8、s5:对所述结构化题目对象中的markdown字段进行html富文本转换,得到字段级html富文本;
9、s6:对所述结构化题目对象及所述字段级html富文本执行结构化校验,并将校验通过的结果输出到题库系统。
10、所述学科×题型二维模板矩阵中的每个矩阵单元包括学科标识、题型标识、输出字段定义、markdown标题与字段映射规则、示例输入输出、解析器名称及版本号、校验规则;每个矩阵单元对应唯一的模板编号和版本号。
11、进一步地,所述学科×题型模板矩阵的每个矩阵单元至少包括:学科标识、题型标识、输出字段定义、markdown标题与字段映射规则、解析器标识及版本号;所述输出协议包括:
12、使用markdown标题层级表示题目结构,一级标题表示题目,二级标题表示字段;
13、使用markdown列表表示选项,选项标记采用- a.、- b.形式;
14、使用$...$表示行内公式,$$...$$表示块级公式,公式内latex反斜杠保持原样;
15、包含输出终止标记,且禁止输出json或html标签。
16、所述步骤s4中解析器解析markdown结构化文本时,执行以下子步骤:
17、根据模板标识和解析器版本获取解析器实例;
18、检查是否存在终止标记,若不存在则标记为输出不完整;
19、按模板声明的标题层级扫描markdown文本,将题干、选项、答案、解析、子题及插图引用切分为字段片段;
20、生成内部结构化题目对象,并保留原始markdown、模板版本、解析器版本及异常信息。
21、进一步地,所述步骤s5中html富文本转换包括公式处理子步骤:
22、从markdown字段中识别行内公式$...$和块级公式$$...$$$,将每个公式片段记录为公式对象并替换为公式占位符;
23、对markdown内容执行受控转换生成html片段,仅允许预设的安全标签白名单;
24、完成html安全过滤后,将所述公式占位符恢复为题库系统支持的公式渲染标记。
25、进一步地,在步骤s3获得markdown结构化文本之后、步骤s4解析之前,还包括预处理步骤:对模型输出进行清洗、终止标记检测、异常标记修复和非法内容过滤;当检测到缺失终止标记、关键标题缺失、公式标记不闭合或输出内容不完整时,触发重试、局部修复或人工复核流程。
26、进一步地,所述步骤s6中的结构化校验包括以下至少一项:必填字段校验、选项数量校验、答案范围校验、公式标记成对校验、子题层级连续性校验、html非法标签校验、模板版本与解析器版本一致性校验。
27、一种面向纸质试卷电子化的多学科题型markdown 结构化输出、解析与富文本转系统,用于实现所述的方法,所述系统包括:
28、试卷图像输入模块,用于接收纸质试卷图像或题目图像,并输出图像数据及上下文信息;
29、学科题型路由模块,其输入端连接所述试卷图像输入模块的输出端,用于确定题目的学科和题型;
30、模板矩阵管理模块,用于维护学科×题型二维模板矩阵,每个矩阵单元包含提示词模板及解析器标识;
31、提示词组装模块,其第一输入端连接所述学科题型路由模块的输出端,其第二输入端连接所述模板矩阵管理模块的输出端,用于生成完整提示词;
32、多模态大模型调用模块,其第一输入端连接所述提示词组装模块的输出端,其第二输入端连接所述试卷图像输入模块的输出端,用于获取markdown结构化文本;
33、模板绑定解析器模块,其输入端连接所述多模态大模型调用模块的输出端,且与所述模板矩阵管理模块中指定的解析器绑定,用于将markdown解析为内部结构化题目对象;
34、markdown到html富文本转换模块,其输入端连接所述模板绑定解析器模块的输出端,用于将markdown字段转换为html富文本;
35、结构化校验模块,其输入端分别连接所述模板绑定解析器模块和所述markdown到html富文本转换模块的输出端,用于执行校验;
36、结果输出模块,其输入端连接所述结构化校验模块的输出端,用于将校验通过的结构化对象输出到题库系统。
37、所述markdown到html富文本转换模块内嵌有公式占位与恢复子模块,所述公式占位与恢复子模块用于在markdown解析前将公式片段替换为占位符,并在html安全过滤后将占位符恢复为公式渲染标记;所述模板绑定解析器模块包括:用于去除包裹噪声并检查终止标记的markdown预处理单元、用于按模板约定的标题层级切分字段片段的字段切分单元、以及用于输出包含原始markdown及版本信息的内部结构化题目对象的结构化对象生成单元。
38、一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现所述的方法。
39、本发明的有益效果:通过学科×题型二维模板矩阵,解决了不同学科、不同题型字段差异大、单一提示词难以稳定适配的问题,提高了题目结构化提取的扩展性。
40、采用多模态大模型原生markdown结构化输出协议,避免了直接json输出导致的括号不闭合、字段嵌套混乱、反斜杠转义失败和输出不收敛等问题。
41、通过提示词模板与后端解析器绑定及版本同步机制,解决了提示词格式调整后解析器失配的问题,使模板和解析器成为可维护的结构化提取单元。
42、采用面向公式和教学富文本的markdown到html受控转换机制,在降低模型输出复杂度的同时,保留了题库展示所需的公式、加粗、下划线、列表、表格等富文本信息。)
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com