基于大模型的文档标题层级还原方法、装置与计算机设备与流程

本技术涉及文档数据处理，特别是涉及一种基于大模型的文档标题层级还原方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。

背景技术：

1、在电子文档解析、知识库构建、检索增强生成（retrieval-augmentedgeneration，rag）、合同审阅、制度文件治理以及办公文档智能排版等应用中，常常需要从长文档中准确还原标题角色和标题层级。标题层级不仅影响目录结构、文档导航和结构化展示，也会进一步影响后续文本分块、知识索引、问答定位以及结构化导出效果。

2、传统技术中，文档标题层级识别通常采用规则识别、版面特征识别、机器学习分类或大语言模型直接生成结构树等方式。规则识别依赖编号样式、字体大小、加粗样式或缩进等显式特征；版面特征识别更多用于 pdf 等固定版式文件；机器学习分类方法可学习段落特征但容易在编号断裂、目录混入、列表项与标题混杂等场景下出现局部错误；大语言模型直接处理全文虽然具有较强语义理解能力，但在长文档场景中存在上下文长度受限、调用成本高、输出不可控、结构一致性难以保证等问题。目前的这些方式均存在长文档标题层级还原的准确性较低的问题。

技术实现思路

1、基于此，有必要针对上述技术问题，提供一种能够提高长文档标题层级还原的准确性的基于大模型的文档标题层级还原方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。

2、第一方面，本技术提供了一种基于大模型的文档标题层级还原方法，包括：

3、获取待处理文档的段落序列，对所述段落序列中满足预设结构倾向条件的段落，按段落顺序构造结构事件，得到结构事件序列；所述结构事件为表征对应段落在文档结构中的结构倾向的事件，所述结构事件对应有编号骨架，所述编号骨架为从对应段落的段首编号前缀中抽象出的归一化编号结构；

4、将各所述结构事件的事件特征输入至序列标注模型，得到各所述结构事件的初始标签及所述初始标签对应的置信度；所述初始标签包括标题候选标签、列表候选标签和非结构噪声标签；

5、根据所述初始标签以及各所述结构事件的编号骨架，对所述结构事件中被标注为所述标题候选标签的结构事件进行标题层级解码，得到被标注为所述标题候选标签的结构事件的初始标题层级；

6、根据所述初始标签和所述初始标题层级，对所述结构事件序列进行异常检测，确定异常候选片段；所述异常候选片段包括所述结构事件序列中可能存在标题角色和/或标题层级错误的结构事件集合；

7、将所述异常候选片段及其上下文、所述异常候选片段中各所述结构事件对应的初始标签和初始标题层级输入至辅助判定模型，得到所述辅助判定模型输出的标题角色和标题层级，以及，根据所述辅助判定模型输出的标题角色和标题层级，生成所述待处理文档中各所述段落的标题角色和标题层级；所述辅助判定模型包括大语言模型。

8、在其中一个实施例中，所述根据所述辅助判定模型输出的标题角色和标题层级，生成所述待处理文档中各所述段落的标题角色和标题层级，包括：

9、按照预设约束校验规则对所述辅助判定模型的输出进行校验；

10、将通过所述校验的输出回写至所述结构事件序列，更新对应结构事件的初始标签和初始标题层级；对未通过校验的输出，保持对应结构事件的初始标签和初始标题层级不变；

11、基于更新后的所述初始标签和更新后的所述初始标题层级重新确定异常候选片段，并返回至将所述异常候选片段及其上下文、所述异常候选片段中各所述结构事件对应的初始标签和初始标题层级输入至辅助判定模型的步骤，直至所述结构事件序列中不存在所述异常候选片段；

12、根据更新后的所述初始标签和更新后的所述初始标题层级，生成所述待处理文档中各所述段落的标题角色和标题层级。

13、在其中一个实施例中，所述按照预设约束校验规则对所述辅助判定模型的输出进行校验，包括：

14、对所述辅助判定模型的输出执行格式校验、角色合法性校验、层级合法性校验、编号连续性校验、父子关系校验和局部一致性校验中的至少一种；

15、其中，所述格式校验为校验所述辅助判定模型的输出满足可解析的结构化格式；所述角色合法性校验为校验所述辅助判定模型输出的标题角色属于预设角色集合；所述层级合法性校验为校验所述辅助判定模型输出的标题层级位于预设层级范围内；所述编号连续性校验为校验被判定为标题的结构事件对应的编号骨架与上下文结构事件的编号骨架满足同级、父子或预设跳转关系；所述父子关系校验为校验低层级标题结构事件不孤立出现；所述局部一致性校验为校验同一异常候选片段内编号骨架相同或相近的结构事件的标题角色和标题层级一致。

16、在其中一个实施例中，所述根据所述初始标签和所述初始标题层级，对所述结构事件序列进行异常检测，确定异常候选片段，包括：

17、在根据所述初始标签和所述初始标题层级确定出所述结构事件序列中的结构事件满足异常触发条件时，将对应的所述结构事件确定为目标事件，并将所述目标事件及其相邻结构事件合并为所述异常候选片段；

18、其中，所述异常触发条件包括以下至少一种条件：被标注为所述标题候选标签的结构事件，按照其编号骨架和初始标题层级无法与相邻结构事件形成合法的同级连续或父子递进关系；多个所述编号骨架相同或相近的相邻结构事件中，所述初始标签包含标题候选标签、列表候选标签和非结构噪声标签中的至少两种；所述结构事件的初始标题层级超过预设最大层级，或相对于相邻结构事件发生无法由编号骨架解释的层级跳变；所述结构事件的置信度低于预设阈值。

19、在其中一个实施例中，所述辅助判定模型包括大语言模型；所述将所述异常候选片段及其上下文、所述异常候选片段中各所述结构事件对应的初始标签和初始标题层级输入至辅助判定模型，得到所述辅助判定模型输出的标题角色和标题层级，包括：

20、根据所述异常候选片段中各所述结构事件对应的段落信息、初始标签、初始标题层级和编号骨架，以及所述异常候选片段前后预设数量的上下文段落，以及与所述异常候选片段中各所述结构事件的编号骨架相匹配的样例事件，构造辅助判定输入数据；

21、将所述辅助判定输入数据输入至所述大语言模型，得到所述大语言模型输出的所述异常候选片段中各所述结构事件的标题角色和标题层级。

22、在其中一个实施例中，所述根据所述初始标签以及各所述结构事件的编号骨架，对所述结构事件中被标注为所述标题候选标签的结构事件进行标题层级解码，得到被标注为所述标题候选标签的结构事件的初始标题层级，包括：

23、若所述结构事件的编号骨架与所述待处理文档对应的层级状态栈的栈顶编号骨架满足同级连续关系，则确定所述结构事件的初始标题层级与栈顶标题层级相同；所述层级状态栈用于记录所述待处理文档中已确认为标题的结构事件的编号骨架和标题层级；

24、若所述结构事件的编号骨架为所述栈顶编号骨架的直接子级，则确定所述结构事件的初始标题层级为所述栈顶标题层级的更深一级；

25、若所述结构事件的编号骨架与更高标题层级的结构事件满足同级或子级关系，则将所述层级状态栈回退至所述更高标题层级后再确定所述初始标题层级。

26、第二方面，本技术还提供了一种基于大模型的文档标题层级还原装置，包括：

27、获取模块，用于获取待处理文档的段落序列，对所述段落序列中满足预设结构倾向条件的段落，按段落顺序构造结构事件，得到结构事件序列；所述结构事件为表征对应段落在文档结构中的结构倾向的事件，所述结构事件对应有编号骨架，所述编号骨架为从对应段落的段首编号前缀中抽象出的归一化编号结构；

28、标注模块，用于将各所述结构事件的事件特征输入至序列标注模型，得到各所述结构事件的初始标签及所述初始标签对应的置信度；所述初始标签包括标题候选标签、列表候选标签和非结构噪声标签；

29、解码模块，用于根据所述初始标签以及各所述结构事件的编号骨架，对所述结构事件中被标注为所述标题候选标签的结构事件进行标题层级解码，得到被标注为所述标题候选标签的结构事件的初始标题层级；

30、检测模块，用于根据所述初始标签和所述初始标题层级，对所述结构事件序列进行异常检测，确定异常候选片段；所述异常候选片段包括所述结构事件序列中可能存在标题角色和/或标题层级错误的结构事件集合；

31、生成模块，用于将所述异常候选片段及其上下文、所述异常候选片段中各所述结构事件对应的初始标签和初始标题层级输入至辅助判定模型，得到所述辅助判定模型输出的标题角色和标题层级，以及，根据所述辅助判定模型输出的标题角色和标题层级，生成所述待处理文档中各所述段落的标题角色和标题层级；所述辅助判定模型包括大语言模型。

32、第三方面，本技术还提供了一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现上述方法的步骤。

33、第四方面，本技术还提供了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述方法的步骤。

34、第五方面，本技术还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。

35、上述基于大模型的文档标题层级还原方法、装置、计算机设备、计算机可读存储介质和计算机程序产品，通过序列标注模型对结构事件序列进行全局顺序建模，获得事件级的初始标签和初始标题层级，再通过异常检测识别可能存在标题角色或标题层级错误的局部异常候选片段，并仅对局部异常候选片段及其上下文调用辅助判定模型进行复核，最后根据辅助判定结果生成待处理文档中各段落的标题角色和标题层级，避免了将整篇文档直接输入大语言模型，减少了大语言模型的输入长度、调用次数和处理时间，适用于长文档的批量处理场景；通过局部异常检测，能够集中处理容易出错的局部区域，提高了标题角色和标题层级识别的准确性；通过将序列标注模型的全局顺序建模能力与辅助判定模型的局部语义判断能力相结合，既保持了全局结构的稳定性，又能够处理局部复杂语义，提高了长文档标题层级还原的准确性、稳定性和可解释性。