一种基于多模态数据抽取的模板化文档信息提取方法及系统与流程
本发明涉及信息处理与智能识别，具体涉及一种基于多模态数据抽取的模板化文档信息提取方法及系统。
背景技术：
1、在企业财务、法务等领域的文档处理中，大量关键信息蕴含于合同、报告、标书等非结构化长文档中。此类文档篇幅长、结构复杂，实际业务往往仅需从中提取少数关键字段。
2、现有方法主要沿用“ocr识别+全文遍历+规则匹配”的技术路线。首先将文档各页转为图像进行ocr识别获取全量文本，再依据预设模板中的关键词或正则规则对全文进行顺序匹配以定位目标字段。这一路线在长文档场景下存在明显瓶颈：一是长文档全量文本常超出大语言模型的上下文长度限制，无法直接输入处理；二是关键字段通常仅出现在特定段落，全量文本中大量无关内容构成噪声干扰，既降低匹配效率，又易因多处同名关键词导致误判；三是长文档普遍存在多级标题嵌套、跨页表格、页眉页脚重复信息等复杂结构，传统方法难以准确区分同名字段归属、拼接跨页表格和排除重复信息干扰；四是文档扫描转换过程中可能产生页面方向异常，且对角线型水印的倾斜特征会干扰方向检测，导致误判旋转。
3、上述缺陷导致现有方案在处理长文档时抽取精度不足、效率低下，难以满足工业化应用对高精度和高效率的要求。
技术实现思路
1、本发明的目的在于提供一种基于多模态数据抽取的模板化文档信息提取方法及系统，通过结构感知分片以及重排序分片筛选，提升了字段抽取的准确率和处理效率。
2、为实现上述目的，采取以下方案：
3、一方面，本发明提供一种基于多模态数据抽取的模板化文档信息提取方法，具体包括以下步骤：
4、s1、获取用户上传的待抽取文档附件，对文档附件进行方向异常检测与旋转校正，并转换成预设格式的标准文档；
5、s2、响应用户选择的抽取模板，根据文档结构对标准文档进行分区识别，得到若干文本区域，对每个文本区域中的文本内容进行分片处理和文本识别，得到文本片段；
6、s3、将分片后的文本片段进行向量化编码并存入向量数据库；根据抽取模板的字段需求描述，从向量数据库中检索出与字段需求描述对应的文本片段作为候选分片；
7、s4、采用重排序模型对候选分片进行相关性评分与排序，将排序靠前的若干候选分片作为有效信息上下文传入大语言模型，由大语言模型执行关键字段值的定位与提取；
8、s5、将抽取出的关键字段值按照输出文件模板定义的字段映射关系填入对应位置，生成结构化提取文件。
9、在一些具体实施方式中，异常检测与旋转校正的具体过程为：
10、将文档附件的每一页渲染为预览图像，依次输入训练好的方向检测ocr模型，输出页面旋转角度的分类结果；
11、当分类结果为页面倾斜时，判断页面异常并记录其页码与旋转角度，建立页面级方向异常映射表；依据方向异常映射表对各异常页面执行对应角度的反向旋转，使全部页面统一至正常阅读方向。
12、在一些具体实施方式中，方向检测ocr模型包括空间注意力模块，空间注意力模块基于文本的密度和连续性区分正文区域与特定标识区域，并为正文区域赋予高于特定标识区域的注意力权重，根据正文区域确定文本的正常阅读方向以及页面倾斜角度的分类结果。
13、在一些具体实施方式中，当分类结果为页面未倾斜时，提取正文区域的特征向量，计算其与标准正向文本分布参考向量的余弦相似度，当余弦相似度低于预设阈值时，标记该页面为方向存疑页面并触发二次校验，二次校验为调用文字连通区域分析算法，检测页面内文本行的基准线倾斜角，若检测到基准线倾斜角超过预设容差范围，则补充执行精细化的旋转校正。
14、在一些具体实施方式中，得到文本片段的具体过程：
15、根据文本的密度和连续性对标准文档进行分区识别，得到若干文本区域；
16、按照文档结构对每个文本区域进行分片，将每个结构单元作为一个文本块，并检测每个文本块的大小是否超过预设范围，若是，则对文本块进行递归拆分再合并处理，递归拆分时保留元数据信息。
17、在一些具体实施方式中，递归拆分的具体过程为：
18、构建每个文本块的块级元数据，块级元数据包括文本块所属页码、父级标题、文本块内包含的字段键名候选列表、是否为表格块、表格行列范围及跨页标记；
19、对每个文本块进行初始token计数，若初始token数超过预设上限则将对文本块进行拆分；
20、若文本块的初始token数低于预设下限，则获取该文本块的相邻文本块，基于块级元数据中的父级标题一致性及语义连续性进行合并。
21、在一些具体实施方式中，文本块按照文档结构划分为段落块和表格块，对文本块拆分包括：
22、对段落块执行基于句子边界的语义保持拆分操作；
23、对表格块，若表格块中的表格为跨页表格则沿页面边界自然拆分，否则保持表格完整仅拆分标题行与数据行，拆分后子块均继承父块的块级元数据并标注拆分序号。
24、在一些具体实施方式中，得到候选分片的具体过程包括：
25、根据抽取模板的字段需求描述生成查询文本，将查询文本通过嵌入模型编码为查询向量，将分片后的文本片段编码为分片向量；
26、在向量数据库中执行混合搜索，混合搜索同时进行两种检索路径：第一种为向量相似性检索，计算查询向量与各分片向量的余弦相似度，返回相似度最高的前k1个分片；
27、第二种为全文检索，以查询文本中的关键词构建全文查询条件，匹配各分片向量中的文本内容，返回匹配度最高的前k2个分片；
28、将两种检索路径的结果进行融合去重，采用倒数排名融合算法对同一分片向量在不同检索路径中的排名进行加权合并，生成统一的候选分片列表。
29、在一些具体实施方式中，采用重排序模型对候选分片进行相关性评分与排序的具体过程为：
30、将字段需求描述与每个候选分片组成文本对，输入基于交叉编码器架构的重排序模型，重排序模型对文本对进行联合编码，通过全连接层输出相关性得分，表示分片内容与字段需求在语义层面的精确匹配程度；
31、基于相关性得分对全部候选分片降序排列，保留得分高于预设阈值且排名靠前的若干候选分片组成分片序列作为精筛结果；
32、对精筛结果中的候选分片，读取其块级元数据中的父级标题信息，当候选分片对应的父级标题块未被选入精筛结果，则将该父级标题块以只读上下文形式补入分片序列，确保大语言模型获得完整的结构语境。
33、第二方面，本技术提供一种基于多模态数据抽取的模板化文档信息提取系统，包括：
34、预处理模块，用于获取用户上传的待抽取文档附件，对文档附件进行方向异常检测与旋转校正，并转换成预设格式的标准文档；
35、信息抽取模块，包括：
36、文本分块单元，用于响应用户选择的抽取模板，根据文档结构对标准文档进行分区识别，得到若干文本区域，对每个文本区域中的文本内容进行分片处理和文本识别，得到文本片段；
37、文本筛选单元，用于将分片后的文本片段进行向量化编码并存入向量数据库；然后根据抽取模板的字段需求描述，从向量数据库中检索出与字段需求描述对应的文本片段作为候选分片；
38、定位提取单元，用于采用重排序模型对候选分片进行相关性评分与排序，将排序靠前的若干候选分片作为有效信息上下文传入大语言模型，由大语言模型执行关键字段值的定位与提取；
39、提取输出模块，用于将抽取出的关键字段值按照输出文件模板定义的字段映射关系填入对应位置，生成结构化提取文件。
40、本发明具有的有益效果：
41、本技术通过将长文档信息抽取流程重构为“结构感知分片—向量化存储—按需检索—重排序筛选—大模型精准抽取”的检索增强生成范式，将长文档处理从“全量遍历匹配”转变为“按需检索聚焦”，在有限的大模型上下文窗口内实现了任意篇幅文档的关键字段精准抽取；同时在文档预处理环节，通过轻量化方向检测模型与抗水印干扰机制的协同设计，显著提升了文档校正的鲁棒性。
42、本技术通过结构感知分片与token感知的递归拆分机制，兼顾了语义完整性与长度可控性。依据文档固有的标题层级、章节段落、表格边界等结构单元进行切分，对超出token上限的大块进一步按句子边界或表格边界递归拆分，对过短的相邻块进行合并，同时为每个分片关联所属页码、父级标题、表格行列信息及跨页标记等元数据。这使得每个分片既保持语义完整不割裂，又控制在大模型可处理的长度范围内，元数据关联为后续的精准定位和上下文还原提供了结构基础。
43、另外，还通过混合检索机制融合向量语义召回与关键词精确匹配的双重优势。向量相似性检索能够召回语义相关但未必包含精确关键词的分片，全文检索能够精准匹配包含特定字段名称的分片，采用倒数排名融合算法对两种路径的结果进行加权合并，相比单一检索方式显著提升了候选分片的召回率和相关性，减少了因关键词表述差异或语义歧义导致的有效分片遗漏。