表格分类方法、装置及设备与流程

本发明涉及人工智能，尤其涉及一种表格分类方法、装置及设备。

背景技术：

1、表格是各行业中最常见的数据存储形式之一，广泛存在于金融报表、实验记录、业务日志、统计报表等场景中。表格具备良好的结构化特性和潜在的语义特性，相较于非结构化的文本数据更容易分析和理解。为了对表格进行有效管理，通常会对表格进行分类，然后根据表格的类别对表格进行管理。

2、如何对不同领域、不同结构的表格进行统一建模与精准分类，是实现数据价值挖掘和智能决策的关键问题。

技术实现思路

1、本发明提供一种表格分类方法，能够对不同领域、不同结构的表格进行统一建模与精准分类，实现了表格的精准分类。

2、第一方面，提供一种表格分类方法，该方法应用于电子设备，所述电子设备包括表格编码器、表格适配器和结构-语义双门控专家混合网络；所述方法包括：利用所述表格编码器对目标表格进行编码，生成所述目标表格的结构化语义表示；将所述结构化语义表示输入至所述表格适配器，生成表格语义特征，所述表格适配器用于将所述结构化语义表示映射至语言模型的语义空间；获取所述目标表格对应的任务描述文本，并提取所述任务描述文本对应的文本语义特征；融合所述表格语义特征与所述文本语义特征，得到融合特征；将所述融合特征输入至所述结构-语义双门控专家混合网络对所述目标表格中的待分类样本进行分类，得到所述目标表格中各待分类样本对应的分类结果，所述结构-语义双门控专家混合网络中包括至少一个用于进行表格分类的目标专家子网络，所述分类结果包括多个样本分类标签。

3、本技术提供了一种表格分类方案，通过表格编码器深度理解目标表格自身的行、列结构和单元格语义，生成结构化语义表示；然后，利用表格适配器，将这些结构化语义表示翻译成语言模型能理解的表格语义特征，实现跨模态对齐；最后，通过引入结构-语义双门控专家混合网络，该网络能够根据目标表格的结构特点和语义内容，动态地、智能地选择出最合适的目标专家子网络来进行分类，从而实现对金融、化工、制造等不同领域表格中的待分类样本进行自适应、高精度分类，显著提升了表格分析的精度、泛化能力和鲁棒性。

4、一种可能的实现方式，上述结构-语义双门控专家混合网络包括结构门控网络、语义门控网络以及多个专家子网络；上述将所述融合特征输入至所述结构-语义双门控专家混合网络对所述目标表格中的待分类样本进行分类，得到所述目标表格中各待分类样本对应的分类结果，具体实现为：通过所述结构门控网络，基于表格结构特征得到多个专家子网络对应的结构门控得分，所述表格结构特征为从所述表格编码器输出的结构化语义表示中提取到的，所述表格结构特征包括行列依赖特征、单元格位置特征和字段类型特征中的至少一种；通过所述语义门控网络，基于所述融合特征中的所述表格语义特征与所述文本语义特征，得到多个专家子网络对应的语义门控得分；根据所述结构门控得分和所述语义门控得分，从所述多个专家子网络中选择至少一个目标专家子网络；利用所述至少一个目标专家子网络，对所述融合特征进行处理，得到所述目标表格中各待分类样本对应的分类结果。

5、再一种可能的实现方式，上述根据所述结构门控得分和所述语义门控得分，从所述多个专家子网络中选择至少一个目标专家子网络，具体实现为：对所述结构门控得分和所述语义门控得分进行加权求和，并经激活函数处理，得到融合门控得分；根据所述融合门控得分，从所述多个专家子网络中选择得分最高的前k个专家子网络作为所述目标专家子网络，其中k为大于等于1的正整数。

6、再一种可能的实现方式，上述多个专家子网络中的每个专家子网络内部均采用前馈结构网络，并采用门控线性单元（swish-gated linear unit，swiglu）激活函数。

7、再一种可能的实现方式，上述表格编码器是基于criss-cross attention的transformer结构构建的。上述利用所述表格编码器对目标表格进行编码，生成所述目标表格的结构化语义表示，具体实现为：构建所述目标表格中每个单元格的输入嵌入向量，所述输入嵌入向量包括：列名嵌入和单元格取值嵌入；通过所述表格编码器中的所述criss-cross attention，分别计算每个所述单元格与每个所述单元格所在行和/或所在列中其他单元格的注意力权重；基于所述注意力权重，对所述单元格的输入嵌入向量进行加权聚合，得到每个所述单元格的编码向量；根据所述目标表格中所有单元格的编码向量，生成所述目标表格的结构化语义表示。

8、再一种可能的实现方式，上述表格编码器是经过预训练后得到的。所述表格编码器的预训练过程，具体实现为：通过掩码遮盖第一样本表格中的部分单元格；利用所述表格编码器基于上下文预测被掩盖单元格的内容；基于所述第一样本表格的真实被遮盖内容和预测被遮盖内容，计算得到掩码重建损失函数；通过从第一样本表格中随机采集两个第一样本子表格，以及从第二样本表格采集一个第二样本子表格，所述第一样本表格和所述第二样本表格为不同的表格；利用所述表格编码器分别对所述两个第一样本子表格和所述第二样本子表格进行编码，基于不同样本子表格之间的语义距离，计算得到对比学习损失函数；基于所述掩码重建损失函数和/或所述对比学习损失函数，对所述表格编码器进行预训练。

9、再一种可能的实现方式，上述表格适配器采用瓶颈式线性映射结构。上述将所述结构化语义表示输入至所述表格适配器，生成表格语义特征，具体实现为：通过所述瓶颈式线性映射结构，将所述结构化语义表示从第一维度映射至第二维度，所述第二维度小于所述第一维度；通过非线性激活函数对降维后的结构化语义表示进行激活处理，得到激活处理后的结构化语义表示；将所述激活处理后的结构化语义表示，从所述第二维度升维至所述语言模型的输入维度，得到所述表格语义特征。

10、再一种可能的实现方式，上述表格适配器是预训练后得到的；所述表格适配器的预训练过程包括：基于对齐数据包，对所述表格适配器进行损失函数计算，得到生成损失函数和/或对比损失函数；其中，所述生成损失函数用于度量所述表格适配器对所述对齐数据包中的正样本对的相似度，所述对比损失函数用于度量所述表格适配器对所述对齐数据包中的负样本对的相似度；基于所述生成损失函数和/或所述对比损失函数，对所述表格适配器进行训练。

11、再一种可能的实现方式，上述对齐数据包括以下至少一种：表格-摘要文本对、表格-markdown文本对，或表格-问答三元组。

12、再一种可能的实现方式，上述任务描述文本是采用预设的提示模板构建的；所述提示模板包括以下字段中的至少一项：背景信息字段，所述背景信息字段用于描述所述目标表格的来源领域和/或字段含义；输入数据字段，所述输入数据字段用于指示所述目标表格的数据内容；任务描述字段，所述任务描述字段用于说明分类任务的类别数量和/或各类别的定义；输出格式字段，所述输出格式字段用于指定所述分类结果的输出格式。

13、第二方面，提供一种表格分类装置，该装置包括：编码模块、表格适配模块、获取模块、融合模块和表格分类模块。

14、编码模块，用于利用所述表格编码器对目标表格进行编码，生成所述目标表格的结构化语义表示。

15、表格适配模块，用于将所述结构化语义表示输入至所述表格适配器，生成表格语义特征，所述表格适配器用于将所述结构化语义表示映射至语言模型的语义空间。

16、获取模块，用于获取所述目标表格对应的任务描述文本，并提取所述任务描述文本对应的文本语义特征。

17、融合模块，用于融合所述表格语义特征与所述文本语义特征，得到融合特征。

18、表格分类模块，用于将所述融合特征输入至所述结构-语义双门控专家混合网络对所述目标表格中的待分类样本进行分类，得到所述目标表格中各待分类样本对应的分类结果，所述结构-语义双门控专家混合网络中包括至少一个用于进行表格分类的目标专家子网络，所述分类结果包括多个样本分类标签。

19、一种可能的实现方式，上述结构-语义双门控专家混合网络包括结构门控网络、语义门控网络以及多个专家子网络；上述表格分类模块，具体用于：通过所述结构门控网络，基于表格结构特征计算得到所述多个专家子网络对应的结构门控得分，所述表格结构特征为从所述表格编码器输出的结构化语义表示中提取到的，所述表格结构特征包括行列依赖特征、单元格位置特征和字段类型特征中的至少一种；通过所述语义门控网络，基于所述融合特征中的所述表格语义特征与所述文本语义特征，得到多个专家子网络对应的语义门控得分；根据所述结构门控得分和所述语义门控得分，从所述多个专家子网络中选择至少一个目标专家子网络；利用所述至少一个目标专家子网络，对所述融合特征进行处理，得到所述目标表格中各待分类样本对应的分类结果。

20、再一种可能的实现方式，上述表格分类模块，具体用于：对所述结构门控得分和所述语义门控得分进行加权求和，并经激活函数处理，得到融合门控得分；根据所述融合门控得分，从所述多个专家子网络中选择得分最高的前k个专家子网络作为所述目标专家子网络，其中k为大于等于1的正整数。

21、再一种可能的实现方式，上述多个专家子网络中的每个专家子网络内部均采用前馈结构网络，并采用门控线性单元（swish-gated linear unit，swiglu）激活函数。

22、再一种可能的实现方式，上述表格编码器是基于criss-cross attention的transformer结构构建的。上述编码模块，具体用于：构建所述目标表格中每个单元格的输入嵌入向量，所述输入嵌入向量包括：列名嵌入和单元格取值嵌入；通过所述表格编码器中的所述criss-cross attention，分别计算每个所述单元格与每个所述单元格所在行和/或所在列中其他单元格的注意力权重；基于所述注意力权重，对所述单元格的输入嵌入向量进行加权聚合，得到每个所述单元格的编码向量；根据所述目标表格中所有单元格的编码向量，生成所述目标表格的结构化语义表示。

23、再一种可能的实现方式，上述表格编码器是经过预训练后得到的。上述编码模块，具体用于：通过掩码遮盖第一样本表格中的部分单元格；利用所述表格编码器基于上下文预测被掩盖单元格的内容；基于所述第一样本表格的真实被遮盖内容和预测被遮盖内容，计算得到掩码重建损失函数；通过从第一样本表格中随机采集两个第一样本子表格，以及从第二样本表格采集一个第二样本子表格，所述第一样本表格和所述第二样本表格为不同的表格；利用所述表格编码器分别对所述两个第一样本子表格和所述第二样本子表格进行编码，基于不同样本子表格之间的语义距离，计算得到对比学习损失函数；基于所述掩码重建损失函数和/或所述对比学习损失函数，对所述表格编码器进行预训练。

24、再一种可能的实现方式，上述表格适配器采用瓶颈式线性映射结构。上述表格适配模块，具体用于：通过所述瓶颈式线性映射结构，将所述结构化语义表示从第一维度映射至第二维度，所述第二维度小于所述第一维度；通过非线性激活函数对降维后的结构化语义表示进行激活处理，得到激活处理后的结构化语义表示；将所述激活处理后的结构化语义表示，从所述第二维度升维至所述语言模型的输入维度，得到所述表格语义特征。

25、再一种可能的实现方式，上述表格适配器是预训练后得到的。上述表格分类装置，还包括：处理模块。处理模块，用于基于对齐数据包，对所述表格适配器进行损失函数计算，得到生成损失函数和/或对比损失函数。其中，所述生成损失函数用于度量所述表格适配器对所述对齐数据包中的正样本对的相似度，所述对比损失函数用于度量所述表格适配器对所述对齐数据包中的负样本对的相似度；基于所述生成损失函数和/或所述对比损失函数，对所述表格适配器进行训练。

26、再一种可能的实现方式，上述对齐数据包括以下至少一种：表格-摘要文本对、表格-markdown文本对，或表格-问答三元组。

27、再一种可能的实现方式，上述任务描述文本是采用预设的提示模板构建的；所述提示模板包括以下字段中的至少一项：背景信息字段，所述背景信息字段用于描述所述目标表格的来源领域和/或字段含义；输入数据字段，所述输入数据字段用于指示所述目标表格的数据内容；任务描述字段，所述任务描述字段用于说明分类任务的类别数量和/或各类别的定义；输出格式字段，所述输出格式字段用于指定所述分类结果的输出格式。

28、第二方面提供的表格分类装置，用于执行上述第一方面或第一方面的任一种可能的实现方式提供的表格分类方法，第二方面中任意一种实现方式所对应的技术效果，可参见上述第一方面中任意一种实现方式所对应的技术效果，此处不再赘述。

29、第三方面，本技术实施例提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述任一种所述表格分类方法。

30、第四方面，本技术实施例提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述表格分类方法。

31、第五方面，本技术实施例提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述任一种所述的表格分类方法。

32、第六方面，本技术实施例提供一种芯片，包括至少一个处理器，所述处理器用于执行程序指令以实现如上述任一种所述表格分类方法。

33、上述第三方面至第六方面提供的方案，用于实现上述第一方面提供的方法，其具体实现不再一一赘述。上述第三方面至第六方面提供的方案中任意一种实现方式所对应的技术效果，可参见上述第一方面中任意一种实现方式所对应的技术效果，此处不再赘述。

34、需要说明的是，上述各个方面中的任意一个方面的各种可能的实现方式，在方案不矛盾的前提下，均可以进行组合。