一种基于组相对带宽策略学习的自适应数值表示优化方法及系统

本发明属于人工智能，尤其涉及一种基于组相对带宽策略学习的自适应数值表示优化方法及系统。

背景技术：

1、近年来，大语言模型在自然语言处理、内容生成、问答系统和指令跟随等任务中取得了显著进展。transformer及其改进模型通过自注意力机制建模序列内部依赖关系，已成为大语言模型的核心架构。然而，在涉及数值比较、数学计算、单位换算、科学计数法解析以及多步应用题推理的任务中，大语言模型仍然容易出现数值不稳定或不可复现的错误。

2、造成上述问题的原因之一在于，现有大语言模型通常将数字作为普通文本token处理。一个完整数值在经过分词器处理后可能被拆分为多个token，模型需要从离散token片段中恢复符号、小数点、位值、数量级和精度等连续数值结构信息。该表示方式使得数值语义被隐式地混合在普通文本token中，导致模型难以稳定感知数值大小关系和不同数值尺度下的分辨率需求。

3、现有技术中，已有方案尝试通过改变数字分词方式、显式加入位数标记、构造连续数值嵌入或基于fourier特征形成单token数值嵌入，以提升数值表示能力。但上述方法通常采用固定频率集合或固定有效带宽，将所有数值片段映射至统一的表示容量。对于小整数、极小小数、科学计数法数值和大数量级数值而言，其对表示带宽的需求并不相同；固定带宽过小会限制表示分辨率，固定带宽过大则可能引入不必要的高频自由度，增加训练噪声并降低泛化效果。

4、此外，组相对策略优化主要被用于生成式模型的输出策略优化，尚未被充分用于数值表示层中的结构参数选择。因此，如何在保持原始文本序列结构和主干模型结构基本不变的前提下，使数值表示带宽能够根据每个数值出现位置自适应调整，仍是需要解决的问题。

技术实现思路

1、本发明的目的是提供一种基于组相对带宽策略学习的自适应数值表示优化方法及系统，以解决现有语言模型将数字作为普通文本token处理时存在的数值表示不稳定、固定带宽难以适配不同数值尺度以及训练泛化能力不足的问题。

2、为实现上述目的，本发明提供一种基于组相对带宽策略学习的自适应数值表示优化方法，包括以下步骤：获取包含数值片段的原始文本数据；将所述原始文本数据映射为token序列并识别数值片段；将所述数值片段对齐至token区间，并选择头部token作为唯一附着位置；基于数值片段解析得到的实值构造fourier数值编码；通过带宽策略网络选择离散带宽；依据所述离散带宽对fourier数值编码进行裁剪并注入至语言模型隐藏表示；基于多组离散带宽配置的组级回报和组内相对优势更新带宽策略网络。

3、可选地，所述带宽策略网络基于数值的对数量级、小整数指示特征和符号特征中的至少一种输出候选离散带宽集合上的类别分布；所述裁剪后的fourier数值编码与语言模型隐藏表示的融合方式包括相加注入、拼接后投影注入和门控融合注入中的任意一种。

4、本发明还提供一种基于组相对带宽策略学习的自适应数值表示优化系统，包括数值片段识别与token对齐模块、fourier数值编码模块、带宽策略裁剪与注入模块以及组相对策略学习模块，各模块分别用于完成数值片段定位、数值编码构造、带宽选择与注入以及带宽策略更新。

5、本发明可应用于数学推理、表格理解、问答系统以及包含数值计算或数值比较的自然语言处理场景。

6、本发明公开了以下有益效果：本发明将数值表示带宽由固定超参数转化为数值出现级的可学习结构决策，能够根据不同数值片段的尺度和形态动态分配有效fourier通道数量；同时通过组相对优势更新机制稳定训练带宽策略网络。本发明无需改变原始文本序列结构、无需扩展词表、无需改变语言模型主干隐藏维度，能够提高大语言模型在数值推理任务中的稳定性和泛化能力。

1.一种基于组相对带宽策略学习的自适应数值表示优化方法，其特征在于，包括：获取包含数值片段的原始文本数据；将所述原始文本数据映射为token序列并识别其中的数值片段；将所述数值片段对齐至所述token序列中的token区间，并选择所述token区间中的头部token作为唯一附着位置；基于所述数值片段解析得到的实值构造fourier数值编码；基于所述实值的数值特征，通过带宽策略网络选择离散带宽；基于所述离散带宽对所述fourier数值编码进行带宽裁剪，并将裁剪后的fourier数值编码注入至语言模型的隐藏表示；基于多组离散带宽配置的组级回报和组内相对优势，更新所述带宽策略网络，获得自适应数值表示优化结果。

2.如权利要求1所述的基于组相对带宽策略学习的自适应数值表示优化方法，其特征在于，所述数值片段识别与token对齐包括：

3.如权利要求1所述的基于组相对带宽策略学习的自适应数值表示优化方法，其特征在于，所述fourier数值编码的构造包括：

4.如权利要求1所述的基于组相对带宽策略学习的自适应数值表示优化方法，其特征在于，所述离散带宽选择、带宽裁剪和注入包括：

5.如权利要求1所述的基于组相对带宽策略学习的自适应数值表示优化方法，其特征在于，所述带宽策略网络的更新包括：

6.一种基于组相对带宽策略学习的自适应数值表示优化系统，其特征在于，包括：数值片段识别与token对齐模块，用于获取包含数值片段的原始文本数据，将所述原始文本数据映射为token序列，识别数值片段，并将所述数值片段对齐至token区间中的头部token附着位置；fourier数值编码模块，用于基于所述数值片段解析得到的实值构造fourier数值编码；带宽策略裁剪与注入模块，用于基于数值特征选择离散带宽，依据所述离散带宽对fourier数值编码进行带宽裁剪，并将裁剪后的fourier数值编码注入至语言模型隐藏表示；组相对策略学习模块，用于基于多组离散带宽配置的组级回报和组内相对优势更新带宽策略网络。

7.如权利要求4所述的基于组相对带宽策略学习的自适应数值表示优化方法，其特征在于，所述裁剪后的fourier数值编码与语言模型隐藏表示的融合方式为相加注入、拼接后投影注入和门控融合注入三种中的任意一种。

8.如权利要求1所述的基于组相对带宽策略学习的自适应数值表示优化方法，其特征在于，基于应用场景，所述自适应数值表示优化方法包括适用于数学推理场景的数值表示优化、适用于表格理解场景的数值表示优化、适用于问答系统场景的数值表示优化以及适用于包含数值计算或数值比较的自然语言处理场景的数值表示优化。