一种用于老挝语场景的多模型智能路由方法、设备及介质与流程

本说明书涉及智能路由，尤其涉及一种用于老挝语场景的多模型智能路由方法、设备及介质。

背景技术：

1、在以老挝语为核心的大模型服务平台，即“老挝国家大模型”服务体系中，需要同时接入并处理多种类型的用户请求，主要包括基于老挝语的本地知识查询（涉及老挝人文历史、本地文化、地理政策等）、老挝语简单对话（生活常识类问答）、老挝语复杂推理任务（深度逻辑推断与多步骤分析）、中英文通用知识问答（非翻译类跨语言请求）以及老挝语与其他语言之间的翻译任务。

2、在上述多类型请求并存的服务架构中，若将所有请求统一路由至单一大参数语言模型处理，存在一系列问题。首先，对简单对话（如生活常识问答）、短文本翻译等低复杂度任务，大参数模型具备远超任务需求的计算能力，将此类任务全部路由至大参数模型，会消耗大量gpu算力资源，导致推理成本居高不下。并且，通用大语言模型对老挝本地文化、历史等领域知识的掌握程度，远不及专门针对老挝语本地知识进行训练和对齐的老挝语本地化大模型（sovereign llm），若将老挝语本地知识查询统一路由至通用大参数模型处理，会导致答案质量无法满足老挝语用户的本地化诉求，且在文化价值观一致性方面存在风险。

3、现有路由方案中依赖基于关键词或正则表达式的固定规则进行路由判断，通过预置关键词库和匹配规则对请求进行分类；另一类方案则将路由决策交由大参数语言模型完成，即通过提示词引导大模型对用户请求进行意图分类并输出路由标签。在多语言服务场景中，尤其是针对老挝语等低资源语言，现有路由方案普遍缺乏对低资源语言特异性的感知能力，例如老挝语书写无显式词边界、语料稀缺导致预训练模型词表覆盖不足等低资源语言特性，这些因素使得通用语义编码方法在面向老挝语请求时无法保证提取语义表示的准确性，进而影响路由分类的精度。

4、在构建面向老挝语等多语言场景的大模型服务平台的过程中，因现有路由方案在语义理解的深度以及对低资源语言特异性的适配能力上存在不足，导致路由决策的准确性难以保障。

技术实现思路

1、本说明书一个或多个实施例提供了一种用于老挝语场景的多模型智能路由方法、设备及介质，用于解决如下技术问题：在构建面向老挝语等多语言场景的大模型服务平台的过程中，因现有路由方案在语义理解的深度以及对低资源语言特异性的适配能力上存在不足，导致路由决策的准确性难以保障。

2、本说明书一个或多个实施例采用下述技术方案：

3、本说明书一个或多个实施例提供一种用于老挝语场景的多模型智能路由方法，应用于智能路由服务平台，所述智能路由服务平台部署有老挝语语义分类器模型和多个目标处理模型，所述老挝语语义分类器模型包括语义编码子模块和多维度分类头子模块，所述方法包括：接收用户终端发送的原始自然语言请求文本，确定所述原始自然语言请求文本对应的标准词元序列，以通过所述语义编码子模块对所述标准词元序列进行全局语义建模，确定所述原始自然语言请求文本的语义表示向量；通过所述多维度分类头子模块，对所述语义表示向量进行多维度分类预测，确定对应的多维度分类标签组合，其中，所述多维度分类标签组合包括语言类型标签、任务类型标签和复杂度等级标签；根据所述多维度分类标签组合，查询预先设置的路由规则表，以确定目标处理模型对应的路由目标地址，按照所述路由目标地址将所述原始自然语言请求文本路由至所述目标处理模型进行推理。

4、本说明书一个或多个实施例提供一种用于老挝语场景的多模型智能路由设备，包括：

5、至少一个处理器；以及，

6、与所述至少一个处理器通信连接的存储器；其中，

7、所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述方法。

8、本说明书一个或多个实施例提供的一种非易失性计算机存储介质，存储有计算机可执行指令，所述计算机可执行指令设置为：执行上述方法。

9、本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果：

10、通过确定标准词元序列，使后续的语义编码子模块能够在统一的词元标识序列上执行全局语义建模，将请求从原始的字符序列形式转化为可被transformer编码器处理的数值化输入形式，标准词元序列的确定过程使得老挝语请求中每个有效字符均可以转换为对应的词元标识，不存在因规则词库未覆盖而被忽略或误匹配的情形，从而在输入层面保证了请求文本的完整性和准确性；通过语义编码子模块中的预训练语言模型transformer编码器，将请求文本转换为固定维度的语义表示向量，保留词元经过全局语义交互后的综合语义信息，从根源上解决了固定规则方案对老挝语自然语言请求多样性适配能力差的技术问题。同时，语义编码子模块的参数量远小于通用大参数语言模型，其在路由阶段引入的推理延迟和计算资源消耗均处于可接受的范围，不会成为整个服务链路的性能瓶颈；通过多维度分类头子模块中并联的多个独立分类头，在同一语义表示向量上同时执行多个维度的分类预测，保证了多维分类结果之间的解耦性，避免了为每个维度单独部署编码器所带来的计算资源开销，实现了分类精细度与计算效率的兼顾。通过将多个维度的分类标签汇聚为多维度分类标签组合，查询路由规则表，能够从多个目标处理模型中精确选择出与请求各维度属性均匹配的最优模型，实现了基于多维度信息的联合路由决策。解决了现有路由方案因语义理解深度不足和对低资源语言特异性适配能力不足而导致的决策准确性难以保障的技术问题，实现了在老挝语低资源语言场景下多模型路由决策的精细化、准确化和可维护化，在保障各类请求处理质量的同时实现了计算资源的高效利用和响应延迟的有效控制。

1.一种用于老挝语场景的多模型智能路由方法，其特征在于，应用于智能路由服务平台，所述智能路由服务平台部署有老挝语语义分类器模型和多个目标处理模型，所述老挝语语义分类器模型包括语义编码子模块和多维度分类头子模块，所述方法包括：

2.根据权利要求1所述的一种用于老挝语场景的多模型智能路由方法，其特征在于，确定所述原始自然语言请求文本对应的标准词元序列，具体包括：

3.根据权利要求2所述的一种用于老挝语场景的多模型智能路由方法，其特征在于，通过所述语义编码子模块中预设的预训练语言模型的词表，对所述规范化请求文本进行词元化处理，生成词元标识序列，具体包括：

4.根据权利要求1所述的一种用于老挝语场景的多模型智能路由方法，其特征在于，所述多维度分类头子模块包括并联的多个分类头，通过所述多维度分类头子模块，对所述语义表示向量进行多维度分类预测，确定对应的多维度分类标签组合，具体包括：

5.根据权利要求4所述的一种用于老挝语场景的多模型智能路由方法，其特征在于，通过每个所述分类头对所述语义表示向量进行线性变换，并通过预设的归一化指数函数映射，确定所述原始自然语言请求文本在对应标签类型维度上的概率分布，具体包括：

6.根据权利要求1所述的一种用于老挝语场景的多模型智能路由方法，其特征在于，所述方法还包括：

7.根据权利要求1所述的一种用于老挝语场景的多模型智能路由方法，其特征在于，所述多维度分类标签组合还包括文化敏感度标签，所述方法还包括：

8.根据权利要求1所述的一种用于老挝语场景的多模型智能路由方法，其特征在于，所述目标处理模型包括通用大参数语言模型、老挝语本地化大模型和老挝语翻译模型，当所述路由目标地址对应的所述目标处理模型为通用大参数语言模型时，所述方法还包括：

9.一种用于老挝语场景的多模型智能路由设备，其特征在于，所述设备包括：

10.一种非易失性计算机存储介质，存储有计算机可执行指令，其特征在于，所述计算机可执行指令设置为：执行如权利要求1-8任一所述的方法。