基于轻量级语言模型的意图识别方法及装置与流程
本发明涉及人工智能与自然语言处理，具体涉及基于轻量级语言模型的意图识别方法及装置。
背景技术：
1、在人工智能与自然语言处理领域，用户意图识别是智能问答系统的核心环节。轻量级语言模型（小尺寸语言模型）因具备低推理成本和可私有化部署的优势，适用于金融等对算力和数据安全有严格要求的场景。然而，在理财产品咨询等细分业务中，用户表述方式多样、意图层级复杂，单个意图类别数量可达数十乃至上百个，如何利用轻量级语言模型在上述场景中实现高准确率的意图识别，是亟待解决的问题。
2、相关技术中，通常采用轻量级语言模型进行单次多分类推理，将全部意图类别一次性输入模型，由模型输出预测结果。然而，当分类空间过大时，轻量级语言模型受限于参数量，难以在数十乃至上百个类别中有效区分高度相似的意图类别，导致识别准确率较低。
技术实现思路
1、本发明提供了一种基于轻量级语言模型的意图识别方法及装置，以解决相关技术中进行意图识别时准确率低的问题。
2、第一方面，本发明提供了一种基于轻量级语言模型的意图识别方法，所述方法包括：
3、获取用户输入的自然语言文本；
4、将所述自然语言文本输入轻量级语言模型，执行当前级意图识别，得到当前级识别结果，并根据所述当前级识别结果确定下一级分类空间；
5、将所述自然语言文本和所述下一级分类空间输入所述轻量级语言模型，执行下一级意图识别，以此类推，逐级执行直至完成全部层级的意图识别；其中，每一级的分类空间由上一级识别结果动态约束；
6、在执行每一级意图识别时，获取所述轻量级语言模型输出的所述每一级意图识别的识别结果对应的令牌序列的对数概率值，根据所述对数概率值计算所述每一级意图识别的识别结果的置信度；
7、若所述置信度低于预设阈值，则触发降级流程；所述降级流程包含至少一个采用辅助处理方式生成所述每一级意图识别的识别结果的降级步骤；
8、输出各层级识别结果。
9、在一种可选的实施方式中，所述全部层级包括四个层级，各层级之间具有父子约束关系，上一层级中的每个类别对应下一层级中的至少一个子类别；所述根据所述当前级识别结果确定下一级分类空间，包括：
10、根据所述父子约束关系，查找所述当前级识别结果对应的下一层级的所有子类别，将查找到的所有子类别组成的集合作为所述下一级分类空间。
11、在一种可选的实施方式中，所述根据所述对数概率值计算所述每一级意图识别的识别结果的置信度，包括：
12、提取所述令牌序列中每个令牌对应的对数概率值；
13、计算所述令牌序列中全部令牌的对数概率值的平均值，对所述平均值取指数，作为所述置信度。
14、在一种可选的实施方式中，所述降级流程包括：
15、将所述自然语言文本与预设规则库进行匹配；所述预设规则库中包含至少一个规则节点，所述规则节点包含关键词集合和对应的意图标签，或者包含正则表达式和对应的意图标签；遍历所述规则节点，判断所述自然语言文本是否命中所述关键词集合中的关键词或满足所述正则表达式；若命中或满足，则将命中的规则节点所对应的意图标签作为匹配结果输出，并将所述匹配结果作为所述每一级意图识别的识别结果；
16、若遍历全部规则节点后未命中，则判定匹配失败，将所述自然语言文本输入大语言模型进行推理，得到大语言模型识别结果，并将所述大语言模型识别结果作为所述每一级意图识别的识别结果；
17、若所述大语言模型推理失败，则输出预设兜底结果作为所述每一级意图识别的识别结果。
18、在一种可选的实施方式中，所述方法还包括：
19、采集所述自然语言文本对应的反馈信号；所述反馈信号包括用户主动提交的识别结果评价信息、根据识别结果输出后的用户行为确定的反馈信息以及所述降级流程执行后记录的反馈信息；
20、根据所述反馈信号确定所述自然语言文本对应的正确意图识别结果，将所述自然语言文本与所述正确意图识别结果作为新增示例加入对应层级的示例库中。
21、在一种可选的实施方式中，所述将所述自然语言文本与所述正确意图识别结果作为新增示例加入对应层级的示例库中，包括：
22、确定所述正确意图识别结果所属的层级和意图类别，将所述自然语言文本与所述正确意图识别结果作为新增示例加入所述层级和所述意图类别对应的示例池中；
23、获取所述示例池中已有示例的数量，若所述数量达到预设上限，则删除所述示例池中加入时间最早的一个示例，将所述新增示例加入所述示例池。
24、第二方面，本发明提供了一种基于轻量级语言模型的意图识别装置，所述装置包括：
25、获取模块，用于获取用户输入的自然语言文本；
26、推理模块，用于将所述自然语言文本输入轻量级语言模型，执行当前级意图识别，得到当前级识别结果，并根据所述当前级识别结果确定下一级分类空间；将所述自然语言文本和所述下一级分类空间输入所述轻量级语言模型，执行下一级意图识别，以此类推，逐级执行直至完成全部层级的意图识别；其中，每一级的分类空间由上一级识别结果动态约束；
27、置信度计算模块，用于在执行每一级意图识别时，获取所述轻量级语言模型输出的所述每一级意图识别的识别结果对应的令牌序列的对数概率值，根据所述对数概率值计算所述每一级意图识别的识别结果的置信度；
28、降级模块，用于若所述置信度低于预设阈值，则触发降级流程；所述降级流程包含至少一个采用辅助处理方式生成所述每一级意图识别的识别结果的降级步骤；
29、输出模块，用于输出各层级识别结果。
30、第三方面，本发明提供了一种电子设备，包括：存储器和处理器，存储器和处理器之间互相通信连接，存储器中存储有计算机指令，处理器通过执行计算机指令，从而执行上述第一方面或其对应的任一实施方式的基于轻量级语言模型的意图识别方法。
31、第四方面，本发明提供了一种计算机可读存储介质，该计算机可读存储介质上存储有计算机指令，计算机指令用于使计算机执行上述第一方面或其对应的任一实施方式的基于轻量级语言模型的意图识别方法。
32、第五方面，本发明提供了一种计算机程序产品，包括计算机指令，计算机指令用于使计算机执行上述第一方面或其对应的任一实施方式的基于轻量级语言模型的意图识别方法。
33、本发明提供的技术方案可以包括以下有益效果：
34、本发明提供的基于轻量级语言模型的意图识别方法，通过将自然语言文本输入轻量级语言模型并逐级执行意图识别，每一级的分类空间由上一级识别结果动态约束，避免了单次推理面对全量类别时因分类空间过大导致识别准确率下降的问题，将复杂多分类问题分解为逐级递进的多个简单分类任务，降低了每一级意图识别的分类难度，从而在轻量级语言模型有限参数量条件下提高了意图识别准确率；在执行每一级意图识别时获取该级识别结果对应的令牌序列的对数概率值并计算置信度，为每一级识别结果提供了客观的可靠性度量，使识别结果的可信程度可量化；在置信度低于预设阈值时触发包含辅助处理方式的降级流程，在不增加轻量级语言模型自身复杂度的前提下为置信度不足的识别结果提供了补充处理机制，保证了各级识别结果的可靠性和整体识别流程的鲁棒性，同时因轻量级语言模型的计算资源需求低，该方法能够在有限算力条件下实现高准确率和低延迟的意图识别。