业务需求的确定方法及其装置、电子设备及存储介质与流程

本发明涉及人工智能或其他相关，具体而言，涉及一种业务需求的确定方法及其装置、电子设备及存储介质。

背景技术：

1、随着金融科技的快速发展，金融行业的服务模式正由传统的线下网点面对面服务向线上化、智能化转型。智能语音客服系统及电话服务系统因其全天候响应、高效处理海量交互数据以及降低运营成本等优势，已成为金融机构服务客户的主要渠道。在这一过程中，积累了海量的客户与业务端之间的语音交互数据。这些语音数据不仅记录了客户的显性交易行为，更隐含了客户的深层业务需求，是金融机构进行精准服务和风险控制的重要数据资产。

2、相关技术中，采用语音交互数据对用户需求进行分析时，往往通过关键词匹配或静态规则匹配进行识别，业务端难以理解用户的实际业务需求，进而造成业务需求解读准确性低，服务质量差的技术问题。

3、针对上述的问题，目前尚未提出有效的解决方案。

技术实现思路

1、本发明实施例提供了一种业务需求的确定方法及其装置、电子设备及存储介质，以至少解决相关技术中，依据关键词匹配或静态规则匹配对语音交互数据进行处理，识别用户业务需求的方式，存在业务需求解读准确性低，服务质量差的技术问题。

2、根据本发明实施例的一个方面，提供了一种业务需求的确定方法，包括：获取目标用户与业务端的语音交互数据，通过自动语音识别技术将所述语音交互数据转换为文本序列，并对所述文本序列进行业务实体标注，生成结构化文本序列；将所述结构化文本序列输入至预训练的文本特征提取模型，通过自注意力机制提取所述结构化文本序列中各词元的语义关联特征，输出包含业务意图语义信息的文本特征向量序列；将所述语音交互数据输入预训练的语音特征提取模型，通过所述语音特征提取模型提取语音信号的声学特征，并通过上下文网络基于所述声学特征提取所述语音信号的长距离依赖特征，基于所述长距离依赖特征输出包含业务需求的语音特征向量序列；将所述文本特征向量序列和所述语音特征向量序列分别输入至双流融合模型，通过所述双流融合模型对所述文本特征向量序列和所述语音特征向量序列进行对齐处理，得到融合特征向量，将所述融合特征向量映射为所述目标用户的业务需求概率分布，基于所述业务需求概率分布确定所述目标用户的业务需求。

3、进一步地，对所述文本序列进行业务实体标注，生成结构化文本序列的步骤包括：利用分词工具对所述文本序列进行分词，得到切分后的词元序列；根据预先确定的关键词类别，对所述词元序列进行标注，得到标注标签；将所述词元序列与所述标注标签进行映射，构建结构化标注序列；对所述结构化标注序列进行序列化处理，生成所述结构化文本序列。

4、进一步地，将所述结构化文本序列输入至预训练的文本特征提取模型，通过自注意力机制计算文本序列中各词元的语义关联，输出包含业务意图语义信息的文本特征向量序列的步骤包括：将所述结构化文本序列输入至所述文本特征提取模型，通过所述文本特征提取模型的输入嵌入层将所述词元序列转化为多维特征向量；将所述多维特征向量输入至所述文本特征提取模型的编码层，通过所述编码层中n个堆叠的双向编码器进行特征提取和向量编码，提取最后一层所述双向编码器的隐藏状态作为输出，得到包含所述业务意图语义信息的所述文本特征向量序列，其中，n为正整数。

5、进一步地，将所述多维特征向量输入至所述文本特征提取模型的编码层，通过所述编码层中多个堆叠的双向编码器进行特征提取和向量编码的步骤包括：在第i个所述双向编码器中，对所述多维特征向量线性变换得到查询向量、键向量和值向量，其中，i为正整数，且i小于等于n；对于第i个所述双向编码器中的每一个注意力头，计算所述查询向量与所述键向量的点积相似度，并将所述点积相似度除以缩放因子后进行归一化处理，得到注意力权重分布；利用所述注意力权重分布对所述值向量进行加权求和，得到单个所述注意力头的输出特征，将所有所述注意力头的输出特征进行拼接，并通过线性变换矩阵对拼接后的特征进行整合,得到整合特征；将所述整合特征输入至第i个所述双向编码器的前馈神经网络，输出业务意图特征向量序列。

6、进一步地，将所述语音交互数据输入预训练的语音特征提取模型，通过所述语音特征提取模型提取语音信号的声学特征，并通过上下文网络基于所述声学特征提取所述语音信号的长距离依赖特征，基于所述长距离依赖特征输出包含业务需求的语音特征向量序列的步骤包括：将所述语音交互数据输入至所述语音特征提取模型中的语音特征编码器，提取所述语音交互数据中的交互特征表示，其中，语音特征提取模型包括多层所述卷积神经网络；将所述交互特征表示输入至所述语音特征提取模型中的上下文网络，由所述上下文网络的每一层双向编码器通过自注意力机制提取语音信号的长距离依赖特征，得到包含业务需求的语音特征向量序列，其中，所述上下文网络包括m层堆叠的双向编码器，m为正整数。

7、进一步地，通过所述双流融合模型对所述文本特征向量序列和所述语音特征向量序列进行对齐处理，得到融合特征向量的步骤包括：利用所述双流融合模型的交叉注意力机制，对所述文本特征向量序列和所述语音特征向量序列进行对齐处理；对对齐处理后的所述文本特征向量序列和所述语音特征向量序列进行全局平均池化处理，得到文本特征向量和语音特征向量；将所述文本特征向量和所述语音特征向量进行相加，得到所述融合特征向量。

8、进一步地，将所述融合特征向量映射为所述目标用户的业务需求概率分布的步骤包括：基于所述融合特征向量计算所述目标用户与预置的业务需求之间的匹配度值； 基于所述匹配度值构建所述目标用户的业务需求概率分布。

9、根据本发明实施例的另一方面，还提供了一种业务需求的确定装置，包括：获取单元，用于获取目标用户与业务端的语音交互数据，通过自动语音识别技术将所述语音交互数据转换为文本序列，并对所述文本序列进行业务实体标注，生成结构化文本序列；提取单元，用于将所述结构化文本序列输入至预训练的文本特征提取模型，通过自注意力机制提取所述结构化文本序列中各词元的语义关联特征，输出包含业务意图语义信息的文本特征向量序列；输出单元，用于将所述语音交互数据输入预训练的语音特征提取模型，通过所述语音特征提取模型提取语音信号的声学特征，并通过上下文网络基于所述声学特征提取所述语音信号的长距离依赖特征，基于所述长距离依赖特征输出包含业务需求的语音特征向量序列；确定单元，用于将所述文本特征向量序列和所述语音特征向量序列分别输入至双流融合模型，通过所述双流融合模型对所述文本特征向量序列和所述语音特征向量序列进行对齐处理，得到融合特征向量，将所述融合特征向量映射为所述目标用户的业务需求概率分布，基于所述业务需求概率分布确定所述目标用户的业务需求。

10、进一步地，所述获取单元包括：第一分词模块，用于利用分词工具对所述文本序列进行分词，得到切分后的词元序列；第一标注模块，用于根据预先确定的关键词类别，对所述词元序列进行标注，得到标注标签；第一映射模块，用于将所述词元序列与所述标注标签进行映射，构建结构化标注序列；第一生成模块，用于对所述结构化标注序列进行序列化处理，生成所述结构化文本序列。

11、进一步地，所述提取单元包括：第一转化模块，用于将所述结构化文本序列输入至所述文本特征提取模型，通过所述文本特征提取模型的输入嵌入层将所述词元序列转化为多维特征向量；第一提取模块，用于将所述多维特征向量输入至所述文本特征提取模型的编码层，通过所述编码层中n个堆叠的双向编码器进行特征提取和向量编码，提取最后一层所述双向编码器的隐藏状态作为输出，得到包含所述业务意图语义信息的所述文本特征向量序列，其中，n为正整数。

12、进一步地，所述第一提取模块包括：第一变换子模块，用于在第i个所述双向编码器中，对所述多维特征向量线性变换得到查询向量、键向量和值向量，其中，i为正整数，且i小于等于n；第一计算子模块，用于对于第i个所述双向编码器中的每一个注意力头，计算所述查询向量与所述键向量的点积相似度，并将所述点积相似度除以缩放因子后进行归一化处理，得到注意力权重分布；第一求和子模块，用于利用所述注意力权重分布对所述值向量进行加权求和，得到单个所述注意力头的输出特征，将所有所述注意力头的输出特征进行拼接，并通过线性变换矩阵对拼接后的特征进行整合,得到整合特征；第一输入子模块，用于将所述整合特征输入至第i个所述双向编码器的前馈神经网络，输出业务意图特征向量序列。

13、进一步地，所述输出单元包括：第二提取模块，用于将所述语音交互数据输入至所述语音特征提取模型中的语音特征编码器，提取所述语音交互数据中的交互特征表示，其中，语音特征提取模型包括多层所述卷积神经网络；第三提取模块，用于将所述交互特征表示输入至所述语音特征提取模型中的上下文网络，由所述上下文网络的每一层双向编码器通过自注意力机制提取语音信号的长距离依赖特征，得到包含业务需求的语音特征向量序列，其中，所述上下文网络包括m层堆叠的双向编码器，m为正整数。

14、进一步地，所述确定单元包括：第一对齐模块，用于利用所述双流融合模型的交叉注意力机制，对所述文本特征向量序列和所述语音特征向量序列进行对齐处理；第一处理模块，用于对对齐处理后的所述文本特征向量序列和所述语音特征向量序列进行全局平均池化处理，得到文本特征向量和语音特征向量；第一相加模块，用于将所述文本特征向量和所述语音特征向量进行相加，得到所述融合特征向量。

15、进一步地，所述确定单元还包括：第一计算模块，用于基于所述融合特征向量计算所述目标用户与预置的业务需求之间的匹配度值；第一构建模块，用于基于所述匹配度值构建所述目标用户的业务需求概率分布。

16、根据本发明实施例的另一方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质包括存储的计算机程序，其中，在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行上述任意一项业务需求的确定方法。

17、根据本发明实施例的另一方面，还提供了一种电子设备，包括一个或多个处理器和存储器，所述存储器用于存储一个或多个程序，其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现上述任意一项业务需求的确定方法。

18、根据本发明实施例的另一方面，还提供了一种计算机程序产品，所述计算机程序产品包括计算机程序，其中，所述计算机程序被处理器执行时实现上述任意一项业务需求的确定方法。

19、在本技术中，通过以下步骤：获取目标用户与业务端的语音交互数据，通过自动语音识别技术将语音交互数据转换为文本序列，并对文本序列进行业务实体标注，生成结构化文本序列；将结构化文本序列输入至预训练的文本特征提取模型，通过自注意力机制提取结构化文本序列中各词元的语义关联特征，输出包含业务意图语义信息的文本特征向量序列；将语音交互数据输入预训练的语音特征提取模型，通过语音特征提取模型提取语音信号的声学特征，并通过上下文网络基于声学特征提取语音信号的长距离依赖特征，基于长距离依赖特征输出包含业务需求的语音特征向量序列；将文本特征向量序列和语音特征向量序列分别输入至双流融合模型，通过双流融合模型对文本特征向量序列和语音特征向量序列进行对齐处理，得到融合特征向量，将融合特征向量映射为目标用户的业务需求概率分布，基于业务需求概率分布确定目标用户的业务需求。

20、在本技术中，采用预训练的文本特征提取模型，利用自注意力机制深入挖掘文本序列中各词元的语义关联，精准捕捉用户在特定语境下的深层业务意图，同步引入语音特征提取模型，提取声学特征并通过上下文网络捕捉语音信号的长距离依赖特征，从而量化沟通流畅度、用户需求偏好以及交互质量，实现了对用户真实业务意图的精准捕捉与量化评估，采用双流融合模型中的交叉注意力机制，实现了文本语义与语音声学特征的细粒度对齐，基于融合特征向量计算业务需求概率分布，量化了客户与各预置的业务需求之间的匹配程度，从而为业务端提供自动化、高精度的需求匹配，显著提升业务需求识别的精准度和服务质量。进而解决了相关技术中，依据关键词匹配或静态规则匹配对语音交互数据进行处理，识别用户业务需求的方式，存在业务需求解读准确性低，服务质量差的技术问题。