一种自动答复处理方法、装置、计算机设备和存储介质与流程

1.本技术涉及计算机技术领域，具体涉及一种自动答复处理方法、装置、计算机设备和存储介质。


背景技术：

2.随着信息科技的发展以及互联网技术的迅速发展和普及，带来了计算机设备中应用程序的繁荣。应用程序作为计算机设备功能的扩展，其不仅促进了互联网领域的繁荣发展，还给人们的日常学习生活带来了便利，成为了人们日常学习生活不可或缺的一部分。
3.为了更好地发展应用程序，开发人员往往会在应用程序中设置信息反馈窗口，以使得用户可以通过该信息反馈窗口对应用程序提出自己的反馈信息。一般情况下，在得到反馈信息后，都是人工地对反馈信息进行分类，并针对反馈信息对用户进行答复，这将降低对反馈信息进行答复的效率。


技术实现要素：

4.本技术实施例提出了一种自动答复处理方法、装置、计算机设备和存储介质，提高了在应用程序中对反馈信息进行答复的效率。
5.本技术实施例提供了一种自动答复处理方法，包括：
6.获取针对目标应用程序的反馈信息；
7.对所述反馈信息在多个不同关注维度上进行注意力特征提取，得到所述反馈信息在各个不同关注维度上的注意力特征信息；
8.对每个不同关注维度上的注意力特征信息进行全连接处理，得到所述反馈信息的目标特征信息；
9.基于所述目标特征信息对所述反馈信息进行分类处理，得到所述反馈信息的反馈类别结果；
10.根据所述反馈类别结果确定所述反馈信息的答复信息，并根据所述答复信息针对所述反馈信息进行答复处理。
11.相应的，本技术实施例还提供了一种自动答复处理装置，包括：
12.获取单元，用于获取针对目标应用程序的反馈信息；
13.注意力特征提取单元，用于对所述反馈信息在多个不同关注维度上进行注意力特征提取，得到所述反馈信息在各个不同关注维度上的注意力特征信息；
14.全连接处理单元，用于对每个不同关注维度上的注意力特征信息进行全连接处理，得到所述反馈信息的目标特征信息；
15.分类处理单元，用于基于所述目标特征信息对所述反馈信息进行分类处理，得到所述反馈信息的反馈类别结果；
16.答复处理单元，用于根据所述反馈类别结果确定所述反馈信息的答复信息，并根据所述答复信息针对所述反馈信息进行答复处理。
17.在一实施例中，所述注意力特征提取单元，包括：
18.向量转换处理子单元，用于对所述反馈信息进行向量转换处理，得到所述反馈信息对应的表示向量；
19.注意力特征提取子单元，用于对所述表示向量在多个不同关注维度上进行注意力特征提取，得到所述表示向量在各个不同关注维度上的注意力特征信息。
20.在一实施例中，所述向量转换处理子单元，包括：
21.信息提取处理模块，用于对所述反馈信息进行信息提取处理，得到所述反馈信息的多个反馈子信息；
22.向量映射处理模块，用于对每个反馈子信息进行向量映射处理，得到每个反馈子信息对应的表示向量；
23.向量融合处理模块，用于对所述每个反馈子信息对应的表示向量进行向量融合处理，得到所述反馈信息对应的表示向量。
24.在一实施例中，所述向量映射处理模块，包括：
25.统计子模块，用于对所述反馈子信息在所述反馈信息中的出现频次进行统计，得到所述反馈子信息的频次；
26.获取所述反馈子信息在预设语料库的逆向频次；
27.将所述反馈子信息的频次和所述逆向频次进行运算处理，得到所述反馈子信息的频次特征；
28.根据所述频次特征对所述反馈子信息进行映射，得到所述反馈子信息对应的标识向量。
29.在一实施例中，所述向量转换处理子单元，包括：
30.信息提取处理模块，用于对反馈信息进行信息提取处理，得到反馈信息的多个反馈子信息；
31.特征标识处理模块，用于对每个反馈子信息进行特征标识处理，得到每个反馈子信息的特征标识信息；
32.生成模块，用于根据每个反馈子信息的特征标识信息生成反馈信息对应的表示向量。
33.在一实施例中，所述注意力特征提取子单元，包括：
34.确定模块，用于确定当前关注维度下的注意力系数；
35.逻辑运算处理模块，用于将所述注意力系数和所述表示向量进行逻辑运算处理，得到所述表示向量在当前关注维度下的注意力特征信息。
36.在一实施例中，所述全连接处理单元，包括：
37.信息融合处理子单元，用于对每个关注维度上的注意力特征信息进行信息融合处理，得到所述反馈信息的目标注意力特征信息；
38.非线性映射子单元，用于将所述目标注意力特征信息进行非线性映射，得到所述反馈信息对应的目标特征信息。
39.在一实施例中，所述信息融合处理子单元，包括：
40.测评模块，用于对每个注意力特征信息进行测评，得到每个注意力特征信息的精确因子，所述精确因子表征所述注意力特征信息的精确度；
41.拼接模块，用于根据所述精确因子，将每个关注维度上的注意力特征信息进行拼接，得到所述反馈信息的目标注意力特征信息。
42.在一实施例中，所述分类处理单元，包括：
43.概率映射处理子单元，用于对所述目标特征信息进行类别概率映射处理，得到所述反馈信息的类别概率；
44.确定子单元，用于根据所述类别概率确定所述反馈信息的反馈类别结果。
45.在一实施例中，所述答复处理单元，包括：
46.匹配子单元，用于将所述反馈类别结果和预设类别答复表中的预设反馈类别进行匹配，得到匹配结果；
47.确定子单元，用于根据匹配结果在所述预设类别答复表中确定所述反馈信息对应的答复信息；
48.显示子单元，用于在目标应用程序中显示所述答复信息。
49.本技术实施例还提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述一方面的各种可选方式中提供的方法。
50.相应的，本技术实施例还提供一种存储介质，所述存储介质存储有指令，所述指令被处理器执行时实现本技术实施例任一提供的自动答复处理方法。
51.本技术实施例可以获取针对目标应用程序的反馈信息；对反馈信息在多个不同关注维度上进行注意力特征提取，得到反馈信息在各个不同关注维度上的注意力特征信息；对每个不同关注维度上的注意力特征信息进行全连接处理，得到反馈信息的目标特征信息；基于目标特征信息对反馈信息进行分类处理，得到反馈信息的反馈类别结果；根据反馈类别结果确定反馈信息的答复信息，并根据答复信息针对反馈信息进行答复处理，提高了在应用程序中对反馈信息进行答复的效率。
附图说明
52.为了更清楚地说明本技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本技术的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
53.图1是本技术实施例提供的自动答复处理方法的场景示意图；
54.图2是本技术实施例提供的自动答复处理方法的流程示意图；
55.图3是本技术实施例提供的对反馈信息进行信息提取处理的场景示意图；
56.图4是本技术实施例提供的混淆矩阵的场景示意图；
57.图5是本技术实施例提供的模型蒸馏处理的场景示意图；
58.图6是本技术实施例提供的自动答复处理方法的又一流程示意图；
59.图7是本技术实施例提供的自动答复处理装置的结构示意图；
60.图8是本技术实施例提供的终端的结构示意图。
具体实施方式
61.下面将结合本技术实施例中的附图，对本技术实施例中的技术方案进行清楚、完整地描述，然而，所描述的实施例仅仅是本技术一部分实施例，而不是全部的实施例。基于本技术中的实施例，本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本技术保护的范围。
62.本技术实施例提出了一种自动答复处理方法，该自动答复处理方法可以由自动答复处理装置执行，该自动答复处理装置可以集成在计算机设备中。其中，该计算机设备可以包括终端以及服务器等中的至少一个。即，本技术实施例提出的自动答复处理方法即可以由终端执行，还可以由服务器执行，还可以由能够进行互相通信的终端和服务器共同执行。
63.其中，终端可以为智能手机、平板电脑、笔记本电脑、个人电脑(personal computer，pc)、智能家居、可穿戴电子设备、vr/ar设备、车载计算机等等。服务器可以为多个异构系统之间的互通服务器或者后台服务器，还可以是独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、以及大数据和人工智能平台等基础云计算服务的云服务器等等。
64.在一实施例中，如图1所述，自动答复处理装置可以集成在终端或服务器等计算机设备上，以实施本技术实施例提出的异常对象检测方法。具体地，计算机设备可以获取针对目标应用程序的反馈信息；对反馈信息在多个不同关注维度上进行注意力特征提取，得到反馈信息在各个不同关注维度上的注意力特征信息；对每个不同维度上的注意力特征信息进行全连接处理，得到反馈信息的目标特征信息；基于目标特征信息对反馈信息进行分类处理，得到反馈信息的反馈类别结果；根据反馈类别结果确定反馈信息的答复信息，并根据答复信息针对反馈信息进行答复处理。
65.以下分别进行详细说明，需要说明的是，以下实施例的描述顺序不作为对实施例优选顺序的限定。
66.本技术实施例将从自动答复处理装置的角度进行描述，该自动答复处理装置可以集成在计算机设备中，该计算机设备可以是服务器，也可以是终端等设备。
67.如图2所述，提供了一种自动答复处理方法，具体流程包括：
68.110、获取针对目标应用程序的反馈信息。
69.其中，应用程序包括完成某项或多项特定功能的计算机程序，它运行在交互模式，可以和应用程序的使用对象进行交互，具有可视的显示界面。
70.例如，应用程序可以包括各种终端上的应用软件。例如，应用程序可以包括各种手机软件(application，app)、平板电脑应用软件、笔记本电脑上的应用软件、个人计算机(pc，personal computer)上的应用软件，等等。
71.例如，应用程序可以包括浏览器、视频播放软件、游戏软件等等。
72.又例如，应用程序还可以包括小程序。其中，小程序(mini program)是一种不需要下载安装即可使用的应用程序。为了向用户提供更多样化的业务服务，开发者可为终端的应用(例如即时通信应用、购物应用、邮件应用等)开发相应的小程序，该小程序可作为子应用被嵌入至终端的应用中，通过运行应用内的子应用(即对应的小程序)能够为用户提供相应的业务服务。
73.其中，目标应用程序包括当前需要对该目标应用程序中的反馈信息自动答复处理的应用程序。例如，当需要对某款app中的反馈信息进行自动答复处理时，该款app便为目标应用程序。又例如，当需要到某款小程序进行自动答复处理时，该款小程序便为目标应用程序。
74.其中，反馈信息包括目标应用程序的使用对象对目标应用程序进行反馈的信息。例如，该反馈信息可以包括使用对象对目标应用程序的建议信息、投诉信息，表扬信息等等。
75.在一实施例中，为了提高本技术实施例提出的自动答复处理方法的准确度和场景适用性，本技术实施例可以从粗粒度上和细粒度上为反馈信息划分了反馈类别。其中，粗粒度可以是对反馈信息进行一次划分反馈类别，而细粒度则是在粗粒度的基础上对反馈信息进行二次划分反馈类别。
76.其中，在粗粒度上，可以根据反馈信息的性质为反馈信息划分反馈类别。例如，在粗粒度上，根据反馈信息的性质可以将反馈信息划分为建议信息、投诉信息和表扬信息等反馈类别。
77.其中，在细粒度上，可以根据反馈信息的内容在粗粒度的基础上为反馈信息继续划分反馈类别。例如，当反馈信息为投诉信息时，可以将反馈信息进一步地划分为产品体验类的投诉信息、系统漏洞类的投诉信息和费用类的投诉信息，等等。又例如，当反馈信息为建议信息时，可以将反馈信息进一步地划分为产品体验类的建议信息、系统漏洞类的建议信息，等等。又例如，当反馈信息为表扬信息时，可以将表扬信息进一步地划分为产品体验类的表扬信息，等等。
78.在一实施例中，该反馈信息可以以文本的形式呈现。例如，该反馈信息可以是对目标应用程序的投诉文本。又例如，该反馈信息可以是对目标应用程序的建议文本。又例如，该反馈信息可以是对目标应用程序的表扬文本，等等。
79.120、对反馈信息在多个不同关注维度上进行注意力特征提取，得到反馈信息在各个不同关注维度上的注意力特征信息。
80.在一实施例中，由于反馈信息可以包括使用对象对目标应用程序的建议信息、投诉信息，表扬信息等等，且每种类别的反馈信息还可以在细粒度上继续划分类别。因此，在获取到针对目标应用程序的反馈信息之后，可以对反馈信息在多个不同关注维度上进行注意力特征提取，从而更好地识别出反馈信息的反馈类别结果，以提高本技术实施例提出的自动答复处理方法的准确率。
81.其中，在对反馈信息进行注意力特征提取时，可以采取多头注意力机制(multi
‑
head
‑
attention)对反馈信息进行注意力特征提取。
82.其中，注意力机制源于对人类视觉的研究。在认知科学中，由于信息处理的瓶颈，人类会选择性地关注所有信息的一部分，同时忽略其他可见的信息。上述机制通常被称为注意力机制。人类视网膜不同的部位具有不同程度的信息处理能力，即敏锐度，只有视网膜中央凹部位具有最强的敏锐度。为了合理利用有限的视觉信息处理资源，人类需要选择视觉区域中的特定部分，然后集中关注它。例如，人们在阅读时，通常只有少量要被读取的词会被关注和处理。
83.综上，注意力机制主要有两个方面：决定需要关注输入的哪部分；分配有限的信息
处理资源给重要的部分。而多头注意力机制是利用多个查询，来平行地计算从输入信息中选取多个信息。其中，每头注意力关注输入信息的不同部分，每头注意力所关注的部分都可以作为一个关注维度。
84.在一实施例中，由于反馈信息往往是以文本的形式呈现，因此在对反馈信息进行注意力特征提取时，可以先对该反馈信息进行向量转换处理，从而得到该反馈信息对应的表示向量，并通过对该表示向量进行注意力特征提取，从而得到反馈信息的注意力特征信息。具体地，步骤“对反馈信息在多个不同关注维度上进行注意力特征提取，得到反馈信息在各个不同关注维度上的注意力特征信息”，可以包括：
85.对反馈信息进行向量转换处理，得到反馈信息对应的表示向量；
86.对表示向量在多个不同关注维度上进行注意力特征提取，得到表示向量在各个不同关注维度上的注意力特征信息。
87.通过对反馈信息进行向量转换处理，得到该反馈信息的表示向量，从而使得后续可以对该表示向量进行处理，提高了本技术实施例提出的自动答复处理方法的效率。
88.其中，表示向量包括可以表示反馈信息的向量。
89.其中，注意力特征信息包括在当前关注维度下可以表示向量的特征的信息。
90.在一实施例中，由于计算机设备一般只能对数值进行处理，所以在利用计算机设备对反馈信息进行注意力特征提取时，需要先对反馈信息进行向量转换处理，得到反馈信息对应的表示向量。例如，当反馈信息为“你们这个app总是卡顿”时，其对应的表示向量可以为[1，1，1，0，0，0，1，1]，等等。
[0091]
在一实施例中，在对反馈信息进行向量转换处理时，可以先对反馈信息进行信息提取处理，得到反馈信息的多个反馈子信息。然后，对每个反馈子信息进行向量映射处理，得到每个反馈子信息对应的表示向量。最后，对每个反馈子信息对应的表示向量进行向量融合处理，从而得到反馈信息对应的表示向量。具体地，步骤“对反馈信息进行向量转换处理，得到反馈信息对应的表示向量”，可以包括：
[0092]
对反馈信息进行信息提取处理，得到反馈信息的多个反馈子信息；
[0093]
对每个反馈子信息进行向量映射处理，得到每个反馈子信息对应的表示向量；
[0094]
对每个反馈子信息对应的表示向量进行向量融合处理，得到反馈信息对应的表示向量。
[0095]
通过对反馈信息进行信息提取处理，得到反馈信息的多个反馈子信息之后，对每个反馈子信息进行向量映射处理，提高了对反馈信息进行向量转换处理的效率，从而提高了本技术实施例提出的自动答复处理方法的效率。
[0096]
其中，反馈子信息包括反馈信息中其中一部分的信息。例如，当反馈信息为投诉文本时，该反馈子信息可以为投诉文本当中的词语，或者句子等等。例如，当反馈信息为“你们这个app总是卡顿”时，该反馈子信息可以包括“你”、“们”、“这”、“个”、“app”、“总”“是”“卡”“顿”，等等。又例如，该反馈子信息还可以包括“你们”、“这个”、“app”、“总是”、“卡顿”，等等。
[0097]
在一实施例中，在对反馈信息进行信息提取处理时，可以利用多种方式进行信息提取处理。
[0098]
例如，可以将反馈信息直接进行信息提取处理，从而得到反馈信息的多个反馈子
信息。譬如，当反馈信息为“你们这个app总是卡顿”时，可以直接将反馈信息进行信息提取处理，从而得到多个反馈子信息“你”、“们”、“这”、“个”、“app”、“总”“是”“卡”“顿”。
[0099]
又例如，可以按照词性对反馈信息进行特征提取处理，从而得到反馈信息的多个反馈子信息。譬如，当反馈信息为“你们这个app总是卡顿”时，可以按照词性将反馈信息进行信息提取处理，从而得到多个反馈子信息“你们”、“这个”、“app”、“总是”、“卡顿”，等等。
[0100]
又例如，可以利用滑动窗口法对反馈信息进行信息提取处理，从而得到反馈信息的多个反馈子信息。例如，可以预先设置好一个具有一定尺寸大小的滑动窗口，并利用该滑动窗口对反馈信息进行特征提取。例如，如图3所示，反馈信息为“你们这个app总是卡顿”。此时，可以将滑动窗口的窗口长度设置为4，滑动窗口的滑动步长设置为1，然后利用活动窗口对反馈信息进行信息提取处理，从而得到反馈信息的多个反馈子信息。
[0101]
在一实施例中，在得到反馈信息的多个反馈子信息之后，可以对每个反馈子信息进行向量映射处理，从而得到每个子向量对应的表示向量。
[0102]
例如，可以将每个反馈子信息和预设向量映射表进行匹配，根据匹配结果确定每个子向量对应的表示向量。其中，该预设向量映射表中包括了每个子向量何其表示向量对应的映射关系。
[0103]
例如，当反馈子信息包括“你”、“们”时，根据该预设向量映射表，可以把“你”映射为[1，0，0，0，0，0]，而把“们”映射为[0，1，0，0，0，0]，等等。
[0104]
又例如，当反馈子信息包括“你们”和“这个”时，根据该预设向量映射表，可以将“你们”映射为[0，0，0，1，1，0]，而把“这个”映射为[1，1，0，0，0，0]，等等。
[0105]
在一实施例中，在得到每个反馈子信息对应的表示向量之后，可以对每个反馈子信息对应的表示向量进行向量融合处理，从而得到反馈信息对应的表示向量。
[0106]
例如，可以将每个反馈子信息对应的表示向量进行拼接，从而得到反馈信息对应的表示向量。譬如，当反馈信息的反馈子信息包括“你”和“们”时，“你”的表示向量为[1，0，0，0，0，0]，“们”的表示向量为[0，1，0，0，0，0]。将每个反馈子信息对应的表示向量进行拼接，从而得到反馈信息对应的表示向量为[[1，0，0，0，0，0],[0，1，0，0，0，0]]。
[0107]
又例如，可以将每个反馈子信息对应的表示向量进行相加，从而得到反馈信息对应的表示向量。例如，将每个反馈子信息对应的表示向量进行相加，从而得到反馈信息对应的表示向量为[1，1，0，0，0，0]。
[0108]
又例如，可以根据每个反馈子信息的信息量，为反馈子信息对应的表示向量乘上一个相应的权重系数之后，再将每个反馈子信息对应的表示向量进行相加。例如，反馈子信息包括“你们”、“这个”、“app”、“总是”、“卡顿”。其中，“卡顿”所包含的信息量较大，因此可以将“卡顿”的权重设置为5。而“你们”和“这个”所包含的信息量较少，因此可以将“你们”和“这个”的权重设置为1。然后，将每个反馈子信息对应的表示向量乘以权重后再相加，从而得到反馈信息对应的表示向量。
[0109]
在一实施例中，还可以对反馈子信息在反馈信息中的出现出现频次进行统计，得到反馈子信息的频次。然后根据反馈子信息的频次对反馈子信息进行映射。具体地，步骤“对每个反馈子信息进行向量映射处理，得到每个反馈子信息对应的表示向量”，可以包括：
[0110]
对反馈子信息在反馈信息中的出现频次进行统计，得到反馈子信息的频次；
[0111]
获取反馈子信息在预设语料库的逆向频次；
[0112]
将反馈子信息的频次和逆向频次进行运算处理，得到反馈子信息的频次特征；
[0113]
根据频次特征对反馈子信息进行映射，得到反馈子信息对应的标识向量。
[0114]
其中，反馈子信息的频次包括反馈子信息在反馈信息中的出现频次。例如，反馈子信息在反馈信息中出现了3次，则反馈子信息的频次为3。又例如，反馈子信息在反馈信息中出现了10次，则反馈子信息在反馈信息中出现了10次，等等。
[0115]
在一实施例中，频次可以用于评估反馈子信息的重要程度。一般情况下，反馈子信息在反馈信息中的频次越高，其重要程度越高。相反的，反馈子信息在反馈信息中的频次越低，其重要程度越低。
[0116]
其中，预设语料库包括预先设置好的语料库。该语料库中包括经过科学取样和加工的大规模电子文本库，其中存放的是在语言的实际应用中真实出现过的语言材料。其中，预设语料库中包括多个文档，每个文档都由文本构成。
[0117]
其中，逆向频次包括反馈子信息在预设语料库中的出现频次。
[0118]
在一实施例中，连词、助词和介词等作用词在反馈信息中的频次也很高，但是这些词的重要程度并不高，因此还需要逆向频次对反馈子信息进行评估。一般情况下，连词、助词和介词等作用词在预设语料库中的逆向频次会很高，而有实际意义的词在预设语料库中的逆向频次会比较低。因此，还可以获取反馈子信息在预设语料库的逆向频次，然后，将反馈子信息的频次和逆向频次进行运算处理，得到反馈子信息的频次特征。
[0119]
例如，可以按照以下公式将反馈子信息的频次和逆向频次进行运算处理，从而得到反馈子信息的频次特征：
[0120][0121]
其中，l
i,j
表示频次特征。tf
i,j
表示反馈子信息的频次，idf
j
表示反馈子信息的逆向频次。n
i,j
表示反馈子信息在反馈信息中的出现频次。∑
k
n
k,j
表示反馈信息中所有反馈子信息的和。|d|表示预设语料库中文档的总数。|{j:ti∈dj}|表示预设语料库中包括反馈子信息的文档总数。
[0122]
在一实施例中，在得到反馈子信息的频次特征之后，便可以根据频次特征对反馈子信息进行映射，得到反馈子信息对应的标识向量。
[0123]
在一实施例中，在对反馈信息进行向量转换处理时，可以先对先对反馈信息进行信息提取处理，得到反馈信息的多个反馈子信息。然后，计算所述多个反馈子信息之间的关联信息，并根据该关联信息生成反馈信息对应的表示向量。具体地，步骤“对反馈信息进行向量转换处理，得到反馈信息对应的表示向量”，可以包括：
[0124]
对反馈信息进行信息提取处理，得到反馈信息的多个反馈子信息；
[0125]
对每个反馈子信息进行特征标识处理，得到每个反馈子信息的特征标识信息；
[0126]
根据每个反馈子信息的特征标识信息生成反馈信息对应的表示向量。
[0127]
其中，特征标识信息可以包括表示每个反馈子信息特征的信息。例如，该标识特征信息可以包括反馈子信息的位置信息、语义信息和语法信息，等等中的至少一种。
[0128]
其中，位置信息可以包括反馈子信息之间的位置关系的信息。例如，该位置信息可以包括反馈子信息之间位置的间距，等等。例如，当反馈子信息可以包括“你”、“们”、“这”、
“
个”、“app”、“总”“是”“卡”“顿”时，该位置信息可以包括“你”和“们”之间的位置信息较近，而“你”和“顿”的位置信息较远，等等。
[0129]
其中，该语法信息可以包括反馈子信息之间的组织规则和结构关系的信息。例如，当反馈子信息包括“你”、“们”、“这”、“个”、“app”、“总”“是”“卡”“顿”时，该语法信息可以包括“们”在“你”的旁边，等等。
[0130]
其中，语义信息可以包括对反馈子信息之间的解释。例如，当反馈子信息包括“你们”、“这个”、“app”、“总是”、“卡顿”时，“你们”指的是“app”。
[0131]
在一实施例中，也可以利用多种方式对反馈信息进行信息提取处理。例如，可以将反馈信息直接进行信息提取处理，得到反馈信息的多个反馈子信息。又例如，可以按照词性对反馈信息进行特征提取处理，从而得到反馈信息的多个反馈子信息。又例如，可以利用滑动窗口法对反馈信息进行信息提取处理，从而得到反馈信息的多个反馈子信息，等等，此处不再重复阐述。
[0132]
在一实施例中，在得到反馈信息的多个反馈子信息之后，可以对每个反馈子信息进行特征标识处理，得到每个反馈子信息的特征标识信息。其中，在对每个反馈子信息进行特征标识处理时，可以根据实际需求选取对每个反馈子信息进行特征标识处理的方案。
[0133]
例如，在对每个反馈子信息进行特征标识处理时，当关注的重点是每个反馈子信息之间的位置关系时，可以在反馈子信息中确定多个目标反馈子信息，并确定每个反馈子信息与目标反馈子信息之间的位置信息，并根据该位置信息为反馈子信息添加特征标识信息。其中，可以根据反馈子信息的信息量确定目标反馈子信息。
[0134]
譬如，当反馈子信息包括“你们”、“这个”、“app”、“总是”、“卡顿”时，由于“卡顿”的信息量较大，因此可以确定“卡顿”为目标反馈子信息，并将“卡顿”的位置信息确定为0。然后计算每个反馈子信息和目标反馈子信息之间的位置间距，从而得到每个反馈子信息的位置信息。例如，“总是”和“卡顿”之间的位置间距为1，则可以将“总是”的位置信息确定为1，并将该位置信息作为特征标识信息。而“app”和“卡顿”之间的位置间隔为2，则可以将“app”的特征标识信息确定为2。
[0135]
此外，还可以在反馈子信息中确定多个目标反馈子信息。例如，可以将“app”和“卡顿”都设置为目标反馈子信息，然后计算每个反馈子信息和目标反馈子信息之间的位置间距，从而得到每个反馈子信息的位置信息，并将位置信息为反馈子信息添加特征标识信息。
[0136]
例如，可以首先以“app”为目标反馈信息，然后计算其它反馈子信息(“你们”、“这个”、“总是”、“卡顿”)和“app”之间的位置间距，从而得到每个反馈子信息的第一位置信息。
[0137]
然后，可以以“卡顿”为目标反馈信息，然后计算其它反馈子信息(“你们”、“这个”、“app”、“总是”)和“卡顿”之间的位置间距，从而得到每个反馈子信息的第二位置信息。
[0138]
然后将每个反馈子信息的第一位置信息和第二位置信息进行编码处理，从而得到每个反馈子信息的位置信息，并将该位置信息作为反馈子信息的特征标识信息。
[0139]
又例如，在对每个反馈子信息进行特征标识处理时，当关注的重点是每个反馈子信息之间的语法关系时，可以确定每个反馈子信息之间的语法信息，并根据该语法信息为反馈子信息添加标识特征信息。
[0140]
譬如，当反馈子信息包括“你”、“们”、“这”、“个”、“app”、“总”“是”“卡”“顿”时，可以记录每个反馈子信息在那个位置可以和那些反馈子信息共同使用，并根据记录结果为每
个反馈子信息添加标识特征信息。
[0141]
又例如，在对每个反馈子信息进行特征标识处理时，当关注的重点是每个反馈子信息的语义关系时，可以确定每个反馈子信息的语义信息，并根据该语义信息为反馈子信息添加标识特征信息。
[0142]
又例如，在对每个反馈子信息进行特征标识处理时，想考虑到每个反馈子信息的各个方面，则可以确定每个反馈子信息的位置信息、语法信息和语义信息，并根据每个反馈子信息的位置信息、语法信息和语义信息为每个反馈子信息添加标识特征信息。
[0143]
在一实施例中，在得到每个反馈子信息的特征标识信息之后，可以根据每个反馈子信息的特征标识信息生成反馈信息对应的表示向量。
[0144]
例如，可以将每个反馈子信息的特征标识信息拼接在一起，从而得到反馈信息对应的表示向量。又例如，可以将每个反馈子信息的特征标识信息进行加权后拼接在一起，从而得到反馈信息对应的表示向量，等等。
[0145]
譬如，当以反馈子信息的位置信息作为标识特征信息时，可以将每个反馈子信息的标识特征信息拼接在一起，从而得到反馈信息对应的表示向量。
[0146]
又譬如，当以反馈子信息的位置信息、语义信息和语法信息作为标识特征信息时，可以分别对每个反馈子信息的位置信息、语义信息和语法信息乘以对应的权重系数后进行拼接，从而得到每个反馈子信息的总标识特征信息。然后，将每个反馈子信息的总标识特征信息进行拼接，从而得到反馈信息的标识向量。
[0147]
例如，反馈子信息的位置信息、语义信息和语法信息分别为a1、a2、a3。然后，可以分别对每个反馈子信息的位置信息、语义信息和语法信息乘以对应的权重系数后进行相加，从而得到每个反馈子信息的总标识特征信息c1＝a1b1 a2b2 3c3。其中，b1、b2和b3分别是a1、a2和a3对应的权重系数。最后，可以将每个反馈子信息的总标识特征信息进行拼接，从而得到反馈信息的标识向量。
[0148]
在一实施例中，在得到反馈信息对应的表示向量之后，可以对表示向量在多个不同关注维度上进行注意力特征提取，得到表示向量在各个不同关注维度上的注意力特征信息。具体地，步骤“所述对所述表示向量在多个不同关注维度上进行注意力特征提取，得到所述表示向量在各个不同关注维度上的注意力特征信息”，可以包括：
[0149]
确定当前关注维度下的注意力系数；
[0150]
将注意力系数和表示向量进行逻辑运算处理，得到表示向量在当前关注维度下的注意力特征信息。
[0151]
其中，注意力系数包括在当前关注维度下，对表示向量进行注意力特征提取时所依据的系数。通过该注意系数，可以控制当前关注维度下，对表示向量进行注意力特征提取时的提取重点。
[0152]
在一实施例中，注意力系数可以以向量表示。向量中的数值都可以确定在当前关注维度下，对表示向量进行注意力特征提取时的提取重点。其中，注意力系数可以包括至少一个。
[0153]
在一实施例中，在得到反馈信息对应的表示向量之后，可以根据当前关注维度下的注意力系数对表示向量进行注意力特征提取，得到反馈信息在当前关注维度下的注意力特征信息。
[0154]
其中，在根据当前关注维度下的注意力系数对表示向量进行注意力特征提取之前，可以确定当前关注维度下的注意力系数。例如，对反馈信息在10个不同关注维度上进行注意力特征提取，其中，每个关注维度都对应一个注意力系数。则可以确定每一个关注维度对应的注意力系数，并根据当前关注维度下的注意力系数对表示向量进行注意力特征提取，得到反馈信息在当前关注维度下的注意力特征信息。
[0155]
在一实施例中，在根据当前关注维度下的注意力系数对表示向量进行注意力特征提取时，可以将注意力系数和表示向量进行逻辑运算处理，从而得到反馈信息在当前关注维度下的注意力特征信息。
[0156]
其中，可以利用多种方式将注意力系数和表示向量进行逻辑运算处理。
[0157]
例如，可以将注意力系数和表示向量进行相乘，从而得到表示向量在当前关注维度下的注意力特征信息。譬如，当前关注维度i下的注意力系数为d
i
，表示向量为v
i
，则在当前关注维度i下的注意力特征信息为d
i
v
i
。
[0158]
又例如，可以将注意力系数和表示向量进行点乘，等等从而得到表示向量在当前关注维度下的注意力特征信息。
[0159]
通过对反馈信息在多个不同关注维度上进行注意力特征提取，可以得到反馈信息在每个关注维度上的特征，以使得本技术实施例提出的自动答复处理可以考虑到反馈信息在各个关注维度上的特征，提高了反馈信息的目标特征信息的信息量，从而提高了本技术实施例提出的自动答复处理方法的准确率。
[0160]
130、对每个不同关注维度上的注意力特征信息进行全连接处理，得到所述反馈信息的目标特征信息。
[0161]
在一实施例中，反馈信息在各个不同关注维度上的注意力特征信息可以是反馈信息的局部注意力特征信息。因此，在得到反馈信息在各个不同关注维度上的注意力特征信息之后，可以对每个不同维度上的注意力特征信息进行全连接处理，得到反馈信息的目标特征信息。而该目标特征信息包括可以全面且准确地表示反馈信息的特征的信息。
[0162]
在一实施例中，在对对每个不同维度上的注意力特征信息进行全连接处理时，可以对每个维度上的注意力特征信息进行信息融合处理，得到反馈信息的目标注意力特征信息。然后，将目标注意力特征信息进行非线性映射，从而得到反馈信息对应的目标特征信息。具体地，步骤“对每个不同维度上的注意力特征信息进行全连接处理，得到反馈信息的目标特征信息”，可以包括：
[0163]
对每个关注维度上的注意力特征信息进行信息融合处理，得到反馈信息的目标注意力特征信息；
[0164]
将目标注意力特征信息进行非线性映射，得到反馈信息对应的目标特征信息。
[0165]
在一实施例中，由于反馈信息在各个不同关注维度上的注意力特征信息可以是反馈信息的局部注意力特征信息，因此可以首先对每个维度上的注意力特征信息进行信息融合处理，从而得到反馈信息的目标注意力特征信息。而该目标注意力信息可以包括能够全面表示反馈信息的注意力特征的信息。
[0166]
其中，可以采用多种方式对每个维度上的注意力特征信息进行信息融合处理。
[0167]
例如，可以将每个维度上的注意力特征信息进行拼接，从而得到反馈信息的目标注意力特征信息。例如，反馈信息在第一关注维度上的注意力特征信息为[0，1，1，0，0，1]，
在第二关注维度上的注意力特征信息为[1，1，1，1，0，1]。将反馈信息在第一关注维度和第二关注维度上的注意力特征信息进行拼接，则有[0，1，1，0，0，1，1，1，1，1，0，1]。
[0168]
又例如，可以将每个维度上的注意力特征信息进行相加，从而得到反馈信息的目标特征信息，等等。
[0169]
在一实施例中，在对每个关注维度上的注意力特征信息进行信息融合处理时，可以对每个注意力特征信息进行评估，得到每个注意力特征信息的精确因子，然后根据精确因子，将每个关注维度上的注意力特征信息进行拼接，得到反馈信息的目标注意力特征信息。具体地，步骤“对每个关注维度上的注意力特征信息进行信息融合处理，得到反馈信息的目标注意力特征信息”，可以包括：
[0170]
对每个注意力特征信息进行评估，得到每个注意力特征信息的精确因子，精确因子表征注意力特征信息的精确度；
[0171]
根据精确因子，将每个关注维度上的注意力特征信息进行拼接，得到反馈信息的目标注意力特征信息。
[0172]
例如，可以对每个注意特征信息和预设精确度进行匹配，从而得到注意力特征信息的精确因子。然后，将每个注意力特征信息和精确因子相乘后，再进行拼接，从而得到反馈信息的目标注意力特征信息。在一实施例中，在得到反馈信息的目标注意力特征信息之后，为了更加准确地得到反馈信息的特征，可以将目标注意力特征信息进行非线性映射，从而得到反馈信息对应的目标特征信息。通过将目标注意力特征信息进行非线性映射，可以将反馈信息映射到非线性映射空间中，这样可以更加拟合人脑对信息进行特征提取的过程，提高了获取反馈信息的目标特征信息的准确性。
[0173]
其中，可以借助多种非线性函数对目标注意力特征信息进行非线性映射。例如，可以利用sigmoid函数、tanh函数和relu激活函数等非线性函数对目标注意力特征信息进行非线性映射，从而得到目标特征信息。
[0174]
通过对每个关注维度上的注意力特征信息进行融合处理，从而使得得到的反馈信息的目标注意力特征信息可以体现反馈信息的全局特征，提高了目标注意力特征信息的信息量。而通过对目标注意力特征信息进行非线性映射，从而使得得到的目标特征信息可以更好地拟合人脑对信息进行提取的过程，提高了目标特征信息的信息完整度和准确度。
[0175]
140、基于目标特征信息对反馈信息进行分类处理，得到反馈信息的反馈类别结果。
[0176]
在一实施例中，由于反馈信息可以包括使用对象对目标应用程序的建议信息、投诉信息，表扬信息等等，因此在得到反馈信息的目标特征信息之后，可以基于目标特征信息对反馈信息进行分类处理，得到反馈信息的反馈类别结果。
[0177]
例如，通过基于目标特征信息对反馈信息进行分类处理，从而可以知道该反馈信息是建议信息，还是投诉信息，还是表扬信息。
[0178]
在一实施例中，为了更准确地得到反馈信息的反馈类别结果，本技术实施例可以从粗粒度上和细粒度上为反馈信息划分了反馈类别。其中，粗粒度可以是对反馈信息进行一次划分反馈类别，而细粒度则是在粗粒度的基础上对反馈信息进行二次划分反馈类别。
[0179]
其中，在粗粒度上，可以根据反馈信息的性质为反馈信息划分反馈类别。例如，在粗粒度上，根据反馈信息的性质可以将反馈信息划分为建议信息、投诉信息和表扬信息等
反馈类别。
[0180]
其中，在细粒度上，可以根据反馈信息的内容在粗粒度的基础上为反馈信息继续划分反馈类别。例如，当反馈信息为投诉信息时，可以将反馈信息进一步地划分为产品体验类的投诉信息、系统漏洞类的投诉信息和费用类的投诉信息，等等。又例如，当反馈信息为建议信息时，可以将反馈信息进一步地划分为产品体验类的建议信息、系统漏洞类的建议信息，等等。又例如，当反馈信息为表扬信息时，可以将表扬信息进一步地划分为产品体验类的表扬信息，等等。
[0181]
在一实施例中，在得到目标特征信息后，可以基于目标特征信息对反馈信息进行分类处理，得到反馈信息的反馈类别结果。其中，由于可以本技术实施例是对反馈信息在多个不同关注维度上进行注意力特征提取，得到反馈信息在各个不同关注维度上的注意力特征信息。然后，目标特征信息是由各个不同关注维度上的注意力特征信息进行全连接处理后得到的，所以目标特征信息可以全面地表示反馈信息的特征。因此，在基于目标特征信息对反馈信息进行分类处理时，便可以根据目标特征信息得到反馈信息在粗粒度和细粒度上的类别。
[0182]
例如，通过对目标特征信息进行分类处理，不仅可以得到目标特征信息在粗粒度上是表扬信息、投诉信息还是建议信息，而在细粒度上是那种反馈类别。
[0183]
在一实施例中，在基于目标特征信息对反馈信息进行分类处理时，可以对目标特征信息进行类别概率映射处理，得到反馈信息的类别概率。然后根据类别概率确定反馈信息的反馈类别结果。具体的，步骤“基于目标特征信息对反馈信息进行分类处理，得到反馈信息的反馈类别结果”，可以包括：
[0184]
对目标特征信息进行类别概率映射处理，得到反馈信息的类别概率；
[0185]
根据类别概率确定反馈信息的反馈类别结果。
[0186]
例如，可以将目标特征信息映射到预设类别概率空间中，从而得到反馈信息的类别概率。其中，该预设类别概率空间中包括了目标特征信息对应的类别概率。通过将目标特征信息映射到预设类别概率空间中，便可以得到该目标特征信息在预设类别概率空间中对应的类别概率，从而得到反馈信息的类别概率。在得到反馈信息的类别概率之后，便可以根据类别概率确定反馈信息的反馈类别结果。
[0187]
例如，反馈信息的类别概率显示反馈信息有95％的概率是产品体验类的投诉信息，30％的概率是系统漏洞类的投诉信息，0.1％的概率是系统漏洞类的建议信息，则可以将反馈信息确定为产品体验类的投诉信息。
[0188]
在一实施例中，上述步骤120至步骤140都可以利用目标反馈信息处理模型执行。
[0189]
例如，步骤“对反馈信息在多个不同关注维度上进行注意力特征提取，得到反馈信息在各个不同关注维度上的注意力特征信息”可以包括：
[0190]
利用目标反馈信息处理模型对反馈信息在多个不同关注维度上进行注意力特征提取，得到反馈信息在各个不同关注维度上的注意力特征信息。
[0191]
又例如，步骤“对每个不同关注维度上的注意力特征信息进行全连接处理，得到所述反馈信息的目标特征信息”，可以包括：
[0192]
利用目标反馈信息处理模型对每个不同关注维度上的注意力特征信息进行全连接处理，得到所述反馈信息的目标特征信息。
[0193]
又例如，步骤“基于目标特征信息对反馈信息进行分类处理，得到反馈信息的反馈类别结果”，可以包括：
[0194]
利用目标反馈信息处理模型基于目标特征信息对反馈信息进行分类处理，得到反馈信息的反馈类别结果。
[0195]
其中，目标反馈信息处理模型可以对目标应用程序的反馈信息进行分类处理的模型。
[0196]
其中，该目标反馈信息处理模型可以是各种人工智能模型。
[0197]
其中，人工智能(artificial intelligence,ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。
[0198]
人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
[0199]
例如，本技术实施例提出的目标反馈信息处理模型可以是与机器学习或深度学习相关的模型。例如，该目标反馈信息可以是卷积神经网络(convolutional neural networks,cnn)、反卷积神经网络(de
‑
convolutional networks,dn)、深度神经网络(deep neural networks,dnn)、深度卷积逆向图网络(deep convolutional inverse graphics networks,dcign)、基于区域的卷积网络(region
‑
based convolutional networks，rcnn)、基于区域的快速卷积网络(faster region
‑
based convolutional networks，faster rcnn)和双向编解码(bidirectional encoder representations from transformers，bert)模型等等中的任意一种。
[0200]
在一实施例中，在利用目标反馈信息处理模型执行步骤120至步骤140之前，可以先获取待训练反馈信息处理模型和训练信息集，其中，该训练信息中包括具有预设标签信息的反馈信息。然后，可以利用训练信息集中的反馈信息对待训练反馈信息处理模型进行训练，从而得到目标反馈信息处理模型。具体地，步骤“利用目标反馈信息处理模型对反馈信息在多个不同关注维度上进行注意力特征提取，得到反馈信息在各个不同关注维度上的注意力特征信息”之前，可以包括：
[0201]
获取待训练反馈信息处理模型和训练信息集，训练信息集中包括具有预设标签信息的反馈信息；
[0202]
利用具有预设标签信息的反馈信息，对待训练反馈信息处理模型进行训练处理，得到待训练反馈信息处理模型输出的反馈类别结果；
[0203]
根据反馈类别结果对待训练目标反馈信息处理模型进行模型优化处理，得到符合预设条件的优化后反馈信息处理模型；
[0204]
对优化后反馈信息处理模型进行模型蒸馏处理，得到目标反馈信息处理模型。
[0205]
其中，待训练反馈信息处理模型可以包括未符合预设条件，仍需要继续训练的模型。
[0206]
其中，训练信息集包括具有预设标签信息的反馈信息。
[0207]
其中，预设标签信息包括可以表明反馈信息的反馈类别的信息。
[0208]
在一实施例中，通过该预设标签信息便可以知道该预设标签信息对应的反馈信息的反馈类别是什么。
[0209]
例如，通过该预设标签信息可以知道该预设标签信息对应的反馈信息是投诉信息，还是表扬信息，还是建议信息，等等。
[0210]
又例如，通过该预设标签信息可以知道该预设标签信息对应的反馈信息是产品体验类的投诉信息，还是系统漏洞类的投诉信息，还是费用类的投诉信息，等等。
[0211]
在一实施例中，在获取训练信息集之前，可以对反馈信息进行采集。例如，可以预先采集若干条投诉信息、建议信息和表扬信息。然后，从采集到的反馈信息中随机抽取一定量的反馈信息添加至训练信息集中。然后，可以人工地为训练信息集中的反馈信息添加预设标签信息。其中，为了增加预设标签信息的准确性，可以两人以上为反馈信息添加预设标签信息，只有预设标签信息的一致率大于等等预设阈值时，添加的预设标签信息才达标。
[0212]
例如，获取到10000条反馈信息。然后，可以从该10000条反馈信息中选择15％的反馈信息添加至训练信息集中。然后，让至少两人以上为该反馈信息添加预设标签信息，其中每个人都不知道其它人添加的预设标签信息。然后，将每个人添加的预设标签信息进行匹配，只有匹配率大于90％时，添加的预设标签信息才达标，从而得到具有预设标签信息的反馈信息。
[0213]
在一实施例中，可以利用具有预设标签信息的反馈信息，对待训练反馈信息处理模型进行训练处理，从而得到待训练反馈信息处理模型输出的反馈类别结果。
[0214]
其中，可以选用bert模型作为待训练反馈信息处理模型，从而利用具有预设标签信息的反馈信息对bert模型进行信息。
[0215]
其中，bert模型可以具有编码和解码结构。其中，编码结构由若干个编码器堆叠形成，而解码结构可以由解码器堆叠形成。
[0216]
其中，编码器可以包括多头注意力机制和全连接层，用于将输入的反馈信息转换为目标特征信息。而解码器可以包括多头注意力机制以及全连接层，用于得到反馈信息的反馈类别结果。
[0217]
例如，在利用具有预设标签的反馈信息，对bert模型进行训练时，便是将利用bert模型中的编码器对反馈信息进行特征提取，从而得到目标特征信息。然后，利用bert模型中的解码器根据目标特征信息对反馈信息进行分类处理，从而得到反馈信息的反馈类别结果。
[0218]
具体地，当待训练反馈信息处理模型是bert模型时，该待训练反馈信息处理模型可以包括多个编码器和多个解码器，步骤“利用所述具有预设标签信息的反馈信息，对所述待训练反馈信息处理模型进行训练处理，得到所述待训练反馈信息处理模型输出的反馈类别结果”，可以包括：
[0219]
利用待训练反馈信息处理模型中的编码器对反馈信息进行特征提取，得到反馈信息的目标特征信息；
[0220]
利用待训练反馈信息处理模型中的解码器对目标特征信息进行分类处理，得到该反馈信息的反馈类别结果。
[0221]
其中，每个编码器中都可以包括多个注意力特征提取层和全连接层，其中，每个注意力特征提取层都可以具有注意力机制。则步骤“利用待训练反馈信息处理模型中的编码器对反馈信息进行特征提取，得到反馈信息的目标特征信息”，可以包括：
[0222]
利用编码器中的多个注意力特征提取层，对反馈信息在不同关注维度上进行注意力特征提取，得到反馈信息在不同关注维度上的注意力特征信息；
[0223]
将反馈信息在不同关注维度上的注意力特征信息进行信息融合处理，得到反馈信息的目标注意力特征信息；
[0224]
利用编码器中的全连接层对目标注意力特征信息进行非线性映射处理，得到反馈信息的目标特征信息。
[0225]
其中，每个解码器中可以包括多个遮盖注意力层、多头注意力特征映射层和全连接层。则可以利用编码器中的多个遮盖注意力层、多头注意力特征映射层和全连接层对目标特征信息进行处理，从而得到反馈信息对应的反馈类别结果。
[0226]
在一实施例中，在得到待训练反馈信息处理模型输出的反馈类别结果之后，可以根据预设标签信息和反馈类别结果对待训练反馈信息处理模型进行模型优化处理。具体地，步骤“根据预设标签信息和反馈类别结果对待训练反馈信息处理模型进行模型优化处理，得到符合预设条件的优化后反馈信息处理模型”，可以包括：
[0227]
按照预设指标评估逻辑对预设标签信息和反馈类别结果进行评估指标生成处理，得到待训练反馈信息处理模型的评估指标；
[0228]
根据评估指标对待训练反馈处理模型进行模型优化处理，以得到符合预设条件的优化后反馈信息处理模型。
[0229]
其中，待训练反馈信息处理模型的评估指标包括可以评估待训练反馈信息处理模型的性能优良的指标。例如，混淆矩阵、准确率、召回率、曲线下面积(area under curve，auc)和损失信息等等都可以作为待训练反馈信息处理模型的评估指标。
[0230]
其中，预设指标评估逻辑包括生成待训练反馈信息处理模型的评估指标时所需要遵循的逻辑。
[0231]
在一实施例中，由于反馈信息具有多种反馈类别，根据反馈信息的类别数量，可以采用二分类模型或多分类模型生成待训练反馈信息处理模型的评估指标。例如，当反馈信息中类别的数量只有两种时，可以采用二分类模型生成待训练反馈信息处理模型的评估指标。又例如，当反馈信息中类别的数量大于两种时，可以采用多分类模型生成待训练反馈信息处理模型的评估指标。
[0232]
其中，当采用多分类模型生成待训练反馈信息处理模型的评估指标时，不同的评估指标具有不同的预设指标评估逻辑。
[0233]
例如，当采用混淆矩阵作为待训练反馈信息处理模型的评估指标时，步骤“按照预设指标评估逻辑对预设标签信息和反馈类别结果进行评估指标生成处理，得到待训练反馈信息处理模型的评估指标”，可以包括：
[0234]
按照预设指标评估逻辑将预设标签信息和反馈类别结果进行匹配，得到匹配结果；
[0235]
按照预设指标评估逻辑根据匹配结果生成待训练反馈信息处理模型的评估指标。
[0236]
例如，反馈信息包括表扬信息、投诉信息和建议信息。在得到训练信息集中多个反
馈信息的反馈类别结果后，可以将每个反馈信息的反馈类别结果和预设标签信息进行匹配，然后根据匹配结果生成待训练反馈信息处理模型的混淆矩阵。例如，训练信息集中1500条反馈信息，其中，在这1500条反馈信息中，有1000条是投诉信息，250条是表扬信息，剩下的250条是建议信息。而在待训练反馈信息处理模型输出的反馈类别结果中，1000条投诉信息有12条被错误地分类为表扬信息，32条被错误地分类为建议信息，剩下地都被正确地分类为投诉信息。250条表扬信息有30条被错误地分类为建议信息，剩下地都被正确地分类为表扬信息。250条建议信息有8条错误地被分类为表扬信息，2条错误地被分类为投诉信息，剩下地都被正确地被分类为建议信息。此时，待训练反馈信息处理模型的混淆矩阵可以如图4所示。
[0237]
又例如，当采用损失信息作为待训练反馈信息处理模型的评估指标时，预设指标评估逻辑可以如下公式所示：
[0238][0239]
其中，y
i
可以包括反馈信息i的预设标签信息。可以包括反馈信息i的反馈类别结果。l可以包括训练信息集中反馈信息的数量。loss可以包括待训练反馈信息处理模型的损失信息。
[0240]
在一实施例中，在得到待训练反馈信息处理模型的评估指标之后，便可以根据评估指标对待训练反馈信息处理模型进行模型优化处理，以得到符合预设条件的优化后反馈信息。
[0241]
例如，可以根据评估指标对待训练反馈信息处理模型中的模型参数进行优化。例如，当待训练反馈信息处理模型是bert模型时，可以根据评估指标对bert模型编码器和解码器进行优化，从而得到评估指标符合预设条件的优化后反馈信息处理模型。
[0242]
例如，当待训练反馈信息处理模型采用准确率作为评估指标时，可以是准确率高于预设阈值，便得到符合预设条件的优化后反馈信息处理模型。又例如，当待训练反馈处理模型采用混淆矩阵作为评估指标时，可以是混淆矩阵中的值都满足预设阈值时，便得到符合预设条件的优化后反馈信息处理模型。
[0243]
在一实施例中，优化后反馈信息处理模型已经具有优良的性能，可以准确地识别出反馈信息的反馈类别。但是，优化后反馈信息处理模型往往规模较大，运行起来需要占用较大的内存空间，这对计算机设备的内存容量有较大的挑战。因此，为了使得优化后反馈信息处理模型适配于各种计算机设备，可以对优化后反馈信息处理模型进行模型蒸馏处理，得到目标反馈信息处理模型。
[0244]
其中，模型蒸馏处理可以包括能够在降低模型的存储以及运行内存，但又不会损失模型的性能的处理。
[0245]
例如，可以利用教师模型—学生模型的方式，对优化后反馈信息处理模型进行模型蒸馏处理。其中，教师模型指高复杂度、所需内存空间较大的模型，而学生模型指低复杂度且精简的模型。教师模型—学生模型的方式指利用教师模型诱导学生模型进行训练，从而实现将教师模型的知识迁移至学生模型。
[0246]
其中，教师模型—学生模型的方式可以如图5所示。其中，教师模型的预测输出除
以温度系数之后，再做softmax变换，可以得到教师模型软化的概率分布(软目标或软标签)。硬目标是训练集中训练样本的真实标签。总损失为软损失和硬损失对应的交叉熵的加权平均，其中，软目标交叉熵的加权系数越大，表明迁移诱导约依赖教师网络的贡献。
[0247]
因此，当采用教师模型—学生模型的方式对优化后反馈信息处理模型进行模型蒸馏处理时，步骤“对优化后反馈信息处理模型进行模型蒸馏处理，得到目标反馈信息处理模型”，可以包括：
[0248]
利用优化后反馈信息处理模型对多个预设反馈信息进行分类处理，得到每个预设反馈信息对应的反馈类别结果；
[0249]
根据每个预设反馈信息对应的反馈类别结果对所述优化后反馈信息处理模型进行概率分布计算处理，得到优化后反馈信息处理模型的概率分布；
[0250]
根据概率分布对预设蒸馏模型进行分布拟合处理，得到目标反馈信息处理模型。
[0251]
其中，优化后反馈信息处理模型可以指教师模型，而预设蒸馏模型可以指学生模型。
[0252]
在一实施例中，预设反馈信息可以指训练信息集中所有的具有预设标签信息的反馈信息。利用优化后反馈信息处理模型对多个预设反馈信息进行分类处理，相当于利用训练信息集中的反馈信息对优化后反馈信息处理模型进行验证，从而得到每个预设反馈信息处理模型对应的反馈类别结果。
[0253]
在得到每个预设反馈信息对应的反馈类别结果后，可以根据反馈类别结果对优化后反馈信息处理模型进行概率分布计算处理，从而得到优化后反馈信息处理模型的概率分布。其中，对优化后反馈信息处理模型进行概率分布计算处理时，可以相当于将每个预设反馈信息对应的反馈类别结果除以温度系数之后，再做softmax变化，从而得到优化后反馈信息处理模型的概率分布。
[0254]
然后，可以根据该概率分布对预设蒸馏模型进行分布拟合处理。例如，可以利用训练信息集中的预设反馈信息对预设蒸馏模型进行训练，并根据预设蒸馏模型的输出对学生模型进行优化，以使得预设蒸馏模型输出结果的概率分布和优化后反馈信息处理模型的概率分布基本拟合。当预设蒸馏模型输出结果的概率分布和优化后反馈信息处理模型的概率分布基本拟合时，说明预设蒸馏模型已经可以达到和优化后反馈信息处理模型基本相同的性能，此时，便可以将预设蒸馏模型作为目标反馈信息处理模型。
[0255]
150、根据反馈类别结果确定反馈信息的答复信息，并根据答复信息针对反馈信息进行答复处理。
[0256]
在一实施例中，在得到反馈类别结果之后，可以根据反馈类别结果确定反馈信息的答复信息，并根据答复信息针对反馈信息进行答复处理。具体地，步骤“根据反馈类别结果确定反馈信息的答复信息，并根据答复信息针对反馈信息进行答复处理”，可以包括：
[0257]
将反馈类别结果和预设类别答复表中的预设反馈类别进行匹配，得到匹配结果；
[0258]
根据匹配结果在预设类别答复表中确定反馈信息对应的答复信息；
[0259]
生成答复信息，并将答复信息发送至目标应用程序。
[0260]
其中，预设类别答复表中包括每种反馈类别对应的答复信息。例如，预设类别答复表中包括了投诉信息、表扬信息和建议信息对应的答复信息。又例如，预设类别答复表中还包括了投诉信息中产品体验类的投诉信息、系统漏洞类的投诉信息和费用类的投诉信息等
等对应的答复信息。
[0261]
其中，答复信息包括可以针对反馈信息进行正确答复的信息。例如，当反馈信息为“你们这个app总是卡顿”时，回复信息可以是“已收到您的投诉，卡顿的原因可能是xxx，我们会尽快处理”。又例如，当反馈信息为“你们这个xx功能不错，我喜欢”时，回复信息可以是“感谢您对xx功能的喜欢，我们会继续努力的”，等等。
[0262]
在一实施例中，可以将反馈类别结果和预算类别答复表中的预设反馈类别进行匹配，从而可以根据匹配结果在预设类别答复表中确定反馈信息对应的答复信息。然后，在目标应用程序中显示该答复信息，以使得使用对象可以接收到反馈信息的答复。
[0263]
本技术实施例提出了一种自动答复处理方法，该自动答复处理方法包括：获取针对目标应用程序的反馈信息；对反馈信息在多个不同关注维度上进行注意力特征提取，得到反馈信息在各个不同关注维度上的注意力特征信息；对每个不同关注维度上的注意力特征信息进行全连接处理，得到反馈信息的目标特征信息；基于目标特征信息对反馈信息进行分类处理，得到反馈信息的反馈类别结果；根据反馈类别结果确定反馈信息的答复信息，并根据答复信息针对反馈信息进行答复处理。本技术实施例提出的自动答复处理方法可以对反馈信息进行分类，并针对反馈信息的反馈类别结果自动地进行答复处理，从而不需要借助人工对反馈信息进行回复，提高了在应用程序中对反馈信息进行答复的效率。
[0264]
根据上面实施例所描述的方法，以下将举例作进一步详细说明。
[0265]
本技术实施例将以自动答复处理方法集成在计算机设备上为例来介绍本技术实施例方法。
[0266]
在一实施例中，如图6所示，一种自动答复处理方法，具体流程如下：
[0267]
210、计算机设备获取待训练反馈信息处理模型和训练信息集，训练信息集中包括具有预设标签信息的反馈信息。
[0268]
220、计算机设备利用具有预设标签信息的反馈信息，对待训练反馈信息处理模型进行训练处理，得到待训练反馈信息处理模型输出的反馈类别结果。
[0269]
230、计算机设备根据所述预设标签信息和反馈类别结果对待训练反馈信息处理模型进行模型优化处理，得到符合预设条件的优化后反馈信息处理模型。
[0270]
240、计算机设备对优化后反馈信息处理模型进行模型蒸馏处理，得到目标反馈信息处理模型。
[0271]
250、计算机设备获取针对目标应用程序的反馈信息。
[0272]
260、计算机设备利用目标反馈信息处理模型对反馈信息在多个不同关注维度上进行注意力特征提取，得到反馈信息在各个不同关注维度上的注意力特征信息。
[0273]
270、计算机设备利用目标反馈信息处理模型对每个不同关注维度上的注意力特征信息进行全连接处理，得到反馈信息的目标特征信息。
[0274]
280、计算机设备利用目标反馈信息处理模型基于目标特征信息对反馈信息进行分类处理，得到反馈信息的反馈类别结果。
[0275]
290、计算机设备根据反馈类别结果确定反馈信息的答复信息，并根据答复信息针对反馈信息进行答复处理。
[0276]
本技术实施例中，计算机设备可以获取针对目标应用程序的反馈信息；然后，计算机设备对反馈信息在多个不同关注维度上进行注意力特征提取，得到反馈信息在各个不同
关注维度上的注意力特征信息；计算机设备对每个不同关注维度上的注意力特征信息进行全连接处理，得到反馈信息的目标特征信息；计算机设备基于目标特征信息对反馈信息进行分类处理，得到反馈信息的反馈类别结果；计算机设备根据反馈类别结果确定反馈信息的答复信息，并根据答复信息针对反馈信息进行答复处理，提高了在应用程序中对反馈信息进行答复的效率。
[0277]
为了更好地实施本技术实施例提供的自动答复处理方法，在一实施例中还提供了一种自动答复处理装置，该自动答复处理装置可以集成于计算机设备中。其中名词的含义与上述自动答复处理方法中相同，具体实现细节可以参考方法实施例中的说明。
[0278]
在一实施例中，提供了一种自动答复处理装置，该自动答复处理装置具体可以集成在计算机设备中，如图7所示，该自动答复处理装置包括：获取单元310、注意力特征提取单元320、全连接处理单元330、分类处理单元340和答复处理单元350，具体如下：
[0279]
获取单元310，用于获取针对目标应用程序的反馈信息；
[0280]
注意力特征提取单元320，用于对所述反馈信息在多个不同关注维度上进行注意力特征提取，得到所述反馈信息在各个不同关注维度上的注意力特征信息；
[0281]
全连接处理单元330，用于对每个不同关注维度上的注意力特征信息进行全连接处理，得到所述反馈信息的目标特征信息；
[0282]
分类处理单元340，用于基于所述目标特征信息对所述反馈信息进行分类处理，得到所述反馈信息的反馈类别结果；
[0283]
答复处理单元350，用于根据所述反馈类别结果确定所述反馈信息的答复信息，并根据所述答复信息针对所述反馈信息进行答复处理。
[0284]
在一实施例中，所述注意力特征提取单元，包括：
[0285]
向量转换处理子单元，用于对所述反馈信息进行向量转换处理，得到所述反馈信息对应的表示向量；
[0286]
注意力特征提取子单元，用于对所述表示向量在多个不同关注维度上进行注意力特征提取，得到所述表示向量在各个不同关注维度上的注意力特征信息。
[0287]
在一实施例中，所述向量转换处理子单元，包括：
[0288]
信息提取处理模块，用于对所述反馈信息进行信息提取处理，得到所述反馈信息的多个反馈子信息；
[0289]
向量映射处理模块，用于对每个反馈子信息进行向量映射处理，得到每个反馈子信息对应的表示向量；
[0290]
向量融合处理模块，用于对所述每个反馈子信息对应的表示向量进行向量融合处理，得到所述反馈信息对应的表示向量。
[0291]
在一实施例中，所述向量转换处理子单元，包括：
[0292]
信息提取处理模块，用于对反馈信息进行信息提取处理，得到反馈信息的多个反馈子信息；
[0293]
特征标识处理模块，用于对每个反馈子信息进行特征标识处理，得到每个反馈子信息的特征标识信息；
[0294]
生成模块，用于根据每个反馈子信息的特征标识信息生成反馈信息对应的表示向量。
[0295]
在一实施例中，所述注意力特征提取子单元，包括：
[0296]
确定模块，用于确定当前关注维度下的注意力系数；
[0297]
逻辑运算处理模块，用于将所述注意力系数和所述表示向量进行逻辑运算处理，得到所述表示向量在当前关注维度下的注意力特征信息。
[0298]
在一实施例中，所述全连接处理单元，包括：
[0299]
信息融合处理子单元，用于对每个关注维度上的注意力特征信息进行信息融合处理，得到所述反馈信息的目标注意力特征信息；
[0300]
非线性映射子单元，用于将所述目标注意力特征信息进行非线性映射，得到所述反馈信息对应的目标特征信息。
[0301]
在一实施例中，所述分类处理单元，包括：
[0302]
概率映射处理子单元，用于对所述目标特征信息进行类别概率映射处理，得到所述反馈信息的类别概率；
[0303]
确定子单元，用于根据所述类别概率确定所述反馈信息的反馈类别结果。
[0304]
在一实施例中，所述答复处理单元，包括：
[0305]
匹配子单元，用于将所述反馈类别结果和预设类别答复表中的预设反馈类别进行匹配，得到匹配结果；
[0306]
确定子单元，用于根据匹配结果在所述预设类别答复表中确定所述反馈信息对应的答复信息；
[0307]
显示子单元，用于在目标应用程序中显示所述答复信息。
[0308]
具体实施时，以上各个单元可以作为独立的实体来实现，也可以进行任意组合，作为同一或若干个实体来实现，以上各个单元的具体实施可参见前面的方法实施例，在此不再赘述。
[0309]
通过上述的自动答复处理装置可以自动针对目标应用程序中的反馈信息进行答复处理，从而提高了对反馈信息进行答复的效率。
[0310]
本技术实施例还提供一种计算机设备，该计算机设备可以包括终端或服务器，比如，计算机设备可以作为自动答复处理终端，该终端可以为手机、平板电脑等等；又比如计算机设备可以为服务器，如自动答复处理服务器等。如图8所示，其示出了本技术实施例所涉及的终端的结构示意图，具体来讲：
[0311]
该计算机设备可以包括一个或者一个以上处理核心的处理器401、一个或一个以上计算机可读存储介质的存储器402、电源403和输入单元404等部件。本领域技术人员可以理解，图8中示出的计算机设备结构并不构成对计算机设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。其中：
[0312]
处理器401是该计算机设备的控制中心，利用各种接口和线路连接整个计算机设备的各个部分，通过运行或执行存储在存储器402内的软件程序和/或模块，以及调用存储在存储器402内的数据，执行计算机设备的各种功能和处理数据，从而对计算机设备进行整体监控。可选的，处理器401可包括一个或多个处理核心；优选的，处理器401可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户页面和应用程序等，调制解调处理器主要处理无线通讯。可以理解的是，上述调制解调处理器也可以不集成到处理器401中。
[0313]
存储器402可用于存储软件程序以及模块，处理器401通过运行存储在存储器402的软件程序以及模块，从而执行各种功能应用以及数据处理。存储器402可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据计算机设备的使用所创建的数据等。此外，存储器402可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地，存储器402还可以包括存储器控制器，以提供处理器401对存储器402的访问。
[0314]
计算机设备还包括给各个部件供电的电源403，优选的，电源403可以通过电源管理系统与处理器401逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源403还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
[0315]
该计算机设备还可包括输入单元404，该输入单元404可用于接收输入的数字或字符信息，以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
[0316]
尽管未示出，计算机设备还可以包括显示单元等，在此不再赘述。具体在本实施例中，计算机设备中的处理器401会按照如下的指令，将一个或一个以上的应用程序的进程对应的可执行文件加载到存储器402中，并由处理器401来运行存储在存储器402中的应用程序，从而实现各种功能，如下：
[0317]
获取针对目标应用程序的反馈信息；
[0318]
对所述反馈信息在多个不同关注维度上进行注意力特征提取，得到所述反馈信息在各个不同关注维度上的注意力特征信息；
[0319]
对每个不同关注维度上的注意力特征信息进行全连接处理，得到所述反馈信息的目标特征信息；
[0320]
基于所述目标特征信息对所述反馈信息进行分类处理，得到所述反馈信息的反馈类别结果；
[0321]
根据所述反馈类别结果确定所述反馈信息的答复信息，并根据所述答复信息针对所述反馈信息进行答复处理。
[0322]
以上各个操作的具体实施可参见前面的实施例，在此不再赘述。
[0323]
根据本技术的一个方面，提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述实施例中各种可选实现方式中提供的方法。
[0324]
本领域普通技术人员可以理解，上述实施例的各种方法中的全部或部分步骤可以通过计算机程序来完成，或通过计算机程序控制相关的硬件来完成，该计算机程序可以存储于一计算机可读存储介质中，并由处理器进行加载和执行。
[0325]
为此，本技术实施例还提供一种存储介质，其中存储有计算机程序，该计算机程序能够被处理器进行加载，以执行本技术实施例所提供的任一种自动答复处理方法中的步骤。例如，该计算机程序可以执行如下步骤：
[0326]
获取针对目标应用程序的反馈信息；
[0327]
对所述反馈信息在多个不同关注维度上进行注意力特征提取，得到所述反馈信息在各个不同关注维度上的注意力特征信息；
[0328]
对每个不同关注维度上的注意力特征信息进行全连接处理，得到所述反馈信息的目标特征信息；
[0329]
基于所述目标特征信息对所述反馈信息进行分类处理，得到所述反馈信息的反馈类别结果；
[0330]
根据所述反馈类别结果确定所述反馈信息的答复信息，并根据所述答复信息针对所述反馈信息进行答复处理。
[0331]
以上各个操作的具体实施可参见前面的实施例，在此不再赘述。
[0332]
由于该存储介质中所存储的计算机程序，可以执行本技术实施例所提供的任一种自动答复处理方法中的步骤，因此，可以实现本技术实施例所提供的任一种自动答复处理方法所能实现的有益效果，详见前面的实施例，在此不再赘述。
[0333]
以上对本技术实施例所提供的一种一种自动答复处理方法、装置、计算机设备和存储介质进行了详细介绍，本文中应用了具体个例对本技术的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本技术的方法及其核心思想；同时，对于本领域的技术人员，依据本技术的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本技术的限制。