一种情感识别方法、装置、设备及存储介质与流程

1.本发明涉及人工智能技术领域，尤其涉及一种情感识别方法、装置、设备及存储介质。


背景技术：

2.情感是人的高级功能之一，通常情况下，任何人皆能表达众多的情感。在情感识别方面，通过深度学习算法，令计算机在人的情绪变化时，通过收集各种生理信号分析出情感的变化，是所有情感识别方式中最精准的。
3.现阶段，深度学习的主流算法包括卷积神经网络(convolutional neural network,cnn)以及循环神经网络(recurrent neural network,rnn)。由于生理信号具有时序性，前后信号之间有一定的相关性，而cnn在处理具有时间特征的数据时，无法对时间属性进行有效的解读，所以通常使用rnn来进行计算。但是rnn的计算量较大，模型训练的时间较长，且容易达到局部最优，在计算效率方面无法满足情感识别的需要。


技术实现要素：

4.本发明提供了一种情感识别方法、装置、设备及存储介质，以解决rnn等时序网络的情感识别的效率和准确度较低的问题。
5.根据本发明的一方面，提供了一种情感识别方法，包括：
6.获取训练数据集，并对所述训练数据集中的样本数据进行特征提取处理；
7.将处理后的样本数据以及与样本数据对应的情感标签输入注意力循环卷积网络进行模型训练，得到情感识别模型；
8.其中，所述注意力循环卷积网络包括一维卷积神经网络、双向简单循环单元以及注意力机制；
9.将待识别的目标脑电信号输入所述情感识别模型，并将所述情感识别模型的输出结果作为所述目标脑电信号的情感识别结果。
10.根据本发明的另一方面，提供了一种情感识别装置，包括：
11.数据处理模块，用于执行获取训练数据集，并对所述训练数据集中的样本数据进行特征提取处理；
12.模型训练模块，用于执行将处理后的样本数据以及与所述样本数据对应的情感标签输入注意力循环卷积网络进行模型训练，得到情感识别模型；
13.其中，所述注意力循环卷积网络包括一维卷积神经网络、双向简单循环单元以及注意力机制；
14.情感识别模块，用于执行将待识别的目标脑电信号输入所述情感识别模型，并将所述情感识别模型的输出结果作为所述目标脑电信号的情感识别结果。
15.根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：
16.至少一个处理器；以及
17.与所述至少一个处理器通信连接的存储器；其中，
18.所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的情感识别方法。
19.根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的情感识别方法。
20.本发明实施例的技术方案，通过获取训练数据集，并对所述训练数据集中的样本数据进行特征提取处理；将处理后的样本数据以及与样本数据对应的情感标签输入注意力循环卷积网络进行模型训练，得到情感识别模型；其中，所述注意力循环卷积网络包括一维卷积神经网络、双向简单循环单元以及注意力机制；将待识别的目标脑电信号输入所述情感识别模型，并将所述情感识别模型的输出结果作为所述目标脑电信号的情感识别结果，解决了rnn等时序网络的情感识别的效率和准确度较低的问题，取到了构建新型的情感识别模型，提高了根据脑电信号进行情感识别的效率和精确度的有益效果。
21.应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
22.为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
23.图1是根据本发明实施例一提供的一种情感识别方法的流程图；
24.图2是根据本发明实施例二提供的一种情感识别方法的流程图；
25.图3是根据本发明实施例二所适用的情感识别方法的总体框图；
26.图4是根据本发明实施例二所适用的一种前置注意力循环卷积网络的结构示意图；
27.图5是根据本发明实施例二所适用的一种后置注意力循环卷积网络的结构示意图；
28.图6是根据本发明实施例三提供的一种情感识别装置的结构示意图；
29.图7是实现本发明实施例的情感识别方法的电子设备的结构示意图。
具体实施方式
30.为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
31.需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“目标脑电信
号”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
32.实施例一
33.图1是根据本发明实施例一提供的一种情感识别方法的流程图，本实施例可适用于快速准确的基于脑电信号实现情感分类的情况，该方法可以由情感识别装置来执行，该情感识别装置可以采用硬件和/或软件的形式实现，该情感识别装置可配置于电子设备中。如图1所示，该方法包括：
34.s110、获取训练数据集，并对训练数据集中的样本数据进行特征提取处理。
35.本实施例中，训练数据集中包括多个脑电信号，用于对预设的注意力循环卷积网络模型进行情感分类训练。可选的，训练数据集为deap数据集，该数据集记录了32名测试人员的脑电信号，就是让32名测试人员分别观赏40个1分钟长的不同种类的音乐视频小片段，并采集导联脑电信号，然后测试人员分别根据不同的标准对看到的视频音乐进行打分，最终得到的数据为40
×
32
×
8064的格式。其中40代表测试人员观看的40个视频片段，32代表实验过程中使用的导联数，8064代表对在63s的片段过程中以128hz的频率对测试人员进行采样，得出8064个数据点。
36.可选的，对训练数据集中的样本数据进行特征提取处理，包括：对训练数据集中的样本数据进行降采样处理和滤波处理；采用小波包分解算法对处理后的样本数据进行时频域变换；根据变换结果计算相应的小波包系数值作为样本数据的特征值。
37.本实施例中，在获取训练数据集之后，首先对训练数据集中的脑电信号进行预处理，即进行降采样以及滤波操作，然后使用小波包分解算法对脑电信号的低频部分和高频部分进行分解，做时频域变换，最后通过计算相应的小波包系数值当作提取出的脑电信号的特征值。
38.s120、将处理后的样本数据以及与样本数据对应的情感标签输入注意力循环卷积网络进行模型训练，得到情感识别模型。
39.本实施例中，可以在对样本数据进行特征提取的同时，使用构建的情绪划分模型，对样本数据进行标记，使每个样本数据都具有相应的情感标签。将特征提取后的样本数据和对应的情感标签输入预先设置的注意力循环卷积网络中进行模型训练，并将训练好的模型作为情感识别模型，用于基于脑电信号选择出最优的情感识别结果。
40.其中，注意力循环卷积网络包括一维卷积神经网络、双向简单循环单元以及注意力机制。如图2所示，一维卷积神经网络和双向简单循环单元组成循环卷积神经网络，结合注意力机制，生成注意力循环卷积网络。
41.其中，一维卷积神经网络是cnn的一种特殊形式，可以对有序的脑电信号进行处理，主要包括卷积层、池化层以及全连接层，其输入是一个向量和一个卷积核，输出是一个向量。其本质是一个多层感知机，通常情况下，输入向量长度大于卷积核的长度，并且输出向量的长度取决于卷积操作的填充方案。简单循环单元sru属于rnn中的一种特殊形式，可
以改进传统的rnn计算时间久以及长期依赖的缺点，使得在保持rnn原有特性的同时，提高计算速度，让两者达到平衡。
42.注意力机制是利用人类有限的注意力资源来关注更加重要的信息，以提高获取信息的效率和精准度。由于脑电信号是一种序列信号，前后之间是存在一定的相关性，所以在不同的时刻波形一旦发送变化，即可认为个人的情绪发生变化。借助注意力机制，能够更好的发现并记住这些变化，并根据这些特征做进一步的分析，使得模型更好地对情感进行判断。
43.s130、将待识别的目标脑电信号输入情感识别模型，并将情感识别模型的输出结果作为目标脑电信号的情感识别结果。
44.本实施例中，目标脑电信号可以是任意一个待进行情感分类的脑电信号，可选的，将待识别的目标脑电信号输入情感识别模型，并将情感识别模型的输出结果作为目标脑电信号的情感识别结果，包括：对目标脑电信号进行降采样处理和滤波处理，并采用小波包分解算法对滤波处理后的目标脑电信号进行特征提取处理；将特征提取后的目标脑电信号输入情感识别模型，并获取情感识别模型的输出结果作为目标脑电信号的情感识别结果。
45.本发明实施例中，通过对训练数据集中的样本数据进行特征提取处理；将处理后的样本数据以及情感标签输入注意力循环卷积网络进行模型训练，得到情感识别模型；其中，注意力循环卷积网络包括一维卷积神经网络、双向简单循环单元以及注意力机制；将待识别的目标脑电信号输入情感识别模型，并将情感识别模型的输出结果作为目标脑电信号的情感识别结果，解决了rnn等时序网络的情感识别的效率和准确度较低的问题，取到了构建新型的情感识别模型，提高了根据脑电信号进行情感识别的效率和精确度的有益效果。
46.实施例二
47.图2是根据本发明实施例二提供的一种情感识别方法的流程图，本实施例在上述实施例的基础上，进一步提供了将处理后的样本数据以及与样本数据对应的情感标签输入注意力循环卷积网络进行模型训练，得到情感识别模型的具体步骤。如图2所示，该方法包括：
48.s210、获取训练数据集，并对训练数据集中的样本数据进行特征提取处理。
49.s220、将处理后的样本数据以及与样本数据对应的情感标签输入注意力循环卷积网络进行模型训练，得到情感识别模型；注意力循环卷积网络包括一维卷积神经网络、双向简单循环单元以及注意力机制。
50.可选的，注意力循环卷积网络包括：软注意力循环卷积网络和自注意力循环卷积网络；软注意力循环卷积网络包括：前置软注意力循环卷积网络和后置软注意力循环卷积网络；自注意力循环卷积网络包括：前置自注意力循环卷积网络和后置自注意力循环卷积网络。
51.本实施例中，如图3所示，如果循环卷积神经网络与软注意力机制结合，则生成软注意力循环卷积网络；如果循环卷积神经网络与自注意力机制结合，则生成自注意力循环卷积网络。每种注意力循环卷积网络都可以被配置为前置以及后置两种不同的框架，两者的区别主要是注意力层在注意力循环卷积网络中处理数据的位置。
52.可选的，将处理后的样本数据以及与样本数据对应的情感标签输入注意力循环卷积网络进行模型训练，得到情感识别模型，包括：如果注意力循环卷积网络为前置软注意力
循环卷积网络或者前置自注意力循环卷积网络，则通过注意力循环卷积网络中的注意力层为输入的样本数据分配对应的权重，得到修正样本数据；通过循环卷积网络层对修正样本数据进行特征抽取操作，并结合与样本数据对应的情感标签进行模型训练，得到情感识别模型。
53.本实施例中，如图4所示，当注意力循环卷积网络使用前置框架时，输入的样本数据xi先进入注意力层分配对应的权重，得到修正样本数据然后在将输入至循环卷积网络层进行特征抽取操作，并结合与样本数据对应的情感标签进行模型训练，最终得到训练好的情感识别模型。
54.可选的，将处理后的样本数据以及与样本数据对应的情感标签输入注意力循环卷积网络进行模型训练，得到情感识别模型，包括：如果注意力循环卷积网络为后置软注意力循环卷积网络或者后置自注意力循环卷积网络，则通过注意力循环卷积网络中的循环卷积网络层对输入的样本数据进行特征抽取操作；通过注意力层为经过特征抽取操作的样本数据分配对应的权重，并结合与样本数据对应的情感标签进行模型训练，得到情感识别模型。
55.本实施例中，如图5所示，当注意力循环卷积网络使用后置框架时，输入的样本数据xi先进入循环卷积网络层进行特征抽取操作，然后在对样本数据进行情感分类之前加入注意力层分配对应的权重，得到修正样本数据最后对做进一步的情感分类，并结合与该数据对应的情感标签进行模型训练，最终得到训练好的情感识别模型。
56.本实施例中，通过图4以及图5可以比较直接地表现出前置框架与后置框架的区别，前置注意力层是对尚未处理的原始脑电信号进行处理，此刻的信号序列片段之间的不存在关联或者说关联性比较低；而后置注意力层分析的是通过特征提取后的脑电信号，信号序列之间已经进行交互，其相互之间的关联性较高，从而情感分类的准确度更高。
57.s230、将待识别的目标脑电信号输入情感识别模型，并将情感识别模型的输出结果作为目标脑电信号的情感识别结果。
58.本实施例中，情感识别模型通过结合一维卷积神经网络和双向简单循环单元，使得模型的分类效果比仅使用cnn或仅采用sru更优秀，可以运用在拥有时序特点的脑电信号，解决了rnn等时序网络的计算量较大的特点，使其既有rnn的序列关系又有cnn的迅速计算的优点。并且在模型中采用注意力机制，可以在输入数据中增加了前后关联性，相应地提高了情感识别的精确度。
59.实施例三
60.图6是根据本发明实施例三提供的一种情感识别装置的结构示意图。
61.如图6所示，该装置包括：
62.数据处理模块610，用于执行获取训练数据集，并对训练数据集中的样本数据进行特征提取处理；
63.模型训练模块620，用于执行将处理后的样本数据以及与样本数据对应的情感标签输入注意力循环卷积网络进行模型训练，得到情感识别模型；
64.其中，注意力循环卷积网络包括一维卷积神经网络、双向简单循环单元以及注意力机制；
65.情感识别模块630，用于执行将待识别的目标脑电信号输入情感识别模型，并将情
感识别模型的输出结果作为目标脑电信号的情感识别结果。
66.可选的，数据处理模块610用于：
67.对训练数据集中的样本数据进行降采样处理和滤波处理；
68.采用小波包分解算法对处理后的样本数据进行时频域变换；
69.根据变换结果计算相应的小波包系数值作为样本数据的特征值。
70.可选的，训练数据集为deap数据集。
71.可选的，注意力循环卷积网络包括：软注意力循环卷积网络和自注意力循环卷积网络；
72.软注意力循环卷积网络包括：前置软注意力循环卷积网络和后置软注意力循环卷积网络；
73.自注意力循环卷积网络包括：前置自注意力循环卷积网络和后置自注意力循环卷积网络。
74.可选的，模型训练模块620包括：
75.第一训练单元，用于如果注意力循环卷积网络为前置软注意力循环卷积网络或者前置自注意力循环卷积网络，则通过注意力循环卷积网络中的注意力层为输入的样本数据分配对应的权重，得到修正样本数据；
76.通过循环卷积网络层对修正样本数据进行特征抽取操作，并结合与样本数据对应的情感标签进行模型训练，得到情感识别模型。
77.可选的，模型训练模块620包括：
78.第二训练单元，用于如果注意力循环卷积网络为后置软注意力循环卷积网络或者后置自注意力循环卷积网络，则通过注意力循环卷积网络中的循环卷积网络层对输入的样本数据进行特征抽取操作；
79.通过注意力层为经过特征抽取操作的样本数据分配对应的权重，并结合与样本数据对应的情感标签进行模型训练，得到情感识别模型。
80.可选的，情感识别模块630，用于：
81.对目标脑电信号进行降采样处理和滤波处理，并采用小波包分解算法对滤波处理后的目标脑电信号进行特征提取处理；
82.将特征提取后的目标脑电信号输入情感识别模型，并获取情感识别模型的输出结果作为目标脑电信号的情感识别结果。
83.本发明实施例所提供的情感识别装置可执行本发明任意实施例所提供的情感识别方法，具备执行方法相应的功能模块和有益效果。
84.实施例四
85.图7示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。
86.如图7所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连
接的存储器，如只读存储器(rom)12、随机访问存储器(ram)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(rom)12中的计算机程序或者从存储单元18加载到随机访问存储器(ram)13中的计算机程序，来执行各种适当的动作和处理。在ram 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、rom 12以及ram 13通过总线14彼此相连。输入/输出(i/o)接口15也连接至总线14。
87.电子设备10中的多个部件连接至i/o接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
88.处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如情感识别方法。
89.在一些实施例中，情感识别方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由rom 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到ram 13并由处理器11执行时，可以执行上文描述的情感识别方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行情感识别方法。
90.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
91.用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
92.在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只
读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
93.为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
94.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)、区块链网络和互联网。
95.计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与vps服务中，存在的管理难度大，业务扩展性弱的缺陷。
96.应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。
97.上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。