一种基于注意力机制的癫痫发作检测系统的制作方法

1.本发明涉及一种癫痫信号检测技术领域，尤其涉及一种基于注意力机制的癫痫发作检测系统。


背景技术：

2.癫痫是世界上最常见的神经系统疾病之一。根据世界卫生组织报道，全世界大约有5000万人患有癫痫。它的特点是大脑神经元过度放电引起的反复发作、阵发性和短暂的中枢神经系统功能紊乱，致使患者经常失去意识和抽搐运动，进而导致严重的身体伤害、甚至死亡。脑电图（eeg）是一种记录大脑活动的有效工具，可以直接记录癫痫放电，已被广泛用于癫痫的诊断和治疗；然而脑电图的分析与癫痫发作的标注严重依赖于专业的医生，耗时耗力且效率低下；基于机器学习的方法依赖于人工制作的特征，不同的病人表现出来的脑电活动不尽相同，训练得到的的网络面对新的受试者时往往无法表现出很好的泛化性能。因此，自动从脑电数据中提取和学习特征信息是非常有必要的。
3.为此，我们提出一种基于注意力机制的癫痫发作检测系统以解决上述技术问题。


技术实现要素：

4.本发明的目的在于提供一种基于注意力机制的癫痫发作检测系统，解决了现有技术中如何利用数据预处理方法得到同一量级的数据集，再利用cnn和transformer神经网络对预处理完的数据集进行特征提取和分类，并保存在训练过程中的最优模型，以便快速识别出癫痫发作状态。
5.本发明采用的技术方案如下：一种基于注意力机制的癫痫发作检测系统，包括：数据获取模块：用于从公开的数据库中获取待检测的脑电信号数据；数据处理模块：用于对所述脑电信号数据进行预处理，得到预处理脑电信号数据；癫痫发作检测模块：用于基于注意力机制构建cnn和transformer神经网络模型，通过所述预处理脑电信号数据训练所述cnn和transformer神经网络模型得到cnn和transformer神经网络最优模型，利用所述cnn和transformer神经网络最优模型得到发作期和发作间期样本的类别概率，用于识别癫痫发作。
6.进一步地，公开的所述数据库包括波士顿儿童医院头皮脑电数据库chbmit，待检测的所述脑电信号使用公共的若干个脑电通道。
7.进一步地，所述数据处理模块具体包括：数据分割及增广单元：用于对所述脑电信号数据进行滑窗分割、数据增广，得到分割后脑电信号数据；数据滤波单元：用于对所述分割后脑电信号数据采用巴特沃斯带通滤波器以去除噪声，得到滤波后脑电信号数据；数据标准化单元：用于对所述滤波后脑电信号数据利用z分数标准化，得到同一量
级脑电信号数据；数据划分单元：用于将所述同一量级脑电信号数据添加标签，将癫痫发作间期样本设置为0，癫痫发作期样本设置为1，得到预处理脑电信号数据，所述预处理脑电信号数据根据所述标签分为训练数据集和测试数据集。
8.进一步地，所述癫痫发作检测模块具体包括：cnn和transformer神经网络模型构建单元：用于基于耦合注意力机制，利用所述预处理脑电信号数据中的训练数据集对神经网络模型进行训练，并通过所述预处理脑电信号数据中的测试数据集进行调参，采用早期停止机制、学习率衰减方法对神经网络模型进行优化，得到cnn和transformer神经网络最优模型；癫痫发作检测单元：用于利用所述cnn和transformer神经网络最优模型得到发作期和发作间期样本的类别概率，用于识别癫痫发作。
9.进一步地，所述cnn和transformer神经网络模型构建单元的构建过程具体包括：步骤s1：将所述训练数据集输入至卷积层cnn中提取脑电信号中包含每个脑电通道信息的特征向量；步骤s2：将包含每个脑电通道信息的特征向量输入至神经网络transformer层中，利用耦合注意力层得到注意力分数，所述注意力分数为基于查询和键的相似度与值的加权和；步骤s3：通过多个平行头遍历步骤s2得到多个平行头的耦合注意力结果；步骤s4：将多个平行头的耦合注意力结果进行拼接，并采用层归一化操作得到多头耦合注意力层的输出矩阵；步骤s5：将所述输出矩阵经过层后馈送至全连接层mlp进行数据降维，最终输出用于表示分类结果的二维向量，当所述二维向量为，则表示癫痫发作期样本，即癫痫发作；当所述二维向量为，则表示癫痫发作间期样本，即非癫痫发作；步骤s6：遍历步骤s1-步骤s5，通过所述测试数据集进行调参，采用早期停止机制、学习率衰减方法对神经网络模型进行优化，直至早期停止机制中的跟踪验证损失值在连续预设轮次停止下降时，保存优化后的cnn和transformer神经网络模型，得到cnn和transformer神经网络最优模型。
10.进一步地，所述步骤s1中所述卷积层cnn使用卷积核的卷积公式得到卷积层cnn的包含单独脑电通道信息的输出特征向量，所述特征向量表示，其中，是卷积层cnn中的滤波器的个数，是脑电通道数，是压缩后的时间步长。
11.进一步地，所述步骤s2中将包含单独脑电通道信息的特征向量输入至神经网络transformer层中，利用耦合注意力层中的学习参数矩阵将特征向量转换为查询、键和值矩阵，并输出基于查询和键的相似度与值的加权和。
12.进一步地，所述步骤s4具体包括以下子步骤：步骤s41：根据平行头的个数、平行头的耦合注意力结果将多个平行头的耦合注意力结果进行拼接，得到最终结果；步骤s42：将所述最终结果采用层归一化操作得到多头耦合注意力层的输出矩阵。
13.进一步地，所述步骤s6网络训练中，还包括采用余弦退火算法进行学习率lr衰减。
14.本发明的有益效果是：本发明通过使用公开的波士顿儿童医院头皮脑电数据库（chbmit），对数据进行一系列预处理操作，并构建训练集和测试集；采用cnn层提取脑电信号的初级特征，将提取到的初级特征输入到transformer层通过耦合注意力机制学习脑电数据不同时间步的相关特征，最后用mlp层进行分类。基于训练集和测试集对网络进行训练，使用早期停止机制、学习率衰减等方法对cnn和transformer神经网络进行优化，得到用于癫痫发作检测的最优网络参数，并保存此时的模型；输入训练得到的最优网络模型，在测试集上测试模型的泛化性能。本发明使用cnn和transformer神经网络对样本数据进行分类，可以高效快速的识别出癫痫发作的类别，从而提高癫痫识别的准确率。
附图说明
15.图1为本发明一种基于注意力机制的癫痫发作检测系统的框架图；图2为本发明cnn和transformer神经网络模型构建单元的构建过程流程图；图3为实施例对发作期数据进行数据增广的示意图；图4为实施例cnn和transformer神经网络的架构图；图5为实施例注意力分数计算图。
具体实施方式
16.以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
17.参见图1，一种基于注意力机制的癫痫发作检测系统，包括：数据获取模块：用于从公开的数据库中获取待检测的脑电信号数据；公开的所述数据库包括波士顿儿童医院头皮脑电数据库chbmit，待检测的所述脑电信号使用公共的若干个脑电通道。
18.数据处理模块：用于对所述脑电信号数据进行预处理，得到预处理脑电信号数据；所述数据处理模块具体包括：数据分割及增广单元：用于对所述脑电信号数据进行滑窗分割、数据增广，得到分割后脑电信号数据；数据滤波单元：用于对所述分割后脑电信号数据采用巴特沃斯带通滤波器以去除噪声，得到滤波后脑电信号数据；数据标准化单元：用于对所述滤波后脑电信号数据利用z分数标准化，得到同一量级脑电信号数据；数据划分单元：用于将所述同一量级脑电信号数据添加标签，将癫痫发作间期样本设置为0，癫痫发作期样本设置为1，得到预处理脑电信号数据，所述预处理脑电信号数据根据所述标签分为训练数据集和测试数据集。
19.癫痫发作检测模块：用于基于注意力机制构建cnn和transformer神经网络模型，通过所述预处理脑电信号数据训练所述cnn和transformer神经网络模型得到cnn和transformer神经网络最优模型，利用所述cnn和transformer神经网络最优模型得到发作期和发作间期样本的类别概率，用于识别癫痫发作。
20.所述癫痫发作检测模块具体包括：cnn和transformer神经网络模型构建单元：用于基于耦合注意力机制，利用所述预处理脑电信号数据中的训练数据集对神经网络模型进行训练，并通过所述预处理脑电信号数据中的测试数据集进行调参，采用早期停止机制、学习率衰减方法对神经网络模型进行优化，得到cnn和transformer神经网络最优模型；参见图2，所述cnn和transformer神经网络模型构建单元的构建过程具体包括：步骤s1：将所述训练数据集输入至卷积层cnn中提取脑电信号中包含每个脑电通道信息的特征向量；所述卷积层cnn使用卷积核的卷积公式得到卷积层cnn的包含单独脑电通道信息的输出特征向量，所述特征向量表示，其中，是卷积层cnn中的滤波器的个数，是脑电通道数，是压缩后的时间步长；步骤s2：将包含每个脑电通道信息的特征向量输入至神经网络transformer层中，利用耦合注意力层得到注意力分数，所述注意力分数为基于查询和键的相似度与值的加权和；将包含单独脑电通道信息的特征向量输入至神经网络transformer层中，利用耦合注意力层中的学习参数矩阵将特征向量转换为查询、键和值矩阵，并输出基于查询和键的相似度与值的加权和。
21.步骤s3：通过多个平行头遍历步骤s2得到多个平行头的耦合注意力结果；步骤s4：将多个平行头的耦合注意力结果进行拼接，并采用层归一化操作得到多头耦合注意力层的输出矩阵；步骤s41：根据平行头的个数、平行头的耦合注意力结果将多个平行头的耦合注意力结果进行拼接，得到最终结果；步骤s42：将所述最终结果采用层归一化操作得到多头耦合注意力层的输出矩阵。
22.步骤s5：将所述输出矩阵经过层后馈送至全连接层mlp进行数据降维，最终输出用于表示分类结果的二维向量，当所述二维向量为，则表示癫痫发作期样本，即癫痫发作；当所述二维向量为，则表示癫痫发作间期样本，即非癫痫发作；步骤s6：遍历步骤s1-步骤s5，通过所述测试数据集进行调参，采用早期停止机制、学习率衰减方法对神经网络模型进行优化，直至早期停止机制中的跟踪验证损失值在连续预设轮次停止下降时，保存优化后的cnn和transformer神经网络模型，得到cnn和transformer神经网络最优模型。
23.所述网络训练中，还包括采用余弦退火算法进行学习率lr衰减。
24.癫痫发作检测单元：用于利用所述cnn和transformer神经网络最优模型得到发作期和发作间期样本的类别概率，用于识别癫痫发作。
25.实施例：一种基于注意力机制的癫痫发作检测系统，包括：数据获取模块：用于从公开的数据库中获取待检测的脑电信号数据；公开的所述数据库包括波士顿儿童医院头皮脑电数据库chbmit，待检测的所述脑电信号使用公共的若干个脑电通道；选择24位病人公共的18个脑电通道：f3-c3，c3-p3，fp1-f3，fp1-f7，fp2-f4，f7-t7，f4-c4，c4-p4，fp2-f8，f8-t8，fz-cz，t8-p8，p4-o2，t7-p7，
p7-o1，p3-o1，p8-o2，cz-pz。
26.癫痫eeg信号通常是通过放置在头皮上的电极进行采集，并通过专家或医生进行手工标注是否有癫痫发作。大量的eeg数据标注势必使得医务人员产生疲劳，并且不同的医务人员的标记结果也有所不同，势必使得检测的准确率下降；外加不同的病人的特异性，在采集eeg信号时所使用的脑电通道也不尽相同。为了保证数据的统一性和降低已有的数据标记的错误率，需要筛选所有病人所使用的公共通道，并对数据进行一次仔细的查验。
27.数据处理模块：用于对所述脑电信号数据进行预处理，得到预处理脑电信号数据；脑电信号数据的采集往往依据癫痫病人的具体情况，原始的癫痫脑电信号数据中，每个病人的的采集时长参差不齐，不同的病人所采用的电极通道也不尽相同；并且病人发生癫痫的次数较少，导致发作期的数据和发作间期的数据高度不平衡；并且采集过程中，病人的眼动，心动、肌肉运动等都会对采集到的脑电数据施加干扰，使得采集到的脑电数据带有伪迹。网络的训练过程中不能直接使用，需要对数据进行规范的预处理操作。
28.所述数据处理模块具体包括：参见图3，数据分割及增广单元：用于对所述脑电信号数据进行滑窗分割、数据增广，得到分割后脑电信号数据；选择窗口大小为4s（256hz*4s），1024个数据点对原始的连续eeg脑电信号进行滑窗处理，考虑到每个病人的癫痫发作次数很少，导致发作期的数据远少于发作间期，发作期和发作间期的数据高度不平衡，通过重叠采样技术生成更多的发作期样本来克服，即采用高重叠的滑动窗口创建额外的发作期样本，生成几乎和发作间期相同的样本数量，不足4s的样本数据将被舍弃，重叠采样技术通过在4s的窗口上滑动s步来实现，对发作期数据进行4s的滑窗分割，并对每个病人在4s的滑动窗口上进行s步的滑动来生成几乎等同于发作间期的样本数量。
29.数据滤波单元：用于对所述分割后脑电信号数据采用巴特沃斯带通滤波器以去除噪声，得到滤波后脑电信号数据；脑电信号数据在采集过程中受到病人眼动、心动、肌动的影响，使得采集的数据存在伪迹，采用4阶的巴特沃斯带通滤波器对分割后脑电信号数据进行0.1~50hz的带通滤波以去除噪声。
30.数据标准化单元：用于对所述滤波后脑电信号数据利用z分数标准化，得到同一量级脑电信号数据；预处理完成的数据，其中是脑电信号通道数，表示每个样本记录的时间数，1表示图像的通道数。
31.数据划分单元：用于将所述同一量级脑电信号数据添加标签，将癫痫发作间期样本设置为0，癫痫发作期样本设置为1，得到预处理脑电信号数据，所述预处理脑电信号数据根据所述标签分为70%的训练数据集和30%的测试数据集。
32.癫痫发作检测模块：用于基于注意力机制构建cnn和transformer神经网络模型，通过所述预处理脑电信号数据训练所述cnn和transformer神经网络模型得到cnn和transformer神经网络最优模型，利用所述cnn和transformer神经网络最优模型得到发作期和发作间期样本的类别概率，用于识别癫痫发作。
33.所述癫痫发作检测模块具体包括：
cnn和transformer神经网络模型构建单元：用于基于耦合注意力机制，利用所述预处理脑电信号数据中的训练数据集对神经网络模型进行训练，并通过所述预处理脑电信号数据中的测试数据集进行调参，采用早期停止机制、学习率衰减方法对神经网络模型进行优化，得到cnn和transformer神经网络最优模型，参见图4，cnn和transformer神经网络包含输入层、卷积层、位置编码层、transformer编码器层、序列池化层、mlp层；所述cnn和transformer神经网络模型构建单元的构建过程具体包括：步骤s1：将所述训练数据集输入至卷积层cnn中提取脑电信号中包含每个脑电通道信息的特征向量；采用一维核的二维卷积层，滤波器形状为：滤波器*通道数*时间步长，并应用于每个脑电信号通道，从而保留了脑电信号中的通道信息。
34.所述卷积层cnn使用卷积核的卷积公式得到卷积层cnn的包含单独脑电通道信息的输出特征向量，所述特征向量表示，其中，是卷积层cnn中的滤波器的个数，是脑电通道数，是压缩后的时间步长；卷积核的卷积公式：。其中*代表卷积操作，表示此滤波器对应的输出向量，为卷积核的权重参数，为卷积核的偏置项，函数是非线性激活函数。
35.步骤s2：将包含每个脑电通道信息的特征向量输入至神经网络transformer层中，利用耦合注意力层得到注意力分数，所述注意力分数为基于查询和键的相似度与值的加权和；将包含单独脑电通道信息的特征向量输入至神经网络transformer层中，利用耦合注意力层中的学习参数矩阵将特征向量转换为查询、键和值矩阵，并输出基于查询和键的相似度与值的加权和。
36.参见图5，本发明采用的transformer层由6个带有耦合注意力块的编码器层组成，每个编码器层由多头耦合注意力层和前馈网络组成。将cnn层得到的包含单独脑电通道信息的特征向量表示矩阵c经过位置编码层加入位置信息后输入到transformer层。通过多头耦合注意力层学习脑电信号不同时间步的相关信息，通过前馈网络输出transformer层的输出矩阵。
37.进行位置编码操作，特征向量在transformer层处理而不保存对应的位置信息，因此使用位置编码来保存特征相对于时间的顺序。位置编码计算公式如下：其中，是位置，是维度，是嵌入维度。
38.耦合注意力计算公式如下：其中，分别表示查询、键、值矩阵，表示通过线性嵌入层投影得到的任意维
度，是注意矩阵， a和 b是 am近似解耦得到的2个子矩阵为张量积算子，可以用克罗内克乘积来实现，表示矩阵的向量化，表示沿着矩阵行的操作。
39.步骤s3：通过多个平行头遍历步骤s2得到多个平行头的耦合注意力结果；一次注意力关注不足以学习到多个特征的权值，为了让模型从不同的表示子空间中学习与癫痫发作相关的信息，通过多个平行头重复注意力运算。多头注意力机制为不同时间步的特征向量分配不同的权重，即大的权重分配给与癫痫发作相关的特征向量，小的权重分配给与大多数不相关（健康状态相关）的特征向量。
40.步骤s4：将多个平行头的耦合注意力结果进行拼接，并采用层归一化操作得到多头耦合注意力层的输出矩阵；步骤s41：根据平行头的个数、平行头的耦合注意力结果将多个平行头的耦合注意力结果进行拼接，得到最终结果m；具体计算公式如下：其中，s表示平行头的个数，表示第 i个头的耦合注意力结果，是输出参数矩阵。
41.步骤s42：将所述最终结果采用层归一化（layer normalization）操作得到多头耦合注意力层的输出矩阵。
42.进行序列池化操作。为了保持transformer层中输入特征即特征向量映射的形状，采用序列池化结构来移除期望的序列长度被破坏的额外的分类标记（token）。在这种结构中，模型可以将更多的权重分配给包含更多与分类器相关的信息的块（patch）。
43.步骤s5：将所述输出矩阵经过softmax层后馈送至全连接层mlp进行数据降维，最终输出用于表示分类结果的二维向量，当所述二维向量为(0,1)，则表示癫痫发作期样本，即癫痫发作；当所述二维向量为(1,0)，则表示癫痫发作间期样本，即非癫痫发作；的计算公式如下：其中，为第个样本的概率分布。
44.步骤s6：遍历步骤s1-步骤s5，通过所述测试数据集进行调参，采用早期停止机制、学习率衰减方法对神经网络模型进行优化，直至早期停止机制中的跟踪验证损失值在连续预设轮次停止下降时，保存优化后的cnn和transformer神经网络模型，得到cnn和transformer神经网络最优模型。
45.使用早期停止机制、学习率衰减等方法对神经网络模型进行优化，得到神经网络最优的网络参数，并保存此时的模型。为了防止过拟合，采用早期停止机制来及时停止训练过程，以免花费大量的无用训练时间和设备内存空间；早期停止机制通过跟踪验证损失（val_loss），如果损失在连续几个轮次（epoch）停止下降，训练就会停止，并保存在验证损失（val_loss）最小时的最优模型。
attention bidirectional long short-term memory network，卷积注意双向长短时间记忆网络；cw-srnet：channel-weighted block squeeze-and-excitation，通道加权-压缩激励残差网络；表2基于波士顿儿童医院在24位病人上的的统计参数表3本发明提出的系统同其他系统比较的统计参数测试结果表示，本发明提出的基于注意力机制的癫痫发作检测系统优于其他系统的算法，对癫痫的辅助诊断具有重要意义。
51.以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。