一种基于深度学习的多元时间序列分类方法与流程

技术特征：
1.一种基于深度学习的多元时间序列分类方法，其特征在于，包括以下步骤：s1：对变量进行特征转换；s2：对进行特征转换后的变量进行全局特征提取和局部特征提取；s3：搭建分类网络；s4：对搭建分类网络进行多目标学习训练，将步骤s2中得到的特征输入训练好的分类网络，最终使得同类样本特征距离拉近，异类样本距离拉远。2.根据权利要求1所述的基于深度学习的多元时间序列分类方法，其特征在于，所述步骤s1的具体过程是：第i个变量对应的时间序列可表示为时间序列向量其中l是序列长度，通过使用延时嵌入对原时序向量进行相位空间重构后，第i个变量对应的重构向量的第j项表示为：其中j＝1,2,
…
,l-(d
t-1)
·
t，d
t
为相空间的嵌入维数，t表示时延，延时嵌入后第s个样本表示如下：其中m＝l-(d
t-1)
·
t，新的相空间中的每一个点，表示一种可能状态，延迟嵌入维度d
t
为3，时延t为1。3.根据权利要求2所述的基于深度学习的多元时间序列分类方法，其特征在于，所述步骤s2中进行全局特征提取的过程是：每个多元时间序列样本学习一个低维的嵌入其中d
e
是最终嵌入维度，总使用基于神经网络的方法其中θ是函数参数集，是延迟嵌入后的时间序列数据；先在时间序列数据的第三维度上进行池化操作并进行permute操作，使3维转化为2维然后得到其中d
l
是lstm层hidden size参数的大小，即完成全局特征提取。4.根据权利要求3所述的基于深度学习的多元时间序列分类方法，其特征在于，所述步骤s2中进行局部特征提取的过程是：1)、利用两层卷积，将96个时间点看作96个通道，重点学习18个变量间的关联特征，此时在延迟嵌入的三个相邻时间维度上没有进行卷积，两层卷积之后的平均池化则强化了延迟嵌入的作用，实现了相邻时间点不同变量间局部特征的提取；同时在特征方向上进行池化，减少了后续的计算量，这里使用平均池化，是因为此时处于初步特征挖掘阶段，相比起最大值池化，平均池化能保留更多的信息；2)、首先使第1)步学习到的全部通道的特征，转换进一个通道里，完成维度转换后，方
便后续卷积层可以对第一部分学习到的特征间关系，进行更深层次的挖掘，最后利用squeeze降维，方便后续使用1dcnn，相比起一直使用2dcnn，1dcnn减少后续卷积的参数量，在卷积后，使用最大池化，因为深挖阶段，可以忽略一些不明显的特征，将注意力放在最显著的特征上即可；3)、利用1d-cnn以及池化，在捕捉深层交互的同时，为减少后续的全连接层的参数量，而减少数据维度。5.根据权利要求4所述的基于深度学习的多元时间序列分类方法，其特征在于，在经过全连接层后，单个局部特征提取子网络最终输出为a个子网络最终输出拼接后得到全部特征提取部分的最终输出为接下来，将两部分子网络输出拼接得到最终嵌入6.根据权利要求5所述的基于深度学习的多元时间序列分类方法，其特征在于，所述步骤s3的过程是：分类网络由两个全连接层够成，在两个全连接层之间，使用非线性激活函数relu来获取非线性特征，并且使用一个批正则化层来使训练稳定以及防止过拟合，该分类网络可表示为：7.根据权利要求6所述的基于深度学习的多元时间序列分类方法，其特征在于，所述步骤s4的过程是：第一步先使用监督训练centerloss使得同类样本的类间距离更小，centerloss保持不同类的特征可分离的同时，最小化类内变化，其公式如下：同类的特征可分离的同时，最小化类内变化，其公式如下：表示第s类的特征中心，由于需要考虑整个训练集，并平均每次迭代中每个类的特征，这样效率极其低下，所以在每次迭代时，不是针对整个训练集更新中心，而是基于小批量训练执行更新，中心通过平均相应类的特征来计算的；并且为了提升后续分类网络训练的效果，在这一阶段，也会完成分类网络的预训练，在这一阶段使用bceloss和centerloss的联合监督，训练网络进行特征学习，第一步公式如下：当同类样本足够聚集之后，在第二步使用tripletloss对生成的特征进行改进，以增大不同类之间的差异性，从而提升生成特征的质量，为分类网络减轻分类负担。由于第一步训练时，centerloss已经尽可能使同类样本距离更近了，所以不必和shapenet等相关工作一样选取多个正样本和负样本，选取距目标样本最远的一个同类样本作为正样本，距离目标
样本最近的一个异类样本作为负样本；第二步训练公示如下：最终有效特征生成后，第三步单独使用bceloss对分类网络模块进行正式训练，以提升分类网络的性能。8.根据权利要求7所述的基于深度学习的多元时间序列分类方法，其特征在于，分类网络使用2个全连接层、1个激活函数层、1个批标准化层以及1个sigmoid分类函数层构成分类网络，最终将特征转为0-1间的概率值。

技术总结
本发明提供一种基于深度学习的多元时间序列分类方法，该方法在使用BaseCNN捕获变量间交互的同时，还使用具有长距离依赖能力的LSTM来构建了一个子网络，利用其长期记忆特性，强化模型的全局时序特性，帮助模型更好的捕获全局时序特征。此外，巧妙的设计了三步训练模式，有效发挥CenterLoss、TripletLoss的作用，来处理该数据集波动性和特异性的特征，为最终的分类网络提供了良好的特征嵌入。本发明大力推动现有人工智能前交叉韧带辅助诊断的研究，具有重大临床意义与实际应用价值。具有重大临床意义与实际应用价值。具有重大临床意义与实际应用价值。


技术研发人员：王梓曼 印鉴 刘威 陈仲 朱怀杰 邱爽
受保护的技术使用者：中山大学
技术研发日：2021.10.19
技术公布日：2022/3/7