基于复值树突神经模型的时间序列预测方法和系统

技术特征：
1.一种基于复值树突神经模型的时间序列预测方法，其特征在于，包括：s1：获取原始数据进行复值化处理得到训练集，构建复值树突神经模型；s2：使用所述训练集训练所述复值树突神经模型得到训练完成的复值树突神经模型，训练时采用方差缩减的循环结构优化训练过程、采用定量递增的策略改变随机批次数；s3：将待测数据输入训练完成的复值树突神经模型得到预测结果。2.根据权利要求1所述的基于复值树突神经模型的时间序列预测方法，其特征在于：所述获取原始数据进行复值化处理得到训练集，具体为：在一段连续时间内取n个数据，建立时间序列{x
n
|n＝1,
…
,n}，其中n是时间序列的总长度，x
n
是第n个数据；将每p个连续数据作为模型输入，得到n-p个模型输入为i＝{x1,x2,
…
,x
i
,
…
,x
n-p
}，其中x
i
是模型输入的第i个样本，共有n-p个样本为：将所述模型输入i作为训练集。3.根据权利要求1所述的基于复值树突神经模型的时间序列预测方法，其特征在于：所述训练时采用方差缩减的循环结构优化训练过程、采用定量递增的策略改变随机批次数，具体为：s2-1：初始化模型参数ω
ij
和θ
ij
得到初始外循环参数ω
ij
和θ
ij
分别是需要学习的连接权重和阈值；设定学习率α，最大内循环次数t，最大外循环次数k，其中s2-2：构建外循环：令表示第k次外循环的参数；根据ω
ij
的全样本平均梯度表示式和θ
ij
的全样本平均梯度表示式计算当前迭代时刻全样本的平均梯度值s2-3：构建内循环：根据现有的外循环次数递增样本数s，在确定s后进行样本随机采样，此时取到的样本集为γ；计算方差缩减后的梯度t表示第t次内循环，表示在第k次外循环内进行第t次内循环时的参数，表示内循环参数在随机样本集γ上的平均梯度，表示外循环参数在随机样本集γ上的平均梯度；s2-4：计算前后两次迭代时参数的变化量s
c
与前后两次迭代时梯度的变化量y
c
：当前后两次迭代在同一外循环时，有以及当前后两次迭代在
不同外循环时，有以及γ-1表示用于上一次迭代更新的随机采样的样本集，c表示参数更新次数；s2-5：计算在第k次外循环内进行第t次内循环时的搜索方向s2-6：更新s2-7：如果内循环次数t 1＜t，则令t＝t 1，继续内循环；如果t 1＝t，结束内循环，并令外循环参数k＝k 1，重新开始外循环，直至k达到最大外循环次数k；s2-8：当所有的内循环和外循环都结束后，将此时的作为模型的最佳参数。4.根据权利要求3所述的基于复值树突神经模型的时间序列预测方法，其特征在于：所述ω
ij
的全样本平均梯度表示式和θ
ij
的全样本平均梯度表示式的计算方法为：s2-2-1：构建单神经元复值树突神经模型后向传播的表示式；s2-2-2：根据所述单神经元复值树突神经模型后向传播的表示式，构建ω
ij
的单个样本的复梯度表示和θ
ij
的单个样本的复梯度表示s2-2-3：将整体n个样本梯度加和求平均得到ω
ij
的全样本平均梯度表示式和θ
ij
的全样本平均梯度表示式5.根据权利要求4所述的基于复值树突神经模型的时间序列预测方法，其特征在于：所述构建单神经元复值树突神经模型后向传播的表示式，具体为：s2-2-1-1：根据欧几里德范数计算模型输出层的单样本误差为：e
n
＝o
n-ts
n
；其中，l
n
表示单样本为n时、模型输出的单样本误差，e
n
表示单样本为n时、单样本输出值与目标值的差距，表示e
n
的共轭值，ts
n
表示单样本为n时、该样本的目标值，o
n
表示单样本为n时、该样本的输出值；n∈{1,2,...,n-p}表示所取的单样本序列数，n是时间序列的总长度，p是单个样本的输入维数；s2-2-1-2：计算胞体层的复导数为：2：计算胞体层的复导数为：其中，表示单样本为n时、该样本胞体层输出的共轭值；
s2-2-1-3：构建膜层的递推公式表示为：3：构建膜层的递推公式表示为：其中，v
n
表示单样本为n时、该样本膜层的输出值，表示v
n
的共轭值，表示的共轭值，是胞体层所用的全复型激活函数，表示激活函数对v
n
求导；s2-2-1-4：构建树突层的递推公式表示为：4：构建树突层的递推公式表示为：其中，z
j,n
表示单样本为n时、该样本的树突层在第j层树突层的输出值；s2-2-1-5：构建突触层的递推公式表示为：
其中，y
i,j,n
表示单样本为n时、该样本的突触层在输入第i维、第j层树突层的输出值，表示z
j,n
的共轭值，d表示样本的输入维度，表示y
i,j,n
的共轭值，表示的共轭值。6.根据权利要求5所述的基于复值树突神经模型的时间序列预测方法，其特征在于：所述ω
ij
的单个样本的复梯度表示为：为：将整体n个样本梯度加和求平均得到ω
ij
的全样本平均梯度表示式为：所述θ
ij
的单个样本的复梯度表示为：
将整体n个样本梯度加和求平均得到θ
ij
的全样本平均梯度表示式为：其中，p
i,n
表示第n个样本中的第i维输入，表示突触层的复值激活函数，表示的共轭值，表示的共轭值。7.根据权利要求3-6任一项所述的基于复值树突神经模型的时间序列预测方法，其特征在于：所述计算在第k次外循环内进行第t次内循环时的搜索方向的具体过程为：s2-5-1：设置初始化参数ξ1、m
set
、w、w和τ，ξ1表示递减阈值，表示递增阈值控制参量，m
set
表示初始的内存大小m的选取上限m值，w表示记忆尺度选取参量，w表示滑动窗长，τ表示混合方向选取个数；s2-5-2：利用前w次迭代中记忆尺度的平均值w＝c-w,c-w 1,
…
,c-1，计算当前迭代记忆尺度的预测值代记忆尺度的预测值其中，c表示参数[ω
ij
,θ
ij
]
t
的更新次数，当c＜w且c≠0时，w＝c；s2-5-3：如果则令m＝m-1；如果其中则令m＝m 1；如果既不满足也不满足m保持不变；s2-5-4：根据s2-4中s
c
和y
c
的表达式，分别计算多步拟牛顿公式中的相对应的，前后两次迭代时参数的变化量前后两次迭代时梯度的变化量s2-5-5：根据公式其中，表示海塞矩阵逆矩阵的近似，h表示转置；分别计算m＝2,
…
,m时与真实海塞矩阵的逆矩阵之间的近似程度e
m
；s2-5-6：根据s2-5-5中计算的e
m
和s2-5-3中修正的m，在第c次迭代中选择使得e
m
最小的前τ个记忆尺度，计算前τ个记忆尺度的平均记忆尺度s2-5-7：在τ个方向上进行叠加得到当前迭代时的搜索方向h
c
表示参数
第c次迭代时的海塞矩阵逆矩阵的近似表示，表示经过内循环计算、方差缩减后的梯度。8.根据权利要求7所述的基于复值树突神经模型的时间序列预测方法，其特征在于：所述的计算方法为：的计算方法为：的计算方法为：的计算方法为：其中，i表示单位矩阵。9.根据权利要求8所述的基于复值树突神经模型的时间序列预测方法，其特征在于：所述h
c
的计算方法为：10.一种基于复值树突神经模型的时间序列预测系统，其特征在于：包括数据获取模块、建模模块、训练模块和预测模块，所述数据获取模块获取原始数据进行复值化处理得到训练集，并将所述训练集传送给所述训练模块；所述建模模块构建复值树突神经模型，所述训练模块使用所述训练集训练所述复值树突神经模型得到训练完成的复值树突神经模型，训练时采用方差缩减的循环结构优化训练过程、采用定量递增的策略改变随机批次数；所述预测模块将待测数据输入训练完成的复值树突神经模型得到预测结果。

技术总结
本发明涉及神经网络技术领域，公开一种基于复值树突神经模型的时间序列预测方法和系统，方法包括获取原始数据进行复值化处理得到训练集，构建复值树突神经模型；使用所述训练集训练所述复值树突神经模型得到训练完成的复值树突神经模型，训练时采用方差缩减的循环结构优化训练过程、采用定量递增的策略改变随机批次数；将待测数据输入训练完成的复值树突神经模型得到预测结果；系统包括数据获取模块、建模模块、训练模块和预测模块。本发明可以加快收敛速度、提高精确性，适用于大型数据集。适用于大型数据集。适用于大型数据集。


技术研发人员：黄鹤 王悦琳 王志东
受保护的技术使用者：苏州大学
技术研发日：2022.11.23
技术公布日：2023/3/10