一种基于改进GAN算法的网络流量预测方法及系统

本发明属于但不限于电子通信，尤其涉及一种基于改进gan算法的网络流量预测方法及系统。

背景技术：

1、随着物联网的快速部署和发展，网络规模不断扩大，网络应用日益增多，网络流量呈指数级增长以及具有多样性和异构性趋势。为了进行更高效的资源管理,提高服务质量(quality ofservice、qos)以及更好地预防网络攻击等、高精度地流量预测变得至关重要。

2、目前，基于统计模型的流量预测方法被广泛应用。如自回归滑动平均模型(auto-regressive and movingaverage mode，armam)、差分整合移动平均自回归模型(auto-regressive integrated movingaverage，arima)、马尔可夫模型(markov model)等。这些模型假设网络流量数据是平稳的或者可以通过差分等方法转换为平稳序列。然而，实际的网络流量具有复杂的动态特性，如多尺度性和突发性等，使得统计模型难以准确捕捉流量的变化规律。

3、近年来、深度学习逐渐用于网络流量预测领域，典型的有前馈神经网络、径向基函数(radial basis function,rbf)神经网络、基于谱的神经网络和递归神经网络等。但是传统的循环神经网络(recurrentneural network，rnn)无法捕捉到数据长期的演化，并且在面对长期时间序列时很难避免rnn自身所带来的梯度消失和梯度爆炸等问题。由此长短时期记忆(long short-term memory，lstm)网络应运而生，lstm在稳藏层中加入一个状态用来保存长期状态，从而解决了rnn无法处理长期依赖的问题。

4、鉴于上述分析，现有技术存在的急需解决的技术问题为：

5、现有的基于lstm的方法对多尺度时间捕获不足，流量预测精度因此受限；并且训练过程中梯度消失会导致模型收敛困难，鲁棒性较差。

技术实现思路

1、针对现有技术存在的问题，鉴于gan在深度学习领域的优异表现，将其独特的对抗博弈思想引入网络流量预测领域，通过生成器和判别器的对抗博弈过程来探究网络流量的数据分布，进而提出了一种基于gan和lstm融合的网络流量预测方法，基于gan的生成器和判别器，将生成器设计为时间卷积-长短期记忆(temporal convolutionalnetwork-longshort termmemory，tcn-lstm)模型，判别器设计为双向-长短期记忆-注意力(bidirectional long short term memory-attention mechanism，bi-lstm-am)模型，用于解决现有技术存在的网络流量预测精度低且模型难收敛的问题，以实现高效的资源管理和提供更好的qos保障。

2、本发明是这样实现的，一种基于改进gan算法的网络流量预测方法，包括以下步骤：

3、步骤一，构建基于改进gan的网络流量预测模型，所述基于改进gan的网络流量预测模型包括生成器(generator，g)和判别器(discriminator，d)；

4、步骤二，将网络的历史流量数据作为条件信息约束生成器生成预测流量；

5、步骤三，通过判别器与生成器的对抗过程学习网络历史流量到预测流量的映射，使得生成器根据历史流量预测当前流量；

6、所述生成器g为时间卷积-长短期记忆(temporal convolutional network-longshort term memory，tcn-lstm)模型，生成器g的输入为历史流量数据，输出为预测流量数据；所述判别器d为双向-长短期记忆-注意力(bidirectional long short term memory-attention mechanism，bi-lstm-am)模型，判别器d的输入为生成器g输出的预测流量或者真实的流量数据，判别器d的输出为1或0：判别器d判别其输入为真时，输出1；当判别器判别其输入为假时，输出0。

7、进一步，所述生成器由lstm层和tcn层串联后接全连接层组成，其中，lstm层由4个lstm神经元细胞cell并联，tcn层采用因果卷积和膨胀卷积，并加入残差模块构建基本网络单元；

8、所述膨胀卷积使得有效窗口的大小随着层数呈指数型增长，所述因果卷积计算流量数据时间步t的输出时，只有在时间步t及之前的状态参与卷积。

9、进一步，每个lstm神经元结构由遗忘门、输入门、输出门组成；遗忘门决定上一时刻的单元状态保留的情况，输入门决定当前时刻网络输入的保存情况，输出门控制单元状态有多少输出到lstm网络当前输出值，基于上一时刻的细胞状态、遗忘门、记忆门和候选输入向量，更新当前时刻的细胞状态。

10、进一步，lstm遗忘门的衰减系数计算公式：

11、ft＝σ(wfxt+ufht-1+bf)

12、其中，ft为遗忘门，σ为sigmoid激活函数，wf为遗忘门的权值矩阵，xt为当前时刻的输入值，ht-1为隐藏层，即上一时刻的遗忘门神经元状态，uf为遗忘门的权信矩阵，bf为遗忘门的偏置项；通过读取ht-1和xt的数值，经过sigmoid激励函数处理之后会输出一个0～1的数值ft，用来决定从细胞状态中丢弃什么信息，用1表示“完全保留”，0表示“完全舍弃”；

13、输入门it的计算公式为：

14、it＝σ(wixt+uiht-1+bi)

15、st＝tanh(wsxt+usht-1+bs)

16、ct＝fict-1+itst

17、其中，σ为sigmoid激活函数，wi为输入门的权值矩阵，xt为当前时刻的输入值，ht-1为隐藏层，即上一时刻的遗忘门神经元状态，ui为输入门的权值矩阵，bi为输入门的偏置项；

18、首先经过一层sigmoid激励函数，输出了0～1间的值来决定什么样的输入值需要被更新，然后经过tanh激励函数筛选出新的候选值st，计算更新旧神经元的状态，将上一时刻的神经元状态ct-1更新至ct；

19、这样lstm神经元的当前记忆st与长期记忆ct-1结合在一起得到了新的记忆单元ct，遗忘门可以控制它保存长期信息，输入门又可以控制它避免无用的信息进入记忆；

20、输出门的计算公式为：

21、ot＝σ(woxt+uoht-1+bo)

22、其中，wo为输出门的权值矩阵，uo为输出门的权值矩阵，bo为输出门的偏置项。同样也是经过一层sigmoid激励函数筛选出输出的信息ot。

23、lstm最终的输出由输出门和前面计算的单元状态ct共同决定，计算公式为：

24、ht＝ottanhct

25、得到最后的输出值ht。

26、进一步，所述判别器d由卷积层、bi-lstm层、注意力层以及全连接层构成；所述判别器d的数据输入为双向通道。

27、进一步，所述注意力层的特征注意力机制：将注意力权重计算的过程与特征的表示空间进行关联，输入特征前一时刻网络的隐藏状态ht-1作为输入，计算每个特征序列的注意力得分，计算公式为：

28、

29、式中，v∈rt、v∈rt×q、ue∈rt×t为权重矩阵；be∈rt为偏置矩阵；

30、最后对注意力得分函数使用softmax方法统一量纲后归一化得到输出，计算公式如下：

31、

32、进一步，所述基于改进gan的网络流量预测模型的训练过程包括：

33、(1)使用训练数据训练生成器模型，200个epoch，根据模型损失函数训练得到的loss值对生成器参数进行更新，模型的损失函数为：

34、

35、(2)然后固定生成器，训练判别器，100个epoch，根据损失函数训练得到loss值对判别器参数进行更新；

36、(3)最后进行联合对抗训练，采用动态对抗权重调节算法(daw)算法动态调整学习率，直至模型达到收敛条件后结束训练。

37、本发明的另一目的在于提供一种基于改进gan算法的网络流量预测方法的基于改进gan算法的网络流量预测系统，包括：

38、模型构建模块，构建基于改进gan的网络流量预测模型，所述基于改进gan的网络流量预测模型包括生成器(generator，g)和判别器(discriminator，d)；

39、预测流量生成模块，将网络的历史流量数据作为条件信息约束生成器生成预测流量；

40、当前流量预测模块，通过判别器与生成器的对抗过程学习网络历史流量到预测流量的映射，使得生成器根据历史流量预测当前流量；

41、所述生成器g为时间卷积-长短期记忆(temporal convolutional network-longshort term memory，tcn-lstm)模型，生成器g的输入为历史流量数据，输出为预测流量数据；所述判别器d为双向-长短期记忆-注意力(bidirectional long short term memory-attention mechanism，bi-lstm-am)模型，判别器d的输入为生成器g输出的预测流量或者真实的流量数据，判别器d的输出为1或0：判别器d判别其输入为真时，输出1；当判别器判别其输入为假时，输出0。

42、本发明的另一目的在于提供一种计算机设备，计算机设备包括存储器和处理器，存储器存储有计算机程序，计算机程序被处理器执行时，使得处理器执行所述的基于改进gan算法的网络流量预测方法的步骤。

43、本发明的另一目的在于提供一种计算机可读存储介质，存储有计算机程序，计算机程序被处理器执行时，使得处理器执行所述的基于改进gan算法的网络流量预测方法的步骤。

44、结合上述的技术方案和解决的技术问题，本发明所要保护的技术方案所具备的优点及积极效果为：

45、第一、本发明提出了一种基于改进gan算法的网络流量预测方法，基于gan的生成器和判别器，提出tcn-lstm生成器模型和bi-lstm-am判别器模型，其中，加入具有良好全局特征提取能力的tcn进行优化，搭建lstm-tcn网络作为生成器g模块的主体网络，能够有效捕捉基站流量各个时间尺度的依赖关系，提取出丰富的短期和中长期特征信息，更好地表征关键历史流量特征。判别器d的数据输入为双向通道，能够同时学习正向和反向两个方向的信息，从而更好地捕捉序列数据中的长期依赖关系，并且将特征注意力机制融入该网络，能够大幅提高模型对特征信息的读取、记忆能力。结合lstm网络的长短期记忆学习能力，可更全面地理解输入特征正逆向隐含信息，并且加强对输入序列中特定特征的关注力，最终提高模型的预测性能。

46、第二，现有的基于lstm的方法对多尺度时间捕获不足，流量预测精度因此受限；并且训练过程中梯度消失会导致模型收敛困难，鲁棒性较差。本发明的目的在于针对上述现有技术存在的不足，基于gan的生成器和判别器，将生成器设计为tcn-lstm模型，判别器设计为bi-lstm-am模型，用于解决现有技术存在的网络流量预测精度低且模型难收敛的问题，以实现高效的资源管理和提供更好的qos保障。