基于神经网络隐LSTM模型的二进制流信息分析方法与流程

技术特征：
1.一种基于神经网络隐lstm模型的二进制流信息分析方法，其特征在于，在神经网络中将二进制流看作为时序数据，利用lstm模型对所述时序数据进行训练，所述方法包括如下步骤：确定嵌入空间的维数m，取二进制流中的每r位数据为一个字母，并确定相应的2^r个字母在嵌入空间的对应嵌入向量；确定观测空间的维数n，观测空间的维数由观测状态的情况和观测状态的颗粒度来确定，所述观测状态为二进制流中的单个位的数据或者二进制流的单个字母所传输的信息的状态；确定隐状态空间的维数l，所述隐状态空间是所述观测空间的状态转移所依赖的状态概率空间，同时也是lstm模型输出的概率空间；建立lstm模型，并初始化模型参数，所述lstm模型的输入为二进制流转化的嵌入向量序列，输出序列的激活使用softmax函数，以模拟输出状态的概率分布；建立状态空间到观测空间的状态转移模型；设计lstm模型的模型整体损失函数，模型整体损失函数通过比较输出状态和实际观测到的状态标签来获取，在确定模型和参数后，通过前向传递计算模型整体损失函数，并对模型参数进行训练；在模型参数训练完成以后，保存模型的嵌入参数、lstm参数和状态转移参数，以供模型在对二进制流信息进行分析时使用。2.根据权利要求1所述的基于神经网络隐lstm模型的二进制流信息分析方法，其特征在于，r为8或者16。3.根据权利要求2所述的基于神经网络隐lstm模型的二进制流信息分析方法，其特征在于，所述二进制流的字母到嵌入空间的嵌入由一个2^r*m维的矩阵表示，所述矩阵的每一列为对应字母的嵌入向量。4.根据权利要求3所述的基于神经网络隐lstm模型的二进制流信息分析方法，其特征在于，嵌入空间的参数矩阵为如下中的一者：随机初始化参数矩阵中的参数，并且在训练过程中持续优化参数矩阵；或者引用特定的初始化参数作为参数矩阵中的参数，并且在训练过程中冻结参数矩阵。5.根据权利要求1所述的基于神经网络隐lstm模型的二进制流信息分析方法，其特征在于，观测状态分为具有攻击威胁的数据、不具有攻击威胁的正常数据两类，若观测状态的颗粒度为字母级，则观测空间的维数为2；若观测状态的颗粒度为单个位级，则观测空间的维数为2^r。6.根据权利要求5所述的基于神经网络隐lstm模型的二进制流信息分析方法，其特征在于，若观测状态的颗粒度为字母级，则另外引入其他的观测状态，所述其他的观测状态包括可疑数据。7.根据权利要求1所述的基于神经网络隐lstm模型的二进制流信息分析方法，其特征在于，所述隐状态空间的维数通过如下中的一者确定：通过训练中经验的调优所得；或者通过基于二进制流信息分析的机理模型中隐含状态与观测状态的关系来获得。8.根据权利要求1所述的基于神经网络隐lstm模型的二进制流信息分析方法，其特征在于，状态空间到观测空间的状态转移模型中的状态转移函数为线性的，所述状态转移函
数由一个l*n的线性状态转移矩阵来描述，所述线性状态转移矩阵中的每项的值均为非负数，并且每行向量的和为1。9.根据权利要求1所述的基于神经网络隐lstm模型的二进制流信息分析方法，其特征在于，所述模型整体损失函数为交叉熵函数或者相关状态在观测空间的距离。10.根据权利要求1所述的基于神经网络隐lstm模型的二进制流信息分析方法，其特征在于，在模型参数训练完成以后，模型通过持续的训练更新进行优化，并在不同的使用场景中进行迁移学习，模型的更新优化过程中，冻结嵌入参数、lstm模型参数或状态转移参数中的任意部分；模型参数的迁移学习，将已有的隐lstm模型中的嵌入模型和lstm模型进行迁移，并根据使用场景设计新的观测空间、状态转移模型和损失函数，在迁移学习的过程中，嵌入参数和lstm模型参数保持冻结。

技术总结
本发明提供一种基于神经网络隐LSTM模型的二进制流信息分析方法，涉及数据流信息分析技术领域。该方法包括：确定嵌入空间的维数m，取二进制流中的每r位数据为一个字母，并确定相应的2^r个字母在嵌入空间的对应嵌入向量；确定观测空间的维数n；确定隐状态空间的维数L；建立LSTM模型，并初始化模型参数；建立状态空间到观测空间的状态转移模型；设计LSTM模型的模型整体损失函数；在模型参数训练完成以后，保存模型的嵌入参数、LSTM参数和状态转移参数。本发明通过将二进制流信息视为一种需要处理和分析的语言结构，结合隐马克可夫模型的想法和循环神经网络的应用，实现了对二进制流信息的分析，提升了信息分析的准确性。提升了信息分析的准确性。提升了信息分析的准确性。


技术研发人员：王高翃
受保护的技术使用者：上海工业自动化仪表研究院有限公司
技术研发日：2021.12.16
技术公布日：2022/3/21