基于大语言模型动态秩适配的低资源恶意流量检测方法与流程

摘要: 本发明属于网络信息安全与人工智能流量检测,具体涉及一种基于大语言模型动态秩适配的低资源恶意流量检测方法。背景技术:1、随着网络攻击趋于自动化、隐蔽化、变异化,攻...
基于大语言模型动态秩适配的低资源恶意流量检测方法与流程

本发明属于网络信息安全与人工智能流量检测,具体涉及一种基于大语言模型动态秩适配的低资源恶意流量检测方法。

背景技术:

1、随着网络攻击趋于自动化、隐蔽化、变异化,攻击流量通过篡改载荷字段、伪装正常流量行为规避传统检测手段。网络流量天然具备多模态异构特性,包含结构化数值行为流量与非结构化文本载荷流量两类核心特征,两类特征语义维度、数据分布、表征逻辑差异明显,给智能检测带来极大挑战。

2、目前主流恶意流量检测方案已逐步从传统规则匹配、机器学习特征检测,迭代至大语言模型语义检测方案。现有基于大模型的流量检测技术虽具备一定的语义理解能力,但在边缘低资源落地场景中,仍存在以下问题:

3、1、多模态预处理无差异化降噪,数值噪声与文本噪声混杂,易导致特征污染及变异攻击漏检;

4、2、参数微调策略固化,固定秩的lora方式无法适配不同攻击流量的模态关联强度,模型泛化性差;

5、3、缺乏针对性多模态干扰抑制机制,未区分注意力与前馈模块功能差异,导致跨模态特征交叉干扰无法抑制,融合后易出现语义偏移与特征混叠,轻量化微调精度损失难解;

6、4、推理阶段无资源自适应调度能力:现有所有大模型流量检测方案均采用固定推理精度、固定推理分支的运行模式,边缘设备算力波动时,易造成模型卡顿、推理超时、进程闪退;

7、5、检测功能单一,仅输出分类结果,缺乏攻击等级、意图推理及防御闭环,实用性受限。

8、因此,现有技术难以兼顾多模态特征净化、动态轻量化微调、边缘稳定推理与检测防御一体化,亟需改进。

技术实现思路

1、(一)要解决的技术问题

2、本发明要解决的技术问题是:为克服现有技术中多模态特征噪声污染、固定参数微调适配性差、跨模态干扰严重、边缘推理稳定性不足、检测功能单一无闭环的技术缺陷,提供一种低资源场景下多模态恶意流量语义推理检测方法。

3、(二)技术方案

4、为了解决上述技术问题,本发明提供了一种基于大语言模型动态秩适配的低资源恶意流量检测方法,包括以下步骤:

5、s1、多模态流量采集与差异化自适应降噪预处理

6、将实时采集的原始网络流量数据解析并拆分为数值行为模态与文本载荷模态两类数据流,针对两类模态的噪声特性,分别采用差异化的自适应降噪策略,实现无损特征提纯;

7、s2、模态感知分层嵌入与动态门控跨模态融合

8、针对步骤s1处理后得到的两类数据流,通过进行异构特征对齐投影、配置可学习的模态标识向量以及动态门控融合,生成统一多模态流量表征,作为大语言模型的输入特征;

9、s3、动态秩结构约束大语言模型微调

10、将步骤s2输出的统一多模态流量表征作为大语言模型的输入,通过模态干扰感知动态秩分配、双分支差异化frobenius正则约束,对大语言模型的注意力模块与前馈模块配置低秩适配参数,实现对大语言模型进行微调训练,得到训练好的大语言模型;

11、s4:边缘设备算力自适应多级推理调度

12、在模型推理阶段引入三级推理调度机制,确定大语言模型的推理模式;

13、s5:五级结构化语义推理与场景化防御闭环输出

14、将统一多模态流量表征输入训练好的大语言模型,基于步骤s4确定的大语言模型的推理模式执行五级结构化语义推理,通过标准化推理提示模板约束大语言模型输出五个维度的推理结果,其中包括恶意流量检测结果。

15、(三)有益效果

16、本发明相较于现有技术,具有以下五项创新设计:

17、1、双模态独立自适应降噪预处理:针对数值行为模态与文本载荷模态分别设计降噪逻辑,数值模态采用动态统计阈值过滤离群值,文本模态基于攻防语义库过滤冗余字段。

18、2、模态干扰感知动态秩lora微调:实时计算多模态特征交叉干扰系数,动态自适应调整注意力子模块、前馈子模块的低秩维度与缩放系数,解决固定参数欠拟合、过拟合、参数冗余问题。

19、3、双分支差异化正则干扰抑制技术:针对大模型双核心子模块的功能差异,设计独立的正则约束策略,对注意力模块约束跨模态关联冗余,对前馈模块约束特征变换冗余,抑制多模态交叉干扰,提升大模型的特征表征纯度。

20、4、边缘多级算力自适应推理调度技术:首创边缘设备实时资源监测与三级推理调度机制,根据显存、cpu、内存实时占用情况自适应切换推理精度与推理分支,保障极限低资源场景稳定运行。

21、5、构建五级结构化推理输出,包括攻击判定、等级分级、意图推理、溯源分析及防御策略匹配,并适配不同部署场景。

1.一种基于大语言模型动态秩适配的低资源恶意流量检测方法,其特征在于,包括以下步骤:

2.如权利要求1所述的方法,其特征在于,步骤s1具体包括:

3.如权利要求2所述的方法,其特征在于,步骤s2具体包括:

4.如权利要求3所述的方法,其特征在于,步骤s3具体包括:

5.如权利要求4所述的方法,其特征在于,步骤s4中的三级推理调度机制设计如下:

6.如权利要求5所述的方法,其特征在于,步骤s5中,构建固定格式的结构化推理提示模板,与统一多模态流量表征z拼接后输入大语言模型,通过json格式约束大语言模型输出最多五个维度的结构化分析字段:恶意判定、攻击类型、危害等级、攻击意图与溯源分析结果。

7.如权利要求2所述的方法,其特征在于,步骤s1.2中,在滑动窗口内,对连续特征与统计特征按3σ准则剔除落在[μ-3σ,μ+3σ]外的离群样本,其中,μ为均值,σ为标准差;对离散特征,剔除出现频率低于0.1%的异常值;对连续特征与统计特征进行窗口动态极值的最大最小归一化处理,映射至[0,1]区间。

8.如权利要求4所述的方法,其特征在于,步骤s3.1中,首先,根据步骤s2.2中配置的模态标识向量,从统一多模态流量表征中分离出对应数值行为模态的分量即数值模态嵌入特征与对应于文本模态的分量即文本模态嵌入特征,分别取均值后计算二者的余弦距离,定义模态干扰系数为:

9.如权利要求4所述的方法,其特征在于,注意力模块的查询投影与值投影、前馈模块的门控投影与上投影,这四个投影层的权重更新公式均为:

10.如权利要求4所述的方法,其特征在于,步骤s3.2中,对注意力模块和前馈模块的lora参数分别施加独立的frobenius范数约束时,总损失函数为: