一种面向电力大模型的自适应演化注入攻击检测方法及系统与流程

摘要: 本发明涉及注入攻击检测的,尤其是涉及一种面向电力大模型的自适应演化注入攻击检测方法及系统。背景技术:1、目前,随着新能源接入,新型电力系统逐渐朝着复杂化、多样化...
一种面向电力大模型的自适应演化注入攻击检测方法及系统与流程

本发明涉及注入攻击检测的,尤其是涉及一种面向电力大模型的自适应演化注入攻击检测方法及系统。

背景技术:

1、目前,随着新能源接入,新型电力系统逐渐朝着复杂化、多样化的方向发展,电力系统包含用户隐私信息、电网运行数据和电网操作指令等,当电力系统受到网络攻击尤其是注入攻击时容易造成隐私信息泄露或关键操作信息泄露,对电网造成安全威胁,因此,准确检测并识别电力系统注入攻击,成为保证电网安全稳定运行的重要手段。

2、现有的电力系统注入攻击的检测方法通常分为基于设定特征库或设定规则的静态检测和基于随机变异的动态检测,静态检测方式无法应对未知的新型攻击且容易被伪装绕过,动态检测通过对输入进行随机扰动并观察响应差异进行攻击判断,但是在面对复杂专业术语与长文本指令的电力场景下,缺乏有效扰动手段导致难以准确检测,还容易破坏电力专业指令的语义完整性,未考虑电力业务特性,导致正常业务指令在扰动后因语义崩坏而被误判为异常指令,甚至可能被误判为攻击指令,误报率较高。

技术实现思路

1、针对现有技术中电力注入攻击未考虑电力业务特性、盲目扰动且效率低、误报率高的问题,本技术提供一种面向电力大模型的自适应演化注入攻击检测方法及系统,能够消除通用随机扰动导致正常生产指令语义崩坏而被电力大模型拒答的痛点,提高注入攻击检测的灵敏度并降低对正常电力业务指令的误报率。

2、第一方面,本技术的上述发明目的是通过以下技术方案得以实现的:

3、一种面向电力大模型的自适应演化注入攻击检测方法,所述方法包括:

4、获取电力大模型的原始用户输入指令进行电力专业敏感片段流识别,基于识别结果对所述电力专业敏感片段流进行事前语义掩码冻结处理;

5、通过预训练的演化变异策略模型筛选目标扰动算子,并基于语义掩码冻结结果对所述原始用户输入指令中的非冻结片段流进行变异扰动,生成变异输入集合;

6、将所述原始用户输入指令和所述变异输入集合输入所述电力大模型中获取原始响应文本和变异响应文本集合进行语义分布差异计算,基于计算结果生成高维语义概率分布差异集合;

7、计算所述高维语义概率分布差异集合中的最大语义散度值,并结合历史正常业务响应偏差分布动态生成的安全阈值进行注入攻击判断,得到所述原始用户输入指令的注入攻击检测结果。

8、本技术在一较佳示例中可以进一步配置为:所述将所述原始用户输入指令和所述变异输入集合输入所述电力大模型中获取原始响应文本和变异响应文本集合进行语义分布差异计算,基于计算结果生成高维语义概率分布差异集合,还包括:

9、通过预训练的语义嵌入模型对所述原始响应文本和所述变异响应文本集合进行分词处理与向量映射,得到原始响应文本语义向量和变异响应文本语义向量集合;

10、计算所述原始响应文本语义向量和所述变异响应文本语义向量集合之间的概率分布差异度量值,基于所述概率分布差异度量值计算每个目标扰动算子的扰动奖励值;

11、将所述扰动奖励值反馈至所述演化变异策略模型中进行扰动算子分布参数的后验迭代更新处理,得到更新后的演化变异策略模型。

12、本技术在一较佳示例中可以进一步配置为:所述通过预训练的语义嵌入模型对所述原始响应文本和所述变异响应文本集合进行分词处理与向量映射,得到原始响应文本语义向量和变异响应文本语义向量集合中的语义嵌入模型的训练过程,具体包括:

13、获取历史电网调度指令并进行电力专业敏感片段流的语义掩码冻结与非专业片段流变异扰动处理,得到历史调度变异输入集合;

14、分别获取所述电力大模型对所述历史电网调度指令和所述历史调度变异输入集合的响应结果,构建包含正常响应样本、语义对齐正样本和对抗变异响应负样本的训练集;

15、基于预设损失函数对所述训练集进行梯度回传训练,基于训练结果分析所述历史电网调度指令和所述历史调度变异输入集合之间的非线性对抗偏离关系并构建语义嵌入模型。

16、本技术在一较佳示例中可以进一步配置为:所述基于预设损失函数对所述训练集进行梯度回传训练,基于训练结果分析所述历史电网调度指令和所述历史调度变异输入集合之间的非线性对抗偏离关系并构建语义嵌入模型,具体包括:

17、所述损失函数的函数表达式如下所示:

18、

19、其中,表示损失函数值,表示正常响应样本和语义对齐样本的语义相似度,表示温控常数,表示正常响应样本和第个对抗变异响应负样本的语义相似度。

20、本技术在一较佳示例中可以进一步配置为:所述计算所述原始响应文本语义向量和所述变异响应文本语义向量集合之间的概率分布差异度量值,基于所述概率分布差异度量值计算每个目标扰动算子的扰动奖励值,具体包括:

21、所述概率分布差异度量值的计算表达式如下所示:

22、

23、其中,表示第个目标扰动算子的概率分布差异度量值,表示原始响应文本分布和变异响应分布的kl散度标量,表示所述高维语义概率分布差异集合中的总语义维度数,表示每个独立维度的遍历索引号,,、分别表示第维度的原始响应文本分布和变异响应分布;所述高维语义概率分布差异集合由各变异响应文本在各语义维度上的逐维概率分布差异向量及其聚合后的kl散度标量共同组成,最大语义散度值为各变异响应文本对应kl散度标量中的最大值;

24、所述目标扰动算子的原始扰动奖励值的计算表达式如下所示:

25、

26、其中,表示原始扰动奖励值,、分别表示概率分布差异权重和计算开销惩罚权重,表示第个目标扰动算子的计算时间开销;所述概率分布差异权重和计算开销惩罚权重仅用于奖励函数计算,不作为汤普森采样的贝塔分布参数;

27、对所述原始扰动奖励值进行归一化处理得到最终扰动奖励值,所述最终扰动奖励值的计算表达式如下所示:

28、

29、其中,表示最终扰动奖励值,、分别表示原始奖励集合的最大值和最小值,表示微小常数。

30、本技术在一较佳示例中可以进一步配置为:所述将所述扰动奖励值反馈至所述演化变异策略模型中进行扰动算子分布参数的后验迭代更新处理,得到更新后的演化变异策略模型,具体包括:

31、所述扰动算子分布参数的后验迭代更新表达式如下所示:

32、

33、

34、其中,、分别表示时刻第个扰动算子的贝塔分布参数α、β,、分别表示时刻第个扰动算子的贝塔分布参数α、β,所述贝塔分布参数α、β用于汤普森采样中的后验迭代更新。

35、本技术在一较佳示例中可以进一步配置为:所述通过预训练的演化变异策略模型筛选目标扰动算子,并基于语义掩码冻结结果对所述原始用户输入指令中的非冻结片段流进行变异扰动,生成变异输入集合,具体包括:

36、获取所述演化变异策略模型中每个扰动算子的贝塔分布参数α、β,基于所述贝塔分布参数α、β进行汤普森采样并进行采样值排序,基于采样值排序结果选取目标扰动算子,所述扰动算子包括随机扰动类算子、语义引导类算子和逻辑结构变异类算子;

37、基于语义掩码冻结结果筛选所述原始用户输入指令中的非冻结片段流,通过目标扰动算子对所述非冻结片段流进行变异扰动,得到变异输入集合。

38、本技术在一较佳示例中可以进一步配置为:所述将所述原始用户输入指令和所述变异输入集合输入所述电力大模型中获取原始响应文本和变异响应文本集合进行语义分布差异计算,基于计算结果生成高维语义概率分布差异集合,具体包括:

39、分别将所述原始用户输入指令和所述变异输入集合输入至所述电力大模型中进行全量推理运算,输出原始响应文本和变异响应文本集合;

40、通过预训练的语义嵌入模型对所述原始响应文本和所述变异响应文本集合分别进行分词处理与向量映射,得到原始响应文本语义向量和变异响应文本语义向量集合;

41、基于所述原始响应文本语义向量和变异响应文本语义向量集合进行语义分布差异计算,得到与所述变异响应文本集合相对应的高维语义概率分布差异集合,其中所述高维语义概率分布差异集合包括各变异响应文本对应的逐维概率分布差异向量以及由逐维差异聚合得到的kl散度标量。

42、本技术在一较佳示例中可以进一步配置为:所述计算所述高维语义概率分布差异集合中的最大语义散度值,并结合历史正常业务响应偏差分布动态生成的安全阈值进行注入攻击判断,得到所述原始用户输入指令的注入攻击检测结果,具体包括:

43、获取历史正常调度指令并构建历史正常调度扰动集合,获取所述电力大模型对所述历史正常调度扰动集合的响应结果并计算基准语义散度集合;

44、按照所有历史正常调度指令的基准语义散度集合和对应的响应时间构建正常响应散度时间序列,并结合高维语义概率分布差异集合计算动态安全阈值,其中,所述动态安全阈值的计算表达式如下所示:

45、

46、其中,表示动态安全阈值,、分别表示正常响应散度时间序列加入高维语义概率分布差异集合计算得到的概率分布差异均值和标准差;

47、计算所述高维语义概率分布差异集合中各变异响应文本对应的kl散度标量,并将各kl散度标量中的最大值作为最大语义散度值,当所述最大语义散度值达到所述动态安全阈值时判定所述原始用户输入指令为注入攻击,得到注入攻击检测结果。

48、第二方面,本技术的上述发明目的是通过以下技术方案得以实现的:

49、一种面向电力大模型的自适应演化注入攻击检测系统,所述系统包括:

50、语义掩码冻结模块,用于获取电力大模型的原始用户输入指令进行电力专业敏感片段流识别,基于识别结果对所述电力专业敏感片段流进行事前语义掩码冻结处理;

51、变异扰动模块,用于通过预训练的演化变异策略模型筛选目标扰动算子,并基于语义掩码冻结结果对所述原始用户输入指令中的非冻结片段流进行变异扰动,生成变异输入集合;

52、响应语义分布差异计算模块,用于将所述原始用户输入指令和所述变异输入集合输入所述电力大模型中获取原始响应文本和变异响应文本集合进行语义分布差异计算,基于计算结果生成高维语义概率分布差异集合;

53、注入攻击判断模块,用于计算所述高维语义概率分布差异集合中的最大语义散度值,并结合历史正常业务响应偏差分布动态生成的安全阈值进行注入攻击判断,得到所述原始用户输入指令的注入攻击检测结果

54、综上所述,本技术包括以下至少一种有益技术效果:

55、1、本技术针对电力大模型的注入攻击,通过构建高维语义概率分布散度计算机制突破了传统物理设备状态估计模型在理论上无法直接作用于大模型非结构化自然语言文本空间的技术瓶颈,实现了对复杂文本语义攻击的跨结构精准捕获,并通过事前的电力专业术语冻结机制,实现非结构化文本扰动变异前对关键电力术语的掩码锁定,确保在后续动态扰动变异过程中核心业务语义的完整性不被破坏,在根本上消除了通用随机变异导致正常生产指令因语义崩坏而被大模型拒答的行业痛点,确保注入攻击检测的高度灵敏同时大幅降低对正常电力业务指令的误报率;

56、2、本技术通过汤普森采样配合贝叶斯分布将注入攻击检测转换为在线动态对抗的演化过程,通过在实时对抗环境中动态平衡变异策略的探索与利用,使得电力大模型的防御能力能够从每一轮的指令实时响应反馈中动态学习,并基于贝叶斯参数的后延更新实现概率自适应平滑迭代,在提高大模型防御能力随注入攻击演化而协同进化的能力时,也提高了电力大模型在非平稳对抗环境下对新型、隐蔽注入攻击的检测效率和适应性;

57、3、本技术在奖励信号建模过程中创造性地构建了“分布差异-计算开销双约束奖励函数”,在大模型面临高并发、高延迟的电力生产实际部署场景下,不仅能够最大化响应语义的散度差异,也将扰动算子的物理硬件运行时间成本作为有偏惩罚项显式引入底层数理反馈中,通过贝叶斯迭代,能够自发淘汰耗时过程的无效扰动变异策略,在保障安全的同时避免因安全检测导致业务时延过高的问题,适配电力系统对实时性的高要求。