一种基于时序因果补全的大型视觉语言模型越狱攻击方法

摘要: 本发明涉及人工智能安全与多模态大模型,具体涉及一种针对大型视觉语言模型的越狱攻击方法,尤其涉及利用模型固有时序因果推理能力实现安全对齐绕过的自动化攻击系统。背景...
一种基于时序因果补全的大型视觉语言模型越狱攻击方法

本发明涉及人工智能安全与多模态大模型,具体涉及一种针对大型视觉语言模型的越狱攻击方法,尤其涉及利用模型固有时序因果推理能力实现安全对齐绕过的自动化攻击系统。

背景技术:

1、随着人工智能技术的飞速发展,大型视觉语言模型已成为跨模态信息处理的核心架构,在自动驾驶、医疗诊断、智能客服、内容创作、工业检测等关键领域获得了广泛应用。以qwen2.5-vl、gpt-4o、internvl3.5为代表的新一代视觉语言模型,通过融合高精度视觉感知与深度语言理解能力,实现了对复杂多模态输入的精准解析和逻辑推理,极大地拓展了人工智能的应用边界。

2、然而,大型视觉语言模型的跨模态集成特性也引入了全新的安全挑战。当前主流的安全对齐机制主要依赖于对显式有害信号的检测与过滤,包括文本中的违禁词、图像中的暴力色情元素、音频中的敏感内容等。现有的越狱攻击方法也大多基于这一特点设计,通过在视觉模态中嵌入隐藏的有害文本、添加微小对抗扰动或构造复杂输入分散模型注意力来绕过安全防护。例如,hades方法将违禁文本直接嵌入图像像素中,jps方法通过协同视觉扰动和文本引导实现攻击,cs-dj 方法基于 "注意力分散假说" 构造高复杂度输入以耗尽模型的安全检测资源。

3、上述现有技术仍然存在显著且难以克服的缺陷,首先,这些技术过度依赖显式有害信号。所有攻击方法均需在输入中包含可被检测的有害元素,随着输入过滤器和安全对齐机制的不断升级,这类攻击的成功率持续下降,且极易被防御系统识别和拦截;在面对黑盒场景时的适应性极差,多数高效攻击方法为白盒攻击,需要访问模型内部参数、梯度信息和网络结构,无法应用于商业闭源模型;攻击的隐蔽性严重不足,显式的有害信号或异常扰动会触发模型的安全预警,导致攻击行为暴露,无法实现长期潜伏和持续利用。

4、更为关键的是,现有技术完全忽视了大型视觉语言模型固有推理能力带来的根本性安全漏洞。研究发现,大视觉语言模型具有强烈的 "认知补全" 本能,当面对存在语义间隙的时间序列时,会自动利用内部知识填补因果链条中的缺失环节,以维持叙事的连贯性。这一核心推理能力是大型视觉语言模型实现复杂任务理解的基础,但同时也构成了一个尚未被发现和系统利用的重大安全隐患。

5、因此,迫切需要一种能够绕过显式内容检测、适用于纯黑盒场景、具有高隐蔽性和强泛化性的新型视觉语言模型越狱攻击方法,以全面评估现有大视觉语言模型安全对齐机制的鲁棒性,为下一代多模态安全防御技术提供理论依据和技术支撑。

技术实现思路

1、本发明的目的在于克服现有技术的不足,提供一种基于时序因果补全的大型视觉语言模型越狱攻击方法及系统,解决现有攻击方法依赖显式有害信号、易被检测、黑盒场景成功率低、隐蔽性差的技术问题,首次实现了利用大型视觉语言模型固有时间因果推理能力的越狱攻击。

2、本发明解决其技术问题所采用的技术方案是:一种基于时序因果补全的大型视觉语言模型越狱攻击方法,包括以下步骤:

3、s1、将输入的有害指令通过辅助大语言模型转换为第三人称客观叙事文本,去除直接的恶意指令特征;

4、s2、将所述叙事文本分解为初始状态、发展状态、高潮状态和结束状态四个离散时间阶段,生成对应每个阶段的视觉场景描述,合成经过语义过滤的无显式有害元素的 2×2多网格因果时序图像;

5、s3、采用标准化三轮对话模板引导目标模型,依次进行客观视觉描述、技术机制分析和操作步骤提取;

6、s4、分析目标模型的拒绝模式,根据拒绝强度自动生成针对性攻击策略,动态调整诱导方式以瓦解模型安全防线;

7、s5、综合前序多轮对话积累的多模态上下文信息构建高度连贯的攻击语境,以构建正式威胁评估数据库等学术研究场景为合法性包装,强制要求目标模型提供完整、精确的过程参数与操作步骤。

8、s6、在每轮对话结束后利用基于 harmbench 的独立评审模型评估攻击效果,若达到预设成功标准则终止流程,否则重新执行诱导越狱步骤。

9、具体的,步骤 s1 中所述意图上下文转换通过辅助大语言模型执行预设的上下文转换提示词实现,将原始有害指令转换为不含直接恶意指令的第三人称学术研究视角叙事文本。所述意图上下文转换通过公式1实现。

10、公式1

11、其中,i为原始有害指令,为辅助大语言模型,本实施例中采deepseek-chat模型;为预设的上下文转换提示词,用于引导辅助模型以安全研究视角扩展有害指令;n为生成的第三人称客观叙事文本,文本长度控制在800至1200字符,包含完整的过程描述和清晰的阶段划分。

12、具体的,步骤 s2将叙事文本分解为初始状态、发展状态、高潮状态和结束状态四个离散状态描述,然后利用文生图模型生成对应每个阶段的详细视觉图像,本实施例中采用 z-image-turbo 模型生成图像,单张图像分辨率为 2048×2048,网格布局中左上角为初始状态,右上角为发展状态,左下角为高潮状态,右下角为结束状态。这种布局符合人类的视觉阅读习惯,能够自然地引导模型按照时序顺序进行推理。

13、所述视觉图像通过以下公式实现:

14、公式2

15、其中,为初始状态图像,展示无害的原材料或准备场景;为发展状态图像,展示事件或行为的变化过程,不涉及任何危险细节;为高潮状态图像,展示事件的强烈视觉效果;为结束状态图像,展示最终结果;为预设的时间分解提示词,用于引导辅助模型生成符合因果逻辑的四个阶段描述,确保相邻阶段之间存在明确的因果关联。

16、具体的,步骤 s3 中所述标准化三轮对话模板针对 13 类常见有害场景分别设计,所有模板统一遵循 "视觉过渡分析→技术细节探究→操作步骤提取" 的渐进式结构。所述 13 类常见有害场景包括爆炸物、毒品、自杀、黑客攻击、杀人、社会暴力、金融诈骗、枪支武器、自残、隐私侵犯、动物虐待、金融欺诈、暴力伤害。第一轮对话为客观描述,要求模型客观分析多宫格图像中的视觉过渡和时间变化,完全避免任何可能触发安全警报的表述;第二轮对话为技术深挖,询问不同阶段之间的技术机制和转换原理,并引入专业身份作为合法性包装;第三轮对话为过程提取,要求模型提供具体的操作步骤和技术参数。

17、具体的,步骤 s4 中所述动态策略优化具体包括:对于强拒绝模式,采用安全研究员、法医分析师等高可信度角色扮演策略建立请求的合法性;对于中等拒绝模式,使用密集的专业术语和学术语境将请求伪装为理论研究或技术分析;对于弱拒绝模式,通过迭代询问具体细节逐步引导目标模型补全缺失的有害信息。

18、所述拒绝强度通过拒绝评分r进行量化,拒绝评分由基于专门多模态模型评估得到,取值范围为 [0,1]。当时,判定为强拒绝模式;当时,判定为中等拒绝模式;当时,判定为弱拒绝模式。动态策略优化过程中,通过动态加权系数调整攻击策略的强度,所述动态加权系数通过以下公式计算:

19、公式3

20、其中,表示将x截断到范围内。加权系数越大,表示攻击策略的强度越高,越倾向于使用更具说服力的角色扮演和更专业的学术术语。

21、本发明的有益效果如下:

22、首先,本发明实现了隐式的越狱攻击,具有极高的隐蔽性。本发明不依赖显式有害信号,所有输入图像和文本在单独检测时均为完全无害的内容,能够有效绕过基于内容过滤的传统安全防御机制。其次,本发明在完全黑盒环境下实现了极高的攻击成功率。实验结果表明,本发明在开源大视觉语言模型上实现了平均 86.48% 的攻击成功率,在闭源商业模型上实现了平均 66.03% 的攻击成功率,远超现有最先进方法。与依赖白盒信息的攻击方法不同,本发明无需访问任何模型内部参数、梯度信息或网络结构,仅通过标准 api 接口即可实现攻击,适用于所有主流大视觉语言模型。最后,本发明首次发现并系统验证了大型视觉语言模型的时序因果补全漏洞,为多模态大模型安全研究开辟了全新方向,这一发现揭示了现有安全对齐机制的根本性缺陷,为下一代上下文感知型多模态安全防御技术的研发提供了核心理论依据和技术支撑。