基于多智能体的AI漏洞分布式协同治理方法及系统与流程

本公开涉及人工智能领域，尤其涉及一种基于多智能体的ai漏洞分布式协同治理方法及系统。

背景技术：

1、大模型与ai系统的规模化落地催生了模型后门、推理绕过、参数篡改、链式漏洞等新型ai安全缺陷。此类漏洞隐蔽性强、迭代速度快、跨节点联动，单点防护无法有效拦截全域风险。当前行业治理模式主要存在三类方案，均存在固有技术瓶颈。

2、方案一：单点本地化漏洞检测方案。 各节点独立运行，依赖本地规则库与单机模型完成检测，无跨节点协同。其缺陷在于：样本单一导致隐性漏洞漏检率高；仅支持静态识别，无时序风险推演能力；漏洞扩散后只能被动处置，治理严重滞后。

3、方案二：集中式云端协同治理方案。 中心服务器汇聚所有节点原始数据，由云端统一研判与调度。其缺陷在于：原始模型数据与推理日志集中上传，存在不可逆隐私泄露风险，违反数据最小化合规原则；中心算力存在瓶颈，高并发下研判延迟严重；统一处置策略无法适配差异化业务场景，治理精准度低。

4、方案三：节点简易信息共享方案。 各节点仅公开漏洞告警文本，无数据协同与智能调度，协同依赖人工。其缺陷在于：协同层级极低，无自动化闭环；无统一量化评估标准，研判结果碎片化；无可信量化机制，协同秩序混乱；无经验沉淀，同类漏洞反复复发。

5、综上，现有技术均无法同时满足隐私合规、精准研判、智能协同与长效迭代的产业需求。

技术实现思路

1、本公开至少提供了一种基于多智能体的ai漏洞分布式协同治理方法及系统，以解决以上至少一种技术缺陷。

2、根据本公开的一方面，提供了一种基于多智能体的ai漏洞分布式协同治理方法，包括以下步骤：

3、各智能体节点采集本地ai核心运行数据；

4、各所述智能体节点利用定制化差分隐私机制，对所述本地ai核心运行数据中的敏感维度执行噪声扰动脱敏处理，生成脱敏标准化ai安全数据集；

5、各所述智能体节点基于本地的所述脱敏标准化ai安全数据集独立训练本地检测模型，将本地检测模型的模型梯度参数参与联邦聚合，通过节点可信度动态加权聚合生成全局检测模型，并利用所述全局检测模型对本地脱敏数据集执行漏洞扫描，得到漏洞实例集合；

6、对每个漏洞实例，从多个数据源采集五维风险指标的底层观测数据，分别映射为五维标准化评分，并将五维标准化评分代入固定权重综合风险评分公式计算得到综合风险评分，并根据所述综合风险评分判定该漏洞的风险等级；

7、对每个漏洞实例，将所述综合风险评分映射为当前时刻的风险状态概率分布；基于利用ai漏洞知识图谱中的资产拓扑与漏洞关联关系动态构建的状态转移概率矩阵，对所述风险状态概率分布执行动态贝叶斯时序推演，预测下一时刻该漏洞实例处于各风险状态的概率，并基于计算得到的概率计算四项预测指标；所述四项预测指标包括漏洞升级概率、未来扩散范围、链式触发风险及危害增量；

8、采集各所述智能体节点的四维数据；所述四维数据包括历史检测准确率、平均应急响应时效、算力承载充裕度及合规稳定性，并将四维数据分别量化为标准化得分；将量化得到的四个标准化得分代入固定权重的节点可信处置能力评分公式，计算得到各智能节点的综合可信分值，根据所述风险等级及所述四项预测指标确定任务紧急度，自适应选择综合可信分值最优的智能体节点作为处置任务的目标节点；

9、所述目标节点根据所述风险等级执行分级闭环处置操作，记录全流程处置操作以及产生的数据，并对修复后的漏洞执行复测验证，确认漏洞是否闭环。

10、在一种可能的实施方式中，所述定制化差分隐私机制采用核心公式如下：

11、

12、其中，为所述脱敏标准化ai安全数据集，d为所述本地ai核心运行数据，μ 为位置参数，b 为自适应噪声尺度参数，取值区间限定为[0.01, 0.1]。

13、在一种可能的实施方式中，所述全局检测模型参数如下：

14、

15、其中，为所述全局检测模型参数，n 为智能体节点的数量，为第 i 个智能体节点的本地检测模型的模型梯度参数，为第 i 个智能体节点的动态权重系数，所述动态权重系数由该智能体节点的历史检测准确率、可信等级及运行稳定性实时计算得到。

16、在一种可能的实施方式中，所述固定权重综合风险评分公式如下：

17、

18、其中，为所述综合风险评分，为漏洞可利用性评分；为漏洞危害程度评分；为漏洞扩散速度评分；为关联ai资产重要性评分；为漏洞修复难度评分。

19、在一种可能的实施方式中，所述动态贝叶斯时序推演所用的公式如下：

20、

21、其中， 和 分别表示漏洞实例在t时刻和t+1时刻的风险状态概率分布，所述风险状态被离散定义为潜伏状态、局部触发状态、横向扩散状态和全域失控状态；为漏洞实例在t时刻处于状态  的后验概率，由所述综合风险评分、实时监测告警数据及资产连通拓扑计算得到；为状态转移概率，由所述ai漏洞知识图谱根据资产连通关系、模块耦合程度及历史漏洞扩散样本动态更新而生成；为推演输出的漏洞在 t+1 时刻处于各风险状态的概率。

22、在一种可能的实施方式中，

23、所述漏洞升级概率为横向扩散状态对应的概率和全域失控状态对应的状态的和；

24、所述未来扩散范围为当所述漏洞升级概率超过预设阈值时，遍历所述ai漏洞知识图谱中与受害资产存在连通关系的所有节点集合，预测将被波及的ai资产清单与数量；

25、所述链式触发风险为检索所述ai漏洞知识图谱中与当前漏洞实例存在联动触发关系的关联漏洞，利用所述状态转移概率矩阵计算以及激活所述关联漏洞的联合概率；

26、所述危害增量为将所述预测被波及的ai资产清单对应的资产重要性分值，结合漏洞实例扩散至各资产的预测概率进行加权求和的值。

27、在一种可能的实施方式中，所述节点可信处置能力评分公式如下：

28、

29、其中，为第 i 个智能节点的综合可信分值，为所述历史检测准确率得分，为所述平均应急响应时效得分， 为所述算力承载充裕度得分，为所述合规稳定性得分。

30、在一种可能的实施方式中，所述自适应选择综合可信分值最优的智能体节点作为处置任务的目标节点，包括：

31、对于所述风险等级为高危并且所述漏洞升级概率大于50%的漏洞实例，选择综合可信分值最高的智能节点作为目标节点；

32、对于所述风险等级为高危并且所述未来扩散范围超过3个智能节点的漏洞实例，选择综合可信分值最高的智能节点作为目标节点；

33、对于所述风险等级为中危的漏洞实例，选择综合可信分值排名前三的智能节点中算力承载充裕度最高的智能节点作为目标节点；

34、对于所述风险等级为低危的漏洞实例，选择综合可信分值不低于60分且当前任务负载最低的智能节点作为目标节点。

35、在一种可能的实施方式中，基于多智能体的ai漏洞分布式协同治理方法还包括：

36、周期性汇总各智能节点在处置过程中产生的治理经验，经筛选与结构化封装后生成增量参数，各节点基于所述增量参数按照固定学习率对本地检测模型执行增量迭代更新。

37、本公开还提供了一种基于多智能体的ai漏洞分布式协同治理装置，包括多个智能体、综合治理模块；

38、各智能体节点采集本地ai核心运行数据；各所述智能体节点利用定制化差分隐私机制，对所述本地ai核心运行数据中的敏感维度执行噪声扰动脱敏处理，生成脱敏标准化ai安全数据集；各所述智能体节点基于本地的所述脱敏标准化ai安全数据集独立训练本地检测模型；

39、综合治理模块用于将本地检测模型的模型梯度参数参与联邦聚合，通过节点可信度动态加权聚合生成全局检测模型，并利用所述全局检测模型对本地脱敏数据集执行漏洞扫描，得到漏洞实例集合；对每个漏洞实例，从多个数据源采集五维风险指标的底层观测数据，分别映射为五维标准化评分，并将五维标准化评分代入固定权重综合风险评分公式计算得到综合风险评分，并根据所述综合风险评分判定该漏洞的风险等级；对每个漏洞实例，将所述综合风险评分映射为当前时刻的风险状态概率分布；基于利用ai漏洞知识图谱中的资产拓扑与漏洞关联关系动态构建的状态转移概率矩阵，对所述风险状态概率分布执行动态贝叶斯时序推演，预测下一时刻该漏洞实例处于各风险状态的概率，并基于计算得到的概率计算四项预测指标；所述四项预测指标包括漏洞升级概率、未来扩散范围、链式触发风险及危害增量；采集各所述智能体节点的四维数据；所述四维数据包括历史检测准确率、平均应急响应时效、算力承载充裕度及合规稳定性，并将四维数据分别量化为标准化得分；将量化得到的四个标准化得分代入固定权重的节点可信处置能力评分公式，计算得到各智能节点的综合可信分值，根据所述风险等级及所述四项预测指标确定任务紧急度，自适应选择综合可信分值最优的智能体节点作为处置任务的目标节点；

40、作为目标节点的智能体节点根据所述风险等级执行分级闭环处置操作，记录全流程处置操作以及产生的数据，并对修复后的漏洞执行复测验证，确认漏洞是否闭环。

41、本公开的基于多智能体的ai漏洞分布式协同治理方法及系统通过差分隐私噪声注入机制，在本地完成数据脱敏，原始数据全程不出本地，从源头杜绝集中式架构的隐私泄露风险；同时本公开通过可信度动态加权聚合机制，由各节点的历史检测准确率与可信等级实时计算权重，使优质节点在全局模型中占据更高权重，避免劣质节点拉低模型精度；同时本公开通过五维固定权重量化体系，从可利用性、危害程度、扩散速度、资产重要性及修复难度五个维度综合评分，精准贴合ai漏洞特性；结合贝叶斯时序推演对漏洞扩散范围与升级概率提前预判，高危漏洞响应时长缩短；同时本公开通过信任博弈量化机制，从检测准确率、响应时效、算力充裕度及合规稳定性四维度综合评估节点能力，自动将高危漏洞匹配最优节点，避免人工调度滞后与资源错配。另外，本公开通过经验包增量迭代机制，将每次治理经验封装后全网同步，驱动各节点本地模型与知识图谱持续更新，同类漏洞复发率降低，实现从“被动修复”到“主动防御、自主进化”。再者，本公开采用去中心化p2p组网，无中心瓶颈，新增节点无需全局停机即可接入并同步能力，适配各类ai系统部署。

42、应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。