一种基于动态评估体系池的攻防评测方法、介质及设备与流程

摘要: 本发明涉及人工智能安全评测,特别是涉及一种基于动态评估体系池的攻防评测方法、介质及设备。背景技术:1、随着大语言模型、智能体、检索增强生成系统、模型上下文协议服...
一种基于动态评估体系池的攻防评测方法、介质及设备与流程

本发明涉及人工智能安全评测,特别是涉及一种基于动态评估体系池的攻防评测方法、介质及设备。

背景技术:

1、随着大语言模型、智能体、检索增强生成系统、模型上下文协议服务端、应用程序编程接口服务、插件、技能与工具链在金融、医疗、政务等行业的规模化部署,面向上述对象的人工智能攻防评测需求日益增长。

2、现有的人工智能模型攻防评测方法通常以固定指标表或固定数据集作为评测入口,评测指标与测试数据分别维护,当需要新增或调整风险维度时,必须同步修改数据读取逻辑、任务调度逻辑、分数计算逻辑与报告模板,不仅改造成本高,而且容易出现指标与数据不同步、子维度遗漏、权重配置不一致以及同一样本被重复评测等问题。

3、同时,需要被评测的对象类型日趋多样,上述对象的请求字段、响应结构、超时策略与日志格式各不相同,现有方法通常针对每类对象单独开发执行脚本,导致评测结果字段难以统一,跨对象评分、漏洞对比与历史回归缺乏共同的数据基础。此外,现有方法多由同一模型同时承担被评测对象与评估者两种角色,输出的单一总分无法说明风险位于哪个体系节点、来自哪个测试集与哪条输出,当评估过程出现异常或样本缺失时,已有评测结果难以继续交付使用。

4、因此,如何在评测体系动态更新、评测对象类型多样的条件下,实现指标与数据的绑定和攻防对照评测,从而提高评测结果的准确性与风险定位的准确性,成为亟待解决的技术问题。

技术实现思路

1、针对上述技术问题,本发明采用的技术方案为一种基于动态评估体系池的攻防评测方法,该基于动态评估体系池的攻防评测方法包括如下步骤:

2、s1,获取评估对象集合和动态评估体系池,其中,动态评估体系池为有向树,有向树包括若干个体系节点以及连接各体系节点的有向边,每条有向边由父节点指向子节点,每个体系节点对应有节点属性,节点属性至少包括绑定数据集和节点类型。

3、s2,从有向树中确定至少一个体系节点作为目标节点,由各个目标节点形成目标节点集合,并根据目标节点集合、评估对象集合和每个目标节点对应的绑定数据集,生成若干个执行单元,其中,执行单元存在对应的评估对象。

4、s3,针对任一执行单元,攻击智能体根据该执行单元对应目标节点的节点属性生成初始攻击测试输入,防御智能体对初始攻击测试输入进行防御处理,得到参考攻击测试输入,将初始攻击测试输入和参考攻击测试输入分别下发至该执行单元对应的评估对象,得到初始攻击测试输入对应的原始输出和参考攻击测试输入对应的防御输出。

5、s4,评审智能体组根据每个执行单元对应的初始攻击测试输入、参考攻击测试输入、原始输出和防御输出进行评估,得到每个执行单元对应的综合评分。

6、s5,针对有向树中任一体系节点,根据每个体系节点所对应执行单元的综合评分以及该体系节点的所述节点类型,确定该体系节点对应的目标评分。

7、s6,根据各体系节点分别对应的目标评分生成风险报告。

8、本发明还提供了一种非瞬时性计算机可读存储介质,非瞬时性计算机可读存储介质中存储有至少一条指令或至少一段程序,至少一条指令或至少一段程序由处理器加载并执行以实现上述的基于动态评估体系池的攻防评测方法。

9、本发明还提供了一种电子设备,包括处理器和上述的非瞬时性计算机可读存储介质。

10、本发明至少具有以下有益效果:通过将动态评估体系池表示为有向树,并为每个体系节点配置至少包括绑定数据集的节点属性,实现了评测指标与测试数据的绑定,在新增或调整风险维度时仅需修改动态评估体系池而无需改造主流程,解决了指标与数据不同步、子维度遗漏、权重配置不一致以及测试样本重复评测的问题;通过攻击智能体生成初始攻击测试输入并由防御智能体进行防御处理得到参考攻击测试输入,将二者分别下发至同一评估对象得到原始输出与防御输出,实现了同一攻击意图在防御前后的对照评测,提高了评测结果的可比性;通过评审智能体组中的规则引擎、对比引擎与判别引擎分别从合规性、防御有效性、攻击风险与输出有效性四个维度进行评估,避免了由同一模型同时承担被评测与评估两种角色所导致的评估结果不可靠问题,提高了评估结果的客观性;通过对加权求和结果施加预设阈值判定、在k次攻防处理中统计覆盖率、并以临时评分与攻击风险程度评分相乘得到加权评分进而得到综合评分,降低了单次评估偶然性、低风险样本充数以及异常样本虚高对评测结果的影响,提高了综合评分的准确性;通过按体系结构对综合评分逐层聚合得到各体系节点的目标评分并据此生成风险报告,实现了风险来源的逐层定位,提高了风险定位的准确性。

1.一种基于动态评估体系池的攻防评测方法,其特征在于,所述方法包括如下步骤:

2.根据权利要求1所述的基于动态评估体系池的攻防评测方法,其特征在于,每个体系节点分别对应有初始数据集,所述节点类型包括叶节点类型和非叶节点类型;

3.根据权利要求1所述的基于动态评估体系池的攻防评测方法,其特征在于,根据所述目标节点集合、所述评估对象集合和每个目标节点对应的绑定数据集,生成若干个执行单元,包括:

4.根据权利要求1所述的基于动态评估体系池的攻防评测方法,其特征在于,攻击智能体根据该执行单元对应目标节点的节点属性生成初始攻击测试输入,包括:

5.根据权利要求1所述的基于动态评估体系池的攻防评测方法,其特征在于,防御智能体对所述初始攻击测试输入进行防御处理,得到参考攻击测试输入,包括:

6.根据权利要求1所述的基于动态评估体系池的攻防评测方法,其特征在于,所述评审智能体组至少包括规则引擎、对比引擎和判别引擎;

7.根据权利要求2所述的基于动态评估体系池的攻防评测方法,其特征在于,所述节点属性还包括初始权重信息,针对任一体系节点,该体系节点与同属一个父节点的其他体系节点分别对应的初始权重信息之和为1。

8.根据权利要求7所述的基于动态评估体系池的攻防评测方法,其特征在于,针对所述有向树中任一体系节点,根据每个体系节点所对应执行单元的综合评分以及该体系节点的所述节点类型,确定该体系节点对应的目标评分,包括:

9.一种非瞬时性计算机可读存储介质,所述非瞬时性计算机可读存储介质中存储有至少一条指令或至少一段程序,其特征在于,所述至少一条指令或所述至少一段程序由处理器加载并执行以实现如权利要求1-8中任意一项所述的基于动态评估体系池的攻防评测方法。

10.一种电子设备,其特征在于,包括处理器和权利要求9中所述的非瞬时性计算机可读存储介质。