一种群智协同缓解未披露漏洞的激励系统及激励方法

1.本发明属于计算机技术领域，具体涉及一种群智协同缓解未披露漏洞的激励系统及激励方法。


背景技术：

2.作为诸多安全威胁中最严重的一种，未披露漏洞由于缺乏有效的缓解措施被攻击者视为是一种极具利用价值的攻击工具。利用未披露漏洞引发的攻击往往呈现出多角度，高持续，致命性的特点，比如apt攻击、钓鱼攻击、勒索攻击、供应链攻击等。不仅将造成敏感信息泄露，甚至影响系统的正常运转。
3.特别地，伴随着现代化工业的发展，越来越多的企业开始利用数字化技术改造现有的生产模式，加速产业升级。通过在其生产环境中接入大量的智能设备，向中控系统提供实时的生产数据，以精准调节供需平衡，构建高度自动化的生产模式。然而，智能设备的接入数量越多，潜在的未披露漏洞可能就越多。
4.尽快开发相应的缓解措施来加固未披露漏洞，已成为从源头上阻断攻击链的最佳方案。实际上，一个完整的漏洞修补周期往往涉及复杂的流程，需要经历漏洞发现、上报、验证、补丁开发、验证、分发，才能完成未披露漏洞的缓解。此外，工控、电力、医疗、金融等专网系统属于闭环的生态，单靠厂商自身的应急响应能力无法应对未披露漏洞产生的威胁。为弥补专网系统应急响应能力不足的问题，邀请受许可的安全工作者加入响应流程，以群智协同模式加快缓解进度。通过缓解任务划分和分配，使目标厂商和安全工作者可以协同起来，快速消除安全威胁。
5.在群智协同缓解未披露漏洞的过程中，可能存在协同者工作量难以界定的问题，容易引起缓解任务奖励的不均衡，导致自私性和消极怠工现象。更严重的是，为恶意协同者提供了扰乱协同流程的机会，通过消极应对协同缓解任务，间接的为漏洞持续利用创造了契机。
6.通过对大量的国内外相关文献调研和分析，有关于未披露漏洞信息共享方面的研究多以政策约束为主，虽然政策指南为企业制定自己的漏洞披露流程提供了借鉴作用，但这些政策实施的前提是假设所有的参与者均是善意的，对于存在消极应对情况的参与者，这些政策指南束手无策。此外，由于复杂环境下的未披露漏洞环境往往牵扯多方利益，漏洞披露政策在这样的场景下无法发挥其优势。
7.鉴于此，有必要采取具备激励效果的未披露漏洞协同缓解模式，以尽快防范潜在的外部威胁。
8.信息系统在应对未披露漏洞威胁时，将会面临如下技术问题：
9.1)未披露漏洞由于缺乏有效的缓解措施，对于工控、电力、医疗、金融等这些具有自身闭环的专网场景往往是致命的，一旦发生大规模利用，将会导致企业关键信息泄露和系统长时间宕机。
10.2)现有工作仅提出了一些缓解未披露漏洞的指导原则，并没有具体的协同缓解未
披露漏洞模式，未披露漏洞协同缓解的有效实施仍难以保证。
11.3)未披露漏洞协同缓解往往涉及复杂的流程，各阶段协同者为缓解未披露漏洞做出的任务贡献难以界定。


技术实现要素：

12.为克服上述现有技术的不足，本发明的目的在于提供一种群智协同缓解未披露漏洞的激励系统及激励方法，具有加速未披露漏洞缓解的特点。
13.为实现上述目的，本发明采用的技术方案是：一种群智协同缓解未披露漏洞的激励系统，包括有多智能体协调器，候选组模块，提交组模块，验证组模块，黑板积分系统，协同贡献度评估模块，协同组划分规则模块，信任管理模块；
14.所述的多智能体协调器充当系统中的可信协调机构，负责监控协同者和黑板积分系统之间的交互行为，优化系统内群智资源利用，并负责量化协同者的信任值和贡献度，包括协作者接口，协作者接口的客户端与协作者智能体，协作者智能体客户端与授权智能体的服务端相连；授权智能体的客户端与交互智能体相连；交互智能体的客户端通过反馈智能体与分发和撤销智能体相连；分发和撤销智能体相连的客户端与协作者智能体服务端相连；分发和撤销智能体相连的客户端与评估智能体的服务端相连；评估智能体的客户端与交互智能体的服务端相连；协作者接口的客户端还通过候选池与管理者接口相连；管理者接口的客户端与协作者接口的服务端相连；交互智能体的客户端与黑板积分系统相连；由各智能体模拟实体行为，作为中间件代理协同实体间的交互行为，系统中的各智能体以并行方式运行，消除单点失效造成系统崩溃的可能；
15.协同智能体：为协同缓解中的每个协同者分配一个智能体，所有来自协同者的访问请求都需要经过认证智能体的授权和验证；
16.交互智能体：交互智能体负责管理系统中生成的请求，协同者对黑板积分系统的所有操作都需要由交互智能体负责转发；
17.评估智能体：评估智能体负责量化协同贡献度和评估协同信任值；
18.反馈智能体：在每轮结束时，反馈智能体将向协同者分配奖励令牌；
19.分配和撤销智能体：分配和撤销智能体负责协同者访问凭证的管理，当协同者的生命周期结束时，访问凭证将被撤销；
20.授权智能体：认证智能负责协同者身份识别、访问控制，避免协同者访问凭证伪造；
21.所述的候选组模块，由候选组(ω)中的协同者组成，这些协同者在候选组(ω)中伴随着缓解任务推进动态变化，并等待被选中参与到协同缓解任务中，对于信任值tri低于信任门限θ的协同者，会被从候选组模块中移除。
22.所述的提交组模块，根据协同组划分规则从候选组中产生，由热衷于为缓解任务提供缓解方案的提交者(pi)组成，每轮缓解任务结束后提交组内的提交者将动态变化。
23.所述的验证组模块，根据协同组划分规则从候选组中产生，由具备较高声誉的协同者组成，验证者(vi)有责任对提交的缓解方案进行评估，并在验证和评估阶段都拥有投票权。
24.所述的黑板积分系统，黑板积分系统在黑板模型的基础上引入积分系统，覆盖了
整个漏洞缓解流程，协同者可以同黑板实施交互完成相应的缓解任务，积分系统根据协同者的历史交互行为，由协同贡献度评估模块辅助量化协同者的协同参与度与贡献记录在积分系统中，根据协同者的积分实现黑板积分激励方案。
25.所述的协同贡献度评估模块，作为黑板积分激励方案的核心模块，负责量化每位协同者参与到缓解任务中的实际工作量，通过对工作量的量化评估协同者的协同贡献度，进一步根据协同贡献度区分自私或积极协同者，对自私协同者施加抑制效果，对积极协同这施加激励效果，从而加快缓解任务的推进。
26.所述的协同组划分规则模块，作为实施协同参与者动态变更的核心模块，通过协同组划分规则每轮产生的协同者在参与本轮缓解任务前互不了解，阻碍了潜在的共谋团体形成。一旦共谋团体形成，即使错误提交的缓解措施也可能会被验证组通过，并使得提交者因此获得较高的协同贡献度，导致共谋团体长期存在，阻碍未披露漏洞协同缓解进程推进。
27.所述的信任管理模块，通过对协同缓解任务中提交者的历史行为进行评估，对于多次提交错误缓解方案的提交者将获得较低的信任值，被判定为恶意的协同者将会被从候选组中移除，无法参加后续的协同缓解任务，确保协同缓解正常运转。
28.所述的协同组划分规则为：r1.候选组ψc必须不断更新协同者的信任值，当他们的信任值tri小于阈值θ这些协同者将被从候选组中移除；r2.在每一轮协同开始前，必须从候选组ψc中随机选择vi和pi，任何一个被选中的协同者只能具有一个身份，且vi和pi互相不知道对方的身份信息；r3.在每一轮协同开始前，被选中的vi和pi数量应该保持在1个以上；r4.在每一轮协同结束后，对于ψ
p
,ψv中的协同者，如果贡献度coni低于阈值σv和σ
p
则该协同者将被从ψ
p
，ψv移除，σv，σ
p
分别代表验证组的贡献度阈值和提交组的贡献度阈值，且满足σv》σ
p
。
29.一种群智协同缓解未披露漏洞的激励方法，包括以下步骤：
30.步骤1，在系统初始化时，每个候选组(ω)中的候选者都会被授予一个初始贡献度(con0)，确保每一个候选者均拥有公平的机会在缓解任务开始前被选中；首轮协同缓解中，协同组划分规则将随机从候选组中选出协同者；
31.步骤2，提交组成员在提交阶段对下发的缓解任务做出响应，提交相应的缓解方案，验证组成员在验证阶段对所提交的缓解方案进行正确性验证，在评估阶段验证组成员对所提交的缓解方案进行投票，并联合缓解方案质量评估方法对缓解方案质量进行量化，以方便后续界定协同者工作量；
32.步骤3，对于提交的缓解方案，计算当前缓解方案同历史缓解方案的相似性，对于具有较高相似性的缓解方案，系统将合并当前缓解方案和历史缓解方案，避免维护的缓解方案库过于庞大，当相同类型威胁出现时便于快速检索到相应的缓解方案；
33.步骤4，在次轮协同缓解中，协同贡献度通过协同者的历史行为动态更新，根据协同者信任值和协同贡献度，协同组划分规则将动态划分参与缓解任务的协同组，黑板积分激励系统将根据每轮缓解后的协同贡献度给予相应的奖励和惩罚；
34.步骤5，在多轮协同缓解后，最终的缓解方案将通过验证组的验证并被接受，在缓解方案被广泛下发到目标系统后，缓解方案将进入销毁阶段，协同缓解流程结束，并释放所有群智资源以及系统资源。
35.本发明的有益效果是：
36.本发明提出了一种群智协同缓解未披露漏洞的激励方案。本发明与现有技术的不同之处在于：
37.本发明设计了一种黑板记分激励方案，以有效激励参与缓解未披露漏洞的协同者，在抵御自私协同者的条件下加快未披露漏洞加固流程。
38.本发明设计了一种缓解方案质量评估方法，可以将协同者的工作质量和贡献度有效关联起来，辅助量化协同者的贡献度。
39.本发明引入协同贡献度衡量指标，便于对漏洞生命周期各阶段的协同者的工作贡献进行量化，并检测可能出现的自私协同者。
40.本发明引入了一个协同者候选池，供协同组动态划分规则从中选取每轮协同缓解的参与者。若某个协同者生命周期结束，或被评估为恶意协同者，将被立即销毁。
41.本发明设计一种基于信任机制的随机协同组划分规则，在每轮协同缓解开始前，从候选池中动态选取参与本轮的协同者构成提交组和验证组，以抵御共谋团体的形成。
42.本发明引入多智能体协调器，实现对协同系统中群智资源的协调和管理，分散协同角色责任，避免系统单点失效。
43.本发明为快速缓解系统中的未披露漏洞提供一种协作范式。
44.在本发明中，具有较高贡献度的协同者将获得更多奖励，激励协同者积极参与漏洞缓解，可大大加快未披露漏洞的缓解流程。同时对于较低贡献度的协同者系统有能力将其检测出并拒绝其参与到协同缓解中。
45.本发明设计的具有动态性的协作组划分规则，可确保每轮参与协同缓解的协作组动态变动，协作者之间成员互相不了解对方身份，有效抑制了共谋团体的形成。
46.本发明将参与的协同者划分为提交组和验证组，并确保两组成员之间互不了解，通过验证组对提交组提交的缓解措施的评估，可有效过滤掉无效缓解措施，从而加快协同缓解未披露漏洞的效率。
47.本发明引入多智能体协调器，以调控系统中的群智资源，并分散各协同者的角色责任，以保证协同系统平稳运行，抵御由单点失效造成的系统宕机。
48.本发明采用黑板记分为协同缓解未披露漏洞提供了抑制自私的良好环境。在实际应用中，作为专网环境的典型案例，工业级物联网由于广泛分布的终端设备和巨大的维护成本，使得这些终端设备在攻击者眼里非常脆弱，一旦攻击者利用其上的未披露漏洞对工控系统发起攻击，由于缺乏有效的缓解措施，工控系统将长时间处于风险中。通过利用群智协同缓解模式，汇集来自于不同领域的群智资源，有效加快漏洞缓解流程推进。对于每个加入协同环境的协同者，分配必要的资源到候选池中等待被协同组划分规则选中，被选中为提交者需要积极向黑板提交自己的缓解方案，黑板对收集到的缓解方案质量进行评估，以确定是否同意提交。根据缓解方案质量的评估结果，每个提交者将被授予不同的协作贡献度，较高贡献度的提交者有较大机会在下一轮缓解被选中，多次具有重大贡献的提交者有机会转变为验证者，负责对提交的缓解方案进行质量评估投票和验证。此外，多智能体协调器代理每个协同者的交互行为，分散各角色责任，防止由于多角色复杂交互造成的系统拥塞和单点失效。被收录的缓解方案将会被第一时间分发给失陷目标，帮助其从源头阻止未披露漏洞引发的安全威胁。
附图说明
49.图1为本发明的黑板积分激励方案总体架构示意图。
50.图2为本发明的多智能体协调器的原理框图。
51.图3为本发明的流程图。
具体实施方式
52.下面结合具体实施例和附图对本发明作进一步详细说明。
53.参见图1-2，一种群智协同缓解未披露漏洞的激励系统，包括有多智能体协调器，候选组模块，提交组模块，验证组模块，黑板积分系统，协同贡献度评估模块，协同组划分规则模块，信任管理模块；
54.所述的多智能体协调器充当系统中的可信协调机构，负责监控协同者和黑板积分系统之间的交互行为，优化系统内群智资源利用，并负责量化协同者的信任值和贡献度，包括协作者接口，协作者接口的客户端与协作者智能体，协作者智能体客户端与授权智能体的服务端相连；授权智能体的客户端与交互智能体相连；交互智能体的客户端通过反馈智能体与分发和撤销智能体相连；分发和撤销智能体相连的客户端与协作者智能体服务端相连；分发和撤销智能体相连的客户端与评估智能体的服务端相连；评估智能体的客户端与交互智能体的服务端相连；协作者接口的客户端还通过候选池与管理者接口相连；管理者接口的客户端与协作者接口的服务端相连；交互智能体的客户端与黑板积分系统相连；由各智能体模拟实体行为，作为中间件代理协同实体间的交互行为，系统中的各智能体以并行方式运行，消除单点失效造成系统崩溃的可能；
55.协同智能体：为协同缓解中的每个协同者分配一个智能体，所有来自协同者的访问请求都需要经过认证智能体的授权和验证；
56.交互智能体：交互智能体负责管理系统中生成的请求，协同者对黑板积分系统的所有操作都需要由交互智能体负责转发；
57.评估智能体：评估智能体负责量化协同贡献度和评估协同信任值；
58.反馈智能体：在每轮结束时，反馈智能体将向协同者分配奖励令牌；
59.分配和撤销智能体：分配和撤销智能体负责协同者访问凭证的管理，当协同者的生命周期结束时，访问凭证将被撤销；
60.授权智能体：认证智能负责协同者身份识别、访问控制，避免协同者访问凭证伪造；
61.所述的候选组模块，由候选组(ω)中的协同者组成，这些协同者在候选组(ω)中伴随着缓解任务推进动态变化，并等待被选中参与到协同缓解任务中，对于信任值tri低于信任门限θ的协同者，会被从候选组模块中移除。
62.所述的提交组模块，根据协同组划分规则从候选组中产生，由热衷于为缓解任务提供缓解方案的提交者(pi)组成，每轮缓解任务结束后提交组内的提交者将动态变化。
63.所述的验证组模块，根据协同组划分规则从候选组中产生，由具备较高声誉的协同者组成，验证者(vi)有责任对提交的缓解方案进行评估，并在验证和评估阶段都拥有投票权。
64.所述的黑板积分系统，黑板积分系统在黑板模型的基础上引入积分系统，覆盖了
整个漏洞缓解流程，协同者可以同黑板实施交互完成相应的缓解任务，积分系统根据协同者的历史交互行为，由协同贡献度评估模块辅助量化协同者的协同参与度与贡献记录在积分系统中，根据协同者的积分实现黑板积分激励方案。
65.所述的协同贡献度评估模块，作为黑板积分激励方案的核心模块，负责量化每位协同者参与到缓解任务中的实际工作量，通过对工作量的量化评估协同者的协同贡献度，进一步根据协同贡献度区分自私或积极协同者，对自私协同者施加抑制效果，对积极协同这施加激励效果，从而加快缓解任务的推进。
66.所述的协同组划分规则模块，作为实施协同参与者动态变更的核心模块，通过协同组划分规则每轮产生的协同者在参与本轮缓解任务前互不了解，阻碍了潜在的共谋团体形成。一旦共谋团体形成，即使错误提交的缓解措施也可能会被验证组通过，并使得提交者因此获得较高的协同贡献度，导致共谋团体长期存在，阻碍未披露漏洞协同缓解进程推进。
67.所述的信任管理模块，通过对协同缓解任务中提交者的历史行为进行评估，对于多次提交错误缓解方案的提交者将获得较低的信任值，被判定为恶意的协同者将会被从候选组中移除，无法参加后续的协同缓解任务，确保协同缓解正常运转。
68.所述的协同组划分规则为：r1.候选组ψc必须不断更新协同者的信任值，当他们的信任值tri小于阈值θ这些协同者将被从候选组中移除；r2.在每一轮协同开始前，必须从候选组ψc中随机选择vi和pi，任何一个被选中的协同者只能具有一个身份，且vi和pi互相不知道对方的身份信息；r3.在每一轮协同开始前，被选中的vi和pi数量应该保持在1个以上；r4.在每一轮协同结束后，对于ψ
p
，ψv中的协同者，如果贡献度coni低于阈值σv和σ
p
则该协同者将被从ψ
p
，ψv移除，σv，σ
p
分别代表验证组的贡献度阈值和提交组的贡献度阈值，且满足σv》σ
p
。
69.参见图3，一种群智协同缓解未披露漏洞的激励方法，包括以下步骤：
70.步骤1，在系统初始化时，每个候选组(ω)中的候选者都会被授予一个初始贡献度(con0)，确保每一个候选者均拥有公平的机会在缓解任务开始前被选中；首轮协同缓解中，协同组划分规则将随机从候选组中选出协同者；
71.步骤2，提交组成员在提交阶段对下发的缓解任务做出响应，提交相应的缓解方案，验证组成员在验证阶段对所提交的缓解方案进行正确性验证，在评估阶段验证组成员对所提交的缓解方案进行投票，并联合缓解方案质量评估方法对缓解方案质量进行量化，以方便后续界定协同者工作量；
72.步骤3，对于提交的缓解方案，计算当前缓解方案同历史缓解方案的相似性，对于具有较高相似性的缓解方案，系统将合并当前缓解方案和历史缓解方案，避免维护的缓解方案库过于庞大，当相同类型威胁出现时便于快速检索到相应的缓解方案；
73.步骤4，在次轮协同缓解中，协同贡献度通过协同者的历史行为动态更新，根据协同者信任值和协同贡献度，协同组划分规则将动态划分参与缓解任务的协同组，黑板积分激励系统将根据每轮缓解后的协同贡献度给予相应的奖励和惩罚；
74.步骤5，在多轮协同缓解后，最终的缓解方案将通过验证组的验证并被接受，在缓解方案被广泛下发到目标系统后，缓解方案将进入销毁阶段，协同缓解流程结束，并释放所有群智资源以及系统资源。
75.本发明采用多模块协同的系统架构，实现群智协同缓解未披露漏洞的黑板积分激
励方案。图1描绘了黑板积分激励方案的总体架构，其中涉及的实体如下：
76.协同者：可进一步细化分三种类型：1).提交者(pi)热衷于为缓解任务提出缓解方案作，并获得相应的奖励，贡献度较高的提交者有机会转化为验证者；2).验证者(vi)，在协同者中享有较高声誉并负责验证提交的缓解方案，在验证和评估阶段都拥有裁决权；3).候选者(ci)在候选组(ω)中等待被选中参与到缓解任务中。
77.多智能体(multi-agent,ma)协调器：充当系统中的可信协调机构，负责监控协同者和黑板积分系统之间的交互行为，优化系统内群智资源利用，并负责量化协同者的信任值和贡献度。
78.缓解方案：由协同者发布的缓解未披露漏洞的方案，通过验证的缓解方案(soli)将被分配在黑板上存储。
79.为规范协同缓解流程，依据漏洞生命周期，将协同缓解流程抽象为五个关键阶段：
80.提出阶段：提交者在该阶段积极提交缓解方案，黑板在该阶段广泛收集缓解方案。
81.验证阶段：当缓解方案被提交后，多智能体协调器将秘密地向验证组广播所收集到的缓解方案，验证组负责对所提出的缓解方案进行验证。
82.评估阶段：本阶段验证组负责对收集来的缓解方案进行投票，并结合多智能体协调器给出的缓解方案质量，评估出提交者的协同贡献度。
83.接受阶段：当一个缓解方案被接受时，该缓解方案将被广泛的分发给脆弱设备，进行漏洞加固。
84.撤销阶段：当缓解方案被广泛的分发给脆弱设备后，漏洞也将会被撤销。
85.·
缓解方案质量评估方法
86.为使协同贡献度和协同者实际工作量具有强相关性，需要首先对缓解方案的质量进行评估。如表1所示，根据国家标准《信息安全技术网络威胁信息格式规范》定义的缓解措施结构化组件，本发明将缓解措施soli定义为soli＝(stage,type,obj,desc,imp,cost,eff)
87.表1缓解措施结构化组件通用对象属性描述
[0088][0089]
随着协同缓解过程持续所提交的缓解方案数量逐渐增多，系统所维护的缓解方案库过于庞大，协同过程中发现有相同类型威胁的可能性逐渐增大。因此，一旦发现有类似的威胁事件，其缓解方案可被直接复用，从而间接加快漏洞缓解流程。为有效评估两个缓解方案的相似性，利用tf-idf对每个属性字段进行关键词提取，突出重要词，抑制次要词。
[0090]
通过对每一个结构属性进行tf-idf关键词提取，过滤掉停用词，并根据词频进行排序，生成关键词集合。以对缓解措施描述的描述属性为例，其关键词集合可被定义为w
desc
＝《wt1,wt2,wt3…
wtn》。最终，将每个缓解方案的结构属性向量化得到完整的缓解方案文本向量：γk＝(w
stage
,w
type
,w
obj
,w
desc
,w
imp
,w
cost
,w
eff
)。
[0091]
通过比较当前缓解方案文本向量和历史缓解方案文本向量之间的距离，计算两者
文本相似度(simk)。同时，设置相似度阈值为ε，如果simk≤ε则认为当前缓解方案与历史缓解方案一致,将当前缓解方案soli与历史缓解方案solj合并。如果simk》ε，则当前缓解方案可能被接受。
[0092]
·
协同贡献度激励方法
[0093]
一旦协同者参与到协同缓解中，系统将分配一些必要的资源给协同者，以协助其完成缓解任务。然而自私的协同者会消极应对缓解任务，并故意占用系统资源，导致系统资源浪费。如此，需要一些奖罚规则依据协同者的实际工作量，对其协同表现予以刻画。引入协同贡献度评估以完成这一目标。
[0094]
首先，在系统初始化时，每个候选池(ω)中的候选者都会被授予一个初始贡献度(con0)，确保每一个候选者均拥有公平的机会在缓解任务开始前被选中。然后，在次轮协同缓解中，协同贡献度通过协同者的历史行为动态更新。
[0095]
协同贡献度由三元参数决定：i
cvss
威胁等级评分，缓解质量评分lsoli，协同度aci,。因此将协同贡献度计算函数定义为：
[0096]
coni＝f(aci,i
cvss
,lsoli)
ꢀꢀ
(1)
[0097]
cvss(common vulnerability scoring system)通用漏洞评分系统，用于量化一个漏洞的威胁程度，根据漏洞产生的危害影响，其危害影响指标i
cvss
定义为：i
cvss
＝λ*vl*[1-(1-conv)*(1-intv)*(1-avav)],其中λ为修正因子，通常设置为λ＝10.41，vl是脆弱性利用程度，(conv,intv,avav)三元组描绘了该漏洞可能对目标造成的机密性、完整性、可用性危害程度。此外，协同度aci可计算为：
[0098][0099]
对于协同度(aci)，双参数(reji,pari)表示拒绝或参与协同缓解的次数，由于每个协同者可能拥有提交者或验证者两种身份，因此式中的参与协同次数定义为：
[0100]
pari＝cor
sol
err
sol
val
vote
ꢀꢀ
(3)
[0101]
式中包含提交正确次数cor
sol
和提交错误次数err
sol
，有效验证缓解方案的投票次数val
vote
，对于获得较高协同贡献度的协同者，会以较大概率在下一轮中被选中；此外，考虑到恶意协同者会提交错误缓解方案以扰乱缓解协同流程；信任管理模块根据协同者的历史行为来评估信任值，对于较低信任值的协同者将会被从候选组中移除，其中cor
sol
和err
sol
分别代表提交正确缓解方案和错误缓解方案的数量，考虑到信任值应该被限制在区间[0,1]内,tri可以被定义为：
[0102][0103]
·
协同组划分规则
[0104]
由于vi和pi均由候选池中ω根据协同贡献度选取产生，一旦恶意vi和pi结成合谋团体，即使pi提交错误缓解方案也会由于vi的投票通过，并使pi获得较高的贡献度，进而继续维持这个合谋团体。
[0105]
考虑到这些事实，可以在每轮协同开始前，设计选取规则动态的选取协同者。当协同缓解流程开启时，所有的协同者对其他人的信息一无所知。首轮需要在候选池中随机选取产生vi和pi，并分别构建提交组和验证组。用ψ表示当前所划分的协同组，ψ
p
,ψv,ψc分
别代表提交组，验证组，和候选组。vi和pi在每轮协同缓解中轮换产生。具体的协同组划分遵循如下规则：
[0106]
r1.候选组ψc必须不断更新协同者的信任值，当他们的信任值tri小于阈值θ这些协同者将被从候选组中移除。
[0107]
r2.在每一轮协同开始前，必须从候选组ψc中随机选择vi和pi，任何一个被选中的协同者只能具有一个身份，且vi和pi互相不知道对方的身份信息。
[0108]
r3.在每一轮协同开始前，被选中的vi和pi数量应该保持在1个以上。
[0109]
r4.在每一轮协同结束后，对于ψ
p
，ψv中的协同者，如果贡献度coni低于阈值σv和σ
p
则该协同者将被从ψ
p
，ψv移除，σv和σ
p
分别代表验证组的贡献度阈值和提交组的贡献度阈值，且满足σv》σ
p
。
[0110]
·
基于多智能体的协调器
[0111]
未披露漏洞群智协同缓解中由于涉及复杂的通信、协商流程，如何合理的分配群智协同者，分散协同者责任，避免单点失效是协同缓解中需要考虑的问题。多智能体作为人工智能领域中的一个重要研究分支，相较于传统系统具有更广泛的任务领域、更高的容错率、鲁棒性、并行性。目前已有许多工作将多智能体和黑板相结合，以分散复杂系统中的角色责任，协调群智资源。在此基础上设计了一种多智能体协调器，由各智能体模拟实体行为，作为中间件代理协同实体间的交互行为。此外，系统中的各智能体以并行方式运行，消除单点失效造成系统崩溃的可能。
[0112]
如图2所示，设计的多智能体协调器包含如下智能体：
[0113]
协同智能体：为协同缓解中的每个协同者分配一个智能体，所有来自协同者的访问请求都需要经过认证智能体的授权和验证。
[0114]
交互智能体：交互智能体负责管理系统中生成的请求。协同者对黑板积分系统的所有操作都需要由交互智能体负责转发。
[0115]
评估智能体：评估智能体负责量化协同贡献度和评估协同信任值。
[0116]
反馈智能体：在每轮结束时，反馈智能体将向协同者分配奖励令牌。
[0117]
分配和撤销智能体：分配和撤销智能体负责协同者访问凭证的管理。当协同者的生命周期结束时，访问凭证将被撤销。
[0118]
授权智能体：认证智能负责协同者身份识别、访问控制等，避免协同者访问凭证伪造。
[0119]
综上所述，本发明设计的激励方案有很好的健壮性和扩展性，有利于快速群智协同缓解系统中的未披露漏洞。