多智能体分布式可信决策的制作方法
本发明涉及人工智能安全与多智能体系统,具体涉及一种自进化多智能体集群分布式可信决策系统及方法,适用于多智能体协作平台、机器人集群、自动驾驶车队、分布式算力网络、多模型融合决策系统、智能推荐系统,以及自进化智能体集群、世界模型驱动的机器人系统、多智能体系统安全监管与治理平台等需要在无中心架构下确保决策安全性与可信度的场景。
背景技术:
1、随着大模型驱动的ai agent技术发展,多智能体系统正在从"集中式控制"向"分布式协同"演进。在集中式架构下,所有智能体由中央控制器统一调度,安全策略由中心节点统一制定和执行,系统可信度依赖于中心节点的安全性。但这种架构存在固有缺陷:中心节点是单点故障源,一旦被攻破或失效,整个系统将陷入瘫痪;且随着智能体数量增加,中心节点的计算和通信负担呈指数级增长,系统可扩展性受限。
2、与此同时,智能体系统正在从"静态部署"走向"持续自进化":新一代多智能体系统中的智能体节点普遍具备在线学习与自我修改能力,在运行中持续进行自我修改与策略迭代,形成自进化智能体集群。节点的持续自进化使传统静态安全假设出现三重失效情境:
3、其一,验证窗口失效。传统安全体系假设"部署时刻通过安全验证的节点,在运行中仍然可信";但当节点在运行中持续自我修改时,部署时刻的静态信任假设对运行中的节点已然失效——通过验证时的节点与当前运行的节点在行为上可能已不再一致,信任必须基于节点的当前行为持续再验证,而非一次性静态授予。
4、其二,反馈延迟失效。静态安全体系的安全策略调整以人工审计与周期性更新为主,反馈周期远长于自进化系统的策略迭代周期,安全反馈持续滞后于系统演化,待人工发现风险时,系统可能已迭代多个版本。
5、其三,探索-安全悖论。自进化系统需要保留探索能力以实现持续优化,但探索意味着尝试尚未验证的行为,本身可能引入安全风险;若为求安全而禁止探索,则等同于阉割系统的自进化能力。如何在保障安全的同时不扼杀进化,是静态安全框架从未面对的问题。
6、分布式多智能体架构虽然解决了单点故障和扩展性问题,但引入了新的安全挑战:
7、第一,决策可信度问题。在无中心架构下,每个智能体独立决策,如何确保决策结果既安全又高效?传统的多数投票机制容易被恶意节点控制——只要攻击者控制超过半数的节点,就能主导整个系统的决策结果。现有的拜占庭容错技术(如pbft)虽然能容忍一定比例的恶意节点,但通信开销大、共识延迟高,且只能处理"故意发送错误信息"的简单攻击模式,无法应对更隐蔽的攻击方式。
8、第二,慢漂移攻击检测困难。传统安全检测关注的是突发的、明显的异常行为,如节点突然输出恶意指令。但更隐蔽的攻击是"温水煮青蛙"式的慢漂移攻击——恶意节点通过微小的、渐进式的行为偏移,在不触发告警的前提下逐步改变整个系统的行为基线,最终实现操控系统的目的。这种攻击方式因为变化缓慢、每次偏移量小,极易被视为正常的系统进化而被忽略。
9、第三,进化方向投毒风险。分布式系统如果具备自学习、自进化能力,就会面临进化方向被投毒的风险——攻击者可以通过制造虚假的安全事件、诱导错误的反馈信号,让系统的进化方向逐渐偏离安全底线。传统的安全方案因为是静态规则,不存在进化问题,也就从未考虑过"安全基因被定向污染"这种攻击模式。
10、第四,身份与信任的脆弱性。现有分布式系统大多基于密码学身份认证——只要持有正确的密钥或证书,就被视为可信节点。但这种模式无法应对"合法身份的恶意行为"——节点本身是合法注册的,但被攻击者控制后利用合法身份实施攻击。零信任架构虽然提出了"永不信任,始终验证"的理念,但如何在分布式场景下实现高效的持续验证,仍然缺乏可行的技术方案。
11、现有技术的共同缺陷在于:都是基于"中心控制"或"静态规则"的思维模式来设计分布式安全方案,没有真正建立起与分布式架构相匹配的、动态演化的可信决策机制,更未针对自进化系统的上述三重失效情境建立信任的持续再验证机制。当系统规模扩大、攻击方式升级、智能体具备自主进化能力时,现有技术要么安全强度不足,要么性能开销过大,要么无法适应动态演化的场景。
12、从技术范式的角度看,现有分布式安全方案本质上仍属于"中心控制思维的分布式实现"——要么依赖中心化的信任根,要么依赖全局统一的静态规则,类似于早期分布式系统中的主从架构,无法真正发挥分布式系统的内生安全潜力。
13、与之相对的是,transformer架构中的多头注意力机制已经证明:通过多个独立注意力头的并行计算与全局信息融合,可以涌现出远超单一模块的理解与决策能力。将这一思想迁移到分布式安全领域,意味着每个智能体节点都可以成为一个"安全注意力头",通过分布式的行为观测与共识仲裁,涌现出比任何单一节点都更强大的安全检测与可信决策能力。然而,在多智能体安全领域,尚未有成熟的方案能够将分布式观测机制与进化方向锚定相结合,形成内生的安全决策能力。
14、因此,本领域亟需一种全新的分布式可信决策架构,能够在无中心对等网络中,通过分布式共识、多维度异常检测、安全边界约束(进化方向锚定)等机制,实现既安全可信又高效灵活的群体决策,使安全能力内生于分布式架构本身、并随系统运行持续进化,形成与无中心对等架构共生的内生安全体系。
技术实现思路
1、一、要解决的技术问题
2、针对现有技术的上述缺陷,借鉴transformer架构中多头注意力机制的核心思想,本发明提出一种全新的分布式可信决策范式,要解决的核心技术问题是:如何在无中心对等的、节点在运行中持续进行自我修改与策略迭代的多智能体架构下,构建一套完整的可信决策机制——针对节点持续自进化导致部署时刻的静态信任假设对运行中的节点失效的问题,使各节点的信任状态基于其当前行为持续再验证,而非一次性静态授予;既能够抵御各种已知和未知的攻击模式(包括拜占庭攻击、慢漂移攻击、进化投毒等),又能够保持分布式系统的高效率、高可扩展性和自主进化能力,实现"越用越安全、越用越可信"的正循环。
3、拆解为四个子问题:
4、1.如何在无中心架构下实现可信的群体决策,防止恶意节点主导决策结果?
5、2.如何检测慢漂移式的渐进攻击,区分节点的正常自进化行为与恶意漂移行为?
6、3.如何确保系统的自进化方向不偏离安全底线,防止进化被投毒?
7、4.如何建立多层次的身份信任体系,应对合法身份被劫持以及节点持续自进化导致的静态信任失效风险?
8、技术方案
9、为解决上述技术问题,本发明提出一种"分布式仲裁+多窗口检测+迭代锚定"三层协同的可信决策架构。核心思想是:信任不是预先赋予的,而是通过持续的行为验证和群体共识动态建立的;安全不是静态规则,而是通过安全边界约束机制在动态演化中保持的动态平衡;安全能力内生于分布式架构本身,形成与无中心对等架构共生的内生安全体系。
10、核心架构包括四个部分:
11、1. 分布式智能体集群(基础设施层)
12、由多个具备独立决策能力且在运行中持续进行自我修改与策略迭代的智能体节点构成,每个节点内置安全内核模块。集群采用无中心对等架构,不存在单一全局控制节点,单个节点失效不导致整体系统瘫痪。针对节点在运行中持续自进化导致部署时刻的静态信任假设对运行中的节点失效的问题,各节点的信任状态基于其当前行为持续再验证,而非一次性静态授予。
13、每个智能体的身份标识由三类独立锚点交叉验证构成:
14、(1)硬件锚点:来自安全芯片的物理签名,基于物理不可克隆函数(puf)生成,确保身份的物理不可伪造性;硬件锚点由独立的硬件安全芯片提供,安全芯片为每个智能体提供不可篡改的物理身份根和安全执行环境,内核安全策略的关键部分在安全芯片内执行,确保即使操作系统层被攻破,安全核心仍可正常运转,安全防护强度实现数量级量级的提升;
15、(2)行为锚点:由历史交互序列生成的行为指纹,包括决策模式、响应时延特征、信息处理偏好等,刻画节点的行为规律;
16、(3)迭代锚点:由内核安全基因演化出的特征签名,随基因迭代同步更新,反映节点的安全进化轨迹。
17、三类锚点相互独立又相互印证,单一锚点失效时,其余锚点仍可维持身份可信度的降级判定,避免单一身份凭证被攻破导致的全线失守。
18、每个智能体节点均设有内核安全基因,内核安全基因采用单向哈希链式结构存储:每一次迭代都基于前一版本的哈希值进行,任何对历史安全基因的篡改都会导致哈希链断裂,从而被全网节点识别和拒绝。
19、每个智能体节点采用安全内核优先的渐进式激活机制:节点启动时首先加载安全内核模块,完成硬件级安全校验和基因完整性验证,安全验证通过后方可激活功能模块和决策模块;若安全内核加载失败或校验不通过,则整个节点进入受限安全模式,仅保留最基本的安全通信和故障报告功能,不执行任何决策或任务操作,从启动源头杜绝被篡改节点进入集群。
20、2. 分布式仲裁机制(决策层)
21、内嵌于每个智能体节点中,用于在多个智能体产生决策分歧时通过动态权重投票共识算法达成群体决策。每个节点的投票权重根据其历史决策准确率、安全声誉评分及任务领域匹配度动态计算,并随节点行为的持续再验证结果实时更新。
22、分布式仲裁机制采用零信任身份假设:即使身份验证通过,也不直接采信该智能体的输出,而是结合其历史声誉、当前上下文及多源交叉验证结果进行加权判定;当身份可信度低于阈值时,自动降低该智能体的决策权重,从而实现对运行中持续自进化节点的信任持续再验证。
23、动态权重投票的关键机制包括:
24、(1)权重上限阈值:任何单一节点的权重不得超过集群总权重的预定比例,防止单节点权力过大引发安全风险;
25、(2)权重硬件并行计算:权重计算过程在各节点的硬件安全芯片内并行执行,每个节点独立计算自身权重和全网权重分布,计算结果实时全网公开可验证,所有节点均可独立校验权重的合理性,防止权重操纵和单点计算瓶颈;
26、(3)置信度加权决策模式:每个智能体对其输出的决策选项附带置信度评估,集群最终决策根据各节点的权重及其对应该选项的置信度进行加权融合,置信度与选择概率呈单调相关关系;
27、(4)非确定性选择机制:根据加权融合结果形成决策概率分布,从概率分布中随机抽取最终决策。低置信度选项保留非零概率,维持系统的探索能力和进化可能性,避免过度保守导致的系统僵化。
28、分布式仲裁机制还配置有抗声誉卡特尔机制(节点共谋检测机制):定期检测节点间的声誉评分相关性,若发现一组节点存在互相异常高分评价的模式,自动降低该组所有节点的声誉可信度,并触发独立审计流程。
29、3. 全局行为模式监测模块(监测层)
30、用于实时采集集群层面的整体行为数据,通过多时间窗口多维度宏观指标偏离度计算识别系统性安全风险,并区分节点的正常自进化行为与恶意漂移行为。
31、宏观指标包括:集群决策偏离度、信息传播图谱、资源消耗模式、跨节点行为同步性等群体级别的行为特征。
32、多时间窗口机制包括:
33、(1)短期突发窗口:检测短时间内的行为突变,识别快速攻击,如拜占庭节点集体发难;
34、(2)长期累积窗口:检测较长时间尺度内的行为慢漂移,识别温水煮青蛙式的渐进式攻击。
35、两个窗口分别设置独立的异常阈值和告警触发逻辑,实现"急性攻击抓得住,慢性攻击跑不掉"的全覆盖检测。
36、长期累积窗口采用滑动基线机制:行为基线随系统正常进化缓慢更新,但基线移动速度设有上限。若检测到行为漂移速度超过正常进化速度阈值,则触发慢漂移攻击告警。该机制能够有效区分"系统正常自进化导致的行为变化"和"恶意投毒导致的行为漂移"——前者是缓慢的、与进化速度匹配的,后者是快速的、异常加速的。
37、全局行为模式监测模块采用多种异常检测算法融合的异常评分机制:综合多种异常检测算法(例如孤立森林、熵值分析、图神经网络、时间序列异常检测中的至少两种)的检测结果,对集群异常状态进行综合评分,提高检测准确率,降低误报率。
38、4. 策略迭代优化模块(进化层,含安全边界约束机制)
39、基于安全事件的处理结果反向迭代优化各节点的策略,采用三层迭代架构:
40、(1)内核安全基因层:极低频变更、高门槛审批,定义系统最根本的安全底线;该层变更需物理隔离环境下的多重授权,且需经过全集群一致性验证;
41、(2)核心框架层:中频变更、需多方验证,定义安全机制的核心框架;该层变更需一定比例可信节点的共同签名确认;
42、(3)场景策略层:高频变更、可快速适配,针对具体场景的安全策略;该层可由单个节点自主迭代,但需向全网广播并接受监督。
43、各层级的变更触发条件、审批流程和验证机制各不相同,越底层的变更门槛越高,形成"上层灵活多变,底层稳如磐石"的梯度式进化架构。
44、安全边界约束机制(即进化方向锚定机制)是本发明的核心创新之一,用于确保系统进化不偏离安全底线。安全边界约束机制采用动态弹性边界:安全边界并非固定阈值,而是在内核安全基因的刚性约束下,根据系统运行环境、任务需求与当前安全裕度动态调整的弹性边界。安全边界约束机制包括:
45、(1)核心锚定因子:定义不可逾越的安全底线,所有策略迭代不得与之冲突。这是系统的"安全基因密码",是所有进化的起点和归宿;核心锚定因子的修改需满足物理隔离条件下的多重授权验证;
46、(2)事件可信度评估:对触发迭代的安全事件进行可信度评级,根据事件来源多样性、交叉验证程度、影响范围等因素计算可信度权重。采用多源交叉验证机制:单一来源的安全事件可信度最低,多个独立节点分别检测到的同一事件可信度逐级升高。只有可信度达到阈值的安全事件才能触发生态级别的策略迭代,防止通过虚假事件投毒进化方向;
47、(3)迭代方向校验:每次迭代前后,均校验策略变化方向与核心锚定因子的一致性,若偏离超过阈值则拒绝该次迭代,确保进化始终在安全轨道内进行。
48、系统还设置四层安全防御体系,形成纵深防御:
49、第一层:准入声誉层——新节点加入集群前需经过安全审查和声誉初始化,低声誉节点权限受限。采用渐进式权限释放机制:新节点初始仅拥有最低权限,随着持续安全运行时间的增长和贡献的累积,逐步获得更高的决策权重和更多的系统访问权限。
50、第二层:拜占庭容错层——决策过程中容忍一定比例的恶意节点输出错误信息,动态权重机制天然具备抗拜占庭攻击能力。
51、第三层:异常检测层——实时监测每个节点的行为模式偏移,识别潜在的被劫持节点,即使是合法身份的节点也能被及时发现异常。
52、第四层:迭代约束层——内核安全基因为全系统提供不可篡改的锚点,即使上层策略被污染,仍可通过锚点回滚至安全状态。
53、三级故障应对机制确保系统在极端情况下的生存能力:
54、第一级:降级自保模式——当集群共识机制失效时,各节点切换为独立运行模式,维持最低限度的安全防护,"散而不溃";
55、第二级:动态选举机制——当集群需要协调节点时,由剩余健康节点通过分布式共识算法选举产生临时协调角色,恢复集群协同能力。选举采用声誉加权选举算法,节点的被选举权与其历史安全声誉评分正相关,选举过程全程可追溯;
56、第三级:无中心自组织模式——当超过半数节点故障时,剩余节点自动进入完全无中心自组织状态,通过概率性两两校验维持基本功能:每个节点定期随机选择其他节点进行安全状态交叉验证,而非全量同步,在保证安全覆盖度的同时将通信开销控制在可接受范围内,等待系统逐步恢复,保证"断而不死"。
57、系统的安全规则采用适配无中心对等架构的三级层级化治理体系:
58、(1)最底层:内核安全基因层——不可直接修改,由硬件安全芯片物理锚定,全网唯一且不可分叉;
59、(2)中间层:安全原则框架层——需一定比例可信节点的共同签名确认方可修改,定义核心安全边界,采用多数决共识更新;
60、(3)最上层:场景行为规则层——可由单个节点自主迭代调整的具体行为约束,向全网广播并接受监督。
61、上下层之间存在约束校验机制,下层规则不得与上层原则冲突,且各节点独立校验、自主采信。
62、安全规则的更新采用对等网络声誉加权的分布式逐级扩散机制(涟漪式扩散):更新首先在单个或少量节点上生效并进入观察期,观察通过后逐步扩大传播范围;更新由发起节点向其信任邻居节点传播,接收节点使用自身内核安全基因独立校验通过后方可采信并继续向外传播;传播路径由节点间声誉关系网络自然形成,而非预设层级;高声誉节点的传播速度更快、覆盖范围更广;每一步扩散前均需经过安全校验,若某一阶段出现异常,立即停止扩散并自动回滚至前一稳定版本。这种"先小范围试水,再逐步推开"的更新模式,能够有效控制缺陷规则的影响范围,避免一次性全量更新导致的系统性风险。
63、每个智能体节点在接收安全规则更新时,拥有独立校验与自主拒绝权:节点使用自身内核安全基因对新规则进行一致性校验,若发现冲突则有权拒绝该更新,并向其直接连接的邻居节点广播异常告警,自然形成传播阻滞;被拒绝的更新不会在该节点处继续向外扩散,确保安全规则的更新不会被攻击者利用来批量投放恶意规则。
64、系统还配置有与外部安全状态监测调控系统协同的接口:所述接口用于接收外部安全状态监测调控系统发出的集群安全状态突变预警信号;分布式仲裁模块响应于所述突变预警信号,触发对相关联节点的安全声誉评分重算,并依据重算结果相应降低该节点的投票权重或暂停其参与共识的资格,直至该节点的安全状态经重新验证后恢复,从而形成外部监测预警与内部共识仲裁联动的跨系统安全闭环。该接口与外部安全状态监测调控系统的"检测-预测-干预-验证"闭环相衔接:外部系统负责安全相变的检测与预测并输出突变预警,本系统负责基于共识仲裁的干预与验证,两侧协同构成完整的跨系统安全闭环(具体实施方式参见实施例4)。
65、本发明还提供一种自进化多智能体集群分布式可信决策方法,包括以下步骤:
66、s1:构建由多个具备独立决策能力且在运行中持续进行自我修改与策略迭代的智能体节点组成的无中心对等分布式集群,每个节点内置安全内核模块;
67、s2:当多个智能体产生决策分歧时,通过分布式仲裁模块采用动态权重投票共识算法达成群体决策,每个节点的投票权重根据其历史决策准确率、安全声誉评分及任务领域匹配度动态计算,并随节点行为的持续再验证结果实时更新;进一步地,每个智能体对其输出的决策选项附带置信度评估,集群最终决策根据各节点的权重及其对应该选项的置信度进行加权融合,采用非确定性选择机制从概率分布中抽取最终决策,低置信度选项保留非零概率,以维持系统的探索能力和迭代可能性;
68、s3:实时采集集群层面的整体行为数据,通过多时间窗口多维度宏观指标偏离度计算识别系统性安全风险,并区分节点的正常自进化行为与恶意漂移行为;进一步地,同时检测短期突发异常和长期累积漂移,分别设置独立的检测阈值和告警逻辑,长期累积检测采用滑动基线机制,基线移动速度设有上限,超过上限则触发慢漂移攻击告警;
69、s4:基于安全事件的处理结果,采用三层迭代架构反向迭代优化各节点的策略,通过安全边界约束机制确保自进化迭代不偏离安全底线;进一步地,对触发迭代的安全事件进行可信度评级,采用多源交叉验证机制评估事件可信度,只有可信度达到阈值的安全事件才能触发生态级别的策略迭代。
70、本发明还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述自进化多智能体集群分布式可信决策方法。
71、本发明可应用于多智能体协作平台、机器人集群、自动驾驶车队、分布式算力网络、多模型融合决策系统、智能推荐系统、自进化智能体集群、世界模型驱动的机器人系统、多智能体系统安全监管与治理平台中的至少一种场景。
72、本发明的有益效果可以概括为"一个架构范式突破+四个核心技术创新+一个长期战略价值"。
73、一个架构范式突破:从"中心管控"到"分布自治"——真正与分布式、自进化架构相匹配的安全范式
74、传统分布式安全方案本质上仍然是"中心管控"思维的延伸——要么有一个物理上的中心控制节点,要么有一套全局统一的静态规则。这种模式与分布式系统"无中心、自组织、可演化"的内在特征是矛盾的,更无法回应自进化系统"验证窗口失效、反馈延迟失效、探索-安全悖论"的三重失效情境。
75、本发明提出的分布式可信决策架构,是真正从分布式第一性原理出发设计的安全范式:信任通过群体共识与持续再验证动态建立,安全通过多维度交叉验证保障,进化通过安全边界约束机制定向引导。安全内生于分布式架构本身,而不是从外部强加的约束,形成与无中心对等架构共生的内生安全体系。这一范式突破使得安全机制与系统架构从"对立"走向"共生"。
76、四个核心技术创新:
77、1. 动态权重分布式仲裁机制:破解"少数服从多数"的安全困境
78、传统投票机制"一人一票"的设计,使得攻击者只需要控制超过半数的节点就能操控整个系统。本发明的动态权重机制,将投票权与节点的历史表现、安全声誉、领域匹配度动态绑定,并随节点行为的持续再验证结果实时更新,使得攻击者需要同时攻破大量高声誉节点才能影响决策结果,攻击成本呈指数级上升。
79、更重要的是,权重计算是公开可验证的,每个节点都能独立验算,从机制上杜绝了权重操纵的可能性。非确定性选择机制则在保证安全的前提下保留了系统的探索能力,避免"多数暴政"导致的系统僵化。
80、2. 多时间窗口滑动基线检测:让慢漂移攻击无处遁形
81、这是本领域首次提出专门针对慢漂移攻击的系统性检测方案。传统安全检测都是"快照式"的——拿当前状态和固定基线比,超过阈值就告警。这种方式对突发攻击有效,但对缓慢渐进的漂移完全无感——因为基线也在随时间慢慢变化,等到发现异常时,系统可能已经被完全控制了。
82、本发明的滑动基线机制通过"限速"来解决这个问题:基线可以动,但移动速度不能超过正常进化的速度上限。就像测速摄像头一样,不管你最终开到哪里,只要超速了就拍。这种检测思路跳出了"与固定标准比"的传统框架,转向"与变化速度比"的新范式,能够有效区分节点的正常自进化行为与恶意漂移行为,对于发现各种隐蔽的渐进式攻击具有普遍价值。
83、3. 安全边界约束机制(进化方向锚定):给自进化系统装上"安全陀螺仪"
84、随着ai系统具备越来越强的自学习、自进化能力,"进化走偏"正在成为一个现实而严峻的安全挑战。现有安全技术都是针对静态系统设计的,从未考虑过系统本身会进化、会被定向投毒的场景。
85、本发明的安全边界约束机制(进化方向锚定机制),相当于给自进化系统装上了陀螺仪——不管系统怎么进化、进化速度多快,核心锚定因子始终定义着安全的"正北方向",迭代方向校验确保每一步迭代都不偏离这个方向,事件可信度评估则滤除了虚假的进化诱因;动态弹性边界则在内核安全基因的刚性约束下,根据运行环境、任务需求与安全裕度灵活调节安全边界,避免"一刀切"的固定阈值扼杀系统的探索能力,回应了自进化系统的"探索-安全悖论"。多层立体防护,确保系统在快速进化的同时始终行驶在安全轨道上。
86、4. 三类锚点交叉身份验证:打破"身份=信任"的等式
87、传统安全体系中,身份验证通过就等同于获得信任——"只要你是你,你说的我就信"。但在智能体可能被劫持、身份可能被盗用的现实场景下,这个等式是危险的。
88、本发明的三类锚点交叉验证机制,将身份从"单一凭证"升级为"多维特征组合"——硬件锚点保证物理不可伪造,行为锚点检测动态行为异常,迭代锚点追踪长期安全轨迹。三者相互印证,即使攻击者攻破了其中一个维度,也无法在其他维度上同时伪装,从而大大提升了身份冒用的门槛。零信任假设在此基础上更进一步——即使身份完全验证通过,也不直接采信其输出,而是结合声誉和上下文持续评估;即使节点在运行中持续自我修改,其信任状态也始终基于当前行为动态更新,真正实现了"永不信任,始终验证"。
89、一个长期战略价值:为大规模自主智能体系统的落地提供安全架构基础
90、随着ai agent从单智能体走向多智能体协作,从封闭环境走向开放环境,从辅助工具走向自主决策,分布式可信决策将成为不可或缺的核心基础设施。本发明提出的架构方案,能够支撑从几个机器人到成百上千个智能体的大规模分布式系统,覆盖机器人集群、自动驾驶车队、分布式算力网络、多模型融合决策等传统场景,以及自进化智能体集群、世界模型驱动的机器人系统、多智能体系统安全监管与治理平台等新兴场景,为自主智能体的规模化应用扫清安全障碍。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com