多智能体的任务编排处理方法、装置、电子设备及存储介质与流程

摘要: 本技术涉及人工智能,尤其涉及多智能体的任务编排处理方法、装置、电子设备及存储介质。背景技术:1、随着大语言模型智能体的快速发展,多智能体协作系统已逐渐演进为生产...
多智能体的任务编排处理方法、装置、电子设备及存储介质与流程

本技术涉及人工智能,尤其涉及多智能体的任务编排处理方法、装置、电子设备及存储介质。

背景技术:

1、随着大语言模型智能体的快速发展,多智能体协作系统已逐渐演进为生产级基础设施。在现有的多智能体系统部署中,通常存在两种不同路径的解决方案:一种是以容器编排为蓝图的运行时编排系统,引入实时消息协议作为通信传输层以实现智能体间的协作;另一种是以企业治理模型为隐喻的组织治理系统,通过心跳机制定义智能体的生命周期,并对任务执行实施预算控制。在实际的生产应用中,多智能体系统需要同时解决运行时编排和组织治理这两个正交的核心问题,以确保智能体团队能够高效、安全地运行,且整个运行过程可控、可审计。

2、然而,一方面,现有的治理编排系统通常采用异步心跳调度,缺乏实时通信能力,而具备实时通信能力的编排系统在面对并发请求时又缺乏有效的信号合并与防冲突机制,导致任务调度效率受限;另一方面,现有的治理编排系统的模型路由决策通常仅基于静态规则,缺少基于任务复杂度的动态评估和对智能体实时预算约束的感知能力,从而导致现有的多智能体系统在并发执行复杂任务时,通信协作机制的平滑较低,以及成本较高的情况。

技术实现思路

1、本技术实施例提供了一种多智能体的任务编排处理方法、装置、电子设备及存储介质,能够解决以上技术问题。

2、为实现上述目的,本技术实施例的第一方面提出了一种多智能体的任务编排处理方法,所述方法包括:

3、响应于多智能体中针对目标智能体的任务调度指令,并通过统一传输层向所述目标智能体所在的通信房间发送心跳唤醒消息,所述心跳唤醒消息携带有所述任务调度指令对应的任务信息;

4、当检测到所述目标智能体当前处于运行状态时,在所述统一传输层对所述心跳唤醒消息进行信号合并,以使所述目标智能体在当前心跳周期内集中获取合并后的任务信息进行处理;

5、在所述目标智能体处理所述任务信息的过程中,接收所述目标智能体发起的模型调用请求,在网关侧拦截所述模型调用请求以进行预算状态检查,得到预算状态检查结果;

6、获取针对所述任务信息进行评估得到的复杂度评估结果,并基于所述预算状态检查结果和所述复杂度评估结果,将所述模型调用请求路由至对应的目标执行模型进行处理,并基于处理结果更新所述目标智能体的资源消耗记录。

7、在一些实施例中,在所述响应于多智能体中针对目标智能体的任务调度指令之前,所述方法还包括:

8、获取资源配置信息,所述资源配置信息中包含所述目标智能体的组织策略特征和运行时规格特征;

9、基于控制器启动调和循环,根据所述运行时规格特征部署所述目标智能体的运行容器,并根据所述组织策略特征在控制平面下发对应的治理规则;

10、生成所述目标智能体的消费者令牌,并将所述消费者令牌配置于所述网关侧。

11、在一些实施例中,所述获取针对所述任务信息进行评估得到的复杂度评估结果,包括:

12、基于所述任务信息,确定预计代码行数、工具调用链长度、上下文窗口需求以及推理深度指标;

13、基于所述预计代码行数、所述工具调用链长度、所述上下文窗口需求以及所述推理深度指标进行综合评估,得到所述任务信息的复杂度评分;

14、基于所述复杂度评分从预设的多个复杂度级别进行匹配,以确定目标级别,并基于所述目标级别得到所述复杂度评估结果。

15、在一些实施例中,所述基于所述预计代码行数、所述工具调用链长度、所述上下文窗口需求以及所述推理深度指标进行综合评估,得到所述任务信息的复杂度评分,包括:

16、分别对所述预计代码行数、所述工具调用链长度、所述上下文窗口需求以及所述推理深度指标进行归一化处理,得到对应的归一化代码行数、归一化工具调用链长度、归一化上下文窗口需求以及归一化推理深度指标;

17、获取预设的所述预计代码行数的第一权重值、所述工具调用链长度的第二权重值、所述上下文窗口需求的第三权重值以及所述推理深度指标的第四权重值;

18、累加所述第一权重值与所述归一化代码行数的乘积、所述第二权重值与所述归一化工具调用链长度的乘积、所述第三权重值与所述归一化上下文窗口需求的乘积以及所述第四权重值与所述归一化推理深度指标的乘积,得到初步评价结果;

19、获取所述任务信息的任务类型分类,并根据所述任务类型分类对应的补偿系数对所述初步评价结果进行修正,得到所述任务信息的复杂度评分。

20、在一些实施例中,所述在网关侧拦截所述模型调用请求以进行预算状态检查,得到预算状态检查结果,包括:

21、获取所述目标智能体的历史任务平均成本、当前并发任务数和时间衰减因子;

22、基于所述历史任务平均成本、所述当前并发任务数和所述时间衰减因子,预测得到所述目标智能体在当前心跳周期内的预期资源消耗量;

23、获取所述目标智能体在当前核算周期内的已消耗资源量,将所述已消耗资源量与所述预期资源消耗量进行求和得到总预测消耗量;

24、将所述总预测消耗量与预设的资源预算上限进行比对,得到所述预算状态检查结果。

25、在一些实施例中,所述基于所述历史任务平均成本、所述当前并发任务数和所述时间衰减因子,预测得到所述目标智能体在当前心跳周期内的预期资源消耗量,包括:

26、基于所述历史任务平均成本与所述当前并发任务数的关联关系进行组合计算,得到所述目标智能体在无衰减状态下的初始基准消耗量;

27、基于所述时间衰减因子对所述初始基准消耗量进行加权衰减修正,得到所述目标智能体在当前心跳周期内的所述预期资源消耗量。

28、在一些实施例中,所述基于所述预算状态检查结果和所述复杂度评估结果,将所述模型调用请求路由至对应的目标执行模型进行处理,包括:

29、根据所述复杂度评估结果对应的目标级别,从预设的多个模型簇中确定匹配的备选模型簇;

30、当所述预算状态检查结果表征所述总预测消耗量未超过所述资源预算上限的第一预设比例时,将所述备选模型簇中的高配置模型作为所述目标执行模型,并将所述模型调用请求路由至所述目标执行模型进行处理;

31、当所述预算状态检查结果表征所述总预测消耗量超过所述第一预设比例且未超过第二预设比例时,将所述备选模型簇中的低成本模型作为所述目标执行模型,并将所述模型调用请求降级路由至所述目标执行模型进行处理;

32、当所述预算状态检查结果表征所述总预测消耗量超过所述第二预设比例时,阻断所述模型调用请求的路由并触发暂停机制。

33、在一些实施例中,在所述目标智能体处理所述任务信息的过程中,所述方法还包括:

34、基于所述任务信息确定待执行操作,并获取待执行操作的操作类型风险等级、涉及数据资产的敏感度以及历史执行成功率;

35、基于所述操作类型风险等级、所述敏感度以及所述历史执行成功率进行风险评估,输出综合风险评分;

36、根据所述综合风险评分和当前配置的自治转换策略,调整所述目标智能体的审批门控级别;

37、当所述待执行操作超出当前审批门控级别的授权范围时,生成审批资源请求并挂起所述待执行操作,直至接收到审批通过指令再恢复执行所述待执行操作。

38、为实现上述目的,本技术实施例的第二方面提出了多智能体的任务编排处理装置,所述装置包括:

39、响应模块,用于响应于多智能体中针对目标智能体的任务调度指令,并通过统一传输层向所述目标智能体所在的通信房间发送心跳唤醒消息,所述心跳唤醒消息携带有所述任务调度指令对应的任务信息;

40、信号合并模块,用于当检测到所述目标智能体当前处于运行状态时,在所述统一传输层对所述心跳唤醒消息进行信号合并,以使所述目标智能体在当前心跳周期内集中获取合并后的任务信息进行处理;

41、状态检查模块,用于在所述目标智能体处理所述任务信息的过程中,接收所述目标智能体发起的模型调用请求,在网关侧拦截所述模型调用请求以进行预算状态检查,得到预算状态检查结果;

42、任务执行模块,用于获取针对所述任务信息进行评估得到的复杂度评估结果,并基于所述预算状态检查结果和所述复杂度评估结果,将所述模型调用请求路由至对应的目标执行模型进行处理,并基于处理结果更新所述目标智能体的资源消耗记录。

43、为实现上述目的,本技术实施例的第三方面提出了一种电子设备,所述电子设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现如第一方面所述的多智能体的任务编排处理方法。

44、为实现上述目的,本技术实施例的第四方面提出了一种存储介质,所述存储介质为计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的多智能体的任务编排处理方法。

45、本技术实施例提出的多智能体的任务编排处理方法、装置、电子设备及存储介质,方法包括:首先,响应于多智能体中针对目标智能体的任务调度指令,并通过统一传输层向目标智能体所在的通信房间发送心跳唤醒消息,心跳唤醒消息携带有任务调度指令对应的任务信息;然后,当检测到目标智能体当前处于运行状态时,在统一传输层对心跳唤醒消息进行信号合并,以使目标智能体在当前心跳周期内集中获取合并后的任务信息进行处理;之后,在目标智能体处理任务信息的过程中,接收目标智能体发起的模型调用请求,在网关侧拦截模型调用请求以进行预算状态检查,得到预算状态检查结果;最后,获取针对任务信息进行评估得到的复杂度评估结果,并基于预算状态检查结果和复杂度评估结果,将模型调用请求路由至对应的目标执行模型进行处理,并基于处理结果更新目标智能体的资源消耗记录。本技术实施例通过在统一传输层发送心跳唤醒消息,并在目标智能体处于运行状态时于传输层对心跳唤醒消息进行信号合并,使得目标智能体在当前心跳周期内能够集中获取并处理合并后的任务信息,该机制在保留通信实时性的同时实现了有效的并发防冲突,提升了多智能体系统面对高并发请求时的任务调度效率与协作平滑度;进一步的,通过在网关侧拦截模型调用请求以进行预算状态检查,并结合基于任务信息动态得出的复杂度评估结果进行模型路由决策,从而改变了传统仅依赖静态规则的模型分配方式,使得系统能够在执行前感知预算约束,并自动为不同复杂度的任务匹配合适的最优执行模型,进而在保障智能体团队高效、可控运行的前提下,有效避免了资源浪费与预算失控,降低了多智能体在并发执行复杂任务时的综合运行成本。

46、本技术的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本技术而了解。本技术的目的和其他优点可通过在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。