一种支持快照自动回滚的分布式AI智能体远程部署管理方法及系统与流程

摘要: 本发明涉及人工智能应用部署管理,尤其涉及到一种支持快照自动回滚的分布式ai智能体远程部署管理方法及系统。背景技术:1、相关技术中,分布式ai智能体通常运行于不同...
一种支持快照自动回滚的分布式AI智能体远程部署管理方法及系统与流程

本发明涉及人工智能应用部署管理,尤其涉及到一种支持快照自动回滚的分布式ai智能体远程部署管理方法及系统。

背景技术:

1、相关技术中,分布式ai智能体通常运行于不同的物理节点或虚拟节点,运维人员需要分别登录各运行时节点,完成智能体工作区建立、身份文件写入、运行配置修改和进程状态检查。容器编排系统虽然能够完成程序镜像分发,但其管理对象主要是程序镜像和通用运行参数,难以对智能体专属的身份文件、技能定义及工具配置进行统一管理。

2、此外,现有部署方式通常缺少智能体资源的完整快照和自动恢复机制。智能体出现部署超时、异常退出或停止运行时,需要运维人员重新写入文件或重新部署实例,恢复时间较长;智能体被删除后,运行时全局配置中还可能保留与实际智能体无对应关系的连接配置,造成无效连接和运行资源浪费。

3、具体而言,现有技术至少存在以下问题:

4、(1)分布式智能体生命周期割裂。多个ai智能体运行时分散部署于不同物理节点或虚拟节点,缺乏能够统一管理创建、更新、删除、监控及回滚操作的控制平面,运维人员需要逐一操作各运行时节点。

5、(2)多维智能体资源缺乏版本快照与原子回滚能力。现有部署方案主要面向程序代码或容器镜像,难以将人格定义、工作区配置、技能定义、工具注册及认证配置等多类型资源作为统一版本进行保存和恢复。

6、(3)故障恢复依赖人工介入。智能体异常退出、进入错误状态或停止响应后,现有方式通常不能自动发现并基于有效版本执行恢复,导致故障恢复时间较长。

7、(4)业务订阅流程与技术部署流程之间缺乏自动联动。订单审批、方案解析、节点选择、资源写入及运行时注册等环节需要人工串联,易产生部署延迟和操作差错。

8、(5)细粒度运行指标采集能力不足。现有方式难以持续获取会话状态、模型调用耗时、token消耗及工具调用结果等运行数据,无法为健康检查、按量计费和精细化运维提供充分依据。

9、(6)智能体删除后可能残留闲置连接配置。运行时全局配置中的模型供应服务配置和外部工具服务连接配置未随最后一个智能体删除而同步清理,可能产生无效连接请求和不必要的资源占用。

技术实现思路

1、本申请的主要目的在于提供一种支持快照自动回滚的分布式ai智能体远程部署管理方法及系统,旨在解决上述至少一个技术问题。

2、为实现上述目的,本发明提供一种支持快照自动回滚的分布式ai智能体远程部署管理方法,所述方法包括以下步骤:

3、在检测到部署触发事件时,确定目标智能体对应的目标运行时节点和模板数据;

4、向所述目标运行时节点的运行时管理插件发送根据所述模板数据生成的部署指令,以使所述运行时管理插件在所述目标运行时节点建立所述目标智能体的工作区并写入智能体资源,得到部署结果;

5、其中,所述智能体资源被配置为用于驱动所述目标智能体运行的文件及配置集合;

6、基于所述部署结果,生成所述目标智能体的文件快照,并建立所述文件快照与部署记录的关联关系;

7、按照预设检查周期获取所述目标智能体的运行状态,并根据所述部署记录和所述运行状态判断是否满足预设回滚条件;

8、在满足预设回滚条件时,将所述文件快照发送至运行时管理插件,以使所述运行时管理插件清理所述工作区并根据所述文件快照恢复所述智能体资源,并更新所述部署记录。

9、为了实现上述目的,本发明还提供了一种支持快照自动回滚的分布式ai智能体远程部署管理系统,包括:

10、事件检测模块,用于在检测到部署触发事件时,确定目标智能体对应的目标运行时节点和模板数据;

11、指令发送模块,用于向所述目标运行时节点的运行时管理插件发送根据所述模板数据生成的部署指令,以使所述运行时管理插件在所述目标运行时节点建立所述目标智能体的工作区并写入智能体资源,得到部署结果;

12、其中,所述智能体资源被配置为用于驱动所述目标智能体运行的文件及配置集合;

13、关系建立模块,用于基于所述部署结果,生成所述目标智能体的文件快照,并建立所述文件快照与部署记录的关联关系;

14、条件判断模块,用于按照预设检查周期获取所述目标智能体的运行状态,并根据所述部署记录和所述运行状态判断是否满足预设回滚条件;

15、回滚执行模块,用于在满足预设回滚条件时,将所述文件快照发送至运行时管理插件,以使所述运行时管理插件清理所述工作区并根据所述文件快照恢复所述智能体资源,并更新所述部署记录。

16、本申请提出的一个或多个技术方案,至少具有以下技术效果:

17、通过中央管理平台和运行时管理插件形成分级部署架构,中央管理平台无需直接操作远程节点的文件系统,即可驱动运行时管理插件完成智能体工作区建立、资源写入和运行时注册,减少逐节点人工操作并提高不同节点部署结果的一致性。

18、将目标智能体的工作区资源和运行时注册信息作为同一文件快照进行保存,使恢复范围限定于目标智能体;在检测到部署超时、重试次数达到阈值或运行状态异常时,能够自动恢复目标智能体资源,无需重新部署整个ai智能体运行时。

19、通过运行时事件接口采集会话、模型调用和工具调用对应的运行数据,在不修改ai智能体运行时代码的情况下获得目标智能体的运行状态和运行指标,可为健康检查和运行管理提供数据依据。

20、在删除最后一个智能体后同步移除闲置连接配置,使运行时全局配置与实际部署的智能体保持对应,减少无效连接请求和不必要的资源占用。

1.一种支持快照自动回滚的分布式ai智能体远程部署管理方法,其特征在于,所述方法包括以下步骤:

2.如权利要求1所述的支持快照自动回滚的分布式ai智能体远程部署管理方法,其特征在于,在检测到部署触发事件时,确定目标智能体对应的目标运行时节点和模板数据步骤包括:

3.如权利要求2所述的支持快照自动回滚的分布式ai智能体远程部署管理方法,其特征在于,向所述目标运行时节点的运行时管理插件发送根据所述模板数据生成的部署指令步骤包括:

4.如权利要求3所述的支持快照自动回滚的分布式ai智能体远程部署管理方法,其特征在于,所述方法还包括:

5.如权利要求1所述的支持快照自动回滚的分布式ai智能体远程部署管理方法,其特征在于,基于所述部署结果,生成所述目标智能体的文件快照,并建立所述文件快照与部署记录的关联关系步骤包括:

6.如权利要求1所述的支持快照自动回滚的分布式ai智能体远程部署管理方法,其特征在于,按照预设检查周期获取所述目标智能体的运行状态,并根据所述部署记录和所述运行状态判断是否满足预设回滚条件步骤包括:

7.如权利要求6所述的支持快照自动回滚的分布式ai智能体远程部署管理方法,其特征在于,通过所述运行时管理插件查询所述目标智能体的运行状态步骤之前还包括:

8.如权利要求6所述的支持快照自动回滚的分布式ai智能体远程部署管理方法,其特征在于,在满足预设回滚条件时,将所述文件快照发送至运行时管理插件步骤包括:

9.如权利要求1所述的支持快照自动回滚的分布式ai智能体远程部署管理方法,其特征在于,所述方法还包括:

10.一种支持快照自动回滚的分布式ai智能体远程部署管理系统,其特征在于,所述系统包括: