一种基于工作流契约与动态映射的ComfyUI后端推理系统及方法与流程

摘要: 本发明涉及人工智能生成内容(aigc),具体涉及一种基于节点式工作流推理工具(comfyui)的后端服务化封装、动态参数映射及异步任务调度系统与方法,尤其适用于...
一种基于工作流契约与动态映射的ComfyUI后端推理系统及方法与流程

本发明涉及人工智能生成内容(aigc),具体涉及一种基于节点式工作流推理工具(comfyui)的后端服务化封装、动态参数映射及异步任务调度系统与方法,尤其适用于需要将复杂的ai图像生成能力以稳定、高效、可运维的方式封装为企业级api服务的场景。

背景技术:

1、随着生成式人工智能(aigc)技术的快速发展,基于节点图进行可视化工作流编排的工具,因其在流程定制与算法组合上的灵活性,成为ai应用开发与部署的重要平台。comfyui便是此类工具中的主流代表。

2、然而,在将comfyui这类节点式工作流工具的能力封装为可供外部稳定调用的企业级api服务时,面临一个根本性的架构矛盾:comfyui原生的交互模式要求调用方直接操作其内部动态的、包含节点id与连接关系的复杂json工作流描述。这导致调用接口与底层工作流的实现细节(即具体的节点拓扑结构)高度耦合。

3、这种深度耦合带来了严重的接口脆弱性问题:任何对工作流的优化或调整(例如增删一个功能节点),都会导致其内部节点标识(node id)发生变化,进而使得基于旧有节点标识构建的所有客户端请求立即失效。换言之,系统缺乏一个稳定的、不随内部实现变化的“接口契约”。这一核心缺陷不仅使得api服务本身难以维护和迭代,也进而导致了:

4、由于每次请求都必须精确构建完整的动态工作流结构,系统被迫采用同步调用模式来确保请求的准确执行。对于comfyui典型的长耗时推理任务(如图像生成,通常需5-60秒),这种同步长连接模式在网络波动下极易中断,造成任务失败。

5、同时,工作流与api的紧耦合也使得工作流运行环境(包括其依赖的插件、库版本)的升级、隔离与管理变得异常困难,任何环境变动都可能直接破坏api的可用性,极大增加了系统运维的复杂度和风险。

6、因此,现有技术方案(如直接暴露comfyui原生api)未能解决如何为节点式ai工作流引擎提供一个稳定、解耦的调用接口这一关键问题,从而限制了其在高可靠企业服务场景中的应用。

技术实现思路

1、第一方面,本公开实施例提供了一种基于comfyui的ai推理引擎封装与动态异步映射系统,包括:

2、包装服务模块,用于接收包含工作流标识与业务参数的请求,并管理推理任务的生命周期;

3、动态映射配置模块,与所述包装服务模块连接,用于存储所述工作流标识与底层comfyui工作流json文件的对应关系,以及所述业务参数与所述json文件内部节点属性的映射规则;

4、异步调度模块,与所述包装服务模块和所述动态映射配置模块连接,用于根据所述映射规则将处理后的业务参数注入至对应的json文件中,生成执行载荷,并将所述执行载荷提交至推理引擎进行异步执行,同时建立任务状态监控机制;

5、推理引擎模块,用于加载并执行所述执行载荷,完成ai计算任务。

6、优选的,所述动态映射配置模块包括:

7、节点注入映射表,用于定义将文本或数值类业务参数注入至json文件中特定节点id的输入项;

8、图像下载注入映射表,用于指示所述包装服务模块下载业务参数中的图像url,并将下载后的本地文件路径注入至json文件中指定的图像加载节点。

9、优选的,所述动态映射配置模块还包括以下至少一种映射表:

10、种子节点映射表,用于定义json文件中需要进行随机化处理的种子节点位置;

11、输出节点映射表,用于定义从json文件中提取推理结果数据的输出节点路径。

12、优选的,所述包装服务模块还包括参数预处理单元,用于在将业务参数注入json文件前,根据预定义的参数类型映射表,对业务参数执行强制类型转换和合规性校验。

13、优选的,所述异步调度模块采用短连接提交与webhook回调机制,具体为:在接收到任务请求并将任务加入执行队列后,立即向请求方返回唯一任务标识并断开连接;在任务执行过程中,通过状态机管理任务状态,并主动向请求方预设的回调地址推送任务状态变更信息及最终结果。

14、优选的,所述任务状态包括:已提交、队列中、执行中、执行成功或执行失败,其中执行中状态包含实时进度信息。

15、优选的,还包括环境版本控制模块,用于管理多个相互隔离的推理引擎运行环境;

16、每个所述推理引擎运行环境通过其对应的docker镜像标签进行标识,所述标签包含所支持的workflowid区间信息;

17、所述包装服务模块根据请求中的工作流标识,将任务路由至标签中包含该工作流标识的推理引擎运行环境。

18、第二方面,本公开实施例还提供了一种基于comfyui的ai推理引擎封装与动态异步映射方法,应用于如所述一种基于comfyui的ai推理引擎封装与动态异步映射系统中所述任一项所述的系统,所述方法包括:

19、接收外部业务请求,所述请求至少包含工作流标识和业务参数;

20、根据所述工作流标识,查询动态映射配置模块,获取对应的json模板文件及业务参数到节点属性的映射规则;

21、根据所述映射规则,将所述业务参数处理后注入至所述json模板文件的对应节点中,生成执行载荷;

22、将所述执行载荷异步提交至推理引擎模块执行,并立即向请求方返回任务标识;

23、监控任务执行状态,并通过异步回调方式向请求方推送状态更新及最终结果。

24、优选的,“将所述业务参数处理后注入”包括:

25、对于文本或数值参数,根据节点注入映射表定位目标节点及输入键,并进行强制类型转换后注入;

26、对于图像url参数,根据图像下载注入映射表,异步下载图像至本地,并将本地文件路径注入至指定的图像加载节点。

27、第三方面,本公开实施例还提供了一种计算机可读存储介质,存储有计算机程序指令,当所述计算机程序指令被计算机设备的处理器执行时,该计算机指令用于使计算机执行以上任一所述的基于基于comfyui的ai推理引擎封装与动态异步映射方法。

28、本发明具有以下优点:

29、1. 显著提升的接口稳定性:通过引入工作流标识(workflowid)作为稳定契约,彻底解耦了业务接口与底层节点拓扑结构。有效避免了因底层工作流节点id变更或拓扑结构调整导致的接口失效问题,极大地增强了系统的鲁棒性。

30、2. 大幅提高的上线部署效率:摒弃了传统针对特定节点编写api代码的繁琐模式,将新业务能力的上线流程简化为配置映射表的标准化操作。极大地缩短了开发与配置周期,提升了服务的敏捷交付能力。

31、3. 增强的任务执行可靠性:采用短连接提交与异步回调机制,有效规避了长耗时推理任务在网络环境波动下因连接超时导致的中断风险,显著提升了大规模并发场景下的任务最终成功率。

32、4. 降低的系统运维复杂度:基于docker镜像标签的环境版本控制策略,实现了推理环境与业务版本的强一致性绑定。精准的路由机制有效隔离了不同插件版本间的依赖冲突,大幅降低了环境维护与故障排查的成本。