一种多模型智能调度方法及系统与流程

摘要: 本发明涉及人工智能和云计算,尤其涉及一种多模型智能调度方法及系统。背景技术:1、随着大语言模型技术的普及,在业务系统中集成多种不同能力、成本和速度的模型以满足多...
一种多模型智能调度方法及系统与流程

本发明涉及人工智能和云计算,尤其涉及一种多模型智能调度方法及系统。

背景技术:

1、随着大语言模型技术的普及,在业务系统中集成多种不同能力、成本和速度的模型以满足多样化的需求已成为常见实践。为了高效利用这些模型资源,如何为每一个到来的用户请求智能地选择最合适的模型进行处理,成为一个核心的技术挑战。

2、为解决此问题,现有技术中已提出一些基于强化学习的调度方法。这类调度方法通常会通过一个预测模型对不同模型选择的质量和成本进行预估,然后利用强化学习智能体基于预估结果进行决策。在模型执行后,系统会根据实际结果计算奖励或惩罚,并通过反馈机制持续优化其调度策略,从而在一定程度上提升了调度的智能化水平。

3、然而,上述现有技术仍存在以下不足。首先,现有的强化学习调度器通常只关注单次请求的优化,即为当前请求找到成本最低或质量最高的模型,其优化目标具有短视性。当一个完整的业务任务由一系列连续的调用(即工作流)组成时,这种对单一步骤的局部最优选择,可能因未能预见后续步骤的资源需求,而导致整个任务链的最终失败或总成本的增加。其次,现有调度器在决策时,没有考虑资源的机会成本。例如,当一个非常强大且昂贵的专家模型被用于处理一个简单的任务时,其真实成本不仅是本次调用的费用,更重要的是浪费了宝贵的、稀缺的强模型计算资源,使得该专家模型无法被用在需要它、能创造更高价值的复杂任务上,这导致了全局资源的次优配置。

技术实现思路

1、本发明的目的在于提供一种多模型智能调度方法及系统,旨在解决现有技术中大语言模型调度方法仅关注单点优化、缺乏对业务工作流的全局考量,并且未考虑机会成本导致高端计算资源浪费的技术问题。

2、为实现上述目的,本发明提供了一种多模型智能调度方法,包括:

3、性能预估步骤,所述性能预估步骤包括:接收用户请求,所述用户请求关联业务工作流,并启动元模型,所述元模型针对候选模型池中的每一个可用的大语言模型,预测处理所述用户请求的性能指标,以输出性能预估向量;

4、动态决策步骤,所述动态决策步骤包括:采用强化学习框架,将包含所述性能预估向量的系统状态作为所述强化学习框架的环境状态,并将选择候选大语言模型处理所述用户请求的决策作为一动作;

5、反馈与持续优化步骤,所述反馈与持续优化步骤包括:在所述业务工作流执行完成后,利用记录的实际性能数据,更新所述元模型和所述强化学习框架的调度策略,其中,所述调度策略的更新是通过复合奖励函数评估所述动作的价值来实现的,所述复合奖励函数包括:基于与所述用户请求关联的业务工作流的最终结果而确定的任务成功奖励、基于本次调用的成本而确定的即时成本惩罚、以及用于惩罚选择高能力模型处理低复杂度任务的机会成本惩罚。

6、作为本发明一种优选的实施方式,所述方法还包括:

7、维护一个由待处理的用户请求组成的等待队列的步骤;

8、对所述等待队列中的每个任务进行价值预测的步骤;

9、其中,所述机会成本惩罚是根据公式进行计算;

10、其中,为机会成本惩罚值,为基础惩罚常数,为所选大语言模型的稀缺度因子,为所述等待队列中任务的预测价值总和。

11、作为本发明一种优选的实施方式,所述系统状态中还包含一工作流上下文向量,所述工作流上下文向量包括当前步骤在所述业务工作流中的关键度得分。

12、进一步地,所述复合奖励函数是根据所述任务成功奖励、所述即时成本惩罚以及所述机会成本惩罚的加权组合来确定,并且所述任务成功奖励的权重与当前步骤的关键度得分为正相关。

13、本发明还提供了一种多模型智能调度系统,包括:

14、候选大语言模型池,是由多个至少在能力、成本和速度方面存在差异的大语言模型构成的集合;

15、智能调度器,用于接收用户请求,所述用户请求关联业务工作流,并启动元模型,针对所述候选大语言模型池中的每一个可用的大语言模型,预测处理所述用户请求的性能指标,以输出性能预估向量;

16、所述智能调度器还用于,采用强化学习框架,利用调度策略,将包含所述性能预估向量的系统状态作为所述强化学习框架的环境状态,并选择候选大语言模型处理所述用户请求;

17、反馈优化模块,用于在所述业务工作流执行完成后,利用记录的实际性能数据,更新所述元模型,并通过复合奖励函数评估选择的价值以学习和优化调度策略,所述复合奖励函数包括:基于与所述用户请求关联的业务工作流的最终结果而确定的任务成功奖励、基于本次调用的成本而确定的即时成本惩罚、以及用于惩罚选择一高能力模型处理一低复杂度任务的机会成本惩罚。

18、作为本发明一种优选的实施方式,所述多模型智能调度系统还被配置为维护一个由待处理的用户请求组成的等待队列,并对所述等待队列中的每个任务进行价值预测;

19、所述反馈优化模块还被配置为根据公式计算所述机会成本惩罚;

20、其中,为机会成本惩罚值,为基础惩罚常数,为所选大语言模型的稀缺度因子,为所述等待队列中任务的预测价值总和。

21、作为本发明一种优选的实施方式,所述智能调度器还用于将包含工作流上下文向量的系统状态作为所述强化学习框架的环境状态,所述工作流上下文向量包括当前步骤在所述业务工作流中的关键度得分。

22、进一步地,所述反馈优化模块被配置为根据所述任务成功奖励、所述即时成本惩罚以及所述机会成本惩罚的加权组合来确定所述复合奖励函数,并且所述任务成功奖励的权重与所述当前步骤的关键度得分为正相关。

23、本发明还提供了一种电子设备,包括处理器和存储器,所述存储器中存储有计算机程序,所述计算机程序被所述处理器执行时实现上述的多模型智能调度方法。

24、与现有技术相比,本发明的有益效果在于:

25、通过在复合奖励函数中引入面向整个业务工作流的任务成功奖励,将优化目标从现有技术的“单步最优”提升到“全局最优”,使得调度决策能够预见并保障后续关键步骤的资源需求,从而显著提高了多步骤复杂任务的最终成功率;

26、通过在奖励函数中明确定义并量化机会成本惩罚,能够有效避免高能力、高成本的专家模型被用于处理简单任务而造成的资源浪费,智能地为复杂的任务预留出宝贵的专家模型资源,从而在保证任务质量的前提下,实现提高全局计算资源的利用效率和成本效益;

27、通过预测-决策二级框架和闭环反馈机制,使得智能调度器不仅能基于预测信息进行决策,还能在动态变化的环境中持续自我学习和进化,长期保持高效与精准。

1.一种多模型智能调度方法,其特征在于,包括:

2.根据权利要求1所述的多模型智能调度方法,其特征在于,还包括:

3.根据权利要求1所述的多模型智能调度方法,其特征在于,所述系统状态中还包含工作流上下文向量,所述工作流上下文向量包括当前步骤在所述业务工作流中的关键度得分。

4.根据权利要求3所述的多模型智能调度方法,其特征在于,所述复合奖励函数是根据所述任务成功奖励、所述即时成本惩罚以及所述机会成本惩罚的加权组合来确定,并且所述任务成功奖励的权重与当前步骤的关键度得分为正相关。

5.一种多模型智能调度系统,其特征在于,包括:

6.根据权利要求5所述的多模型智能调度系统,其特征在于,所述多模型智能调度系统还被配置为维护一个由待处理的用户请求组成的等待队列,并对所述等待队列中的每个任务进行价值预测;

7.根据权利要求5所述的多模型智能调度系统,其特征在于,所述智能调度器还用于将包含工作流上下文向量的系统状态作为所述强化学习框架的环境状态,所述工作流上下文向量包括当前步骤在所述业务工作流中的关键度得分。

8.根据权利要求7所述的多模型智能调度系统,其特征在于,所述反馈优化模块被配置为根据所述任务成功奖励、所述即时成本惩罚以及所述机会成本惩罚的加权组合来确定所述复合奖励函数,并且所述任务成功奖励的权重与所述当前步骤的关键度得分为正相关。

9.一种电子设备,包括处理器和存储器,所述存储器中存储有计算机程序,其特征在于,所述计算机程序被所述处理器执行时实现如权利要求1至4中任一项所述的多模型智能调度方法。