一种GPU虚拟化管理系统和方法与流程

技术特征：
1.一种gpu虚拟化管理系统，其特征在于，所述系统包括：用户交互模块、应用服务模块和kvm底层模块；所述用户交互模块，用于接收用户交互指令，并将所述交互指令发送至所述应用服务模块；所述应用服务模块，用于根据所述交互指令生成资源分配指令，并将所述资源分配指令发送至所述kvm底层模块；所述kvm底层模块，用于根据所述资源分配指令，获取其对应的虚拟gpu，并将所述虚拟gpu挂载至预设虚拟机中。2.根据权利要求1所述的gpu虚拟化管理系统，其特征在于，所述应用服务模块包括：动态配置单元、消息队列单元和数据存储单元；所述动态配置单元，用于动态管理所述应用服务模块中的所有应用配置和服务配置；所述消息队列单元，用于将所述用户交互模块、所述应用服务模块和所述kvm底层模块发出的指令和/或消息转发至对应模块；所述数据存储单元，用于存储系统初始化已经系统运行过程中产生的数据。3.根据权利要求2所述的gpu虚拟化管理系统，其特征在于，所述数据存储单元包括：缓存数据库和关系型数据库；所述缓存数据库，用于存储所述预设虚拟机的配置信息；所述关系型数据库，用于存储所述用户的详细信息以及其与所述预设虚拟机的对应关系。4.根据权利要求1所述的gpu虚拟化管理系统，其特征在于，所述系统还包括：虚拟环境管理模块；所述虚拟环境管理模块，用于为系统中虚拟环境的操作指令以及参数配置提供支持，所述操作指令至少包括虚拟机创建、虚拟机状态更新、网络参数配置和存储空间配置。5.根据权利要求1所述的gpu虚拟化管理系统，其特征在于，所述应用服务模块还包括：资源管理模块；所述资源管理模块，用于根据所述用户发送的关机指令，卸载所述预设虚拟机中挂载的虚拟gpu，释放虚拟gpu资源。6.根据权利要求1所述的gpu虚拟化管理系统，其特征在于，所述系统还包括：自动巡检模块；所述自动巡检模块，用于基于预设巡检周期检测系统中处于关机状态的虚拟机的虚拟gpu状态，所述虚拟gpu状态至少包括挂载中、未挂载。7.根据权利要求1所述的gpu虚拟化管理系统，其特征在于，所述系统还包括：资源供给模块；所述资源供给模块，用于将所述预设虚拟机通过所述用户交互模块为所述用户提供服务。8.一种gpu虚拟化管理方法，其特征在于，包括：基于用户发送的登录指令，获取所述用户对应的gpu资源信息；根据所述gpu资源信息生成资源分配指令；基于所述资源分配指令获取其对应的虚拟gpu资源；
将所述虚拟gpu资源挂载至预设虚拟机中，基于所述预设虚拟机为所述用户提供gpu算力。9.根据权利要求8所述的gpu虚拟化管理方法，其特征在于，所述将所述虚拟gpu资源挂载至预设虚拟机中，基于所述预设虚拟机为所述用户提供gpu算力的步骤之后，还包括：基于用户发送的关机指令，获取所述关机指令对应的虚拟机；将所述虚拟机中的虚拟gpu进行卸载，在卸载完成后关闭所述虚拟机。10.根据权利要求9所述的gpu虚拟化管理方法，其特征在于，所述在卸载完成后关闭所述虚拟机的步骤之后，还包括：基于预设巡检周期检测当前虚拟环境中处于关机状态的虚拟机的虚拟gpu状态，所述虚拟gpu状态至少包括挂载中、未挂载；在所述虚拟gpu状态为挂载中时，对所述虚拟机的虚拟gpu进行卸载。

技术总结
本发明提供的一种GPU虚拟化管理系统和方法，系统包括：用户交互模块、应用服务模块和KVM底层模块；应用服务模块，用于根据交互指令生成资源分配指令，并将资源分配指令发送至KVM底层模块；KVM底层模块，用于根据所述资源分配指令，获取其对应的虚拟GPU，并将虚拟GPU挂载至预设虚拟机中。本发明通过根据用户的交互指令生成资源分配指令，并通过资源分配指令为用户分配虚拟GPU资源，从而实现了物理GPU资源虚拟化使用，多个用户分段时间共享同一物理GPU资源的目的，进而可以在存在多个用户需要使用GPU资源时为每个用户合理分配虚拟GPU资源，有效降低了GPU资源的空闲率。有效降低了GPU资源的空闲率。有效降低了GPU资源的空闲率。


技术研发人员：江鸿
受保护的技术使用者：武汉兴和云网科技股份有限公司
技术研发日：2022.11.25
技术公布日：2022/12/30