应用于车机的大模型升级方法、装置、电子设备及可读存储介质与流程

本申请的实施方式涉及计算机，更具体地，涉及一种应用于车机的大模型升级方法、装置、电子设备及可读存储介质。

背景技术：

1、随着大模型应用的普及，在车机上安装以及运行基于大语言模型的应用程序也越来越普及。现有技术中，在对车机端的大模型应用进行更新时，通常需要对车机系统进行完整升级，同时将新开发的大模型应用打包到车机的升级包内，从而和车机一起升级。但是这样会降低大模型应用的升级迭代效率。

技术实现思路

1、本申请的实施方式提供了一种可至少部分解决现有技术中存在的上述问题或其他问题的应用于车机的大模型升级方法、装置、电子设备及可读存储介质。

2、本申请的实施方式一方面提供了一种应用于车机的大模型升级方法，包括：在加载车机上的原始大模型基于提示词进行推理的过程中，响应于获得确认升级原始大模型的第一指令，获取并运行目标大模型；响应于确定出目标大模型已成功运行且通过加载原始大模型已推理得到中间结果，加载目标大模型基于提示词和中间结果继续进行推理，获得第一结果。

3、本申请的实施方式另一方面提供了一种大模型升级装置，应用于车机，包括：获取运行模块，被配置为在加载车机上的原始大模型基于提示词进行推理的过程中，响应于获得确认升级原始大模型的第一指令，获取并运行目标大模型；加载获取模块，被配置为响应于确定出目标大模型已成功运行且通过加载原始大模型已推理得到中间结果，加载目标大模型基于提示词和中间结果继续进行推理，获得第一结果。

4、本申请的实施方式另一方面提供了一种电子设备，包括：至少一个处理器和存储器。其中，存储器与至少一个处理器通信连接，并存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如上述实施方式提及的应用于车机的大模型升级方法。

5、本申请的实施方式另一方面提供了一种计算机可读存储介质，存储有计算机程序，计算机程序被处理器执行时，实现如上述实施方式提及的应用于车机的大模型升级方法。

6、根据本申请的一些实施方式提供的应用于车机的大模型升级方法、装置、电子设备及可读存储介质，车机端在加载车机上的原始大模型基于提示词进行推理的过程中，响应于获得确认升级原始大模型的第一指令，获取并运行目标大模型；然后，响应于确定出目标大模型已成功运行且通过加载原始大模型已推理得到中间结果，会加载目标大模型基于提示词和中间结果继续进行推理，获得第一结果，从而实现了对车机端大模型的热更新，即在用户使用大模型的同时实现了对大模型的升级，用户在使用大模型的过程中感知不到大模型的更新，从而提升了用户的使用体验，且通过及时对大模型进行热更新，从而提升了对车机端的大模型应用的升级效率。

7、在一些实施方式中，在加载车机上的原始大模型基于提示词进行推理的过程中，响应于获得确认升级原始大模型的第一指令，获取并运行目标大模型，包括：通过车机的大模型推理引擎加载原始大模型基于提示词进行推理；响应于收到第一指令，通过大模型推理引擎加载原始大模型基于提示词进行推理的同时，通过大模型推理引擎运行目标大模型。从而通过大模型推理引擎实现了在不影响用户使用大模型的同时对大模型进行升级，即通过大模型推理引擎实现了对大模型的热更新，从而提升了用户的使用体验。

8、在一些实施方式中，加载目标大模型基于提示词和中间结果继续进行推理，获得第一结果，包括：通过车机的大模型推理引擎加载目标大模型，基于提示词和中间结果继续进行推理，获得第一结果。从而通过大模型推理引擎实现了在不影响用户使用大模型的同时对大模型进行升级，提升了大模型的升级效率，也提升了用户的使用体验。

9、在一些实施方式中，应用于车机的大模型升级方法还包括：响应于通过车机中安装的大模型应用获得提示词，通过大模型应用的应用程序编程接口api将提示词输入至车机的大模型推理引擎。由于大模型和大模型应用不是长连接的关系，因此，通过大模型应用的api接口将大模型应用获得的提示词输入至大模型推理引擎，以使大模型推理引擎加载的大模型根据提示词进行推理，从而通过大模型应用的api接口实现了实时将用户输入的提示词输入至大模型推理引擎中，提升了大模型的推理效率。

10、在一些实施方式中，应用于车机的大模型升级方法还包括：响应于收到包括车机的升级指示信息的大模型升级指令，在升级指示信息指示的获取目标大模型的时刻，下载目标大模型并存储到大模型库中；其中，响应于获得确认升级原始大模型的第一指令，获取并运行目标大模型，包括：响应于收到第一指令，通过车机的大模型推理引擎从大模型库中获取并运行目标大模型。从而通过先将目标大模型存储到大模型库，并由大模型推理引擎从大模型库中获取并运行目标大模型，提升了目标大模型的获取效率。

11、在一些实施方式中，应用于车机的大模型升级方法还包括：在升级指示信息指示的升级原始大模型时刻，展示请求升级原始大模型的信息；基于对请求升级原始大模型的信息的确认指令，得到第一指令。从而在用户确认升级信息后才生成用于对原始大模型进行升级的指令信息，即可以由用户根据实际需求自行选择是否对原始大模型进行升级，进一步提升了用户的使用体验。

12、在一些实施方式中，应用于车机的大模型升级方法还包括：响应于确定出成功获得第一结果，通过车机的大模型推理引擎释放原始大模型。从而在目标大模型可以正常运行时，释放原始大模型在车机端所占用的资源，节约了车机端的存储资源。

1.一种应用于车机的大模型升级方法，包括：

2.根据权利要求1所述的方法，其中，所述在加载所述车机上的原始大模型基于提示词进行推理的过程中，响应于获得确认升级所述原始大模型的第一指令，获取并运行目标大模型，包括：

3.根据权利要求1或2所述的方法，其中，所述加载所述目标大模型基于所述提示词和所述中间结果继续进行推理，获得第一结果，包括：

4.根据权利要求1或2所述的方法，其中，所述方法还包括：

5.根据权利要求1或2所述的方法，其中，所述方法还包括：

6.根据权利要求5所述的方法，其中，所述方法还包括：

7.根据权利要求1或2所述的方法，其中，所述方法还包括：

8.一种大模型升级装置，应用于车机，包括：

9.一种电子设备，包括：

10.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。

11.一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现根据权利要求1-7中任一项所述方法的步骤。