结合用户设备能力与网络条件的分布式人工智能服务拆分与切换决策机制的制作方法

本公开一般涉及无线通信，且更具体地，涉及结合用户设备能力和网络条件的分布式人工智能（ai）服务拆分与切换决策的技术。

背景技术：

1、本节中的陈述仅提供与本公开相关的背景信息，并且可能不构成现有技术。

2、无线通信系统被广泛部署以提供诸如电话、视频、数据、消息传递和广播等各种电信服务。典型的无线通信系统可以采用能够通过共享可用系统资源来支持与多个用户的通信的多址技术。此类多址技术的示例包括码分多址（code division multiple access,cdma）系统、时分多址（time division multiple access, tdma）系统、频分多址（frequency division multiple access, fdma）系统、正交频分多址（orthogonalfrequency division multiple access, ofdma）系统、单载波频分多址（systems,single-carrier frequency division multiple access, sc-fdma）系统以及时分同步码分多址（time division synchronous code division multiple access, td-scdma）系统。

3、这些多址技术已在各种电信标准中被采用，以提供使得不同无线设备能够在市政、国家、区域甚至全球级别上进行通信的通用协议。一个示例电信标准是5g新空口（nr）。5g nr是由第三代合作伙伴计划（3gpp）颁布的连续移动宽带演进的一部分，以满足与延迟、可靠性、安全性、可扩展性（例如，物联网（iot））相关的新的要求以及其他要求。5g nr的一些方面可以基于4g长期演进（lte）标准。在5g nr技术中存在对进一步改进的需求。这些改进也可以适用于其他多址技术以及采用这些技术的电信标准。

技术实现思路

1、以下内容以简化形式呈现一个或多个方面，以便提供对这些方面的基本理解。本摘要并非对所有设想方面的全面概述，亦无意识别所有方面的关键或重要要素，也不旨在界定任何或所有方面的范围。其唯一目的是以简化形式呈现一个或多个方面的某些概念，作为后续更详细描述的前奏。

2、在本公开的一个方面中，提供了一种方法、一种计算机可读介质以及一种装置。该装置可以为设备。该设备评估人工智能（ai）服务的处理需求、本地设备的资源、服务器的资源，以及该本地设备与该服务器之间的网络连接资源。该设备基于该评估结果以及用于分布式ai拆分和切换的一组决策准则，将该ai服务拆分为多个部分。该组决策准则包括隐私要求、实时响应需求以及质量-延迟权衡。该设备基于该评估结果和该组决策准则，在该本地设备与该服务器之间切换该ai服务的相应拆分部分。

3、为实现上述及相关目的，一个或多个方面包括下文详细描述并在权利要求中特别指出的特征。以下描述及附图详细阐述了一个或多个方面的某些示例性特征。然而，这些特征仅表明各种方面原理可应用的部分方式，本描述旨在涵盖所有此类方面及其等效方案。

1.一种设备的无线通信方法，包括：

2.如权利要求1所述的方法，其中该ai服务包括虚拟且个人助理混合现实服务或具有分布式生成式ai的协作ai个人网络（personal network,pn）服务，且其中该服务器包括为进行负载均衡、可靠性或性能优化而部署在多个站点或网络中的服务集群。

3.如权利要求2所述的方法，其中切换该ai服务的相应拆分部分包括：在该本地设备上的pn中独立运行该ai服务、在该本地设备上的该pn与边缘云中的该服务器中运行该ai服务、通过信息共享在该本地设备上的该pn与另一用户设备上的pn中运行该ai服务、或通过知识同步在该本地设备上的该pn与家庭客户驻地设备（customer premises equipment,cpe）中的该服务器中运行该ai服务。

4.如权利要求1所述的方法，其中该服务器包括一个或多个服务模型以及一个或多个服务引擎，且其中该一个或多个服务模型和该一个或多个服务引擎部署在不同位置。

5.如权利要求1所述的方法，其中该本地设备和该服务器均包括具有不同专长的多个ai模型。

6.如权利要求5所述的方法，其中该具有不同专长的多个ai模型包括语言模型、视觉模型、语音识别模型或异常检测模型，且其中每个类别中的该多个ai模型在参数数量上有所不同。

7.如权利要求1所述的方法，其中该组决策准则进一步包括：

8.如权利要求1所述的方法，其中切换该ai服务的相应拆分部分包括：

9.如权利要求8所述的方法，其中响应于该用户提示涉及个人或隐私信息，使用检索增强生成（rag）框架从本地向量数据库中检索相关信息，在该本地设备内生成响应。

10.如权利要求1所述的方法，进一步包括：

11.如权利要求10所述的方法，进一步包括：

12.如权利要求11所述的方法，进一步包括：

13.如权利要求12所述的方法，其中选择该本地服务引擎或该服务器服务引擎包括：基于该本地设备与该服务器之间的推理时间差异和准确度差异的加权组合，计算切换分数，其中权重参数确定响应时间与准确度之间的相对重要性。

14.如权利要求13所述的方法，其中该切换分数结合了电池消耗估计，且其中本地电池消耗被估计为本地计算能力的函数，远程电池消耗被估计为响应数据大小、信道速率或数据速率、往返时间以及传输协议的函数。

15.如权利要求1所述的方法，进一步包括：

16.如权利要求1所述的方法，进一步包括：

17.如权利要求16所述的方法，其中该网络分析包括分析在该本地设备与运行该ai服务的该服务器之间的吞吐性能和网络延迟性能。

18.如权利要求17所述的方法，其中该吞吐性能和该网络延迟性能是使用主动方法测量的，其中该主动方法是通过在该本地设备与该服务器之间使用专用流量探测模块来估计该吞吐性能和该网络延迟性能而执行的。

19.如权利要求17所述的方法，其中该吞吐性能和该网络延迟性能是使用被动方法测量的，其中该被动方法是通过使用现有消息传递在不产生额外流量的情况下测量该吞吐性能和该网络延迟性能而执行的。

20.如权利要求17所述的方法，其中该吞吐性能和该网络延迟性能是使用结合了主动方法和被动方法的混合方法测量的，其中该混合方法基于网络通信使用情况动态调整该主动方法与该被动方法之间的混合策略。

21.一种用于无线通信的装置，包括：

22.一种存储用于设备的无线通信的计算机可执行代码的计算机可读介质，包括代码用于：