无线通信中的模型推理时间和状态确定的制作方法

摘要: 本申请一般涉及无线通信中的模型推理时间和状态确定。背景技术:1、在一些无线通信系统中,基站和/或用户设备可以利用人工智能(ai)和/或机器学习(ml)来提高性能...
无线通信中的模型推理时间和状态确定的制作方法

本申请一般涉及无线通信中的模型推理时间和状态确定。

背景技术:

1、在一些无线通信系统中,基站和/或用户设备可以利用人工智能(ai)和/或机器学习(ml)来提高性能。例如,无线通信系统可以采用一个或多个ai/ml模型来执行一个或多个功能或操作。然而,使用ai/ml模型执行操作会消耗计算能力。在各种情况下,设备在给定时间点使用模型执行功能的计算能力可能不足。因此,在无线通信系统中协调计算能力的方法可能是可取的。

技术实现思路

1、本申请涉及用于无线通信的方法、系统、装置和设备。在一些实施方式中,一种无线通信方法包括:由用户设备向基站传送m个模型的标称推理时间,其中,m是2或更大的整数;由用户设备从基站激活的m个模型中接收模型子集的指示,其中,子集包括基站激活的n个模型,其中,n是1或更大的整数,并且n小于m;由用户设备基于被激活的模型子集和标称推理时间来确定子集的实际推理时间。

2、在一些其他实施方式中,一种无线通信方法包括:由基站从用户设备接收m个模型的标称推理时间,其中,m是2或更大的整数;由基站从m个模型中激活模型子集,其中,该子集包括由基站激活的n个模型,其中,n是1或更大的整数,并且n小于m;以及由基站向用户设备传送被激活的模型子集的指示。

3、在一些其他实施方式中,一种无线通信方法包括:由用户设备确定模型的多个状态中的一个状态;以及由用户设备根据该状态确定是否执行与模型相关联的至少一个操作,其中,至少一个操作包括以下至少一项:模型推理或模型监测。

4、在一些其他实施方式中,公开了一种设备,诸如网络设备。该设备可以包括一个或多个处理器和一个或多个存储器,其中,一个或多个处理器被配置为从一个或多个存储器读取计算机代码,以实现上述方法中的任何一种。

5、在又一些其他实施方式中,公开了一种计算机程序产品。该计算机程序产品可以包括非暂时性计算机可读程序介质,其上存储有计算机代码,当由一个或多个处理器执行时,该计算机代码使一个或多个处理器实现上述方法中的任何一种。

6、在附图、说明书和权利要求书中更详细地描述了上述方面和其他方面及其实施方式。

1.一种无线通信方法,所述方法包括:

2.一种无线通信方法,所述方法包括:

3.根据权利要求1所述的方法,其中,所述实际推理时间基于所述标称推理时间和由所述基站激活的子集的n个模型来确定。

4.根据权利要求1所述的方法,其中,所述实际推理时间基于所述标称推理时间、由所述基站激活的子集的n个模型和附加时间单元来确定。

5.根据权利要求4所述的方法,其中,所述实际推理时间包括第i个模型的第i个实际推理时间,其中,第i个实际推理时间根据以下公式来确定:

6.根据权利要求1所述的方法,其中,所述实际推理时间基于所述标称推理时间、所述子集的模型数量、所述用户设备的总人工智能处理单元(apu)以及所述子集的每个模型的apu需求来确定。

7.根据权利要求6所述的方法,其中,所述实际推理时间包括第i个模型的第i个实际推理时间,并且第i个实际推理时间根据以下公式确定:

8.根据权利要求6所述的方法,其中,所述用户设备的总apu和第i个模型的apu需求由所述用户设备报告、由所述基站指示或预定义。

9.根据权利要求1所述的方法,其中,所述实际推理时间基于所述标称推理时间、所述基站激活的n个模型以及标称激活模型数量来确定。

10.根据权利要求9所述的方法,其中,所述实际推理时间还基于附加时间单元来确定。

11.根据权利要求10所述的方法,其中,所述实际推理时间包括第i个模型的第i个实际推理时间,其中,第i个实际推理时间根据以下公式来确定:

12.根据权利要求1所述的方法,其中,所述实际推理时间基于所述标称推理时间和层数来确定。

13.根据权利要求12所述的方法,其中,所述实际推理时间包括第i个模型的第i个实际推理时间,其中,第i个实际推理时间根据以下公式来确定:

14.根据权利要求12所述的方法,其中,所述实际推理时间还基于最大层数来确定。

15.根据权利要求14所述的方法,其中,所述实际推理时间包括第i个模型的第i个实际推理时间,其中,第i个实际推理时间根据以下公式来确定:

16.根据权利要求1所述的方法,其中,所述实际推理时间基于所述标称推理时间和模型输入的时间实例数量来确定。

17.根据权利要求16所述的方法,其中,所述实际推理时间包括第i个模型的第i个实际推理时间,其中,第i个实际推理时间根据以下公式来确定:

18.根据权利要求16所述的方法,其中,所述实际推理时间还基于模型输入的最大时间实例数量来确定。

19.根据权利要求18所述的方法,其中,所述实际推理时间包括第i个模型的第i个实际推理时间,其中,第i个实际推理时间根据以下公式来确定:

20.根据权利要求1所述的方法,还包括:

21.根据权利要求2所述的方法,还包括:

22.根据权利要求20或21所述的方法,其中,所述实际推理时间在有效持续时间内有效,其中,所述有效持续时间由所述用户设备指示或由所述基站配置。

23.根据权利要求20或21所述的方法,其中,所述命令还指示所述模型子集的预期推理时间。

24.根据权利要求23所述的方法,还包括:

25.根据权利要求23所述的方法,还包括:

26.根据权利要求20所述的方法,其中,所述用户设备根据由所述基站指示的报告周期发送所述子集的实际推理时间的报告。

27.根据权利要求21所述的方法,其中,所述基站向所述用户设备指示报告周期,所述用户设备将根据所述报告周期报告所述实际推理时间。

28.根据权利要求26或27中任一项所述的方法,其中,所述报告周期等于所述实际推理时间有效的有效持续时间tvalid。

29.根据权利要求28所述的方法,还包括:

30.根据权利要求28所述的方法,还包括:

31.一种无线通信方法,所述方法包括:

32.根据权利要求31所述的方法,其中,所述多个状态包括:

33.根据权利要求31所述的方法,还包括:

34.根据权利要求33所述的方法,其中,所述用户设备从所述基站接收所述模型模式。

35.根据权利要求33或34中任一项所述的方法,其中,所述活动持续时间从每个模式周期的起点或从相对于每个模式周期的起点的偏移开始。

36.根据权利要求33或34中任一项所述的方法,其中,所述模型在所述活动持续时间内处于激活状态,并且所述模型在非活动持续时间内处于非活动状态。

37.根据权利要求31所述的方法,其中,由所述基站配置的定时器控制所述模型,其中,所述用户设备响应于满足定时器重启条件而重启所述定时器。

38.根据权利要求37所述的方法,其中,所述定时器重启条件包括以下至少一项:

39.根据权利要求37所述的方法,响应于在单个时间单位内不满足所述定时器重启条件,所述用户设备在所述单个时间单位结束时递减所述定时器,其中,所述单个时间单位包括:一帧、一个子帧、一个时隙、一个子时隙、一秒、一毫秒或一个周期。

40.根据权利要求37所述的方法,其中,当所述定时器到期时,所述用户设备将所述模型切换到非活动状态。

41.根据权利要求31所述的方法,其中,所述用户设备向所述基站指示第一组一个或多个模型和第二组一个或多个模型。

42.根据权利要求41所述的方法,其中,所述第一组在所述用户设备处可用,并且所述第二组在所述用户设备的服务器处可用。

43.根据权利要求41所述的方法,其中,所述第一组需要第一时间延迟,以便所述用户设备激活所述第一组的一个或多个模型,所述第二组需要所述第一时间延迟加上第二时间延迟,以便所述用户设备激活所述第二组的一个或多个模型,其中,所述第一时间延迟用于所述用户设备为模型激活做准备,所述第二时间延迟用于所述用户设备下载所述第二组的一个或多个模型。

44.根据权利要求31所述的方法,其中,所述用户设备从所述基站接收第一组一个或多个模型和第二组一个或多个模型的指示,其中,满足以下至少一项:

45.一种无线通信装置,包括至少一个处理器和存储器,其中,所述至少一个处理器被配置为使所述装置执行权利要求1至44中任一项所述的方法。

46.一种计算机程序产品,包括计算机可读程序介质,所述计算机可读程序介质包括存储在其上的代码,所述代码在由处理器执行时,使所述处理器实现权利要求1至44中任一项所述的方法。