通信方法及通信装置与流程
本技术涉及通信领域,尤其涉及通信方法及通信装置。
背景技术:
1、无线通信系统中,可以通过联邦学习(federated learning,fl)技术获得机器学习(machine learning,ml)模型。
2、通过fl技术训练机器学习模型的方法如下:服务器负责发现和选择参与训练的客户端,并请求客户端进行本地模型训练以及报告训练所得的本地模型信息;客户端向服务器上报客户端训练所得的本地模型信息之后,通过聚合这些本地模型信息得到全局模型,并将全局模型发送给客户端。如有需要,则重复前述训练过程。
3、但是fl技术目前存在如何技术问题:如何兼顾网络资源和训练所得的机器学习模型的性能,即避免网络资源浪费的情况下训练得到性能较好的机器学习模型,或者说,有效利用网络资源得到性能满足需求的机器学习模型。
技术实现思路
1、本技术提供的通信方法及通信装置,同时兼顾网络资源和训练所得的机器学习模型的性能,有助于在避免网络资源浪费的情况下训练得到性能较好的机器学习模型,或者说,有助于有效利用的网络资源得到性能满足需求的机器学习模型。
2、第一方面,本技术提供一种通信方法,本方法可以由第一装置执行,该第一装置可以是通信设备,或者可为通信设备内的装置(例如,模块、通信模组、负责通信功能的电路或芯片(如modem芯片,又称基带(baseband)芯片,或包含modem核的片上系统(system onchip,soc)芯片或系统级封装(systemin package,sip)芯片)、芯片系统或处理器),或者可为能实现全部或部分通信设备功能的逻辑节点、逻辑模块或软件。作为示例,该通信设备为接入网设备或终端。
3、本方法包括:接收第一模型;发送第一信息,第一信息包括第一装置的本地数据集对第一模型的贡献价值;接收第二信息,第二信息指示第一装置是否适合用于对第一模型进行训练。
4、本方法中,第一装置发送第一信息,指示第一装置的本地数据集对第一模型的贡献价值,有助于对端基于该贡献价值确定第一装置是否适合用于对第一模型训练,从而有助于对端能够选择出贡献价值高的装置来对第一模型训练以保障训练所得模型的性能,同时可以避免贡献价值低的装置对第一模型进行训练,最终实现了有效利用网络资源得到性能满足需求的机器学习模型。
5、在一些可能的实现方式中,第一装置的本地数据集对第一模型的贡献价值,包括:第一模型在第一装置的本地数据集上的损失值。
6、该实现方式中,通过第一模型在第一装置的本地数据集上的损失值来表征第一装置的本地数据集对第一模型的贡献价值。一方面可以保证第一装置的本地数据集对第一模型的贡献价值的准确性。另一方面,可以利用现有获取模型在数据集上的损失值的方式来获取第一装置的本地数据集对第一模型的贡献价值,从而可以降低获取第一装置的本地数据集对第一模型的贡献价值的复杂度。
7、在一些可能的实现方式中,第一信息还包括第一装置的资源情况,第一装置的资源情况包括第一装置的已使用资源情况和/或第一装置的剩余资源情况。
8、该实现方式中,第一装置指示自己的资源情况,有助于对端可以基于第一装置的资源情况确定第一装置是否适合用于对第一模型进行训练,从而有助于对端可以选择资源情况合适的装置来对第一模型进行训练,例如,可以避免对端选择资源不足的装置来训练第一模型影响训练所得模型的性能或者影响模型的训练效率,又如,可以便于对端选择资源更优的装置来训练第一模型以保障模型性能和训练效率,最终有助于提高模型的性能和训练效率。
9、在一些可能的实现方式中,所述方法还包括:第一装置的剩余资源情况适合用于对第一模型进行训练。
10、或者说,第一装置在第一装置的剩余资源情况适合用于对第一模型进行训练的情况下,第一装置才发送第一信息。
11、因为第一装置的剩余资源情况如果不适合用于对第一模型进行训练,则第一装置发送第一信息可能是无效传输,从而浪费了传输资源;对端若基于第一信息选择第一装置训练第一模型会影响模型性能和训练效率,浪费网络资源。因此,第一装置在第一装置的剩余资源情况适合用于对第一模型进行训练的情况下,第一装置才发送第一信息,有助于避免资源浪费,保障第一模型的性能和训练效率。
12、第二方面,本技术提供了一种通信方法,本方法可以由第二装置执行,该第二装置可以是通信设备,或者可为通信设备内的装置(例如,模块、通信模组、负责通信功能的电路或芯片、芯片系统或处理器),或者可为能实现全部或部分通信设备功能的逻辑节点、逻辑模块或软件。作为示例,该通信设备为核心网网元或接入网设备。
13、本方法包括:发送第一模型;接收第一信息,第一信息包括第一装置的本地数据集对第一模型的贡献价值;发送第二信息,第二信息指示第一装置是否适合用于对第一模型进行训练,第二信息是基于第一信息确定的。
14、该实现方式中,第二装置基于第一装置的本地数据集对第一模型的贡献价值确定第一装置是否适合用于对第一模型训练,有助于第二装置选择出贡献价值高的装置来对第一模型训练以保障训练所得模型的性能,同时可以避免贡献价值低的装置对第一模型进行训练,最终实现了有效利用网络资源得到性能满足需求的机器学习模型。
15、在一些可能的实现方式中,第一装置的本地数据集对第一模型的贡献价值,包括:第一模型在第一装置的本地数据集上的损失值。
16、该实现方式中,通过第一模型在第一装置的本地数据集上的损失值来表征第一装置的本地数据集对第一模型的贡献价值。一方面可以保证第一装置的本地数据集对第一模型的贡献价值的准确性。另一方面,可以利用现有获取模型在数据集上的损失值的方式来获取第一装置的本地数据集对第一模型的贡献价值,从而可以降低获取第一装置的本地数据集对第一模型的贡献价值的复杂度。
17、在一些可能的实现方式中,第一信息,还包括:第一装置的资源情况,第一装置的资源情况包括第一装置的已使用资源情况和/或第一装置的剩余资源情况。
18、该实现方式中,第二装置可以基于第一装置的资源情况确定第一装置是否适合用于对第一模型进行训练,从而有助于第二装置可以选择资源情况合适的装置来对第一模型进行训练,例如,可以避免第二装置选择资源不足的装置来训练第一模型影响训练所得模型的性能或者影响模型的训练效率,又如,有助于第二装置选择资源更优的装置来训练第一模型以保障模型性能和训练效率,最终有助于提高模型的性能和训练效率。
19、在一些可能的实现方式中,根据第一信息发送第二信息,包括:根据第一信息和第三信息发送第二信息,其中,第三信息包括:第一装置最新上报的模型与多个装置中每个装置最新上报的模型之间的相似性,和/或,第t轮训练在n轮训练中的权重,其中,第二信息用于指示第一装置是否适合用于在第t轮训练中对所述第一模型进行训练,n为大于1的正整数,t为小于或等于n的正整数。
20、可选地,t越大,第t轮训练在n轮训练中的权重越大。其中第t轮训练可以理解为当前需要进行训练的轮次。
21、该实现方式中,除了基于第一装置上的本地数据集对第一模型的贡献价值,还基于第一装置在这n轮训练中最近一轮训练并上传的模型与其他装置在这n轮训练中最近一轮训练并上传的模型之间的相似性,有助于避免选择对模型贡献价值相似的装置来训练模型,从而有助于避免资源浪费。
22、该实现方式中,还基于第t轮训练在这n轮训练中的重要程度,来选择适合在第t轮中用于训练模型的装置。这样,有助于选择更多合适的装置来参与第一模型的训练,从而有助于提高训练结果的性能。
23、第三方面,本技术提供了一种通信装置。本装置可以是通信设备,或者可为通信设备内的装置(例如,模块、通信模组、负责通信功能的电路或芯片(如modem芯片,又称基带(baseband)芯片,或包含modem核的soc芯片或sip芯片)、芯片系统或处理器),或者可为能实现全部或部分通信设备功能的逻辑节点、逻辑模块或软件。作为示例,该通信设备为接入网设备或终端。
24、本方法包括:接收第一模型;发送第一信息,第一信息包括第一装置的本地数据集对第一模型的贡献价值;接收第四信息,第四信息包括使用第一装置对第一模型进行训练的评分;确定第五信息,第五信息包括第一装置是否适合用于对第一模型进行训练,第五信息是基于第四信息确定的。
25、本方法中,第一装置上报本地数据集对第一模型的贡献价值,以便于对端基于该贡献价值确定第一装置用于对第一模型进行训练这一操作的评分;并且对端得到该评分之后,告知第一装置该评分,由第一装置基于该评分来判断第一装置是否适合用于对第一模型进行训练。
26、在一些可能的实现方式中,第一装置的本地数据集对第一模型的贡献价值,包括:第一模型在第一装置的本地数据集上的损失值。
27、在一些可能的实现方式中,第一信息还包括第一装置的资源情况,第一装置的资源情况包括第一装置的已使用资源情况和/或第一装置的剩余资源情况。
28、在一些可能的实现方式中,第一装置的剩余资源情况适合用于对第一模型进行训练。
29、在一些可能的实现方式中,本方法还包括:发送第五信息。该实现方式中,第一装置确定第一装置是否适合用于对第一模型进行训练之后,向对端指示该结果,以便于对端获知该结果。
30、在一些可能的实现方式中,第五信息包括:第一装置是否适合用于在n轮训练中的第t轮训练中对第一模型进行训练,t为小于或等于n的正整数,n为大于1的正整数;其中,第五信息是基于第四信息确定的,包括:第五信息是基于第四信息和评分阈值确定的,其中,t越大,评分阈值越小。
31、该实现方式中,这n轮训练中每轮训练有对应的评分阈值,轮次越靠后,对应的评分阈值越低,这有助于在越靠后的轮次中能够选择到数量足够的装置参与第一模型的训练,从而可以保障训练结果的性能。
32、在一些可能的实现方式中,本方法还包括:接收第六信息,第六信息用于确定评分阈值。也就是说,每一轮次的评分阈值由对端指示,这样有助于对端能够基于需求灵活指示评分阈值,进而得到满足需要的训练结果。
33、第三方面中的通信方法的一些技术效果可以参考第一方面中的通信方法的技术效果,此处不再赘述。
34、第四方面,本技术提供了一种通信方法,本方法可以由第二装置执行,该第二装置可以是通信设备,或者可为通信设备内的装置(例如,模块、通信模组、负责通信功能的电路或芯片、芯片系统或处理器),或者可为能实现全部或部分通信设备功能的逻辑节点、逻辑模块或软件。作为示例,该通信设备为核心网网元或接入网设备。
35、本方法包括:发送第一模型;接收第一信息,第一信息包括第一装置的本地数据集对第一模型的贡献价值;发送第四信息,第四信息包括使用第一装置对第一模型进行训练的评分,第四信息是基于第一信息确定的。
36、在一些可能的实现方式中,第一装置的本地数据集对第一模型的贡献价值,包括:第一模型在第一装置的本地数据集上的损失值。
37、在一些实现方式中,第一信息还包括:第一装置的资源情况,第一装置的资源情况包括第一装置的已使用资源情况和/或第一装置的剩余资源情况。
38、在一些可能的实现方式中,所述方法还包括:接收第五信息,第五信息指示第一装置是否适合用于对第一模型进行训练。
39、在一些可能的实现方式中,第四信息是基于第一信息确定的,还包括:第四信息是基于第一信息和第一装置最新上报的模型与多个装置中每个装置最新上报的模型之间的相似性。
40、在一些可能的实现方式中,所述方法还包括:发送第六信息,第六信息用于确定评分阈值,评分阈值用于确定第一装置是否适合用于对第一模型进行训练,或者说,评分阈值用于确定第五信息。
41、在一些可能的实现方式中,所述方法还包括:评分阈值用于确定第一装置是否适合用于在n轮训练中的第t轮训练中对第一模型进行训练,t为小于或等于n的正整数,n为大于1的正整数,其中,t越大,评分阈值越小。
42、第四方面中的通信方法的一些技术效果可以参考第三方面中的通信方法的技术效果,此处不再赘述。
43、第五方面,本技术提供了一种通信装置。本装置可以是通信设备,或者可为通信设备内的装置(例如,模块、通信模组、负责通信功能的电路或芯片(如modem芯片,又称基带(baseband)芯片,或包含modem核的soc芯片或sip芯片)、芯片系统或处理器),或者可为能实现全部或部分通信设备功能的逻辑节点、逻辑模块或软件。作为示例,该通信设备为接入网设备或终端。
44、本装置可以包括执行第一方面或其中任一可能实现方式所描述的方法/操作/步骤/动作所一一对应的模块,该模块可以是硬件电路,也可是软件,也可以是硬件电路结合软件实现。
45、一种设计中,本装置可以包括处理模块;进一步地,还可以包括通信模块。其中,通信模块用于执行如上第一方面或其中任一可能的实现方式所描述方法中的发送动作和接收动作,处理模块则用于执行如上第一方面或其中任一可能的实现方式所描述方法中涉及处理的动作。
46、第六方面,本技术提供了一种通信装置。本装置可以是通信设备,或者可为通信设备内的装置(例如,模块、通信模组、负责通信功能的电路或芯片、芯片系统或处理器),或者可为能实现全部或部分通信设备功能的逻辑节点、逻辑模块或软件。作为示例,该通信设备为核心网网元或接入网设备。
47、本装置可以包括执行第二方面或其中任一可能实现方式所描述的方法/操作/步骤/动作所一一对应的模块,该模块可以是硬件电路,也可是软件,也可以是硬件电路结合软件实现。
48、一种设计中,本装置可以包括处理模块和通信模块。其中,通信模块用于执行如上第二方面或其中任一可能的实现方式所描述方法中的发送动作和接收动作,处理模块则用于执行如上第二方面或其中任一可能的实现方式所描述方法中涉及处理的动作。
49、第七方面,本技术提供了一种通信装置。本装置可以是通信设备,或者可为通信设备内的装置(例如,模块、通信模组、负责通信功能的电路或芯片(如modem芯片,又称基带(baseband)芯片,或包含modem核的soc芯片或sip芯片)、芯片系统或处理器),或者可为能实现全部或部分通信设备功能的逻辑节点、逻辑模块或软件。作为示例,该通信设备为接入网设备或终端。
50、本装置可以包括执行第三方面或其中任一可能实现方式所描述的方法/操作/步骤/动作所一一对应的模块,该模块可以是硬件电路,也可是软件,也可以是硬件电路结合软件实现。
51、一种设计中,本装置可以包括处理模块;进一步地,还可以包括通信模块。其中,通信模块用于执行如上第三方面或其中任一可能的实现方式所描述方法中的发送动作和接收动作,处理模块则用于执行如上第三方面或其中任一可能的实现方式所描述方法中涉及处理的动作。
52、第八方面,本技术提供了一种通信装置。本装置可以是通信设备,或者可为通信设备内的装置(例如,模块、通信模组、负责通信功能的电路或芯片、芯片系统或处理器),或者可为能实现全部或部分通信设备功能的逻辑节点、逻辑模块或软件。作为示例,该通信设备为核心网网元或接入网设备。
53、本装置可以包括执行第四方面或其中任一可能实现方式所描述的方法/操作/步骤/动作所一一对应的模块,该模块可以是硬件电路,也可是软件,也可以是硬件电路结合软件实现。
54、一种设计中,本装置可以包括处理模块和通信模块。其中,通信模块用于执行如上第四方面或其中任一可能的实现方式所描述方法中的发送动作和接收动作,处理模块则用于执行如上第四方面或其中任一可能的实现方式所描述方法中涉及处理的动作。
55、第九方面,本技术提供一种通信装置,包括处理器,指令被处理器运行时,使得如第一方面或其中任一可能的实现方式中的方法被实现。
56、可选地,本装置还可以包括存储介质,该存储介质存储处理器执行前述指令。
57、在一些实现方式中,存储介质与处理器集成在一起,例如存储介质集成在处理器中。
58、第十方面,本技术提供一种通信装置,包括处理器,指令被处理器运行时,使得如第二方面或其中任一可能的实现方式中的方法被实现。
59、可选地,本装置还可以包括存储介质,该存储介质存储处理器执行前述指令。
60、在一些实现方式中,存储介质与处理器集成在一起,例如存储介质集成在处理器中。
61、第十一方面,本技术提供一种通信装置,包括处理器,指令被处理器运行时,使得如第三方面或其中任一可能的实现方式中的方法被实现。
62、可选地,本装置还可以包括存储介质,该存储介质存储处理器执行前述指令。
63、在一些实现方式中,存储介质与处理器集成在一起,例如存储介质集成在处理器中。
64、第十二方面,本技术提供一种通信装置,包括处理器,指令被处理器运行时,使得如第四方面或其中任一可能的实现方式中的方法被实现。
65、可选地,本装置还可以包括存储介质,该存储介质存储处理器执行前述指令。
66、在一些实现方式中,存储介质与处理器集成在一起,例如存储介质集成在处理器中。
67、第十三方面,本技术提供一种芯片,包括处理电路,所述处理电路用于运行程序或指令,以使得如第一方面或其中任一可能的实现方式中的方法被实现。
68、可选地,所述芯片还可以包括存储器,所述存储器用于存储程序或指令。
69、可选地,所述芯片还可以包括所述收发电路,或,输入输出接口。
70、第十四方面,本技术提供一种芯片,包括处理电路,所述处理电路用于运行程序或指令,以使得如第二方面或其中任一可能的实现方式中的方法被实现。
71、可选地,所述芯片还可以包括存储器,所述存储器用于存储程序或指令。
72、可选地,所述芯片还可以包括所述收发电路,或,输入输出接口。
73、第十五方面,本技术提供一种芯片,包括处理电路,所述处理电路用于运行程序或指令,以使得如第三方面或其中任一可能的实现方式中的方法被实现。
74、可选地,所述芯片还可以包括存储器,所述存储器用于存储程序或指令。
75、可选地,所述芯片还可以包括所述收发电路,或,输入输出接口。
76、第十六方面,本技术提供一种芯片,包括处理电路,所述处理电路用于运行程序或指令,以使得如第四方面或其中任一可能的实现方式中的方法被实现。
77、可选地,所述芯片还可以包括存储器,所述存储器用于存储程序或指令。
78、可选地,所述芯片还可以包括所述收发电路,或,输入输出接口。
79、第十七方面,本技术提供一种计算机可读存储介质,所述计算机可读存储介质包括指令,当该指令被处理器运行时,使得如第一方面或其中任一可能的实现方式中的方法被实现。
80、第十八方面,本技术提供一种计算机可读存储介质,所述计算机可读存储介质包括指令,当该指令被处理器运行时,使得如第二方面或其中任一可能的实现方式中的方法被实现。
81、第十九方面,本技术提供一种计算机可读存储介质,所述计算机可读存储介质包括指令,当该指令被处理器运行时,使得如第三方面或其中任一可能的实现方式中的方法被实现。
82、第二十方面,本技术提供一种计算机可读存储介质,所述计算机可读存储介质包括指令,当该指令被处理器运行时,使得如第四方面或其中任一可能的实现方式中的方法被实现。
83、第二十一方面,本技术提供一种计算机程序产品,所述计算机程序产品包括计算机程序代码或指令,当所述计算机程序代码或指令被运行时,使得如第一方面或其中任一可能的实现方式中的方法被实现。
84、第二十二方面,本技术提供一种计算机程序产品,所述计算机程序产品包括计算机程序代码或指令,当所述计算机程序代码或指令被运行时,使得如第二方面或其中任一可能的实现方式中的方法被实现。
85、第二十三方面,本技术提供一种计算机程序产品,所述计算机程序产品包括计算机程序代码或指令,当所述计算机程序代码或指令被运行时,使得如第三方面或其中任一可能的实现方式中的方法被实现。
86、第二十四方面,本技术提供一种计算机程序产品,所述计算机程序产品包括计算机程序代码或指令,当所述计算机程序代码或指令被运行时,使得如第四方面或其中任一可能的实现方式中的方法被实现。
87、第二十五方面,本技术提供一种通信系统,所述通信系统用于执行如上第一方面或其中任一可能的实现方式所描述的方法和如上第二方面或其中对应的实现方式所描述的方法;或者,用于执行如上第三方面或其中对应的实现方式所描述的方法和如上第四方面或其中对应的实现方式所描述的方法。
88、可以理解,第五方面至第二十五方面中任意一方面中的技术效果可以参考对应方法方面中的技术效果,此处不再赘述。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com