通信方法及通信装置与流程
本申请涉及人工智能,具体地,涉及一种通信方法及通信装置。
背景技术:
1、随着人工智能(artificial intelligence,ai)技术的快速发展,ai模型的应用场景越来越广泛,例如,某些通信系统中可以引入ai模型,以实现网络智能化。
2、为了保护用户隐私和数据安全,在通信系统中可以通过分布式训练方法来训练ai模型。但是,现有的分布式训练方法的通信开销较大。
技术实现思路
1、本申请提供了一种通信方法及通信装置,能够降低通信开销。下面对本申请实施例涉及的各个方面进行介绍。
2、第一方面,提供了一种通信方法,所述方法应用于第一节点或第二节点,或者,第一节点或第二节点中的组件(例如处理器、芯片、芯片系统、电路或一个功能模块等),所述方法包括:
3、确定第一对偶变量的表征值,所述第一对偶变量的表征值用于表征第二模型与第一模型之间的差异,所述第二模型为第一节点对所述第一模型训练所得,所述第一对偶变量包括所述第一节点对所述第一模型进行训练得到所述第二模型所使用的对偶变量;在所述表征值大于或等于第一差异阈值的情况下,确定所述第一节点发送所述第二模型;和/或,在所述表征值小于或等于第二差异阈值的情况下,确定所述第一节点不发送所述第二模型。
4、在本申请实施例中,第一对偶变量的表征值用于表征第二模型与第一模型之间的差异,确定第一对偶变量的表征值,并根据该表征值确定第一节点发送第二模型,和/或,不发送第二模型,这样,可以实现对第二模型的监控,而不是在第一节点得到第二模型之后就必须发送第二模型,从而可以降低通信开销。
5、在一些可能的实现方式中,所述方法应用于第一节点,在所述表征值大于或等于所述第一差异阈值的情况下,所述方法还包括:发送所述第二模型。
6、在本申请实施例中,在表征值大于或等于差异阈值的情况下,第一节点发送第二模型,有助于第二节点基于第二模型更新模型,从而有助于提升模型训练的性能。
7、在一些可能的实现方式中,所述方法还包括:接收第一信息,所述第一信息用于指示所述第一差异阈值和/或所述第二差异阈值。
8、在本申请实施例中,第一信息用于指示第一差异阈值和/或第二差异阈值,接收第一信息,有助于根据第一差异阈值和/或第二差异阈值确定第一节点发送第二模型,和/或,不发送第二模型,从而有助于降低通信开销。
9、在一些可能的实现方式中,所述方法应用于第二节点,所述确定第一对偶变量的表征值,包括:接收第二信息,所述第二信息用于指示第一对偶变量的表征值。
10、在本申请实施例中,第二信息用于指示第一对偶变量的表征值,接收第二信息,有助于第二节点根据该表征值确定第一节点发送第二模型,和/或,不发送第二模型,从而有助于降低通信开销。
11、在一些可能的实现方式中,在所述表征值大于或等于所述第一差异阈值的情况下,所述方法还包括:发送第三信息,所述第三信息用于指示所述第一节点发送所述第二模型。
12、在本申请实施例中,第三信息用于指示第一节点发送第二模型,在表征值大于或等于第一差异阈值的情况下,发送第三信息,有助于第一节点在表征值大于或等于第一差异阈值的情况下上报第二模型,从而有助于提升模型训练的性能。
13、在一些可能的实现方式中,所述第一节点为多个第一节点中的一个,所述方法还包括:根据所述多个第一节点上报的表征值确定所述第一差异阈值和/或所述第二差异阈值。
14、在本申请实施例中,根据多个第一节点上报的表征值确定第一差异阈值和/或第二差异阈值,有助于对多个第一节点的模型上报进行控制,从而有助于提升模型训练的性能。
15、第二方面,提供了一种通信装置,包括:该装置可以用于第一节点或第二节点,该装置可以是第一节点或第二节点,也可以是第一节点或第二节点中的装置(例如,芯片,或者芯片系统,或者电路,或者处理器),或者可以是能够和第一节点或第二节点匹配使用的装置,还可以是能实现全部或部分第一节点或第二节点的逻辑模块或软件。
16、该装置包括执行第一方面或第一方面中任一种可能实现方式中所描述的方法/操作/步骤/动作所一一对应的模块,该模块可以是硬件电路,也可以是软件,也可以是硬件电路结合软件实现。
17、第三方面,提供了一种通信装置,包括:处理器和存储器,所述处理器与所述存储器耦合,所述存储器用于存储计算机程序(也可以称为代码,或指令),所述计算机程序被所述处理器执行时,使得所述装置执行第一方面或第一方面中任一种可能实现方式中的方法。
18、在一些可能的实现方式中,该装置还包括与处理器耦合的存储器。
19、在一些可能的实现方式中,处理器为一个或多个,和/或,存储器为一个或多个。
20、在一些可能的实现方式中,存储器可以与处理器集成在一起,或者存储器与处理器分离设置。
21、第四方面,提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序(也可以称为代码,或指令),当计算机程序在计算机上运行时,使得所述计算机执行上述任一方面或任一方面中任一种可能实现方式中的方法。
22、第五方面,提供了一种计算机程序产品,包括:计算机程序(也可以称为代码,或指令),当该计算机程序在计算机上运行时,使得所述计算机执行上述任一方面或任一方面中任一种可能实现方式中的方法。
23、第六方面,提供了一种芯片,包括:处理器和存储器,所述存储器用于存储计算机程序(也可以称为代码,或指令),所述处理器用于调用并运行所述存储器中存储的计算机程序,使得安装有所述芯片的装置或设备执行上述任一方面或任一方面中任一种可能实现方式中的方法。
1.一种通信方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述方法应用于第一节点,在所述表征值大于或等于所述第一差异阈值的情况下,所述方法还包括:
3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
4.根据权利要求1所述的方法,其特征在于,所述方法应用于第二节点,所述确定第一对偶变量的表征值,包括:
5.根据权利要求1或4所述的方法,其特征在于,在所述表征值大于或等于所述第一差异阈值的情况下,所述方法还包括:
6.根据权利要求1、4或5中任一项所述的方法,其特征在于,所述第一节点为多个第一节点中的一个,所述方法还包括:
7.一种通信装置,其特征在于,包括:用于执行如权利要求1至6中任一项所述的方法的模块或单元。
8.一种通信装置,其特征在于,包括:处理器和存储器,所述处理器与所述存储器耦合,所述存储器用于存储计算机程序,所述计算机程序被所述处理器执行时,使得所述装置执行如权利要求1至6中任一项所述的方法。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,当所述计算机程序在计算机上运行时,使得所述计算机执行如权利要求1至6中任一项所述的方法。
10.一种计算机程序产品,其特征在于,包括:计算机程序,当所述计算机程序在计算机上运行时,使得所述计算机执行如权利要求1至6中任一项所述的方法。
11.一种芯片,其特征在于,包括:处理器和存储器,所述存储器用于存储计算机程序,所述处理器用于调用并运行所述存储器中存储的计算机程序,使得安装有所述芯片的装置或设备执行如权利要求1至6中任一项所述的方法。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com