模型训练方法及装置与流程

本技术涉及通信，特别涉及一种模型训练方法及装置。

背景技术：

1、在模型训练部署中，可以基于去中心化学习，如通过多个通信装置本地训练模型参数并相互之间的交换训练好的模型参数进行聚合，从而实现模型的协同训练，提高模型训练效率。

2、而在上述方法中，由于模型的训练过程中需要多次进行迭代，通信装置之间需要迭代传输大量的模型参数，导致通信装置之间的通信开销较大。

技术实现思路

1、本技术提供一种模型训练方法及装置，能够降低模型训练过程中通信装置之间的通信开销。

2、为达到上述目的，本技术采用如下技术方案：

3、第一方面，本技术提供一种模型训练方法，该方法可以由通信系统包括的多个通信装置中的任一通信装置执行，也可以由任一通信装置的组成部件(如电路、芯片、芯片系统或处理器)执行，还可以由能实现全部或部分通信装置功能的逻辑节点、逻辑模块或软件执行，该通信系统中的多个通信装置均部署有相同的目标模型。

4、该方法包括：

5、确定目标模型对应的第一掩码，基于第一掩码和第二掩码，确定训练后的目标模型。

6、该第一掩码用于指示目标模型包括的至少一个模型参数中的每个模型参数是否保留，第二掩码为通信系统中的其他通信装置确定的掩码，用于指示其他通信装置确定的目标模型中的每个模型参数是否保留。

7、基于上述技术方案，通信装置之间通过确定并传输掩码来指示确定的目标模型中模型参数的保留概率，这样，在模型训练过程中，通过将对模型参数的调整优化调整为对掩码的调整优化，即将对模型参数的协同训练调整为对掩码的协同训练。由于相较于传输常规的模型参数，掩码的数据量较小，因此可以降低模型训练过程中的通信开销。

8、在一些实现方式中，第一掩码的取值范围可以为0或1，可以确定目标模型对应的第三掩码，基于样本数据调整该第三掩码，并基于调整后的第三掩码确定该第一掩码。

9、该第三掩码可以用于指示目标模型中每个模型参数的保留概率。

10、可选地，可以基于样本数据，确定第三掩码对应的损失函数，基于第三掩码对应的损失函数调整第三掩码，从而得到调整后的第三掩码。

11、第三掩码对应的损失函数用于指示基于第三掩码调整后的目标模型的损失。

12、可选地，基于掩码调整目标模型可以是指：基于掩码所指示的模型参数的保留概率，对目标模型进行剪枝。

13、基于上述实现方式，通过第三掩码对应的损失函数来调整第三掩码，以通过评估掩码的调整对目标模型的损失影响来调整第三掩码，进而基于调整后的第三掩码来确定第一掩码。这样，将对目标模型的模型参数的训练调整为对掩码指示的模型参数的保留概率的训练，以确保通信装置之间传输的掩码可以准确反应各自的模型训练结果，保证模型协同训练的准确性。

14、在一些实施例中，第三掩码的取值范围为0至1，可以确定第三掩码对应的二值掩码，基于该二值掩码对目标模型行剪枝得到参考模型，以基于样本数据和参考模型确定第三掩码对应的损失函数。该二值掩码包括0和/或1。

15、在另一些实施例中，第三掩码的取值范围为实数，可以基于第一关系确定第三掩码对应的概率掩码，并确定概率掩码对应的二值掩码，基于该二值掩码对目标模型行剪枝得到参考模型，并基于样本数据和该参考模型，确定第三掩码对应的损失函数。该二值掩码包括0和/或1。

16、上述实现方式中，通过样本数据以及第三掩码，确定出第三掩码对应的损失函数，以基于该损失函数对第三掩码进行调整，如通过对第三掩码进行调整使得损失函数收敛，以确保对第三掩码调整的准确性，从而提升确定的第一掩码的准确性，提高目标模型训练的准确性。

17、在一些实现方式中，通信装置还可以发送调整后的第三掩码或第一掩码，以使得其他的通信装置可以基于该第三掩码或第一掩码协同训练得到最终用于对目标模型进行调整的目标掩码，从而确保通信系统中的所有通信装置均可实现对目标模型的调整，以确定新联后的目标模型。

18、在一些实现方式中，可以基于第一掩码和第二掩码，确定目标掩码，并基于该目标掩码对目标模型剪枝，得到训练后的目标模型。

19、可选地，第一掩码包括至少一个第一指示信息，不同的第一指示信息用于指示目标模型中的不同模型参数是否保留，第二掩码包括至少一个第二指示信息，不同的第二指示信息用于指示目标模型中的不同模型参数是否保留。可以基于第二掩码，确定第一掩码对应的交集掩码，并基于该交集掩码确定目标掩码。该交集掩码包括第一掩码的指示信息中与第二掩码的指示信息相同的参数保留信息，相同的参数保留信息可以理解为不同掩码所指示的同一模型参数的指示状态均为保留该同一模型参数。

20、在一些实施例中，第一掩码对应的交集掩码包括至少一个，不同的交集掩码是基于第一掩码与不同的第二掩码确定的，不同的第二掩码对应不同的通信装置。可以确定该至少一个交集掩码中的第一候选掩码，基于该第一候选掩码确定目标掩码。第一候选掩码是指至少一个交集掩码中对应的损失值小于损失值阈值的交集掩码，交集掩码对应的损失值是指基于交集掩码调整后的目标模型的损失。

21、在一些实施例中，第二掩码包括至少一个，不同的第二掩码对应不同的通信装置。可以确定至少一个第二掩码中的第二候选掩码，基于该第二候选掩码确定第一掩码对应的交集掩码。该第二候选掩码是指至少一个第二掩码中与第一掩码之间的相似度大于相似度阈值的第二掩码。

22、可选地，在交集掩码包括多个的情况下，可以基于多个交集掩码，聚合得到该目标掩码。

23、又可选地，在交集掩码仅包括一个的情况下，可以直接将该交集掩码确定为目标掩码。

24、基于上述实现方式，基于第一掩码和第二掩码联合确定目标掩码，进而基于该目标掩码调整目标模型，如基于目标掩码对目标模型进行剪枝。以基于本地确定的第一掩码以及其他通信装置确定的第二掩码，实现对掩码得到协同训练，基于训练后的掩码实现对目标模型的调整，得到训练后的目标模型。并且，在一些场景下，还可以基于实际使用需求，如基于通信系统的性能需求等，在确定目标掩码时对掩码进行筛选，如在确定交集掩码前基于掩码之间的相似度对第二掩码进行筛选，在确定交集掩码的情况下，基于交集掩码的损失值对交集掩码进行筛选，以提高确定的目标掩码的准确性，从而提高训练后的目标模型的性能。

25、第二方面，本技术提供一种通信装置，该通信装置可以为第一方面或第一方面任意实现方式中所述的第一通信装置。该装置可以包括用于执行如上述第一方面或第一方面任意实现方式所述方法的模块。

26、示例性地，在一些实现方式中，该通信装置包括：掩码确定模块和模型确定模块。

27、掩码确定模块用于确定目标模型对应的第一掩码。该第一掩码用于指示目标模型包括的至少一个模型参数中的每个模型参数是否保留。

28、模型确定模块用于基于第一掩码和第二掩码，确定训练后的目标模型。该第二掩码为通信系统中的其他通信装置确定的掩码，用于指示其他通信装置确定的目标模型中的每个模型参数是否保留。

29、可选地，该通信装置还可以包括收发模块，以接收其他装置确定的掩码，即接收第二掩码。

30、在一些实现方式中，第一掩码的取值范围为0或1，掩码确定模块可以确定目标模型对应的第三掩码，基于样本数据调整该第三掩码，并基于调整后的第三掩码确定该第一掩码。该第三掩码可以用于指示目标模型中每个模型参数的保留概率。

31、可选地，掩码确定模块可以基于样本数据，确定第三掩码对应的损失函数，基于第三掩码对应的损失函数调整第三掩码，从而得到调整后的第三掩码。第三掩码对应的损失函数用于指示基于第三掩码调整后的目标模型的损失。

32、可选地，基于掩码调整目标模型可以是指：基于掩码所指示的模型参数的保留概率，对目标模型进行剪枝。

33、在一些实施例中，第三掩码的取值范围为0至1。掩码确定模块可以确定第三掩码对应的二值掩码，基于该二值掩码对目标模型行剪枝得到参考模型，以基于样本数据和参考模型确定第三掩码对应的损失函数。该二值掩码包括0和/或1。

34、在另一些实施例中，第三掩码的取值范围为实数。掩码确定模块可以基于第一关系确定第三掩码对应的概率掩码，并确定概率掩码对应的二值掩码，基于该二值掩码对目标模型行剪枝得到参考模型，并基于样本数据和该参考模型，确定第三掩码对应的损失函数。该二值掩码包括0和/或1。

35、在一些实现方式中，通信装置还可以包括收发模块。

36、收发模块用于发送调整后的第三掩码或第一掩码。

37、在一些实现方式中，模型确定模块可以基于第一掩码和第二掩码，确定目标掩码，并基于该目标掩码对目标模型剪枝，得到训练后的目标模型。

38、可选地，第一掩码包括至少一个第一指示信息，不同的第一指示信息用于指示目标模型中的不同模型参数是否保留，第二掩码包括至少一个第二指示信息，不同的第二指示信息用于指示目标模型中的不同模型参数是否保留。

39、模型确定模块可以基于第二掩码，确定第一掩码对应的交集掩码，并基于该交集掩码确定目标掩码。该交集掩码包括第一掩码的指示信息中与第二掩码的指示信息相同的参数保留信息，相同的参数保留信息可以理解为不同掩码所指示的同一模型参数的指示状态均为保留该同一模型参数。

40、在一些实施例中，第一掩码对应的交集掩码包括至少一个，不同的交集掩码是基于第一掩码与不同的第二掩码确定的，不同的第二掩码对应不同的通信装置。

41、模型确定模块可以确定该至少一个交集掩码中的第一候选掩码，基于该第一候选掩码确定目标掩码。第一候选掩码是指至少一个交集掩码中对应的损失值小于损失值阈值的交集掩码，交集掩码对应的损失值是指基于交集掩码调整后的目标模型的损失。

42、在一些实施例中，第二掩码包括至少一个，不同的第二掩码对应不同的通信装置。

43、模型确定模块可以确定至少一个第二掩码中的第二候选掩码，基于该第二候选掩码确定第一掩码对应的交集掩码。该第二候选掩码是指至少一个第二掩码中与第一掩码之间的相似度大于相似度阈值的第二掩码。

44、可选地，在交集掩码包括多个的情况下，模型确定模块可以基于多个交集掩码，聚合得到该目标掩码。

45、又可选地，在交集掩码仅包括一个的情况下，模型确定模块可以直接将该交集掩码确定为目标掩码。

46、第三方面，提供了一种通信装置，该通信装置包括处理器，该处理器用于实现如第一方面或第一方面中任意可能的实现方式中的方法。

47、可选地，该通信装置还包括接口电路，该接口电路用于接收来自其它通信装置的信号并传输给该处理器或将来自该处理器的信号发送给其它通信装置。

48、第四方面，本技术提供了一种通信系统，该通信系统包括第一通信装置和第二通信装置，该第一通信装置和第二通信装置均部署有目标模型。

49、第一通信装置用于执行如上述第一方面或第一方面任意实现方式所述的方法。

50、第二通信装置用于发送第二掩码。该第二掩码为第二通信装置确定的掩码，用于指示目标模型中的每个模型参数是否保留。

51、第五方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序。该计算机程序被处理器运行时，使得上述第一方面以及第一方面中任意实现方式中的方法被执行。

52、第六方面，提供了一种计算机程序产品，包括计算机程序，当该计算机程序被执行时，使得上述第一方面以及第一方面中任意实现方式中的方法被执行。

53、上述第二方面至第六方面提供的方案，用于实现或配合实现上述第一方面提供的方法，因此能够与第一方面达到相同或相应的有益效果，此处不再进行赘述。