一种基于联邦学习的网络辨别方法、装置、终端及介质

1.本发明涉及网络安全技术领域，尤其涉及一种基于联邦学习的网络辨别方法、装置、终端及介质。


背景技术：

2.联邦学习旨在保护数据安全与隐私并充分利用数据，是在数据不出本地的情况下，进行数据联合训练，建立共享的机器学习模型。但由于联邦学习参与方众多以及对参与者传递信息的无控制，不可避免地会出现恶意攻击者，可能会使得聚合的模型不收敛或者得到错误的模型。现有技术对于联邦学习中的网络安全攻击的防御方法主要集中在根据参与者的网络参数和梯度进行辨别，对参数和梯度进行数学运算选择距离较近的进行聚合，通过辨别网络参数的可靠性，确定网络参数对应的参与者属于正常参与者还是恶意攻击者。然而，现有技术只能被动地选择聚合网络参数或梯度时的各网络的权重，而无法判断该网络参数是属于正常参与者，还是恶意攻击者。此外，对于non－iid(非独立同分布)数据分布情况下，由于各参与者的数据分布差异较大，学习得到的参数和梯度本身差距就较大，更加无法通过该信息去辨别正常参与者与恶意攻击者的差距。


技术实现要素：

3.本发明提供了一种基于联邦学习的网络辨别方法、装置、终端及介质，以解决现有技术对于联邦学习中的网络安全防御，只能被动选择聚合网络参数或梯度时的各网络的权重，而无法判断该参数的网络的可靠性，进而判定对应参数的参与者是属于正常参与者还是恶意攻击者的技术问题。
4.为了解决上述技术问题，本发明实施例提供了一种基于联邦学习的网络辨别方法，包括：
5.利用多类别公共数据，分别测试若干个第一网络参数，得到若干个所述第一网络参数对应的多类别精度集合；其中，所述第一网络参数是参与者利用本地数据对联邦学习模型进行训练而获得的，所述多类别精度集合包含每个类别的所述公共数据对应的精度；
6.统计每一个所述多类别精度集合中大于预设的第一精度阈值的精度数量，并计算得到所有所述精度数量中的众数m；其中，一个所述多类别精度集合对应一个所述精度数量；
7.分别将各所述多类别精度集合中的精度按从大到小的顺序排列，按照排列结果获取前m个精度，计算得到每个多类别精度集合中前m个精度的平均值，并根据各所述多类别精度集合对应的平均值，辨别各所述第一网络参数的可靠性。
8.进一步地，所述根据各所述多类别精度集合对应的平均值，辨别各所述第一网络参数的可靠性，具体为：
9.若当前所述多类别精度集合对应的平均值大于预设的第二精度阈值，则确定当前所述多类别精度集合所对应的第一网络参数为可靠参数；
10.若当前所述多类别精度集合对应的平均值小于等于预设的第二精度阈值，则确定当前所述多类别精度集合所对应的第一网络参数为不可靠参数。
11.进一步地，在所述利用多类别公共数据，分别测试若干个第一网络参数之前，还包括：
12.根据预设的划分标签，将公共数据划分为若干个类别，得到所述多类别公共数据。
13.进一步地，在所述根据各所述多类别精度集合对应的平均值，辨别各所述第一网络参数的可靠性之后，还包括：
14.对所有可靠参数进行聚合，得到对应的第二网络参数；
15.根据所述第二网络参数，迭代优化所述联邦学习模型，直到优化次数达到预设次数。
16.为了解决相同的技术问题，本发明还提供了一种基于联邦学习的网络辨别装置，包括：
17.网络参数测试模块，用于利用多类别公共数据，分别测试若干个第一网络参数，得到若干个所述第一网络参数对应的多类别精度集合；其中，所述第一网络参数是参与者利用本地数据对联邦学习模型进行训练而获得的，所述多类别精度集合包含每个类别的所述公共数据对应的精度；
18.数据统计模块，用于统计每一个所述多类别精度集合中大于预设的第一精度阈值的精度数量，并计算得到所有所述精度数量中的众数m；其中，一个所述多类别精度集合对应一个所述精度数量；
19.网络辨别模块，用于分别将各所述多类别精度集合中的精度按从大到小的顺序排列，按照排列结果获取前m个精度，计算得到每个多类别精度集合中前m个精度的平均值，并根据各所述多类别精度集合对应的平均值，辨别各所述第一网络参数的可靠性。
20.进一步地，所述网络辨别模块，还包括：数据获取单元和网络辨别单元；
21.所述数据获取单元，用于分别将各所述多类别精度集合中的精度按从大到小的顺序排列，按照排列结果获取前m个精度，计算得到每个多类别精度集合中前m个精度的平均值；
22.所述网络辨别单元，用于根据各所述多类别精度集合对应的平均值，辨别各所述第一网络参数的可靠性；若当前所述多类别精度集合对应的平均值大于预设的第二精度阈值，则确定当前所述多类别精度集合所对应的第一网络参数为可靠参数；若当前所述多类别精度集合对应的平均值小于等于预设的第二精度阈值，则确定当前所述多类别精度集合所对应的第一网络参数为不可靠参数。
23.进一步地，所述基于联邦学习的网络辨别系统，还包括：
24.预处理模块，用于在所述利用多类别公共数据，分别测试若干个第一网络参数之前，根据预设的划分标签，将公共数据划分为若干个类别，得到所述多类别公共数据；
25.模型优化模块，用于在所述根据各所述多类别精度集合对应的平均值，辨别各所述第一网络参数的可靠性之后，对所有可靠参数进行聚合，得到对应的第二网络参数，并根据所述第二网络参数，迭代优化所述联邦学习模型，直到优化次数达到预设次数。
26.为了解决相同的技术问题，本发明还提供了一种终端，包括处理器、存储器及存储于所述存储器内的计算机程序；其中，所述计算机程序能够被所述处理器执行，以实现所述
的基于联邦学习的网络辨别方法。
27.为了解决相同的技术问题，本发明还提供了一种计算机可读存储介质，包括存储的计算机程序；其中，在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行所述的基于联邦学习的网络辨别方法。
28.相比于现有技术，本发明实施例具有如下有益效果：
29.本发明提出了一种基于联邦学习的网络辨别方法、装置、终端及介质，能够对各参与者的网络参数分别进行测试，得到对应的多类别精度集合，并通过对各个网络参数对应的多类别精度集合进行计算分析，辨别各个网络参数的可靠性，进而确定网络参数对应的参与者为正常参与者还是恶意攻击者，排除恶意攻击者对网络的威胁。
附图说明
30.图1：为本发明提供的一种基于联邦学习的网络辨别方法的一种实施例的流程示意图；
31.图2：为本发明提供的一种基于联邦学习的网络辨别方法的一种实施例的包含数据预处理的流程示意图；
32.图3：为本发明提供的一种基于联邦学习的网络辨别方法的另一种实施例的流程示意图；
33.图4：为本发明提供的一种基于联邦学习的网络辨别装置的结构示意图；
34.图5：为本发明提供的一种基于联邦学习的网络辨别装置的网络辨别模块的结构示意图。
具体实施方式
35.下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
36.实施例一：
37.请参照图1，为本发明实施例提供的一种基于联邦学习的网络辨别方法的一种实施例，包括：
38.s101：利用多类别公共数据，分别测试若干个第一网络参数，得到若干个第一网络参数对应的多类别精度集合；其中，第一网络参数是参与者利用本地数据对联邦学习模型进行训练而获得的，多类别精度集合包含每个类别的公共数据对应的精度。
39.请参照图2，在本实施例中，进一步地，在步骤s101之前，还包括：
40.s100：根据预设的划分标签，将公共数据划分为若干个类别，得到多类别公共数据。
41.s102：统计每一个多类别精度集合中大于预设的第一精度阈值的精度数量，并计算得到所有精度数量中的众数m；其中，一个多类别精度集合对应一个精度数量。
42.在本实施例中，第一精度阈值为0.8，经过若干次试验总结得到。
43.s103：分别将各多类别精度集合中的精度按从大到小的顺序排列，按照排列结果
获取前m个精度，计算得到每个多类别精度集合中前m个精度的平均值，并根据各多类别精度集合对应的平均值，辨别各第一网络参数的可靠性。
44.进一步地，所述根据各多类别精度集合对应的平均值，辨别各第一网络参数的可靠性，具体为：
45.若当前多类别精度集合对应的平均值大于预设的第二精度阈值，则确定当前多类别精度集合所对应的第一网络参数为可靠参数；
46.若当前多类别精度集合对应的平均值小于等于预设的第二精度阈值，则确定当前多类别精度集合所对应的第一网络参数为不可靠参数。
47.在本实施例中，第二精度阈值为0.8，经过若干次试验总结得到。
48.进一步地，在根据各多类别精度集合对应的平均值，辨别各第一网络参数的可靠性之后，还包括：
49.对所有可靠参数进行聚合，得到对应的第二网络参数；
50.根据第二网络参数，迭代优化所述联邦学习模型，直到优化次数达到预设次数。
51.在本实施例中，将第二网络参数传递给所有的参与者，各参与者根据第二网络参数进行多轮优化训练，直到优化训练轮数达到预设轮数。根据训练数据的不同，设置联邦学习模型本身的训练轮次。若为容易训练的数据集(如mnist)，设置50－100轮次，复杂的数据集则会相应增加训练轮次使得训练出来的全局模型精度更加高。
52.实施例二：
53.请参照图3，为本发明实施例提供的一种基于联邦学习的网络辨别方法的另一种实施例，包括：
54.s200：根据预设的划分标签，将公共数据划分为若干个类别，得到多类别公共数据。
55.s201：当多类别公共数据的数据分布属于非独立同分布时，利用多类别公共数据，分别测试若干个第一网络参数，得到若干个第一网络参数对应的多类别精度集合和若干个第一网络参数对应的输出数据；其中，第一网络参数是参与者利用本地数据对联邦学习模型进行训练而获得的，多类别精度集合包含每个类别的公共数据对应的精度。
56.s202：根据各第一网络参数对应的多类别精度集合和各第一网络参数对应的输出数据，辨别各第一网络参数的可靠性。
57.进一步地，根据各第一网络参数对应的多类别精度集合和各所述第一网络参数对应的输出数据，辨别各第一网络参数的可靠性，具体为：
58.若当前的多类别精度集合中的精度有大于预设值的，也有小于预设值的，则确定当前的多类别精度集合所对应的第一网络参数为可靠参数；
59.若当前的多类别精度集合中的精度都小于预设值，或者当前所述输出数据的类别随机不固定，则确定当前的多类别精度集合所对应的第一网络参数为不可靠参数。
60.为便于更好地理解所述根据各第一网络参数对应的多类别精度集合和各第一网络参数对应的输出数据，辨别各第一网络参数的可靠性，以下进行举例以详细说明：
61.以mnist手写数字数据集为例，mnist手写数字数据集一共有10个类别，即0到9。若以mnist手写数字作为多类别公共数据测试各参与者对应的网络参数，在non－iid数据分布下，每个正常参与者的本地数据皆只有某两种类别的数据(non－iid分布的特性)，假设
某个正常参与者只有0和1两种类别的数据，在这种情况下利用本地数据训练出来的网络参数只会对类别为0和1的测试数据表现为精度高，而对其他类别的测试数据表现为精度低，且网络参数偏向于输出0、1。而对于恶意攻击者，因为要进行攻击，破坏全局模型的收敛性，其网络参数较为无序，故有两种可能的情况。一是无论输入是什么，都随机输出为10个类别中的一种(十选一)；二是无论输入是什么，都输出为某一种(如0)。
62.请参照图4，为了解决相同的技术问题，本发明还提供了一种基于联邦学习的网络辨别装置，包括：
63.网络参数测试模块，用于利用多类别公共数据，分别测试若干个第一网络参数，得到若干个第一网络参数对应的多类别精度集合；其中，第一网络参数是参与者利用本地数据对联邦学习模型进行训练而获得的，多类别精度集合包含每个类别的所述公共数据对应的精度；
64.数据统计模块，用于统计每一个多类别精度集合中大于预设的第一精度阈值的精度数量，并计算得到所有精度数量中的众数m；其中，一个多类别精度集合对应一个精度数量；
65.网络辨别模块，用于分别将各多类别精度集合中的精度按从大到小的顺序排列，按照排列结果获取前m个精度，计算得到每个多类别精度集合中前m个精度的平均值，并根据各多类别精度集合对应的平均值，辨别各第一网络参数的可靠性。
66.进一步地，所述基于联邦学习的网络辨别系统，还包括：
67.预处理模块，用于在利用多类别公共数据，分别测试若干个第一网络参数之前，根据预设的划分标签，将公共数据划分为若干个类别，得到多类别公共数据；
68.模型优化模块，用于在根据各多类别精度集合对应的平均值，辨别各第一网络参数的可靠性之后，对所有可靠参数进行聚合，得到对应的第二网络参数，并根据第二网络参数，迭代优化联邦学习模型，直到优化次数达到预设次数。
69.请参照图5，进一步地，网络辨别模块，还包括：数据获取单元和网络辨别单元；
70.数据获取单元，用于分别将各多类别精度集合中的精度按从大到小的顺序排列，按照排列结果获取前m个精度，计算得到每个多类别精度集合中前m个精度的平均值；
71.网络辨别单元，用于根据各多类别精度集合对应的平均值，辨别各第一网络参数的可靠性；若当前多类别精度集合对应的平均值大于预设的第二精度阈值，则确定当前多类别精度集合所对应的第一网络参数为可靠参数；若当前多类别精度集合对应的平均值小于等于预设的第二精度阈值，则确定当前多类别精度集合所对应的第一网络参数为不可靠参数。
72.为了解决相同的技术问题，本发明还提供了一种终端，包括处理器、存储器及存储于所述存储器内的计算机程序；其中，所述计算机程序能够被所述处理器执行，以实现所述的基于联邦学习的网络辨别方法。
73.为了解决相同的技术问题，本发明还提供了一种计算机可读存储介质，包括存储的计算机程序；其中，在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行所述的基于联邦学习的网络辨别方法。
74.相比于现有技术，本发明实施例具有如下有益效果：
75.本发明提出了一种基于联邦学习的网络辨别方法、装置、终端及介质，能够对各参
与者的网络参数分别进行测试，得到对应的多类别精度集合，并通过对各个网络参数对应的多类别精度集合进行计算分析，辨别各个网络参数的可靠性，进而确定网络参数对应的参与者为正常参与者还是恶意攻击者，排除恶意攻击者对网络的威胁。
76.以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步的详细说明，应当理解，以上所述仅为本发明的具体实施例而已，并不用于限定本发明的保护范围。特别指出，对于本领域技术人员来说，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。