联邦学习系统中的跨样本特征选择方法及联邦学习系统与流程

1.本技术涉及人工智能领域，具体涉及一种联邦学习系统中的跨样本特征选择方法及联邦学习系统。


背景技术：

2.在人工智能领域中，为提高机器学习模型的训练效率，可以采用联邦学习技术，多个参与方联合起来进行机器学习模型的训练。同时，在机器学习模型的训练过程中，可以对样本进行特征选择来减少样本所包含的特征，以提高机器学习模型的训练效率。
3.现有技术中，联邦学习系统中的特征选择，是由各个参与方根据线下沟通确定特征选择的需求后，各个参与方分别对各自所拥有样本进行特征选择。这种方式所进行的特征选择，数据的利用率低；且当不同参与方的特征选择结果存在出入时，需要所有参与方再次进行沟通并调整特征选择的结果。从而导致联邦学习系统中的特征选择的准确率以及效率较低。


技术实现要素：

4.本技术的一个目的在于提出一种联邦学习系统中的跨样本特征选择方法及联邦学习系统，能够提高特征选择的准确率以及效率。
5.根据本技术实施例的一方面，公开了一种联邦学习系统中的跨样本特征选择方法，所述方法包括：
6.通过隐私计算的方式，对所有参与方所拥有样本的特征进行假设检验，得到样本中各个特征维度的检验统计量；
7.每次对所有参与方所拥有样本的特征进行假设检验，将所述检验统计量处于预设统计量区间之外且距离最远的特征维度从样本中剔除，并对所有参与方所拥有样本的特征再次进行假设检验，直到样本中各个特征维度的检验统计量均处于所述预设统计量区间内，得到特征选择后的样本。
8.根据本技术实施例的一方面，公开了一种联邦学习系统，所述系统包括至少两个参与方，所述至少两个参与方通过多方安全计算的方式，共同对所有参与方所拥有样本的特征进行假设检验，得到样本中各个特征维度的检验统计量；
9.各个参与方配置为：
10.每次对所有参与方所拥有样本的特征进行假设检验，将所述检验统计量处于预设统计量区间之外且距离最远的特征维度从所拥有样本中剔除，并对所有参与方所拥有样本的特征再次进行假设检验，直到样本中各个特征维度的检验统计量均处于所述预设统计量区间内，得到特征选择后的所拥有样本。
11.根据本技术实施例的一方面，公开了一种联邦学习系统，所述系统包括中间方、至少两个参与方，所述中间方配置为：
12.作为可信第三方接收所有参与方所拥有样本的私有数据，其中，所述私有数据至
少描述所有参与方所拥有样本的特征；
13.每次接收到所有参与方所拥有样本的私有数据，基于所述私有数据对所有参与方所拥有样本的特征进行假设检验，得到样本中各个特征维度的检验统计量，并将样本中各个特征维度的检验统计量发送给各个参与方；
14.所述各个参与方配置为：
15.每次接收到样本中各个特征维度的检验统计量，将所述检验统计量处于预设统计量区间之外且距离最远的特征维度从所拥有样本中剔除，并将所拥有样本的私有数据发送至所述中间方，直到样本中各个特征维度的检验统计量均处于所述预设统计量区间内，得到特征选择后的所拥有样本。
16.根据本技术实施例的一方面，公开了一种联邦学习系统中的跨样本特征选择装置，所述装置包括：
17.假设检验模块，配置为通过隐私计算的方式，对所有参与方所拥有样本的特征进行假设检验，得到样本中各个特征维度的检验统计量；
18.特征维度剔除模块，配置为每次对所有参与方所拥有样本的特征进行假设检验，将所述检验统计量处于预设统计量区间之外且距离最远的特征维度从样本中剔除，并对所有参与方所拥有样本的特征再次进行假设检验，直到样本中各个特征维度的检验统计量均处于所述预设统计量区间内，得到特征选择后的样本。
19.在本技术的一示例性实施例中，所述装置配置为：
20.基于所有参与方所拥有样本的特征以及所有参与方所拥有样本的标签，计算得到第一矩阵的转置乘以所述第一矩阵所得到的第一乘积，以及所述第一矩阵的转置乘以第二矩阵所得到的第二乘积，其中，所述第一矩阵用于描述所有参与方所拥有样本的特征，所述第二矩阵用于描述所有参与方所拥有样本的标签；
21.基于所述第一乘积以及所述第二乘积，计算得到样本中各个特征维度的回归系数；
22.基于所述回归系数，计算得到所有参与方的误差之和；
23.基于所述回归系数以及所述误差之和，计算得到样本中各个特征维度的f统计量。
24.在本技术的一示例性实施例中，所述装置配置为：
25.将所有参与方所拥有样本的特征按照特征维度进行对齐，得到所述第一矩阵；
26.将所有参与方所拥有样本的标签按照第一矩阵中样本的顺序进行排列，得到所述第二矩阵；
27.基于所述第一矩阵以及所述第二矩阵，计算得到所述第一乘积以及所述第二乘积。
28.在本技术的一示例性实施例中，所述装置配置为：
29.将所述第一乘积的逆矩阵乘以所述第二乘积，得到所述回归系数。
30.在本技术的一示例性实施例中，所述装置配置为：
31.基于所述回归系数以及各个参与方的第三矩阵，计算得到各个参与方所拥有样本的标签的估计值，其中，所述第三矩阵用于描述对应参与方所拥有样本的特征；
32.基于所述估计值与对应参与方所拥有样本的标签之间的偏差，计算得到各个参与方的误差；
33.将各个参与方的误差求和，得到所有参与方的误差之和。
34.在本技术的一示例性实施例中，所述装置配置为：
35.获取所有参与方所拥有样本的样本数量，以及样本所包含特征维度的维度数量；
36.通过公式计算得到各个特征维度的f统计量，其中，i为对应特征维度的维度标识，f
i
为对应特征维度的f统计量，b
i
为对应特征维度的回归系数，c
ii
为所述第一乘积的逆矩阵的对应对角元，q为所述误差之和，r为所述样本数量，s为所述维度数量。
37.根据本技术实施例的一方面，公开了一种电子设备，包括：存储器，存储有计算机可读指令；处理器，读取存储器存储的计算机可读指令，以执行以上权利要求中的任一个所述的方法。
38.根据本技术实施例的一方面，公开了一种计算机程序介质，其上存储有计算机可读指令，当所述计算机可读指令被计算机的处理器执行时，使计算机执行以上权利要求中的任一个所述的方法。
39.根据本技术实施例的一个方面，提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述各种可选实现方式中提供的方法。
40.本技术实施例中，通过隐私计算的方式对跨多个参与方的样本进行假设检验，进而通过循环剔除特征维度的方式实现跨样本的特征选择。相比于单一参与方的样本，跨样本的特征选择增加了样本数量，从而提高了特征选择的准确率；并且跨样本的特征选择同步了多个参与方的特征选择过程，从而提高了特征选择的效率。
41.本技术的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本技术的实践而习得。
42.应当理解的是，以上的一般描述和后文的细节描述仅是示例性的，并不能限制本技术。
附图说明
43.通过参考附图详细描述其示例实施例，本技术的上述和其它目标、特征及优点将变得更加显而易见。
44.图1示出了根据本技术一个实施例的联邦学习系统中的跨样本特征选择方法流程图。
45.图2示出了根据本技术一个实施例的所有参与方通过多方安全计算的方式进行假设检验的示意图。
46.图3示出了根据本技术一个实施例的联邦学习系统中的跨样本特征选择的实施过程示意图。
47.图4示出了根据本技术一个实施例的联邦学习系统中的跨样本特征选择装置框图。
48.图5示出了根据本技术一个实施例的电子设备硬件图。
具体实施方式
49.现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些示例实施方式使得本技术的描述将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。附图仅为本技术的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。
50.此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多示例实施方式中。在下面的描述中，提供许多具体细节从而给出对本技术的示例实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本技术的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、步骤等。在其它情况下，不详细示出或描述公知结构、方法、实现或者操作以避免喧宾夺主而使得本技术的各方面变得模糊。
51.附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
52.本技术提供了一种联邦学习系统中的跨样本特征选择方法，主要用于在机器学习模型的前置阶段，对跨多个参与方的样本的特征进行选择。剔除相较之下多余的特征，并保留相较之下更为有效的特征，使得特征选择后的样本能够以更少的特征描述出近似有效程度的信息，从而提高机器学习模型的训练效率。
53.图1示出了本技术一实施例的联邦学习系统中的跨样本特征选择方法，该方法包括：
54.步骤s110、通过隐私计算的方式，对所有参与方所拥有样本的特征进行假设检验，得到样本中各个特征维度的检验统计量；
55.步骤s120、每次对所有参与方所拥有样本的特征进行假设检验，将检验统计量处于预设统计量区间之外且距离最远的特征维度从样本中剔除，并对所有参与方所拥有样本的特征再次进行假设检验，直到样本中各个特征维度的检验统计量均处于该预设统计量区间内，得到特征选择后的样本。
56.本技术实施例中，存在多个参与方，各个参与方均拥有一定数量的样本。
57.出于隐私安全的考虑，各个参与方不愿将自身所拥有的样本暴露给其他参与方。因此，通过隐私计算的方式(例如：多方安全计算的方式、可信第三方的方式等)，在保证各个参与方样本隐私安全的情况下，对所有参与方所拥有样本的特征进行假设检验，得到样本中各个特征维度的检验统计量。
58.其中，假设检验指的是针对特定特征维度的特征，建立“该特征维度的特征为样本所带来的影响不显著”或者“该特征维度的特征为样本所带来的影响显著”的一个假设，进而检验该假设是否成立。
59.数值化的检验结果即为检验统计量。检验统计量用于描述该特征维度的特征为样本所带来影响的显著程度，或者说，用于描述该特征维度为样本所带来影响的显著程度。进而可以根据检验统计量确定该假设是否成立，从而确定该特征维度为样本所带来的影响是否显著。
60.若该特征维度为样本所带来的影响是不显著的，说明有无该特征维度的特征，样本的信息表达能力变动不大，则可以将该特征维度的特征从样本中剔除，或者说，将该特征维度从样本中剔除。
61.若该特征维度为样本所带来的影响是显著的，说明有无该特征维度的特征，样本的信息表达能力变动较大，则应当保留该特征维度的特征，或者说，保留该特征维度。
62.本技术实施例中，针对检验统计量预设有统计量区间。若一特征维度的检验统计量处于该预设统计量区间内，则说明该特征维度为样本所带来的影响是显著的。若一特征维度的检验统计量处于该预设统计量区间之外，则该检验统计量与该预设统计量区间的距离越远，说明该特征维度为样本所带来的影响越不显著。
63.每次对所有参与方所拥有样本的特征进行假设检验，便会得到样本中各个特征维度的检验统计量。进而若一特征维度的检验统计量处于该预设统计量区间之外，且距离最远，则将该特征维度从样本中剔除。再继续对所有参与方所拥有样本的特征进行假设检验，剔除处于该预设统计量区间之外且距离最远的特征维度。如此循环，直到样本中各个特征维度的检验统计量均处于预设统计量区间内，说明样本中各个特征维度的检验统计量为样本所带来的影响均是显著的，均应保留，则停止对特征维度的剔除，该方案同时实现了对各个参与方所拥有样本的特征选择，各个参与方得到了特征选择后的各自所拥有样本。
64.由此可见，本技术实施例中，通过隐私计算的方式对跨多个参与方的样本进行假设检验，进而通过循环剔除特征维度的方式实现跨样本的特征选择。相比于单一参与方的样本，跨样本的特征选择增加了样本数量，从而提高了特征选择的准确率；并且跨样本的特征选择同步了多个参与方的特征选择过程，从而提高了特征选择的效率。
65.可以理解的，将一特征维度从样本中剔除后，该特征维度的特征也会被从样本中剔除。即，剔除特征维度等同于剔除该特征维度的特征。出于简要说明的目的，本技术实施例中，将“剔除特征维度的特征”描述为“剔除特征维度”。
66.本技术提出了一种用于实现上述跨样本特征选择方法的联邦学习系统。该系统包括至少两个参与方，该至少两个参与方通过多方安全计算(secure multi
‑
party computation，简称mpc)的方式，共同对所有参与方所拥有样本的特征进行假设检验，得到样本中各个特征维度的检验统计量。
67.该系统中，各个参与方每次对所有参与方所拥有样本的特征进行假设检验，便会得到样本中各个特征维度的检验统计量。进而若一特征维度的检验统计量处于预设统计量区间之外，且距离最远，则将该特征维度从各自所拥有样本中剔除，并对所有参与方所拥有样本的特征再次进行假设检验，剔除各自所拥有样本中处于预设统计量区间之外且距离最远的特征维度。直到各自所拥有样本中各个特征维度的检验统计量均处于预设统计量区间内。从而各个参与方得到特征选择后的各自所拥有样本。
68.例如：该系统中有两个参与方，分别记为参与方1以及参与方2。各个参与方所拥有样本的特征维度是一致的，均为相同的k个特征维度。参与方1拥有n个样本，则记参与方1所拥有样本的特征为n*k特征；参与方2拥有m个样本，则记参与方2所拥有样本的特征为m*k特征；所有参与方所拥有样本的个数为(n m)，则记所有参与方所拥有样本的特征为(n m)*k特征。
69.第一次，参与方1与参与方2通过多方安全计算的方式，对所有参与方所拥有样本
的(n m)*k特征进行假设检验。进而将该k个特征维度中，检验统计量处于预设统计量区间之外且距离最远的特征维度剔除，从而各个参与方所拥有样本的特征维度均为(k
‑
1)。
70.第二次，参与方1与参与方2再通过多方安全计算的方式，对所有参与方所拥有样本的(n m)*(k
‑
1)特征进行假设检验。进而将该(k
‑
1)个特征维度中，检验统计量处于预设统计量区间之外且距离最远的特征维度剔除，从而各个参与方所拥有样本的特征维度均为(k
‑
2)。
71.如此循环，若经过j次特征维度的剔除后，各个特征维度的检验统计量均处于该统计量区间内，则特征选择完成。由此可见，各个参与方所拥有样本经过特征选择后，特征维度均为(k
‑
j)。其中，j小于k。
72.图2示出了本技术一实施例的所有参与方通过多方安全计算的方式进行假设检验的示意图。
73.参考图2所示，该实施例中，参与方1以及参与方2分别将各自所拥有样本的私有数据进行加密预处理，进而在一个分布式环境中共同完成对预设函数的计算。
74.该函数的输入信息为各个参与方的加密后私有数据。该函数的计算过程中，各个参与方的加密后私有数据均处于保密状态。该函数计算完成后，所得到的结果即为所有参与方所拥有样本的各个特征维度的检验统计量。
75.进而得到的检验统计量反馈至各个参与方，各个参与方再根据检验统计量对各自拥有样本的特征维度进行剔除，以完成对各自拥有样本的特征选择。
76.本技术还提出了一种用于实现上述跨样本特征选择方法的联邦学习系统。该系统包括中间方、至少两个参与方。
77.该系统中，该中间方作为可信第三方接收所有参与方所拥有样本的私有数据。其中，该私有数据至少包括所有参与方所拥有样本的特征。因此该中间方可以通过对该私有数据的处理，实现对所有参与方所拥有样本的特征的假设检验。
78.该中间方每次接收到所有参与方所拥有样本的私有数据，便对所有参与方所拥有样本的特征进行假设检验，得到样本中各个特征维度的检验统计量，并将样本中各个特征维度的检验统计量发送给各个参与方。
79.该系统中，各个参与方每次接收到样本中各个特征维度的检验统计量，将检验统计量处于预设统计量区间之外且距离最远的特征维度从所拥有样本中剔除，并将所拥有样本的私有数据发送至中间方，直到样本中各个特征维度的检验统计量均处于预设统计量区间内。从而各个参与方得到特征选择后的各自所拥有样本。
80.例如：该系统中有一个中间方，还有两个参与方，分别记为参与方1以及参与方2。各个参与方所拥有样本的特征维度是一致的，均为相同的k个特征维度。参与方1拥有n个样本，则记参与方1所拥有样本的特征为n*k特征；参与方2拥有m个样本，则记参与方2所拥有样本的特征为m*k特征；所有参与方所拥有样本的个数为(n m)，则记所有参与方所拥有样本的特征为(n m)*k特征。
81.第一次，参与方1将至少包括其所拥有样本的n*k特征的私有数据发送至中间方，参与方2将至少包括其所拥有样本的m*k特征的私有数据发送至中间方，则中间方基于所有参与方所拥有样本的私有数据对(n m)*k特征进行假设检验。进而中间方将得到的k个特征维度的检验统计量发送给各个参与方。进而各个参与方将该k个特征维度中，检验统计量处
于预设统计量区间之外且距离最远的特征维度剔除，从而各个参与方所拥有样本的特征维度均为(k
‑
1)。
82.第二次，参与方1将至少包括其所拥有样本的n*(k
‑
1)特征的私有数据发送至中间方，参与方2将至少包括其所拥有样本的m*(k
‑
1)特征的私有数据发送至中间方，则中间方基于所有参与方所拥有样本的私有数据对(n m)*(k
‑
1)特征进行假设检验。进而中间方将得到的(k
‑
1)个特征维度的检验统计量发送给各个参与方。进而各个参与方将该(k
‑
1)个特征维度中，检验统计量处于预设统计量区间之外且距离最远的特征维度剔除，从而各个参与方所拥有样本的特征维度均为(k
‑
2)。
83.如此循环，若经过j次特征维度的剔除后，各个特征维度的检验统计量均处于预设统计量区间内，则特征选择完成。由此可见，各个参与方所拥有样本经过特征选择后，特征维度均为(k
‑
j)。其中，j小于k。
84.需要说明的是，上述展示的两个联邦学习系统只是示例性地展示了本技术实施例中不同系统组成的情况下隐私计算的实施过程，不应对本技术实施例的功能和使用范围造成限制。在另一实施例中，还可以在系统中设置可信执行环境(trusted execution environment，简称tee)，通过可信执行环境的方式对所有参与方所拥有样本的特征进行假设检验。
85.在一实施例中，通过f检验的方式对所有参与方所拥有样本的特征进行假设检验，得到样本中各个特征维度的f统计量；进而可以基于逻辑回归的方式判断f统计量是否处于预设统计量区间内，从而进行特征选择。
86.该实施例中，基于所有参与方所拥有样本的特征以及所有参与方所拥有样本的标签，计算得到第一矩阵的转置乘以第一矩阵所得到的第一乘积，以及第一矩阵的转置乘以第二矩阵所得到的第二乘积，其中，第一矩阵用于描述所有参与方所拥有样本的特征，第二矩阵用于描述所有参与方所拥有样本的标签。基于第一乘积以及第二乘积，计算得到样本中各个特征维度的回归系数。基于回归系数，计算得到所有参与方的误差之和。基于回归系数以及误差之和，计算得到样本中各个特征维度的f统计量。
87.下面对该实施例中f检验的详细实施过程进行详细展示。
88.在一实施例中，将所有参与方所拥有样本的特征按照特征维度进行对齐，得到第一矩阵。将所有参与方所拥有样本的标签按照第一矩阵中样本的顺序进行排列，得到第二矩阵。基于第一矩阵以及第二矩阵，计算得到第一乘积以及第二乘积。
89.具体的，参与方只有参与方1以及参与方2。各个参与方所拥有样本的特征维度是一致的，均为相同的k个特征维度。
90.参与方1拥有n个样本，若将参与方1的n*k个特征按照特征维度为列样本为行的方式进行排列，则能得到大小为n*k的特征矩阵x1；若将参与方1的n个标签按照x1中样本的排列顺序进行排列，则能得到大小为n*1的标签矩阵y1。
91.参与方2拥有m个样本，同理参与方1，能得到大小为m*k的特征矩阵x2，以及大小为m*1的标签矩阵y2。
92.将用于描述所有参与方所拥有样本的特征的第一矩阵记为x，将用于描述所有参与方所拥有样本的标签的第二矩阵记为y，则可以通过如下所示公式计算得到第一乘积x
t
x以及第二乘积x
t
y。
[0093][0094][0095]
在一实施例中，将第一乘积的逆矩阵乘以第二乘积，得到回归系数。
[0096]
具体的，记回归系数为b，则可以通过如下所示公式计算得到回归系数b。
[0097]
b＝(x
t
x)
‑1x
t
y
[0098]
在一实施例中，基于回归系数以及各个参与方的第三矩阵，计算得到各个参与方所拥有样本的标签的估计值，其中，第三矩阵用于描述对应参与方所拥有样本的特征。基于估计值与对应参与方所拥有样本的标签之间的偏差，计算得到各个参与方的误差。将各个参与方的误差求和，得到所有参与方的误差之和。
[0099]
具体的，记参与方1的第三矩阵为x1，参与方1所拥有样本的标签的估计值为参与方1的误差为q1；记参与方2的第三矩阵为x2，参与方2所拥有样本的标签的估计值为参与方2的误差为q2。则可以通过如下所示公式计算得到q1以及q2。
[0100][0101][0102]
在一实施例中，获取所有参与方所拥有样本的样本数量，以及样本所包含特征维度的维度数量。通过公式计算得到各个特征维度的f统计量，其中，i为对应特征维度的维度标识，f
i
为对应特征维度的f统计量，b
i
为对应特征维度的回归系数，c
ii
为第一乘积的逆矩阵的对应对角元，q为误差之和，r为样本数量，s为维度数量。
[0103]
具体的，r为n与m之和。通过该实施例所示公式计算得到f1、f2一直到f
s
这s个特征维度的f统计量之后，选取出值最小的f
i
。若该f
i
大于或等于f检验规定的阈值，则说明当前样本中的所有特征维度均需保留，特征选择结束。若该f
i
小于f检验规定的阈值，则将该f
i
对应的特征维度剔除，再进行假设检验，计算得到剩余特征维度的f统计量，再对其中最小值进行判断，不断循环，直到特征选择结束。
[0104]
图3示出了本技术一实施例的联邦学习系统中的跨样本特征选择的实施过程示意图。
[0105]
参考图3所示，该实施例中，参与方只有参与方1以及参与方2，还有一个可以作为可信第三方的中间方。
[0106]
按照特征维度对齐的方式，将参与方1的特征矩阵x1与参与方1的特征矩阵x1进行拼接，得到x；按照特征矩阵拼接的方式将参与方1的标签矩阵y1与参与方2的标签矩阵y2进行拼接，得到y。
[0107]
通过mpc或者可信第三方的方式，计算得到x
t
x和x
t
y。
[0108]
进而参与方1根据x
t
x和x
t
y，计算得到回归系数b，进而根据回归系数b以及自身的特征矩阵x1计算得到自身的误差q1。并且，参与方1将回归系数b发送给参与方2，从而参与方2根据回归系数b以及自身的特征矩阵x2计算得到自身的误差q2。
[0109]
参与方2将q2发送给参与方1。进而参与方1根据q1与q2之和，计算得到样本中各个
特征维度的f统计量。
[0110]
若最小的f统计量不满足f检验，则说明该特征维度需要剔除，则参与方1将该特征维度剔除，同时更新特征维度列表，并将更新后的特征维度列表发送给参与方2，使得参与方2也更新特征维度列表以剔除该特征维度；进而参与方1在参与方2的配合下再计算样本中各个特征维度的f统计量，不断循环，直到最小的f统计量满足f检验，特征选择完成。
[0111]
需要说明的是，上述实施例只是示例性地展示了通过假设检验中的f检验进行特征选择的实施过程，不应对本技术的功能和保护范围造成限制。在另一实施例中，还可以通过假设检验中的t检验或者其他检验方式进行特征选择。
[0112]
图4示出了根据本技术一实施例的联邦学习系统中的跨样本特征选择装置，所述装置包括：
[0113]
假设检验模块410，配置为通过隐私计算的方式，对所有参与方所拥有样本的特征进行假设检验，得到样本中各个特征维度的检验统计量；
[0114]
特征维度剔除模块420，配置为每次对所有参与方所拥有样本的特征进行假设检验，将所述检验统计量处于预设统计量区间之外且距离最远的特征维度从样本中剔除，并对所有参与方所拥有样本的特征再次进行假设检验，直到样本中各个特征维度的检验统计量均处于所述预设统计量区间内，得到特征选择后的样本。
[0115]
在本技术的一示例性实施例中，所述装置配置为：
[0116]
基于所有参与方所拥有样本的特征以及所有参与方所拥有样本的标签，计算得到第一矩阵的转置乘以所述第一矩阵所得到的第一乘积，以及所述第一矩阵的转置乘以第二矩阵所得到的第二乘积，其中，所述第一矩阵用于描述所有参与方所拥有样本的特征，所述第二矩阵用于描述所有参与方所拥有样本的标签；
[0117]
基于所述第一乘积以及所述第二乘积，计算得到样本中各个特征维度的回归系数；
[0118]
基于所述回归系数，计算得到所有参与方的误差之和；
[0119]
基于所述回归系数以及所述误差之和，计算得到样本中各个特征维度的f统计量。
[0120]
在本技术的一示例性实施例中，所述装置配置为：
[0121]
将所有参与方所拥有样本的特征按照特征维度进行对齐，得到所述第一矩阵；
[0122]
将所有参与方所拥有样本的标签按照第一矩阵中样本的顺序进行排列，得到所述第二矩阵；
[0123]
基于所述第一矩阵以及所述第二矩阵，计算得到所述第一乘积以及所述第二乘积。
[0124]
在本技术的一示例性实施例中，所述装置配置为：
[0125]
将所述第一乘积的逆矩阵乘以所述第二乘积，得到所述回归系数。
[0126]
在本技术的一示例性实施例中，所述装置配置为：
[0127]
基于所述回归系数以及各个参与方的第三矩阵，计算得到各个参与方所拥有样本的标签的估计值，其中，所述第三矩阵用于描述对应参与方所拥有样本的特征；
[0128]
基于所述估计值与对应参与方所拥有样本的标签之间的偏差，计算得到各个参与方的误差；
[0129]
将各个参与方的误差求和，得到所有参与方的误差之和。
[0130]
在本技术的一示例性实施例中，所述装置配置为：
[0131]
获取所有参与方所拥有样本的样本数量，以及样本所包含特征维度的维度数量；
[0132]
通过公式计算得到各个特征维度的f统计量，其中，i为对应特征维度的维度标识，f
i
为对应特征维度的f统计量，b
i
为对应特征维度的回归系数，c
ii
为所述第一乘积的逆矩阵的对应对角元，q为所述误差之和，r为所述样本数量，s为所述维度数量。
[0133]
下面参考图5来描述根据本技术实施例的电子设备50。图5显示的电子设备50仅仅是一个示例，不应对本技术实施例的功能和使用范围带来任何限制。
[0134]
如图5所示，电子设备50以通用计算设备的形式表现。电子设备50的组件可以包括但不限于：上述至少一个处理单元510、上述至少一个存储单元520、连接不同系统组件(包括存储单元520和处理单元510)的总线530。
[0135]
其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元510执行，使得所述处理单元510执行本说明书上述示例性方法的描述部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元510可以执行如图1中所示的各个步骤。
[0136]
存储单元520可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)5201和/或高速缓存存储单元5202，还可以进一步包括只读存储单元(rom)5203。
[0137]
存储单元520还可以包括具有一组(至少一个)程序模块5205的程序/实用工具5204，这样的程序模块5205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
[0138]
总线530可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
[0139]
电子设备50也可以与一个或多个外部设备600(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备50交互的设备通信，和/或与使得该电子设备50能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口550进行。输入/输出(i/o)接口550与显示单元540相连。并且，电子设备50还可以通过网络适配器560与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。如图所示，网络适配器560通过总线530与电子设备50的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备50使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。
[0140]
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本技术实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd
‑
rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本技术实施方式的方法。
[0141]
在本技术的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有计算机可读指令，当所述计算机可读指令被计算机的处理器执行时，使计算机执行上述方法
实施例部分描述的方法。
[0142]
根据本技术的一个实施例，还提供了一种用于实现上述方法实施例中的方法的程序产品，其可以采用便携式紧凑盘只读存储器(cd
‑
rom)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
[0143]
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd
‑
rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
[0144]
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
[0145]
可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。
[0146]
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、c 等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
[0147]
应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本技术的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
[0148]
此外，尽管在附图中以特定顺序描述了本技术中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。
[0149]
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本技术实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd
‑
rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算
设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本技术实施方式的方法。
[0150]
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本技术的其它实施方案。本技术旨在涵盖本技术的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本技术的一般性原理并包括本技术未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本技术的真正范围和精神由所附的权利要求指出。