基于随机采样聚类的带噪音数据分类方法及用户分类方法

1.本发明属于数据处理领域，具体涉及一种基于随机采样聚类的带噪音数据分类方法及用户分类方法。


背景技术：

2.聚类是数据分析中最基本的问题之一。聚类分析是根据在数据中发现的描述对象及其关系的信息，将数据对象分组。聚类分析的目的在于，对对象进行分组，而且组内的对象相互之间是相似的(相关的)，而不同组中的对象是不同的(不相关的)。组内相似性越大，组间差距越大，说明聚类效果越好；也就是说，聚类的目标是得到较高的簇内相似度和较低的簇间相似度，使得簇间的距离尽可能大，簇内样本与簇中心的距离尽可能小。
3.聚类算法的用途非常广泛，因此聚类模型也一直是人们研究的重点；例如k-均值，k-中值和k-中心。聚类问题是经典的np难(np hard)问题，除非np＝p，否则无法在多项式时间内找到问题的最优解。近似算法是处理np难问题的方法之一。如果算法的输出函数值不大于最优解的α倍(设定值)，那么就称这个算法为近似算法，并且α被称为该算法的近似比。
4.k-中心问题一直是聚类中的一个热门模型，在过去的几十年里，k-中心模型广受关注，主要是研究在欧氏空间和度量空间内的近似算法。k-中心模型就是需要找到k个中心位置，每一个中心位置形成一个半径为ri的圆，这些圆可以覆盖所有的数据点，目标函数是最小化最大的半径ri。目前在度量空间中k-中心问题已经被证明了近似比为2是该问题的下界。而在欧氏空间内，最好的k-中心算法的近似比为1.822。
5.但在实际应用中，数据集在聚类的过程中需要受到一定的限制，这就是受限聚类问题。受限聚类问题可以看作是普通聚类问题的推广，而受限聚类问题更有挑战性。常见的受限聚类问题有：公平聚类问题，带容量限制的聚类问题，带噪音的聚类问题等。而且在现实生活中，数据集往往是嘈杂的，并且包含一些异常数据点。在数据分析中，数据集中的异常值往往会严重影响最终的分析结果。如何在聚类的过程中去除噪音点的影响，这就是带噪音的聚类问题。
6.目前，带噪音的数据聚类问题，行业内虽然有对应的聚类方法，但是现有方法聚类精度较差，而且复杂度较高，实际应用时效果较差。


技术实现要素：

7.本发明的目的之一在于提供一种精度较高、可靠性高且实用性好的基于随机采样聚类的带噪音数据分类方法。
8.本发明的目的之二在于提供一种包括了所述基于随机采样聚类的带噪音数据分类方法的用户分类方法。
9.本发明提供的这种基于随机采样聚类的带噪音数据分类方法，包括如下步骤：
10.s1.获取带噪音的待分类数据集；
11.s2.对步骤s1获取的数据集进行随机采样，并将采样得到的数据加入到中心点集，
完成中心点集的初始化；
12.s3.基于贪心算法，对数据集进行迭代处理：每次迭代时，获取距离中心点集最远的若干个数据点，并在获取的数据点中采样部分数据并加入到中心点集中；
13.s4.对中心点集中的数据进行枚举，获取代价最小的若干个数据点作为聚类的中心点；
14.s5.将数据集中的各个数据点，分配到距离自身最近的中心点上，完成基于随机采样聚类的带噪音数据分类。
15.步骤s2所述的对步骤s1获取的数据集进行随机采样，具体包括如下步骤：
16.采用如下算式作为随机采样过程的目标函数
17.max
p∈x
(min
1≤j≤k d(p,cj))
18.式中x为步骤s1获取的数据集中去除噪音点的子集，且z为去除的噪音点的个数，n为步骤s1获取的数据集中所有数据的个数；p为集合x中的数据点；将集合x分为k个簇，ci为所选的第i个中心点集的中心点；d(p,cj)为数据点p到第j个中心点集的中心点cj的距离；随机采样的数据点的个数为其中log()表示以2为底数的对数，η为设定的参数，γ为数据点集中采样到噪音点的概率且z为默认的噪音点的个数，n为数据集大小。
19.所述的步骤s3，具体包括如下步骤：
20.基于贪心算法的思想，每次选取距离中心点集最远的(1 ε)z个数据点；其中ε为设定的参数，z为默认的噪音点的个数；
21.然后随机从(1 ε)z个数据点中选取个数据点，并加入到中心点集中；
22.在迭代过程中进行判断：
23.若在当前轮次的迭代中满足条件d(qj,e)≤2r
opt
，则直接将当前轮次选取的(1 ε)z个数据点作为噪音点，并直接丢弃；其中qj为所选噪音点，e为候选中心集，r
opt
为k-中心的最优半径，d(qj,e)为所选噪音点到候选中心集的距离，该距离被表示为两个数据集的最短距离；
24.若在当前轮次的迭代中不满足条件d(qj,e)≤2r
opt
，则继续进行下一轮次的迭代。
25.步骤s4中所述的代价，具体为采用如下步骤得到代价：
26.以候选中心集中的k个候选中心点为中心点，并将所有数据点分配给距离自己最近的候选中心点；此时，数据集被划分为k个簇，以其中最大簇的半径作为代价值。
27.本发明还提供了一种包括所述基于随机采样聚类的带噪音数据分类方法的用户分类方法，具体包括如下步骤：
28.a.获取原始的用户基本信息；
29.b.将步骤a获取的用户基本信息作为带噪音的待分类数据集；
30.c.采用上述的基于随机采样聚类的带噪音数据分类方法，对待分类数据集进行数据分类；
31.d.根据步骤c得到的分类结果，对用户进行分类；其中，用户分类是按照用户之间的信息差异进行分类，差异采用欧氏距离表示。
32.本发明提供的这种基于随机采样聚类的带噪音数据分类方法及用户分类方法，通过创新的分类步骤和计算方式，不仅实现了带噪音数据的分类，而且分类精度较高，可靠性高，实用性好且算法复杂度较低。
附图说明
33.图1为本发明的分类方法的方法流程示意图。
34.图2为本发明的分类方法在minst数据集下runtime示意图。
35.图3为本发明的分类方法在minst数据集下approximation示意图。
36.图4为本发明的用户分类方法的方法流程示意图。
具体实施方式
37.如图1所示为本发明的分类方法的方法流程示意图：本发明提供的这种基于随机采样聚类的带噪音数据分类方法，包括如下步骤：
38.s1.获取带噪音的待分类数据集；
39.s2.对步骤s1获取的数据集进行随机采样，并将采样得到的数据加入到中心点集，完成中心点集的初始化；随机采样具体包括如下步骤：
40.采用如下算式作为随机采样过程的目标函数
41.max
p∈x
(min
1≤j≤k d(p,cj))
42.式中x为步骤s1获取的数据集中去除噪音点的子集，且z为去除的噪音点的个数，n为步骤s1获取的数据集中所有数据的个数；p为集合x中的数据点；将集合x分为k个簇，ci为所选的第i个中心点集的中心点；d(p,cj)为数据点p到第j个中心点集的中心点cj的距离；随机采样的数据点的个数为其中log()表示以2为底数的对数，η为设定的参数，γ为数据点集中采样到噪音点的概率且z为默认的噪音点的个数，n为数据集大小；
43.通过本步骤的随机采样，至少存在一个不是噪音点的正常点的概率为1-η；同时，在优化目标函数的过程中去除z个噪音点的影响；
44.s3.基于贪心算法，对数据集进行迭代处理：每次迭代时，获取距离中心点集最远的若干个数据点，并在获取的数据点中采样部分数据并加入到中心点集中；具体包括如下步骤：
45.贪心思想基于graham的思想，每一次找到离所选中心点最远的数据点打开，聚类结果可以保证2approximation，每一次迭代需要重新计算两两数据点的距离；
46.因此，本发明的本步骤基于贪心算法的思想，每次选取距离中心点集最远的(1 ε)z个数据点；ε为设定的参数且默认值为0.1，z为默认噪音点的个数；此处的(1 ε)z为噪音问题松弛条件，将刚好移除z个噪音点的条件松弛到可以移除(1 ε)z个噪音点；
47.然后随机从(1 ε)z个数据点中选取个数据点，并加入到中心点集中；
48.在迭代过程中进行判断：
49.若在当前轮次的迭代中满足条件d(qj,e)≤2r
opt
，则直接将当前轮次选取的(1 ε)z个数据点作为噪音点，并直接丢弃；其中qj为所选噪音点，e为候选中心集，r
opt
为k-中心的最优半径，d(qj,e)为所选噪音点到候选中心集的距离，该距离被表示为两个数据集的最短距离；
50.若在当前轮次的迭代中不满足条件d(qj,e)≤2r
opt
，则继续进行下一轮次的迭代；即在迭代的过程中若一直没有出现上一种情况，则可以保证每次迭代选取的候选中心点中存在来自非相同最优簇中的数据点，循环迭代o(k)次就可以让候选中心集中存在k个正常点；
51.s4.对中心点集中的数据进行枚举，获取代价最小的若干个数据点作为聚类的中心点；所述的代价，具体为采用如下步骤得到代价：
52.以候选中心集中的k个候选中心点为中心点，并将所有数据点分配给距离自己最近的候选中心点；此时，数据集被划分为k个簇，以其中最大簇的半径作为代价值；
53.s5.将数据集中的各个数据点，分配到距离自身最近的中心点上，完成基于随机采样聚类的带噪音数据分类。
54.本发明方法的时间复杂度是关于n的线性，准确的打开k个中心点，在k值固定的情况下往往能够以较高的概率(1-λ)获得近似比为3的解。
55.以下结合一个实施例，对本发明方法的效果进行进一步说明：
56.使用真实数据集测试(minst)，该数据集包含60000张图片，每张图片由28
×
28个像素点组成，可以展开成维度为784的一维向量，实验中参数η设置为0.1，ε设置为0.1，图2表示在不同的k值条件下，本发明方法的运行时间，图3表示在不同的k值条件下本发明方法的近似比。实验表明，本发明方法具有一定的稳定性，且在k值较小的情况下可以以很快的速度完成本发明方法。
57.如图4所示为本发明的用户分类方法的方法流程示意图：本发明提供的这种包括上述基于随机采样聚类的带噪音数据分类方法的用户分类方法，具体包括如下步骤：
58.a.获取原始的用户基本信息；
59.b.将步骤a获取的用户基本信息作为带噪音的待分类数据集；
60.c.采用上述的基于随机采样聚类的带噪音数据分类方法，对待分类数据集进行数据分类；
61.d.根据步骤c得到的分类结果，对用户进行分类；其中，用户分类是按照用户之间的信息差异进行分类，差异可以用欧氏距离表示。
62.比如，现有一家银行机构签发信用卡，需要收集用户信息来确认用户是否能够达到发卡的要求，以及确定发卡的额度。但是，银行在进行独立采集随机抽样的时候会出现一些异常的信息，即噪音。噪音一般可以归结为以下两种。
63.输出错误：
64.1.同样的一笔数据，出现了两种不同的评判结果；
65.2.在同样的评判结果下，出现了不同的后续处理过程。
66.输入错误：
67.在收集数据时，由于数据源的随机性出现的错误(比如说，客户在填写信息时出现的误填)。
68.那么，针对该类情况，本发明的用户分类方法则具体包括如下步骤：
69.a.收集原始的用户基本信息；
70.用户基本信息包括年龄，性别，年收入等信息；
71.b.将步骤a获取的用户基本信息作为带噪音的待分类数据集；
72.其中，噪音来源于标记错误(比如应该给客户标记为“不发卡”却最终标记为“发卡”，或者两个数据相同的客户一个标记为“发卡”而另一个标记为“不发卡”)，或者输入错误(比如手机的用户基本信息本身就存在错误)；
73.c.采用上述的基于随机采样聚类的带噪音数据分类方法，对待分类数据集进行数据分类；分类过程中能够找到数据中的噪音点，并丢弃噪音点；将相似情况的客户聚类成同一个簇，游离在各个簇以外的离群值被当作噪音点丢弃
74.d.根据步骤c得到的分类结果，对用户进行分类；
75.经过上述步骤，最终得到去除噪音点的用户分类结果，可以帮助银行人员更好的分析用户结构。