基于多维度混合特征的Android恶意应用检测方法及系统

基于多维度混合特征的android恶意应用检测方法及系统
技术领域
1.本发明涉及应用检测技术领域，尤其涉及一种基于多维度混合特征的 android恶意应用检测方法以及一种基于多维度混合特征的android恶意应用检测系统。


背景技术：

2.随着移动互联网的快速发展，移动应用服务(以下简称“app”)己成为互联网的重要信息传播渠道和公共服务平台。据不完全统计，中国有超过200万个app和330多个移动应用软件分发平台，移动互联网应用服务已成为大众创业、万众创新的重要载体。同时，值得注意的是，虽然移动互联网带来了便利，但应用软件中的木马病毒和恶意程序等有害问题也越来越严重。因此，如何迅速而精准地检测已经存在的恶意应用、还未被标记的恶意应用以及恶意应用程序的衍化版本，依然是当今恶意应用检测所研究的热点方向。
3.目前已有一些基于静态分析的android恶意应用检测方法的研究，但仍存在以下问题：
4.1、传统的基于单一特征的android恶意应用检测方法存在单一特征对于软件类别表征性弱，检测精度低等问题，同时对于不同恶意应用家族检测能力弱，泛化能力不足以及检测误报率较高，因此，有研究指出基于多特征混合的检测方法在检测精度上相比较单一特征的检测方法，其检测准确率更高。
5.2、传统的基于操作码特征的检测方法存在特征维度过高，对于未知应用的检测能力不足，同时未挖掘操作码特征中丰富的语义信息和上下文信息，造成检测结果精度较低。
6.3、传统的特征选择算法分为过滤法，包装法和嵌入法，以上算法存在时间复杂度较高和选取的特征贡献值较低等问题；标准的遗传算法存在收敛速度慢，各算子实现参数复杂和并行机制较弱等问题。
7.4、传统的android恶意应用检测方法在进行特征选择算法对特征数据进行处理后直接输入机器学习分类模型中进行验证，这种模式完全依赖了特征选择算法的有效性，不能保证所选取的特征对于分类结果有较高的贡献值。


技术实现要素：

8.针对上述问题，本发明提供了一种基于多维度混合特征的android恶意应用检测方法及系统，通过在传统的权限特征基础上增加了结合n-gram模型的 bi-gram opcode特征，能够在很大程度上反映android应用程序的真实行为，同时，引入了基于遗传算法的改进特征选择算法fb-saga，不仅考虑了特征子集的数量，还考虑了特征子集在样本集合中出现的频率以及所选特征子集在随机森林模型中的准确率，极大优化了最优特征子集的生成，提高了 android恶意应用检测的分类准确率。
9.为实现上述目的，本发明提供了一种基于多维度混合特征的android恶意应用检测方法，包括：
10.获取android应用数据集，通过反编译手段获取对应android应用的静态特征集
合，所述静态特征集合包括权限特征、api特征和操作码特征；
11.利用n-gram模型对所述静态特征集合进行处理，生成n-gram操作码特征；
12.利用特征选择算法fb-saga，采用基于频繁度的适应度函数对所述n
‑ꢀ
gram操作码特征进行筛选；
13.将筛选得到的特征与预设的敏感权限数据库和敏感api数据库进行比对，保留针对恶意应用具有判别能力的特征集合，并与所述n-gram操作码特征生成特征矩阵；
14.将所述特征矩阵输入已训练完成的机器学习分类模型中进行判别，判定当前android应用是否为恶意应用。
15.在上述技术方案中，优选地，所述机器学习分类模型的训练过程包括：
16.获取样本数据集，并划分为训练集、测试集和验证集；
17.利用训练集分别对rf分类器、gnb分类器、lr分类器和knn分类器进行训练；
18.在模型评估阶段，利用所述测试集对所有分类器的性能进行调参优化与检验；
19.计算各分类器模型输出向量的模糊度，通过所述测试集的优化，使得所述模糊度小于预设阈值，以最小化误差目标构建机器学习分类模型；
20.利用所述验证集验证所述机器学习分类模型针对恶意应用的分类性能。
21.在上述技术方案中，优选地，所述机器学习分类模型根据所述rf分类器、所述gnb分类器、所述lr分类器和所述knn分类器的检测结果，对各分类器的检测结果赋予预设的权值，并采用投票策略对各分类器的检测结果进行综合，作为所述机器学习分类模型的检测结果。
22.在上述技术方案中，优选地，所述利用n-gram模型对所述静态特征集合进行处理生成n-gram操作码特征的具体过程包括：
23.利用基于指令相似度的40类dalivik指令分类规则，对所述静态特征集合进行分类；
24.利用bi-gram模型，对分类后的静态特征进行处理，输出bi-gram操作码特征。
25.在上述技术方案中，优选地，所述特征选择算法fb-saga中，基于频繁度的适应度函数为fitness函数，所述fitness函数随迭代数动态调整，使得迭代运行后期保持最优个体和其他个体间的适应度差率；
26.所述fitness为：
[0027][0028][0029]
其中，xi表示第i个个体，li表示对应x_i的特征子集，f(li)表示高斯朴素贝叶斯算法分类准确率，num(s)表示正确预测的样本数量，∑s表示所选择的样本总数，n表示所选择的特征数，n表示数据集中特征总数，α和β分别取 0.99和0.01，系数c
min
为常量值，取经验输入值或f(li)的最小值。
[0030]
在上述技术方案中，优选地，所述敏感权限数据库为将恶意应用程序中的权限特征删除良性应用程序中权限特征得到，所述敏感api数据库为将恶意应用程序中的api特征删除良性应用程序中api特征得到；
[0031]
所述将筛选得到的特征与预设的敏感权限数据库和敏感api数据库进行比对保留针对恶意应用具有判别能力的特征集合的具体过程包括：
[0032]
将筛选得到的特征与所述敏感权限数据库和所述敏感api数据库进行比对，删除所述敏感权限数据库和所述敏感api数据库中不存在的特征，保留所述敏感权限数据库和所述敏感api数据库中存在的特征。
[0033]
在上述技术方案中，优选地，所述通过反编译手段获取对应android应用的静态特征集合的具体过程包括：
[0034]
通过androguard逆向反编译工具对所述android应用数据集进行反编译操作，获取配置文件；
[0035]
通过对所述配置文件进行分别解析，得到所述android应用数据集的应用权限信息、api信息和操作码信息，并生成静态特征矩阵，作为所述静态特征集合。
[0036]
本发明还提出一种基于多维度混合特征的android恶意应用检测系统，应用如上述技术方案中任一项公开的基于多维度混合特征的android恶意应用检测方法，包括：
[0037]
特征生成模块，用于获取android应用数据集，并通过反编译手段获取对应android应用的静态特征集合，所述静态特征集合包括权限特征、api特征和操作码特征；
[0038]
特征处理模块，用于利用n-gram模型对所述静态特征集合进行处理，生成n-gram操作码特征；
[0039]
特征选择模块，用于利用特征选择算法fb-saga，采用基于频繁度的适应度函数对所述n-gram操作码特征进行筛选；
[0040]
分析对比模块，用于将筛选得到的特征与预设的敏感权限数据库和敏感 api数据库进行比对，保留针对恶意应用具有判别能力的特征集合，并与所述 n-gram操作码特征生成特征矩阵；
[0041]
结果输出模块，用于将所述特征矩阵输入已训练完成的机器学习分类模型中进行判别，判定当前android应用是否为恶意应用。
[0042]
在上述技术方案中，优选地，基于多维度混合特征的android恶意应用检测系统还包括机器学习模块，所述机器学习模块具体用于：
[0043]
获取样本数据集，并划分为训练集、测试集和验证集；
[0044]
利用训练集分别对rf分类器、gnb分类器、lr分类器和knn分类器进行训练；
[0045]
在模型评估阶段，利用所述测试集对所有分类器的性能进行调参优化与检验；
[0046]
计算各分类器模型输出向量的模糊度，通过所述测试集的优化，使得所述模糊度小于预设阈值，以最小化误差目标构建机器学习分类模型；
[0047]
利用所述验证集验证所述机器学习分类模型针对恶意应用的分类性能。
[0048]
在上述技术方案中，优选地，所述特征处理模块具体用于：
[0049]
利用基于指令相似度的40类dalivik指令分类规则，对所述静态特征集合进行分类；
[0050]
利用bi-gram模型，对分类后的静态特征进行处理，输出bi-gram操作码特征。
[0051]
与现有技术相比，本发明的有益效果为：
[0052]
1、本发明提出的基于权限特征，api调用特征和bi-gram opcode特征的检测方法，在保留传统的权限特征基础上，引入了api特征和bi-gram opcode 特征，对于具有不同恶
意行为的恶意软件具有较高的检测准确率和较低的误报率。
[0053]
2、本发明在android恶意应用检测方法中引入bi-gram opcode特征，通过结合操作码(operation code)特征和自然语言处理的n-gram模型来提取操作码特征，n-gram序列为提取操作码特征提供了重要的上下文信息，通过本发明提出的特征选择算法fb-saga实现了对操作码特征的有效降维，结合机器学习分类模型能够有效提高对未知应用的检测能力。
[0054]
3、本发明在android恶意应用检测领域引入了基于遗传算法的特征选择算法fb-saga，该算法优势在于通过保留了传统遗传算法的选择，交叉和变异算子，通过改变种群规模保证了算法的全局搜索能力，并能够根据不同的种群规模寻找解决特征选择问题的最优变异概率数值；通过极大化目标候选特征和特征集合的关联性，极小化目标候选特征和特征子集之间的信息冗余，把控各特征子集之间的关联程度，有效提高了分类算法效率。
[0055]
4、本发明所提出的机制在传统的检测方法流程基础上添加了分析对比模块，在对特征数据进行特征选择之后对输出的特征集合与本发明自构建的敏感权限数据库和敏感api数据库进行交叉对比，进一步筛掉无用特征和冗余特征，弥补了特征选择模块存在的一些缺陷，提高了分类结果的准确度。。
附图说明
[0056]
图1为本发明一种实施例公开的基于多维度混合特征的android恶意应用检测方法的流程框架示意图；
[0057]
图2为本发明一种实施例公开的基于多维度混合特征的android恶意应用检测方法的特征生成过程示意图；
[0058]
图3为本发明一种实施例公开的基于多维度混合特征的android恶意应用检测方法的特征处理过程示意图；
[0059]
图4为本发明一种实施例公开的基于多维度混合特征的android恶意应用检测方法的特征选择过程示意图；
[0060]
图5为本发明一种实施例公开的fb-saga特征选择算法的流程示意图；
[0061]
图6为本发明一种实施例公开的基于多维度混合特征的android恶意应用检测方法的特征分析对比过程示意图；
[0062]
图7为本发明一种实施例公开的机器学习分类模型的机器学习过程示意图；
[0063]
图8为本发明一种实施例公开的基于多维度混合特征的android恶意应用检测方法的结果输出过程示意图；
[0064]
图9为本发明一种实施例公开的基于多维度混合特征的android恶意应用检测系统的模块示意图。
[0065]
图中，各组件与附图标记之间的对应关系为：
[0066]
11.特征生成模块，12.特征处理模块，13.特征选择模块，14.分析对比模块， 15.结果输出模块，16.机器学习模块。
具体实施方式
[0067]
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例
中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。
[0068]
下面结合附图对本发明做进一步的详细描述：
[0069]
如图1所示，根据本发明提供的一种基于多维度混合特征的android恶意应用检测方法，包括：
[0070]
获取android应用数据集，通过反编译手段获取对应android应用的静态特征集合，静态特征集合包括权限特征、api特征和操作码特征；
[0071]
利用n-gram模型对静态特征集合进行处理，生成n-gram操作码特征；
[0072]
利用特征选择算法fb-saga，采用基于频繁度的适应度函数对n-gram 操作码特征进行筛选；
[0073]
将筛选得到的特征与预设的敏感权限数据库和敏感api数据库进行比对，保留针对恶意应用具有判别能力的特征集合，并与n-gram操作码特征生成特征矩阵；
[0074]
将特征矩阵输入已训练完成的机器学习分类模型中进行判别，判定当前 android应用是否为恶意应用。
[0075]
在该实施方式中，通过在传统的权限特征基础上增加了结合n-gram模型的bi-gram opcode特征，能够在很大程度上反映android应用程序的真实行为，同时，引入了基于遗传算法的改进特征选择算法fb-saga，不仅考虑了特征子集的数量，还考虑了特征子集在样本集合中出现的频率以及所选特征子集在随机森林模型中的准确率，极大优化了最优特征子集的生成，提高了 android恶意应用检测的分类准确率。
[0076]
如图2所示，具体地，安卓软件按照是否存在恶意代码或恶意行为分为良性软件和恶意软件，首先，处理收集的安卓软件数据集，判断输入文件的格式是否是apk文件，再通过androguard逆向反编译工具对android应用数据集进行反编译操作，获取配置文件，包括权限特征、api特征和操作码特征；通过对配置文件进行分别解析，得到android应用数据集的应用权限信息、 api信息和操作码信息，并生成静态特征矩阵，作为静态特征集合。
[0077]
其中，androguard是使用python编写的逆向工具，该工具具备良好的可拓展性和跨平台性。它可将待反编译apk文件解压缩得到文件，类和方法等，并映射为python对象。首先调用androguard工具包中的androlyze.py文件，再调用获取权限方法，获取良性应用和恶意应用样本文件中的配置清单文件中，通过逆向反编译dex文件，得到smali格式文件；并使用androguard静态逆向分析工具包中的获取api方法得到应用程序调用api信息，所获取的api 包括第三方库中的api和用户自定义api，java环境自带的api以及sdk中的api，本发明摒弃前两者api信息，选用sdk中的api信息作为选取的 api特征。
[0078]
如图3所示，在上述实施方式中，优选地，利用n-gram模型对静态特征集合进行处理生成n-gram操作码特征的具体过程包括：
[0079]
利用基于指令相似度的40类dalivik指令分类规则，对静态特征集合进行分类；
[0080]
利用bi-gram模型，对分类后的静态特征进行处理，输出bi-gram操作码特征。
[0081]
具体地，操作码特征来源于smali文件中的dalvik指令，dalvik指令包含了操作码和操作数。传统的dalvik指令分类规则按功能分为14类，后来有研究人员进行了分类和精简，去除了一些指令，最终只保留了七大类核心指令集合，分别是m，r，g，i，t，p，v。该分类规
则虽然精简了dalvik指令，但是由于对dalvik指令集合的删减较多，在很大程度上破坏了dalvik指令序列的完整性和一致性。本发明在该基础上进一步细分，提出了基于指令相似度的 40类dalvik指令分类规则，再使用bi-gram模型将输入的操作码序列生成bi
‑ꢀ
gram opcode序列集合，并最终生成融合静态特征集合。具体做法是，对特征生成模块输出的操作码序列，按照本发明提出的40类dalvik指令分类规则进行分类，例如move-result v0；return-object p0；iget-object v0,p0
…
经过分类规则处理，输出“moveres,return,iget
…”
；再经由n-gram模型处理，所输出最终序列为“movers,return/iget
…”
。
[0082]
如图4所示，在机器学习分类领域中，分类的准确性常常等同于适应度函数。但是，在特征选择问题上，适应度函数的定义既要考虑分类结果的准确率，还要兼顾特征子集的数量。为了解决传统适应度函数在算法执行迭代过程中恒定不变，造成算法提前收敛到局部最优解，导致早熟现象，难以准确体现种群中个体差异和选择操作的作用，所选择的特征集合对于分类模型的优化帮助达不到预期效果，本发明设计一种新的特征选择算法fb-saga，使用基于频繁度的适应度函数来完成从初始数据集中选择关联度最高的前k个特征过程。本发明设计的适应度函数考虑到算法运行后期，随着种群集中性增加，算法逐渐趋于收敛，个体之间差异逐渐缩小，若适应度函数恒定不变，这将导致选择算子失去作用，退化为随机选择。因此本发明提出的适应度函数可随迭代数动态调整，其非线性增长方式可在一定程度上克服这种退化现象，使算法即使在迭代运行后期也能保持最优个体和其他个体间适应度差率，维持个体间较高竞争力。
[0083]
如图5所示，具体地，在上述实施方式中，优选地，特征选择算法fb
‑ꢀ
saga中，基于频繁度的适应度函数为fitness函数；
[0084]
fitness为：
[0085][0086][0087]
其中，xi表示第i个个体，li表示对应x_i的特征子集，f(li)表示高斯朴素贝叶斯算法分类准确率，num(s)表示正确预测的样本数量，∑s表示所选择的样本总数，n表示所选择的特征数，n表示数据集中特征总数，α和β分别取 0.99和0.01，系数c
min
为常量值，该常量必须与种群特征无关，可取经验输入值或f(li)的最小值，优选地，选取c
min
的值为高斯朴素贝叶斯算法准确率最小值。
[0088]
如图6所示，在上述实施方式中，优选地，敏感权限数据库为将恶意应用程序中的权限特征删除良性应用程序中权限特征得到，敏感api数据库为将恶意应用程序中的api特征删除良性应用程序中api特征得到；
[0089]
在此基础上，将筛选得到的特征与敏感权限数据库和敏感api数据库进行比对，删除敏感权限数据库和敏感api数据库中不存在的特征，保留敏感权限数据库和敏感api数据库中存在的特征，最后，输出经过分析对比后的权限特征和api特征，然后和bi-gram opcode特征生成特征矩阵。
[0090]
如图7所示，在上述实施方式中，通过对分类模型进行训练得到对恶意应用特征识
别度较高的机器学习分类模型的模型参数，学习恶意应用的恶意行为模式达到分类目的。优选地，机器学习分类模型的训练过程包括：
[0091]
获取样本数据集，并划分为训练集、测试集和验证集；
[0092]
利用训练集分别对rf分类器、gnb分类器、lr分类器和knn分类器进行训练；
[0093]
在模型评估阶段，利用测试集对所有分类器的性能进行调参优化与检验；
[0094]
计算各分类器模型输出向量的模糊度，通过测试集的优化，使得模糊度小于预设阈值，以最小化误差目标构建机器学习分类模型；
[0095]
利用验证集验证机器学习分类模型针对恶意应用的分类性能。
[0096]
在该实施方式中，针对模糊度优选采用的阈值为0.4，以得到最优的分类器模型。
[0097]
具体地，在模糊数学领域，具有某个模糊概念所描述的属性的对象全体成为模糊集，模糊度则反映了一个模糊集的模糊程度。对于给定的模糊集 u＝{u1,u2,u3,...,un，模糊度的计算公式为：
[0098][0099]
理论上来说，模糊度越大，该模糊集的不确定性越大。在分类任务中，分类器的输出类似一个模糊向量，向量中的每个元素代表了相应类的隶属程度。假设n个样本的数据集，类别数为c，分类器对每个样本都会产生一个输出向量ui＝{u
i1
,u
i2
,u
i3
,...,u
ic
}，其模糊度计算公式为：
[0100][0101]
其中，u
ij
表示了第i个样本对应第j类的隶属程度。
[0102]
如图8所示，在上述实施方式中，优选地，机器学习分类模型根据rf分类器、gnb分类器、lr分类器和knn分类器的检测结果，对各分类器的检测结果赋予预设的权值，并采用投票策略对各分类器的检测结果进行综合，作为机器学习分类模型的检测结果。
[0103]
具体地，不同的机器学习分类模型有着不同的性能表现，本发明方法采用 rf，gnb，lr和knn四种机器学习分类模型的检测结果综合评判android 应用程序的分类结果，在投票策略阶段，通过给分类器检测结果加权的做法提高分类可信度，通过加权平均的方法得到最终检测结果，具体做法是四类机器学习分类模型rf，gnb，lr和knn分别对输入的待检测样本进行检测分析，得到分类结果，给每个分类器不同的权值，检测精度较低的机器学习分类模型适用较高权值，而检测精度较高的机器学习分类模型适用较低权值。各机器学习算法分类模型将通过训练集学习到应用程序的权限特征，api特征和 bi-gram opcode特征出现的频率，并将模型输出向量的确信度高于预设阈值的特征作为恶意应用判定特征，该预设阈值可根据经验设置为δ，即检测结果确信度大于δ才可输出判别结果，否则直接结束。在测试集中测试机器学习模块训练好的机器学习分类模型，机器学习分类模型输出分析结果，分析结果是恶意软件或良性软件。
[0104]
此外，与机器学习模块提到的模糊度概念相反，确信度用来衡量分类器对分类结果的确定程度。对于一个二分类的输出向量u＝{u0,u1}，其确信度计算公式如下：
[0105]
c(u)＝1-f(u)
[0106]
其中，f(u)表示该向量对应的模糊度：
[0107][0108]
如图9所示，本发明还提出一种基于多维度混合特征的android恶意应用检测系统，应用如上述实施方式中任一项公开的基于多维度混合特征的 android恶意应用检测方法，包括：
[0109]
特征生成模块11，用于获取android应用数据集，并通过反编译手段获取对应android应用的静态特征集合，静态特征集合包括权限特征、api特征和操作码特征；
[0110]
特征处理模块12，用于利用n-gram模型对静态特征集合进行处理，生成 n-gram操作码特征；
[0111]
特征选择模块13，用于利用特征选择算法fb-saga，采用基于频繁度的适应度函数对n-gram操作码特征进行筛选；
[0112]
分析对比模块14，用于将筛选得到的特征与预设的敏感权限数据库和敏感api数据库进行比对，保留针对恶意应用具有判别能力的特征集合，并与 n-gram操作码特征生成特征矩阵；
[0113]
结果输出模块15，用于将特征矩阵输入已训练完成的机器学习分类模型中进行判别，判定当前android应用是否为恶意应用。
[0114]
在该实施方式中，通过在传统的权限特征基础上增加了结合n-gram模型的bi-gram opcode特征，能够在很大程度上反映android应用程序的真实行为，同时，引入了基于遗传算法的改进特征选择算法fb-saga，不仅考虑了特征子集的数量，还考虑了特征子集在样本集合中出现的频率以及所选特征子集在随机森林模型中的准确率，极大优化了最优特征子集的生成，提高了 android恶意应用检测的分类准确率。
[0115]
在上述实施方式中，优选地，基于多维度混合特征的android恶意应用检测系统还包括机器学习模块16，机器学习模块16具体用于：
[0116]
获取样本数据集，并划分为训练集、测试集和验证集；
[0117]
利用训练集分别对rf分类器、gnb分类器、lr分类器和knn分类器进行训练；
[0118]
在模型评估阶段，利用测试集对所有分类器的性能进行调参优化与检验；
[0119]
计算各分类器模型输出向量的模糊度，通过测试集的优化，使得模糊度小于预设阈值，以最小化误差目标构建机器学习分类模型；
[0120]
利用验证集验证机器学习分类模型针对恶意应用的分类性能。
[0121]
在上述实施方式中，优选地，特征处理模块12具体用于：
[0122]
利用基于指令相似度的40类dalivik指令分类规则，对静态特征集合进行分类；
[0123]
利用bi-gram模型，对分类后的静态特征进行处理，输出bi-gram操作码特征。
[0124]
根据上述实施方式提出的基于多维度混合特征的android恶意应用检测方法及系统，具有以下优势：
[0125]
1、本发明提出的基于权限特征，api调用特征和bi-gram opcode特征的检测方法，在保留传统的权限特征基础上，引入了api特征和bi-gram opcode 特征，对于具有不同恶意行为的恶意软件具有较高的检测准确率和较低的误报率。
[0126]
2、本发明在android恶意应用检测方法中引入bi-gram opcode特征，通过结合操
作码(operation code)特征和自然语言处理的n-gram模型来提取操作码特征，n-gram序列为提取操作码特征提供了重要的上下文信息，通过本发明提出的特征选择算法fb-saga实现了对操作码特征的有效降维，结合机器学习分类模型能够有效提高对未知应用的检测能力。
[0127]
3、本发明在android恶意应用检测领域引入了基于遗传算法的特征选择算法fb-saga，该算法优势在于通过保留了传统遗传算法的选择，交叉和变异算子，通过改变种群规模保证了算法的全局搜索能力，并能够根据不同的种群规模寻找解决特征选择问题的最优变异概率数值；通过极大化目标候选特征和特征集合的关联性，极小化目标候选特征和特征子集之间的信息冗余，把控各特征子集之间的关联程度，有效提高了分类算法效率。
[0128]
4、本发明所提出的机制在传统的检测方法流程基础上添加了分析对比模块14，在对特征数据进行特征选择之后对输出的特征集合与本发明自构建的敏感权限数据库和敏感api数据库进行交叉对比，进一步筛掉无用特征和冗余特征，弥补了特征选择模块13存在的一些缺陷，提高了分类结果的准确度。
[0129]
以上仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。