一种基于跟踪微分器的极限学习机的图像分类方法

1.本发明属于基于机器学习算法优化的图像分类技术领域，具体涉及一种基于跟踪微分器的极限学习机的图像分类方法。


背景技术：

2.随着图像识别技术的不断发展，机器学习作为解决人工智能问题的一类主流方法，被广泛应用于各领域图像识别中，并不断地进行创新。跟踪微分器(tracking differentiator，td)是控制中一种常用手段，可以帮助研究人员获取某个信号的微分信息。极限学习机(extreme learning machine，elm)是一种单隐藏层的前馈神经网络算法，由于其结构简单、训练时输入权重和偏差可以随机产生以及通过求解线性方程组的最小范数解来确定输出权重的特点，elm算法相较于许多传统算法可以在保证学习准确率的基础上拥有更快的训练速度，被广泛的应用于图像识别领域。
3.然而，elm算法求解输出权重矩阵采用moore-penrose广义逆的方法有一定的缺陷，该方法会导致运算时间过长以及部分情况下图像分类准确率较低。


技术实现要素：

4.有鉴于此，本发明提供了一种基于跟踪微分器的极限学习机的图像分类方法，能够有效提高图像分类的准确率。
5.本发明提供的一种基于跟踪微分器的极限学习机的图像分类方法，包括以下步骤：
6.步骤1、对采集到的图像数据进行数据预处理得到图像数据集，所述图像数据集中的元素记为：(x,t)，其中，x为图像的特征向量，x＝[x1,x2,
···
,xm]
t
∈r，m为特征维数；t为图像的标签向量，t＝[t1,t2,
···
,t
l
]
t
∈r，l为标签维度；将所述图像数据集划分为测试集和训练集；
[0007]
步骤2、结合跟踪微分器与极限学习机算法，构建基于td-elm的图像识别模型，所述图像识别模型的网络结构由m维的输入层、含有n个节点的隐藏层及含有l个节点的输出层组成，如公式(1)所示：
[0008][0009]
其中，wi＝[w
i1
,w
i2
,
···
,w
im
]
t
表示连接第i个隐藏层节点与输入层节点的输入权重向量，βi＝[β
i1
,β
i2
,
···
,β
il
]为连接第i个隐藏层节点与输出层节点的输出权重矩阵，bi为第i个隐藏层节点的偏置矩阵，g(w,x,b)为激活函数；所述输入权重矩阵和偏置矩阵均为随机生成；
[0010]
步骤3、采用所述步骤1生成的所述训练集，利用基于跟踪微分器的算法求解输出权重矩阵，完成对所述图像识别模型的训练；
[0011]
步骤4、应用中，将待分类图像的特征向量输入所述步骤3训练得到的所述图像识
别模型，即可得到所述待分类图像的类型。
[0012]
进一步地，所述步骤3中，利用基于跟踪微分器的算法求解输出权重矩阵，完成对所述图像识别模型的训练，包括以下步骤：
[0013]
步骤3.1、选定包含m个样本的训练集，记为：(xi,ti),i＝1,2,
···
m，其中xi＝[x
i1
,x
i2
,
···
,x
im
]
t
∈r，ti＝[t
i1
,t
i2
,
···
,t
il
]
t
∈r；将所述训练集输入所述图像识别模型；
[0014]
步骤3.2、设置跟踪微分器的基本参数，给定初始值β0，计算所需的相关参数β1(k)，β2(k)，y1(k)，y2(k)；
[0015]
步骤3.2、基于跟踪微分器计算出参数β3(k)与y3(k)，迭代更新得到输出权重矩阵β，其中，β＝[β1,β2,
···
,βn]
t
；
[0016]
步骤3.4、使用所述测试集对所述图像识别模型进行测试，若所述图像识别模型的准确率达标，则完成所述图像识别模型的训练；否则，执行步骤3.1。
[0017]
进一步地，所述图像数据集中图像的特征向量均经过归一化处理。
[0018]
有益效果：
[0019]
本发明通过将跟踪微分器与极限学习机算法相结合，在求解输出权重矩阵的时候利用不同算子以及跟踪微分器原理对输出权重矩阵进行迭代更新，不断得到矩阵方程的更优解。在保留传统极限学习机网络结构简单与随机生成参数等特点的同时，可以在图像识别方面具有更好的训练精度，并且模型训练耗费时间更少，这为机器学习算法及图像识别的改进优化提供了新思路和新途径。
具体实施方式
[0020]
下面列举实施例，对本发明进行详细描述。
[0021]
本发明提供了一种基于跟踪微分器的极限学习机的图像识别方法，其基本思想是：通过利用跟踪微分器的方法对极限学习机中的输出权重矩阵进行迭代求解，从而完成建模，利用图像构建的训练集完成对算法模型的训练，采用训练得到的图像识别模型实现对图像的分类。
[0022]
本发明提供了一种基于跟踪微分器的极限学习机的图像识别方法，具体步骤如下：
[0023]
步骤1、采集得到图像数据集，对图像数据进行数据预处理得到图像的特征向量，并确定图像的标签，图像数据集中的元素记为：(x,t)，其中，x为图像的特征向量，x＝[x1,x2,
···
,xm]
t
∈r，m为特征维数；t为图像的标签向量，t＝[t1,t2,
···
,t
l
]
t
∈r，l为标签维度。将图像数据集按照一定比例划分为测试集和训练集，并将图像的特征向量经过归一化标准化处理。
[0024]
步骤2、结合跟踪微分器与极限学习机算法，构建基于跟踪微分器的极限学习机的图像识别模型，极限学习机的网络结构由m维的输入层、含有n个节点的隐藏层及含有l个节点的输出层组成，如下式所示：
[0025][0026]
其中，wi＝[w
i1
,w
i2
,
···
,w
im
]
t
表示连接第i个隐藏层节点与输入层节点的输入
权重向量，βi＝[β
i1
,β
i2
,
···
,β
il
]为连接第i个隐藏层节点与输出层节点的输出权重矩阵，bi为第i个隐藏层节点的偏置矩阵，g(w,x,b)为激活函数。输入权重矩阵和偏置矩阵均为随机生成。
[0027]
步骤3、采用步骤1生成的训练集完成对基于跟踪微分器的极限学习机的图像识别模型的训练。
[0028]
对于包含m个样本的训练集(xi,ti),i＝1,2,
···
m，其中xi＝[x
i1
,x
i2
,
···
,x
im
]
t
∈r，ti＝[t
i1
,t
i2
,
···
,t
il
]
t
∈r，为了便于模型的求解，将公式(1)变换为公式(2)所示：
[0029]
hβ＝t
ꢀꢀꢀꢀ
(2)
[0030]
其中，β＝[β1,β2,
···
,βn]
t
；t＝[t1,t2,
···
,tm]
t
；h为隐藏层输出矩阵，表示为：
[0031][0032]
由此通过求解线性矩阵方程(2)即可得到输出权重的最小二乘解。本发明中，利用基于跟踪微分器的方法求解输出权重矩阵。
[0033]
定义优化目标y(k)如下：
[0034]
y(k)＝||hβ(k)-t||2 ||β(k)||2ꢀꢀꢀꢀꢀ
(3)
[0035]
步骤3.1、初始时，记β0为β(k)，设置循环次数为tm。
[0036]
并按公式(4)(5)(6)(7)分别计算出所需参数。
[0037]
β1(k)＝sin[β(k)]
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)
[0038]
β2(k)＝cos[β(k)]
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(5)
[0039]
y1(k)＝sin[y(k)]
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(6)
[0040]
y2(k)＝cos[y(k)]
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(7)
[0041]
步骤3.2、设置td相关参数h,r，按照下式计算得到β3(k)：
[0042]
a0＝2hβ2(k)
[0043][0044][0045][0046][0047]
β3(k)＝β2(k) h
×
fh
[0048]
步骤3.3、按照下式计算得到y3(k)：
[0049]
b0＝2hy2(k)
[0050][0051][0052][0053][0054]
y3(k)＝y2(k) h
×
fh'
[0055]
步骤3.4、设置合适的参数λ，并将该步骤循环执行tm次。
[0056]
β(k)
←
β(k 1)
[0057]
步骤4、应用中，将待分类图像的特征向量输入步骤3训练得到的基于跟踪微分器的极限学习机的图像识别模型，即可得到待分类图像所属的类型。
[0058]
本方法已经用多个经典图像数据集进行分类测试。实验结果表明，该算法与极限学习机、正则化极限学习机以及支持向量机等相比，具有更高的识别准确度和更好的泛化能力。同时，该算法相较于几种常用神经网络算法在能够保证较好准确率的前提下极大的减少训练耗费时间。
[0059]
综上所述，以上仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。