一种基于多任务学习的超声图像多分类方法与流程

1.本发明涉及医学超声图像分类技术领域，特别涉及一种基于多任务学习的超声图像多分类方法。


背景技术：

2.超声检测图像具有数据量大、类型众多且复杂的特点，如乳腺超声检测图像，可能是正常、乳腺纤维腺瘤、乳腺腺病、浸润性导管癌、浸润性微乳头状瘤、导管内乳头状瘤等等近11种分类；另一方面，在超声图像分类的过程中，往往是先需要分别图像是正常或是不正常，然后再判断是哪一种疾病，这是一个典型的多分类任务。
3.多任务学习(multitask learning,mtl)是并行地学习多个任务，同时使用从每个任务中学习到的共享知识，以帮助更好地学习其他任务，学习多个相关任务已被证明比单独学习每个任务更有效。多任务学习方法可以与每个任务共享共同的特征表示以学习更好的分类器，以提高整体任务的分类准确度。
4.贝叶斯多项式回归算法(bayesian multinomial regression)在进行分类决策时评估多类别的概率估计，该算法能够考虑不同错误识别的相对成本，并根据成本动态调整错误类型，而无需重新培训模型。此外，关于训练多项逻辑回归模型的贝叶斯多项式回归算法可以将训练数据和领域知识结合起来，模型简单，且能够获取多任务学习中每个任务的特定参数和所有任务共有的模型参数。
5.尽管国内外有学者对已经对超声图像分类展开了研究，但是有两个主要问题是这些研究成果投入真正应用的阻碍：第一，大多数现有的超声图像分类方法集中在面对每种不同疾病的单独分类，没有将所有任务集合在一起作为多任务，以提高整体的分类准确度；第二，在超声图像分类中，每个单独区分阳性阴性的任务中标注数据有限，且有的疑难杂症疾病图像数据较少，忽略已有的有标签数据会导致整个超声图像分类方法性能下降。


技术实现要素：

6.本发明的目的是克服现有技术缺陷，提供一种基于多任务学习的超声图像多分类方法，结合深度学习和多任务学习的特点，将所有数据集进行组合以提高泛化性能，并利用超声图像数据集中已有的部分有标签数据，提升了超声图像数据集的分类准确度。
7.本发明的目的是这样实现的：一种基于多任务学习的超声图像多分类方法，包括以下步骤：
8.步骤1)设计和实现贝叶斯多项式回归算法，并将同时包括有标签和无标签的超声图像数据集作为输入，学习得到每个任务的特定参数和所有任务共有的模型参数；
9.步骤2)构建叠加重构独立成分分析模型对输入的图像特征表示做训练；
10.步骤3)构建半监督多任务学习框架，对多任务的图像特征表示进行进一步优化；
11.步骤4)在最终学习得到的特征表示的基础上，用逻辑回归模型在有标签的超声图像数据集上训练分类器，并在无标签的超声图像数据集上得到分类结果。
12.进一步的，所述步骤1)具体包括：
13.步骤1
‑
1)将输入的超声图像数据集表示为其中t是所有任务的数量，是输入的图像数据，是数据标签集，c是标签的数量，n
tl
是有标签的数据数量，n
tu
是无标签的数据数量；先通过贝叶斯多项式回归算法，学习得到每个任务的特定参数θ
t
和所有任务共有的模型参数θ0；
14.步骤1
‑
2)将学习得到的θ
t
和θ0传入到步骤3)中。
15.进一步的，所述步骤2)具体包括：
16.步骤2
‑
1)构建叠加重构独立成分分析模型，其代价函数如公式(1)所示：
[0017][0018]
其中，w为权重矩阵，w
t
为w的转置矩阵，λ为超参数；
[0019]
步骤2
‑
2)对代价函数式(1)求关于权重矩阵w的偏导，如公式(2)所示：
[0020][0021]
其中ε是一个极小的常数；
[0022]
步骤2
‑
3)利用随机梯度下降算法，迭代计算权重矩阵w，得到训练完成的叠加重构独立成分分析模型。
[0023]
进一步的，所述步骤3)具体包括：
[0024]
步骤3
‑
1)构建半监督多任务学习框架，将步骤2
‑
3)得到的权重矩阵w代入中，得到的隐藏层输出记为ξ
t
，半监督多任务学习框架的目标函数如公式(3)所示：
[0025][0026]
其中，α和β是超参数，用于平衡公式(3)各项的影响，θ
t
和θ0是步骤1
‑
2)得到的每个任务的特定参数和所有任务共有的模型参数，w1和w2分别表示框架中两层的权重矩阵；
[0027]
表示引入标签信息的softmax回归算法的代价函数，其中，θ
tj
分别表示每个任务的特定模型参数，θ
0j
表示所有任务共享的模型公共参数，1{y
ti
＝j}是指示函数，当语句y
ti
＝j为true时，它等于1，否则它等于0；
[0028]
表示正则化多任务学习算法的目标
函数，其中λ1和λ2是积极的正则化参数；
[0029]
j3(w1,w2)＝||w1||2 ||w2||2表示模型权重矩阵w1和w2的约束项；
[0030]
步骤3
‑
2)迭代求解半监督多任务学习框架，关于模型参数θ
tj
、θ
0j
和权重矩阵w1、w2的偏导数计算公式如(4)
‑
(7)所示：
[0031][0032][0033][0034][0035]
根据公式(4)
‑
(7)，按照公式(8)迭代计算θ
tj
、θ
0j
和w1、w2：
[0036][0037]
其中，η是步长，它决定了收敛速度。
[0038]
进一步的，所述步骤4)具体包括：
[0039]
步骤4
‑
1)将步骤3
‑
2)得到的权重矩阵w1和w2代入中，得到的最终输出特征表示为用超声图像数据集中已有标签的数据作为训练集，将训练集的特征表示为训练逻辑回归分类器，其目标函数可以表示为公式(9)：
[0040][0041]
其中，为sigmoid函数；
[0042]
步骤4
‑
2)用训练完成的分类器对测试超声图像数据集分类，同训练集将测试集的特征表示为并代入公式(9)训练完成的分类器获得分类结果t
test
如公式(10)所示：
[0043][0044]
本发明采用以上技术方案与现有技术相比，有益效果为：
[0045]
1)本发明基于叠加重构独立成分分析模型学习超声图像数据的特征向量，训练阶段所有任务中的组合数据可以更好地跨越整个特征空间，并在特征子空间中只选择少量的数据点，有效地克服了过拟合问题；
[0046]
2)本发明基于深度学习框架，有效的利用了超声图像数据中的部分有标签数据，通过半监督多任务学习框架，学习多任务中更抽象和更鲁棒的的图像特征表示；
[0047]
3)本发明在现有的深度学习框架中进行了优化，面向多任务学习的超声图像多分类，每个层次只需优化一个参数，大大降低了计算成本。
附图说明
[0048]
图1本发明的总体框架图。
具体实施方式
[0049]
如图1所示的一种基于多任务学习的超声图像多分类方法，包括：
[0050]
步骤1)设计和实现贝叶斯多项式回归算法，并将同时包括有标签和无标签的超声图像数据集作为输入，超声图像数据集包含正常特征、乳腺炎、癌症等多个类，学习得到每个任务的特定参数和所有任务共有的模型参数；
[0051]
步骤2)构建叠加重构独立成分分析模型对输入的图像特征表示做训练；
[0052]
步骤3)构建半监督多任务学习框架，对多任务的图像特征表示进行进一步优化；
[0053]
步骤4)在最终学习得到的特征表示的基础上，用逻辑回归模型在有标签的超声图像数据集上训练分类器，并在无标签的超声图像数据集上得到分类结果。
[0054]
该方法具体按如下步骤进行：
[0055]
步骤1)设计和实现贝叶斯多项式回归算法，并将同时包括有标签和无标签的超声图像数据集作为输入，其中超声图像数据集包含正常特征、乳腺炎、癌症等多个类，学习得到每个任务的特定参数和所有任务共有的模型参数；
[0056]
步骤1
‑
1)将输入的超声图像数据集表示为其中t是所有任务的数量，是输入的图像数据，是数据标签集，c是标签的数量，n
tl
是有标签的数据数量，n
tu
是无标签的数据数量；先通过贝叶斯多项式回
归算法(bayesian multinomial regression)，学习得到每个任务的特定参数θ
t
和所有任务共有的模型参数θ0；
[0057]
步骤1
‑
2)将学习得到的θ
t
和θ0传入到步骤3)中。
[0058]
步骤2)构建叠加重构独立成分分析模型对输入的图像特征表示做训练；
[0059]
步骤2
‑
1)构建叠加重构独立成分分析模型，其代价函数如公式(1)所示：
[0060][0061]
其中，w为权重矩阵，w
t
为w的转置矩阵，λ为超参数；
[0062]
步骤2
‑
2)对代价函数式(1)求关于权重矩阵w的偏导，如公式(2)所示：
[0063][0064]
其中ε是一个极小的常数；
[0065]
步骤2
‑
3)利用随机梯度下降算法，迭代计算权重矩阵w，得到训练完成的叠加重构独立成分分析模型。
[0066]
步骤3)构建半监督多任务学习框架，对多任务的图像特征表示进行进一步优化；
[0067]
步骤3
‑
1)构建半监督多任务学习框架，将步骤2
‑
3)得到的权重矩阵w代入中，得到的隐藏层输出记为ξ
t
，半监督多任务学习框架的目标函数如公式(3)所示：
[0068][0069]
其中，α和β是超参数，用于平衡公式(3)各项的影响，θ
t
和θ0是步骤1
‑
2)得到的每个任务的特定参数和所有任务共有的模型参数，w1和w2分别表示框架中两层的权重矩阵；
[0070]
表示引入标签信息的softmax回归算法的代价函数，其中，θ
tj
分别表示每个任务的特定模型参数，θ
0j
表示所有任务共享的模型公共参数，1{y
ti
＝j}是指示函数，当语句y
ti
＝j为true时，它等于1，否则它等于0；
[0071]
表示正则化多任务学习算法的目标函数，其中λ1和λ2是积极的正则化参数(positive regularization parameters)；
[0072]
j3(w1,w2)＝||w1||2 ||w2||2表示模型权重矩阵w1和w2的约束项；
[0073]
步骤3
‑
2)迭代求解半监督多任务学习框架，关于模型参数θ
tj
、θ
0j
和权重矩阵w1、w2的偏导数计算公式如(4)
‑
(7)所示：
[0074][0075][0076][0077][0078]
根据公式(4)
‑
(7)，按照公式(8)迭代计算θ
tj
、θ
0j
和w1、w2：
[0079][0080]
其中，η是步长，它决定了收敛速度。
[0081]
步骤4)在最终学习得到的特征表示的基础上，用逻辑回归模型在有标签的超声图像数据集上训练分类器，并在无标签的超声图像数据集上得到分类结果；
[0082]
步骤4
‑
1)将步骤3
‑
2)得到的权重矩阵w1和w2代入中，得到的最终输出特征表示为用超声图像数据集中已有标签的数据作为训练集，将训练集的特征表示为训练逻辑回归分类器，其目标函数可以表示为公式(9)：
[0083]
[0084]
其中，为sigmoid函数；
[0085]
步骤4
‑
2)用训练完成的分类器对测试超声图像数据集分类，同训练集将测试集的特征表示为并代入公式(9)训练完成的分类器获得分类结果t
test
如公式(10)所示：
[0086][0087]
本发明可通过以下实验进一步说明：
[0088]
为了测试本发明的有效性，在乳腺超声图像数据集上实现多分类任务。其中，数据集包括4个类(良性、乳腺腺病、乳腺癌、乳腺炎)，分辨率为720
×
576的图像，在多任务中，以良性的超声图像为正例，乳腺腺病、乳腺癌和乳腺炎的超声图像在不同的任务中为负例，测试的评价指标用准确率。
[0089]
为了表明测试结果的性能，选择了贝叶斯多项式回归算法(bmr)、鲁棒多任务学习算法(rmtl)、鲁棒多任务特征学习算法(rmtfl)、聚类多任务学习算法(cmtl)、多任务学习的脏模型(dirty)、半监督自编码机模型(ss
‑
ae)、半监督多任务学习自动编码器(saml)作为对比，分类结果如表1所示，由表1可知本发明在乳腺超声图像数据集上的多分类结果中，准确率都优于其他方法。
[0090]
表1乳腺超声图像数据集上的分类实验结果
[0091][0092]
本发明提供一种基于多任务学习的超声图像多分类方法，结合深度学习和多任务学习的特点，将所有数据集进行组合以提高泛化性能，并利用超声图像数据集中已有的部分有标签数据，提升了超声图像数据集的分类准确度。
[0093]
本发明并不局限于上述实施例，在本发明公开的技术方案的基础上，本领域的技术人员根据所公开的技术内容，不需要创造性的劳动就可以对其中的一些技术特征作出一些替换和变形，这些替换和变形均在本发明的保护范围内。