基于卷积神经网络和多模态医学影像的诊断方法和装置与流程

1.本技术涉及计算机视觉、深度学习、医学影像处理技术领域，尤其涉及一种基于卷积神经网络和多模态医学影像的诊断方法和装置。


背景技术：

2.在计算机视觉、自然语言处理等领域，综合利用多种模态的数据是一种常见的提高算法性能的方法。在实际中，医生常常利用多种模态数据进行诊断。卷积神经网络(cnn)作为优秀的图像处理方法，在医学影像处理领域也有广泛的应用。常见的医学影像类型包括ct、mri、超声影像、病理学图像等等。已有的基于医学影像的计算机自动化诊断方法只利用了单一模态的图像。不同模态的医学影像能够从多个角度反映生理结构的信息，从而有助于提高诊断的准确率。


技术实现要素：

3.本技术旨在至少在一定程度上解决相关技术中的技术问题之一。
4.为此，本技术的第一个目的在于提出一种基于卷积神经网络和多模态医学影像的诊断方法，解决了现有方法计算机自动化诊断方法只利用了单一模态图像的技术问题，实现了利用深度学习方法综合多模态的医学影像进行诊断的目的，提高了对疾病诊断的准确性。
5.本技术的第二个目的在于提出一种基于卷积神经网络和多模态医学影像的诊断装置。
6.本技术的第三个目的在于提出一种非临时性计算机可读存储介质。
7.为达上述目的，本技术第一方面实施例提出了一种基于卷积神经网络和多模态医学影像的诊断方法，包括：采集训练数据，训练数据包括多种模态的医学影像样本以及多种模态的医学影像样本对应的诊断标注信息；根据训练数据对卷积神经网络的网络参数进行优化，得到优化后的基于卷积神经网络的分类网络；获取多种模态的医学影像，将多种模态的医学影像输入基于卷积神经网络的分类网络，以输出每种模态的医学影像对应疾病的预测概率，预测概率分别用于表征患有疾病的概率和不患有疾病的概率。
8.可选地，在本技术的一个实施例中，基于卷积神经网络的分类网络包括多个基于卷积神经网络的特征提取网络和一个多层感知机，每个特征提取网络对应一个模态，根据训练数据对卷积神经网络的网络参数进行优化，得到优化后的基于卷积神经网络的分类网络，包括：
9.将多种模态的医学影像样本中每种模态的医学影像样本输入到对应的特征提取网络中进行特征提取，其中，提取的特征为向量；
10.将所有模态的特征拼接成长向量，将长向量输入到多层感知机中，输出对应值，使用softmax计算对应值，得到每个类别的预测概率；
11.根据每个类别的预测概率获取预测概率的交叉熵损失函数，根据交叉熵损失函数
优化卷积神经网络的网络参数。
12.为达上述目的，本发明第二方面实施例提出了一种基于卷积神经网络和多模态医学影像的诊断装置，包括：
13.获取模块，用于采集训练数据，训练数据包括多种模态的医学影像样本以及多种模态的医学影像样本对应的诊断标注信息；
14.优化模块，用于根据训练数据对卷积神经网络的网络参数进行优化，得到优化后的基于卷积神经网络的分类网络；
15.分类模块，用于获取多种模态的医学影像，将多种模态的医学影像输入基于卷积神经网络的分类网络，以输出每种模态的医学影像对应疾病的预测概率，预测概率分别用于表征患有疾病的概率和不患有疾病的概率。
16.可选地，在本技术的一个实施例中，基于卷积神经网络的分类网络包括多个基于卷积神经网络的特征提取网络和一个多层感知机，每个特征提取网络对应一个模态，优化模块，具体用于：
17.将多种模态的医学影像样本中每种模态的医学影像样本输入到对应的特征提取网络中进行特征提取，其中，提取的特征为向量；
18.将所有模态的特征拼接成长向量，将长向量输入到多层感知机中，输出对应值，使用softmax计算对应值，得到每个类别的预测概率；
19.根据每个类别的预测概率获取预测概率的交叉熵损失函数，根据交叉熵损失函数优化卷积神经网络的网络参数。
20.为了实现上述目的，本发明第三方面实施例提出了一种非临时性计算机可读存储介质，当存储介质中的指令由处理器被执行时，能够执行基于卷积神经网络和多模态医学影像的诊断方法。
21.本技术实施例的基于卷积神经网络和多模态医学影像的诊断方法、基于卷积神经网络和多模态医学影像的诊断装置和非临时性计算机可读存储介质，解决了现有方法计算机自动化诊断方法只利用了单一模态图像的技术问题，实现了利用深度学习方法综合多模态的医学影像进行诊断的目的，提高了对疾病诊断的准确性。
22.本技术附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本技术的实践了解到。
附图说明
23.本技术上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
24.图1为本技术实施例一所提供的一种基于卷积神经网络和多模态医学影像的诊断方法的流程图；
25.图2为本技术实施例二所提供的一种基于卷积神经网络和多模态医学影像的诊断装置的结构示意图。
具体实施方式
26.下面详细描述本技术的实施例，所述实施例的示例在附图中示出，其中自始至终
相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本技术，而不能理解为对本技术的限制。
27.下面参考附图描述本技术实施例的基于卷积神经网络和多模态医学影像的诊断方法和装置。
28.图1为本技术实施例一所提供的一种基于卷积神经网络和多模态医学影像的诊断方法的流程图。
29.如图1所示，该基于卷积神经网络和多模态医学影像的诊断方法包括以下步骤：
30.步骤101，采集训练数据，训练数据包括多种模态的医学影像样本以及多种模态的医学影像样本对应的诊断标注信息；
31.步骤102，根据训练数据对卷积神经网络的网络参数进行优化，得到优化后的基于卷积神经网络的分类网络；
32.步骤103，获取多种模态的医学影像，将多种模态的医学影像输入基于卷积神经网络的分类网络，以输出每种模态的医学影像对应疾病的预测概率，预测概率分别用于表征患有疾病的概率和不患有疾病的概率。
33.本技术实施例的基于卷积神经网络和多模态医学影像的诊断方法，通过采集训练数据，训练数据包括多种模态的医学影像样本以及多种模态的医学影像样本对应的诊断标注信息；根据训练数据对卷积神经网络的网络参数进行优化，得到优化后的基于卷积神经网络的分类网络；获取多种模态的医学影像，将多种模态的医学影像输入基于卷积神经网络的分类网络，以输出每种模态的医学影像对应疾病的预测概率，预测概率分别用于表征患有疾病的概率和不患有疾病的概率。由此，能够解决现有方法计算机自动化诊断方法只利用了单一模态图像的技术问题，实现了利用深度学习方法综合多模态的医学影像进行诊断的目的，提高了对疾病诊断的准确性。
34.在获取了用于训练的多模态的医学影像和诊断标注后，将多模态的医学影像分别输入到不同的卷积神经网络中提取特征，然后将所有特征拼接成一个向量作为多模态综合特征，最后通过一个多层感知机对多模态综合特征进行分类。通过对网络进行训练优化其参数，以实现利用计算机对疾病进行自动诊断，主要包括：采集病人的多种模态的医学影像，以及诊断标注；使用基于卷积神经网络的分类网络利用数据进行训练，优化网络参数；使用时，获取病人的多种模态的医学影像，输入分类网络得到预测概率。
35.进一步地，在本技术实施例中，基于卷积神经网络的分类网络包括多个基于卷积神经网络的特征提取网络和一个多层感知机，每个特征提取网络对应一个模态，根据训练数据对卷积神经网络的网络参数进行优化，得到优化后的基于卷积神经网络的分类网络，包括：
36.将多种模态的医学影像样本中每种模态的医学影像样本输入到对应的特征提取网络中进行特征提取，其中，提取的特征为向量；
37.将所有模态的特征拼接成长向量，将长向量输入到多层感知机中，输出对应值，使用softmax计算对应值，得到每个类别的预测概率；
38.根据每个类别的预测概率获取预测概率的交叉熵损失函数，根据交叉熵损失函数优化卷积神经网络的网络参数。
39.例如，对于诊断是否患有某种疾病的二分类问题，最终的输出是一个长度为2的向
量，其中的值分别是患有该疾病的概率和不患该疾病的概率。
40.使用多种模态的医学影像对整个多模态超声影像分类网络进行端到端训练，以预测概率的交叉熵损失函数优化网络参数。
41.图2为本技术实施例二所提供的一种基于卷积神经网络和多模态医学影像的诊断装置的结构示意图。
42.如图2所示，该基于卷积神经网络和多模态医学影像的诊断装置，包括：
43.获取模块10，用于采集训练数据，训练数据包括多种模态的医学影像样本以及多种模态的医学影像样本对应的诊断标注信息；
44.优化模块20，用于根据训练数据对卷积神经网络的网络参数进行优化，得到优化后的基于卷积神经网络的分类网络；
45.分类模块30，用于获取多种模态的医学影像，将多种模态的医学影像输入基于卷积神经网络的分类网络，以输出每种模态的医学影像对应疾病的预测概率，预测概率分别用于表征患有疾病的概率和不患有疾病的概率。
46.进一步地，在本技术实施例中，基于卷积神经网络的分类网络包括多个基于卷积神经网络的特征提取网络和一个多层感知机，每个特征提取网络对应一个模态，优化模块，具体用于：
47.将多种模态的医学影像样本中每种模态的医学影像样本输入到对应的特征提取网络中进行特征提取，其中，提取的特征为向量；
48.将所有模态的特征拼接成长向量，将长向量输入到多层感知机中，输出对应值，使用softmax计算对应值，得到每个类别的预测概率；
49.根据每个类别的预测概率获取预测概率的交叉熵损失函数，根据交叉熵损失函数优化卷积神经网络的网络参数。
50.本技术实施例的基于卷积神经网络和多模态医学影像的诊断装置，包括获取模块，用于采集训练数据，训练数据包括多种模态的医学影像样本以及多种模态的医学影像样本对应的诊断标注信息；优化模块，用于根据训练数据对卷积神经网络的网络参数进行优化，得到优化后的基于卷积神经网络的分类网络；分类模块，用于获取多种模态的医学影像，将多种模态的医学影像输入基于卷积神经网络的分类网络，以输出每种模态的医学影像对应疾病的预测概率，预测概率分别用于表征患有疾病的概率和不患有疾病的概率。由此，能够解决现有方法计算机自动化诊断方法只利用了单一模态图像的技术问题，实现了利用深度学习方法综合多模态的医学影像进行诊断的目的，提高了对疾病诊断的准确性。
51.为了实现上述实施例，本发明还提出了一种非临时性计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述实施例的基于卷积神经网络和多模态医学影像的诊断方法。
52.在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本技术的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结
合和组合。
53.此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本技术的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
54.流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本技术的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本技术的实施例所属技术领域的技术人员所理解。
55.在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(ram)，只读存储器(rom)，可擦除可编辑只读存储器(eprom或闪速存储器)，光纤装置，以及便携式光盘只读存储器(cdrom)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
56.应当理解，本技术的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(pga)，现场可编程门阵列(fpga)等。
57.本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
58.此外，在本技术各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。
59.上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本技术的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本技术的限制，本领域的普通技术人员在本技术的范围内可以对上述实施例进行变化、修改、替换和变型。