基于深度学习的髋臼损伤修复方法与流程

1.本技术的实施例涉及深度学习领域，尤其涉及基于深度学习的髋臼损伤修复方法、装置、设备和计算机可读存储介质。


背景技术：

2.髋关节是人体最大、最稳定的关节之一，髋臼位于髋骨外侧面中央，呈半球形深凹。但是髋臼会因为年龄增长等种种原因，造成髋臼的损伤。
3.在未来几年内翻修髋关节置换的数量将会持续增加。髋关节翻修术的数量将不可避免地导致再次翻修手术的增加。因此，外科医生将越来越多地面对越来越复杂的骨缺损患者。
4.提供足够的诊断和治疗资源来适当地解决这些缺陷将是髋关节外科医生最艰巨的任务之一。在手术前，尽可能精确地估计骨缺损的位置和大小是必要的。
5.当前，髋臼损伤的修复，大多数是固定型态的假体植入，大部分情况下是按照医生多年的经验和决策来给病人选择合适的假体，但这样主观因素给修复效果带来的影响比较大，修复出来的髋臼可能与病人健康时的髋臼有一定的差距。


技术实现要素：

6.根据本技术的实施例，提供了一种基于深度学习的髋臼损伤修复方案。
7.在本技术的第一方面，提供了一种基于深度学习的髋臼损伤修复方法。该方法包括：
8.获取患者的3d髋臼数字图像；
9.对所述3d髋臼数字图像进行预处理，得到3d髋臼点云数据；
10.将所述3d髋臼点云数据，输入至髋臼修复模型中，得到预测的健康髋臼的3d点云图像；
11.对所述预测的健康髋臼3d点云图像，进行曲面重建和图像融合，得到最终的3d髋臼数字图像；基于所述最终的3d髋臼数字图像，完成对患者的髋臼损伤修复。
12.进一步地，所述对所述3d髋臼数字图像进行预处理，得到3d髋臼点云数据包括：
13.对所述3d髋臼数字图像进行下采样，得到预设规格的3d髋臼点云数据。
14.进一步地，所述髋臼修复模型通过如下方式进行训练：
15.构建训练样本集，所述训练样本集包括预设数量的有损伤髋臼的3d点云数据和对应的健康的髋臼的3d点云数据，以及无损伤的3d点云数据；
16.以所述训练样本集中的有损伤髋臼的3d点云数据作为输入，有损伤髋臼的3d点云数据对应的健康的髋臼的3d点云数据作为输出，基于vnet/vnet 网络，对生成器进行训练；
17.以所述训练样本集中的无损伤的3d点云数据作为输入，有损伤髋臼的3d点云数据对应的健康的髋臼的3d点云数据作为输出，对鉴别器进行训练；
18.根据生成器和鉴别器的损失函数的差异度对生成器的参数进行调整，直到生成器和鉴别器的损失函数的差异值小于预设阈值，将此时的生成器和鉴别器作为最终的髋臼修复模型。
19.进一步地，所述生成训练样本包括：
20.获取不同年龄阶层、不同性别和/或不同职业人群的健康3d髋臼数字图像；
21.通过预设的破损规则，对所述健康3d髋臼数字图像进行破损，得到损伤的3d髋臼数字图像；
22.对所述3d髋臼数字图像进行下采样，得到预设规格的损伤的3d髋臼点云数据。
23.进一步地，所述对所述预测的健康髋臼3d点云图像，进行曲面重建和图像融合，得到最终的3d髋臼数字图像包括：
24.将预测的健康髋臼的3d点云图像与3d髋臼点云数据作差，得到增加的输出点；
25.基于所述预测的健康髋臼的3d点云图像和增加的输出点，构建新的3d点云图像；
26.对所述新的3d点云图像进行曲面重建，重建完成后与原始的3d髋臼数字图像进行融合，得到最终的3d髋臼数字图像。
27.在本技术的第二方面，提供了一种基于深度学习的髋臼损伤修复装置。该装置包括：
28.获取模块，用于获取患者的3d髋臼数字图像；
29.处理模块，用于对所述3d髋臼数字图像进行预处理，得到3d髋臼点云数据；
30.训练模块，用于将所述3d髋臼点云数据，输入至髋臼修复模型中，得到预测的健康髋臼的3d点云图像；
31.修复模块，用于对所述预测的健康髋臼3d点云图像，进行曲面重建和图像融合，得到最终的3d髋臼数字图像；基于所述最终的3d髋臼数字图像，完成对患者的髋臼损伤修复。
32.在本技术的第三方面，提供了一种电子设备。该电子设备包括：存储器和处理器，所述存储器上存储有计算机程序，所述处理器执行所述程序时实现如以上所述的方法。
33.在本技术的第四方面，提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如根据本技术的第一方面的方法。
34.本技术实施例提供的基于深度学习的髋臼损伤修复方法，通过获取患者的3d髋臼数字图像；对所述3d髋臼数字图像进行预处理，得到3d髋臼点云数据；将所述3d髋臼点云数据，输入至髋臼修复模型中，得到预测的健康髋臼的3d点云图像；对所述预测的健康髋臼3d点云图像，进行曲面重建和图像融合，得到最终的3d髋臼数字图像；基于所述最终的3d髋臼数字图像，完成对患者的髋臼损伤修复，能够快速预测出于病人最适配的健康型态下的髋臼，便于医生制定手术方案，对病人的损失的髋臼进行精准修复。
35.应当理解，发明内容部分中所描述的内容并非旨在限定本技术的实施例的关键或重要特征，亦非用于限制本技术的范围。本技术的其它特征将通过以下的描述变得容易理解。
附图说明
36.结合附图并参考以下详细说明，本技术各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中，相同或相似的附图标记表示相同或相似的元素，其中：
37.图1示出了本技术的实施例提供的方法所涉及的系统架构图。
38.图2示出了根据本技术的实施例的基于深度学习的髋臼损伤修复方法的流程图；
39.图3示出了根据本技术的实施例的髋臼修复模型示意图；
40.图4示出了根据本技术的实施例的基于深度学习的髋臼损伤修复装置的方框图；
41.图5示出了适于用来实现本技术实施例的终端设备或服务器的结构示意图。
具体实施方式
42.为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本公开保护的范围。
43.另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示：单独存在a，同时存在a和b，单独存在b这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
44.图1示出了可以应用本技术的基于深度学习的髋臼损伤修复方法或基于深度学习的髋臼损伤修复装置的实施例的示例性系统架构100。
45.如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
46.用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如模型训练类应用、视频识别类应用、网页浏览器应用、社交平台软件等。
47.终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、mp3播放器(moving picture experts group audio layer iii，动态影像专家压缩标准音频层面3)、mp4(moving picture experts group audio layer iv，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。
48.当终端101、102、103为硬件时，其上还可以安装有视频采集设备。视频采集设备可以是各种能实现采集视频功能的设备，如摄像头、传感器等等。用户可以利用终端101、102、103上的视频采集设备来采集视频。
49.服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的数据处理的后台服务器。后台服务器可以对接收到的数据进行分析等处理，并可以将处理结果(例如识别结果)反馈给终端设备。
50.需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块)，也可以
实现成单个软件或软件模块。在此不做具体限定。
51.应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。特别地，在目标数据不需要从远程获取的情况下，上述系统架构可以不包括网络，而只包括终端设备或服务器。
52.如图2所示，是本技术实施例基于深度学习的髋臼损伤修复方法的流程图。从图2中可以看出，本实施例的基于深度学习的髋臼损伤修复方法，包括以下步骤：
53.s210，获取患者的3d髋臼数字图像。
54.在本实施例中，用于基于深度学习的髋臼损伤修复方法的执行主体(例如图1所示的服务器)可以通过有线方式或者无线连接的方式获取3d髋臼数字图像。
55.进一步地，上述执行主体可以获取与之通信连接的电子设备(例如图1所示的终端设备)发送的3d髋臼数字图像，也可以是预先存储于本地的3d髋臼数字图像。
56.s220，对所述3d髋臼数字图像进行预处理，得到3d髋臼点云数据。
57.通常3d髋臼数字图像的精密度很高，若直接进行运算，则需要大量的计算资源，运算速度慢。
58.在一些实施例中，对所述3d髋臼数字图像进行预处理，转换为更利于后期运算的预设规格的3d髋臼点云数据。
59.优选地，所述预设规格的3d髋臼点云数据，尺寸为了90*90*120，即90像素长，90像素宽，120像素高(在尽可能的还原3d髋臼的框架和细节与深度学习网络模型能处理的最大输入数据之间进行权衡后设定)。
60.s230，将所述3d髋臼点云数据，输入至髋臼修复模型中，得到预测的健康髋臼的3d点云图像。
61.其中，所述髋臼修复模型通过如下方式进行训练：
62.构建训练样本集，所述训练样本集包括预设数量的有损伤髋臼的3d点云数据和对应的健康的髋臼的3d点云数据，以及无损伤的3d点云数据；
63.以所述训练样本集中的有损伤髋臼的3d点云数据作为输入，有损伤髋臼的3d点云数据对应的健康的髋臼的3d点云数据作为输出，基于vnet/vnet 网络，对生成器进行训练；所述生成器，用于预测髋臼健康模样(生成最终需要的数据)；
64.以所述训练样本集中的无损伤的3d点云数据作为输入，有损伤髋臼的3d点云数据对应的健康的髋臼的3d点云数据作为输出，对鉴别器进行训练；所述鉴别器，用于区分生成器的输出与有损伤髋臼的3d点云数据对应的健康的髋臼的3d点云数据的网络，可由卷积层和池化层组成；
65.根据生成器和鉴别器的损失函数的差异度对生成器的参数进行调整，直到生成器和鉴别器的损失函数的差异值小于预设阈值，将此时的生成器和鉴别器作为最终的髋臼修复模型。
66.在一些实施例中，所述训练样本可通过如下方式进行生成：
67.获取不同年龄阶层、不同性别和/或不同职业人群的健康的多样本3d髋臼数字图像；
68.通过预设的破损规则，对所述健康3d髋臼数字图像进行破损，得到损伤的3d髋臼数字图像；为了提高模型对多模态伤口的处理能力，所述预设的破损规则，可根据历史的治
疗数据、网络爬取的医疗数据以及模拟真实损伤的数据进行设定；
69.对所述3d髋臼数字图像进行下采样，得到预设规格的损伤的3d髋臼点云数据(参考步骤s220)；
70.基于预设规格的损伤的3d髋臼点云数据，构建样本集合。
71.在一些实施例中，所述髋臼修复模型的结构如图3所示，其中，“conv”代表卷积层，其中在“bottom”左上的卷积表示，特征下采样3d卷积，在“bottom”右上的卷积表示，特征上采样3d卷积，“输入”表示有损伤的髋臼3d点云数据，“输出”代表vnet/vnet 模型预测的该髋臼健康模样的3d点云数据。
72.s240，对所述预测的健康髋臼3d点云图像，进行曲面重建和图像融合，得到最终的3d髋臼数字图像；基于所述最终的3d髋臼数字图像，完成对患者的髋臼损伤修复。
73.在一些实施例中，通过步骤s230输出的为3d点云图像，与所需的3d髋臼数字图像不符，因此，需要通过曲面重建的方式，将3d点云图像转化为3d髋臼数字图像。
74.但是，由于3d点云图像本身尺寸的限制，图中的点的数目比较稀疏，直接进行曲面重建的效果很差，髋臼的表面不够平滑，与实际的精密的3d髋臼图像有一定差距，因此，在本公开中，采取如下方式构建最终的3d髋臼数字图像：
75.将预测的健康髋臼的3d点云图像与3d髋臼点云数据作差，得到增加的输出点；基于所述预测的健康髋臼的3d点云图像和增加的输出点，构建新的3d点云图像。即，将模型输出后比输入多的点输出出来，为了后续与原3d髋臼数字图像的衔接，将多出的输出点的相邻的点也一并输出，将这些点进行加密操作，生成新的3d点云图像。
76.可通过meshleb等方式，对所述新的3d点云图像进行曲面重建，重建完成后与原始的3d髋臼数字图像进行融合，得到最终的3d髋臼数字图像。
77.在一些实施例中，医生可基于所述最终的3d髋臼数字图像，完成对患者的髋臼损伤修复。
78.根据本公开的实施例，实现了以下技术效果：
79.本公开提供了一种基于深度学习的髋臼损伤修复方法，通过机器学习的方式，可快速准确的构建出于患者最适配的健康形态下的髋臼图像，给予医生有参照的髋臼型态，便于医生能制定手术方案，对病人的损失的髋臼进行修复。
80.需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本技术并不受所描述的动作顺序的限制，因为依据本技术，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于可选实施例，所涉及的动作和模块并不一定是本技术所必须的。
81.以上是关于方法实施例的介绍，以下通过装置实施例，对本技术所述方案进行进一步说明。
82.图4示出了根据本技术的实施例的基于深度学习的髋臼损伤修复装置400的方框图如图4所示，装置400包括：
83.获取模块410，用于获取患者的3d髋臼数字图像；
84.处理模块420，用于对所述3d髋臼数字图像进行预处理，得到3d髋臼点云数据；
85.训练模块430，用于将所述3d髋臼点云数据，输入至髋臼修复模型中，得到预测的
健康髋臼的3d点云图像；
86.修复模块440，用于对所述预测的健康髋臼3d点云图像，进行曲面重建和图像融合，得到最终的3d髋臼数字图像；基于所述最终的3d髋臼数字图像，完成对患者的髋臼损伤修复。
87.所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，所述描述的模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
88.图5示出了适于用来实现本技术实施例的终端设备或服务器的结构示意图。
89.如图5所示，终端设备或服务器500包括中央处理单元(cpu)501，其可以根据存储在只读存储器(rom)502中的程序或者从存储部分508加载到随机访问存储器(ram)503中的程序而执行各种适当的动作和处理。在ram 503中，还存储有系统500操作所需的各种程序和数据。cpu 501、rom 502以及ram 503通过总线504彼此相连。输入/输出(i/o)接口705也连接至总线504。
90.以下部件连接至i/o接口505：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至i/o接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。
91.特别地，根据本技术的实施例，上文方法流程步骤可以被实现为计算机软件程序。例如，本技术的实施例包括一种计算机程序产品，其包括承载在机器可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(cpu)501执行时，执行本技术的系统中限定的上述功能。
92.需要说明的是，本技术所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本技术中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本技术中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、rf等等，或者上述的任意合适的组合。
93.附图中的流程图和框图，图示了按照本技术各种实施例的系统、方法和计算机程
序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，前述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
94.描述于本技术实施例中所涉及到的单元或模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元或模块也可以设置在处理器中。其中，这些单元或模块的名称在某种情况下并不构成对该单元或模块本身的限定。
95.作为另一方面，本技术还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中的。上述计算机可读存储介质存储有一个或者多个程序，当上述前述程序被一个或者一个以上的处理器用来执行描述于本技术的方法。
96.以上描述仅为本技术的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本技术中所涉及的申请范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离前述申请构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本技术中申请的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。