一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

手术支持系统、手术支持方法、信息处理装置和信息处理程序与流程

2022-03-18 12:03:32 来源:中国专利 TAG:
手术支持系统、手术支持方法、信息处理装置和信息处理程序与流程

本公开涉及手术支持系统、手术支持方法、信息处理装置和信息处理程序。

背景技术

在手术室中,使用了各种成像部件,诸如内窥镜摄像机、手术现场摄像机和手术场所摄像机,并且在手术期间显示由成像部件拍摄的图像(手术图像)。进一步地,通过由成像部件执行的成像获得的手术图像被记录用于以供手术之后的验证、确认等使用。

引用列表

专利文献

PTL 1:日本公开专利公布第2016-42982号。



技术实现要素:

技术问题

在传统技术中,便于编辑手术视频的处理是自动执行的。具体地,指示接收到对成像单元的操作指令的输入的定时的章节信息,作为元数据被自动添加到手术图像。

然而,在如上所述的传统技术中,元数据仅在编辑手术视频时被添加到手术图像,换句话说,仅便于手术之后视频的编辑,并且因此,期望进一步利用手术图像。此外,与手术有关的并发症,诸如包括缝合破裂的手术并发症,可能是由于手术而发生的。

鉴于上述情况,在本公开中,提供了能够适当地输出用于支持手术的信息的手术支持系统、手术支持方法、信息处理装置和信息处理程序。

解决方案

除了提供手术图像之外,本公开的示例性实施例可以提供用于支持手术的信息,诸如用来预测并发症风险的信息。本公开由所附权利要求来限定。根据本公开的一方面,提供了一种手术支持系统,包含(例如包括):获取单元,该获取单元被配置为获取作为手术图像的第一手术图像;分析单元,该分析单元被配置为通过将由获取单元获取的第一手术图像应用于使用学习数据生成的经训练模型,来生成关于第一手术图像的风险分析信息,该学习数据包括第二手术图像,该第二手术图像是不同于第一手术图像的手术图像,并且包括关于由于手术引起的并发症风险的信息;以及输出单元,该输出单元被配置为以叠加的方式在诸如第一手术图像的手术图像上输出基于由分析单元生成的风险分析信息的手术支持信息。其他示例性实施例提供了一种手术支持系统,包含(例如包括):获取单元,该获取单元被配置为获取第一手术图像;分析单元,该分析单元被配置为通过将由获取单元获取的第一手术图像应用于将第一手术图像的图像特征与关于由于手术引起的并发症风险的信息相关联的经训练模型,从第一手术图像中生成风险分析信息;以及输出单元,该输出单元被配置为例如以叠加的方式在第一手术图像上输出基于由分析单元生成的风险分析信息的手术支持信息。

附图说明

图1是示意性示出了手术室系统的一般构造的示图。

图2是示出了集中式操作面板的操作屏幕的显示实例的示图。

图3是示出了应用手术室系统的手术的状态的实例的示图。

图4是示出了在图3中描绘的摄像头和CCU的功能构造的实例的框图。

图5是示出根据本公开的实施例的手术支持系统的配置实例的示图。

图6是示出根据本公开的实施例的信息处理装置的配置实例的示图。

图7是示出根据本公开的实施例的模型信息存储单元的实例的示图。

图8是示出根据本公开的实施例的手术支持处理的流程的流程图。

图9是示出根据本公开的实施例的手术支持处理的实例的示图。

图10是示出手术支持信息的输出的实例的示图。

图11是示出手术支持信息的输出的另一实例的示图。

图12是示出由手术支持系统执行的处理的实例的示图。

图13是示出根据本公开的修改的信息处理系统的配置实例的示图。

图14是示出根据本公开的修改的信息处理装置的配置实例的示图。

图15是示出实施信息处理装置的功能的计算机的实例的硬件配置示图。

具体实施方式

下面将基于附图来对本公开的示例性实施例进行详细描述。根据本公开的手术支持系统、手术支持方法、信息处理装置和信息处理程序不受以下实施例的限制。此外,在下面描述的每个实施例中,相同的组件将由相同的参考符号表示,并且将省略组件的重复说明。就本公开的实施例被描述为至少部分地由软件控制的数据处理装置来实施而言,将认识到,承载此软件的非暂时性机器可读介质,诸如光盘、磁盘、半导体存储器等,也被认为代表本公开的实施例。

注意,将按照以下顺序给出描述。

1.系统配置实例

1-1.根据实施例的手术支持系统的配置

2.概述

2-1.并发症

2-2.包括第一手术图像和第二手术图像的手术图像

2-3.并发症风险信息

3.实施例细节

3-1.根据实施例的图像处理装置的配置

3-2.根据实施例的输出装置的实例

3-3.根据实施例的手术支持处理的过程

3-4.根据实施例的手术支持处理的概述

3-5.手术支持信息的输出实例

3-5-1.手术支持信息的显示

3-5-2.两步输出

3-6.由手术支持系统执行的处理的实例

4.其他实施例

4-1.其他配置实例

4-1-1.手术支持系统的修改

4-1-2.信息处理装置的修改

4-2.手术支持信息的输出模式

4-3.其他

5.根据本公开的效果

6.硬件配置

<1.系统配置实例>

首先,将参考附图来描述作为根据本公开的实施例的手术支持系统的实例的配置实例。根据本公开的实施例的手术支持系统的实例包括各种系统。手术支持系统1包括手术室系统5100和信息处理装置100,该手术支持系统的细节将稍后参考图5来描述。信息处理装置100通过使用预测并发症风险的经训练模型(下文中,可以被简称为“模型”)来生成关于手术图像的风险分析信息。手术室系统5100包括作为输出装置的显示装置5155,该显示装置用作输出单元,用于输出基于由信息处理装置100生成的风险分析信息的手术支持信息。在下文中,显示装置5155将被描述为输出装置的一个实例,但是输出装置不限于显示装置5155,并且可以是任何装置,诸如显示装置5103A至5103D或集中式操作面板5111,只要该装置用作输出手术支持信息的输出单元。此外,输出手术支持信息的输出单元可以与手术室系统5100分开安装,这将在稍后进行详细描述。

此外,手术支持系统1可以包括多个手术室系统5100。在这种情况下,信息处理装置100与每个手术室系统5100通信,并且执行稍后要描述的手术支持处理。此外,如果手术支持系统1涉及单个手术室系统5100,则信息处理装置100可以被包括在手术室系统5100中。在这种情况下,手术支持系统1可以是手术室系统5100。在下文中,首先,将主要描述作为根据本公开的实施例的手术支持系统的组成元件的一个实例的手术室系统的配置实例。

图1是示意性示出了可以应用根据本公开的技术的手术室系统5100的一般构造的示图。参照图1,手术室系统5100被配置为通过视听(AV)控制器5107和手术室控制装置5109使得安装在手术室中的装置组相互连接并彼此协作。

在手术室中,可以安装各种装置。在图1中,例如,示出了用于内窥镜手术的各种装置组5101、设置在手术室的天花板上并拍摄外科医生的手中物体的图像的天花板摄像机5187、设置在手术室的天花板上并拍摄整个手术室的图像的手术现场摄像机5189、多个显示装置5103A至5103D、记录仪5105、病床5183和照明灯5191。

在上文所述的装置中,装置组5101属于内窥镜手术系统5113并包括内窥镜、显示通过内窥镜拍摄的图像的显示装置等。属于内窥镜手术系统5113的各种装置还称为医疗设备。相反,显示装置5103A至5103D、记录仪5105、病床5183和照明灯5191是独立于内窥镜手术系统5113装备在例如手术室中的装置。不属于内窥镜手术系统5113的每个装置还称为非医疗设备。视听控制器5107和/或手术室控制装置5109控制医疗设备和非医疗设备的操作彼此协同。

在一些示例中,视听控制器5107整体控制医疗设备和非医疗设备的与图像显示有关的过程。具体地,包括在手术室系统5100中的装置中的装置组5101、天花板摄像机5187和手术现场摄像机5189可以是具有发送手术期间的待显示信息(在下文中将这种信息称为显示信息)的功能的装置(在下文中可以称为发送源装置)。此外,显示装置5103A至5103D可以是向其输出显示信息的装置(在下文中可以称为输出目的地装置)。此外,记录仪5105可以是与发送源装置和输出目的地装置两者对应的装置。视听控制器5107具有控制发送源装置和输出目的地装置的操作、从发送源装置获取显示信息、并将显示信息传输至输出目的地装置、以及显示或存储显示信息的功能。显示信息包括在手术期间拍摄的各种图像、与手术有关的各种信息(例如患者的身体信息、过去的检查结果或关于手术流程的信息)等。

具体地,装置组5101可以将与通过内窥镜拍摄的位于患者体腔中的手术部位的图像有关的信息作为显示信息,传输至视听控制器5107。此外,天花板摄像机5187可以将通过天花板摄像机5187拍摄的外科医生的手中物体的图像有关的信息作为显示信息传输。此外,手术现场摄像机5189可以将通过手术现场摄像机5189拍摄的整个手术室的状态的图像有关的信息作为显示信息传输。如果手术室系统5100包括具有摄像功能的其他的装置,则视听控制器5107可以从其他装置中获取其他装置拍摄的图像有关的信息作为显示信息。

可替换地,例如,,视听控制器5107可以在记录仪5105中记录与过去拍摄的图像有关的信息。视听控制器5107可以从记录仪5105获取与过去拍摄的图像有关的信息作为显示信息。同时,还可以将与手术有关的各种信息提前记录在记录仪5105中。

在一些示例中,视听控制器5107使显示装置5103A至5103D中的至少一个用作输出目的地装置以显示获取的显示信息(换句话说,在手术期间拍摄的图像或与手术有关的各种信息)。在所描绘的实例中,显示装置5103A是悬挂在手术室的天花板上的显示装置;显示装置5103B是安装在手术室的壁面上的显示装置;显示装置5103C是安装在手术室内的操作台上的显示装置;以及显示装置5103D是具有显示功能的可移动装置(例如平板个人电脑(PC))。

此外,虽然图1中未示出,但是手术室系统5100可以包括位于手术室外的外部装置。位于手术室外的外部装置的示例可以是连接到医院内外建造的网络的服务器、医务人员使用的PC、以及安装在医院的会议室中的投影仪等。如果外部装置位于医院外时,视听控制器5107还可以使其他医院的显示装置通过视频会议系统显示显示信息从而进行远程医疗。

在一些示例中,手术室控制装置5109整体控制除了与非医疗设备上的图像显示有关的过程之外的过程。例如,手术室控制装置5109控制病床5183、天花板摄像机5187、手术现场摄像机5189和照明灯5191的驱动。

在一些示例中,手术室系统5100包括集中式操作面板5111,并且用户可以通过集中式操作面板5111向视听控制器5107发出关于图像显示的指令或向手术室控制装置5109发出关于非医疗设备的操作的指令。通过在显示装置的显示屏幕上设置触板(触摸屏,touch panel)来配置集中式操作面板5111。

图2是示出了集中式操作面板5111的操作屏幕的显示实例的示图。在图2中,例如,示出了与将两个显示装置设置为手术室系统5100中的输出目的地装置的情况对应的操作屏幕。参照图2,操作屏幕5193包括发送源选择区域5195、预览区域5197和控制区域5201。

在发送源选择区域5195中,包括在手术室系统5100中的发送源装置和表示发送源装置所具有的显示信息的缩略屏幕以彼此相关的方式显示。用户可以从显示在发送源选择区域5195中的任何发送源装置中选择要在显示装置上显示的显示信息。

在预览区域5197中,显示了已显示在用作输出目的地装置的两个显示装置(监视器1和监视器2)上的屏幕的预览。在附图中所示出的实例中,在一个显示装置中通过画中画(PinP)方式来显示四个图像。四个图像对应于由选自发送源选择区域5195的发送源装置发送的显示信息。四个图像中的一个作为主图像以相对大的尺寸显示,其余的三个图像作为子图像以相对小的尺寸显示。用户可以通过适当选择显示四个图像的区域而在主图像和子图像之间进行更换。此外,在显示四个图像的区域下面设置状态显示区域5199,以及可以在该区域中适当地显示手术状况(例如手术持续时间、患者身体信息等)。

控制区域5201包括发送源操作区域5203和输出目的地操作区域5205。在发送源操作区域5203中,显示用于对发送源装置进行操作的图形用户界面(GUI)组件,在输出目的地操作区域5205中,显示用于对输出目的地装置进行操作的GUI组件。在附图中示出的实例中,在发送源操作区域5203中设置用于在具有摄像功能的发送源装置中对摄像机进行各种操作(全景拍摄、倾斜和变焦)的GUI组件。用户可以通过适当地选择GUI组件控制发送源装置的摄像机的操作。尽管附图中未示出,如果在选自发送源选择区域5195的发送源装置是记录仪时(换句话说,在过去记录在记录仪中的图像显示在预览区域5197时),则可以在发送源操作区域5203中设置用于对图像进行如再现、停止、倒带、快进操作的GUI组件。

此外,用于在用作输出目的地装置的显示装置上进行各种操作(交替、翻转、色彩调节、对比度调节以及二维(2D)显示和三维(3D)显示之间的切换)的GUI组件设置在输出目的地操作区域5205中。用户可以通过适当地选择任一GUI组件来控制显示装置上的显示。

如附图所示,显示在集中式操作面板5111上的操作屏幕不限于所描绘的实例,用户可以通过集中式操作面板5111对各个装置进行输入操作,该各个装置包括在手术室系统5100中并且由视听控制器5107和手术室控制装置5109控制。

图3是示出了应用上述手术室系统的手术的状态的实例的示图。天花板摄像机5187和手术现场摄像机5189设置在手术室的天花板上并且能够对病床5183上的患者5185的患部进行治疗的外科医生(医师(medical doctor))的手中物体拍摄图像并对整个手术室的状态拍摄图像。天花板摄像机5187和手术现场摄像机5189可以包括放大倍数调节功能、焦距调节功能、成像方向调节功能等。照明灯5191设置在手术室的天花板上并照射至少外科医生5181的手上。照明灯5191被配置为可以适当地调节照射光的强度、照射光的波长(颜色)、光的照射方向等。

内窥镜手术系统5113、病床5183、天花板摄像机5187、手术现场摄像机5189和照明灯5191通过图1中所描绘的视听控制器5107和手术室控制装置5109(未在图3中示出)以彼此协作的方式连接。集中式操作面板5111设置在手术室中,并且如上所述用户能够通过集中式操作面板5111适当地操作存在于手术室中的装置。

以下详细地描述了内窥镜手术系统5113的构造。如附图所描绘的,内窥镜手术系统5113包括内窥镜5115、其他手术工具5131、支撑内窥镜5115的支撑臂装置5141和安装用于内窥镜手术的各种装置的推车5151。

在内窥镜手术中,代替切割腹壁来进行剖腹术,引入称为套管针5139a至5139d的多个管状开孔设备以用于刺破腹壁。然后,通过套管针5139a至5139d将内窥镜5115的透镜镜筒5117和其他手术工具5131插入到患者5185的体腔中。在附图所描绘的实例中,作为其他手术工具5131,将气腹管5133、能量治疗工具5135和钳子5137插入到患者5185的体腔中。此外,能量治疗工具5135是通过高频电流或超声波振动进行组织的切割和剥离、血管的密封等的治疗工具。然而,附图所描绘的手术工具5131仅是一个实例,并且可以将通常用于内窥镜手术的各种手术工具如例如镊子或牵引器用作手术工具5131。

通过内窥镜5115拍摄的患者5185的体腔中的手术部位的图像显示在显示装置5155上。外科医生5181将实时观看显示在显示装置5155上的手术部位的图像并使用能量治疗工具5135或钳子5137来进行治疗如例如切除患部。尽管附图中未示出,但是气腹管5133、能量治疗工具5135和钳子5137在手术中由外科医生5181、或者助手等握持。

(支撑臂装置)

支撑臂装置5141包括从底座部分5143延伸的臂部分5145。在附图所描绘的实例中,臂部分5145包括关节部分5147a、5147b和5147c和连杆5149a和5149b并在臂控制装置5159的控制下驱动。臂部分5145支撑内窥镜5115并控制内窥镜5115的位置和姿态。通过这种配置,可以实现内窥镜5115的位置的稳定固定。

(内窥镜)

内窥镜5115包括其远端的预定长度的确定区域插入到患者5185的体腔中的透镜镜筒5117、和连接到透镜镜筒5117的近端的摄像头5119。在附图所描绘的实例中,描绘了内窥镜5115,其配置为具有硬质的透镜镜筒5117的硬质镜。然而,内窥镜5115也可以配置为具有软质的透镜镜筒5117的软质镜。

透镜镜筒5117在其远端具有安装物镜的开口。光源装置5157连接到内窥镜5115,并且通过在透镜镜筒5117内延伸的光导将由光源装置5157产生的光引入到透镜镜筒的远端,并通过物镜照射向患者5185的体腔中的观察目标。内窥镜5115可以是直视镜或斜视镜或侧视镜。

摄像头5119内设置有光学系统和摄像元件,使得来自观察目标的反射光(观察光)通过光学系统在摄像元件上聚集。摄像元件对观察光进行光电转换,并且产生对应于观察光的电信号,即对应于观察图像的图像信号。图像信号作为RAW数据传输到摄像机控制单元(CCU)5153。通过适当地驱动光学系统,摄像头5119具有调节放大倍数和焦距的功能。

例如为了处理立体视觉(3D显示)等,可以在摄像头5119上布置多个摄像元件。在这种情况下,可以在透镜镜筒5117内提供多个中继光学系统以将观察光引导至相应摄像元件。

(搭载在推车中的各种装置)

CCU 5153包括中央处理单元(CPU)、图形处理单元(GPU)等,整体控制内窥镜5115和显示装置5155的操作。具体地,CCU 5153对从摄像头5119接收的图像信号进行各种图像处理(显影处理),用于基于图像信号显示图像。CCU 5153向显示装置5155提供已经进行了图像处理的图像信号。此外,图1中所描绘的视听控制器5107连接到CCU 5153。CCU 5153还向视听控制器5107提供已经进行了图像处理的图像信号。此外,CCU 5153将控制信号发送至摄像头5119以控制摄像头5119的驱动。控制信号可以包括与摄像条件如放大倍数或焦距有关的信息。可以通过输入装置5161输入或可以通过上文所描述的集中式操作面板5111输入与摄像条件有关的信息。

显示装置5155在CCU 5153的控制下基于图像信号显示图像,对该图像信号已经通过CCU 5153进行了图像处理。如果内窥镜5115兼容于高分辨率成像,如4K(水平像素3840×竖直像素2160)、或8K(水平像素7680×竖直像素4320)等,和/或如果内窥镜5115兼容于3D显示,则可以执行高分辨率显示和/或3D显示的装置根据相应兼容性可以用作显示装置5155。如果装置兼容于高分辨率如4K或8K的成像,则通过采用具有等于或大于55英寸尺寸的装置作为显示装置5155,可以得到更逼真的体验。此外,可以根据用途设置具有不同分辨率和尺寸的多个显示装置5155。

光源装置5157包括光源,例如发光二极管(LED),并将拍摄手术部位图像的照射光供应到内窥镜5115上。

臂控制装置5159包括处理器,例如CPU,根据预定程序操作,并根据预定控制方法控制支撑臂装置5141的臂部分5145的驱动。

输入装置5161是用于内窥镜手术系统5113的输入接口。用户可以通过输入装置5161将各种信息和指令输入到内窥镜手术系统5113中。例如,用户通过输入装置5161输入与手术有关的各种信息如患者的身体信息、关于手术流程的信息。此外,用户例如通过输入装置5161输入驱动臂部分5145的指令、改变内窥镜5115的摄像条件(照射光的类型、放大倍数、焦距等)的指令、驱动能量治疗工具5135的指令等。

输入装置5161的类型不受限制且各种已知输入装置可以用作输入装置5161。例如,可以将鼠标、键盘、触板、开关、脚踏开关5171和/或操纵杆用作输入装置5161。在将触板用作输入装置5161时,可以将触板设置在显示装置5155的显示面。

可替代地,输入装置5161例如是用户佩戴的设备,例如眼镜型可佩带设备或头戴式显示器(HMD),并根据设备所检测的用户的手势或视线进行各种输入。此外,输入装置5161包括可以检测使用者的动作的摄像机,并根据由摄像机拍摄的视频而检测的使用者的手势或视线进行各种输入。此外,输入装置5161包括麦克风,其可以收集使用者的语音,以及基于麦克风的语音进行各种输入。通过这种方式,输入装置5161被配置为能够以非接触形式输入各种信息,具体使得能够允许属于清洁区域的使用者(例如外科医生5181)以非接触形式操作属于非清洁区域的装置。此外,使用者可以在不放下他/她手中的手术工具的情况下操作装置,所以对使用者的便利性得到改善。

治疗工具控制装置5163控制能量治疗工具5135的驱动用于组织的灼烧或切割、血管的密封等。气腹装置5165通过气腹管5133向患者5185的体腔中馈送气体,来使体腔充气,以确保内窥镜5115的视野和确保外科医生的工作空间。记录仪5167是能够记录与手术有关的各种信息的装置。打印机5169是能够将与手术有关的信息通过如文本、图像或图表等各种形式打印的装置。

以下更详细地描述了内窥镜手术系统5113的具体特征构造。

(支撑臂装置)

支撑臂装置5141包括用作底座板的底座部分5143和从底座部分5143延伸的臂部分5145。在附图所描绘的实例中,臂部分5145包括多个关节部分5147a、5147b和5147c以及通过关节部分5147b彼此连接的多个连杆5149a和5149b。然而,在图3中,为了简化示意图,以简化形式描绘了臂部分5145的构造。实际上,可以适当地设定关节部分5147a至5147c以及连杆5149a和5149b的形状、数量和布置,以及关节部分5147a至5147c的旋转轴线的方向等,使得臂部分5145具有期望的自由度。例如,臂部分5145可以优选地具有等于或大于6个自由度的自由度。通过这种配置,可以在臂部分5145的可移动范围内自由地移动内窥镜5115,从而,可以从期望的方向将内窥镜5115的透镜镜筒5117插入到患者5185的体腔中。

致动器设置在关节部分5147a至5147c中,以及关节部分5147a至5147c被配置为能够通过致动器的驱动而围绕预定旋转轴旋转。通过臂控制装置5159控制致动器的驱动,使得控制每个关节部分5147a至5147c的旋转角,从而控制臂部分5145的驱动。因此,可以实现对内窥镜5115的位置和姿态的控制。在这种情况下,臂控制装置5159可以通过使用已知的各种控制方法如受力控制或位置控制,来控制臂部分5145的驱动。

例如,当外科医生5181通过输入装置5161(包括脚踏开关5171)适当地进行操作输入,则根据操作输入臂控制装置5159可以适当地控制臂部分5145的驱动,来控制内窥镜5115的位置和姿态。通过这种控制,可以首先将位于臂部分5145的远端的内窥镜5115从任意位置移动到不同的任意位置,并且之后,内窥镜5115可以固定支撑在移动之后的位置处。可以以主从系统方式操作臂部位5145。在这种情况下,使用者可以通过放置在远离手术室的地点的输入装置5161远程控制臂部分5145。

此外,在应用受力控制时,臂控制装置5159可以进行称为动力辅助控制以接收使用者的外力,来驱动关节部分5147a至5147c每一个的致动器使得臂部分5145可以遵循外力平稳地移动。通过这种配置,当使用者直接接触和移动臂部分5145时,可以用相对弱的力移动臂部分5145。因此,可以通过更简单的操作来更直观地移动内窥镜5115,对使用者的便利性可以得到改善。

此处,通常在内窥镜手术中,内窥镜5115由称为观察员(scopist)的医师握持。相反,在使用支撑臂装置5141时,可以在没有手动干预的情况下更可靠地固定内窥镜5115的位置,因此可以稳定地获得手术部位的图像以及可以平稳地进行手术。

同时,臂控制装置5159不需要总是设置在推车5151上。此外,臂控制装置5159不一定是单个装置。例如,臂控制装置5159可以安装在支撑臂装置5141的臂部分5145的每个关节部分5147a至5147c中,使得多个臂控制装置5159彼此协作来控制臂单元5145的驱动。

(光源装置)

在拍摄手术部位的图像时,光源装置5157将照射光供应到内窥镜5115上。光源装置5157包括例如LED、激光源或由LED和激光源的组合构成的白色光源。在这种情况下,在白色光源包括RGB激光源的组合时,可以通过高精确度控制每种颜色(每种波长)的输出强度和输出时间,并且因此可以在光源装置5157中进行拍摄图像的白平衡的调节。此外,在这种情况下,通过以时间共享方式用RGB激光源的激光照射观察目标以及与照射时间同步控制摄像头5119的摄像元件的驱动,可以按时间共享方式来拍摄对应于RGB的相应图像。根据这种方法,可以在没有为摄像元件设置滤色器的情况下得到彩色图像。

此外,可以控制光源装置5157的驱动,使得输出光的强度在预定时间间隔变化。通过与光强度的变化的时间同步控制摄像头5119的摄像元件的驱动,以时间共享的方式获得图像,并合成获得的图像,可以生成没有曝光不足的过厚阴影和曝光过度的加亮区的高动态范围的图像。

此外,光源装置5157被配置为供应预定波段的光,或以其他形式对应于所谓的特定光观察。在特定光观察的示例中,例如,进行所谓的窄带成像,其中比普通观察使用的照射光(即白光)更窄频带的光通过利用身体组织中光吸收的波长依赖性而应用,并且预定组织如粘膜表面部分的血管的图像通过高对比度拍摄。可替代地,在特定光观察的另一实例中,可以通过照射激发光产生的荧光进行荧光观察以得到图像。在荧光观察中,可以在身体组织上照射激发光并观察从身体组织接收的荧光(自发荧光观察),或可以通过将试剂如靛青绿(ICG)局部注射到身体组织中,并用对应于试剂的荧光波长的激发光照射身体组织,得到荧光图像。光源装置5157可以被配置为供应对应于上述特定光观察的窄带光和/或激发光或其他光。

在所谓的特定光观察的其他实例中,光源装置5157不需要总是如上所述地被配置,而是可以以各种其他方式来配置。光源装置5157可以是用于散斑观察(基于斑点的血流检测)的激光源。以这种方式,可能有可能使用作为激光源的光源装置5157通过散斑观察来观察活体的深部。在这种情况下,通过使用与使用散斑干涉等的散斑成像有关的技术来执行活体深部的观察。相应地,手术室系统5100可以通过散斑观察生成图像(散斑图像)。如果执行如上所述的散斑观察,则光源装置5157可以被配置为能够提供与散斑观察相对应的光(激光等)。同时,在该技术的其他实例中,除了用于特定光观察的光源装置5157之外,手术室系统5100可以包括用于散斑观察的不同的光源装置。

例如,日本公开专利公布第2016-151524号公开了使用激光源的散斑观察。例如,手术室系统5100可以通过如日本公开专利公布第2016-151524号公开的方法,从与每个照明条件相对应的散斑增强图像中生成分级式散斑图像。

(摄像头和CCU)

参考图4更详细地描述了内窥镜5115的摄像头5119和CCU 5153的功能。图4是示出了在图3中描绘的摄像头5119和CCU 5153的功能构造的实例的框图。

参照图4,摄像头5119具有透镜单元5121、摄像单元5123、驱动单元5125、通信单元5127和摄像头控制单元5129,作为功能件。此外,CCU 5153具有通信单元5173、图像处理单元5175和控制单元5177,作为功能件。摄像头5119和CCU 5153彼此连接以通过传输电缆5179彼此双向通信。

首先,对摄像头5119的功能结构进行描述。透镜单元5121是设置连接到透镜镜筒5117的连接位置处的光学系统。从透镜镜筒5117的远端进入的观察光被导向到摄像头5119中并进入透镜单元5121。透镜单元5121包括多个透镜的组合,包括变焦透镜和聚焦透镜。透镜单元5121的光学性质被调节使得观察光在摄像单元5123的摄像元件的光接收面上聚集。此外,包括变焦透镜和聚焦透镜被配置为使得它们在光轴上的位置是可移动的,从而调节拍摄图像的放大倍数和焦点。

摄像单元5123包括摄像元件并布置在透镜单元5121的后段处。通过透镜单元5121的观察光在摄像元件的光接收面上聚集,并通过光电转换产生对应于观察图像的图像信号。将通过摄像单元5123产生的图像信号提供至通信单元5127。

作为构成摄像单元5123的摄像元件,例如使用具有拜耳排列并能够拍摄彩色图像的互补金属氧化物半导体(CMOS)类型的图像传感器。同时,作为摄像元件,可以使用例如兼容拍摄具有等于或高于4K的高分辨率的图像的摄像元件。通过得到高分辨率的手术部位的图像,外科医生5181可以更详细地了解手术部位的状态,使得可以更平稳地进行手术。

此外,构成摄像单元5123的摄像元件被配置为包括一对摄像元件以获得右眼和左眼的图像信号以与3D显示兼容。在应用3D显示时,外科医生5181可以高精度了解手术部位中活体组织的深度。如果摄像单元5123被配置为多传感器型,则根据相应摄像单元,布置多个透镜单元5121。

此外,摄像单元5123可以不一定设置在摄像头5119上。例如,可以将摄像单元5123正好设置在透镜镜筒5117内的物镜的后面。

驱动单元5125配置有致动器,并在摄像头控制单元5129的控制下以沿着光轴的预定距离移动透镜单元5121的变焦透镜和聚焦透镜。因此,可以适当地调节通过摄像单元5123拍摄的图像的放大倍数和焦点。

通信单元5127配置有用于将各种信息传输至CCU 5153和接收来自CCU 5153的各种信息的通信装置。通信单元5127通过传输电缆5179将由摄像单元5123获取的图像信号作为RAW数据传输至CCU 5153。在这种情况下,为了在低延迟下显示拍摄的手术部位的图像,优选地通过光通信传输图像信号。在手术时,外科医生5181在通过拍摄的图像观察患部的状态时进行手术,并且因此需要尽可能实时地显示手术部位的视频以实现高安全性和确定性的手术。在应用光通信时,在通信单元5127中设置用于将电信号转换为光信号的光电转换模块。在通过光电转换模块将图像信号转换为光信号后,通过传输电缆5179将其传输到CCU 5153。

此外,通信单元5127接收来自CCU 5153的控制信号用于控制摄像头5119的驱动。控制信号包括与摄像条件有关的信息,如指定拍摄图像的帧速率的信息、指定拍摄图像时的曝光值的信息和/或指定拍摄图像的放大倍数和焦点的信息。通信单元5127将接收的控制信号提供至摄像头控制单元5129。同时,也可以通过光通信传输来自CCU 5153的控制信号。在这种情况下,在通信单元5127中设置用于将光信号转换为电信号的光电转换模块。在通过光电转换模块将控制信号转换为电信号之后,将其提供至摄像头控制单元5129。

如上所述摄像条件,如帧速率、曝光值、放大倍数或焦点,是基于获取的图像信号通过CCU 5153的控制单元5177自动设置的。换句话说,在内窥镜5115中安装了所谓的自动曝光(AE)功能、自动聚焦(AF)功能和自动白平衡(AWB)功能。

摄像头控制单元5129基于通过通信单元5127接收的CCU 5153的控制信号,来控制摄像头5119的驱动。例如,摄像头控制单元5129基于指定拍摄图像的帧速率的信息和/或指定摄像时的曝光值的信息,控制摄像单元5123的摄像元件的驱动。此外,例如,摄像头控制单元5129基于指定拍摄图像的放大倍数和焦点的信息,通过驱动单元5125适当地移动透镜单元5121的变焦透镜和聚焦透镜。摄像头控制单元5129还可以包括用于存储识别透镜镜筒5117和/或摄像头5119的信息的功能。

通过在具有高气密性和高防水性的密封结构中布置组件如透镜单元5121和摄像单元5123等,可以确保摄像头5119具有对高压釜杀菌过程的耐性。

下文将描述CCU 5153的功能构造。通信单元5173配置有用于将各种信息传输至摄像头5119和接收来自摄像头5119的各种信息的通信装置。通信单元5173通过传输电缆5179接收从摄像头5119传输至其的图像信号。在这种情况下,可以优选地通过如上所述的光通信传输图像信号。在这种情况下,为了与光通信兼容,在通信单元5173中布置将光信号转换为电信号的光电转换模块。通信单元5173向图像处理单元5175提供转换为电信号的图像信号。

此外,通信单元5173将用于控制摄像头5119的驱动的控制信号传输至摄像头5119。也可以通过光通信传输控制信号。

图像处理单元5175对从摄像头5119以RAW数据形式传输的图像信号进行各种图像处理。图像处理的示例包括已知的各种信号处理,如显影处理、高质量图像处理(带宽增强处理、超分辨率处理、降噪(NR)处理和/或抖动矫正处理)和/或放大处理(电子调焦处理)。此外,图像处理单元5175对图像信号进行检波处理来进行AE、AF和AWB。

图像处理单元5175配置有处理器如CPU或GPU,以及处理器根据预定程序操作,使得可以进行如上所述的图像处理和检波处理。如果图像处理单元5175配置有多个GPU,图像处理单元5175适当地划分与图像信号有关的信息,并通过多个GPU并行进行图像处理。

控制单元5177进行与通过内窥镜5115拍摄的手术部位的图像和拍摄图像的显示有关的各种控制。例如,控制单元5177生成用于控制摄像头5119的驱动的控制信号。在这种情况下,如果由使用者输入摄像条件,则控制单元5177基于使用者的输入产生控制信号。可替换地,如果内窥镜5115具有AE功能、AF功能和AWB功能,控制单元5177根据由图像处理单元5175执行的检波处理的结果适当地计算最佳曝光值、最佳焦距和最佳白平衡并产生控制信号。

此外,控制单元5177使显示装置5155基于已经通过图像处理单元5175进行了图像处理的图像信号显示手术部位的图像。在这种情况下,控制单元5177使用各种图像识别技术来识别手术部位图像中的各种对象。例如,控制单元5177通过检测包括在手术部位图像中的对象的边缘的形状、颜色等,可以识别手术工具,如钳子、具体的活体部位、流血、当使用能量治疗工具5135时的雾气。当使显示单元5155显示手术部位的图像时,控制单元5177利用识别结果将各种手术支持信息以与手术部位的第一手术图像重叠的方式显示。在手术支持信息以重叠方式显示并呈现给外科医生5181时,外科医生5181可以更安全和更可靠地进行手术。

将摄像头5119和CCU 5153彼此连接的传输电缆5179是与电信号通信对应的电信号电缆、与光通信对应的光纤或上述电缆两者的复合电缆。

在附图所示的示例中,利用传输电缆5179进行有线通信,但是可以通过无线通信进行摄像头5119和CCU 5153之间的通信。在通过无线通信进行摄像头5119和CCU 5153之间的通信时,不需要将传输电缆5179铺设在手术室中,因此,可以消除手术室中的医务人员的走动被传输电缆5179妨碍的这种情形。

以上描述了可以应用根据本公开的技术的手术室系统5100的一个实例。在以上描述中,作为示例,描述了在内窥镜手术系统5113中应用手术室系统5100作为医疗系统的情况,但是手术室系统5100的构造不限于上述实例的构造。例如,手术室系统5100可以代替内窥镜手术系统5113应用于检查用的软式内窥镜系统或显微镜手术系统。

<1-1.根据实施例的手术支持系统的配置>

将对图5所示的手术支持系统1进行描述。如图5所示,手术支持系统1包括手术室系统5100和信息处理装置100。手术室系统5100和信息处理装置100经由预定通信网络(网络N)以有线或无线方式可通信地连接。图5是示出根据实施例的手术支持系统的配置实例的示图。图5所示出的手术支持系统1可以包括多个手术室系统5100或多个信息处理装置100。例如,手术支持系统1实施与支持手术有关的各类信息处理。为其支持手术的目标人员不限于外科医生,而可以是参与手术的各种医学专业人员。本文描述的医疗专业人员包括参与各种手术的工作人员,诸如观察员、麻醉师、助手和护士。

手术室系统5100是包括用来执行如图1至图4所示的手术的各种装置的系统。例如,手术室系统5100包括作为输出装置的显示装置5155,该输出装置输出基于风险分析信息的手术支持信息,使得手术支持信息被叠加在第一手术图像上。显示装置5155显示基于风险分析信息的手术支持信息,使得手术支持信息被叠加在第一手术图像上。

信息处理装置100用来提供与支持手术有关的服务。信息处理装置100执行与手术支持系统有关的各类信息处理。信息处理装置100是计算机,其获取作为手术图像的第一手术图像,将所获取的第一手术图像应用于经训练模型,以及生成关于第一手术图像的风险分析信息。

同时,信息处理装置100可以是布置在安装有手术室系统5100的设施(例如,医院等)中的服务器装置等,或者是布置在设施外部的服务器装置(例如,云服务器等),只要该装置能够执行预定信息处理。以这种方式,在手术支持系统1中,手术支持系统1可以使用预设系统或云系统来操作。换句话说,只要满足手术支持系统的操作的条件等,手术支持系统1中的信息处理装置100可以安装在任何位置处。

<2.概述>

下面将对根据本公开的技术的概述进行描述。本公开的至少一些示例性实施例可以提供一种手术支持系统,该手术支持系统例如使用人工智能(AI)来确定手术并发症风险(诸如缝合破裂),并且在手术期间实时显示确定结果。此处,由于缝合破裂引起的手术并发症风险是由吻合缺陷、吻合部位的高血压或血流受损引起的,并且通常由于有过失的手术操作(缝合位置或缝合方法)而发生。

例如,在以下文献中公开了由于缝合破裂引起的手术并发症风险:“Special topic subject I:Preventive measure against ruptured suture II:Preventive measure against ruptured suture after surgery of colorectal cancer”(Journal of the Japan Society of Coloproctology 62:812―817,2009)。

在手术支持系统1的示例性实施例中,通过使AI学习记录的过去手术视频以及手术后并发症的位置和等级,有可能从术中图像中预测并发症风险,诸如缝合破裂。

手术支持系统1对由内窥镜拍摄的手术视频采用用于确定并发症风险(诸如缝合破裂)的确定模型,确定并发症风险(诸如手术视频中缝合的风险),以及将确定结果作为手术支持信息(也被称为“支持信息”)提供给外科医生。通过将风险概率、风险暴露和关于并发症发生部位(诸如缝合破裂的部位)的信息作为支持信息提供,有可能潜在地减少在利用来自于支持信息的支持进行的手术中发生由于缝合破裂等引起并发症风险的机会。

例如,手术支持系统1可以在使用了基于深度学习的分析技术的消化道内窥镜手术中被采用作为术中缝合破裂自动分析系统。在这种情况下,手术支持系统1可以被采用作为下一代医院内视频系统,其实时地经由网络将来自术中内窥镜视频的视频发送到服务器,并且将基于深度学习技术的自动分析的确定结果叠加到高质量低延迟视频上。

<2-1.并发症>

手术期间发生的事件大部分被分类为由于疏忽(错误)引起的医疗事故,诸如遗漏纱布,以及与手术相关联的以大约恒定速率发生的并发症。并发症的发生导致二次手术、附加治疗、更长的住院治疗等,使得增加了对医院、患者的影响和负担,以及医疗成本。因此,并发症风险的预测使得有可能潜在地减少二次或后续手术、附加治疗、更长的住院治疗等的发生,并且减少对医院、患者的影响和负担,以及医疗成本。因此,手术支持系统1采用手术期间发生的事件中的并发症作为用于风险预测的目标。此外,手术支持系统1主要采用手术并发症诸如缝合破裂、肠梗阻、伤口感染和腹膜内脓肿,作为用于风险预测的目标。

以这种方式,手术支持系统1通过采用当执行手术时以固定概率发生的并发症,而不是外科医生等的疏忽(错误)引起的并发症,作为目标来执行处理。除了上述并发症之外,只要并发症适用,手术支持系统1可以采用各种并发症作为目标。例如,手术支持系统1可以采用诸如肺炎和肺栓塞、出血以及淋巴漏等一般并发症,作为用于风险预测的目标。如上所述的手术支持系统1对于各种并发症是有效的,并且具体对于手术之后被检测到的并且在手术闭合时不太可能被检测到的并发症是有效的。

<2-2.包括第一手术图像和第二手术图像的手术图像>

手术图像是与手术有关的图像,诸如由内窥镜拍摄的图像。该术语可以指实况(或接近实况,例如此处讨论的低延迟)图像信息,该实况图像信息可以作为示出了正在进行的外科手术行为的“第一手术图像”被呈现给外科医生或其他操作者。术语“第二手术图像”可以指具有相关联的元数据或其他信息的图像信息,该元数据或其他信息指示并发症或其他后果是否发生(或发生的程度),并且可以用来训练模型以标识第一手术图像或手术的现行处理的其他所拍摄图像中的潜在并发症或其他后果。例如,第二手术图像可以是包括成为手术并发症原因的部位的图像信息。第二手术图像可以是拍摄了成为手术并发症原因的部位的图像信息。第二手术图像可以是拍摄了缝合部位的图像的图像信息。第二手术图像可以是拍摄了出血部位的图像的图像信息。手术图像可以是拍摄了各种目标的图像,只要该图像与手术有关。手术图像可以是运动图像(视频)、特定光观察图像等。本文描述的第一手术图像对应于被输出使得手术支持信息被叠加在其上的图像。例如,第一手术图像对应于在输出手术支持信息时继续的手术中拍摄的手术图像。此外,本文描述的第二手术图像对应于用来生成经训练模型的图像。例如,第二手术图像对应于在比输出手术支持信息的时间更早的时间执行的过去手术中拍摄的手术图像。

如上所述,第一手术图像和第二手术图像是相对概念;因此,在一些情况下,单个手术图像可以首先用作第一手术图像,并且此后用作第二手术图像(例如,用于训练和/或更新与第一手术图像的未来实例一起使用的模型)。例如,如果采用某个手术图像作为在其上叠加了手术支持信息的输出目标,则该某个手术图像用作第一手术图像。此外,如果某个手术图像被包括在用来生成经训练模型的学习数据中,则该某个手术图像用作第二手术图像。在下文中,当第一手术图像和第二手术图像彼此不需要被具体区分时,它们可以被简单地描述为“手术图像”。

优选的是,因为可以提高确定准确度,手术图像是具有4K或更高的高分辨率图像。通过对手术图像使用高分辨率,诸如4K或8K,有可能提高确定准确度。手术图像可以是使用所谓的特定光和/或使用波长不同于可见光的电磁波来拍摄的图像。此外,如果使用了诸如窄带成像(NBI)的技术,则手术图像可以是使用诸如窄带光的特定光来观察的图像(特定光观察图像)。在其他实例中,手术图像可以是使用与如上所述的散斑成像有关的技术来拍摄的图像(散斑图像)。此外,手术图像可以是出现缝合部分的缝合图像。

<2-3.并发症风险信息>

与并发症风险有关并且用作为学习数据的信息(也被称为“并发症风险信息”)可以是各类信息,只要该信息指示并发症风险。并发症风险信息可以是指示并发症概率的信息或者指示并发症风险的严重度的信息。如果并发症风险信息包括指示并发症概率的信息,则并发症风险信息可以包括指示并发症存在还是不存在的二元信息。例如,指示并发症概率的信息可以是如果并发症存在则被设置为“1”并且如果并发症不存在则被设置为“0”的信息。

例如,信息处理装置100采用某种手术的手术图像作为输入数据(例如,作为所谓的基本真值输入数据),学习指示该某种手术中存在或不存在并发症的并发症风险信息作为正确答案信息,以及根据手术图像的输入来生成模型,该模型对于较高并发症概率输出较大分数。例如,信息处理装置100采用某种手术的手术图像作为输入数据,学习指示该某种手术中存在或不存在并发症的并发症风险信息作为正确答案信息,以及根据手术图像的输入来生成模型,该模型对于较高并发症概率输出更接近“1”的值。

同时,指示并发症概率的信息不限于二元信息,而可以是任何种类的信息,只要该信息指示并发症概率。例如,指示并发症概率的信息可以是0到1(0到100%)范围内的连续值。例如,指示并发症概率的信息可以是0到100%的值中指示事件概率的任何值(例如,70%等)。

如果并发症风险信息是指示并发症风险的严重度的信息,则并发症风险信息可以包括基于五级标度指示并发症风险的严重度的信息。例如,指示并发症风险的严重度的信息可以是关于基于JCOG标准的五级标度的信息,例如通过由从上文讨论的事件概率的预定或习得映射表限定的映射。

例如,JCOG标准公开如下。

“JCOG术后并发症标准(Clavien-Dindo分类)”<http://www.jcog.jp/doctor/tool/JCOG_Clavien-Dindo_ver2.0.pdf>

例如,信息处理装置100采用某种手术的手术图像作为输入数据,学习指示该某种手术中并发症的严重度的并发症风险信息作为正确答案信息,以及根据手术图像的输入来生成模型,该模型对于较高并发症严重度输出较大分数。例如,信息处理装置100采用某种手术的手术图像作为输入数据,学习指示该某种手术中并发症的严重度的并发症风险信息作为正确答案信息,以及根据手术图像的输入来生成模型,该模型对于较高并发症严重度输出更接近“5”的值。

此外,并发症风险信息可以包括指示与风险的发生有关的部位的信息。并发症风险信息可以包括关于风险发生部位的信息。并发症风险信息可以包括关于缝合部位的信息。并发症风险信息可以包括关于出血部位的信息。并发症风险信息可以包括在对应的手术图像中指示很可能发生并发症风险的部位的信息。并发症风险信息可以包括在对应的手术图像中指示已发生风险的部位的信息。并发症风险信息可以是被添加到图像数据(手术图像)的标注(元数据)。

例如,信息处理装置100采用手术图像作为输入数据,在该手术图像中学习指示已发生并发症的部位的并发症风险信息作为正确答案信息,以及根据手术图像的输入来生成模型,该模型在该手术图像中指示很可能发生并发症的部位的信息。例如,通过使用已发生并发症的一组手术图像(第一图像组)和还未发生并发症的一组手术图像(第二图像组)来执行学习,信息处理装置100能够生成模型,该模型相对于包括部位的手术图像输出指示很可能发生并发症的部位的信息。例如,信息处理装置100通过学习第一图像组中的图像和指示发生的部位的并发症风险信息作为正确答案信息来生成模型。例如,信息处理装置100通过学习第二图像组中的图像和指示没有发生的部位的并发症风险信息作为正确答案信息来生成模型。

<3.实施例细节>

<3-1.根据实施例的图像处理装置的配置>

下面将描述根据实施例的作为执行信息处理的信息处理装置的一个实例的信息处理装置100的配置。图6是示出根据本公开的实施例的信息处理装置100的配置实例的示意图。

如图6所示,信息处理装置100包括通信单元110、存储单元120和控制单元130。信息处理装置100可以包括从信息处理装置100的管理员等接收各类操作的输入单元(例如,键盘、鼠标等),和用于显示各类信息的显示单元(例如,液晶显示器等)。

通信单元110由例如网络接口卡(NIC)等来实现。通信单元110以有线或无线方式连接到网络N(见图5),并且向手术室系统5100发送信息并且从其接收信息。例如,通信单元110可以向手术室系统5100的每个装置(诸如显示装置5155和CCU 5153)发送信息并且从其接收信息。

存储单元120由例如半导体存储器设备来实现,诸如随机存取存储器(RAM)或闪速存储器,或者由存储设备来实现,诸如硬盘或光盘。如图6所示,根据实施例的存储单元120包括学习数据存储单元121和模型信息存储单元122。

学习数据存储单元121在其中存储关于用于学习的数据的各类信息(学习数据)。学习数据存储单元121在其中存储用来生成模型的教学数据。学习数据存储单元121在其中存储学习数据信息,该学习数据信息包括用作为输入的数据,并且包括对应于该数据的信息,诸如正确答案信息(正确答案标签)和输出(预测标签)。

学习数据存储单元121在其中存储学习数据,其中用作为输入的手术图像(第二手术图像)的数据和与由于与手术图像相对应的手术(第二手术)引起的并发症风险有关的信息(正确答案标签)是彼此相关联的。学习数据存储单元121在其中存储作为过去手术图像的第二手术图像以及关于由于与第二手术图像相对应的手术引起的并发症风险的信息的组合,作为学习数据(教学数据)。

学习数据存储单元121不限于上述实例,并且可以取决于目的在其中存储各类信息。学习数据存储单元121可以在其中存储与手术图像相对应的、与手术图像相关联的元信息(也被称为“手术属性信息”)。在这种情况下,信息处理装置100可以生成采用手术图像和手术属性信息作为输入的模型。

例如,学习数据存储单元121可以在其中存储手术属性信息,该手术属性信息包括关于患者的信息(也被称为“患者信息”),该患者将要经历与手术图像相对应的、与手术图像相关联的手术。患者信息可以包括关于患者的属性信息。例如,患者信息可以包括各类信息,诸如年龄、性别、民族和健康状况。患者信息是从例如医院信息系统(HIS)、电子病历(EMR,也可以被称为电子健康记录)等获取的。

例如,学习数据存储单元121可以在其中存储手术属性信息,该手术属性信息包括关于外科医生的信息(也被称为“外科医生信息”),该医生执行与手术图像相对应、与手术图像相关联的手术。外科医生信息可以包括关于外科医生的属性信息。例如,外科医生信息可以包括关于外科医生的各类信息,诸如年龄、性别和背景。

此外,学习数据存储单元121可以在其中存储关于手术视频的特征信息作为学习数据。学习数据存储单元121可以在其中存储指示改变操纵和改变手术场景中的至少一个的信息作为学习数据。学习数据存储单元121可以在其中存储关于缝合处理的信息作为学习数据,该缝合处理包括缝合方法和缝合位置中的至少一个。学习数据存储单元121可以在其中存储关于缝合处理的信息作为学习数据,该缝合处理是基于手术工具的轨迹来检测的。学习数据存储单元121可以在其中存储关于缝合处理的信息作为学习数据,该缝合处理是基于手术工具的远端位置的时间变化来检测的。学习数据存储单元121可以在其中存储特征信息作为学习数据,该特征信息是基于手术的操作时间来检测的。

例如,学习数据存储单元121可以是数据库,在该数据库中,存储了带有缝合破裂风险和缝合破裂部分的标注的教学数据(学习数据)。此外,信息处理装置100可以通过访问数据库来获取学习数据。在这种情况下,信息处理装置100不一定需要包括学习数据存储单元121。例如,信息处理装置100可以访问带有缝合破裂风险和缝合破裂部分的标注的经训练数据库,并且获取带有缝合破裂风险和缝合破裂部分的标注的学习数据。因此,换句话说,在手术支持系统的上下文中,对经训练模型的引用以及对诸如通过其来训练此模型的第二手术图像的源数据的引用,并不一定意指支持系统本身提供了可操作以执行训练处理的部件或其他布置;手术支持系统可以使用预先经训练模型。

根据实施例的模型信息存储单元122在其中存储关于模型的信息。例如,模型信息存储单元122在其中存储关于通过学习处理学习(生成)的已经训练的模型(模型)的信息(模型数据)。图7是示出根据实施例的模型信息存储单元的实例的示图。图7示出了根据实施例的模型信息存储单元122的实例。在图7所示的实例中,模型信息存储单元122包括“模型ID”、“预期用途”和“模型数据”的项。在此类实例中,本公开的实施例可以提供一种手术支持系统,该手术支持系统包括:获取单元,该获取单元被配置为获取第一手术图像;分析单元,该分析单元被配置为通过将由获取单元获取的第一手术图像应用于将第一手术图像的图像特征与关于由于手术引起的并发症风险的信息相关联的经训练模型(例如,如上文所讨论的预先经训练模型),从第一手术图像中生成风险分析信息;以及输出单元,该输出单元被配置为例如以叠加的方式在第一手术图像上输出基于由分析单元生成的风险分析信息的手术支持信息。

“模型ID”指示用于标识模型的标识信息。“预期用途”指示对应的模型的预期用途。“模型数据”指示模型的数据。在图7所示的实例中,概念信息,诸如“MDT1”,被存储在“模型数据”中,但是实际上,可以包括各类信息,诸如关于被包括在模型中的网络和构成模型的功能的信息。

在图7所示的实例中,指示了由模型ID“M1”标识的模型(模型M1)被用于“并发症风险”。此外,指示了模型M1的模型数据是模型数据MDT1。

同时,除了上述信息之外,模型信息存储单元122还可以取决于目的在其中存储各类信息。

回到图6,将继续说明。通过例如使中央处理单元(CPU)、微处理单元(MPU)等执行被存储在信息处理装置100内部的程序(例如,根据本公开的信息处理程序等),通过使用随机存取存储器等作为工作区,来实现控制单元130。此外,控制单元130是控制器,并且由例如集成电路(诸如专用集成电路(ASIC)或现场可编程门阵列(FPGA))来实现。

如图6所示,控制单元130包括获取单元131、学习单元132、分析单元133和发送单元134,并且实施或执行如下所述的手术支持处理的功能和操作。控制单元130的内部配置不限于如图6所示的配置,并且可以采用其他配置,只要执行稍后将描述的信息处理。附加地,被包括在控制单元130中的处理单元的连接关系不限于如图6所示的连接关系,并且可以采用任何其他连接关系。

获取单元131获取各类信息。获取单元131从外部信息处理装置获取各类信息。获取单元131从手术室系统5100获取各类信息。获取单元131从诸如语音识别服务器的其他信息处理装置获取各类信息。

在一些实例中,获取单元131从存储单元120获取各类信息。获取单元131从学习数据存储单元121和模型信息存储单元122获取各类信息。

例如,获取单元131可以获取模型。在一些实例中,获取单元131从提供模型的外部信息处理装置或存储单元120获取模型。例如,获取单元131从模型信息存储单元122获取模型M1等。

在一些实例中,获取单元131获取由学习单元132习得的各类信息。获取单元131获取由分析单元133分析的各类信息。在一些实例中,获取单元131获取由分析单元133计算的各类信息。获取单元131获取由分析单元133生成的各类信息。在一些实例中,获取单元131获取由分析单元133确定的各类信息。

在一些实例中,获取单元131获取第一手术图像是手术图像。在一些实例中,获取单元131获取使用学习数据来生成的经训练模型,该学习数据包括关于由于与第二手术图像相对应的第二手术引起的并发症风险的信息。

在一些实例中,获取单元131获取第一手术图像,该第一手术图像是满足关于图像质量的图像质量条件和关于延迟的延迟条件的高质量低延迟图像信息。在一些实例中,获取单元131获取第一手术图像,该第一手术图像是具有4K或更高的分辨率的手术图像。在一些实例中,获取单元131获取第一手术图像,该第一手术图像是特定光观察图像。

在一些实例中,获取单元131获取第二手术图像,该第二手术图像是包括成为手术并发症原因的部位的图像信息。在一些实例中,获取单元131获取第二手术图像,该第二手术图像是包括缝合部位和出血部位中的至少一个的图像信息。在一些实例中,获取单元131获取第二手术图像,该第二手术图像是包括通过图像识别来检测的部位的图像信息。

在一些实例中,获取单元131获取第二手术图像,该第二手术图像是特定光观察图像。在一些实例中,获取单元131获取第二手术图像,该第二手术图像是缝合部位或出血部位的内部状态可视化的图像。

在一些实例中,获取单元131获取与并发症风险有关的信息,该并发症风险是指示并发症的概率和严重度中的至少一个的信息。在一些实例中,获取单元131获取指示并发症存在还是不存在的二元信息的概率。在一些实例中,获取单元131获取指示并发症的影响程度的五级信息的严重度。

在一些实例中,获取单元131获取关于并发症风险的信息,该关于并发症风险的信息是关于风险发生部位的信息。在一些实例中,获取单元131获取关于风险发生部位的信息,该关于风险发生部位的信息是关于缝合部位和出血部位中的至少一个的信息。

在一些实例中,获取单元131可以获取使用第二手术图像来生成的经训练模型,该第二手术图像是包括成为手术并发症原因的部位的图像信息。在一些实例中,获取单元131获取使用第二手术图像来生成的经训练模型,该第二手术图像是包括缝合部位和出血部位中的至少一个的信息。

在一些实例中,获取单元131获取使用第二手术图像来生成的经训练模型,该第二手术图像是包括通过图像识别来检测的部位的信息。在一些实例中,获取单元131获取使用第二手术图像来生成的经训练模型,该第二手术图像是特定光观察图像。在一些实例中,获取单元131获取使用第二手术图像来生成的经训练模型,该第二手术图像是缝合部位或出血部位的内部状态可视化的图像。

在一些实例中,获取单元131获取使用与并发症风险有关的信息来生成的经训练模型,该并发症风险是指示并发症的概率和严重度中的至少一个的信息。在一些实例中,获取单元131获取使用概率来生成的经训练模型,该概率是指示并发症存在还是不存在的二元信息。在一些实例中,获取单元131获取使用严重度来生成的经训练模型,该严重度是指示并发症的影响程度的五级信息。

在一些实例中,获取单元131获取使用关于并发症风险的信息来生成的经训练模型,该关于并发症风险的信息是关于风险发生部位的信息。在一些实例中,获取单元131获取使用关于风险发生部位的信息来生成的经训练模型,该关于风险发生部位的信息是关于缝合部位和出血部位中的至少一个的信息。

在一些实例中,获取单元131获取输入数据,该输入数据用于经训练模型并且是手术视频。在一些实例中,获取单元131获取学习数据,该学习数据是手术视频。在一些实例中,获取单元131获取输入数据,该输入数据用于经训练模型并且是时间序列图像。在一些实例中,获取单元131获取学习数据,该学习数据是时间序列图像。

在一些实例中,获取单元131获取与手术图像相对应的元信息(手术属性信息)。在一些实例中,获取单元131从存储单元120或外部信息处理装置获取手术属性信息。例如,获取单元131获取手术属性信息,该手术属性信息包括关于将要经历与手术图像相对应的手术的患者的患者信息(诸如手术结果信息)。例如,获取单元131获取手术属性信息,该手术属性信息包括关于执行与手术图像相对应的手术的外科医生的外科医生信息。例如,如果获取单元131从外部信息处理装置获取手术属性信息,则获取单元131将该信息存储在存储单元120中。例如,如果获取单元131从外部信息处理装置获取与第二手术图像相对应的手术属性信息,则获取单元131将所获取的手术属性信息存储在与第二手术图像相关联的学习数据存储单元121中。

在一些实例中,学习单元132执行学习处理。在一些实例中,学习单元132执行各类学习。在一些实例中,学习单元132学习(生成)模型。在一些实例中,学习单元132学习关于模型等的各类信息。在一些实例中,学习单元132通过学习来生成模型。在一些实例中,学习单元132使用与各类机器学习有关的技术来学习模型,诸如先前提出的基于训练数据的机器学习技术,该训练数据将第二手术图像与特定结果或特定结果的概率相关联,示例性结果是并发症或没有并发症,以便生成将第一手术图像的图像特征与关于由于手术引起的并发症风险的信息相关联的模型。在一些实例中,学习单元132通过学习来更新模型。例如,学习单元132学习网络的参数。

在一些实例中,学习单元132使用存储在学习数据存储单元121中的学习数据(教学数据)来执行学习处理,并且生成确定设备(经训练模型)。例如,学习单元132生成并发症风险确定模型。学习单元132生成模型M1。被学习单元132采用的学习方法不受具体限制。例如,可以预备标签信息(并发症风险信息等)和一组手术图像是相关联的学习数据,并且通过向基于多层神经网络的计算模型输入学习数据来执行学习。对于另一实例,可以使用基于深度神经网络(DNN)的方法,诸如卷积神经网络(CNN)或3D-CNN。如果时间序列数据,例如视频(运动图像),诸如手术视频,被用作为目标,则学习单元132可以采用基于递归神经网络(RNN)或者基于作为扩展RNN的长短期记忆单元(LSTM)的方法。

例如,学习单元132以从外部信息处理装置获得的信息或被存储在存储单元120中的信息为基础来学习各类信息。学习单元132以从手术室系统5100获得的信息为基础来学习各类信息。学习单元132以被存储在学习数据存储单元121或模型信息存储单元122中的信息为基础来学习各类信息。学习单元132将通过学习来生成的模型存储在模型信息存储单元122中。学习单元132生成模型M1等。

学习单元132以由获取单元131获取的各类信息为基础来学习各类信息。学习单元132以由分析单元133分析的各类信息为基础来学习各类信息。学习单元132以由分析单元133生成的各类信息为基础来学习各类信息。学习单元132以由分析单元133确定的各类信息为基础来学习各类信息。在一些实例中,学习单元132使用作为过去手术图像的第二手术图像和关于由于手术引起的并发症风险或并发症后果的信息作为教学数据,并且通过机器学习生成经训练模型作为确定模型,该确定模型采用手术图像作为输入并且采用由于手术引起的并发症风险作为输出。学习单元132通过使用深度学习作为机器学习来生成经训练模型。

在一些实例中,学习单元132通过采用手术图像作为输入并且采用指示风险发生部位的信息和指示是否已发生风险的信息的组合,作为正确答案信息来执行学习,以及根据手术图像的输入来生成模型,该模型输出关于风险发生部位的信息和关于风险概率的信息。例如,学习单元132通过采用手术图像作为输入并且采用指示缝合破裂部位的信息和指示是否已经发生缝合破裂的信息的组合,作为正确答案信息来执行学习。相应地,在一些实例中,学习单元132根据手术图像的输入来生成模型,该模型输出指示可能发生缝合破裂的部位(在一些示例性实施例中,该部位位置可以用来给系统标识何处不叠加警告或警报信息)和缝合破裂的概率的信息。例如,学习单元132通过采用手术图像作为输入并且采用指示出血部位的信息和指示是否已经发生出血的信息的组合作为正确答案信息,来执行学习。相应地,在一些实例中,学习单元132根据手术图像的输入来生成模型,该模型输出指示出血可能发生的部位和出血概率的信息。例如,学习单元132通过采用手术图像作为输入以及采用指示缝合破裂部位的信息和指示缝合破裂的严重度的信息的组合作为正确答案信息,来执行学习。相应地,在一些实例中,学习单元132根据手术图像的输入来生成模型,该模型输出指示可能发生缝合破裂的部位和缝合破裂的严重度的信息。例如,学习单元132通过采用手术图像作为输入并且采用指示出血部位的信息和指示出血的严重度的信息的组合作为正确答案信息,来执行学习。相应地,在一些实例中,学习单元132根据手术图像的输入来生成模型,该模型输出指示可能发生出血的部位和出血的严重度的信息。

例如,学习单元132通过采用指示过去手术中风险的发生的信息作为正确答案信息并且采用在手术中的风险变得明显之前获得的手术图像作为输入,来学习模型。相应地,在一些实例中,学习单元132学习采用了第一时间点的手术图像作为输入的模型,并且预测是否在晚于第一时间点的第二时间点发生风险。在一些实例中,学习单元132使用学习数据来生成经训练模型,该学习数据包括关于手术视频的特征信息。在一些实例中,学习单元132使用学习数据来生成经训练模型,该学习数据包括指示改变操纵和改变手术场景中的至少一个的信息。在一些实例中,学习单元132使用学习数据来生成经训练模型,该学习数据包括指示缝合处理的特征信息,该缝合处理包括缝合方法和缝合位置中的至少一个。

在一些实例中,学习单元132使用学习数据来生成经训练模型,该学习数据包括基于手术工具的轨迹来检测的缝合处理(这可以通过图像分析和/或通过相对于手术工具可操作的位置和/或方位和/或移动和/或控制检测器来检测)。在一些实例中,学习单元132使用学习数据来生成经训练模型,该学习数据包括基于手术工具的远端位置的时间变化来检测的缝合处理。在一些实例中,学习单元132使用学习数据来生成经训练模型,该学习数据包括基于手术的操作时间来检测的特征信息。例如,如果如上所述的诸如手术视频的视频(运动图像)被采用作为目标,则学习单元132基于RNN或LSTM来生成模型。在一些实例中,学习单元132使用包括操纵的视频作为特征信息来生成模型。在一些实例中,学习单元132使用包括改变手术场景的视频作为特征信息来生成模型。在一些实例中,学习单元132使用包括缝合处理的视频作为特征信息来生成模型。在一些实例中,学习单元132使用包括缝合方法、缝合位置等的视频作为特征信息来生成模型。

在一些实例中,学习单元132使用第二手术图像来学习经训练模型,该第二手术图像是包括成为手术并发症原因的部位的图像信息。在一些实例中,学习单元132使用第二手术图像来学习经训练模型,该第二手术图像是包括缝合部位和出血部位中的至少一个的图像信息。

在一些实例中,学习单元132使用第二手术图像来学习经训练模型,该第二手术图像是包括通过图像识别来检测的部位的图像信息。在一些实例中,学习单元132使用第二手术图像来学习经训练模型,该第二手术图像是特定光观察图像。在一些实例中,学习单元132使用第二手术图像来学习经训练模型,该第二手术图像是缝合部位或出血部位的内部状态可视化的图像。

在一些实例中,学习单元132使用关于并发症风险的信息来学习经训练模型,该关于并发症风险的信息是指示并发症的概率和严重度中的至少一个的信息。在一些实例中,学习单元132使用概率来学习经训练模型,该概率是指示并发症存在还是不存在的二元信息。在一些实例中,学习单元132使用严重度来学习经训练模型,该严重度是指示并发症的影响程度的五级信息。

在一些实例中,学习单元132使用关于并发症风险的信息来学习经训练模型,该关于并发症风险的信息是关于风险发生部位的信息。在一些实例中,学习单元132使用关于风险发生部位的信息来学习经训练模型,该关于风险发生部位的信息是关于缝合部位和出血部位中的至少一个的信息。

在一些实例中,学习单元132可以使用与手术图像相对应的元信息(手术属性信息)来生成模型。在这种情况下,学习单元132可以生成采用手术图像和手术属性信息作为输入的模型。例如,学习单元132可以使用手术属性信息来生成模型,该手术属性信息包括关于将要经历与手术图像相对应的手术的患者的患者信息。例如,学习单元132可以使用手术属性信息来生成模型,该手术属性信息包括关于执行与手术图像相对应的手术的外科医生的外科医生信息。

分析单元133对各类信息进行分析。分析单元133以从外部信息处理装置获得的信息或被存储在存储单元120中的信息为基础来对各类信息进行分析。分析单元133以被存储在学习数据存储单元121和模型信息存储单元122中的信息为基础来对各类信息进行分析。分析单元133标识各类信息。分析单元133估计各类信息。

分析单元133提取各类信息。分析单元133选择各类信息。分析单元133以从外部信息处理装置获得的信息或被存储在存储单元120中的信息为基础来提取各类信息。分析单元133从存储单元120中提取各类信息。分析单元133从学习数据存储单元121和模型信息存储单元122中提取各类信息。

分析单元133以由获取单元131获取的各类信息为基础来提取各类信息。分析单元133以由分析单元133生成的信息为基础来提取各类信息。此外,分析单元133以由分析单元133确定的各类信息为基础来提取各类信息。分析单元133以由学习单元132习得的各类信息为基础来提取各类信息。

分析单元133生成各类信息。分析单元133以从外部信息处理装置获得的信息或被存储在存储单元120中的信息为基础来生成各类信息。分析单元133以从手术室系统5100获得的信息为基础来生成各类信息。分析单元133以被存储在学习数据存储单元121和模型信息存储单元122中的信息为基础来生成各类信息。

分析单元133确定各类信息。分析单元133执行各类确定。例如,分析单元133以从外部信息处理装置获得的信息或被存储在存储单元120中的信息为基础来确定各类信息。分析单元133以从手术室系统5100获得的信息为基础来确定各类信息。分析单元133以被存储在学习数据存储单元121和模型信息存储单元122中的信息为基础来确定各类信息。

分析单元133通过将第一手术图像应用于使用学习数据生成的经训练模型来生成关于第一手术图像的风险分析信息,该学习数据包括第二手术图像,该第二手术图像是不同于第一手术图像的手术图像,并且包括(或具有相关联的)关于由于手术引起的并发症风险的信息。

分析单元133生成风险分析信息,该风险分析信息指示由于与第一手术图像相对应的第一手术引起的并发症风险。分析单元133通过将第一手术图像输入到由获取单元131获取的经训练模型中来生成风险分析信息。如果使用根据输入来输出指示风险发生部位的信息的模型,则分析单元133通过使用模型的输出来生成风险分析信息,该风险分析信息包括关于风险发生部位的信息。例如,如果使用输出指示缝合破裂部位和缝合破裂的概率的信息的模型,则分析单元133通过使用模型的输出来生成风险分析信息,该风险分析信息指示可能发生缝合破裂的部位和缝合破裂的概率。例如,如果使用输出指示出血部位和出血的概率的信息的模型,则分析单元133通过使用模型的输出来生成风险分析信息,该风险分析信息指示可能发生出血的部位和出血的概率。例如,如果使用输出指示缝合破裂部位和缝合破裂的严重度的信息的模型,则分析单元133通过使用模型的输出来生成风险分析信息,该风险分析信息指示可能发生缝合破裂的部位和缝合破裂的严重度。例如,如果使用输出指示出血部位和出血的严重度的信息的模型,则分析单元133通过使用模型的输出来生成风险分析信息,该风险分析信息指示可能发生出血的部位和出血的严重度。

分析单元133通过使用第一手术图像来生成风险分析信息,该第一手术图像是满足关于图像质量的图像质量条件和关于延迟的延迟条件的高质量低延迟图像信息。分析单元133通过使用第一手术图像来生成风险分析信息,该第一手术图像是具有4k或更高的分辨率的图像信息,其是满足4K分辨率或更高分辨率的图像质量条件的“高质量”图像的实例。“低延迟”图像的实例是延迟(拍摄到显示)满足不超过20毫秒,优选为几毫秒,更优选为1毫秒的图像延迟条件的图像。分析单元133通过使用第一手术图像来生成风险分析信息,该第一手术图像是特定光观察图像。

分析单元133通过使用经训练的模型来生成风险分析信息,该经训练的模型是使用第二手术图像来生成的,该第二手术图像是包括成为手术并发症原因的部位(并且可以与指示此并发症风险的信息相关联)的图像信息。分析单元133通过使用经训练模型来生成风险分析信息,该经训练模型是使用第二手术图像来生成的,该第二手术图像是包括缝合部位和出血部位中的至少一个的图像信息。

注意,与第二手术图像相关联并且指示并发症风险的信息可以是“100%”,因为在由该第二手术信息表示的手术中确实发生了并发症,或者如果在由该第二手术信息表示的手术中没有发生并发症,则可以是“0%”。

在一些实例中,分析单元133通过使用经训练模型来生成风险分析信息,该经训练模型是使用第二手术图像来生成的,该第二手术图像是包括通过图像识别来检测的部位的图像信息。在一些实例中,分析单元133通过使用经训练模型来生成风险分析信息,该经训练模型是使用第二手术图像来生成的,该第二手术图像是特定光观察图像。在一些实例中,分析单元133通过使用经训练模型来生成风险分析信息,该经训练模型是使用第二手术图像来生成的,该第二手术图像是缝合部位或出血部位的内部状态可视化的图像。

在一些实例中,分析单元133通过使用经训练模型来生成风险分析信息,该经训练模型是使用关于并发症风险的信息来生成的,该关于并发症风险的信息是指示并发症的概率和严重度中的至少一个的信息。在一些实例中,分析单元133通过使用经训练模型来生成风险分析信息,该经训练模型是使用概率来生成的,该概率是指示并发症存在还是不存在的二元信息。在一些实例中,分析单元133通过使用经训练模型来生成风险分析信息,该经训练模型是使用严重度来生成的,该严重度是指示并发症的影响程度的五级信息。

在一些实例中,分析单元133通过使用经训练模型来生成风险分析信息,该经训练模型是使用关于并发症风险的信息来生成的,该关于并发症风险的信息是关于风险发生部位的信息。在一些实例中,分析单元133通过使用经训练模型来生成风险分析信息,该经训练模型是使用关于风险发生部位的信息来生成的,该关于风险发生部位的信息是关于缝合部位和出血部位中的至少一个的信息。

在一些实例中,分析单元133通过将经历过校正处理的第一手术图像采用到经训练模型中来生成风险分析信息。在一些实例中,分析单元133通过采用经历过校正处理的第一手术图像来生成风险分析信息,该校正处理是与旋转、失真和分辨率中的至少一个有关的处理。

在一些实例中,分析单元133生成风险分析信息,该风险分析信息是包括并发症风险的概率和严重度中的至少一个的信息。在一些实例中,分析单元133生成风险分析信息,该风险分析信息包括关于风险发生部位的信息。在一些实例中,分析单元133生成风险分析信息,该风险分析信息是包括关于缝合破裂部位和出血部位中的至少一个的信息并且包括部位处的并发症风险的概率和严重度中的至少一个的信息。

在一些实例中,分析单元133通过使用云服务器来执行风险分析中的预定处理。在一些实例中,分析单元133生成风险分析信息,该风险分析信息是考虑了与并发症具有权衡关系的信息的信息。在一些实例中,分析单元133生成风险分析信息,该风险分析信息是考虑了与缝合破裂具有权衡关系的信息的信息。在一些实例中,分析单元133生成风险分析信息,该风险分析信息是考虑了与缝合破裂具有权衡关系的手术持续时间的信息。如果在一些实例中手术持续时间超过预定阈值,则分析单元133确定手术支持信息将不被输出。如果在一些实例中手术持续时间由于手术支持信息的输出而超过预定阈值,则分析单元133确定手术支持信息将不被输出。如果在一些实例中预计手术持续时间超过预定阈值,则分析单元133确定手术支持信息将不被输出。

在一些实例中,分析单元133基于风险分析信息来生成手术支持信息。在一些实例中,分析单元133生成手术支持信息,该手术支持信息是指示风险部位的位置的信息。在一些示例中,例如,当使用输出指示缝合破裂部位和缝合破裂的概率的信息的模型时,并且如果由模型输出的概率等于或高于预定阈值(例如,70%等),则分析单元133生成手术支持信息,该手术支持信息指示由模型输出的缝合破裂部位。例如,当使用输出指示出血部位和出血的概率的信息的模型时,并且如果由模型输出的概率等于或高于预定阈值(例如,75%等),则分析单元133生成手术支持信息,该手术支持信息指示由模型输出的出血部位。例如,当在一些实例中使用输出指示缝合破裂部位和缝合破裂的严重度的信息的模型时,并且如果由模型输出的严重度等于或高于预定阈值(例如,四级或更高),则分析单元133生成手术支持信息,该手术支持信息指示由模型输出的缝合破裂部位。例如,当使用输出指示出血部位和出血的严重度的信息的模型时,并且如果由模型输出的严重度等于或高于预定阈值(例如,三级或更高),则分析单元133生成手术支持信息,该手术支持信息指示由模型输出的出血部位。

在一些实例中,分析单元133生成手术支持信息,该手术支持信息被叠加在不与风险部位重叠的位置上。在一些实例中,分析单元133生成手术支持信息,该手术支持信息是指示风险的概率和严重度中的至少一个的信息。在一些实例中,分析单元133生成具有预定形状和颜色的手术支持信息。

在一些实例中,分析单元133生成手术支持信息,针对该手术支持信息,形状或颜色是根据风险的概率和严重度中的至少一个来改变的。在一些实例中,分析单元133生成手术支持信息,该手术支持信息在手术图像上经历移动和闪烁中的至少一个。在一些实例中,分析单元133生成手术支持信息,针对该手术支持信息,移动速度和运动中的至少一个是根据风险的概率和严重度中的至少一个来控制的。

在一些实例中,分析单元133生成手术支持信息,针对该手术支持信息,内容以手术持续时间和手术场景中的至少一个为基础来动态改变的。在一些实例中,分析单元133生成手术支持信息,针对该手术支持信息,显示是基于预定标准来控制的。在一些实例中,分析单元133生成手术支持信息,该手术支持信息在自通过语音给出通知起经过预定时间段之后被显示。在一些实例中,分析单元133生成手术支持信息,该手术支持信息在手术期间被显示持续预定时间段。

在特定光观察图像的情况下,在一些实例中,分析单元133生成以预定模式显示的手术支持信息。在一些实例中,分析单元133生成针对手术的风险分析信息,针对该手术,手术难度水平取决于疾病、部位或手术过程而变化。在一些实例中,分析单元133通过使用普通光对缝合的外部状态进行分析并且使用特定光对缝合的内部状态进行分析来生成风险分析信息。

在一些实例中,分析单元133可以标识风险部位。在一些实例中,分析单元133可以通过适当地使用各种传统技术(诸如图像识别)来标识风险部位。当在一些实例中某个手术图像被输入到风险发生确定模型中并且该确定模型输出等于或高于预定阈值的分数时,分析单元133可以通过对某个手术图像执行图像分析来标识该某个手术图像中的风险部位。

在一些实例中,分析单元133可以通过适当地使用各种技术来生成将要提供给外部信息处理装置的各类信息,诸如屏幕(图像信息)。在一些实例中,分析单元133可以生成将要提供给输出单元的各类信息,诸如屏幕(图像信息)。在一些实例中,分析单元133可以生成将要提供给手术室系统5100的屏幕(图像信息)等。例如,分析单元133可以以被存储在存储单元120中的信息为基础来生成将要提供给手术室系统5100的屏幕(图像信息)等。在一些实例中,分析单元133可以通过任何处理来生成屏幕(图像信息)等,只要可以生成将要提供给外部信息处理装置的屏幕(图像信息)。例如,分析单元133通过适当地使用与图像形成、图像处理等有关的各种技术,来生成将要提供给手术室系统5100的屏幕(图像信息)。例如,分析单元133可以通过使用各种诸如Java(注册商标)的技术来生成将要提供给手术室系统5100的屏幕(图像信息)。同时,在一些实例中,分析单元133可以基于CSS、JavaScript(注册商标)或HTML的格式来生成将要提供给手术室系统5100的屏幕(图像信息)。此外,例如,分析单元133可以生成各种格式的屏幕(图像信息),诸如联合图像专家组(JPEG)、图形交换格式(GIF)或便携式网络图形(PNG)。

发送单元134向外部信息处理装置提供各类信息。发送单元134向外部信息处理装置发送各类信息。例如,发送单元134向手术室系统5100发送各类信息。发送单元134提供被存储在存储单元120中的信息。发送单元134发送被存储在存储单元120中的信息。

发送单元134以从手术室系统5100获得的信息为基础来提供各类信息。发送单元134以被存储在存储单元120中的信息为基础来提供各类信息。发送单元134以被存储在学习数据存储单元121和模型信息存储单元122中的信息为基础来提供各类信息。

发送单元134基于风险分析信息来发送手术支持信息。发送单元134基于风险分析信息来发送手术支持信息。发送单元134发送手术支持信息,该手术支持信息是指示风险部位的位置的信息。发送单元134发送手术支持信息,该手术支持信息被叠加在不与风险部位重叠的位置上。发送单元134发送手术支持信息,该手术支持信息是指示风险的概率和严重度中的至少一个的信息。

发送单元134发送具有预定形状和颜色的手术支持信息。发送单元134发送手术支持信息,针对该手术支持信息,形状或颜色是根据风险的概率和严重度中的至少一个来改变的。发送单元134发送手术支持信息,针对该手术支持信息,在手术图像上执行移动和闪烁中的至少一个。

发送单元134发送手术支持信息,针对该手术支持信息,移动速度和运动中的至少一个是根据风险的概率和严重度中的至少一个来控制的。发送单元134发送手术支持信息,针对该手术支持信息,内容是以手术持续时间和手术场景中的至少一个为基础来动态改变的。

发送单元134发送手术支持信息,针对该手术支持信息,显示是基于预定标准来控制的。发送单元134发送手术支持信息,该手术支持信息自通过语音给出通知起经过预定时间段之后被显示。发送单元134发送手术支持信息,该手术支持信息在手术期间被显示持续预定时间段。在特定光观察图像的情况下,发送单元134发送以预定模式显示的手术支持信息。

<3-2.根据实施例的输出装置的实例>

下面将对根据实施例的输出装置的实例进行描述。在如上所述的实例中,手术室系统5100的显示装置5155用作输出装置,该输出装置用作输出手术支持信息的输出单元,该手术支持信息基于由信息处理装置100生成的风险分析信息。例如,显示装置5155包括液晶显示器、有机电致发光(EL)显示器等。显示装置5155显示各类信息。显示装置5155显示从信息处理装置100获取的信息和从手术室系统5100的各种装置获取的信息。显示装置5155显示从信息处理装置100获取的手术支持信息和从手术室系统5100的各种装置获取的手术图像。

显示装置5155用作输出装置(输出单元)。显示装置5155以叠加的方式在手术图像上输出手术支持信息,该手术支持信息基于由分析单元133生成的风险分析信息。显示装置5155以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息基于风险分析信息。

显示装置5155以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息指示风险部位的位置。显示装置5155以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息被叠加在不与风险部位重叠的位置上。显示装置5155以叠加的方式在第一手术的手术图像中的不与风险部位重叠的位置处输出手术支持信息。

显示装置5155以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息是指示风险的概率和严重度中的至少一个的信息。显示装置5155以叠加的方式在第一手术的手术图像上输出具有预定形状或颜色的手术支持信息。

显示装置5155以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,形状或颜色是根据风险的概率和严重度中的至少一个来改变的。显示装置5155以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,在手术图像上执行移动和闪烁中的至少一个。

显示装置5155以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,移动速度和运动中的至少一个是根据风险的概率和严重度中的至少一个来控制的。显示装置5155以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,内容是以手术持续时间和手术场景中的至少一个为基础来动态改变的。

显示装置5155以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,显示是基于预定标准来控制的。显示装置5155以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息自通过语音给出通知起经过预定时间段之后被显示。

显示装置5155以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息在手术期间被显示持续预定时间段。显示装置5155在手术期间以叠加的方式在第一手术的手术图像上输出手术支持信息持续预定时间段。

在特定光观察图像的情况下,显示装置5155以叠加的方式在第一手术的手术图像上输出以预定模式显示的手术支持信息。在特定光观察图像的情况下,显示装置5155以叠加的方式在第一手术的手术图像上输出预定模式下的手术支持信息。

输出装置可以是任何装置,诸如显示装置5103A至5103D或集中式操作面板5111。

<3-3.根据实施例的手术支持处理的过程>

下面将参考图8对根据实施例的各种手术支持处理的流程进行描述。图8是示出根据本公开的实施例的手术支持处理的流程的流程图。每个步骤处的处理可以由包括在手术支持系统1中的任何装置来执行,诸如信息处理装置100或手术室系统5100的每个装置。

如图8所示,手术支持系统1获取第一手术图像(步骤S101)。例如,信息处理装置100获取第一手术图像。例如,信息处理装置100获取第一手术图像,该第一手术图像是在执行了手术的手术室系统5100中拍摄的。

手术支持系统1通过将第一手术图像应用于使用学习数据生成的经训练模型来生成关于手术图像的风险分析信息,该学习数据包括第二手术图像和关于由于手术引起的并发症风险的信息两者(步骤S102)。例如,信息处理装置100通过将第一手术图像应用于习得的经训练模型来生成关于手术图像的风险分析信息。例如,信息处理装置100通过将第一手术图像应用于模型M1来生成关于手术图像的风险分析信息,该模型是被存储在模型信息存储单元122(见图7)中的经训练模型。

手术支持系统1以叠加的方式在手术图像上输出手术支持信息,该手术支持信息基于风险分析信息(步骤S103)。例如,信息处理装置100基于分析信息来生成手术支持信息,并且将手术支持信息发送到手术室系统5100。已经接收到手术支持信息的手术室系统5100以叠加的方式在手术图像上输出手术支持信息。手术室系统5100的显示装置5155以叠加的方式在手术图像上显示手术支持信息。

<3-4.根据实施例的手术支持处理的概述>

图9是示出根据本公开的实施例的手术支持处理的实例的示图。根据本公开的实施例的信息处理由被包括在如上所述的手术支持系统1中的组成元件来实现。

首先,信息处理装置100获取手术图像IM11作为第一手术图像(步骤S11)。例如,在外科医生执行缝合时,观察员操作刚性内窥镜并且拍摄视频。在图9所示的实例中,信息处理装置100获取手术图像IM11,该手术图像由手术室系统5100的内窥镜5115来拍摄。信息处理装置100经由网络N从手术室系统5100获取手术图像IM11。被包括在手术室系统5100中并且具有通信功能的通信装置CM(例如,CCU 5153等)经由网络N向信息处理装置100发送手术图像IM11。通信装置CM获取由内窥镜5115拍摄的手术图像IM11,并且向信息处理装置100发送手术图像IM11。通信装置CM从内窥镜手术系统5113获取手术图像IM11,并且向信息处理装置100发送手术图像IM11。虽然在图9的实例中仅图示了手术图像IM11,但是手术图像可以是手术视频。在这种情况下,手术视频经由网络N从手术室系统5100被传输到信息处理装置100。

然后,信息处理装置100执行分析处理(步骤S12)。例如,手术支持系统1使用云AI或服务器分析来执行分析处理。在图9所图示的实例中,信息处理装置100使用手术图像IM11来执行分析处理。例如,信息处理装置100可以使用经训练的数据库来执行分析处理,该经训练的数据库带有针对缝合破裂的风险和缝合破裂的一部分的标注。信息处理装置100可以通过适当地使用识别分析、形态分析等技术来执行分析处理。例如,信息处理装置100可以执行分析处理,该分析处理包括缝合破裂的风险的确定。

信息处理装置100通过将手术图像IM11应用于模型M1来执行分析处理。信息处理装置100将手术图像IM11输入到模型M1中,并且使用从模型M1输出的信息来执行分析处理。信息处理装置100使用指示风险概率的信息或指示风险发生部位的信息来执行分析处理,其中该信息由已经输入了手术图像IM11的模型M1来输出。

如果由已经输入了手术图像IM11的模型M1来输出的指示风险概率的信息等于或大于预定阈值,则信息处理装置100确定存在风险。此外,如果由已经输入了手术图像IM11的模型M1来输出的指示风险概率的信息小于预定阈值,则信息处理装置100确定不存在风险。然后,信息处理装置100生成指示确定结果的风险确定信息。信息处理装置100使用由已经输入了手术图像IM11的模型M1输出的指示风险发生部位的信息来生成高风险位置信息。在图9所图示的实例中,信息处理装置100生成指示确定存在风险的风险确定信息,并且生成指示风险发生部位位于手术图像IM11的右中心部分的信息。具体地,信息处理装置100生成指示风险发生部位是位于手术图像IM11中的标记MK11内部的区域的信息。

然后,信息处理装置100向手术室系统5100发送所生成的风险确定信息或所生成的高风险位置信息(步骤S13)。所生成的风险确定信息或所生成的高风险位置信息被发送到手术室系统5100中具有通信功能的装置。例如,手术室系统5100的CCU 5153(见图3)经由网络N向信息处理装置100发送信息以及从其接收信息。此外,CCU 5153可以经由手术室系统5100中具有通信功能的不同装置(通信装置CM)等向信息处理装置100发送信息以及从其接收信息。CCU 5153获取由信息处理装置100生成的风险确定信息或高风险位置信息。

CCU 5153使用风险确定信息或高风险位置信息来执行图像处理(步骤S14)。CCU 5153执行将信息叠加在图像上的图像处理(信号处理)等。例如,CCU 5153将确定结果叠加在高质量低延迟视频上。在图9所图示的实例中,CCU 5153将指示风险发生部位位于手术图像IM11的右中心部分的手术支持信息叠加在手术图像IM11上。具体地,CCU 5153将环形标记MK11作为手术支持信息叠加在手术图像IM11上,该环形标记MK11将手术图像IM11中被确定作为风险发生部位的区域围住。以这种方式,叠加标记MK11,使得风险部位在手术图像IM11中被包围。换句话说,标记MK11被叠加在手术图像IM11中不与风险部位重叠的位置上。

然后,CCU 5153使显示装置5155显示其上叠加有标记MK11的手术图像IM11作为手术支持信息(步骤S15)。CCU 5153将其上叠加有标记MK11的手术图像IM11作为手术支持信息发送到显示装置5155,并且使显示装置5155显示其上叠加有标记MK11的手术图像IM11。从CCU 5153接收到其上叠加有标记MK11的手术图像IM11的显示装置5155显示其上叠加有标记MK11的手术图像IM11。相应地,诸如外科医生(医师)的医学专业人员DT对其上叠加有标记MK11的手术图像IM11进行检查。

已经检查了被显示在显示装置5155上的信息的医疗专业人员DT以信息的内容为基础来执行治疗,诸如恢复(步骤S16)。因此,手术支持系统1可以减少缝合破裂的并发症。

在图9的实例中,已经描述了手术图像(高分辨率图像等)从手术室系统5100被发送到信息处理装置100的情况;然而,手术支持系统1可以执行如下所述的处理。例如,手术支持系统1可以使手术室系统5100检测患部的地标(landmark)(缝合部位、出血部位、线等)。在这种情况下,手术支持系统1通过使用手术室系统5100的多层图像传感器并且使用传感器中的信号处理,来检测如上所述的患部的地标。然后,手术支持系统1经由移动工业处理器接口(MIPI)仅将检测结果(而不是高分辨率图像)从手术室系统5100发送到服务器(信息处理装置100),并且使云服务器(信息处理装置100)执行识别处理。

利用这种配置,可以避免服务器上的负载集中,并且减少手术支持系统1中的发送数据量。例如,通过使手术室系统5100检测患部的地标,手术支持系统1能够避免服务器(信息处理装置100)中的负载集中。此外,通过将患部的地标的检测结果而不是高分辨率图像(手术图像等)从手术室系统5100发送到信息处理装置100,手术支持系统1能够减少被传输到服务器(信息处理装置100)的数据量。此外,在这种情况下,手术支持系统1使服务器生成手术支持信息,向客户端站点发送手术支持信息,以及在客户端站点以叠加的方式显示手术支持信息。例如,信息处理装置100基于所获取的患部的地标的检测结果来生成手术支持信息,并且向手术室系统5100发送手术支持信息。已经接收到手术支持信息的手术室系统5100使显示装置5155等以叠加的方式在手术图像上显示手术支持信息。

<3-5.手术支持信息的输出实例>

手术支持系统1可以以任何模式输出手术支持信息,只要手术支持信息以叠加的方式被输出在手术图像上。这将在下面参考图10和图11进行描述。

<3-5-1.手术支持信息的显示>

首先,将参考图10对手术支持信息的显示进行描述。图10是图示手术支持信息的输出的实例的示意图。

在图10所示的实例中,显示装置5155显示其上叠加有标记MK11的手术图像IM11。显示装置5155以叠加的方式在手术图像IM11上显示手术支持信息,该手术支持信息指示风险发生部位位于手术图像IM11的右中心部分。具体地,显示装置5155以叠加的方式在手术图像IM11上显示环形标记MK11,该环形标记MK11将手术图像IM11中被确定为风险发生部位的区域围住。以这种方式,显示装置5155在与风险部位有关的位置处显示手术支持信息。

图10所示的显示是一个实例。手术支持系统1在手术图像上以叠加的方式显示手术支持信息的方式可以是任意的。显示装置5155可以以画中画(PinP)的方式显示手术支持信息。例如,显示装置5155与手术图像IM11(主图像)分开地显示通过将手术支持信息叠加在手术图像IM1上而获得的图像(子图像)。显示装置5155以最大尺寸显示手术图像IM11作为主图像,并且以比主图像更小的尺寸显示其上叠加有手术支持信息的子图像。利用这种配置,医学专业人员可以清楚地查看主图像中的治疗部分,而不受手术支持信息的干扰,并且还可以使用子图像来检查风险部分。

例如,手术支持系统1可以将手术支持信息叠加在手术图像中不太可能干扰手术的位置上。例如,手术支持系统1可以在手术图像IM11的四个角处的黑色区域中显示用文本(语言)表示风险部位的手术支持信息。手术支持系统1可以显示文本信息作为手术支持信息,诸如手术图像IM11中右上方黑色区域中的“右中心部分存在风险”。

手术支持系统1不需要总是显示如图10所示的环形标记MK11,而可以显示各类手术支持信息,诸如半透明标记。此外,手术支持系统1可以显示标记作为手术支持信息,针对该标记,颜色或大小是取决于风险来改变的。例如,手术支持系统1可以显示标记作为手术支持信息,针对该标记,颜色取决于风险从冷色被改变为暖色。例如,手术支持系统1可以显示标记作为手术支持信息,当风险很低时该标记被显示为蓝色,并且当风险很高时该标记被显示为红色。例如,手术支持系统1可以显示标记作为手术支持信息,针对该标记,大小随着风险的增加而增加。例如,手术支持系统1可以取决于风险以不同颜色显示缝合部位。

此外,手术支持系统1可以以各种信息为基础来改变显示模式。手术支持系统1可以以手术属性信息为基础来改变显示模式。手术支持系统1可以根据手术的细节来改变显示模式。手术支持系统1可以根据手术难度水平来改变显示模式。例如,手术支持系统1可以随着手术难度水平的增加显示更详细的信息。

手术支持系统1可以取决于外科医生来改变显示。手术支持系统1可以以外科医生信息为基础来改变显示模式。手术支持系统1可以减少具有较长载体的针对外科医生的信息的显示次数或信息量。

<3-5-2.两步输出>

下面将参考图11对两步输出进行描述。图11是图示手术支持信息的输出的另一实例的示意图。在图11所示的实例中,两步显示将被描述为两步输出的一个实例,但是可以采用各种输出模式,只要输出以两步方式来执行。例如,可以在初始步(第一步)通过语音给出通知,并且如果对通知给出响应,则可以在下一步(第二步)执行显示。在这种情况下,可以在第一步通过语音给出通知,诸如“有风险,要不要显示风险?”并且如果外科医生允许执行显示,则在第二步以叠加的方式在手术图像上显示标记等。以这种方式,可以在不同步采用不同的输出模式,例如在第一步使用语音,在第二步执行显示。

将使用与第一步的显示模式相对应的显示装置5155-1和在第二步使用显示模式的显示装置5155-2来对图11所示的实例进行描述。显示装置5155-1和显示装置5155-2是相同的显示装置5155,并且当它们不需要彼此被具体区分时,将被描述为显示装置5155。

如果确定存在风险,手术支持系统1给出指示存在风险的通知作为第一步(步骤S21)。显示装置5155-1在手术图像IM11中的右上区域中显示“存在风险”的字符信息NT11,从而通知(给出通知)外科医生存在风险。

已经被通知(接收到通知)存在风险的外科医生选择显示风险的细节(步骤S22)。例如,外科医生通过语音说出“显示细节”或通过预定的操作来选择显示风险的细节。

然后,手术支持系统1显示风险的细节作为第二步(步骤S23)。显示装置5155-2以叠加的方式在手术图像IM11上显示标记MK11。显示装置5155以叠加的方式在手术图像IM11上显示手术支持信息,该手术支持信息指示风险发生部位位于手术图像IM11的右中心部分。如果外科医生没有为第二步选择输出,则手术支持系统1在第二步不执行输出。

以这种方式,手术支持系统1以两步方式执行输出,并且当外科医生在第一步给出允许时,在第二步执行输出,使得可以以叠加方式在手术图像上输出手术支持信息,而不干扰外科医生。

<3-6.由手术支持系统执行的处理的实例>

下面将参考图12从概念上对由手术支持系统执行的处理进行描述。图12是图示由手术支持系统执行的处理的实例的示意图。例如,图12所示的处理由手术支持系统1来执行。

如图12所示的由手术支持系统执行的处理的实例包括用于生成人工智能(AI)的学习阶段PH1和用于使用AI的使用阶段PH2。由手术支持系统执行的处理不需要总是被执行,使得学习阶段PH1被首先执行,并且此后使用阶段PH2被执行。在由手术支持系统执行的处理中,可以并行执行学习阶段PH1和使用阶段PH2,并且通过使用经训练模型来重复更新(改进)经训练模型。包括学习阶段PH1和使用阶段PH2的整个处理对应于使用AI的整个处理。

图12所示的原始数据DT2对应于第二手术图像。执行用于使用作为第二手术图像的原始数据DT2生成学习数据LD1的处理PS1。学习数据LD1包括手术视频(手术图像)、部位、指示等级(严重度等)的并发症风险等。学习程序PG1可以包括指示将要使用的学习方法的信息。学习程序PG1可以包括指示将要使用的学习方法的信息,诸如监督式学习或无监督式学习。学习程序PG1可以包括学习算法等。

通过使用学习数据LD1和学习程序PG1的学习处理PS2,生成作为经训练模型的模型M1。

图12所示的原始数据DT1对应于第一手术图像。通过对作为经训练模型的模型M1采用原始数据DT1作为第一手术图像,执行用于生成分析结果的处理PS3。例如,通过处理PS3,实施用于分类的功能等。通过将原始数据DT1输入到模型M1中,使用由模型M1输出的信息来生成分析结果RS1。分析结果RS1对应于风险分析信息、风险或指示风险部位的手术支持信息。然后,执行使用分析结果RS1的处理PS4。例如,分析结果RS1通过向外科医生输出信息来使用,使得手术支持信息以叠加的方式被输出在原始数据DT1上。分析结果RS1的使用可以是各类信息显示方法。

此外,可以通过学习处理PS5使用作为经训练模型的模型M1、学习数据LD1和学习程序PG1来生成派生模型DM1。通过处理PS5生成的派生模型DM1可以通过对模型进行处理来生成。学习处理PS5可以是使用各种学习方法的处理,诸如迁移学习。

<4.其他实施例>

根据如上所述的实施例和改进的处理可以以不同于如上所述的实施例和改进的各种不同形式(改进)来体现。例如,手术支持系统1不需要总是包括手术室系统5100的所有组件。手术支持系统1可以仅包括如上所述分析风险并且输出分析结果所需的组件。在这种情况下,手术支持系统1可以仅包括执行分析处理的信息处理装置100和向信息处理装置100提供手术图像并且输出分析结果的手术室系统。然后,手术室系统可以仅包括作为用于拍摄手术图像的成像部件的摄像机(内窥镜等)、执行将信息叠加在图像上的图像处理(信号处理)的装置(CCU等)以及输出信息的输出装置(监视器等)。上述配置是一个实例,并且手术支持系统1可以采用任何装置配置,只要可以如上所述分析风险并且输出分析结果。例如,如果信息处理装置100在手术支持系统1中执行将信息叠加在图像上的图像处理(信号处理),则手术室系统不需要包括执行图像处理(信号处理)的装置。

<4-1.其他配置实例>

在上述实例中,已经描述了用作用于输出信息的输出单元的装置被包括在手术室系统5100中的情况;然而,输出单元不需要总是被包括在手术室系统5100中。这将在下面进行描述。将适当地省略与根据实施例的手术支持系统1和信息处理装置100的相同的组件和相同的功能的说明。

<4-1-1.手术支持信息的修改>

例如,输出单元可以与手术室系统5100和信息处理装置100分开提供。这将在下面参考图13进行描述。图13是图示根据本公开的修改的信息处理系统的配置实例的示图。

如图13所示,手术支持系统1A包括输出装置10和信息处理装置100。输出装置10和信息处理装置100经由预定通信网络(网络N)以有线或无线方式可通信地彼此连接。图13是图示根据实施例的手术支持系统的配置实例的示意图。图13所示的手术支持系统1A可以包括多个输出装置10或多个信息处理装置100。手术支持系统1A可以包括手术室系统5100。在这种情况下,信息处理装置100或输出装置10通过适当地使用与图像形成、图像处理等有关的各种技术来执行将手术支持信息叠加在作为第一手术的手术图像上的处理。

输出装置10以叠加的方式在手术图像上输出手术支持信息,该手术支持信息基于风险分析信息。输出装置10显示各类信息。输出装置10包括例如液晶显示器、有机EL显示器等。输出装置10以叠加的方式在手术图像上显示手术支持信息,该手术支持信息基于风险分析信息。输出装置10以叠加的方式在手术图像上显示手术支持信息,该手术支持信息基于由信息处理装置100生成的风险分析信息。例如,输出装置10以叠加的方式在从手术室系统5100获取的手术图像上显示手术支持信息,该手术支持信息基于由信息处理装置100生成的风险分析信息。

例如,输出装置10显示图像IM11、标记MK11等。输出装置10以叠加的方式在作为手术图像的图像IM11上显示作为手术支持信息的标记MK11。如果输出装置10通过语音来输出手术支持信息,则输出装置10具有输出语音的功能。例如,输出装置10包括输出语音的扬声器。

输出装置10包括由例如NIC、通信电路等实现的通信单元,该通信单元以有线或无线方式连接到网络N(互联网等),并且该输出装置经由网络N向信息处理装置100、手术室系统5100等发送信息以及从其接收信息。

例如,输出装置10是执行输出手术支持信息的处理的计算机(信息处理装置)。输出装置10的处理器可以是各种处理器,诸如CPU、GPU或FPGA。例如,输出装置10包括由CPU、GPU、FPGA等实现的控制单元,并且该输出装置执行各类信息处理,诸如输出处理。

输出装置10用作输出单元。输出装置10以叠加的方式在第一手术图像上输出手术支持信息,该手术支持信息基于由分析单元133生成的风险分析信息。输出装置10以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息基于风险分析信息。

输出装置10以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息指示风险部位的位置。输出装置10以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息被叠加在不与风险部位重叠的位置上。输出装置10以叠加的方式在第一手术的手术图像中不与风险部位重叠的位置处输出手术支持信息。

输出装置10以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息是指示风险的概率和严重度中的至少一个的信息。输出装置10以叠加的方式在第一手术的手术图像上输出具有预定形状或颜色的手术支持信息。

输出装置10以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,形状或颜色是根据风险的概率和严重度中的至少一个来改变的。输出装置10以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,在手术图像上执行移动和闪烁中的至少一个。

输出装置10以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,移动速度和运动中的至少一个是根据风险的概率和严重度中的至少一个来控制的。输出装置10以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,内容是以手术持续时间和手术场景中的至少一个为基础来动态改变的。

输出装置10以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,显示是基于预定标准来控制的。输出装置10以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息自通过语音给出通知起经过预定时间段之后被显示。

输出装置10以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息在手术期间被显示持续预定时间段。输出装置10在手术期间以叠加的方式在第一手术的手术图像上输出手术支持信息达预定时间段。

在特定光观察图像的情况下,输出装置10以叠加的方式在第一手术的手术图像上输出以预定模式显示的手术支持信息。在特定光观察图像的情况下,输出装置10以叠加的方式在第一手术的手术图像上输出预定模式下的手术支持信息。

<4-1-2.信息处理装置的修改>

信息处理装置可以被配置为包括输出单元。这将在下面参考图14进行描述。图14是图示根据本公开的修改的信息处理装置的配置实例的示意图。在这种情况下,信息处理装置100A通过适当地使用与图像形成、图像处理等有关的各种技术,来执行将手术支持信息叠加在第一手术的手术图像上的处理。

如图14所示,信息处理装置100A包括通信单元110、存储单元120、控制单元130和输出单元140。信息处理装置100A使通信单元110经由网络N向手术室系统5100等发送信息以及从其接收信息。例如,分析单元133通过适当地使用与图像形成、图像处理等有关的各种技术来执行将手术支持信息叠加在第一手术的手术图像上的处理。

输出单元140输出各类信息。输出单元140输出由分析单元133生成的各类信息。输出单元140输出基于风险分析信息的手术支持信息。输出单元140输出从手术室系统5100获取的各类信息。

输出单元140显示各类信息。输出单元140由例如液晶显示器、有机EL显示器等来实现。输出单元140可以由任何部件来实现,只要可以以叠加的方式在手术图像上显示基于风险分析信息的手术支持信息。

例如,输出单元140显示图像IM11、标记MK11等。输出单元140以叠加的方式在作为手术图像的图像IM11上显示作为手术支持信息的标记MK11。如果手术支持信息将要通过语音来输出,则输出单元13具有输出语音的功能。例如,输出单元13包括输出语音的扬声器。

输出单元140以叠加的方式在手术图像上输出手术支持信息,该手术支持信息基于由分析单元133生成的风险分析信息。输出单元140以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息基于风险分析信息。

输出单元140以叠加的方式在第一手术的手术图像上输出指示风险部位的位置的手术支持信息。输出单元140以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息被叠加在不与风险部位重叠的位置上。输出单元140以叠加的方式在第一手术的手术图像中不与风险部位重叠的位置处输出手术支持信息。

输出单元140以叠加的方式在第一手术的手术图像上输出指示风险的概率和严重度中的至少一个的信息的手术支持信息。输出单元140以叠加的方式在第一手术的手术图像上输出具有预定形状或颜色的手术支持信息。

输出单元140以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,形状或颜色是根据风险的概率和严重度中的至少一个来改变的。输出单元140以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,在手术图像上执行移动和闪烁中的至少一个。

输出单元140以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,移动速度和运动中的至少一个是根据风险的概率和严重度中的至少一个来控制的。输出单元140以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,内容是以手术持续时间和手术场景中的至少一个为基础来动态改变的。

输出单元140以叠加的方式在第一手术的手术图像上输出手术支持信息,针对该手术支持信息,显示是基于预定标准来控制的。输出单元140以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息自通过语音给出通知起经过预定时间段之后被显示。

输出单元140以叠加的方式在第一手术的手术图像上输出手术支持信息,该手术支持信息在手术期间被显示持续预定时间段。输出单元140在手术期间以叠加的方式在第一手术的手术图像上输出手术支持信息持续预定时间段。

在特定光观察图像的情况下,输出单元140以叠加的方式在第一手术的手术图像上输出以预定模式显示的手术支持信息。在特定光观察图像的情况下,输出单元140以叠加的方式在第一手术的手术图像上输出预定模式下的手术支持信息。

<4-2.手术支持信息的输出模式>

如上所述的手术支持信息的输出不需要总是通过显示信息来执行,而是可以以各种输出模式来执行。例如,如上所述的手术支持信息的输出可以通过语音来输出(语音输出)。在这种情况下,在手术图像被显示在显示信息的装置(诸如显示器)上的状态下,手术支持信息被输出作为语音,使得手术支持信息以叠加的方式被输出在手术图像上。

如上所述,以叠加的方式在手术图像上输出手术支持信息(也可以被称为“叠加式输出”)是这样一种概念,即不仅包括以叠加的方式在诸如显示器的屏幕上显示信息,还包括以时间叠加的方式输出。换句话说,本文描述的叠加输出是包括以时间叠加的方式以不同的输出模式(诸如显示手术图像和语音输出手术支持信息)提供多条信息的操作的概念。

<4-3.其他>

在实施例中描述的处理中,被描述为自动执行的处理的全部或部分也可以手动执行。另选地,被描述为手动执行的处理的全部或部分也可以通过已知方法自动执行。附加地,除非另有说明,否则上述文件和附图中所图示的处理过程、特定名称以及包括各种类型的数据和参数的信息可以被任意改变。例如,附图中所图示的各类信息不限于如图中所图示的信息。

附加地,附图中所图示的组成元件在功能上是概念性的,并且不一定必须以图中所图示的方式被物理配置。换句话说,装置的分布和集成的特定形式不限于图中所图示的那些,并且取决于各种负载或使用条件,装置的全部或部分可以在功能上或物理上被分布或被集成在任意单元中。

此外,只要处理彼此不冲突,如上所述的每个实施例和修改都可以被适当地组合。

此外,本说明书中描述的效果仅仅是例示性的或例证性的,而不是限制性的,并且可以达到其他效果。

<5.根据本公开的效果>

如上所述,根据本公开的手术支持系统(实施例中的手术支持系统1)包括获取单元(实施例中的获取单元131)、分析单元(实施例中的分析单元133)和输出单元(实施例中的显示装置5155、输出装置10、输出单元140等)。获取单元获取作为手术图像的第一手术图像。在一些实例中,分析单元通过将由获取单元获取的第一手术图像应用于使用学习数据生成的经训练模型来生成关于第一手术图像的风险分析信息,该学习数据包括第二手术图像,该第二手术图像是不同于第一手术图像的手术图像,并且包括关于由于手术引起的并发症风险的信息。输出单元以叠加的方式在手术图像上输出基于由分析单元生成的风险分析信息的手术支持信息。

因此,根据本公开的手术支持系统通过将第一手术图像应用于经训练模型来生成关于第一手术图像的风险分析信息,并且基于所生成的风险分析信息以叠加的方式在手术图像上输出手术支持信息,从而能够以叠加的方式在例如正在进行的手术的手术图像上输出手术支持信息。以这种方式,手术支持系统能够通过以叠加的方式在手术图像上输出手术支持信息来适当地输出用于支持手术的信息。

此外,在一些实例中,分析单元生成风险分析信息,该风险分析信息指示由于与第一手术图像相对应的第一手术引起的并发症风险。输出单元以叠加的方式在第一手术的手术图像上输出基于风险分析信息的手术支持信息。因此,手术支持系统能够通过以叠加的方式在第一手术的手术图像上输出关于由于与第一手术图像相对应的第一手术引起的并发症风险的手术支持信息,来适当地输出用于支持手术的信息。

此外,获取单元获取使用学习数据来生成的经训练模型,该学习数据包括关于由于与第二手术图像相对应的第二手术引起的并发症风险的信息。在一些实例中,分析单元通过将第一手术图像输入到由获取单元获取的经训练模型中来生成风险分析信息。相应地,手术支持系统能够通过使用经训练模型来准确地生成关于第一手术图像的风险分析信息,该经训练模型是基于第二手术图像和由于与第二手术图像相对应的第二手术引起的并发症风险的组合来训练的。因此,手术支持系统通过以叠加的方式在手术图像上输出基于准确的风险分析信息的手术支持信息,来适当地输出用于支持手术的信息。

此外,第二手术图像是包括成为手术并发症原因的部位的图像信息。相应地,手术支持系统能够通过使用经训练模型,来生成关于与成为手术并发症原因的部位有关的第一手术图像的风险分析信息,该经训练模型是基于包括成为手术并发症原因的部位的图像来训练的。因此,手术支持系统能够通过以叠加的方式在手术图像上输出手术支持信息来适当地输出用于支持手术的信息,该手术支持信息是基于关于成为手术并发症原因的部位的风险分析信息。

此外,第二手术图像是包括缝合部位和出血部位中的至少一个的图像信息。相应地,手术支持系统能够通过使用经训练模型来生成关于与缝合部位和出血部位中的至少一个有关的第一手术图像的风险分析信息,该经训练模型是基于包括缝合部位和出血部位中的至少一个的图像来训练的。因此,手术支持系统能够通过以叠加的方式在手术图像上输出手术支持信息来适当地输出用于支持手术的信息,该手术支持信息基于关于缝合部位和出血部位中的至少一个的风险分析信息。

此外,关于并发症风险的信息是关于风险发生部位的信息。相应地,手术支持系统能够通过使用经训练模型来生成关于与风险发生部位有关的第一手术图像的风险分析信息,该经训练模型是基于关于风险发生部位的信息来训练的。因此,手术支持系统能够通过以叠加的方式在手术图像上输出手术支持信息来适当地输出用于支持手术的信息,该手术支持信息基于关于风险发生部位的风险分析信息。

此外,关于风险发生部位的信息是关于缝合部位和出血部位中的至少一个的信息。相应地,手术支持系统能够通过使用经训练模型来生成关于与缝合部位和出血部位中的至少一个有关的第一手术图像的风险分析信息,该经训练模型是基于缝合部位和出血部位中的至少一个来训练的。因此,手术支持系统能够通过以叠加的方式在手术图像上输出风险分析信息来适当地输出用于支持手术的信息,该风险分析信息基于缝合部位和出血部位中的至少一个。

此外,手术支持信息包括学习单元(实施例中的学习单元132)。在一些实例中,学习单元使用作为过去手术图像的第二手术图像和关于由于手术引起的并发症风险的信息作为教学数据,并且通过机器学习生成经训练模型作为确定模型,该确定模型采用手术图像作为输入并且采用由于手术引起的并发症风险作为输出。相应地,手术支持系统能够生成经训练模型,当输入手术图像时,该经训练模型输出用来确定与手术图像相对应的手术中的并发症风险的信息。然后,手术支持系统以叠加的方式在手术图像上输出手术支持信息,该手术支持信息基于通过将第一手术图像应用于经训练模型来生成的风险分析信息。因此,手术支持系统能够通过以叠加的方式在手术图像上输出手术支持信息来适当地输出用于支持手术的信息。

此外,学习数据包括关于手术视频的特征信息。相应地,手术支持系统能够通过使用经训练模型来生成关于反映了手术视频的特征的第一手术图像的风险分析信息,该经训练模型是基于关于包括手术图像等的手术视频的特征信息来训练的。因此,手术支持系统能够通过以叠加的方式在手术图像上输出手术支持信息来适当地输出用于支持手术的信息,该手术支持信息基于反映了手术视频的特征的风险分析信息。

此外,特征信息是改变操纵和改变手术场景中的至少一个。相应地,手术支持系统能够通过使用经训练模型来生成关于反映了改变操纵和改变手术场景中的至少一个的第一手术图像的风险分析信息,该经训练模型是基于包括改变操纵和改变手术场景中的至少一个的特征信息来训练的。因此,手术支持系统能够通过以叠加的方式在手术图像上输出手术支持信息来适当地输出用于支持手术的信息,该手术支持信息基于反映了改变操纵和改变手术场景中的至少一个的风险分析信息。

此外,特征信息是包括缝合方法和缝合位置中的至少一个的缝合处理。相应地,手术支持系统能够通过使用经训练模型来生成关于反映了包括缝合方法和缝合位置中的至少一个的缝合处理的第一手术图像的风险分析信息,该经训练模型是基于包括缝合方法和缝合位置中的至少一个的缝合处理的特征信息来训练的。因此,手术支持系统能够通过以叠加的方式在手术图像上输出手术支持信息来适当地输出用于支持手术的信息,该手术支持信息基于反映了缝合处理的风险分析信息。

此外,风险分析信息包括关于风险发生部位的信息。相应地,通过生成包括关于风险发生部位的信息的风险分析信息并且以叠加方式在手术图像上输出基于所生成的风险分析信息的手术支持信息,手术支持系统能够以叠加方式在例如正在进行的手术的手术图像上输出包括关于风险发生部位的信息的手术支持信息。以这种方式,手术支持系统能够通过以叠加的方式在手术图像上输出手术支持信息来适当地输出用于支持手术的信息,该手术支持信息包括关于风险发生部位的信息。

此外,风险分析信息是包括关于缝合破裂部位和出血部位中的至少一个的信息并且是包括部位处的并发症风险的概率和严重度中的至少一个的信息。相应地,通过生成包括缝合破裂、出血部位、部位处的并发症风险的概率和严重度中的一个等的风险分析信息并且以叠加方式在手术图像上输出基于所生成的风险分析信息的手术支持信息,手术支持系统能够以叠加方式在例如正在进行的手术的手术图像上输出包括缝合破裂、出血部位、部位处的并发症风险的概率和严重度中的一个等的手术支持信息。以这种方式,手术支持系统能够通过以叠加的方式在手术图像上输出手术支持信息来适当地输出用于支持手术的信息,该手术支持信息包括缝合破裂、出血部位、部位处的并发症风险的概率和严重度中的一个等。

此外,手术支持信息是指示风险部位的位置的信息。相应地,通过以叠加方式在手术图像上输出指示风险部位的位置的手术支持信息,手术支持系统能够以叠加方式在例如正在进行的手术的手术图像上输出指示风险部位的位置的手术支持信息。以这种方式,通过以叠加方式在手术图像上输出指示风险部位的位置的手术支持信息,手术支持系统允许执行手术的医疗专业人员(诸如外科医生(医师))适当地识别风险部位。因此,手术支持系统能够适当地输出用于支持手术的信息。

此外,手术支持信息被叠加在不与风险部位重叠的位置上。相应地,通过以叠加的方式在手术图像中不与风险部位重叠的位置上输出手术支持信息,手术支持系统允许执行手术的外科医生等适当地识别风险部位,而不干扰风险部位上的治疗。因此,手术支持系统能够适当地输出用于支持手术的信息。

此外,手术支持信息的形状或颜色是根据风险的概率和严重度中的至少一个来改变的。相应地,通过输出具有预定形状或颜色的手术支持信息,可以允许执行手术的外科医生等适当地识别手术支持信息。例如,通过输出手术支持信息,针对该手术支持信息,形状或颜色是根据风险的概率和严重性中的至少一个来改变的,手术支持系统能够允许执行手术的外科医生等适当地识别手术支持信息。因此,手术支持系统能够适当地输出用于支持手术的信息。

此外,手术支持系统包括信息处理装置(实施例中的信息处理装置100)和输出装置(实施例中的显示装置5155、输出装置10等),该信息处理装置包括获取单元和分析单元,该输出装置用作输出单元。相应地,手术支持系统能够通过使输出装置以叠加的方式在手术图像上输出由信息处理装置生成的手术支持信息来适当地输出用于支持手术的信息。

<6.硬件配置>

诸如根据如上所述的实施例和修改的信息处理装置100的信息装置由例如,如图15所示配置的计算机1000来实现。图15是图示实施信息处理装置(诸如信息处理装置100)的功能的计算机1000的硬件配置实例的示意图。根据实施例的信息处理装置100将在下面被描述为一个实例。计算机1000包括CPU 1100、RAM 1200、只读存储器(ROM)1300、硬盘驱动器(HDD)1400、通信接口1500和输入/输出接口1600。计算机1000的所有单元经由总线1050彼此连接。

CPU 1100基于被存储在ROM 1300或HDD 1400中的程序进行操作,并且控制每个单元。例如,CPU 1100将被存储在ROM 1300或HDD 1400中的程序加载到RAM 1200上,并且执行与各种程序相对应的处理。

ROM 1300存储当计算机1000被激活时由CPU 1100执行的启动程序(诸如基本输入输出系统(BIOS))、依赖于计算机1000的硬件的程序等。

HDD 1400是永久地存储由CPU 1100执行的程序、被程序使用的数据等的计算机可读记录介质。具体地,HDD 1400是存储根据本公开的信息处理程序作为程序数据1450的一个实例的记录介质。

通信接口1500是使得计算机1000能够连接到外部网络1550(例如,互联网)的接口。例如,CPU 1100经由通信接口1500从其他装置接收数据并且向其他装置发送由CPU 1100生成的数据。

输入/输出接口1600是用于连接输入/输出设备1650和计算机1000的接口。例如,CPU 1100经由输入/输出接口1600从诸如键盘或鼠标之类的输入设备接收数据。此外,CPU 1100经由输入/输出接口1600向诸如显示器、扬声器或打印机之类的输出设备发送数据。此外,输入/输出接口1600可以用作读取被存储在(多个)预定记录介质中的程序等的介质接口。介质的实例包括光学记录介质诸如数字多功能盘(DVD)和相变可重写盘(PD)、磁光(MO)记录介质诸如MO盘、磁带介质、磁记录介质和半导体存储器。例如,当计算机1000用作根据实施例的信息处理装置100时,计算机1000的CPU 1100执行被加载在RAM 1200上的信息处理程序,从而实施控制单元130等的功能。此外,HDD 1400存储根据本公开的信息处理程序和被存储在存储单元120中的数据。CPU 1100从HDD 1400读取并且执行程序数据1450;然而,作为另一实例,可以经由外部网络1550从不同的装置获取程序。

相应地,本技术也可以被配置如下。

(1)

一种手术支持系统,包括:

获取单元,该获取单元被配置为获取作为手术图像的第一手术图像;

分析单元,该分析单元被配置为通过将由获取单元获取的第一手术图像应用于使用学习数据生成的经训练模型来生成关于第一手术图像的风险分析信息,该学习数据包括第二手术图像,该第二手术图像是不同于第一手术图像的手术图像并且包括关于由于手术引起的并发症风险的信息;以及

输出单元,该输出单元被配置为以叠加的方式在手术图像上输出基于由分析单元生成的风险分析信息的手术支持信息。

(2)

根据(1)的手术支持系统,其中,

分析单元生成风险分析信息,该风险分析信息指示由于与第一手术图像相对应的第一手术引起的并发症风险,并且

输出单元以叠加的方式在第一手术的手术图像上输出基于风险分析信息的手术支持信息。

(3)

根据(1)或(2)的手术支持系统,其中,

获取单元获取使用学习数据来生成的经训练模型,该学习数据包括关于由于与第二手术图像相对应的第二手术引起的并发症风险的信息,并且

分析单元通过将第一手术图像输入到由获取单元获取的经训练模型中来生成风险分析信息。

(4)

根据(1)至(3)中任一项的手术支持系统,其中,第一手术图像是满足关于图像质量的图像质量条件和关于延迟的延迟条件的高质量低延迟图像信息。

(5)

根据(1)至(4)中任一项的手术支持系统,其中,第一手术图像是具有4K以上的分辨率的图像信息。

(6)

根据(1)至(5)中任一项的手术支持系统,其中,第一手术图像是特定光观察图像。

(7)

根据(1)至(6)中任一项的手术支持系统,其中,第二手术图像是包括成为手术并发症原因的部位的图像信息。

(8)

根据(7)的手术支持系统,其中,第二手术图像是包括缝合部位和出血部位中的至少一个的图像信息。

(9)

根据(7)或(8)的手术支持系统,其中,第二手术图像是包括通过图像识别来检测的部位的图像信息。

(10)

根据(1)至(9)中任一项的手术支持系统,其中,第二手术图像是特定光观察图像。

(11)

根据(10)的手术支持系统,其中,第二手术图像是缝合部位和出血部位中的一个的内部状态可视化的图像。

(12)

根据(1)至(11)中任一项的手术支持系统,其中,关于并发症风险的信息是指示并发症的概率和严重度中的至少一个的信息。

(13)

根据(12)的手术支持系统,其中,概率是指示并发症存在还是不存在的二元信息。

(14)

根据(12)或(13)的手术支持系统,其中,严重度是指示并发症的影响程度的五级信息。

(15)

根据(1)至(14)中任一项的手术支持系统,其中,关于并发症风险的信息是关于风险发生部位的信息。

(16)

根据(15)的手术支持系统,其中,关于风险发生部位的信息是关于缝合部位和出血部位中的至少一个的信息。

(17)

根据(1)至(16)中任一项的手术支持系统,还包括学习单元,该学习单元被配置为使用作为过去手术图像的第二手术图像和关于由于手术引起的并发症风险的信息作为教学数据,并且通过机器学习生成经训练模型作为确定模型,该确定模型采用手术图像作为输入并且采用由于手术引起的并发症风险作为输出。

(18)

根据(17)的手术支持系统,其中,学习单元通过使用深度学习作为机器学习来生成经训练模型。

(19)

根据(1)至(18)中任一项的手术支持系统,其中,学习数据包括关于手术视频的特征信息。

(20)

根据(19)的手术支持系统,其中,特征信息指示改变操纵和改变手术场景中的至少一个。

(21)

根据(19)或(20)的手术支持系统,其中,特征信息指示包括缝合方法和缝合位置中的至少一个的缝合处理。

(22)

根据(21)的手术支持系统,其中,缝合处理是基于手术工具的轨迹来检测的。

(23)

根据(22)的手术支持系统,其中,缝合处理是基于手术工具的远端位置的时间变化来检测的。

(24)

根据(19)至(23)中任一项的手术支持系统,其中,特征信息是基于手术的操作时间来检测的。

(25)

根据(1)至(24)中任一项的手术支持系统,其中,分析单元通过将经历过校正处理的第一手术图像采用到经训练模型中来生成风险分析信息。

(26)

根据(25)的手术支持系统,其中,校正处理是与旋转、失真和分辨率中的至少一个有关的处理。

(27)

根据(1)至(26)中任一项的手术支持系统,其中,风险分析信息是包括并发症的概率和严重度中的至少一个的信息。

(28)

根据(1)至(27)中任一项的手术支持系统,其中,风险分析信息包括关于风险发生部位的信息。

(29)

根据(28)的手术支持系统,其中,风险分析信息是包括关于缝合破裂部位和出血部位中的至少一个的信息,并且是包括部位处的并发症风险的概率和严重度中的至少一个的信息。

(30)

根据(1)至(29)中任一项的手术支持系统,其中,风险分析中的预定处理由云服务器来执行。

(31)

根据(1)至(30)中任一项的手术支持系统,其中,风险分析信息是考虑了与缝合破裂具有权衡关系的信息的信息。

(32)

根据(1)至(31)中任一项的手术支持系统,其中,手术支持信息是指示风险部位的位置的信息。

(33)

根据(32)的手术支持系统,其中,手术支持信息被叠加在不与风险部位重叠的位置上。

(34)

根据(1)至(33)中任一项的手术支持系统,其中,手术支持信息是指示风险的概率和严重度中的至少一个的信息。

(35)

根据(1)至(34)中任一项的手术支持系统,其中,手术支持信息具有预定形状或预定颜色。

(36)

根据(35)的手术支持系统,其中,手术支持信息的形状和颜色中的一个是根据风险的概率和严重度中的至少一个来改变的。

(37)

根据(1)至(36)中任一项的手术支持系统,其中,手术支持信息在手术图像上经历移动和闪烁中的至少一个。

(38)

根据(37)的手术支持系统,其中,手术支持信息的移动速度和运动中的至少一个是根据风险的概率和严重度中的至少一个来控制的。

(39)

根据(1)至(38)中任一项的手术支持系统,其中,手术支持信息是的内容是以手术持续时间和手术场景中的至少一个为基础来动态改变的。

(40)

根据(1)至(39)中任一项的手术支持系统,其中,手术支持信息的显示是以预定标准为基础来控制的。

(41)

根据(1)至(40)中任一项的手术支持系统,其中,手术支持信息自通过语音给出通知起经过预定时间段之后被显示。

(42)

根据(1)至(41)中任一项的手术支持系统,其中,手术支持信息在手术期间被显示持续预定时间段。

(43)

根据(1)至(42)中任一项的手术支持系统,其中,手术支持信息在特定光观察图像的情况下以预定模式显示。

(44)

根据(1)至(43)中任一项的手术支持系统,其中,经训练模型的输入数据和学习数据是手术视频。

(45)

根据(1)至(44)中任一项的手术支持系统,其中,经训练模型的输入数据和学习数据是时间序列图像。

(46)

根据(1)至(45)中任一项的手术支持系统,其中,手术难度水平取决于疾病、部位和手术过程中的一个而变化。

(47)

根据(1)至(46)中任一项的手术支持系统,其中,缝合的外部状态使用普通光来观察,并且缝合的内部状态使用特定光来观察。

(48)

根据(1)至(47)中任一项的手术支持系统,还包括:

信息处理装置,该信息处理装置包括获取单元和分析单元;和

输出装置,该输出装置被配置为用作输出单元。

(49)

一种手术支持方法,包括:

获取作为手术图像的第一手术图像;

通过将所获取的第一手术图像应用于使用学习数据生成的经训练模型,来生成关于第一手术图像的风险分析信息,该学习数据包括第二手术图像,该第二手术图像是不同于第一手术图像的手术图像并且包括关于由于手术引起的并发症风险的信息;以及

以叠加的方式在手术图像上输出基于所生成的风险分析信息的手术支持信息。

(50)

一种信息处理装置,包括:

获取单元,该获取单元被配置为获取作为手术图像的第一手术图像;和

分析单元,该分析单元被配置为通过将由获取单元获取的第一手术图像应用于使用学习数据生成的经训练模型,来生成关于第一手术图像的风险分析信息,该学习数据包括第二手术图像,该第二手术图像是不同于第一手术图像的手术图像并且包括关于由于手术引起的并发症风险的信息。

(51)

一种信息处理程序,该信息处理程序使计算机执行:

获取作为手术图像的第一手术图像;以及

通过将所获取的第一手术图像应用于使用学习数据生成的经训练模型,来生成关于第一手术图像的风险分析信息,该学习数据包括第二手术图像,该第二手术图像是不同于第一手术图像的手术图像并且包括关于由于手术引起的并发症风险的信息。

(52)

一种缝合破裂确定系统,包括:

分类器,该分类器是具有预定参数的多层神经网络,并且对输入数据是否指示缝合破裂进行分类;以及

输出单元,该输出单元以由分类器执行的分类为基础来输出是否存在缝合破裂,其中,

预定参数是通过由多层神经网络使用学习数据执行机器学习来生成的参数,学习数据是基于缝合部分出现的缝合图像来生成的并且被添加有指示学习数据是否是缝合破裂的标签。

进一步的示例性布置由以下编号的项来限定:

1.一种手术支持系统,包括:

获取单元,所述获取单元被配置为获取第一手术图像;

分析单元,所述分析单元被配置为通过将由所述获取单元获取的所述第一手术图像应用于使用学习数据生成的经训练模型,根据所述第一手术图像生成风险分析信息,所述学习数据包括不同于所述第一手术图像的第二手术图像,所述第二手术图像具有关于由于手术引起的并发症风险的相关联信息;以及

输出单元,所述输出单元被配置为以叠加的方式在所述第一手术图像上输出基于由所述分析单元生成的所述风险分析信息的手术支持信息。

2.根据项1的手术支持系统,其中,

分析单元生成风险分析信息,该风险分析信息指示由于与第一手术图像相对应的第一手术引起的并发症风险,并且

所述输出单元以叠加的方式在所述第一手术的所述第一手术图像上输出基于所述风险分析信息的所述手术支持信息。

3.根据项1或项2的手术支持系统,其中,

所述获取单元获取使用所述学习数据来生成的所述经训练模型,所述学习数据包括关于由于与所述第二手术图像相对应的第二手术引起的所述并发症风险的信息,并且

所述分析单元通过将所述第一手术图像输入到由所述获取单元获取的所述经训练模型中,来生成所述风险分析信息。

4.根据前述项中任一项的手术支持系统,其中,所述第二手术图像是包括成为手术并发症原因的部位的图像信息。

5.根据项4的手术支持系统,其中,所述第二手术图像包括:包括缝合部位和出血部位中的至少一个的图像信息。

6.根据前述项中任一项所述的手术支持系统,其中,关于所述并发症风险的信息是关于风险发生部位的信息。

7.根据项6的手术支持系统,其中,关于所述风险发生部位的信息包括关于缝合部位和出血部位中的至少一个的信息。

8.根据前述项中任一项的手术支持系统,还包括:

学习单元,学习单元被配置为使用作为过去手术图像的所述第二手术图像和关于由于手术引起的并发症风险的相关联信息作为教学数据,并且通过机器学习生成所述经训练模型作为确定模型,所述确定模型采用手术图像作为输入并且生成由于手术引起的并发症风险作为输出。

9.根据前述项中任一项的手术支持系统,其中,所述学习数据包括关于手术视频的特征信息。

10.根据项9的手术支持系统,其中,所述特征信息包括改变操纵和改变手术场景中的至少一个。

11.根据项9或项10的手术支持系统,其中,所述特征信息指示包括缝合方法和缝合位置中的至少一个的缝合处理。

12.根据前述项中任一项的手术支持系统,其中,所述风险分析信息包括关于风险发生部位的信息。

13.根据项12的手术支持系统,其中,所述风险分析信息是包括关于缝合破裂部位和出血部位中的至少一个的信息并且是包括部位处的并发症风险的概率和严重度中的至少一个的信息。

14.根据前述项中任一项的手术支持系统,其中,所述手术支持信息是指示风险部位的位置的信息。

15.根据项14的手术支持系统,其中,所述输出单元被配置为将所述手术支持信息叠加在不与所述风险部位重叠的位置上。

16.根据前述项中任一项的手术支持系统,其中,所述输出单元被配置为根据风险的概率和严重度中的至少一个来改变所述手术支持信息的形状和颜色中的一个。

17.根据前述项中任一项的手术支持系统,还包括:

信息处理装置,所述信息处理装置包括所述获取单元和所述分析单元;以及

输出装置,所述输出装置被配置为用作所述输出单元。

18.一种手术支持方法,包括:

获取第一手术图像;

通过将所获取的第一手术图像应用于使用学习数据生成的经训练模型,根据所述第一手术图像生成风险分析信息,所述学习数据包括不同于所述第一手术图像的第二手术图像,所述第二手术图像具有关于由于手术引起的并发症风险的相关联信息;以及

以叠加的方式在所述第一手术图像上输出基于所生成的风险分析信息的手术支持信息。

19.一种信息处理装置,包括:

获取单元,所述获取单元被配置为获取第一手术图像;以及

分析单元,所述分析单元被配置为通过将由所述获取单元获取的所述第一手术图像应用于使用学习数据生成的经训练模型,根据所述第一手术图像生成风险分析信息,所述学习数据包括不同于所述第一手术图像的第二手术图像,所述第二手术图像具有关于由于手术引起的并发症风险的相关联信息。

20.一种信息处理程序,所述信息处理程序使计算机执行:

获取第一手术图像;以及

通过将所获取的第一手术图像应用于使用学习数据生成的经训练模型,从所述第一手术图像中生成风险分析信息,所述学习数据包括不同于所述第一手术图像的第二手术图像,所述第二手术图像具有关于由于手术引起的并发症风险的相关联信息。

参考符号列表

1 手术支持系统

5100 手术室系统

5155 显示装置

100 信息处理装置

110 通信单元

120 存储单元

121 学习数据存储单元

122 模型信息存储单元

130 控制单元

131 获取单元

132 学习单元

133 分析单元

134 发送单元。

再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献