用于AI解决方案的自监控监测系统的制作方法
本发明总体涉及机器学习,并且更具体涉及人工智能辅助的医学图像处理。具体地,本发明涉及一种用于在训练数据集上训练的医学诊断ai模型的方法和监测系统。
背景技术:
1、机器学习模型、神经网络或者类似形式的人工智能(ai)正变得越来越流行以支持各种医学任务,包括帮助工作列表优先化、用作第二意见观察者、预处理图像和/或自动化工作流。
2、ai已经被广泛地研究作为用于放射学中的计算机辅助诊断(cad)的工具。在研究实验室中已经开发了许多ai解决方案,并且迄今为止,这些ai解决方案中的一些在一些情况下的表现与临床医师相当,或者甚至在一些情况下比临床医师更好。例如,ai系统能够在胸部x射线图像上准确地诊断肺炎,并且在乳腺摄影上检测乳腺癌和在胸部计算机断层摄影(ct)上检测肺结节。尽管有这样的性能,ai解决方案在临床实践采用中仍然面临着挑战。例如,对于针对临床问题的每个新批准的ai解决方案,人们都会在其常规(例如,日常)临床应用中观察ai解决方法在哪里按预期地工作,以及在哪里不工作。理论上,人类观察者或用户应当捕捉到ai工具的所有问题或不足,并且如果ai解决方案指示表现不佳(例如,ai工具提供假或者幻觉的结果),用户可以选择不遵循ai工具的建议。然而,在实践中,对ai工具的这样的人工监测提出了疑问。例如,如果经验不足的临床人员无法发现ai错误怎么办?或者,如果临床医师确实发现了ai错误,但是随着这样的错误变得越来越频繁,临床医师对ai模型失去了信任,并且因此失去了ai工具能够提供的时间和/或速度益处。在这两种情况下,ai的益处都大大降低,并且其在临床实践中的广泛应用也受到阻碍。
技术实现思路
1、本发明的一个目标是提供使用ai辅助的医学成像诊断的置信度。为了更好地解决这样的问题,在本发明的第一方面中,公开了一种用于在训练数据集上训练的医学诊断ai模型的监测系统,所述监测系统包括:训练数据集和包括一个或多个聚类(cluster)的库;以及处理器,所述处理器被配置为接收输入数据,接收基于所述输入数据的、来自ai模型的医学诊断结果,确定在所述输入数据与所述训练数据集以及所述输入数据与所述一个或多个聚类之间的相似性分数,并且基于所确定的相似性分数来提供所述ai模型针对所述输入数据的适用性的置信度的指示。尽管用于医学数据的ai模型有望使临床实践发生变革,但是与此同时,ai模型应当非常准确以避免错误。训练数据通常预期不表示所有可能的案例,并且很可能在实际临床应用中,所述ai模型可能被应用于其不能够很好地处理的案例,可能导致错误(例如,假(false)结果)。所述监测系统的特定实施例提供了一种上市后的自监控监测系统,其通过使用相似性分数和(失败)聚类来连续地检查应用中的ai模型的性能,这提高了在这样的ai解决方案中的置信度并且有助于在医学成像诊断中更广泛采用ai解决方案,这与在医学成像诊断中的用户能力的变化性相比,可以提供更一致的结果。
2、在一个实施例中,所述监测系统被配置为:基于与所述库中的所述一个或多个聚类中的一个聚类的相似性将所述相似性分数和所述医学诊断结果输出到所述一个或多个聚类中的所述一个聚类;或者将新的聚类实例化(例如,创建和输入)到所述库中并且基于所述相似性分数将所述医学诊断结果、所述相似性分数和所述输入数据关联到所述新的聚类。在一些实施例中,所述监测系统收集ai失败案例以生成临床应用内的数据的“分布外(out-of-distribution)”(失败)数据聚类(例如,由于临床和/或人口统计差异),这使得所述监测系统能够标注所述ai模型可能将不如预期那样工作的案例,并且提供对未被当前模型覆盖的案例的洞察。在一些实施例中,聚类生成是在所述模型的操作期间实时地执行的,而无需手动干预并且无需模型制造商所需的任何干预。
3、参考下文所描述的(一个或多个)实施例,本发明的这些和其他方面将变得显而易见并得以阐明。
1.一种用于在训练数据集(38)上训练的医学诊断ai模型的监测系统(34),所述监测系统包括:
2.根据前述权利要求所述的监测系统,其中,所述处理器还由所述可执行指令配置为:
3.根据前述权利要求中的任一项所述的监测系统,其中,所述处理器还由所述可执行指令配置为:将与所述医学诊断结果相关联的用户输入的注释和与所述输入数据相关联的图像数据和元数据存储到所述库。
4.根据前述权利要求中的任一项所述的监测系统,其中,所述用户输入的注释包括传达所述ai模型正在提供假响应的标签,并且所述元数据包括患者数据。
5.根据前述权利要求中的任一项所述的监测系统,其中,所述处理器还由所述可执行指令配置为:使用特征向量来确定针对图像数据和元数据的所述相似性分数。
6.根据前述权利要求中的任一项所述的监测系统,其中,所述一个或多个聚类包括多个聚类,所述多个聚类被分类为分布内失败案例或者分布外失败案例,所述分布内失败案例比所述分布外失败案例更接近于所述训练数据集。
7.根据前述权利要求中的任一项所述的监测系统,其中,所述指示包括对使用针对所述输入数据的所述ai结果的用户的警报。
8.根据前述权利要求中的任一项所述的监测系统,其中,所述处理器还由所述可执行指令配置为:提供与所述一个或多个聚类相对应的分布外失败案例的报告(48)。
9.根据前述权利要求中的任一项所述的监测系统,其中,所述处理器还由所述可执行指令配置为:随着时间增加所述库中的聚类的量。
10.根据前述权利要求中的任一项所述的监测系统,其中,所述输入数据包括患者成像数据以及与患者和所述患者成像数据相关联的元数据。
11.一种监测ai模型的医学诊断结果的方法(70),所述方法包括:
12.根据权利要求11所述的方法,还包括:
13.根据权利要求11-12中的任一项所述的方法,还包括:
14.根据权利要求11-13中的任一项所述的方法,还包括:提供与所述一个或多个聚类相对应的分布外失败案例的报告。
15.一种包括可执行指令的非暂时性计算机可读介质(54),所述可执行指令当由处理器运行时,使得所述处理器实现根据权利要求11-14中的任一项所述的方法。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com