一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种数字病理切片的存储系统、浏览系统及方法与流程

2022-11-30 14:59:48 来源:中国专利 TAG:


1.本技术涉及互联网技术领域,尤其涉及数据处理技术领域,具体涉及一种数字病理切片的存储系统、浏览系统及方法。


背景技术:

2.在病理诊断和远程医疗领域中,运用了全载玻片成像扫描(whole slide imaging,wsi)和数字切片(digital slides)等相关技术,通过光学放大装置如显微镜获得放大了的图像再通过扫描装置采集高分辨率的数字图像,对这些图像进行处理得到整张载玻片的全视野的数字化切片。将数字化切片存储在存储介质中建立起数字病理切片库,数字病理切片库提供如数字病理切片的可视化数据,可以对数字病理切片进行成比例放大或者缩小操作还可以进行移动操作。wsi和数字切片技术,对实物切片进行整张载玻片的全方位全信息快速扫描成像从而生成数字化虚拟切片并存储在数字病理切片库,医护人员、专家、学生可以浏览数字病理切片库来开展远程会诊、远程诊断、远程教学等。
3.数字病理切片的制备过程中采用超高分辨率的扫描仪来采集高分辨率的数字图像,例如通过超高分辨率的电荷耦合器件(charge coupled device,ccd)相机(用于将光学影像转化为数字信号)对载玻片局部进行多次拍照并合成整张载玻片的切片图像。用于制备数字病理切片的扫描仪在20倍物镜的分辨率可以是0.5微米每像素,在40倍物镜的分辨率可以是0.25微米每像素。这样制备而成的单张数字病理切片往往包含海量的像素例如十几亿个像素,具有超大的尺寸,也有超大数据量和占据较大的物理存储空间,单张数字病理切片的大小可能从几百兆字节(megabytes,mb)到几百吉字节(gigabyte,gb)。因此,数字病理切片的存储和浏览都面临海量像素和超大数据量的难题,通过网络或者无线连接来远程读取或者浏览数字病理切片也面临数据传输量大且耗时长的问题。
4.综上所述,目前需要解决的问题是如何改进数字病理切片的存储和浏览。


技术实现要素:

5.本技术实施例提供了一种数字病理切片的存储系统、浏览系统及方法,用于解决现有技术中存在的问题。
6.第一方面,本技术提供了一种用于数字病理切片的存储系统。所述存储系统包括:金字塔式结构,其中所述金字塔式结构包括多个瓦片层,所述多个瓦片层用于存储通过按照不同的采样率对同一原始图像提取特征得到的切片图像数据,所述多个瓦片层根据各自的采样率按照从最低采样率到最高采样率的次序依次组成所述金字塔式结构的从最高层到最底层的多个层级,所述多个瓦片层与所述金字塔式结构的所述多个层级一一对应。其中,所述金字塔式结构的最大层级基于用于获取所述原始图像的光学放大装置的参数确定,通过所述存储系统进行的存储操作、浏览操作和读取操作根据所述最大层级进行优化。
7.在本技术的第一方面的一种可能的实现方式中,通过所述存储系统进行的存储操作根据所述最大层级进行优化,包括:删除所述金字塔式结构的在所述最大层级之下的瓦
片层所存储的切片图像数据。
8.在本技术的第一方面的一种可能的实现方式中,通过所述存储系统进行的浏览操作根据所述最大层级进行优化,包括:设定与所述浏览操作相关的图像数据不包括所述金字塔式结构的在所述最大层级之下的瓦片层所存储的切片图像数据。
9.在本技术的第一方面的一种可能的实现方式中,通过所述存储系统进行的读取操作根据所述最大层级进行优化,包括:限制所述读取操作对所述金字塔式结构的在所述最大层级之下的瓦片层所存储的切片图像数据的访问权限。
10.在本技术的第一方面的一种可能的实现方式中,与所述存储操作、所述浏览操作或者所述读取操作相关联的图像放大操作和图像缩小操作分别通过在所述金字塔式结构中获取相对于当前层级的更下级层级的瓦片层的切片图像数据和更上级层级的瓦片层的切片图像数据。
11.在本技术的第一方面的一种可能的实现方式中,所述光学放大装置的参数包括所述光学放大镜的显微物镜的光学放大率,所述金字塔式结构的参考层级基于观测需求确定,所述观测需求包括预期图像分辨率或者最小分辨距离,所述参考层级用于自动化地进行图像放大操作或者图像缩小操作,其中,当所述参考层级大于所述最大层级时,所述参考层级被替换为所述最大层级。
12.在本技术的第一方面的一种可能的实现方式中,当所述参考层级等于所述最大层级时,所述存储操作、所述浏览操作或者所述读取操作返回所述金字塔式结构的所述最大层级的瓦片层的切片图像数据。
13.在本技术的第一方面的一种可能的实现方式中,当所述参考层级小于所述最大层级时,所述存储操作、所述浏览操作或者所述读取操作返回所述金字塔式结构的所述参考层级的瓦片层的切片图像数据以及所述金字塔式结构的相对于所述参考层级的至少一个更下级层级的瓦片层的切片图像数据。
14.第二方面,本技术提供了一种用于数字病理切片的浏览系统。所述浏览系统包括:显示终端;和根据第一方面中任一项所述的存储系统。其中,所述显示终端用于显示通过所述存储系统进行的存储操作、浏览操作或者读取操作所获取的数字病理切片图像。
15.第三方面,本技术提供了一种用于数字病理切片的浏览方法。所述浏览方法包括:通过存储系统进行存储操作、浏览操作或者读取操作从而获取数字病理切片图像;通过显示终端显示所述数字病理切片图像以及通过所述存储系统对所显示的所述数字病理切片图像进行图像放大操作或者图像缩小操作。其中所述存储系统包括:金字塔式结构,其中所述金字塔式结构包括多个瓦片层,所述多个瓦片层用于存储通过按照不同的采样率对同一原始图像提取特征得到的切片图像数据,所述多个瓦片层根据各自的采样率按照从最低采样率到最高采样率的次序依次组成所述金字塔式结构的从最高层到最底层的多个层级,所述多个瓦片层与所述金字塔式结构的所述多个层级一一对应。其中,所述金字塔式结构的最大层级基于用于获取所述原始图像的光学放大装置的参数确定,通过所述存储系统进行的存储操作、浏览操作和读取操作根据所述最大层级进行优化。
16.第四方面,本技术实施例还提供了一种计算机设备,所述计算机设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现根据上述任一方面的任一种实现方式的方法。
17.第五方面,本技术实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,当所述计算机指令在计算机设备上运行时使得所述计算机设备执行根据上述任一方面的任一种实现方式的方法。
18.第六方面,本技术实施例还提供了一种计算机程序产品,其特征在于,所述计算机程序产品包括存储在计算机可读存储介质上的指令,当所述指令在计算机设备上运行时使得所述计算机设备执行根据上述任一方面的任一种实现方式的方法。
附图说明
19.为了更清楚地说明本技术实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
20.图1为本技术实施例提供的一种用于数字病理切片的存储系统的运行原理的示意图;图2为本技术实施例提供的图1所示的存储系统的多个瓦片层的示意图;图3为本技术实施例提供的用于数字病理切片的浏览方法的示意图;图4为本技术实施例提供的一种计算设备的结构示意图。
具体实施方式
21.下面将结合附图对本技术实施例作进一步地详细描述。
22.本技术实施例提供了一种数字病理切片的存储系统、浏览系统及方法,用于解决现有技术中存在的问题。其中,本技术实施例提供的方法和设备是基于同一发明构思的,由于方法及设备解决问题的原理相似,因此方法与设备的实施例、实施方式、示例或实现方式可以相互参见,其中重复之处不再赘述。
23.应当理解的是,在本技术的描述中,“至少一个”指一个或一个以上,“多个”指两个或两个以上。另外,“第一”、“第二”等词汇,除非另有说明,否则仅用于区分描述的目的,而不能理解为指示或暗示相对重要性,也不能理解为指示或暗示顺序。
24.参阅图1,图1为本技术实施例提供的一种用于数字病理切片的存储系统的运行原理的示意图。数字病理切片是采用wsi、数字化切片等技术,先通过光学放大装置获得放大了的图像再通过扫描装置扫描放大了的图像来采集高分辨率的数字图像,以及对这些图像进行处理得到整张载玻片的全视野的数字化切片。用于采集数字图像的扫描装置可以是病理切片扫描仪、玻片采集系统、数字切片扫描系统等。实物切片是通过手术等从生物体上特定部位例如人体的可疑病症部位切除组织薄片并固定在载玻片上。常见的光学放大装置是显微镜,显微镜包括显微物镜还有其他光学元件。实物切片上的样本的信息被放在光源和显微物镜之间,被显微物镜放大后再经过一系列光学元件处理后成像至扫描装置例如ccd相机的靶面上从而被拍照来生成切片图像。其中物镜例如显微物镜的光学分辨率决定了实物切片上的样本被放大后的光学质量,显微物镜的光学分辨率主要由物镜参数如数值孔径(numerical aperture,n.a.)决定。显微物镜的数值孔径表征了显微物镜的收光能力,对来自样本上各处的反射光收集越多则成像质量越好。显微物镜的分辨率指的是通过显微物镜能清晰分辨的样本上两点间的最小距离(可以理解为人眼通过显微物镜可观察到的最高分
辨率),例如20倍物镜的分辨率可以是0.6微米,指的是该物镜可以清晰分辨样本上两个最小间距为0.6微米的相邻点,也就是说该物镜难以清晰分辨间距小于0.6微米例如间距为0.3微米的相邻点。显微物镜的分辨率与显微物镜的数值孔径成反比关系,也就是数值孔径越大,显微物镜的收光能力越强,可分辨的细节也就越小,显微物镜分辨能力也就越强,从而具有更高的显微物镜的光学分辨率。显微物镜用于放大实物切片上的样本的实像,显微物镜的光学分辨率决定了在放大后的实像上可以分辨的细节程度,后续的光学元件例如目镜等只能将已经被显微物镜放大的实像进一步放大但是无法进一步增加实像上可以分辨的细节程度。也就是说,显微物镜的光学分辨率决定了通过光学放大装置能够进行分辨和观测的最大细节程度。扫描装置是将前端的光学放大装置放大了的图像转化为虚拟的数字化切片,扫描装置能获取的最大信息量也是受光学放大装置决定的,因此扫描装置能获取的细节程度也受限于通过光学放大装置能够进行分辨和观测的最大细节程度。具体地,经过显微物镜放大的实像再经过一系列光学元件处理后(例如经过结像镜和反光镜)成像于扫描装置的感光像元阵列(例如ccd相机上的相机靶面上排列的感光像元阵列)。感光像元阵列中的感光像元的尺寸越小,个数越多,则最终生成的图像的像素也就越多,通常一个感光元件对应一个像素的产生。用扫描装置来扫描被光学放大装置放大了的图像得到的数字图像的分辨率,也叫切片图像的扫描分辨率或者切片图像分辨率,是由用来感知放大的实像的感光像元阵列的尺寸、个数(可能还涉及排布)等细节决定的。而切片图像的大小或者说切片图像的尺寸则基于切片图像分辨率和显示器上单个像素的大小、数量决定。在感光面积不变的情况下增加感光元件密度,例如缩小感光元件的尺寸、面积等,可能使得实物切片上的样本的同一个点在放大的实像中被投射到两个或者更多个感光元件上也就形成切片图像上的两个或者更多个像素。尽管切片图像上的像素数量增加了也具有了更高的切片图像分辨率,但是因为切片图像上的这些两个或者更多个像素是来自于样本上的同一个点,也就是说没有提供额外的分辨信息。换句话说,像素的尺寸(或者说大小)和数量决定了数字分辨率,其由物镜的光学分辨率、相机传感器和显示器一起决定。
25.因此,显微物镜的光学分辨率特别是显微物镜的数值孔径,决定了通过光学放大装置能够进行分辨和观测的最大细节程度,也决定了通过提高切片图像的分辨率能够进行分辨和观测的最大细节程度。当切片图像分辨率超过了显微物镜的数值孔径的收光能力所能提供的最高成像质量,更多的提高扫描装置上的感光元件密度或者提高切片图像分辨率,也无法提供更多的分辨信息和增加最大细节程度。但是更高的切片图像分辨率必然会带来更大的数据量和数字病理切片更大的存储需求,也就有可能导致图像质量没有提升但是图像大小急剧增加从而给存储、浏览和传输带来挑战。因此需要在保证切片图像的细节质量同时也合理地控制图像分辨率和最终图像尺寸。另一方面,数字病理切片用在诊断、教学等应用中是为了便利地通过显示器(例如手机、平板电脑等终端设备或者工作站、服务器等的显示器)观测其中的细微组织结构、对可疑病症部位进行诊断等,从而取代传统的在显微镜下观测实物切片的方式。取决于具体的观测用途,对图像质量和能够进行分辨及观测的最大细节程度也有所不同,有些情况下可能需要较高的切片图像分辨率(并且可能也隐含地要求足够的物镜的光学分辨率)才能清晰地分辨出目标对象,例如细胞核的内部结构等;有些情况下可能需要相对较低的切片图像分辨率就能达成观测目的。因此针对用户的实际需求提供合理的图像分辨率和图像尺寸,在满足用户需求同时也有利于控制要存储、
浏览和传输的切片图像的数据量,有利于改进存储和浏览效率。下面结合图1详细说明这些改进。
26.请继续参阅图1,本技术实施例提供的用于数字病理切片的存储系统,包括多个瓦片层,这些多个瓦片层是通过按照不同的采样率对同一个原始图像提取特征得到。这里,原始图像可以指代扫描装置中的被光学放大装置放大了的图像成像于扫描装置的感光像元阵列上的放大的实像,换句话说,原始图像代表了最大信息量或者能够进行分辨和观测的最大细节程度。而通过更高的采样率来提取原始图像的特征,也就能获取最大信息量中更大比例,因此也意味着更接近可能达到的进行分辨和观测的最大细节程度。多个瓦片层与多个采样率一一对应,根据多个瓦片层各自的采样率的高低,按照从最低采样率到最高采样率的次序,可以在多个瓦片层之间建立起上下级关系。上级瓦片层对应相对较低的采样率,下级瓦片层对应相对较高的采样率。由此建立起的从最上级瓦片层(最低采样率)到最下级瓦片层(最高采样率)的层级架构,可以看做是金字塔式结构,从该金字塔式结构的最上层到最下层,采样率逐层增加,瓦片层所包含的信息量和数据量也逐层增加。并且,多个瓦片层都是参照同一个空间坐标系,而且该同一个空间坐标系也适用于原始图像。这样就使得根据该同一个空间坐标系可以在原始图像以及各个瓦片层之间确定其中对应位置的元素。在一些实施例中,空间坐标系以原始图像的几何中心、边缘上某个位置或者不在原始图像上的某个位置作为虚拟的原点并且参照与原始图像的分布如原始图像所在的几何平面来建立。每个瓦片层包含若干个瓦片,同一个瓦片层的瓦片一般是等大小或者说具有相同的尺寸,这样便于存储管理。也就是说,同一个瓦片层的瓦片的尺寸一般是一致的,在一些实施例中,同一个瓦片层的瓦片采用相同的物理存储空间例如存储块来进行存储以保持其一致性。可以理解的是,瓦片层对应的采样率越高,则一般来说瓦片层的瓦片数量越多,分辨率也越高。
27.继续参阅图1,上面提到,扫描装置是将前端的光学放大装置放大了的图像转化为虚拟的数字化切片,扫描装置能获取的最大信息量也是受光学放大装置决定的,因此扫描装置能获取的细节程度也受限于通过光学放大装置能够进行分辨和观测的最大细节程度。因此,原始图像所代表的最大信息量和进行分辨和观测的最大细节程度,也间接决定了理论上的最大采样率,超过该最大采样率的采样率得到的瓦片层不会提供超出最大信息量的情报,因此应合理的设定多个瓦片层的采样率不超过该最大采样率。另外,采样率越高,则获取的情报越多,能够达到的分辨和观测最大细节程度也越高,但是相应的也增加了瓦片层的大小和存储要求,因此应选择能满足当前观测要求的特定瓦片层,也就是使得被选择的特定瓦片层的相应采样率刚好满足观测要求。这里,上述的金字塔式结构为如何设定及筛选瓦片层及各自采样率提供了便利。因为金字塔式结构中从上到下的瓦片层按照各自的采样率从低到高分布,因此可以根据用于获取原始图像的光学放大装置的参数,例如该光学放大装置的显微镜的显微物镜的光学分辨率(或者数值孔径),设定该金字塔式结构的多个瓦片层的最大采样率,并且根据所设定的该最大采样率确定该金字塔式结构的最大层级。其中,该最大层级可以是该多个瓦片层中采样率小于等于该最大采样率的瓦片层中最下级的瓦片层(也就是具有最高的采样率)。例如,设金字塔式结构的多个瓦片层从上到下的第四层的瓦片层的采样率小于该最大采样率,但是第五层的瓦片层的采样率大于该最大采样率,这意味着该最大层级是四层。在确定了该最大层级后,可以对该金字塔式结构的多
个瓦片层进行优化,在保证切片图像质量的同时提高存储、读取和浏览效率。在一种可能的实施方式中,可以根据该最大层级对该金字塔式结构的多个瓦片层进行删减,将其中在最大层级之后的下层瓦片层删除。如上所述,当切片图像分辨率超过了显微物镜的数值孔径的收光能力所能提供的最高成像质量,更多的提高扫描装置上的感光元件密度或者提高切片图像分辨率,也无法提供更多的分辨信息和增加最大细节程度。也就是说,最大层级之后的下层瓦片层的采样率必然超过了该最大采样率(根据用于获取原始图像的光学放大装置的参数,例如该光学放大装置的显微镜的显微物镜的光学分辨率(或者数值孔径),设定),也因此无法提供更多的有用信息。通过删减超过最大层级的下层瓦片层,可以在保留切片图像成像质量的同时精简需要存储的数据量,有利于提高存储、读取和浏览效率。在一种可能的实施方式中,可以根据该最大层级设定利用该金字塔式结构的多个瓦片层进行切片图像浏览的操作极限,例如设定用户能浏览到的切片图像中不包含超过该最大层级的瓦片层的图像数据,这样可以避免用户继续进行例如放大操作来试图获取最大层级之后的下层瓦片层的图像数据,从而增加数据量和损耗但又没有获取更多有用情报。在一种可能的实施方式中,可以根据该最大层级设定通过本地接口或者远程接口来从存储切片图像数据的机器进行读取操作的权限,例如设定只能读取不超过该最大层级的瓦片层的图像数据,这样可以避免最大层级之后的下层瓦片层的图像数据被读取后再通过本地连接或者远程连接进行传输。
28.继续参阅图1,图1中示例性示出了金字塔式结构的多个瓦片层中的瓦片层110和瓦片层120。其中,瓦片层110是相对于瓦片层120的上级瓦片层,瓦片层110的采样率低于瓦片层120的采样率。在瓦片层110中有多个瓦片,其中瓦片112和瓦片114是相邻瓦片。在瓦片层120有多个瓦片,其中瓦片122、瓦片124、瓦片126和瓦片128是相邻瓦片。设目标102是需要观测和分辨的对象,目标102可以是样本中的某个细微组织结构、病症部位或者某个物体如细胞核等。目标102在瓦片层110中位于特定位置或者处于特定区域,目标102的位置和所占据的区域可以按照该同一个空间坐标系来确定,也就是可以确定该目标102在原始图像上的位置和所占据的区域。图1中示例性示出了目标102在瓦片层110的瓦片112中,也就是说,参照该空间坐标系确定的与该目标102对应的原始图像上的位置和区域,落在了参照该空间坐标系确定的与瓦片层110的瓦片112对应的原始图像上的范围内。图1中还示例性示出了目标102也在瓦片层120的瓦片122中,也就是说,参照该空间坐标系确定的与该目标102对应的原始图像上的位置和区域,落在了参照该空间坐标系确定的与瓦片层120的瓦片122对应的原始图像上的范围内。瓦片层120的采样率高于瓦片层110的采样率,因此瓦片层120能提供的信息量更多,能够达到的分辨和观测最大细节程度也越高,目标102在瓦片层120所提供的切片图像数据中可以分辨出其中的两个子目标分别为目标104和目标106。这意味着目标104和目标106之间的间距相对于瓦片层110的采样率或者说瓦片层110的瓦片所提供的切片图像分辨率而言太小,因此在瓦片层110的瓦片例如瓦片112所提供的切片图像数据中难以分辨目标104和目标106。而瓦片层120的采样率足够的高,瓦片层120的瓦片所提供的切片图像分辨率足够的高,因此可以分辨出目标102内的目标104和目标106,也就是说目标104和目标106之间的间距大于瓦片层120的瓦片所提供的切片图像分辨率。因此,可以根据观测需求,例如要分辨出目标102内部的目标104和目标106的观测需求,确定需要达到的采样率和切片图像分辨率,也就可以确定参考层级,该参考层级代表了要满足观测
需求所必须达到的最小层级,也即参考层级和在参考层级以下的瓦片层可提供足够好的切片图像质量来满足观测要求。上面提到,用扫描装置来扫描被光学放大装置放大了的图像得到的数字图像的分辨率,也叫切片图像的扫描分辨率或者切片图像分辨率,是由用来感知放大的实像的感光像元阵列的尺寸、个数(可能还涉及排布)等细节决定的。而切片图像的大小或者说切片图像的尺寸则基于切片图像分辨率和显示器上单个像素的大小、数量决定。因此,基于用于获取原始图像的光学放大装置的参数(例如显微镜的显微物镜的光学分辨率(或者数值孔径))确定最大分辨率,通过按照不同的采样率对该原始图像提取特征得到多个瓦片层,将该多个瓦片层按照各自的采样率的高低以最低采样率到最高采样率的次序进行排列建立起多层的金字塔式结构,每个瓦片层在该金字塔式结构中的层级反映了该瓦片层的采样率,最后根据该最大分辨率确定该金字塔式结构的最大层级,以及根据观测需求(例如分辨目标102内部的目标104和目标106的观测需求)确定参考层级。通过比较最大层级和参考层级可知,如果参考层级大于最大层级,则意味着为了满足观测需求所要达到的切片图像分辨率超过了光学放大装置所能支持的实质上的切片图像分辨率极限,也就意味着即便提供对应参考层级的瓦片层的切片图像数据或者更进一步地提高切片图像分辨率也无法提供足够好的切片图像质量,反而会增加数据量和切片图像大小。因此,当参考层级大于最大层级时,应根据最大层级施加限制,例如上述的根据该最大层级对该金字塔式结构的多个瓦片层进行删减,再例如根据该最大层级设定利用该金字塔式结构的多个瓦片层进行切片图像浏览的操作极限,再例如根据该最大层级设定通过本地接口或者远程接口来从存储切片图像数据的机器进行读取操作的权限。相对的,当参考层级等于最大层级时,则适合直接提供该金字塔式结构中的位于最大层级的瓦片层的切片图像数据。相对的,当参考层级小于最大层级时,这意味着在参考层级之下,至少还有一层或者多层瓦片层才会到达最大层级。考虑到用户可能期望在观测需求基础上获取更多的情报,可以提供比起参考层级更下一层或者更下两层的瓦片层的切片图像数据。因此,通过上述的金字塔式结构的多个瓦片层来存储扫描实物载玻片得到的切片图像数据,为设定及筛选瓦片层及各自采样率提供了便利,也为后续的存储、读取和浏览操作提供了高效可靠的参考。下面结合图2详细说明。
29.参阅图2,图2为本技术实施例提供的图1所示的存储系统的多个瓦片层的示意图。如图2所示,该存储系统示例性的包括金字塔式结构的多个瓦片层,从上到下依次为瓦片层202、瓦片层204、瓦片层206和瓦片层208。上面提到,多个瓦片层与多个采样率一一对应,根据多个瓦片层各自的采样率的高低,按照从最低采样率到最高采样率的次序,可以在多个瓦片层之间建立起上下级关系。上级瓦片层对应相对较低的采样率,下级瓦片层对应相对较高的采样率。由此建立起的从最上级瓦片层(最低采样率)到最下级瓦片层(最高采样率)的层级架构,可以看做是金字塔式结构,从该金字塔式结构的最上层到最下层,采样率逐层增加,瓦片层所包含的信息量和数据量也逐层增加。因此,采样率从最低到最高依次为瓦片层202、瓦片层204、瓦片层206和瓦片层208,图2的金字塔式结构的多层结构的第一层到第四层依次对应瓦片层202、瓦片层204、瓦片层206和瓦片层208。图2还示出了预览图像210对应瓦片层202的切片图像数据,或者说,预览图像210是基于瓦片层202的瓦片组成。如上所述,每个瓦片层包含若干个瓦片,同一个瓦片层的瓦片一般是等大小或者说具有相同的尺寸,这样便于存储管理。多个瓦片层都是参照同一个空间坐标系,而且该同一个空间坐标系
也适用于原始图像。这样就使得根据该同一个空间坐标系可以在原始图像以及各个瓦片层之间确定其中对应位置的元素。因此,用于组成预览图像210的瓦片层202的瓦片,这些瓦片在空间坐标系中的位置和区域可用于确定其他瓦片层的具有相应位置和区域的瓦片。如图2所示,从预览图像210出发,用户手动地或者系统自动地进行了第一放大操作220,也就是放大了预览图像210并获取了对应瓦片层204的切片图像数据也就是第一切片图像212。假设预览图像210和后续的浏览操作都是在某个显示终端进行,例如手机屏幕或者主机的显示器上,这意味着对预览图像210的局部或者全部进行放大以展示更高的切片图像分辨率和展示更多的细节。例如,预览图像210可以对应图1所示的瓦片层110的切片图像数据所展示的目标102,而通过第一放大操作220得到的放大后的图像也就是第一切片图像212对应图1所示的瓦片层120的切片图像数据所展示的目标102。可以看出,在执行第一放大操作220后,第一切片图像212可以提供比起预览图像210而言的更多情报,例如分辨图1所示的目标102内部的目标104和目标106。因此,放大操作意味着在该金字塔式结构中向下级瓦片层获取切片图像数据,也就是获取相对于当前切片图像而言的以更高采样率提取特征得到的瓦片层的切片图像数据。从第一切片图像212出发,还可以用户手动地或者系统自动地进行第二放大操作222,从而获取瓦片层208的切片图像数据也就是第二切片图像214。第二切片图像214可以提供相对第一切片图像212而言的更多情报。但是可以理解的是,第二切片图像214的大小、数据量也要超过第一切片图像212的大小、数据量,取决于两者之间的采样率的差异,可能会导致数据量急剧增长例如增加十几倍。为此,从第二切片图像214出发,进行第一缩小操作230,从而获取瓦片层206的切片图像数据也就是第三切片图像216。因为瓦片层206位于瓦片层204的下级同时位于瓦片层208的上级,因此瓦片层206的采样率是高于瓦片层204的采样率同时低于瓦片层208的采样率。第一缩小操作230可以是系统自动运行,例如基于机器学习算法或者模型做出的自动优化,其目的是在保证观测需求能够得到满足的前提下尽量减少需要存储、读取和传输的数据量。实践中,用户在进行放大缩小操作时是凭借肉眼感觉来判断是否执行了足够的放大操作来获取足够清晰的图像质量或者需要执行缩小操作以在显示终端上看到更大范围。但是用户的感觉可能是与实际有偏差的。例如,用户可能在执行第一放大操作220之后认为不够清晰而继续执行第二放大操作222,但是之后用户认为不需要瓦片层208提供的这么高的切片图像分辨率而最后执行第一缩小操作230,最终的瓦片层206的切片图像数据被用户认可,也就是被用户认为是合理的图像分辨率。但是有时候用户在执行完第二放大操作222后没有执行第一缩小操作230,但是实质上瓦片层206的切片图像质量足以满足用户的需求,这时候适合通过系统自动地执行第一缩小操作230来减少需要存储、读取和传输的数据量。相对的,有时候用户在执行第一放大操作220之后没有进行更进一步的放大操作,但是实质上瓦片层204的切片图像质量不足以满足用户的需求,用户事后可能还需要附加的操作,这时候适合通过系统自动地执行第二放大操作222来节省用户后续操作的麻烦。取决于用户的观测需求,一般可以预判出为了满足用户的观测需求要到的采样率和切片图像分辨率,也就是上述的根据观测需求确定参考层级。例如,设根据用户观测需求确定参考层级是图2的金字塔式结构的第三层也就是瓦片层206,则当用户获取预览图像210或者第一切片图像212后,系统可以自动地执行放大操作来获取瓦片层206的切片图像数据也就是第三切片图像216从而减少用户后续操作的麻烦;而当用户自行放大到瓦片层208后,系统可以自动地执行缩小操作来获取瓦片层206的切片图
像数据也就是第三切片图像216从而缩小需要传输的切片图像大小。因此,根据参考层级,可以在后台自动化地优化用户的浏览体验,提升存储、读取和浏览效率。
30.应当理解的是,下级瓦片层的每个瓦片与上级瓦片层的每个瓦片都是基于同一个空间坐标系。在一些实施例中,相邻的上下级两个瓦片层之间,上级瓦片层的每个瓦片在空间坐标关系上可以被划分成下级瓦片层的若干个瓦片,例如图1所示的瓦片层110的瓦片112可以划分成瓦片层120的瓦片122、瓦片124、瓦片126和瓦片128。这意味着该金字塔式的多层结构的多个瓦片层之间存在较为严谨的上下级瓦片对应关系。在另一些实施例中,相邻的上下级两个瓦片层之间,上级瓦片层的每个瓦片在空间坐标关系上并没有严谨的对应下级瓦片层的若干个瓦片,例如图1所示的瓦片层110的瓦片112所对应的原始图像上的区域可能大于或者小于瓦片层120的瓦片122、瓦片124、瓦片126和瓦片128一起占据的区域。无论是否满足严谨的上下级瓦片对应关系,本技术实施例提供的用于数字病理切片的存储系统,其中的金字塔式结构的多个瓦片层的瓦片都是基于同一个空间坐标系,这样就使得根据该同一个空间坐标系可以在原始图像以及各个瓦片层之间确定其中对应位置的元素。
31.另外,在显示终端上显示切片图像时,一般从对应较低采样率的瓦片层的切片图像数据开始,例如提供图2的预览图像210,然后通过用户操作来确定用户感兴趣区域(region of interest,roi)。roi可以是根据用户点击、手势、拖拉等任意操作确定的需要进行后续放大的区域,并且可以通过轮廓、边缘优化等进一步调整roi。在确定roi后,就可以根据该空间坐标系确定roi在原始图像上对应位置和区域,并且进一步确定这些位置和区域上的元素分别对应该金字塔式结构的各个瓦片层的瓦片。例如,设该roi是图1所示的目标102,则可以根据该roi进一步确定瓦片层110的瓦片112和瓦片层120的瓦片122。
32.另外,在显示终端上显示切片图像时,可以用例如流式读取的方式,一边读取数据一边显示,也可以采用分段分块方式逐步读取和显示数据。
33.请参阅图1和图2,本技术实施例提供了一种用于数字病理切片的存储系统。所述存储系统包括:金字塔式结构,其中所述金字塔式结构包括多个瓦片层,所述多个瓦片层用于存储通过按照不同的采样率对同一原始图像提取特征得到的切片图像数据,所述多个瓦片层根据各自的采样率按照从最低采样率到最高采样率的次序依次组成所述金字塔式结构的从最高层到最底层的多个层级,所述多个瓦片层与所述金字塔式结构的所述多个层级一一对应。其中,所述金字塔式结构的最大层级基于用于获取所述原始图像的光学放大装置的参数确定,通过所述存储系统进行的存储操作、浏览操作和读取操作根据所述最大层级进行优化。如此,该存储系统为设定及筛选瓦片层及各自采样率提供了便利,也为后续的存储、读取和浏览操作提供了高效可靠的参考,有利于在保证图像质量同时提升存储、读取和浏览效率。
34.在一种可能的实施方式中,通过所述存储系统进行的存储操作根据所述最大层级进行优化,包括:删除所述金字塔式结构的在所述最大层级之下的瓦片层所存储的切片图像数据。
35.在一种可能的实施方式中,通过所述存储系统进行的浏览操作根据所述最大层级进行优化,包括:设定与所述浏览操作相关的图像数据不包括所述金字塔式结构的在所述最大层级之下的瓦片层所存储的切片图像数据。
36.在一种可能的实施方式中,通过所述存储系统进行的读取操作根据所述最大层级
进行优化,包括:限制所述读取操作对所述金字塔式结构的在所述最大层级之下的瓦片层所存储的切片图像数据的访问权限。
37.在一种可能的实施方式中,与所述存储操作、所述浏览操作或者所述读取操作相关联的图像放大操作和图像缩小操作分别通过在所述金字塔式结构中获取相对于当前层级的更下级层级的瓦片层的切片图像数据和更上级层级的瓦片层的切片图像数据。
38.在一种可能的实施方式中,所述光学放大装置的参数包括所述光学放大镜的显微物镜的光学放大率,所述金字塔式结构的参考层级基于观测需求确定,所述观测需求包括预期图像分辨率或者最小分辨距离,所述参考层级用于自动化地进行图像放大操作或者图像缩小操作,其中,当所述参考层级大于所述最大层级时,所述参考层级被替换为所述最大层级。
39.在一种可能的实施方式中,当所述参考层级等于所述最大层级时,所述存储操作、所述浏览操作或者所述读取操作返回所述金字塔式结构的所述最大层级的瓦片层的切片图像数据。
40.在一种可能的实施方式中,当所述参考层级小于所述最大层级时,所述存储操作、所述浏览操作或者所述读取操作返回所述金字塔式结构的所述参考层级的瓦片层的切片图像数据以及所述金字塔式结构的相对于所述参考层级的至少一个更下级层级的瓦片层的切片图像数据。
41.本技术实施例还提供了一种用于数字病理切片的浏览系统。所述浏览系统包括:显示终端;和根据上述的存储系统。其中,所述显示终端用于显示通过所述存储系统进行的存储操作、浏览操作或者读取操作所获取的数字病理切片图像。
42.图3为本技术实施例提供的用于数字病理切片的浏览方法的示意图。如图3所示,浏览方法包括以下步骤。
43.步骤s310:通过存储系统进行存储操作、浏览操作或者读取操作从而获取数字病理切片图像。
44.步骤s320:通过显示终端显示所述数字病理切片图像以及通过所述存储系统对所显示的所述数字病理切片图像进行图像放大操作或者图像缩小操作。
45.其中所述存储系统包括:金字塔式结构,其中所述金字塔式结构包括多个瓦片层,所述多个瓦片层用于存储通过按照不同的采样率对同一原始图像提取特征得到的切片图像数据,所述多个瓦片层根据各自的采样率按照从最低采样率到最高采样率的次序依次组成所述金字塔式结构的从最高层到最底层的多个层级,所述多个瓦片层与所述金字塔式结构的所述多个层级一一对应。其中,所述金字塔式结构的最大层级基于用于获取所述原始图像的光学放大装置的参数确定,通过所述存储系统进行的存储操作、浏览操作和读取操作根据所述最大层级进行优化。
46.图3所示的浏览方法,为设定及筛选瓦片层及各自采样率提供了便利,也为后续的存储、读取和浏览操作提供了高效可靠的参考,有利于在保证图像质量同时提升存储、读取和浏览效率。
47.参见图4,图4是本技术实施例提供的一种计算设备的结构示意图,该计算设备400包括:一个或者多个处理器410、通信接口420以及存储器430。所述处理器410、通信接口420以及存储器430通过总线440相互连接。可选地,该计算设备400还可以包括输入/输出接口
450,输入/输出接口450连接有输入/输出设备,用于接收用户设置的参数等。该计算设备400能够用于实现上述的本技术实施例中设备实施例或者系统实施例的部分或者全部功能;处理器410还能够用于实现上述的本技术实施例中方法实施例的部分或者全部操作步骤。例如,该计算设备400执行各种操作的具体实现可参照上述实施例中的具体细节,如处理器410用于执行上述方法实施例中部分或者全部步骤或者上述方法实施例中的部分或者全部操作。再例如,本技术实施例中,计算设备400可用于实现上述装置实施例中一个或者多个部件的部分或者全部功能,此外通信接口420具体可用于为了实现这些装置、部件的功能所必须的通讯功能等,以及处理器410具体可用于为了实现这些装置、部件的功能所必须的处理功能等。
48.应当理解的是,图4的计算设备400可以包括一个或者多个处理器410,并且多个处理器410可以按照并行化连接方式、串行化连接方式、串并行连接方式或者任意连接方式来协同提供处理能力,或者多个处理器410可以构成处理器序列或者处理器阵列,或者多个处理器410之间可以分成主处理器和辅助处理器,或者多个处理器410之间可以具有不同的架构如采用异构计算架构。另外,图4所示的计算设备400,相关的结构性描述及功能性描述是示例性且非限制性的。在一些示例性实施例中,计算设备400可以包括比图4所示的更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者具有不同的部件布置。
49.处理器410可以有多种具体实现形式,例如处理器410可以包括中央处理器(central processing unit,cpu)、图形处理器(graphic processing unit,gpu)、神经网络处理器(neural-network processing unit,npu)、张量处理器(tensor processing unit,tpu)或数据处理器(data processing unit,dpu)等一种或多种的组合,本技术实施例不做具体限定。处理器410还可以是单核处理器或多核处理器。处理器410可以由cpu和硬件芯片的组合。上述硬件芯片可以是专用集成电路(application-specific integrated circuit,asic),可编程逻辑器件(programmable logic device,pld)或其组合。上述pld可以是复杂可编程逻辑器件(complex programmable logic device,cpld),现场可编程逻辑门阵列(field-programmable gate array,fpga),通用阵列逻辑(generic array logic,gal)或其任意组合。处理器410也可以单独采用内置处理逻辑的逻辑器件来实现,例如fpga或数字信号处理器(digital signal processor,dsp)等。通信接口420可以为有线接口或无线接口,用于与其他模块或设备进行通信,有线接口可以是以太接口、局域互联网络(local interconnect network,lin)等,无线接口可以是蜂窝网络接口或使用无线局域网接口等。
50.存储器430可以是非易失性存储器,例如,只读存储器(read-only memory,rom)、可编程只读存储器(programmable rom,prom)、可擦除可编程只读存储器(erasable prom,eprom)、电可擦除可编程只读存储器(electrically eprom,eeprom)或闪存。存储器430也可以是易失性存储器,易失性存储器可以是随机存取存储器(random access memory,ram),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的ram可用,例如静态随机存取存储器(static ram,sram)、动态随机存取存储器(dynamic ram,dram)、同步动态随机存取存储器(synchronous dram,sdram)、双倍数据速率同步动态随机存取存储器(double data rate sdram,ddr sdram)、增强型同步动态随机存取存储器(enhanced sdram,esdram)、同步连接动态随机存取存储器(synchlink dram,sldram)和直接内存总线
随机存取存储器(direct rambus ram,dr ram)。存储器430也可用于存储程序代码和数据,以便于处理器410调用存储器430中存储的程序代码执行上述方法实施例中的部分或者全部操作步骤,或者执行上述设备实施例中的相应功能。此外,计算设备400可能包含相比于图4展示的更多或者更少的组件,或者有不同的组件配置方式。
51.总线440可以是快捷外围部件互连标准(peripheral component interconnect express,pcie)总线,或扩展工业标准结构(extended industry standard architecture,eisa)总线、统一总线(unified bus,ubus或ub)、计算机快速链接(compute express link,cxl)、缓存一致互联协议(cache coherent interconnect for accelerators,ccix)等。总线440可以分为地址总线、数据总线、控制总线等。总线440除包括数据总线之外,还可以包括电源总线、控制总线和状态信号总线等。但是为了清楚说明起见,图4中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
52.本技术实施例还提供一种系统,该系统包括多个计算设备,每个计算设备的结构可以参照上述的计算设备的结构。该系统可实现的功能或者操作可以参照上述方法实施例中的具体实现步骤和/或上述装置实施例中所描述的具体功能,在此不再赘述。本技术实施例还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机指令,当所述计算机指令在计算机设备(如一个或者多个处理器)上运行时可以实现上述方法实施例中的方法步骤。所述计算机可读存储介质的处理器在执行上述方法步骤的具体实现可参照上述方法实施例中所描述的具体操作和/或上述装置实施例中所描述的具体功能,在此不再赘述。本技术实施例还提供一种计算机程序产品,所述计算机程序产品包括存储在计算机可读存储介质上的指令,当所述指令在计算机设备上运行时使得所述计算机设备执行上述方法实施例中的方法步骤。
53.本领域内的技术人员应明白,本技术的实施例可提供为方法、系统、或计算机程序产品。本技术可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。本技术实施例可以全部或部分地通过软件、硬件、固件或其他任意组合来实现。当使用软件实现时,上述实施例可以全部或部分地以计算机程序产品的形式实现。本技术可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质上实施的计算机程序产品的形式。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载或执行所述计算机程序指令时,全部或部分地产生按照本技术实施例所述的流程或功能。所述计算机可以为通用计算机、专用计算机、计算机网络、或者其他可编程装置。计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集合的服务器、数据中心等数据存储设备。可用介质可以是磁性介质(如软盘、硬盘、磁带)、光介质、或者半导体介质。半导体介质可以是固态硬盘,也可以是随机存取存储器,闪存,只读存储器,可擦可编程只读存储器,电可擦可编程只读存储器,寄存器或任何其他形式的合适存储介质。
54.本技术是参照根据本技术实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述。可由计算机程序指令实现流程图和/或方框图中的每一流程和/或
方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
55.在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其它实施例的相关描述。显然,本领域的技术人员可以对本技术实施例进行各种改动和变型而不脱离本技术实施例的精神和范围。本技术实施例方法中的步骤可以根据实际需要进行顺序调整、合并或删减;本技术实施例系统中的模块可以根据实际需要进行划分、合并或删减。如果本技术实施例的这些修改和变型属于本技术权利要求及其等同技术的范围之内,则本技术也意图包含这些改动和变型在内。
再多了解一些

本文用于创业者技术爱好者查询,仅供学习研究,如用于商业用途,请联系技术所有人。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献