基于云原生处理遥感影像的方法、装置、设备及存储介质与流程

1.本技术涉及遥感通信技术领域，尤其涉及一种基于云原生处理遥感影像的方法、装置、设备及存储介质。


背景技术：

2.遥感影像是指记录各种地物电磁波大小的胶片(或相片)，在遥感中主要是指航空像片和卫星像片。遥感影像在获取过程中，因为地面坐标系、传感器坐标系、影像坐标系的空间三维线性变换引起的误差，传感器内部畸变、外方位元素变化引起的几何形变，以及地球旋转及大气折射等因素引起的光照不均匀，使得获取的遥感影像存在系统误差大、图像像点发生位移偏差、图像色调不统一等问题，进而导致遥感影像空间位置不准确、图像色彩失真。因此，需要在获取遥感影像后对遥感影像进行一系列后处理。
3.目前市面上对遥感影像数字正射影像图(digital orthophoto map，简称：dom)处理和数字表面模型(digital surface model，简称：dsm)密集匹配是由单台计算机或多台计算机本地集群，经过大量的人工干预对光学遥感图像几何校正、增强、融合、镶嵌、特征提取、立体像对匹配等处理，以获得最后的几何精纠正dom、dsm成果数据，在遥感影像处理的过程中，耗费的人力资源较大、所需操作人员的业务技术门槛过高，从而导致人力成本较高。


技术实现要素：

4.本技术实施例通过提供一种基于云原生处理遥感影像的方法、装置、设备及存储介质，解决了目前对遥感影像dom处理和dsm密集匹配成本高的问题。
5.第一方面，本发明实施例提供了一种基于云原生处理遥感影像的方法，该方法包括：
6.基于云原生框架，实现遥感影像处理算法及依赖包算子标准化；
7.根据标准化后的所述算子构建应用流程；
8.通过数据流转逻辑、算法程序输入、输出定义，各环境关键参数配置进行标准镜像打包；
9.以所述处理算法所需参数形成独立任务配置单和算法程序执行命令，并将所述独立任务配置单和所述算法程序执行命令进行封装，以镜像方式保存在镜像仓库；
10.以标准化后的所述算子为独立基本功能单元，编排遥感影像dom、dsm处理流程；
11.将所述处理流程接口提供给前端。
12.结合第一方面，在一种可能的实现方式中，所述基于云原生框架，实现遥感影像处理算法及依赖包算子标准化，具体包括：
13.基于云原生框架，实现遥感影像控制点匹配、连接点匹配、区域网平差、正射纠正、影像融合、真彩转换、影像匀色、影像去雾、影像镶嵌处理算法及依赖包算子标准化。
14.结合第一方面，在一种可能的实现方式中，该方法还包括：
15.由超算云底座完成资源分配和任务调度，采用分布式计算和分布式存储技术，以图像本身为单元进行并行任务自动划分。
16.结合第一方面，在一种可能的实现方式中，所述通过数据流转逻辑、算法程序输入、输出定义，各环境关键参数配置进行标准镜像打包，具体包括：
17.通过所述数据流转逻辑、算法程序输入、输出定义，所述各环境关键参数配置通过容器虚拟化技术进行标准镜像打包。
18.第二方面，本发明实施例提供了一种基于云原生处理遥感影像的装置，该基于云原生处理遥感影像的装置包括：
19.处理模块，用于基于云原生框架，实现遥感影像处理算法及依赖包算子标准化；
20.应用流程构建模块，用于根据标准化后的所述算子构建应用流程；
21.镜像打包模块，用于通过数据流转逻辑、算法程序输入、输出定义，各环境关键参数配置进行标准镜像打包；
22.封装模块，用于以所述处理算法所需参数形成独立任务配置单和算法程序执行命令，并将所述独立任务配置单和所述算法程序执行命令进行封装，以镜像方式保存在镜像仓库；
23.流程编排模块，用于以标准化后的所述算子为独立基本功能单元，编排遥感影像dom、dsm处理流程；
24.编排流程提供模块，用于将所述处理流程接口提供给前端。
25.第三方面，本发明实施例提供了一种电子设备，该电子设备包括：存储器和处理器；
26.所述存储器用于存储程序指令；
27.所述处理器用于执行电子设备中的程序指令，使得所述电子设备执行如上述任一项所述的基于云原生处理遥感影像的方法。
28.第四方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有可执行指令，计算机执行所述可执行指令时能够实现上述任一项所述的基于云原生处理遥感影像的方法。
29.本发明实施例中提供的一个或多个技术方案，至少具有如下技术效果或优点：
30.本发明实施例提供了一种基于云原生处理遥感影像的方法，该方法包括：基于云原生框架，实现遥感影像处理算法及依赖包算子标准化。根据标准化后的算子构建应用流程。通过数据流转逻辑、算法程序输入、输出定义，各环境关键参数配置进行标准镜像打包。以处理算法所需参数形成独立任务配置单和算法程序执行命令，并将独立任务配置单和算法程序执行命令进行封装，以镜像方式保存在镜像仓库。以标准化后的算子为独立基本功能单元，编排遥感影像dom、dsm处理流程。将处理流程接口提供给前端。在实际应用中，操作人员只需定义一次输入值和一次输出值，然后修改路径，即可完成遥感影像dom处理及dsm密集匹配，从而节约了人力资源，降低了操作人员的业务技术门槛，进而降低了遥感影像处理成本。
附图说明
31.为了更清楚地说明本发明实施例中的技术方案，下面将对本发明实施例中所需要
使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
32.图1为本技术实施例提供的基于云原生处理遥感影像的方法的流程框图；
33.图2为本技术实施例提供的基于云原生处理遥感影像处理底层逻辑图；
34.图3为本技术实施例提供的基于云原生处理遥感影像处理业务流程编排实现技术路线图；
35.图4为本技术实施例提供的遥感影像dom成果输出流程路线原理图；
36.图5为本技术实施例提供的遥感影像dsm成果输出流程路线原理图；
37.图6为本技术实施例提供的遥感影像dom处理流程编排示意图；
38.图7为本技术实施例提供的最终web端在线智能遥感处理产品示意图；
39.图8为本技术实施例提供的自定义遥感处理流程示意图；
40.图9为本技术实施例提供的基于云原生处理遥感影像的方法和常规处理遥感影像的效率对比示意图；
41.图10为本技术实施例提供的电子设备的结构示意图。
具体实施方式
42.下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。显然，所描述的实施例是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
43.首先对本技术实施例中涉及的相关技术或概念作简单介绍。
44.1.云原生
45.云原生是基于分布部署和统一运管的分布式云，以容器、微服务等技术为基础建立的一套云技术产品体系。
46.2.遥感影像
47.遥感影像是指记录各种地物电磁波大小的胶片(或相片)，在遥感中主要是指航空像片和卫星像片。
48.3.数字正射影像图
49.数字正射影像图(digital orthophoto map，简称：dom)是对航空航天像片进行数字微分纠正和镶嵌，按一定图幅范围裁剪生成的数字正射影像集。
50.4.数字表面模型
51.数字表面模型(digital surface model，简称：dsm)是指包含了地表建筑物、桥梁和树木等高度的地面高程模型。
52.5.依赖包
53.依赖包是指一个插件正常运行时，所需要的一个程序包。
54.6.镜像
55.镜像是一种文件存储形式，是冗余的一种类型，一个磁盘上的数据在另一个磁盘上存在一个完全相同的副本即为镜像。
56.7.封装
57.封装是指隐藏对象的属性和实现细节，仅对外公开接口，控制在程序中属性的读取和修改的访问级别。
58.8.区域网平差
59.区域网平差是指利用经过基准匹配的大量控制点和连接点对影像区域进行整体平差的空中三角测量平差方法。
60.9.正射纠正
61.正射纠正一般是通过在像片上选取一些地面控制点，并利用原来已经获取的该像片范围内的高精度数字高程模型(digital elevation model，简称：dem)数据，对影像同时进行倾斜改正和投影差改正，将影像重采样成正射影像。正射纠正是对影像进行几何畸变纠正的一个过程，它将对由地形、相机几何特性以及与传感器相关的误差所造成的明显的几何畸变进行处理。输出的正射纠正影像将是正射的平面真实影像。
62.10.影像融合
63.影像融合是将在空间、时间、波谱上冗余或互补的多源遥感数据按照一定的规则(或算法)进行运算处理，获得比任何单一数据更精确、更丰富的信息，生成具有新的空间、波谱、时间特征的合成影像数据。影像通过融合既可以提高多光谱影像空间分辨率，又保留其多光谱特性。
64.11.影像匀色
65.影像匀色是将图像中的亮度、反差、色调等分布不均匀的地方校正，使得图像每个地方的亮度、反差、色调基本一致。
66.12.影像镶嵌
67.影像镶嵌是指将两幅或多幅影像拼在一起，构成一幅整体影像的技术过程。
68.13.分布式计算
69.分布式计算是一种计算方法，是指将该应用分解成许多小的部分，分配给多台计算机进行处理。
70.14.分布式存储
71.分布式存储是一种数据存储技术，通过网络使用企业中的每台机器上的磁盘空间，并将这些分散的存储资源构成一个虚拟的存储设备，数据分散的存储在企业的各个角落。
72.15.容器虚拟化技术
73.容器虚拟化技术，即docker技术，是一种轻量级的虚拟化方式。
74.16.尺度不变特征变换
75.尺度不变特征变换(scale-invariant feature transform，简称：sift)，是用于图像处理领域的一种描述，该描述具有尺度不变性，可在图像中检测出关键点，是一种局部特征描述算法。
76.如图1所示，本发明实施例一提供了一种基于云原生处理遥感影像的方法，该方法包括步骤101至105：
77.步骤101：基于云原生框架，实现遥感影像处理算法及依赖包算子标准化。
78.步骤102：根据标准化后的算子构建应用流程。在实际应用中，构建的应用程序能
够在linux环境执行。当然，该应用程序也可以在windows和unix环境执行。相比较，linux具有运行稳定、功能强大以及获取方便的优点。
79.步骤103：通过数据流转逻辑、算法程序输入、输出定义，各环境关键参数配置进行标准镜像打包。
80.步骤104：以处理算法所需参数形成独立任务配置单和算法程序执行命令，并将独立任务配置单和算法程序执行命令进行封装，以镜像方式保存在镜像仓库。
81.步骤105：以标准化后的算子为独立基本功能单元，编排遥感影像dom、dsm处理流程。在实际应用中，各环节算子之间可以通过工作流有向无环图的形式按照业务逻辑组合，编排一个完整的遥感影像dom、dsm处理流程；各独立算子之间也可以不进行组合，以各独立算子作为独立的处理流程；也可通过自定义的方式组合各独立算子。继续参照图6所示，根据不同业务场景通过独立算子拖拽编辑的方式自由组合成完整的遥感影像处理流程，在处理流程编排时需要注意一些基本语法，示例地，全局参数中多个独立算子使用同一个变量，需保证变量值一致，通过前端处理流程接口发送任务创建时，可定义参数数值；流程中独立算子需要和存储卷建立通信连接关系，独立算子需要共享存储资源，volume值中需要添加workdir，并指定hostpath；为了提高流程中独立算子计算的灵活性，增加一些语法，比如：条件when语句，给独立算子设置条件，判断是否执行，循环withitems、withparam、withsequencs等语句控制一些迭代场景。
82.如图4示出了遥感影像dom处理流程的原理，根据业务逻辑分别将控制点采集、连接点匹配、区域网平差、正射纠正、影像融合、真彩转换、影像匀色、影像去雾、影像镶嵌、格式转换以及投影转换等独立算子按顺序进行编排，组合成一个完整的遥感影像dom处理流程，并且能够自动分解任务进行高性能并行计算，计算过程中无需任何人工干预。具体地，任务开始需要根据数据情况定义各独立算子参数，示例地，控制点采集采用常规匹配、相位匹配、尺度不变特征变换(scale-invariant feature transform，简称：sift)等算法根据平面(高精度dom)和高精度数字高程模型参考基准，进行大量控制点计算；连接点匹配通过重叠影像之间的同名点提取进行匹配，使用区域网平差剔除残差计算得到精确的有理函数模型，计算中为提高计算效率又不影响计算精度，可将图像搜索半径、金字塔层级、每个pod所需的最大资源等进行提前预置；通过计算得出新的有理函数模型，以高精度dem辅助，重新对影像进行空间纠正，此处可根据实际需要以双线性、最邻近、双三次等重采样图像分辨率；采用超分辨率贝叶斯法(pansharpening)融合算法对已纠正的全色和多光谱影像进行融合，并进行降位处理，一般输出8bit即可；先采用mask匀光、自由网匀色、标准影像匀色、控制网匀色等算法，结合预置匀色模板对数据进行颜色均衡处理，再采用暗原色、优化对比度增强等算法对影像进一步处理，使输出成果色彩更加通透，最后使用镶嵌算法输出拼接dom成果影像及镶嵌线文件，同时也可以根据用户需求自定义格式转换和投影转换。
83.如图5示出了遥感影像dsm成果输出流程路线原理图，具体地，根据业务逻辑分别将连接点匹配、自由网平差、密集匹配、栅格化、精化、滤波等算子按顺序进行编排，组合成一个完整的遥感影像dsm处理流程。在实际应用中，为了提高处理效率可以先通过连接点匹配格网大小和调用通用并行计算架构(compute unified devicearchitecture，简称：cuda)加速，采用尺度不变特征变换算法特征点提取，再进行自由网平差，以消除影像视差，提高匹配精度；密集匹配可根据数据源大小进行二次分块并行处理；采用精化滤波的方式
去除影响质量不佳的特征因子；最后可根据实际需要选择镶嵌拼接输出完整dsm成果及镶嵌线文件。
84.步骤106：将处理流程接口提供给前端。具体地，将编排的处理流程提供给前端后，用户可以根据场景需要去调用符合条件的处理流程。图7提供了最终web端在线智能遥感处理产品示意图，通过web界面交互调用处理流程接口，从而增加权限控制、底图功能以及通过影像切片方式，进而实现实时可视化原始数据、过程数据和成果数据以及预置一键式dom、dsm处理模式。如图8所示，界面交互支持自定义配置处理流程，可根据使用场景需要配置处理流程模板，通过开关控制想要处理的环节步骤，以便支持更多的遥感影像处理场景需求。
85.本发明实施例提供了一种基于云原生处理遥感影像的方法，该方法包括：基于云原生框架，实现遥感影像处理算法及依赖包算子标准化。根据标准化后的算子构建应用流程。通过数据流转逻辑、算法程序输入、输出定义，各环境关键参数配置进行标准镜像打包。以处理算法所需参数形成独立任务配置单和算法程序执行命令，并将独立任务配置单和算法程序执行命令进行封装，以镜像方式保存在镜像仓库。以标准化后的算子为独立基本功能单元，编排遥感影像dom、dsm处理流程。将处理流程接口提供给前端。在实际应用中，操作人员只需定义一次输入值和一次输出值，然后修改路径，即可完成遥感影像dom处理及dsm密集匹配，从而节约了人力资源，降低了操作人员的业务技术门槛，进而降低了遥感影像处理成本。
86.如图3所示，基于云原生框架，实现算子组处理算法及依赖包标准化，具体包括：
87.基于云原生框架，实现遥感影像控制点匹配、连接点匹配、区域网平差、正射纠正、影像融合、真彩转换、影像匀色、影像去雾、影像镶嵌处理算法及依赖包算子标准化。在实际应用中，区域网平差算法也可以用自由网平差算法来替代。
88.在实际应用中，该方法还包括：
89.由超算云底座完成资源分配和任务调度，采用分布式计算和分布式存储技术，以图像本身为单元进行并行任务自动划分。超算云底座是一种新型软硬结合的计算框架，基于云原生架构，实现计算和存储资源无限池化扩容，根据任务体量弹性调度、达到最大化、高并发分布式计算及高io分布式读写，并以计算任务和资源达到进行负载均衡的目的。具体地，图2为基于超算云底座遥感影像处理的计算和存储的流程。在实际应用中，智能遥感处理为最顶层的软件即服务(software-as-a-service，简称：saas)，数据通过数字中台存储，在初始接入数据的时候通过独立算子进行元数据采集、数据标签制作、统一入库存储管理，由前端发起任务请求，管理节点接收任务，通过调度引擎分发任务给每个pod，pod内容器执行算法镜像计算，计算成果实时分布式写入数字中台进行管理。目前dom处理和dsm密集匹配是由单台计算机或多台计算机本地集群，而由于单台计算机或多台计算机本地集群资源有限，不仅导致数据存储时具有上限，也导致遥感影像处理效率较低。本技术由超算云底座完成资源分配和任务调度，通过分布式计算和分布式存储技术，由于云上的资源具有可扩展性和弹性化，使得数据存储和计算时不存在上限，很大程度上提高了遥感影像处理过程中的计算效率和存储效率，进一步地提高了遥感影像的处理效率。如图9可以看出，随着云原生底层调度资源的扩充，以及并发数量增加，在一定节点，基于云原生的遥感影像处理效率可达到弯道超车，呈几何倍数增长，由此可见，基于云原生的遥感影像处理技术可
行，甚至在效率方面可突破行业瓶颈，打破现有常规处理模式。
90.进一步地，通过数据流转逻辑、算法程序输入、输出定义，各环境关键参数配置进行标准镜像打包，具体包括：
91.通过数据流转逻辑、算法程序输入、输出定义，各环境关键参数配置通过容器虚拟化技术进行标准镜像打包。
92.本发明实施例还提供了一种基于云原生处理遥感影像的装置，该基于云原生处理遥感影像的装置包括：
93.处理模块，用于基于云原生框架，实现遥感影像处理算法及依赖包算子标准化。
94.应用流程构建模块，用于根据标准化后的算子构建应用流程。
95.镜像打包模块，用于通过数据流转逻辑、算法程序输入、输出定义，各环境关键参数配置进行标准镜像打包。
96.封装模块，用于以处理算法所需参数形成独立任务配置单和算法程序执行命令，并将独立任务配置单和算法程序执行命令进行封装，以镜像方式保存在镜像仓库。
97.流程编排模块，用于以标准化后的算子为独立基本功能单元，编排遥感影像dom、dsm处理流程。
98.编排流程提供模块，用于将处理流程接口提供给前端。
99.处理子模块，用于基于云原生框架，实现遥感影像控制点匹配、连接点匹配、区域网平差、正射纠正、影像融合、真彩转换、影像匀色、影像去雾、影像镶嵌处理算法及依赖包算子标准化。
100.资源分配模块，用于由超算云底座完成资源分配和任务调度，采用分布式计算和分布式存储技术，以图像本身为单元进行并行任务自动划分。
101.镜像打包子模块，用于根据数据流转逻辑，算法程序输入、输出定义，各环境关键参数配置通过容器虚拟化技术进行标准镜像打包。
102.本发明实施例还提供了一种电子设备，该电子设备包括：存储器和处理器。储器用于存储程序指令。处理器用于执行电子设备中的程序指令，能够实现上述任一项所述的方法。如图10示出了该电子设备的结构示意图。
103.本发明实施例还提供了一种计算机可读存储介质，该计算机可读存储介质存储有可执行指令，计算机执行可执行指令时能够实现上述任一项所述的方法。
104.上述存储介质包括但不限于随机存取存储器(英文：random access memory；简称：ram)、只读存储器(英文：read-only memory；简称：rom)、缓存(英文：cache)、硬盘(英文：hard disk drive；简称：hdd)或者存储卡(英文：memory card)。存储器可以用于存储计算机程序指令。
105.虽然本技术提供了如实施例或流程图的方法操作步骤，但基于常规或者无创造性的劳动可以包括更多或者更少的操作步骤。本实施例中列举的步骤顺序仅仅为众多步骤执行顺序中的一种方式，不代表唯一的执行顺序。在实际中的装置或客户端产品执行时，可以按照本实施例或者附图所示的方法顺序执行或者并行执行(例如并行处理器或者多线程处理的环境)。
106.上述实施例阐明的装置或模块，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。为了描述的方便，描述以上装置时以功能分为各种模块分别描述。
在实施本技术时可以把各模块的功能在同一个或多个软件和/或硬件中实现。当然，也可以将实现某功能的模块由多个子模块或子单元组合实现。
107.本技术中的方法、装置或模块可以以计算机可读程序代码方式实现控制器按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(英文：application specific integrated circuit；简称：asic)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：arc 625d、atmel at91sam、microchip pic18f26k20以及silicone labs c8051f320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内部包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
108.本技术装置中的部分模块可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构、类等。也可以在分布式计算环境中实践本技术，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
109.通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到本技术可借助软件加必需的硬件的方式来实现。基于这样的理解，本技术的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，也可以通过数据迁移的实施过程中体现出来。该计算机软件产品可以存储在存储介质中，如rom/ram、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，移动终端，服务器，或者网络设备等)执行本技术各个实施例或者实施例的某些部分的方法。
110.本说明书中的各个实施方式采用递进的方式描述，各个实施方式之间相同或相似的部分互相参见即可，每个实施方式重点说明的都是与其他实施方式的不同之处。本技术的全部或者部分可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、移动通信终端、多处理器系统、基于微处理器的系统、可编程的电子设备、网络pc、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。
111.以上实施例仅用以说明本技术的技术方案，而非对本技术限制；尽管参照前述实施例对本技术进行了详细的说明，本领域普通技术人员应当理解：其依然可以对前述实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本技术技术方案的范围。