仪表图像识别方法、装置、电子设备和计算机可读介质与流程

1.本公开的实施例涉及计算机技术领域，具体涉及仪表图像识别方法、装置、电子设备和计算机可读介质。


背景技术：

2.仪表图像识别方法，是用于识别仪表图像中仪表数据的一项技术。目前，在进行仪表图像识别时，通常采用的方式为：直接利用采集的仪表图像进行模型训练，然后利用训练完成的模型进行仪表图像识别。
3.然而，当采用上述方式进行仪表图像识别时，经常会存在如下技术问题：
4.第一，同时对仪表图像进行指针和表盘识别，使得指针特征与表盘特征之间相互影响，从而产生较高的耦合性，从而，降低了对仪表图像识别的准确率；
5.第二，难以采集到全部量程的指针状态图片对仪表图像识别模型进行训练，由此，导致常用方法中生成的仪表图像识别模型的鲁棒性较低。从而，降低了仪表图像识别的效率。


技术实现要素：

6.本公开的内容部分用于以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
7.本公开的一些实施例提出了仪表图像识别方法、装置、电子设备和计算机可读介质，来解决以上背景技术部分提到的技术问题中的一项或多项。
8.第一方面，本公开的一些实施例提供了一种仪表图像识别方法，该方法包括：通过预设的仪表图像识别模型对预获取的仪表图像进行图像识别，以生成识别信息，其中，上述识别信息包括识别边框、识别边框中心坐标和识别边框的宽度值，上述识别边框由边框坐标组构成；从上述仪表图像中截取出与上述识别信息包括的识别边框对应的图像区域，得到截取图像；基于预设的模板图像信息，对上述截取图像进行矫正处理，以生成矫正后仪表图像和矫正刻度点坐标集；通过预设的指针识别模型对上述矫正后仪表图像进行指针识别，得到指针识别信息；基于上述矫正后仪表图像、上述矫正刻度点坐标集、上述指针识别信息与上述识别信息包括的识别边框中心坐标和识别边框的宽度值，生成仪表图像识别结果，其中，上述仪表图像识别结果包括仪表图像指针刻度值。
9.第二方面，本公开的一些实施例提供了一种仪表图像识别装置，该装置包括：图像识别单元，被配置成通过预设的仪表图像识别模型对预获取的仪表图像进行图像识别，以生成识别信息，其中，上述识别信息包括识别边框、识别边框中心坐标和识别边框的宽度值，上述识别边框由边框坐标组构成；图像截取单元，被配置成从上述仪表图像中截取出与上述识别信息包括的识别边框对应的图像区域，得到截取图像；矫正处理单元，被配置成基于预设的模板图像信息，对上述截取图像进行矫正处理，以生成矫正后仪表图像和矫正刻
度点坐标集；指针识别单元，被配置成通过预设的指针识别模型对上述矫正后仪表图像进行指针识别，得到指针识别信息；生成单元，被配置成基于上述矫正后仪表图像、上述矫正刻度点坐标集、上述指针识别信息与上述识别信息包括的识别边框中心坐标和识别边框的宽度值，生成仪表图像识别结果，其中，上述仪表图像识别结果包括仪表图像指针刻度值。
10.第三方面，本公开的一些实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。
11.第四方面，本公开的一些实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，程序被处理器执行时实现上述第一方面任一实现方式所描述的方法。
12.本公开的上述各个实施例具有如下有益效果：通过本公开的一些实施例的仪表图像识别方法，可以提高对仪表图像识别的准确率。具体来说，造成对仪表图像识别的准确率降低的原因在于：同时对仪表图像进行指针和表盘识别，使得指针特征与表盘特征之间相互影响，从而产生较高的耦合性。基于此，本公开的一些实施例的仪表图像识别方法，引入了仪表图像识别模型和指针识别模型。由此，可以将仪表图像指针识别过程和仪表图像表盘识别过程分开，以达到解耦的效果。从而，可以提高仪表图像识别的准确率。另外，还通过引入预设的模板图像信息，对截取图像进行矫正处理。使得基于矫正后仪表图像、矫正刻度点坐标集、指针识别信息与识别信息包括的识别边框中心坐标和识别边框的宽度值，生成的仪表图像识别结果更加准确。从而，可以进一步提高仪表图像识别的准确率。
附图说明
13.结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，元件和元素不一定按照比例绘制。
14.图1是本公开的一些实施例的仪表图像识别方法的一个应用场景的示意图；
15.图2是根据本公开的仪表图像识别方法的一些实施例的流程图；
16.图3是根据本公开的仪表图像识别方法的另一些实施例的流程图；
17.图4是根据本公开的仪表图像识别装置的一些实施例的结构示意图；
18.图5是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
19.下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例。相反，提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
20.另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。
21.需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
22.需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域
技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
23.本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
24.下面将参考附图并结合实施例来详细说明本公开。
25.图1是本公开的一些实施例的障碍物信息生成方法的一个应用场景的示意图。
26.在图1的应用场景中，首先，计算设备101可以通过预设的仪表图像识别模型102对预获取的仪表图像103进行图像识别，以生成识别信息104，其中，上述识别信息104包括识别边框1041、识别边框中心坐标1042和识别边框的宽度值1043，上述识别边框1041由边框坐标组构成。接着，计算设备101可以从上述仪表图像103中截取出与上述识别信息104包括的识别边框1041对应的图像区域，得到截取图像105。然后，计算设备101可以基于预设的模板图像信息106，对上述截取图像105进行矫正处理，以生成矫正后仪表图像107和矫正刻度点坐标集108。之后，计算设备101可以通过预设的指针识别模型109对上述矫正后仪表图像107进行指针识别，得到指针识别信息110。最后，计算设备101可以基于上述矫正后仪表图像107、上述矫正刻度点坐标集108、上述指针识别信息110与上述识别信息104包括的识别边框中心坐标1042和识别边框的宽度值1043，生成仪表图像识别结果111，其中，上述仪表图像识别结果111包括仪表图像指针刻度值1111。
27.需要说明的是，上述计算设备101可以是硬件，也可以是软件。当计算设备为硬件时，可以实现成多个服务器或终端设备组成的分布式集群，也可以实现成单个服务器或单个终端设备。当计算设备体现为软件时，可以安装在上述所列举的硬件设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。
28.应该理解，图1中的计算设备的数目仅仅是示意性的。根据实现需要，可以具有任意数目的计算设备。
29.继续参考图2，示出了根据本公开的仪表图像识别方法的一些实施例的流程200。该仪表图像识别方法的流程200，包括以下步骤：
30.步骤201，通过预设的仪表图像识别模型对预获取的仪表图像进行图像识别，以生成识别信息。
31.在一些实施例中，仪表图像识别方法的执行主体(如图1所示的计算设备101)可以通过预设的仪表图像识别模型对预获取的仪表图像进行图像识别，以生成识别信息。其中，上述识别信息可以包括识别边框、识别边框中心坐标和识别边框的宽度值。上述识别边框可以由边框坐标组构成。上述预设的仪表图像识别模型可以是：yolo(you only look once，单次目标检测)模型，mobilenetv2(轻量级目标检测)模型，fpn(feature pyramid networks，特征金字塔网络)等。上述预获取的仪表图像可以对单个仪表拍摄的图像。上述识别边框可以是仪表图像中表征仪表的图像区域的外接矩形框。
32.步骤202，从仪表图像中截取出与识别信息包括的识别边框对应的图像区域，得到截取图像。
33.在一些实施例中，上述执行主体可以从上述仪表图像中截取出与上述识别信息包括的识别边框对应的图像区域，得到截取图像。其中，可以将上述识别边框作为截取边界进行图像截取。由此，可以将上述识别边框所包围的图像区域确定为截取图像。通过图像截
取，可以去除预设的仪表图像中其他图像区域。避免对仪表图像识别的干扰。
34.在一些实施例的一些可选的实现方式中，上述执行主体从上述仪表图像中截取出与上述识别信息包括的识别边框对应的图像区域，得到截取图像，可以包括以下步骤：
35.第一步，对上述识别信息包括的识别边框进行调整，得到调整后边框。其中，由于后续指针分割环节的输入通常都是也是正方形图片。因此，可以保持识别边框的中心点不变。例如，将长边(识别边框的宽度值和高度值中的最大值)为基准，放大20％。另一个边长跟随变化，使得调整后边框也为正方形。
36.作为示例，上述识别边框的宽度值可以是：100像素，高度值可以是：80像素。那么，左右边框距离可以各向两边增大10像素，上下边框各向上下增大20像素，得到120像素
×
120像素的正方形边框。
37.第二步，从上述仪表图像中截取出与上述调整后边框对应的图像区域，得到截取图像。其中，可以从上述仪表图像中截取出上述调整后边框包括的图像区域，作为截取图像。
38.步骤203，基于预设的模板图像信息，对截取图像进行矫正处理，以生成矫正后仪表图像和矫正刻度点坐标集。
39.在一些实施例中，上述执行主体可以基于预设的模板图像信息，对上述截取图像进行矫正处理，以生成矫正后仪表图像和矫正刻度点坐标集。其中，预设的模板图像信息可以是对预设的模板图像进行标注后产生的标注信息。上述预设的模板图像可以是对上述仪表拍摄的、清晰的待识别仪表模板图像。上述标注信息可以是人工对待识别仪表图像中的仪表区域标注的仪表区域外接矩形框。可以通过以下方式生成矫正后仪表图像：
40.第一步，从上述待识别仪表模板图像中截取出上述仪表区域外接矩形框区域的图像，作为截取模板图像。
41.第二步，将上述截取模板图像调整至与上述截取图像相同大小，得到调整后图像。其中，由于对截取模板图像进行了调整。因此，可以将调整后图像的边框确定为替换矩形框。该替换矩形框可以是由替换坐标值组构成。
42.第三步，对上述替换矩形框和上述识别边框进行融合，得到融合边框。其中，融合可以是将替换矩形框中的每个替换坐标值和上述识别边框中对应的边框坐标值的中点坐标值确定为融合坐标值，得到融合坐标值组。上述融合坐标值组可以用于表征上述融合边框。另外，可以将上述替换矩形框中的替换坐标值与上述识别边框中距离最近的边框坐标值确定为基础对应关系。然后，以存在基础对应关系的替换坐标值和边框坐标值为基准，在上述替换矩形框和识别边框上的相同方向，分别确定与替换坐标值和边框坐标值相邻的替换坐标值和边框坐标值为对应关系。
43.第四步，从上述仪表图像中截取出上述融合边框区域的图像，得到矫正后仪表图像。
44.由此，可以对矫正后仪表图像进行关键点识别，以生成矫正刻度点坐标集。上述矫正刻度点坐标集中的每个矫正刻度点坐标可以用于表征上述仪表图像中仪表上的一个刻度值。
45.步骤204，通过预设的指针识别模型对矫正后仪表图像进行指针识别，得到指针识别信息。
46.在一些实施例中，上述执行主体可以通过预设的指针识别模型对上述矫正后仪表图像进行指针识别，得到指针识别信息。其中，上述预设的指针识别模型可以是：bisenet(实时语义分割算法)、deeplab(semantic image segmentation with deep convolutional nets，atrous convolution and fully connected crfs，采用深度卷积网络，atrous卷积和全连接crf的语义图像分割)算法等。上述指针识别信息可以包括语义分割图像以及对应的语义分割图像中目标区域的边框。上述目标区域的边框也可以是由目标区域坐标组构成。上述目标区域的边框可以用于表征上述仪表图像中的指针区域。
47.步骤205，基于矫正后仪表图像、矫正刻度点坐标集、指针识别信息与识别信息包括的识别边框中心坐标和识别边框的宽度值，生成仪表图像识别结果。
48.在一些实施例中，上述执行主体可以基于上述矫正后仪表图像、上述矫正刻度点坐标集、上述指针识别信息与上述识别信息包括的识别边框中心坐标和识别边框的宽度值，生成仪表图像识别结果。其中，可以通过以下步骤生成仪表图像识别结果：
49.第一步，通过上述仪表图像识别模型对上述矫正后仪表图像进行图像识别，以生成矫正后识别信息。其中，矫正后识别信息可以包括矫正后识别中心坐标。
50.第二步，将上述识别信息包括的识别边框中心坐标与上述矫正后识别中心坐标之间连线的中点确定为目标中心点，得到目标中心点坐标。
51.第三步，将上述目标中心点坐标与构成指针识别信息中目标区域的边框的目标区域坐标组中距离最远的目标区域坐标之间的连线确定为指针中线。
52.第四步，以上述目标中心点坐标为端点与上述指针中线构成的射线，将该射线与上述矫正刻度点坐标集中距离最近的矫正刻度点坐标，确定为第一目标矫正刻度点坐标。将除上述第一目标矫正刻度点坐标之外，上述射线与上述矫正刻度点坐标集中距离最近的矫正刻度点坐标，确定为第二目标矫正刻度点坐标。
53.第五步，将上述第一目标矫正刻度点坐标与上述目标中心点坐标之间的连线确定为第一标准刻度线。将上述第二目标矫正刻度点坐标与上述目标中心点坐标之间的连线确定为第二标准刻度线。
54.第六步，确定上述第一标准刻度线与上述指针中线之间的夹角，得到第一角度值。确定上述第二标准刻度线与上述指针中线之间的夹角，得到第二角度值。
55.第七步，确定上述第一目标矫正刻度点坐标表征的刻度值为第一刻度值。确定上述第二目标矫正刻度点坐标表征的刻度值为第二刻度值。
56.第八步，通过以下公式生成仪表图像识别结果：
[0057][0058]
其中，k表示仪表图像识别结果。θ1表示上述第一角度值。θ2表示上述第二角度值。v1表示上述第一刻度值。v2表示上述第二刻度值。
[0059]
在一些实施例的一些可选的实现方式中，上述仪表图像识别模型通过以下方式训练生成：
[0060]
第一步，获取仪表图像集和自然图像集。其中，上述执行主体可以通过有线方式或
无线方式获取仪表图像集合自然图像集。上述仪表图像集中的仪表图像可以是预先拍摄的单个仪表的图像。上述自然图像集中的自然图像可以是获取的任意自然场景的图像。
[0061]
第二步，对上述仪表图像集中的各个仪表图像和上述自然图像集中的各个自然图像进行融合处理，以生成待处理图像集。其中，融合处理可以是将一个仪表图像融合叠加至上述自然图像集中的任意自然图像上，得到待处理图像。由此，可以提高生成的仪表图像识别模型对不同背景下的仪表的识别能力。从而，提高仪表图像识别模型的鲁棒性。
[0062]
第三步，对上述待处理图像集中的各个待处理图像进行样本处理，以生成样本集。其中，样本处理可以是对上述待处理图像集中的待处理图像进行图像标注以生成样本集。上述图像标注可以是标注出上述待处理图像集中各个待处理图像中的仪表图像区域的外接矩形框。上述样本集中的每个样本可以包括标注后待处理图像和样本标签。
[0063]
第四步，基于上述样本集对初始仪表图像识别模型进行训练，以生成上述仪表图像识别模型。其中，可以将上述样本集中的每个样本包括的标注后待处理图像输入至上述初始仪表图像识别模型进行模型训练。从而，可以生成仪表图像识别模型。在一些实施例的一些可选的实现方式中，上述指针识别模型通过以下方式训练生成：
[0064]
第一步，对上述仪表图像集中的各个仪表图像进行表盘区域截取，得到表盘区域图像集。其中，截取可以是从上述仪表图像集中的每个仪表图像中截取出标注的外接矩形框所在的图像区域以生成表盘区域图像，得到表盘区域图像集。
[0065]
第二步，对上述表盘区域图像集中的各个表盘区域图像进行指针标注，得到指针标注图像集。其中，指针标注可以指标注出表盘区域图像中指针所在的区域。例如，可以将指针所在图像区域近似标记为外接四边形。
[0066]
第三步，对上述指针标注图像集中的各个指针标注图像进行图像增强，得到增强图像集。其中，增强可以指通过投影变换、旋转等操作，丰富指针的方向与形态。由此，提高生成的仪表图像识别模型对不同角度的指针的识别能力。从而，可以提高指针识别模型的鲁棒性。
[0067]
第四步，利用上述增强图像对初始指针识别模型进行训练，以生成上述指针识别模型。其中，可以将上述增强图像集中的每个增强图像输入至上述指针识别模型以进行模型训练。从而，可以生成指针识别模型。
[0068]
本公开的上述各个实施例具有如下有益效果：通过本公开的一些实施例的仪表图像识别方法，可以提高对仪表图像识别的准确率。具体来说，造成对仪表图像识别的准确率降低的原因在于：同时对仪表图像进行指针和表盘识别，使得指针特征与表盘特征之间相互影响，从而产生较高的耦合性。基于此，本公开的一些实施例的仪表图像识别方法，引入了仪表图像识别模型和指针识别模型。由此，可以将仪表图像指针识别过程和仪表图像表盘识别过程分开，以达到解耦的效果。从而，可以提高仪表图像识别的准确率。另外，还通过引入预设的模板图像信息，对截取图像进行矫正处理。使得基于矫正后仪表图像、矫正刻度点坐标集、指针识别信息与识别信息包括的识别边框中心坐标和识别边框的宽度值，生成的仪表图像识别结果更加准确。从而，可以进一步提高仪表图像识别的准确率。
[0069]
进一步参考图3，其示出了仪表图像识别方法的另一些实施例的流程300。该仪表图像识别方法的流程300，包括以下步骤：
[0070]
步骤301，通过语义提取网络，对仪表图像进行语义提取处理，以生成第一语义特
征、第二语义特征和第三语义特征。
[0071]
在一些实施例中，仪表图像识别方法的执行主体(如图1所示的计算设备101)可以通过上述语义提取网络，对上述仪表图像进行语义提取处理，以生成第一语义特征、第二语义特征和第三语义特征。其中，上述仪表图像识别模型可以包括：语义提取网络、特征采样网络和仪表图像识别网络。另外，上述语义提取网络可以包括第一语义卷积模块、第二语义卷积模块和特征映射模块。由此，可以通过以下步骤生成第一语义特征：
[0072]
第一步，将上述仪表图像输入至上述语义提取网络包括的第一语义卷积模块，以生成第一语义特征。其中，上述第一语义卷积模块可以包括第一卷积层、第一批量归一化层和第一激活层。通过第一卷积层的卷积操作可以提升输入特征的通道数。
[0073]
作为示例，上述第一卷积层的卷积核尺寸可以是1
×
1。
[0074]
第二步，将上述第一语义特征输入至上述语义提取网络包括的第二语义卷积模块，以生成第二语义特征。其中，上述第二语义卷积模块可以包括第二卷积层、第二批量归一化层和第二激活层。另外，上述第二卷积层可以是可分离卷积。通过第二卷积层的卷积操作，可以逐通道的学习第一语义特征的空间特征，以减少计算量。
[0075]
作为示例，上述第二卷积层的卷积核尺寸可以是3
×
3。
[0076]
第三步，将上述第二语义特征输入至上述语义提取网络包括的特征映射模块，以生成第三语义特征。其中，上述特征映射模块可以包括第三卷积层和批量归一化层。由此，可以降低特征的通道数，使输出张量的通道数与输入张量的通道数相等。进而能够在最后使用残差连接的方式，即引入残差结构，减轻深度网络的梯度弥散问题与退化问题。因此，可以提高仪表图像模型的识别准确率。
[0077]
步骤302，通过特征采样网络，对第一语义特征、第二语义特征和第三语义特征进行特征采样处理，以生成第一采样特征、第二采样特征和第三采样特征。
[0078]
在一些实施例中，上述执行主体可以通过上述特征采样网络，对上述第一语义特征、上述第二语义特征和上述第三语义特征进行特征采样处理，以生成第一采样特征、第二采样特征和第三采样特征。其中，首先，可以对上述第一语义特征、上述第二语义特征和上述第三语义特征分别进行上采样，得到第一上采样特征、第二上采样特征和第三上采样特征。然后，可以通过标准的卷积组合进行通道数的平滑操作，将第一上采样特征、第二上采样特征和第三上采样特征合并为融合特征。最后，可以通过卷积组合对融合特征进行特征提取，得到第一采样特征、第二采样特征和第三采样特征。上述标准的卷积组合可以与上述第一语义卷积模块的结构相同。
[0079]
作为示例，第一采样特征的通道数可以为64。第二采样特征的通道数可以是128。第三采样特征的通道数可以是256。
[0080]
步骤303，通过仪表图像识别网络，对第一采样特征、第二采样特征和第三采样特征进行特征映射处理，以生成上述识别信息。
[0081]
在一些实施例中，上述执行主体可以通过上述仪表图像识别网络，对上述第一采样特征、上述第二采样特征和上述第三采样特征进行特征映射处理，以生成上述识别信息。其中，上述仪表图像识别网络可以包括第一头部网络、第二头部网络和第三头部网络。可以通过以下步骤生成上述识别信息：
[0082]
第一步，通过第一头部网络对上述第一采样特征进行特征识别，生成第一识别信
息。上述第一识别信息可以包括至少一个识别框和每个识别框对应的置信度，以及识别框中心坐标和识别框的宽度值。识别框可以是由识别坐标组构成的，用于表征识别到的仪表区域的图像。
[0083]
第二步，通过第二头部网络对上述第二采样特征进行特征识别，生成第二识别信息。上述第二识别信息可以包括至少一个识别框和每个识别框对应的置信度。
[0084]
第三步，通过第三头部网络对上述第三采样特征进行特征识别，生成第三识别信息。其中，上述第三识别信息可以包括至少一个识别框和每个识别框对应的置信度。
[0085]
第四步，从上述第一识别信息、第二识别信息和第三识别信息中选出大于预设的置信度阈值的识别框作为目标识别框，得到目标识别框组。
[0086]
第五步，通过非极大抑制算法，从上述目标识别框组中选出最优目标识别框作为识别边框，以及将上述识别边框对应的识别框中心坐标和识别框的宽度值确定为识别信息。
[0087]
步骤304，从仪表图像中截取出与识别信息包括的识别边框对应的图像区域，得到截取图像。
[0088]
在一些实施例中，步骤304的具体实现方式及所带来的技术效果可以参考图2对应的那些实施例中的步骤202，在此不再赘述。
[0089]
步骤305，基于预设的模板图像信息，对截取图像进行矫正处理，以生成矫正后仪表图像和矫正刻度点坐标集。
[0090]
在一些实施例中，上述执行主体可以基于预设的模板图像信息，对上述截取图像进行矫正处理，以生成矫正后仪表图像和矫正刻度点坐标集。其中，上述模板图像信息可以包括模板图像和对模板图像中目标区域标注的关键点集合。上述目标区域可以是模板图像中的仪表的表盘所在区域。可以通过以下步骤生成矫正后仪表图像和矫正刻度点坐标集：
[0091]
第一步，对上述截取图像进行特征点检测，得到检测特征点集合。其中，可以通过akaze(accelerated
‑
kaze，局部特征匹配算法)对上述截取图像进行特征点检测，得到检测特征点集合。
[0092]
第二步，将上述检测特征点集合中的各个检测特征点和上述关键点集合中的各个关键点进行匹配处理，以生成匹配特征点集合。其中，匹配处理可以是：通过k均值聚类算法对上述检测特征点集合中的各个检测特征点和上述关键点集合中的各个关键点进行聚类，以生成聚类特征点组集合。然后，可以去除聚类特征点组中与聚类中心之间距离值大于预设距离阈值的聚类特征点以生成取出后聚类特征点，得到去除后聚类特征点集合。最后，可以将去除后聚类特征点组集合确定为匹配特征点集合。
[0093]
第三步，基于上述模板图像，生成单应性矩阵。其中，可以通过随机抽样一致性算法，对上述模板图像进行抽样以生成单应性矩阵。
[0094]
第四步，利用上述单应性矩阵，对上述截取图像进行矫正处理，以生成矫正后仪表图像和矫正刻度点坐标集。其中，可以通过上述单应性矩阵，对上述截取图像进行透视变换，得到矫正后仪表图像。由于对截取图像进行了透视变换，因此截取图像中特征点的位置也随之变化。从而，还可以利用上述单应性矩阵，对上述匹配特征点集合中的匹配特征点进行坐标转换，得到矫正刻度点坐标集。通过矫正处理，可以消除表盘倾斜、旋转等操作产生的图像特征误差对后续步骤的影响。
[0095]
步骤306，通过预设的指针识别模型对矫正后仪表图像进行指针识别，得到指针识别信息。
[0096]
在一些实施例中，上述执行主体可以通过预设的指针识别模型对上述矫正后仪表图像进行指针识别，得到指针识别信息。其中，可以将轻量级语义分割网络(bilateral network)的骨干网络部分替换为上述语义提取网络。由此，可以得到上述指针识别模型的网络结构。上述指针识别信息可以包括识别后特征图。该识别后特征图中指针所在区域的像素点可以标记为1，其它区域可以是0。
[0097]
步骤307，基于矫正后仪表图像、矫正刻度点坐标集、指针识别信息与识别信息包括的识别边框中心坐标和识别边框的宽度值，生成仪表图像识别结果。
[0098]
在一些实施例中，上述执行主体可以基于上述矫正后仪表图像、上述矫正刻度点坐标集、上述指针识别信息与上述识别信息包括的识别边框中心坐标和识别边框的宽度值，生成仪表图像识别结果。其中，上述仪表图像识别结果可以包括仪表图像指针刻度值。可以通过以下步骤生成仪表图像识别结果：
[0099]
第一步，对上述矫正刻度点坐标集中的各个矫正刻度点坐标进行弧线拟合，以生成弧线方程和弧线中心点坐标。其中，可以通过曲线拟合法，对上述矫正刻度点坐标集中的各个矫正刻度点坐标进行弧线拟合，以生成弧线方程和弧线中心点坐标。
[0100]
第二步，基于上述指针识别信息，对上述矫正后仪表图像进行二值化处理，得到二值化仪表图像。其中，上述识别后特征图中指针所在区域的像素点可以标记为1，其它区域可以是0。因此，对上述矫正后仪表图像进行二值化处理，得到的二值化仪表图像可以明显的识别出表征指针的图像区域。
[0101]
第三步，基于上述二值化仪表图像、上述弧线中心点坐标与上述识别信息包括的识别边框中心坐标和识别边框的宽度值，生成指针拟合直线方程。其中，若上述识别边框的宽度值大于预设宽度阈值，则可以利用边缘检测算法，确定上述二值化仪表图像中指针区域的最小外接三角形。最后，可以将上述外接三角形的顶点与上述识别边框中心坐标的连线确定为指针拟合直线方程。若上述识别边框的宽度值小于等于预设宽度阈值，则可以通过上述公式及其相关内容生成指针拟合直线方程，进而可以生成仪表图像识别结果。
[0102]
第四步，基于上述指针拟合直线方程、上述弧线方程和上述矫正刻度点坐标集，生成仪表图像识别结果。其中，首选，可以确定上述指针拟合直线方程与上述弧线方程的交点坐标。然后，可以将上述矫正刻度点坐标集中与上述交点坐标距离最近的矫正刻度点坐标确定为第一交点刻度坐标。之后，可以将除上述第一交点刻度坐标之外，上述矫正刻度点坐标集中与上述交点坐标距离最近的矫正刻度点坐标确定为第二交点刻度坐标。接着，可以将与上述第一交点刻度坐标对应的刻度值为第一交点刻度值。将与上述第二交点刻度坐标对应的刻度值为第二交点刻度值。而后，可以确定上述交点坐标与上述第一交点刻度坐标之间的弧线长度，得到第一交点弧长。确定上述交点坐标与上述第二交点刻度坐标之间的弧线长度，得到第二交点弧长。最后，可以通过以下公式生成仪表图像识别结果：
[0103]
[0104]
其中，k表示仪表图像识别结果。l1表示上述第一交点弧长。l2表示上述第二交点弧长。a1表示上述第一交点刻度值。a2表示上述第二交点刻度值。
[0105]
从图3中可以看出，与图2对应的一些实施例的描述相比，图3对应的一些实施例中的仪表图像识别方法的流程300体现了生成识别信息、矫正后仪表图像、矫正刻度点坐标集以及仪表图像识别结果的步骤。通过引入仪表图像识别模型、指针识别模型和预设的模板图像信息，可以利用少量的模板图像对仪表图像识别模型和指针识别模型进行模型训练以及仪表图像识别。从而，避免了采集全部量程的指针状态图片。也因为引入了指针识别模型以及生成仪表图像识别结果的相关内容，可以避免对拍摄的自然场景图像的高质量要求，提高了对存在表盘污损、反光、阴影等场景的仪表图像的识别能力。从而，提高了仪表图像识别模型的鲁棒性。进而，提高仪表图像识别的效率。此外，图2与图3对应的一个或多个实施例所涉及的神经网络算法，都以针对移动端算力设计的可分离卷积与反向残差模块为基础，进行了轻量化的结构改进。由此，可以用于智能眼镜等低算力的便携式移动设备。
[0106]
进一步参考图4，作为对上述各图所示方法的实现，本公开提供了一种仪表图像识别装置的一些实施例，这些装置实施例与图2所示的那些方法实施例相对应，该装置具体可以应用于各种电子设备中。
[0107]
如图4所示，一些实施例的仪表图像识别装置400包括：图像识别单元401、图像截取单元402、矫正处理单元403、指针识别单元404和生成单元405。其中，图像识别单元401，被配置成通过预设的仪表图像识别模型对预获取的仪表图像进行图像识别，以生成识别信息，其中，上述识别信息包括识别边框、识别边框中心坐标和识别边框的宽度值，上述识别边框由边框坐标组构成；图像截取单元402，被配置成从上述仪表图像中截取出与上述识别信息包括的识别边框对应的图像区域，得到截取图像；矫正处理单元403，被配置成基于预设的模板图像信息，对上述截取图像进行矫正处理，以生成矫正后仪表图像和矫正刻度点坐标集；指针识别单元404，被配置成通过预设的指针识别模型对上述矫正后仪表图像进行指针识别，得到指针识别信息；生成单元405，被配置成基于上述矫正后仪表图像、上述矫正刻度点坐标集、上述指针识别信息与上述识别信息包括的识别边框中心坐标和识别边框的宽度值，生成仪表图像识别结果，其中，上述仪表图像识别结果包括仪表图像指针刻度值。
[0108]
可以理解的是，该装置400中记载的诸单元与参考图2描述的方法中的各个步骤相对应。由此，上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置400及其中包含的单元，在此不再赘述。
[0109]
下面参考图5，其示出了适于用来实现本公开的一些实施例的电子设备(例如图1中的计算设备101)500的结构示意图。图5示出的电子设备仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。
[0110]
如图5所示，电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501，其可以根据存储在只读存储器(rom)502中的程序或者从存储装置508加载到随机访问存储器(ram)503中的程序而执行各种适当的动作和处理。在ram 503中，还存储有电子设备500操作所需的各种程序和数据。处理装置501、rom 502以及ram 503通过总线504彼此相连。输入/输出(i/o)接口505也连接至总线504。
[0111]
通常，以下装置可以连接至i/o接口505：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506；包括例如液晶显示器(lcd)、扬声器、振
动器等的输出装置507；包括例如磁带、硬盘等的存储装置508；以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备500，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图5中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。
[0112]
特别地，根据本公开的一些实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的一些实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中，该计算机程序可以通过通信装置509从网络上被下载和安装，或者从存储装置508被安装，或者从rom 502被安装。在该计算机程序被处理装置501执行时，执行本公开的一些实施例的方法中限定的上述功能。
[0113]
需要说明的是，本公开的一些实施例上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd
‑
rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、rf(射频)等等，或者上述的任意合适的组合。
[0114]
在一些实施方式中，客户端、服务器可以利用诸如http(hypertext transfer protocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“lan”)，广域网(“wan”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
[0115]
上述计算机可读介质可以是上述装置中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：通过预设的仪表图像识别模型对预获取的仪表图像进行图像识别，以生成识别信息，其中，上述识别信息包括识别边框、识别边框中心坐标和识别边框的宽度值，上述识别边框由边框坐标组构成；从上述仪表图像中截取出与上述识别信息包括的识别边框对应的图像区域，得到截取图像；基于预设的模板图像信息，对上述截取图像进行矫正处理，以生成矫正后仪表图像和矫正刻度点坐标集；通过预设的指针识别模型对上述矫正后仪表图像进行指针识别，得到指针识别信息；基于上述矫正后仪
表图像、上述矫正刻度点坐标集、上述指针识别信息与上述识别信息包括的识别边框中心坐标和识别边框的宽度值，生成仪表图像识别结果，其中，上述仪表图像识别结果包括仪表图像指针刻度值。
[0116]
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c ，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
[0117]
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
[0118]
描述于本公开的一些实施例中的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括图像识别单元、图像截取单元、矫正处理单元、指针识别单元和生成单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，生成单元还可以被描述为“生成仪表图像识别结果的单元”。
[0119]
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、片上系统(soc)、复杂可编程逻辑设备(cpld)等等。
[0120]
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开的实施例中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。