模型的训练方法、装置、设备、存储介质以及检测方法与流程

1.本公开涉及人工智能领域，具体涉及计算机视觉和深度学习领域，可应用于智能机器人和自动驾驶场景下。


背景技术：

2.针对单目图像的3d检测，主要依赖于3d目标包围框的先验信息，提前遍历数据集生成3d候选框，然后利用图像检测模型处理输入的单目图像输出3d偏移量，结合3d候选框和3d偏移量得到物体的真实3d包围框，实现对单目图像的3d检测任务。
3.针对图像检测模型的训练过程，相关技术中通常需要利用人工标注好的标签数据对图像检测模型进行有监督学习，但由于人工标注的工作量大且标注周期较长，导致图像检测模型的定位精度受限于人工标注样本的数据量以及标注精度。


技术实现要素：

4.本公开提供了一种模型训练的方法、装置、设备、存储介质以及检测方法。
5.根据本公开的一方面，提供了一种模型的训练方法，包括：
6.利用第一有监督数据对待训练的初始模型进行第一阶段训练，得到预选检测模型；
7.利用第二有监督数据以及无监督数据对预选检测模型进行第二阶段训练，得到目标检测模型；
8.其中，目标检测模型用于根据输入的待检测图像，输出待检测图像中的3d物体信息。
9.根据本公开的另一方面，提供了一种图像的检测方法，包括：
10.将待检测图像输入目标检测模型；
11.从目标检测模型接收待检测图像中的3d物体信息；
12.其中，目标检测模型采用根据本公开上述实施例的模型训练方法得到。
13.根据本公开的另一方面，提供了一种模型的训练装置，包括：
14.第一阶段训练模块，用于利用第一有监督数据对待训练的初始模型进行第一阶段训练，得到预选检测模型；
15.第二阶段训练模块，用于利用第二有监督数据以及无监督数据对预选检测模型进行第二阶段训练，得到目标检测模型；
16.其中，目标检测模型用于根据输入的待检测图像，输出待检测图像中的3d物体信息。
17.根据本公开的另一方面，提供了一种图像的检测装置，包括：
18.输入模块，用于将待检测图像输入目标检测模型；
19.接收模块，用于从目标检测模型接收待检测图像中的3d物体信息；
20.其中，目标检测模型是根据本公开上述实施例的模型训练装置得到的。
21.根据本公开的另一方面，提供了一种电子设备，包括：
22.至少一个处理器；以及
23.与该至少一个处理器通信连接的存储器；其中，
24.该存储器存储有可被该至少一个处理器执行的指令，该指令被该至少一个处理器执行，以使该至少一个处理器能够执行本公开任一实施例中的方法。
25.根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行本公开任一实施例中的方法。
26.根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现本公开任一实施例中的方法。
27.根据本公开实施例的模型的训练方法，可以训练得到具有较高检测精度和泛化性的目标检测模型，并且，通过利用无监督数据对预选检测模型进行训练，降低了第一有监督数据和第二有监督数据的数据量，减少了人工标注的人力成本和时间成本，提高了模型的训练效率。
28.应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
29.附图用于更好地理解本方案，不构成对本公开的限定。其中：
30.图1是根据本公开实施例的模型的训练方法的流程图；
31.图2是根据本公开实施例的模型的训练方法的进行第二阶段训练的具体流程图；
32.图3是根据本公开实施例的模型的训练方法的进行数据预处理的具体流程图；
33.图4是根据本公开实施例的模型的训练方法的进行自监督训练的具体流程图；
34.图5是根据本公开实施例的模型的训练方法的进行自监督训练的具体流程图；
35.图6是根据本公开实施例的模型的训练方法的进行第二阶段训练的具体流程图；
36.图7是根据本公开实施例的图像的检测方法的流程图；
37.图8是根据本公开实施例的模型的训练装置的框图；
38.图9是根据本公开实施例的图像的检测装置的框图；
39.图10是用来实现本公开实施例的模型的训练方法和/或图像的检测方法的电子设备的框图。
具体实施方式
40.以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
41.下面参照图1至图6描述根据本公开实施例的目标检测模型的训练方法。
42.如图1所示，本公开实施例的目标检测模型的训练方法具体包括以下步骤：
43.s101：利用第一有监督数据对待训练的初始模型进行第一阶段训练，得到预选检测模型；
44.s102：利用第二有监督数据以及无监督数据对预选检测模型进行第二阶段训练，得到目标检测模型；
45.其中，目标检测模型用于根据输入的待检测图像，输出待检测图像中的3d物体信息。
46.示例性地，第一有监督数据和第二有监督数据可以为针对样本图像经过人工标注或机器标注后的数据，具体可以包括样本图像以及样本图像中的目标物的真实3d物体信息。其中，真实3d物体信息可以包括目标物的分类信息、位置信息、尺寸信息以及角度信息等。无监督数据可以为未经人工标注的样本图像。
47.更为具体地，在目标检测模型为针对单目视觉图像的3d物体检测的应用场景中，样本图像可以为利用单目视觉传感器所采集到的单目视觉图像。
48.需要说明的是，在第一阶段训练中所使用的第一有监督数据以及在第二阶段训练中所使用的第二有监督数据可以为相同的数据，也可以为不同的数据。
49.示例性地，在步骤s101中，第一阶段训练可以为有监督训练。
50.在一个具体示例中，利用第一有监督数据对待训练的初始模型进行有监督训练，具体可以包括以下步骤：
51.将第一有监督数据输入待训练的初始模型，得到第一有监督数据对应的初始检测结果。确定第一有监督数据对应的标注信息与初始检测结果之间的差异，并根据上述差异对待训练的初始模型的模型参数进行调整，经过多轮迭代，直至得到满足预设收敛条件的预选检测模型。初始检测结果与标注信息之间的差异，可以理解为初始模型的输出误差，具体可以通过预先构建的第一损失函数确定。其中，第一损失函数是以模型参数为自变量的函数。
52.根据初始检测结果与标注信息之间的差异对初始模型的模型参数的调整，上述误差在待训练的初始模型中的每一层进行反向传播，待训练的初始模型中的每一层的参数会根据上述误差进行调整，直至待训练的初始模型的输出结果收敛或达到预期效果，以得到预选检测模型。
53.可以理解的是，经过第一阶段训练后得到的预选检测模型仅为粗糙模型，虽然预训练检测模型针对输入的待检测图像具备一定的3d物体信息检测能力，但检测精度以及泛化性无法满足最终的目标检测模型的检测需求，因此还需对预选检测模型进行第二阶段训练，以提高预选检测模型的检测精度和泛化性。
54.示例性地，在步骤s102中，针对预选检测模型的第二阶段训练，可以既包括有监督训练又包括自监督训练。具体而言，可以利用第二有监督数据对预选检测模型进行有监督训练，以及利用无监督数据对预选检测模型进行自监督训练。
55.可以理解的是，在第二阶段训练的过程中，可以先进行有监督训练后进行自监督训练，也可以先进行自监督训练后进行有监督训练，或者有监督训练和自监督训练交替进行。
56.在一个具体的应用示例中，本公开实施例的模型的训练方法可以应用于智能机器人或者自动驾驶等涉及3d物体检测的场景中。
57.例如，在自动驾驶场景中，利用自动驾驶车辆的单目视觉传感器采集到目标区域的单目视觉图像，将单目视觉图像输入经过本公开实施例的模型的训练方法训练得到的目
标检测模型，可以得到单目视觉图像中例如车辆、行人、道路标识等目标物的3d物体信息，基于上述目标物的3d物体信息，实现自动驾驶车辆的自动驾功能。
58.根据本公开实施例的模型的训练方法，通过利用第一有监督数据对待训练的初始模型进行有监督训练，得到预选检测模型，以及利用第二有监督数据和无监督数据对预选检测模型分别进行有监督训练和自监督训练，可以利用自监督机制对无监督数据中的信息进行挖掘，以提高预选检测模型的检测精度和泛化性，得到符合预设条件的目标检测模型。并且，通过利用无监督数据对预选检测模型进行训练，降低了第一有监督数据和第二有监督数据的数据量，减少了人工标注的人力成本和时间成本，提高了模型的训练效率。
59.如图2所示，在一种实施方式中，步骤s102包括：
60.s201：对无监督数据进行预处理，得到第一增强数据和第二增强数据；
61.s202：将第一增强数据和第二增强数据分别输入预选检测模型，得到第一无监督检测结果和第二无监督检测结果，其中，第一无监督检测结果的置信度大于第二无监督检测结果的置信度；
62.s203：根据第一无监督检测结果和第二无监督检测结果之间的差异，对预选检测模型进行自监督训练。
63.示例性地，在步骤s201中，可以对无监督数据分别进行不同程度的数据增强处理，以得到第一增强数据和第二增强数据。其中，第一增强数据和第二增强数据的增强程度不同，且第一增强数据的增强程度大于第二增强数据的增强程度；相应地，预选检测模型对第一增强数据进行检测得到的检测结果与对第二增强数据进行检测得到的检测结果的置信度不同，即第一增强数据对应的第一无监督检测结果的置信度大于第二增强数据对应的第二无监督检测结果的置信度。
64.可以理解的是，对于无监督数据的预处理，可以理解为是对无监督数据的干扰处理，即增加预选检测模型对于输入数据的检测难度，从而不断强化预选检测模型的检测能力和泛化性。
65.示例性地，在步骤s203中，可以利用预先构建的第二损失函数，计算第一无监督检测结果和第二无监督检测结果之间的差异，并根据上述差异对预选检测模型的模型参数进行调整。
66.可以理解的是，在自监督训练过程中，由于第一无监督检测结果的置信度大于第二无监督检测结果的置信度，因而可以将第一无监督检测结果作为无监督数据的伪标注信息，对预选检测模型对第二增强数据的检测过程进行有监督训练。
67.根据上述实施方式，通过对无监督数据进行不同增强程度的预处理，以得到检测结果置信度不同的第一无监督检测结果和第二无监督检测结果，并利用第一无监督检测结果和第二无监督检测结果的差异对预选检测模型进行自监督训练，由此，可以实现对无监督数据中的可学习部分的充分挖掘，进一步增强预选检测模型的泛化能力和检测能力，并且大大节省了有监督数据的使用，降低了人工标注的人力成本和时间成本。
68.如图3所示，在一种实施方式中，步骤s201包括：
69.s301：对无监督数据进行第一增强处理，得到第一增强数据，第一增强处理包括光照变化处理和/或颜色变化处理；以及，
70.s302：对无监督数据进行第二增强处理，得到第二增强数据，第二增强处理包括伸
缩处理、裁剪处理、平移处理和随机遮挡处理中的至少一种。
71.可以理解的是，在步骤s301中，第一增强处理可以是对无监督数据包含的样本图像的原始信息进行弱干扰的处理，即不影响样本图像的分辨率和原始比例的处理。例如，可以是对无监督数据包含的样本图像的光照强度进行变化处理，得到与样本图像的光照强度不同的图像数据；和/或，对无监督数据的rgb(red green blue，红绿蓝)颜色空间中的rgb分量的值进行变化，得到与样本图像的rgb颜色值不同的图像数据。
72.在步骤s302中，第二增强处理可以是对无监督数据包含的样本图像的原始信息进行强干扰的处理，即影响样本图像的分辨率和原始比例的处理。例如，可以是对无监督数据包含的样本图像的分辨率、尺寸、位置以及局部遮挡等干扰处理。
73.通过上述实施方式，可以得到增强程度不同的第一增强数据和第二增强数据，以使预选检测模型针对相同的无监督数据可以输出置信度不同的第一无监督检测结果和第二无监督检测结果。
74.如图4所示，在一种实施方式中，第一无监督检测结果包括第一预测框以及第一预测框对应的预测框置信度和分类置信度，步骤s203包括：
75.s401：根据预测框置信度和分类置信度，计算第一预测框的综合置信度；
76.s402：从多个第一预测框中选取综合置信度符合预设条件的第一预测框作为伪标签；
77.s403：根据伪标签，将第二增强数据输入预选检测模型并对预选检测模型进行自监督训练。
78.其中，预测框置信度用于表征预选检测模型输出的预测框的准确度，分类置信度用于表征预选检测模型输出的关于预测框的分类结果的准确度。
79.示例性地，预测框置信度和分类置信度可以通过预选检测模型的预测框置信度分支网络以及分类置信度分支网络分别得到。
80.预测框置信度分支网络可以通过在第一阶段训练过程中，根据初始网络生成的第一有监督数据的初始预测框和第一有监督数据包含的目标物的真实框之间的差异，对预测框置信度网络进行训练，以得到满足预设条件的预测框置信度分支网络。
81.更为具体地，预测框置信度分支网络可以通过计算初始预测框和真实框之间的交集与并集的比值，得到初始网络输出的初始预测框的置信度。
82.分类置信度分支网络可以通过在第一阶段训练过程中，根据预选检测模型输出的关于预测框中目标物的分类结果和真实分类信息之间的差异，对分类置信度分支网络进行训练，以得到符合预设条件的分类置信度分支网络。
83.示例性地，在步骤s401中，综合置信度可以通过计算预测框置信度和分类置信度的乘积或和得到。
84.在步骤s402中，可以选取综合置信度大于或等于置信度阈值的第一预测框作为伪标签。
85.可以理解的是，步骤s402可以理解为对第一预测框的过滤，以从多个第一预测框中筛选出符合预设条件的第一预测框作为伪标签，即选取检测结果较为精准以及置信度较高的第一预测框作为伪标签，并将不符合置信度条件的第一预测框进行过滤。
86.在步骤s403中，可以利用伪标签对第二预测框进行自监督训练，即根据预选检测
模型对第二增强数据的第二无监督检测结果，利用伪标签与第二无监督检测结果之间的差异，对预选检测模型进行训练。
87.通过上述实施方式，可以实现对第一预测框的过滤，并从中选取综合置信度较高的伪标签，对预选检测模型进行自监督训练，使预选检测模型针对第二增强数据输出的第二预测框不断趋近于伪标签，从而不断提高预选检测模型针对干扰强度较大的图像数据的检测精度和泛化性。
88.如图5所示，在一种实施方式中，步骤s403包括：
89.s501：将第二增强数据输入预选检测模型，得到第二无监督检测结果；
90.s502：根据伪标签与第二无监督检测结果之间的差异，调整预选检测模型的模型参数。
91.示例性地，伪标签与第二无监督检测结果之间的差异，可以通过计算第二无监督检测结果与伪标签之间的交并比进行确定。可以理解的是，交并比可以通过计算第二无监督检测结果与伪标签的交集与并集，然后计算交集与并集之间的比值得到，即交并比用于表征二者之间的重叠度。
92.其中，交并比越大，则第二无监督检测结果与伪标签之间的重叠度越高，二者之间的差异越小；交并比越小，则第二无监督检测结果与伪标签之间的重叠度越低，二者之间的差异越大。
93.示例性地，二者之间的差异可以通过预先设置的第二损失函数进行计算。并且，可以根据第二损失函数，对预选检测模型的模型参数进行调整。
94.通过上述实施方式，实现了利用伪标签对预选检测模型进行自监督训练，并且根据伪标签与第二无监督检测结果之间的差异对预选检测模型的参数进行调整，可以使预选检测模型输出的检测结果不断逼近伪标签，直至预选检测模型符合预设的收敛条件，得到目标检测模型。
95.如图6所示，在一种实施方式中，步骤s102包括：
96.s601：将第二有监督数据输入预选检测模型，得到有监督检测结果；
97.s602：根据有监督检测结果和第二有监督数据对应的标注信息之间的差异，调整预选检测模型的模型参数。
98.示例性地，在第二阶段训练的有监督训练过程中，可以利用预先构建的第三损失函数计算第二有监督数据对应的有监督检测结果与标注信息之间的差异，并根据差异调整预选检测模型的模型参数，直至预选检测模型达到预设的收敛条件。
99.其中，第二阶段训练过程中的有监督训练的收敛条件相比于第一阶段训练过程中的有监督训练的收敛条件可以更为严格，以使经过第二阶段训练的有监督训练后的模型的检测精度更高。
100.可以理解的是，第二阶段训练过程中所采用的第二有监督数据，可以与第一阶段训练中采用的第一有监督数据相同也可以不同。
101.通过上述实施方式，可以在第二阶段训练过程中，利用第二有监督数据对预选检测模型进行正则化训练，从而进一步提高预选检测模型的检测精度。
102.根据本公开的实施例，本公开还提供了一种图像的检测方法。
103.如图7所示，本公开实施例的图像的检测方法包括：
104.s701：将待检测图像输入目标检测模型；
105.s702：从目标检测模型接收待检测图像中的3d物体信息；其中，目标检测模型采用根据本公开上述实施例的模型训练方法得到。
106.示例性地，本公开实施例的图像的检测方法可以应用于智能机器人或自动驾驶技术领域，用于对目标区域的待检测图像进行3d物体检测。
107.更为具体地，本公开实施例的待检测图像可以为利用单目视觉传感器采集到的单目视觉图像，目标检测模型可以用于对单目视觉图像中的3d物体进行检测。
108.根据本公开实施例的图像的检测方法，通过利用根据本公开上述实施例的模型的训练方法训练得到的目标检测模型，可以实现对图像中包含的3d物体信息的高精度检测，且目标检测模型具有较高的泛化性，可以应用于智能机器人、自动驾驶等诸多场景，适用范围较广。
109.在一种实施方式中，3d物体信息包括分类信息、位置信息、尺寸信息以及角度信息中的至少一项。
110.在一个具体示例中，目标检测模型包括特征提取层、2d头部检测网络和3d头部检测网络。其中，2d头部检测网络用于根据特征提取层提取到的高层语义特征，输出待检测图像中目标物的预测框以及与预测框相关的分类信息和位置信息；3d头部检测网络用于根据特征提取层提取到的高层语义特征，输出与预测框相关的尺寸信息和角度信息。
111.通过上述实施方式，可以输出关于图像中的目标物的多维化信息，针对图像中的3d物体可以有效地提升定位精度。
112.根据本公开的实施例，本公开还提供了一种模型的训练装置。
113.如图8所示，该模型的训练装置包括：
114.第一阶段训练模块801，用于利用第一有监督数据对待训练的初始模型进行第一阶段训练，得到预选检测模型；
115.第二阶段训练模块802，用于利用第二有监督数据以及无监督数据对预选检测模型进行第二阶段训练，得到目标检测模型；
116.其中，目标检测模型用于根据输入的待检测图像，输出待检测图像中的3d物体信息。
117.在一种实施方式中，第二阶段训练模块802包括：
118.预处理模块，用于对无监督数据进行预处理，得到第一增强数据和第二增强数据；
119.检测结果获取模块，用于将第一增强数据和第二增强数据分别输入预选检测模型，得到第一无监督检测结果和第二无监督检测结果，其中，第一无监督检测结果的置信度大于第二无监督检测结果的置信度；
120.训练模块，用于根据第一无监督检测结果和第二无监督检测结果之间的差异，对预选检测模型进行自监督训练。
121.在一种实施方式中，预处理模块包括：
122.第一预处理单元，用于对无监督数据进行第一增强处理，得到第一增强数据，第一增强处理包括光照变化处理和/或颜色变化处理；以及，
123.第二预处理单元，用于对无监督数据进行第二增强处理，得到第二增强数据，第二增强处理包括伸缩处理、裁剪处理、平移处理和随机遮挡处理中的至少一种。
124.在一种实施方式中，第一无监督检测结果包括第一预测框以及第一预测框对应的预测框置信度和分类置信度；
125.训练模块包括：
126.综合置信度计算子模块，用于根据预测框置信度和分类置信度，计算第一预测框的综合置信度；
127.伪标签选取子模块，用于从多个第一预测框中选取综合置信度符合预设条件的第一预测框作为伪标签；
128.自监督训练子模块，用于根据伪标签，将第二增强数据输入预选检测模型并对预选检测模型进行自监督训练。
129.在一种实施方式中，自监督训练子模块包括：
130.第二无监督检测结果获取单元，用于将第二增强数据输入预选检测模型，得到第二无监督检测结果；
131.参数调整单元，用于根据伪标签与第二无监督检测结果之间的差异，调整预选检测模型的模型参数。
132.在一种实施方式中，第二阶段训练模块802包括：
133.有监督检测结果获取子模块，用于将第二有监督数据输入预选检测模型，得到有监督检测结果；
134.模型参数调整子模块，用于根据有监督检测结果和第二有监督数据对应的标注信息之间的差异，调整预选检测模型的模型参数。
135.根据本公开的实施例，本公开还提供了一种图像的检测装置。
136.如图9所示，根据本公开实施例的图像的检测装置包括：
137.输入模块901，用于将待检测图像输入目标检测模型；
138.接收模块902，用于从目标检测模型接收待检测图像中的3d物体信息；
139.其中，目标检测模型是根据本公开上述实施例的模型的训练装置得到的。
140.在一种实施方式中，3d物体信息包括分类信息、位置信息、尺寸信息以及角度信息中的至少一项。
141.本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
142.根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
143.图10示出了可以用来实施本公开的实施例的示例电子设备1000的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
144.如图10所示，设备1000包括计算单元1001，其可以根据存储在只读存储器(rom)1002中的计算机程序或者从存储单元1008加载到随机访问存储器(ram)1003中的计算机程序，来执行各种适当的动作和处理。在ram 1003中，还可存储设备1000操作所需的各种程序
和数据。计算单元1001、rom 1002以及ram 1003通过总线1004彼此相连。输入/输出(i/o)接口1005也连接至总线1004。
145.设备1000中的多个部件连接至i/o接口1005，包括：输入单元1006，例如键盘、鼠标等；输出单元1007，例如各种类型的显示器、扬声器等；存储单元1008，例如磁盘、光盘等；以及通信单元1009，例如网卡、调制解调器、无线通信收发机等。通信单元1009允许设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
146.计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理，例如模型的训练方法和/或图像的检测方法。例如，在一些实施例中，模型的训练方法和/或图像的检测方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元1008。在一些实施例中，计算机程序的部分或者全部可以经由rom 1002和/或通信单元1009而被载入和/或安装到设备1000上。当计算机程序加载到ram 1003并由计算单元1001执行时，可以执行上文描述的模型的训练方法和/或图像的检测方法的一个或多个步骤。备选地，在其他实施例中，计算单元1001可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行模型的训练方法和/或图像的检测方法。
147.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
148.用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
149.在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
150.为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机
具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
151.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)和互联网。
152.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
153.应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
154.上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。