基于用户界面的控制方法、系统和电子设备与流程

1.本发明涉及用户界面控制的领域，且更为具体地，涉及一种基于用户界面的控制方法、系统和电子设备。


背景技术：

2.测试软件是大规模应用在生产线上面，能够实现产品自动化生产的软件。相比其他软件，测试软件有一个显著的特征：针对不同的产品需要配置不同类型的技术参数。
3.这些技术参数的配置是产品生产过程中十分重要的环节，当技术参数的配置不当时，生产出的产品就会批量化地出现问题，从而导致产品整体的合格率较低，这样也就会增加生产成本，造成经济损失。
4.因此，为了更准确地根据产品描述来进行技术参数的配置，以生成用户界面，期待一种基于用户界面的控制方法。


技术实现要素：

5.为了解决上述技术问题，提出了本技术。本技术的实施例提供了一种基于用户界面的控制方法、系统和电子设备，其通过包含嵌入层的转换器模型来从产品描述中得到与所述产品描述对应的特征向量的序列，然后通过条件随机场对所述特征向量的序列进行标注，以得到每个所述特征向量的标签类别，进一步再通过密集预测模型架构，以对由所述转换器生成的所述特征向量的集合进行重组和融合，并将其输入生成器模型中以生成所需的用户界面。这样，可以更加准确地根据所述产品描述来进行技术参数的配置，从而提高产品的合格率。
6.根据本技术的一个方面，提供了一种基于用户界面的控制方法，其包括：
7.获取待测试产品的产品描述；
8.对所述产品描述进行分词并将分词后的每一个词输入包含嵌入层的转换器模型以获得与所述产品描述对应的词特征向量的序列；
9.通过条件随机场对所述词特征向量的序列中的每个词特征向量进行标注以获得每个所述词特征向量对应的标签类别，其中，所述标签类别为功能组件；
10.将各个所述标签类别通过编码器以获得与各个所述标签类别对应的一个或多个特征向量；
11.将与各个所述标签类别对应的一个或多个特征向量进行二维拼接以获得第一特征矩阵至第n特征矩阵，n为类别标签的数量，其中，第一特征矩阵至第n特征矩阵中各个特征矩阵中的特征值用于表示功能组件的功能特征，各个特征矩阵的尺度用于表示功能组件在用户界面中的重要程度；
12.将所述第一特征矩阵至所述第n特征矩阵进行三维拼接为特征图；
13.将所述特征图投影到二维平面上以获得投影矩阵；以及
14.将所述投影矩阵输入基于卷积神经网络的生成器模型以生成与所述待测试产品
相适配的用户界面，其中，所述生成器模型的基于密集预测模型架构，所述生成器模型的各层对使用不同卷积核进行卷积运算得到的特征图进行拼接和上采样。
15.根据本技术的另一方面，提供了一种基于用户界面的控制系统，其包括：
16.产品描述获取单元，用于获取待测试产品的产品描述；
17.词特征向量生成单元，用于对所述产品描述获取单元获得的所述产品描述进行分词并将分词后的每一个词输入包含嵌入层的转换器模型以获得与所述产品描述对应的词特征向量的序列；
18.标签类别生成单元，用于通过条件随机场对所述词特征向量生成单元获得的所述词特征向量的序列中的每个词特征向量进行标注以获得每个所述词特征向量对应的标签类别，其中，所述标签类别为功能组件；
19.编码单元，用于将各个所述标签类别生成单元获得的所述标签类别通过编码器以获得与各个所述标签类别对应的一个或多个特征向量；
20.二维拼接单元，用于将所述编码单元获得的所述与各个所述标签类别对应的一个或多个特征向量进行二维拼接以获得第一特征矩阵至第n特征矩阵，n为类别标签的数量，其中，第一特征矩阵至第n特征矩阵中各个特征矩阵中的特征值用于表示功能组件的功能特征，各个特征矩阵的尺度用于表示功能组件在用户界面中的重要程度；
21.三维拼接单元，用于将所述二维拼接单元获得的所述第一特征矩阵至所述第n特征矩阵进行三维拼接为特征图；
22.投影单元，用于将所述三维拼接单元获得的所述特征图投影到二维平面上以获得投影矩阵；以及
23.结果生成单元，用于将所述投影单元获得的所述投影矩阵输入基于卷积神经网络的生成器模型以生成与所述待测试产品相适配的用户界面，其中，所述生成器模型的基于密集预测模型架构，所述生成器模型的各层对使用不同卷积核进行卷积运算得到的特征图进行拼接和上采样。
24.根据本技术的又一方面，提供了一种电子设备，包括：处理器；以及，存储器，在所述存储器中存储有计算机程序指令，所述计算机程序指令在被所述处理器运行时使得所述处理器执行如上所述的基于用户界面的控制方法。
25.根据本技术的再又一方面，提供了一种计算机可读介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行如上所述的基于用户界面的控制方法。
26.与现有技术相比，本技术提供的基于用户界面的控制方法、系统和电子设备，其通过包含嵌入层的转换器模型来从产品描述中得到与所述产品描述对应的特征向量的序列，然后通过条件随机场对所述特征向量的序列进行标注，以得到每个所述特征向量的标签类别，进一步再通过密集预测模型架构，以对由所述转换器生成的所述特征向量的集合进行重组和融合，并将其输入生成器模型中以生成所需的用户界面。这样，可以更加准确地根据所述产品描述来进行技术参数的配置，从而提高产品的合格率。
附图说明
27.通过结合附图对本技术实施例进行更详细的描述，本技术的上述以及其他目的、
特征和优势将变得更加明显。附图用来提供对本技术实施例的进一步理解，并且构成说明书的一部分，与本技术实施例一起用于解释本技术，并不构成对本技术的限制。在附图中，相同的参考标号通常代表相同部件或步骤。
28.图1为根据本技术实施例的基于用户界面的控制方法的流程图；
29.图2为根据本技术实施例的基于用户界面的控制方法的系统架构示意图；
30.图3为根据本技术实施例的基于用户界面的控制系统的框图；
31.图4为根据本技术实施例的电子设备的框图。
具体实施方式
32.下面，将参考附图详细地描述根据本技术的示例实施例。显然，所描述的实施例仅仅是本技术的一部分实施例，而不是本技术的全部实施例，应理解，本技术不受这里描述的示例实施例的限制。
33.场景概述
34.如前所述，测试软件是大规模应用在生产线上面，能够实现产品自动化生产的软件。相比其他软件，测试软件有一个显著的特征：针对不同的产品需要配置不同类型的技术参数。
35.这些技术参数的配置是产品生产过程中十分重要的环节，当技术参数的配置不当时，生产出的产品就会批量化地出现问题，从而导致产品整体的合格率较低，这样也就会增加生产成本，造成经济损失。
36.因此，为了更准确地根据产品描述来进行技术参数的配置，以生成用户界面，期待一种基于用户界面的控制方法。
37.配置项目在技术实质上等价于图形用户界面动态生成方法，即，基于产品的描述来确定界面元素、元素坐标、属性和动作响应方式等。应可以理解，界面元素分布于图像界面的各个位置，因此，可基于拓扑结构来表示界面元素组合。进一步地，可充分利用元素坐标、属性和动作响应方式这三个信息增益，其中，属性和响应方式可构建属性拓扑数据和响应拓扑数据，而元素坐标则可以作为标签信息添加拓扑结构中。最终融合三者信息来构建产品与图形界面之间的映射关系。
38.基于此，在本技术的技术方案中，将产品描述进行分词后，输入包含词嵌入层的转换器模型，得到与产品描述对应的特征向量的序列，然后通过条件随机场对特征向量的序列进行标注，以得到每个特征向量的标签类别。
39.然后基于标签类别为功能组件的特征向量来生成用户界面，这可以通过密集预测模型架构来实现，该架构用于对由转换器生成的特征向量的集合进行重组和融合，来生成图像。
40.因此，首先获取与第一功能组件的标签对应的一个或多个第一特征向量，并将其进行二维拼接以得到第一特征矩阵，并类似地获得第二到第n特征矩阵。这样，该特征矩阵除了能够以矩阵中的特征值来表达组件的功能特征以外，还可以通过特征矩阵的尺度来表达组件在用户界面中的重要程度。例如，特征矩阵越大，表示在产品描述中该功能的出现频率越高，因此在用户界面中应该赋予其对应的元素越高的权重。
41.之后，为了通过生成器模型，例如对抗生成模型来生成图形用户界面，需要首先将
不同尺度的特征矩阵进行融合，这里直接使用密集预测模型架构的投影重组功能，即将所有特征矩阵进行三维拼接得到特征图之后，再投影到二维平面上以得到投影矩阵。
42.然后，就可以将投影矩阵输入用于融合的生成器模型，从而得到所需的用户界面。并且，值得注意的是，生成器模型基于密集预测模型架构，其中的卷积层对于使用不同卷积核进行卷积运算得到的特征图进行拼接和上采样，从而通过放弃下采样而具有全局感受野，并保持恒定维数的特征表示。这样，生成器模型所生成的图像能够更好地重建细节，也就是，在对卷积结构具有挑战的区域，例如较大的均匀区域中提高全局一致性。
43.基于此，本技术提出了一种基于用户界面的控制方法，其包括：获取待测试产品的产品描述；对所述产品描述进行分词并将分词后的每一个词输入包含嵌入层的转换器模型以获得与所述产品描述对应的词特征向量的序列；通过条件随机场对所述词特征向量的序列中的每个词特征向量进行标注以获得每个所述词特征向量对应的标签类别，其中，所述标签类别为功能组件；将各个所述标签类别通过编码器以获得与各个所述标签类别对应的一个或多个特征向量；将与各个所述标签类别对应的一个或多个特征向量进行二维拼接以获得第一特征矩阵至第n特征矩阵，n为类别标签的数量，其中，第一特征矩阵至第n特征矩阵中各个特征矩阵中的特征值用于表示功能组件的功能特征，各个特征矩阵的尺度用于表示功能组件在用户界面中的重要程度；将所述第一特征矩阵至所述第n特征矩阵进行三维拼接为特征图；将所述特征图投影到二维平面上以获得投影矩阵；以及，将所述投影矩阵输入基于卷积神经网络的生成器模型以生成与所述待测试产品相适配的用户界面，其中，所述生成器模型的基于密集预测模型架构，所述生成器模型的各层对使用不同卷积核进行卷积运算得到的特征图进行拼接和上采样。
44.在介绍了本技术的基本原理之后，下面将参考附图来具体介绍本技术的各种非限制性实施例。
45.示例性方法
46.图1图示了基于用户界面的控制方法的流程图。如图1所示，根据本技术实施例的基于用户界面的控制方法，包括：s110，获取待测试产品的产品描述；s120，对所述产品描述进行分词并将分词后的每一个词输入包含嵌入层的转换器模型以获得与所述产品描述对应的词特征向量的序列；s130，通过条件随机场对所述词特征向量的序列中的每个词特征向量进行标注以获得每个所述词特征向量对应的标签类别，其中，所述标签类别为功能组件；s140，将各个所述标签类别通过编码器以获得与各个所述标签类别对应的一个或多个特征向量；s150，将与各个所述标签类别对应的一个或多个特征向量进行二维拼接以获得第一特征矩阵至第n特征矩阵，n为类别标签的数量，其中，第一特征矩阵至第n特征矩阵中各个特征矩阵中的特征值用于表示功能组件的功能特征，各个特征矩阵的尺度用于表示功能组件在用户界面中的重要程度；s160，将所述第一特征矩阵至所述第n特征矩阵进行三维拼接为特征图；s170，将所述特征图投影到二维平面上以获得投影矩阵；以及，s180，将所述投影矩阵输入基于卷积神经网络的生成器模型以生成与所述待测试产品相适配的用户界面，其中，所述生成器模型的基于密集预测模型架构，所述生成器模型的各层对使用不同卷积核进行卷积运算得到的特征图进行拼接和上采样。
47.图2图示了根据本技术实施例的基于用户界面的控制方法的架构示意图。如图2所示，在所述基于用户界面的控制方法的网络架构中，首先，对获得的所述产品描述(例如，如
图2中所示意的in)进行分词并将分词后的每一个词输入包含嵌入层的转换器模型(例如，如图2中所示意的cm)以获得与所述产品描述对应的词特征向量的序列(例如，如图2中所示意的vf1)；接着，通过条件随机场(例如，如图2中所示意的crf)对所述词特征向量的序列中的每个词特征向量进行标注以获得每个所述词特征向量对应的标签类别(例如，如图2中所示意的lc)；然后，将各个所述标签类别通过编码器(例如，如图2中所示意的e)以获得与各个所述标签类别对应的一个或多个特征向量(例如，如图2中所示意的vf2)；接着，将与各个所述标签类别对应的一个或多个特征向量进行二维拼接以获得第一特征矩阵至第n特征矩阵(例如，如图2中所示意的mf)；然后，将所述第一特征矩阵至所述第n特征矩阵进行三维拼接为特征图(例如，如图2中所示意的f)；接着，将所述特征图投影到二维平面上以获得投影矩阵(例如，如图2中所示意的m)；以及，最后，将所述投影矩阵输入基于卷积神经网络的生成器模型(例如，如图2中所示意的gm)以生成与所述待测试产品相适配的用户界面(例如，如图2中所示意的out)，其中，所述生成器模型的基于密集预测模型架构，所述生成器模型的各层对使用不同卷积核进行卷积运算得到的特征图进行拼接和上采样。
48.在步骤s110和步骤s120中，获取待测试产品的产品描述；并对所述产品描述进行分词并将分词后的每一个词输入包含嵌入层的转换器模型以获得与所述产品描述对应的词特征向量的序列。如前所述，为了更准确地根据产品描述来进行技术参数的配置，以生成用户界面，因此，在本技术的技术方案中，首先，需要从云存储端获取待检测产品的产品描述；接着，对所述产品描述进行分词处理，以防止词序混乱，从而提高后续语义理解的准确性；然后，将分词后的每一个词输入包含嵌入层的转换器模型，以提取出分词后的所述待检测产品的产品描述的语义特征，从而得到与所述产品描述对应的词特征向量的序列。应可以理解，由于转换器模型可以基于上下文的全局信息对所述产品描述中的各个词进行处理，因此获得的所述词特征向量的序列中的每个词特征向量包括所述产品描述中所有词的全局关联特征。
49.具体地，在本技术实施例中，对所述产品描述进行分词并将分词后的每一个词输入包含嵌入层的转换器模型以获得与所述产品描述对应的词特征向量的序列的过程，包括：首先，对所述产品描述分词处理以获得多个词；接着，将所述多个词中的每一个词输入所述转换器模型的嵌入层以将所述每一个词转化为词输入向量以获得词输入向量的序列；然后，将所述词输入向量的序列输入所述转换器模型的转换器以获得所述词特征向量的序列，其中，所述词特征向量的序列中的每个词特征向量包括所述产品描述中所有词的全局关联特征。
50.在步骤s130和步骤s140中，通过条件随机场对所述词特征向量的序列中的每个词特征向量进行标注以获得每个所述词特征向量对应的标签类别，其中，所述标签类别为功能组件，并将各个所述标签类别通过编码器以获得与各个所述标签类别对应的一个或多个特征向量。应可以理解，考虑到普通的条件随机场模型适用于标注单个类型的标签，因此，在本技术的技术方案中，在得到所述词特征向量的序列后，进一步再将所述所述词特征向量的序列中的每个词特征向量通过条件随机场进行标注，以获得每个所述词特征向量对应的标签类别；接着，将各个所述标签类别通过编码器中进行编码，以提取出每个所述词特征向量对应的标签类别的高维隐含特征，从而获得与各个所述标签类别对应的一个或多个特征向量。
51.具体地，在本技术实施例中，将各个所述标签类别通过编码器以获得与各个所述标签类别对应的一个或多个特征向量的过程，包括：首先，对所述各个所述标签类别进行独热编码以获得各个所述标签类别对应的类别编码向量。然后，将各个所述类别标签对应的类别编码向量通过所述编码器以获得与各个所述标签类别对应的一个或多个特征向量。相应地，在一个具体示例中，首先，使用所述编码器的全连接层提取出所述类别编码向量中各个位置的特征值的高维隐含特征；接着，使用所述编码器的一维卷积层提取出所述类别编码向量中各个位置的特征值之间的关联的高维关联隐含特征，以获得与各个所述标签类别对应的一个或多个特征向量。
52.在步骤s150中，将与各个所述标签类别对应的一个或多个特征向量进行二维拼接以获得第一特征矩阵至第n特征矩阵，n为类别标签的数量，其中，第一特征矩阵至第n特征矩阵中各个特征矩阵中的特征值用于表示功能组件的功能特征，各个特征矩阵的尺度用于表示功能组件在用户界面中的重要程度。应可以理解，为了基于所述标签类别为功能组件的特征向量来生成用户界面，在本技术的技术方案中，考虑通过密集预测模型架构来实现，也就是，用于对由所述转换器生成的特征向量的集合进行重组和融合，来生成图像。具体地，在一个具体示例中，首先需要将得到的与第一功能组件的标签对应的一个或多个第一特征向量进行二维拼接，以得到第一特征矩阵，并类似地获得第二到第n特征矩阵。这样，该所述特征矩阵除了能够以矩阵中的特征值来表达功能组件的功能特征以外，还可以通过所述特征矩阵的尺度来表达功能组件在用户界面中的重要程度。例如，所述特征矩阵越大，表示在产品描述中该所述功能的出现频率越高，因此在用户界面中应该赋予其对应的元素越高的权重。
53.在步骤s160和步骤s170中，将所述第一特征矩阵至所述第n特征矩阵进行三维拼接为特征图，并将所述特征图投影到二维平面上以获得投影矩阵。应可以理解，为了通过生成器模型，例如对抗生成模型来生成图形用户界面，需要首先将所述不同尺度的特征矩阵进行融合，因此，在本技术的技术方案中，直接使用密集预测模型架构的投影重组功能，也就是，将所述所有特征矩阵进行三维拼接得到特征图之后，再将所述特征图投影到二维平面上以得到投影矩阵。相应地，在一个具体示例中，可以计算所述特征图沿通道维度的各个位置的特征向量的均值以获得所述投影矩阵。
54.具体地，在本技术实施例中，将所述第一特征矩阵至所述第n特征矩阵进行三维拼接为特征图的过程，包括：首先，对所述第一特征矩阵至所述第n特征矩阵中的每一个特征矩阵进行线性变换以将所述第一特征矩阵至所述第n特征矩阵转化为具有相同尺度。然后，将具有相同尺度的所述第一特征矩阵至所述第n特征矩阵拼接为所述特征图。
55.在步骤s180中，将所述投影矩阵输入基于卷积神经网络的生成器模型以生成与所述待测试产品相适配的用户界面，其中，所述生成器模型的基于密集预测模型架构，所述生成器模型的各层对使用不同卷积核进行卷积运算得到的特征图进行拼接和上采样。也就是，在本技术的技术方案中，在得到所述投影矩阵后，就可以将所述投影矩阵输入用于融合的生成器模型，从而得到所需的用户界面。值得一提的是，这里，所述生成器模型为由卷积层、上采样层和激活层交替的卷积神经网络。应可以理解，所述生成器模型是基于密集预测模型架构，其中的卷积层对于使用不同卷积核进行卷积运算得到的特征图进行拼接和上采样，从而通过放弃下采样而具有全局感受野，并保持恒定维数的特征表示。这样，所述生成
器模型所生成的图像能够更好地重建细节，也就是，在对卷积结构具有挑战的区域，例如较大的均匀区域中提高全局一致性。
56.具体地，在本技术实施例中，将所述投影矩阵输入用于融合的基于卷积神经网络的生成器模型以生成与所述待测试产品相适配的用户界面的过程，包括：首先，使用所述生成器模型的卷积层对所述投影矩阵进行卷积处理以获得卷积特征图；然后，使用所述生成器模型的与所述卷积层连接的上采样层对所述卷积特征图进行上采样以获得上采样特征图；最后，使用所述生成器模型的与所述上采样层连接的激活层对所述上采样特征图进行激活以生成激活特征图并输出至所述生成器模型的下一层的所述卷积层。
57.综上，本技术实施例的基于用户界面的控制方法被阐明，其通过包含嵌入层的转换器模型来从产品描述中得到与所述产品描述对应的特征向量的序列，然后通过条件随机场对所述特征向量的序列进行标注，以得到每个所述特征向量的标签类别，进一步再通过密集预测模型架构，以对由所述转换器生成的所述特征向量的集合进行重组和融合，并将其输入生成器模型中以生成所需的用户界面。这样，可以更加准确地根据所述产品描述来进行技术参数的配置，从而提高产品的合格率。
58.示例性系统
59.图3图示了根据本技术实施例的基于用户界面的控制系统的框图。如图3所示，根据本技术实施例的基于用户界面的控制系统400，包括：产品描述获取单元410，用于获取待测试产品的产品描述；词特征向量生成单元420，用于对所述产品描述获取单元410获得的所述产品描述进行分词并将分词后的每一个词输入包含嵌入层的转换器模型以获得与所述产品描述对应的词特征向量的序列；标签类别生成单元430，用于通过条件随机场对所述词特征向量生成单元420获得的所述词特征向量的序列中的每个词特征向量进行标注以获得每个所述词特征向量对应的标签类别，其中，所述标签类别为功能组件；编码单元440，用于将各个所述标签类别生成单元430获得的所述标签类别通过编码器以获得与各个所述标签类别对应的一个或多个特征向量；二维拼接单元450，用于将所述编码单元440获得的所述与各个所述标签类别对应的一个或多个特征向量进行二维拼接以获得第一特征矩阵至第n特征矩阵，n为类别标签的数量，其中，第一特征矩阵至第n特征矩阵中各个特征矩阵中的特征值用于表示功能组件的功能特征，各个特征矩阵的尺度用于表示功能组件在用户界面中的重要程度；三维拼接单元460，用于将所述二维拼接单元450获得的所述第一特征矩阵至所述第n特征矩阵进行三维拼接为特征图；投影单元470，用于将所述三维拼接单元460获得的所述特征图投影到二维平面上以获得投影矩阵；以及，结果生成单元480，用于将所述投影单元470获得的所述投影矩阵输入基于卷积神经网络的生成器模型以生成与所述待测试产品相适配的用户界面，其中，所述生成器模型的基于密集预测模型架构，所述生成器模型的各层对使用不同卷积核进行卷积运算得到的特征图进行拼接和上采样。
60.在一个示例中，在上述基于用户界面的控制系统400中，所述词特征向量生成单元420，进一步用于：对所述产品描述分词处理以获得多个词；将所述多个词中的每一个词输入所述转换器模型的嵌入层以将所述每一个词转化为词输入向量以获得词输入向量的序列；将所述词输入向量的序列输入所述转换器模型的转换器以获得所述词特征向量的序列，其中，所述词特征向量的序列中的每个词特征向量包括所述产品描述中所有词的全局关联特征。
61.在一个示例中，在上述基于用户界面的控制系统400中，所述编码单元440，进一步用于：对所述各个所述标签类别进行独热编码以获得各个所述标签类别对应的类别编码向量；以及，将各个所述类别标签对应的类别编码向量通过所述编码器以获得与各个所述标签类别对应的一个或多个特征向量。
62.在一个示例中，在上述基于用户界面的控制系统400中，所述编码单元440，进一步用于：使用所述编码器的全连接层提取出所述类别编码向量中各个位置的特征值的高维隐含特征；以及，使用所述编码器的一维卷积层提取出所述类别编码向量中各个位置的特征值之间的关联的高维关联隐含特征，以获得与各个所述标签类别对应的一个或多个特征向量。
63.在一个示例中，在上述基于用户界面的控制系统400中，所述三维拼接单元460，进一步用于：对所述第一特征矩阵至所述第n特征矩阵中的每一个特征矩阵进行线性变换以将所述第一特征矩阵至所述第n特征矩阵转化为具有相同尺度；以及，将具有相同尺度的所述第一特征矩阵至所述第n特征矩阵拼接为所述特征图。
64.在一个示例中，在上述基于用户界面的控制系统400中，所述投影单元470，进一步用于：计算所述特征图沿通道维度的各个位置的特征向量的均值以获得所述投影矩阵。
65.在一个示例中，在上述基于用户界面的控制系统400中，所述生成器模型为由卷积层、上采样层和激活层交替的卷积神经网络；所述结果生成单元480，进一步用于：使用所述生成器模型的卷积层对所述投影矩阵进行卷积处理以获得卷积特征图；使用所述生成器模型的与所述卷积层连接的上采样层对所述卷积特征图进行上采样以获得上采样特征图；以及，使用所述生成器模型的与所述上采样层连接的激活层对所述上采样特征图进行激活以生成激活特征图并输出至所述生成器模型的下一层的所述卷积层。
66.这里，本领域技术人员可以理解，上述基于用户界面的控制系统400中的各个单元和模块的具体功能和操作已经在上面参考图1到图2的基于用户界面的控制方法的描述中得到了详细介绍，并因此，将省略其重复描述。
67.如上所述，根据本技术实施例的基于用户界面的控制系统400可以实现在各种终端设备中，例如基于用户界面的控制算法的服务器等。在一个示例中，根据本技术实施例的基于用户界面的控制系统400可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如，该基于用户界面的控制系统400可以是该终端设备的操作系统中的一个软件模块，或者可以是针对于该终端设备所开发的一个应用程序；当然，该基于用户界面的控制系统400同样可以是该终端设备的众多硬件模块之一。
68.替换地，在另一示例中，该基于用户界面的控制系统400与该终端设备也可以是分立的设备，并且该基于用户界面的控制系统400可以通过有线和/或无线网络连接到该终端设备，并且按照约定的数据格式来传输交互信息。
69.示例性电子设备
70.下面，参考图4来描述根据本技术实施例的电子设备。如图4所示，电子设备10包括一个或多个处理器11和存储器12。所述处理器11可以是中央处理单元(cpu)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备10中的其他组件以执行期望的功能。
71.存储器12可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各
种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(ram)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(rom)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器11可以运行所述程序指令，以实现上文所述的本技术的各个实施例的基于用户界面的控制方法的功能以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如类别标签、特征图等各种内容。
72.在一个示例中，电子设备10还可以包括：输入系统13和输出系统14，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
73.该输入系统13可以包括例如键盘、鼠标等等。
74.该输出系统14可以向外部输出各种信息，包括用户界面等。该输出系统14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
75.当然，为了简化，图4中仅示出了该电子设备10中与本技术有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备10还可以包括任何其他适当的组件。
76.示例性计算机程序产品和计算机可读存储介质
77.除了上述方法和设备以外，本技术的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本技术各种实施例的基于用户界面的控制方法中的功能中的步骤。
78.所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本技术实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如java、c 等，还包括常规的过程式程序设计语言，诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
79.此外，本技术的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的基于用户界面的控制方法中的步骤。
80.所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、系统或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
81.以上结合具体实施例描述了本技术的基本原理，但是，需要指出的是，在本技术中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本技术的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本技术为必须采用上述具体的细节来实现。
82.本技术中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图
要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。
83.还需要指出的是，在本技术的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本技术的等效方案。
84.提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本技术。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本技术的范围。因此，本技术不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。
85.为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本技术的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。