自适应分辨率管理信令的制作方法

自适应分辨率管理信令
1.相关申请的交叉引用
2.本技术要求于2019年8月6日提交的、标题为"自适应分辨率管理信令(adaptive resolution management signaling)"的美国临时专利申请62/883,459的优先权，其全部内容通过引用合并于此。
技术领域
3.本发明大体上涉及视频压缩领域。具体地，本发明涉及自适应分辨率管理信令。


背景技术：

4.视频编解码器可以包括对数字视频进行压缩或解压缩的电子电路或软件。所述电子电路或软件可以将未压缩视频转换为压缩格式，反之亦然。在视频压缩的上下文中，对视频进行压缩(和/或执行其某些功能)的设备通常可以被称为编码器，以及对视频进行解压缩(和/或执行其某些功能)的设备可以被称为解码器。
5.压缩后数据的格式可以符合标准视频压缩规范。压缩可能是有损的，因为压缩后视频会缺少原始视频中存在的一些信息。这样的后果可能包括解压缩后视频可能具有比原始的未压缩视频更低的质量，因为没有足够的信息来准确地重建原始视频。
6.视频质量、用于表示视频的数据量(例如，由比特率决定)、编码算法和解码算法的复杂性、对数据丢失和错误的敏感性、编辑的容易性、随机访问、端对端延迟(例如，延迟时间)等之间可以存在复杂的关系。
7.运动补偿可以包括通过考虑照相机和/或视频中对象的运动来预测视频帧或者给定参考帧(例如先前帧和/或未来帧)的一部分的方法。方法可以用于视频压缩对视频数据进行编码和解码，例如使用运动图像专家组(mpeg)的高级视频编码(avc)标准也称为h.264)进行编码和解码。运动补偿可以根据参考图像到当前图像的变换来描述图像。当与当前图像进行比较时，参考图像可以是时间上先前的和/或是来自未来的。


技术实现要素：

8.一方面，一种解码器，包括电路，所述解码器被配置成：使用所述比特流来确定是否启用自适应分辨率管理模式，使用所述比特流来确定包括垂直缩放常数分量和水平缩放常数分量的缩放系数，以及按照所述自适应分辨率管理模式并使用所确定的所述缩放系数来重建当前块的像素数据，所述重建包括通过所述水平缩放常数分量来水平缩放所述当前块和通过所述垂直缩放常数分量来垂直缩放所述当前块。
9.另一方面，一种方法，包括：接收比特流，使用所述比特流来确定是否启用自适应分辨率管理模式，使用所述比特流来确定包括垂直缩放常数分量和水平缩放常数分量的缩放系数，以及按照所述自适应分辨率管理模式并使用所确定的所述缩放系数来重建当前块的像素数据，所述重建包括通过所述水平缩放常数分量来水平缩放所述当前块和通过所述垂直缩放常数分量来垂直缩放所述当前块。
10.在此描述的主题的一种或多种变型的细节在下面的附图和具体实施方式中进行阐述。根据具体实施方式和附图以及权利要求，在此描述的主题的其他特征和优点将显而易见。
附图说明
11.为了说明本发明，附图示出了本发明的一个或多个实施例的各个方面。然而，应当理解的是，本发明不限于附图中所示的精确布置和手段，在附图中：
12.图1是说明各种分辨率等级的示例性参考帧和示例性预测帧的图示；
13.图2是描绘示例性参考帧、示例性重缩放后考帧和示例性后续块预测过程的图示；
14.图3示出了根据当前主题的一些实施方式的示例性信令；
15.图4是示出了根据当前主题的一些实施方式的示例性过程的过程流程图；
16.图5是示出了根据当前主题的一些实施方式的能够解码比特流的示例性解码器的系统框图；
17.图6是示出了根据当前主题的一些实施方式来对视频进行编码的示例性过程的过程流程图；
18.图7是示出了根据当前主题的一些实施方式的示例性视频编码器的系统框图；以及
19.图8是可以用于实现在此公开的任何一个或多个方法及其任何一个或多个部分的计算系统的框图。
20.附图不一定是按比例绘制的，并且可以用虚线、示意图和局部视图来说明。在某些情况下，可能已经省略了对于理解实施例而言不必要的细节或者使得其他细节难以理解的细节。在图中，相同的附图标记指代相同的元件。
具体实施方式
21.在许多当前最先进的编码器中，分辨率是通过重新编码和重新发送被称为图像组(gop)的整个视频部分来管理的。这需要发送内部帧(i帧)，这可能导致额外的成本，因为这些帧负责gop中的大部分比特。
22.本公开描述的实施例涉及自适应分辨率管理(arm)，其是一种为视频编码器/解码器提供额外灵活性的技术，从而允许在各种使用情况下节省比特率。通常，arm包括使用分辨率不同于当前帧的参考帧来执行预测。在当前的编码标准中，参考帧具有与预测帧相同的分辨率。在arm中，参考帧的分辨率可能小于或大于被预测帧的分辨率。这种方法可以用于降低视频分辨率，从而降低比特率，或者提高视频分辨率，从而促进视频回放的显示特性。
23.出于本公开的目的，arm可替代地或等效地被称为参考图像重采样(rpr)；rpr和arm可以互换使用。
24.当前主题的一些实施方式可以包括在gop内的任何位置对任何数量的帧使用arm，从而消除对i帧重新编码的要求。
25.图1是说明各种分辨率等级的示例性参考帧和示例性预测帧的图示。帧1比参考帧小(分辨率较低)，帧2大小相同(分辨率相同)，而帧3较大(分辨率较高)。本公开中使用的“分辨率”是在视频回放、压缩等中使用的图像、帧、子帧和/或其他显示区域或其部分中的像素数量，较高的像素数量对应于较高的分辨率，而较少的像素数量对应于较低的分辨率。分辨率可以根据面积来测量，例如但不限于通过使用一个或多个长度维度，以定义面积的像素来测量。例如，圆形子帧或其他区域可以具有根据半径定义的分辨率。可替代地或附加地，分辨率可以由像素的总数来定义。
26.作为示例，继续参考图1，其中参考帧和/或子帧具有可以完全根据两个长度参数来定义面积的几何形式，例如但不限于三角形、平行四边形和/或矩形形式，参考帧和/或子帧可以具有分辨率w
×
h，其中w和h可以指示分别描述参考帧和/或子帧的宽度(或底部)和高度尺寸的像素数量。每个预测帧也可以具有分辨率，该分辨率可以类似于参考帧的分辨率来确定；举例来说，帧1可以具有较小的分辨率ws
×
hs，帧2可以具有与参考帧相同的分辨率w
×
h，且帧3可具有较大的分辨率wl
×
hl。较小和较大帧的宽度和高度可以通过将参考宽度和高度乘以任意的重缩放常数(rc)来获得，该重缩放常数也被称为缩放系数和/或常数。在较小帧的情况下，rc可以具有0和1之间的值。在较大帧的情况下，rc可以具有大于1的值；例如，rc可以具有1到4之间的值。其他值也是可能的。一个分辨率维度的重缩放常数可能不同于另一个分辨率维度；例如，重缩放常数rch可以用于重缩放高度，而另一个重缩放常数rcw可以用于重缩放宽度。
27.仍然参考图1，arm可以作为一种模式来实现。在解码期间的某个点激活arm模式的情况下，解码器可能已经接收到分辨率为w
×
h的参考帧，并且可以使用重缩放常数来重缩放预测帧。在一些实施方式中，编码器可以发信号通知解码器使用哪个重缩放常数。可以在对应于包含当前图像的gop的序列参数集(sps)中和/或对应于当前图像的图像参数集(pps)中执行信令。例如，但不限于，编码器可以使用诸如pps_pic_width_in_luma_samples，pps_pic_height_in_luma_samples、pps_scaling_win_left_offset，pps_scaling_win_right_offset、pps_scaling_win_top_offset、pps_scaling_win_bottom_offset和/或sps_num_subpics_minus1之类的字段来发信号通知重缩放后参数。
28.进一步参考图1，如上所述的w和h参数可以但不限于分别使用变量currpicscalwinwidthl和currpicscalwinheightl来表示；这些变量可以使用信号参数和变量之间的一个或多个数学关系从如上所述的信号参数中导出。例如，但不限于，currpicscalwinwidthl可以根据以下等式导出：
29.currpicscalwinwidthl＝pps_pic_width_in_luma_samples
–
30.subwidthc*(pps_scaling_win_right_offset pps_scaling_win_left_offset)
31.作为另一个非限制性示例，currpicscalwinheightl可以根据以下等式导出：
32.currpicscalwinwidthl＝pps_pic_width_in_luma_samples
–
33.subwidthc*(pps_scaling_win_right_offset pps_scaling_win_left_offset)
34.本领域技术人员在阅读了本公开的全部内容后，将会了解可用于导出上述变量的各种替代计算。编码器可替代地或附加地直接，例如但不限于在pps和/或sps中发信号通知一个或多个这样的变量rc、rch和/或rcw。
35.可替代地或附加地，仍然参考图1，如上所述的重缩放常数和/或一组重缩放常数可以使用对所存储的一个和/或多个缩放常数和/或帧和/或块的索引的引用在比特流中用信号通知，所述帧和/或块是使用先前用信号通知和/或使用的一个和/或多个缩放常数来
用信号通知的。对存储的缩放常数的索引的引用可以明确地用信号通知和/或从比特流中用信号通知的一个或多个附加参数中确定。例如但不限于，解码器可以识别包含当前帧的参考帧和/或图像组；在先前已经用信号通知和/或在这样的图像组中使用了重缩放常数的情况下，用信号通知参考帧可应用于当前帧和/或当前图像组等，解码器可以识别该重缩放常数，以便用作当前帧的重缩放常数。
36.在一些实施方式中，继续参考图1，arm操作可以在编码帧的块级别上执行。例如，参考帧可以首先被重缩放，随后可以执行预测，如图2所示。图2是描绘参考帧、重缩放后参考帧和后续块预测过程的图示。可以对缩放后参考帧(具有缩放后分辨率)而不是原始参考帧执行块预测过程。如上所述，重缩放参考帧可以包括根据编码器发信号通知的任何参数进行重缩放；例如但不限于，在发信号通知将与当前画面一起使用的参考帧的情况下，例如通过参考与参考帧相关联的索引值等，可以在预测之前，根据上述任何重缩放方法来重缩放发信号通知的参考帧；缓冲器可以包括解码图像缓冲器(dcb)和/或由解码器实现的一个或多个附加缓冲器。重缩放后参考帧可以存储在存储器和/或缓冲器中，其可以包括但不限于通过索引识别包含在其中的帧的缓冲器，根据该索引可以执行帧检索。预测过程可以包括，例如包括运动补偿的图片间预测。
37.仍然参考图2，基于块的arm的一些实施方式可以实现对每个块应用最佳滤波器的灵活性，而不是对整个帧应用相同的滤波器。在一些实施方式中，skip-arm模式是可能的，使得一些块(例如基于像素的均匀性和比特率成本)可以处于skip-arm模式(使得重缩放不会改变比特率)。skip-arm模式可以是在比特流中用信号通知；例如，但不限于，skip-arm模式可以在pps参数中用信号通知。可替代地或附加地，解码器可以基于由解码器设置和/或在比特流中用信号通知的一个或多个参数来确定skip-arm模式是激活的。在基于块的arm中使用的空间滤波器可以包括但不限于应用双三次插值的双三次空间滤波器、应用双线性插值的双线性空间滤波器、使用lanczos滤波和/或使用正弦滤波器、sinc函数插值和/或信号重建技术等组合的重采样的lanczos滤波器；本领域中的技术人员在阅读了本公开的全部内容后将会了解与本公开一致的可用于插值的各种滤波器。可替代地或附加地，可以使用任何亮度样本内插滤波过程。亮度样本内插可以包括在半样本内插滤波器索引处计算内插值，该内插值落在未缩放样本阵列的两个连续样本值之间。可以通过从查找表中检索系数和/或权重来执行内插值的计算，但不限于此；查找表的选择可以根据编码单元的运动模型和/或缩放比例量来执行，例如使用如上所述的缩放常数来确定。计算可以包括但不限于执行相邻像素值的加权求和，其中权重是从查找表中检索的。可替换地或附加地，计算值可以被移位；例如，但不限于，值可以移位min(4，位深度-8)、6、max(2，14位深度)等。本领域技术人员在阅读了本公开的全部内容后，将会了解可用于内插滤波器的各种替代或附加实施方式。
38.在一些实施方式中，进一步参考图2，arm参数可以由arm信号开/关数据字段和/或分辨率列表来用信号通知，arm信号开/关数据字段可以被编码为单个比特，分辨率列表可以包括当前会话中允许的显式或隐式分辨率的列表。使用分辨率列表发信号通知的参数可以使用分辨率的索引和/或相对缩放系数发信号通知，列表中的此类系数(......、0.25、0.5、1.5、2.0、......)表示相对于前一分辨率的比例，列在当前arm中将要使用的分辨率列表上。例如，但不限于，可以使用sps_ref_pic_resampling_enabled_flag在sps中提供arm
开/关信号。可替代地或附加地，在通用约束信息中提供的gci_no_ref_pic_resampling_constraint_flag可以指示当设置为真或
‘1’
时，无论sps和/或pps中的信令如何，都不能使用arm。
39.进一步参考图2，可以使用缩放常数rc和/或多个缩放常数来重缩放帧。例如但不限于，缩放常数rch可以应用于水平维度，缩放常数rev可以应用于垂直维度。rc《1可用于减少将要编码的数据，从而减少编码后视频的比特率。缩放系数rch和rev可以例如通过包含在比特流中或者包含对多个预定值之一的索引而被信号通知给解码器。当rch＝rev时，只需向接收器信号通知一个值。
40.在一些实施方式中，继续参考图2，帧的缩放系数可以在相同的帧序列中改变。在一些实施方式中，例如如上所述，次要参数序列(sps)和/或主要参数序列(pps)可以用于有效地用信号通知缩放系数。当使用多个缩放系数时，可以使用多个pps。在一些实施方式中，可以在条带头和/或区块头部中用信号通知合适的pps，以指示所使用的缩放系数。在块或帧层面应用缩放系数可以提供最大化压缩性能的灵活性。
41.在非限制性示例中，可以通过使用sps和pps的组合来实现信令。图3示出了示例性信令。
42.图4是示出了自适应分辨率管理的过程400的示例性实施例的过程流程图，该过程400可以实现视频编码器和/或解码器的额外活性，从而允许在各种使用情况下节省比特率。在步骤405处，仍然参考图4，解码器可以接收比特流。当前块可以包含在解码器接收的比特流中。比特流可以例如包括在比特流中找到的数据，当使用数据压缩时，所述比特流是解码器的输入。比特流可以包括对视频进行解码所需的信息。接收可以包括提取和/或解析比特流中的块以及相关联的信令信息。
43.在一些实施方式中，当前块可以包括编码树单元(ctu)、编码单元(cu)和/或预测单元(pu)，例如如下文中进一步详细描述的那样。
44.在410处，继续参考图4，确定是否启用自适应分辨率管理模式。在一些实施方式中，自适应分辨率管理模式是通过所述比特流中的单个比特来用信号通知给当前块的。例如，如上所述，自适应分辨率管理模式可以在图像参数集(pps)、序列参数集(sps)和/或条带头或区块头中用信号通知。
45.仍然参考图4，在步骤415处，可以使用比特流来确定包括垂直缩放常数分量和水平缩放常数分量的缩放系数；这可以在不受上述限制的情况下实施。在水平缩放常数分量等于垂直缩放常数分量的情况下，两者可以同时用单个值发信号通知，以用作水平缩放常数分量和垂直缩放常数分量的每个缩放分量。
46.在步骤420处，继续参考图4，可以按照自适应分辨率管理模式并使用所确定的缩放系数来重建当前块的像素数据。
47.所述重建可以包括通过水平缩放常数分量来水平缩放当前块和通过垂直缩放常数分量来垂直缩放当前块。
48.在一些实施方式中，可以使用比特流确定表征允许的分辨率的分辨率列表。在一些实施方式中，可以使用比特流来确定比表征允许的分辨率的分辨率列表的索引。
49.图5是示出了如本公开中所描述的能够实现自适应分辨率管理信令的示例解码器500的系统框图。解码器500可以包括熵解码处理器504，逆量化和逆变换处理器508，解块过
滤器512，帧缓冲器516，运动补偿处理器520和/或帧内预测处理器524。
50.在操作中，仍然参考图5，比特流528可以由解码器500接收并输入到熵解码处理器504，熵解码处理器504可以将部分比特流熵解码为量化系数。量化系数可以被提供给逆量化和逆变换处理器508，逆量化和逆变换处理器508可以执行逆量化和逆变换以创建残差信号，残差信号可以根据处理模式被添加到运动补偿处理器520或帧内预测处理器524的输出。运动补偿处理器520和帧内预测处理器524的输出可以包括基于先前的解码块的块预测。预测和残差之和可以由解块滤波器512进行处理，并存储到帧缓冲器516中。
51.图6是示出了利用自适应分辨率管理来编码视频的示例性过程600的过程流程图，该过程600可以实现视频编码器和/或解码器的额外灵活性，从而允许在各种使用情况下节省比特率。在步骤605处，视频帧可以经历初始块分割，例如，使用树结构宏块分割方案进行分割，该方案可以包括将图像帧划分为ctu和cu。
52.在步骤610处，仍然参考图6，可以执行基于块的自适应分辨率管理，包括帧或其部分的分辨率缩放。
53.在步骤615处，继续参考图6，块可以被编码并包括在比特流中。例如，编码可以包括利用帧间预测和帧内预测模式。
54.图7是示出了如本公开中所描述的能够实现自适应分辨率管理信令的示例性视频编码器700的系统框图。示例性视频编码器700可以接收输入视频704，输入视频704可以根据诸如树结构宏块分割方案(例如四叉树加二叉树)之类的处理方案进行初始分割或划分。树结构宏块分割方案的示例可以包括将图像帧划分为称为编码树单元(ctu)的大块元素。在一些实施方式中，每个ctu可以被进一步一次或多次地分割成多个称为编码单元(cu)的子块。这种分割的结果可以包括称为预测单元(pu)的一组子块。也可以使用变换单元(tu)。
55.仍然参考图7，示例性视频编码器700可以包括帧内预测处理器708、能够构建运动矢量候选列表，包括将全局运动矢量候选添加到运动矢量候选列表的运动估计/补偿处理器708(还称为帧间预测处理器)、变换/量化处理器716、逆量化/逆变换处理器720、环路滤波器724、解码图像缓冲器728和/或熵编码处理器732。可以将比特流参数输入到熵编码处理器732，以包括在输出比特流736中。
56.在操作时，继续参考图7，对于输入视频704的帧的每个块，可以确定是通过图像内预测还是使用运动估计/补偿来处理该块。可以将块提供给帧内预测处理器708或运动估计/补偿处理器712。如果要通过帧内预测来处理块，则帧内预测处理器708可以执行处理以输出预测因子(predictor)。如果要通过运动估计/补偿来处理块，则如果适用的话，运动估计/补偿处理器712可以执行包括构建运动矢量候选列表的处理，包括将全局运动矢量候选添加到运动矢量候选列表。
57.进一步参考图7，可以通过从输入视频中减去预测因子来形成残差。残差可以由变换/量化处理器716接收，变换/量化处理器716可以执行变换处理(例如，离散余弦变换(dct))以产生可以被量化的系数。可以将量化系数和任何相关联的信令信息提供给熵编码处理器732，以进行熵编码并将包括在输出比特流736中。熵编码处理器732可以支持对与编码当前块有关的信令信息进行编码。此外，量化系数可以被提供给逆量化/逆变换处理器720，逆量化/逆变换处理器720可以再现像素，所述像素可与预测因子组合并由环路滤波器724处理，环路滤波器724的输出可以被存储在解码图像缓冲器728中，以供运动估计/补偿
处理器712使用，运动估计/补偿处理器712能够构建运动矢量候选列表，包括将全局运动矢量候选添加到运动矢量候选列表。
58.继续参考图7，尽管上文已经详细描述了一些变型，但是其他修改或添加也是可能的。例如，在一些实施方式中，当前块可以包括任何对称块(8
×
8、16
×
16、32
×
32、64
×
64、128
×
128等)以及任何非对称块(8
×
4、16
×
8等)。
59.在一些实施方式中，仍然参考图7，可以实施四叉树加二叉决策树(qtbt)。对于qtbt，在编码树单元层面，可以动态地推导出qtbt的分割参数以适应局部特征，而无需传输任何开销。随后，在编码单元层面，联合分类器决策树结构可以消除不必要的迭代并控制错误预测的风险。在一些实施方式中，ltr帧块更新模式可以作为在qtbt的每个叶节点上可用的附加选项。
60.在一些实施方式中，仍然参考图7，可以在比特流的不同层次层面用信号通知其他语法元素。例如，可以通过在序列参数集(sps)中包含编码的启用标志来为整个序列启用标志。此外，可以在编码树单元(ctu)层面对ctu标志进行编码。
61.一些实施例可以包括存储指令的非暂时性计算机程序产品(即，物理实现的计算机程序产品)，所述指令，当由一个或多个计算系统的一个或多个数据处理器执行时，使得至少一个数据处理器执行本文中的操作。
62.在此公开的实施例包括解码器，所述解码器具有电路，所述解码器被配置成：接收比特流，使用所述比特流来确定是否启用自适应分辨率管理模式，使用所述比特流来确定包括垂直缩放常数分量和水平缩放常数分量的缩放系数，以及按照所述自适应分辨率管理模式并使用所确定的所述缩放系数来重建当前块的像素数据，所述重建包括通过所述水平缩放常数分量来水平缩放所述当前块和通过所述垂直缩放常数分量来垂直缩放所述当前块。
63.在实施例中，所述自适应分辨率管理模式可以通过所述比特流中的单个比特来用信号通知给所述当前块的。所述自适应分辨率管理模式可以在图像参数集(pps)中用信号通知。所述自适应分辨率管理模式可以在序列参数集(sps)中用信号通知。所述自适应分辨率管理模式可以在条带头或区块头中用信号通知。所述解码器进一步可以被进一步被配置成使用所述比特流来确定表征允许的分辨率的分辨率列表。所述解码器可以被进一步被配置成使用所述比特流来确定在表征允许分辨率的分辨率列表中的索引。所述解码器可以包括熵解码处理器，被配置成接收比特流并将所述比特流解码为量化系数；逆量化和逆变换处理器，被配置成处理所述量化系数，所述处理所述量化系数包括执行逆离散余弦变换；解块滤波器；帧缓冲器；以及帧内预测处理器。所述当前块可以形成四叉树加二叉决策树的一部分。所述当前块可以包括编码树单元。所述当前块可以包括编码单元。所述当前块可以包括预测单元。
64.在此公开的实施例可以包括一种方法，其可以包括：接收比特流，使用所述比特流来确定是否启用自适应分辨率管理模式，使用所述比特流来确定包括垂直缩放常数分量和水平缩放常数分量的缩放系数，以及按照所述自适应分辨率管理模式并使用所确定的所述缩放系数来重建当前块的像素数据，所述重建包括通过所述水平缩放常数分量来水平缩放所述当前块和通过所述垂直缩放常数分量来垂直缩放所述当前块。
65.所述自适应分辨率管理模式可以通过所述比特流中的单个比特来用信号通知给
所述当前块的。所述自适应分辨率管理模式可以在图像参数集(pps)中用信号通知。所述自适应分辨率管理模式可以在序列参数集(sps)中用信号通知。所述自适应分辨率管理模式可以在条带头或区块头中用信号通知。所述方法可以包括使用所述比特流来确定表征允许的分辨率的分辨率列表。所述方法可以包括使用所述比特流来确定表征允许的分辨率的分辨率列表的索引。所述接收、所述确定以及所述重建中的至少一者可以是由解码器执行，所述解码器包括熵解码处理器，被配置成接收比特流并将所述比特流解码为量化系数；逆量化和逆变换处理器，被配置成处理所述量化系数，所述处理所述量化系数包括执行逆离散余弦变换；解块过滤器；帧缓冲器；以及帧内预测处理器。所述当前块可以形成四叉树加二叉决策树的一部分。所述当前块可以包括编码树单元。所述当前块可以包括编码单元。所述当前块可以包括预测单元。
66.应当注意的是，本文描述的任何一个或多个方面和实施例可以方便地使用数字电子电路、集成电路、专门设计的专用集成电路(asic)、现场可编程门阵列(fpga)、计算机硬件、固件、软件和/或上述项的组合来实现，如在根据本说明书的教导编程的一个或多个机器(例如，用作电子文档的用户计算设备的一个或多个计算设备、诸如文档服务器之类的一个或多个服务器设备等)中实现和/或实施的，这对于计算机领域的普通技术人员来说是显而易见的。这些各种方面或特征可以包括在可编程系统上可执行和/或可解释的一个或多个计算机程序和/或软件中的实现，所述可编程系统包括至少一个可编程处理器，所述至少一个可编程处理器可以是专用的或通用的，其被耦接以从存储系统、至少一个输入设备和至少一个输出设备接收数据和指令，以及向存储系统、至少一个输入设备和至少一个输出设备发送数据和指令。对于软件领域的普通技术人员来说显而易见的是，熟练的程序员基于本公开的教导可以容易地准备适当的软件编码。上文讨论的采用软件和/或软件模块的方面和实施方式还可以包括用于帮助实现软件和/或软件模块的机器可执行指令的适当硬件。
67.这种软件可以是采用机器可读存储介质的计算机程序产品。机器可读存储介质可以是能够存储和/或编码由机器(例如，计算设备)执行的指令序列并且使得机器执行本文描述的方法和/或实施例中的任何一个的任何介质。机器可读存储介质的示例包括但不限于磁盘、光盘(例如，cd、cd-r、dvd、dvd-r等)、磁光盘、只读存储器"rom"设备、随机存取存储器"ram"设备、磁卡、光卡、固态存储设备、eprom、eeprom、可编程逻辑器件(pld)和/或上述项的任意组合。本文使用的机器可读介质旨在包括单个介质以及物理上分离的介质的集合，例如光盘的集合，或者与计算机存储器结合的一个或多个硬盘驱动器。本文使用的机器可读存储介质不包括信号传输的暂时形式。
68.这种软件还可以包括在诸如载波之类的数据载体上作为数据信号而携带的信息(例如数据)。例如，机器可执行信息可以被包括作为包含在数据载体中的数据承载信号，其中，所述信号对下述项进行编码：由机器(例如，计算设备)执行的指令序列或其部分，以及使机器执行本文描述的方法和/或实施例中的任何一个的任何相关信息(例如，数据结构和数据)。
69.计算设备的示例包括但不限于电子书阅读设备、计算机工作站、终端计算机、服务器计算机、手持设备(例如，平板计算机、智能手机等)、网络设备、网络路由器、网络交换机、网桥、任何能够执行指定其要采取的动作的指令序列的机器，以及上述项的任意组合。在一
个示例中，计算设备可以包括和/或被包括在资讯站(kiosk)中。
70.图8示出了计算机系统800的示例性形式的计算设备的一个实施例的图示，其中，可以执行用于使控制系统执行本公开的任何一个或多个方面和/或方法的一组指令。还可以预期的是，可以利用多个计算设备来实现专门配置的指令集，用于使一个或多个所述设备执行本公开的方面和/或方法中的任何一个或多个。计算机系统800包括处理器804和存储器808，它们经由总线812彼此通信并且与其他组件通信。总线812可以包括使用多种总线架构中的任何一种的多种类型的总线结构中的任何一种，其包括但不限于存储器总线、存储器控制器、外围总线、本地总线以及上述项的任意组合。
71.存储器808可以包括各种组件(例如，机器可读介质)，其包括但不限于随机存取存储器组件、只读组件以及上述项的任意组合。在一个示例中，基本输入/输出系统816(bios)可以存储在存储器808中，该基本输入/输出系统816(bios)包括诸如在启动期间帮助在计算机系统800内的元件之间传递信息的基本例程。存储器808还可以包括(例如，存储在一个或多个机器可读介质上的)体现本公开的方面和/或方法中的任意一个或多个的指令(例如，软件)820。在另一示例中，存储器808可以进一步包括任何数量的程序模块，其包括但不限于操作系统、一个或多个应用程序、其他程序模块、程序数据以及上述项的任意组合。
72.计算机系统800还可以包括存储设备824。存储设备(例如，存储设备824)的示例包括但不限于硬盘驱动器、磁盘驱动器、与光学介质组合的光盘驱动器、固态存储设备以及上述项的任意组合。存储设备824可以通过适当的接口(未示出)连接至总线812。示例性接口包括但不限于scsi、高级技术附件(ata)、串行ata、通用串行总线(usb)、ieee 1394(firewire)以及上述项的任意组合。在一个示例中，存储设备824(或其一个或多个组件)可以可移除地与计算机系统800连接(例如，经由外部端口连接器(未示出))。特别地，存储设备824和相关联的机器可读介质828可以为计算机系统800提供机器可读指令、数据结构、程序模块和/或其他数据的非易失性和/或易失性存储。在一个示例中，软件820可以全部或部分地保存在机器可读介质828内。在一个示例中，软件820可以全部或部分地保存在处理器804内。
73.计算机系统800还可以包括输入设备832。在一个示例中，计算机系统800的用户可以经由输入设备832将命令和/或其他信息输入到计算机系统800中。输入设备832的示例包括但不限于：字母数字输入设备(例如，键盘)、指示设备、操纵杆、游戏手柄、音频输入设备(例如，麦克风、语音响应系统等)、光标控制设备(例如鼠标)、触摸板、光学扫描仪、视频捕获设备(例如静物摄影机、摄像机)、触摸屏以及上述项的任意组合。输入设备832可以经由各种接口(未示出)中的任一个连接到总线812，所述各种接口包括但不限于串行接口、并行接口、游戏端口、usb接口、火线接口、至总线812的直接接口以及上述项的任意组合。输入设备832可以包括触摸屏界面，所述触摸屏界面可以是显示器836的一部分或者与显示器836分开，这将在下面进一步进行讨论。输入设备832可以用作用户选择设备，用于如上所述在图形界面中选择一个或多个图形表示。
74.用户还可以经由存储设备824(例如，可移动磁盘驱动器、闪盘驱动器等)和/或网络接口设备840向计算机系统800输入命令和/或其他信息。诸如网络接口设备840之类的网络接口设备可以用于将计算机系统800连接至诸如网络844之类的各种网络中的一个或多个，以及连接至网络844的一个或多个远程设备848。网络接口设备的示例包括但不限于网
络接口卡(例如，移动网络接口卡、lan卡)、调制解调器及其任意组合。网络的示例包括但不限于广域网(例如，互联网、企业网络)、局域网(例如，与办公室、建筑物、校园或其他相对较小的地理空间相关联的网络)、电话网络、与电话/语音提供商相关联的数据网络(例如，移动通信提供商数据和/或语音网络)、两个计算设备之间的直接连接，以及上述项的任意组合。诸如网络844之类的网络可以采用有线和/或无线通信模式。通常，可以使用任何网络拓扑结构。信息(例如，数据、软件820等)可以经由网络接口设备840传送至计算机系统800和/或来自计算机系统800。
75.计算机系统800可以进一步包括视频显示适配器852，用于将可显示图像传送至诸如显示设备836之类的显示设备。显示设备的示例包括但不限于液晶显示器(lcd)、阴极射线管(crt)、等离子显示器、发光二极管(led)显示器以及上述项的任意组合。显示适配器852和显示设备836可以与处理器804结合使用，以提供本公开的各个方面的图形表示。除了显示设备之外，计算机系统800可以包括一个或多个其他外围输出设备，其包括但不限于音频扬声器、打印机以及上述项的任意组合。这样的外围输出设备可以经由外围接口856连接至总线812。外围接口的示例包括但不限于串行端口、usb连接、火线连接、并行连接以及上述项的任意组合。
76.前面已经详细描述了本发明的示例性实施例。在不脱离本发明的主旨和范围的情况下，可以进行各种修改和添加。为了在相关的新的实施例中提供多种特征组合，上述各种实施例中的每一个的特征可以与其他描述的实施例的特征进行适当地组合。此外，虽然前面描述了许多单独的实施例，但是本文所描述的内容仅仅是本发明的原理的应用的说明。此外，尽管本文的特定方法可以被示出和/或描述为以特定顺序执行，但是在实现本文所公开的实施例的普通技术中，顺序是高度可变的。因此，此描述仅意味着作为示例，而不是限制本发明的范围。
77.在以上的描述和权利要求中，诸如"至少一个"或"一个或多个"之类的短语之后可以出现元件或特征的连接列表。术语"和/或"还可以出现在两个或多个元件或特征的列表中。除非与使用短语的上下文隐含地或明确地矛盾，否则这样的短语旨在表示单独列出的任意元素或特征，或者任何列举的元素或特征与任何其他列举的元素或特征的组合。例如，短语"a和b中的至少一个"、"a和b中的一个或多个"和"a和/或b"分别旨在表示"单独的a、单独的b，或者a和b二者"。类似的解释还适用于包含三个或更多项目的列表。例如，短语"a、b和c中的至少一个"、"a、b和c中的一个或多个"、"a、b和/或c"分别旨在表示"单独的a、单独的b、单独的c、a和b二者、a和c二者、b和c二者，或者a和b和c"。此外，上文和权利要求中使用术语"基于"旨在表示"至少部分基于"，使得未引用的特征或元素也是允许的。
78.本文描述的主题可以根据期望的配置体现在系统、装置、方法和/或物品中。前面的描述中阐述的实施方式并不代表与本文描述的主题一致的所有实施方式。而是，它们仅仅是与所描述的主题相关的方面一致的一些示例。尽管上文已经详细描述了一些变型，但是其他修改或添加也是可能的。特别地，除了在此阐述的特征和/或变型之外，还可以提供进一步的特征和/或变型。例如，上述实施方式可以针对所公开特征的各种组合和子组合和/或上面公开的几个其他特征的组合和子组合。此外，附图中描述的和/或本文描述的逻辑流程不一定要求所示的特定顺序或先后顺序来实现所期望的结果。其他实施方式可以在权利要求的范围内。