一种模型训练中的注意力图的生成方法、装置以及设备与流程

1.本说明书涉及互联网技术领域，尤其涉及一种模型训练中的注意力图的生成方法、装置以及设备。


背景技术：

2.用户一些行为可能会具有相对稳定的周期性，而另一些行为在受到推荐、营销等外部作用和影响下，其周期可能会随着时间的变化而变化(即非平稳周期)。
3.例如，用户的生活缴费和出行行为数据往往是平稳的(即信号的统计特性不随时间变化)，而在投资行为上往往是非平稳的。在面对非平稳的事件序列时，现有模型常常无法准确捕捉到其周期随时间变化的特性。
4.基于此，需要一种在模型训练中可以适配非平稳性时间事件序列的注意力图的生成方法。


技术实现要素：

5.本说明书实施例提供一种模型训练中的注意力图的生成方法，用以解决如下技术问题：一种在模型训练中可以适配非平稳性时间事件序列的注意力图的生成方法。
6.为解决上述技术问题，本说明书一个或多个实施例是这样实现的：
7.在第一方面，本说明书实施例提供一种模型训练中的注意力图的生成方法，应用于非平稳性时间事件序列，所述方法包括：获取所述事件序列所对应的特征矩阵，所述特征矩阵包括事件键矩阵ke、事件查询矩阵qe和事件值矩阵ve；确定所述事件序列中所包含的第i个事件所对应的第一时间向量x，以及，确定所述事件序列中所包含的第j个事件所对应的第二时间向量x’；根据预设的时态内核、所述第一时间向量x和所述第二时间向量x’确定时间注意力权重矩阵kt，其中，所述时态内核中包含与输入的x和x’相关的可训练参数；采用预设的事件内核确定所述事件键矩阵ke和事件查询矩阵qe所对应的事件注意力权重矩阵ke；融合所述时间注意力权重矩阵kt和所述事件注意力权重矩阵ke生成总注意力权重矩阵；根据所述总注意力权重矩阵和所述事件值矩阵ve生成所述第一事件和所述第二事件间的注意力图。
8.在第二方面，本说明书实施例提供一种模型训练中的注意力图的生成装置，应用于非平稳性时间事件序列，所述装置包括：特征获取模块，获取所述事件序列所对应的特征矩阵，所述特征矩阵包括事件键矩阵ke、事件查询矩阵qe和事件值矩阵ve；时间向量确定模块，确定所述事件序列中所包含的第i个事件所对应的第一时间向量x，以及，确定所述事件序列中所包含的第j个事件所对应的第二时间向量x’；时间注意力权重模块，根据预设的时态内核、所述第一时间向量x和所述第二时间向量x’确定时间注意力权重矩阵kt，其中，所述时态内核中包含与输入的x和x’相关的可训练参数；事件注意力权重模块，采用预设的事件内核确定所述事件键矩阵ke和事件查询矩阵qe所对应的事件注意力权重矩阵ke；融合模块，融合所述时间注意力权重矩阵kt和所述事件注意力权重矩阵ke生成总注意力权重矩
阵；注意力图模块，根据所述总注意力权重矩阵和所述事件值矩阵ve生成所述第一事件和所述第二事件间的注意力图。
9.在第三方面，本说明书一个或多个实施例提供一种电子设备，包括：
10.至少一个处理器；以及，
11.与所述至少一个处理器通信连接的存储器；其中，
12.所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如第一方面所述的方法。
13.在第四方面，本说明书实施例提供一种非易失性计算机存储介质存储有计算机可执行指令，当计算机读取存储介质中的计算机可执行指令后，该指令使得一个或多个处理器执行如第一方面所述的方法。
14.本说明书一个或多个实施例采用的上述至少一个技术方案能够达到以下有益效果：通过获取所述事件序列所对应的特征矩阵；确定所述事件序列中所包含的第i个事件所对应的第一时间向量x，以及，确定所述事件序列中所包含的第j个事件所对应的第二时间向量x’；根据预设的时态内核、所述第一时间向量x和所述第二时间向量x’确定时间注意力权重矩阵kt，其中，所述时态内核中包含与输入的x和x’相关的可训练参数；采用预设的事件内核确定所述事件键矩阵ke和事件查询矩阵qe所对应的事件注意力权重矩阵ke；融合所述时间注意力权重矩阵kt和所述事件注意力权重矩阵ke生成总注意力权重矩阵；根据所述总注意力权重矩阵和所述事件值矩阵ve生成所述第一事件和所述第二事件间的注意力图，从而可以体现出各事件发生的绝对时间和相对时间在相关性上的贡献，实现在非平稳性时间事件序列中提取得到包含准确特征的注意力图，提高模型对于非平稳性时间事件序列的预测性能。
附图说明
15.为了更清楚地说明本说明书实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
16.图1为本说明书一个或多个实施例提供的一种基于小程序动静态分析的风险检测方法的流程示意图；
17.图2为本说明书实施例提供的一种模型训练中的注意力图的生成方法的流程示意图；
18.图3为本技术实施例所提供的对于不同的注意图的生成方式的比较示意图；
19.图4为本说明书实施例提供的一种模型训练中的注意力图的生成装置的结构示意图；
20.图5为本说明书实施例提供的一种电子设备的结构示意图。
具体实施方式
21.本说明书实施例提供一种模型训练中的注意力图的生成方法、装置、设备以及存储介质。
22.为了使本技术领域的人员更好地理解本说明书中的技术方案，下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本技术一部分实施例，而不是全部的实施例。基于本说明书实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本技术保护的范围。
23.在很多实际的生活场景中，用户的行为在时间周期经常会表现的没有太多的规律。如图1所示，图1为本说明书实施例所涉及的一种用户事件的周期的示意图。在该示意图中，示例性的给出了用户进行生活缴费(例如，水、电、煤气等费用)、出行和投资行为的不同周期示意图。可以看到，用户的生活缴费和出行行为数据是具有一定的时间上的规律，可以将这种具有一定时间上的周期规律的一系列事件称为平稳事件序列；而用户的投资行为则不具有明显的时间周期规律，这一类事件即可以视为非平稳事件序列。
24.类似的非平稳性时间事件序列还可以发生在其他的场景中，例如，用户每次启动客户端之后，可能会在客户端中启动某一个或者几个小程序；那么对于某些类别小程序而言，其被启动的时间可能具有一定的周期性，而在另一些小程序而言，其被启动的时间就不具备这种显著的周期性。
25.在非平稳事件序列中，当前的方法不能很好的刻化序列中各事件的相关性关系，在无法精确捕捉到事件之间的相关性特征时，这就给模型训练和预测带来了一定的困难。基于此，本说明书实施例提供一种模型训练中的注意力图的生成方案。
26.如图2所示，图2为本说明书实施例提供的一种模型训练中的注意力图的生成方法的流程示意图，包括以下步骤：
27.s201，获取所述事件序列所对应的特征矩阵，所述特征矩阵包括事件键矩阵ke、事件查询矩阵qe和事件值矩阵ve。
28.首先，设s＝{(t1.e1)，...，(tn，en)}表示包含一系列事件ei的事件序列，ti表征事件ei的发生时间，其中，1≤i≤n，各事件之间的时间间隔规律可能会随时间变化，即s为非平稳性时间事件序列。
29.φt(t)和φe(e)为预设的可学习的映射函数，其中，φt(t)将时间t进行编码并映射至d维空间而得到对应的时间矩阵v
t
，φe(e)将事件e进行编码并映射至d维空间而得到对应的事件矩阵ve，从而得到对应的基础特征x(包括所述时间矩阵v
t
和事件矩阵ve)。
30.在得到关于事件序列的基础特征x之后，即可以使用wk、wq和wv三个权重矩阵与x相乘来得到对应的获取所述事件序列所对应的特征矩阵。例如，将事件矩阵ve与前述的权重矩阵相乘，即得到对应的事件键矩阵ke、事件查询矩阵qe和事件值矩阵ve，对于时间矩阵进行相乘即得到对应的时间键矩阵kt、时间查询矩阵qt和时间值矩阵vt。
31.事件键矩阵ke、事件查询矩阵qe和事件值矩阵ve中的每一行对应一个事件，相应的，时间键矩阵kt、时间查询矩阵qt和时间值矩阵vt中的每一行即代表一个对应的时间。
32.需要说明的是，在常规方式的对于注意力图的计算中，通常会将时间矩阵和事件矩阵进行合并得到同时包含了事件特征和时间特征的q矩阵、k矩阵和v矩阵。
33.但是在本技术中，将会分别对于前述的时间键矩阵kt、时间查询矩阵qt和时间值矩阵vt进行时态内核上的计算，以及，对于前述的事件键矩阵ke、事件查询矩阵qe和事件值矩阵ve进行事件内核上的计算，并最终得到注意力图。如图3中所示，图3为本技术实施例所
提供的对于不同注意图的生成方式的比较示意图。其中，图3中的左侧(a)部分中所示意的为常规方式的计算方式，而图3中的右侧(b)部分中所示意的即为本技术中的先计算了时间注意力权重矩阵kt和事件注意力权重矩阵ke，然后计算了总注意力权重矩阵km，并基于km和事件值矩阵ve计算得到注意力图。
34.s203，确定所述事件序列中所包含的第i个事件所对应的第一时间向量x，以及，确定所述事件序列中所包含的第j个事件所对应的第二时间向量x’。
35.在基于前述方式得到了时间查询矩阵qt之后，在计算注意力图的过程中，需要计算任意的事件ei相对于事件ej之间的相关性，此时，即可以从所述时间查询矩阵qt中将其对应的第i行确定所述事件序列中所包含的第i个事件所对应的第一时间向量x(又可以记为t
qi
)，以及，将所述时间键矩阵kt中将其对应的第j行确定所述事件序列中所包含的第j个事件所对应的第二时间向量x’(又可以记为t
kj
)。
36.s205，根据预设的时态内核、所述第一时间向量x和所述第二时间向量x’确定时间注意力权重矩阵kt，其中，所述时态内核中包含与输入的x和x’相关的可训练参数。
37.时态内核为一预设的映射函数，用于根据输入的x和x’来计算事件ei和ej的发生时间的相关性，这种相关性既包括绝对时间(即x和x’)上的相关性，也包括相对时间(即x与x’的间隔)上的相关性，换言之，在时态内核的选项中通常而言应当包括与绝对时间相关的绝对计算项，也应当包括相对时间相关的相对计算项。其中，在绝对计算项和相对计算项中都应当包含有可训练参数，以便根据模型的输入对这些可训练参数进行调整，从而得到可以准确反映训练样本的取值。
38.以下给出一种示例性的时态内核的形式。其中，所述时态内核中包含第一子内核、第二子内核和第三子内核；所述第一子内核中包含可训练的权重参数αi(x)，用于调整所述第一子内核中所包含的第i个隐式分布的权重；所述第二子内核中包含可训练的长度参数li(x)，用于表征两个输入x和x’的全局与局部相关性；所述第三子内核中包含可训练的频率参数μi(x)，用于表征事件之间的周期相关性和其对绝对时间的依赖。
39.例如，第一子内核可以是与输入的x和x’相关的包含多个隐式分布项的双层神经网络结构，第二子内核可以是与与x、x’以及x-x’均相关的非线性函数，第三子内核可以是间接反映了x与x’之间的时间差的周期性函数。
40.进一步地，其中第一子内核的形式可以是αi(x)*αi(x’)，αi即为与输入相关的第i个隐式分布项，第二子内核可以是如下形式：
[0041][0042]
其中的li(x)即为以双层神经网络结构表示的可训练的长度参数，其中，为了避免li(x)在被激活之后的取值变成0，可以给其设置一个最小值，例如可以将其最小值设置为1/1000000。在该形式的第二子内核中即可以同时包括了与绝对时间相关的绝对计算项和与包括相对时间相关的相对计算项，从而实现同时表征时间上的全局相关性与局部相关性。
[0043]
第三子内核即可以是三角函数的形式，例如，可以采用cos(2π(μi(x)x-μi(x’)x’))的形式，通过三角函数的形式，既能表征各事件对绝对时间的依赖，还可以间接的表征
出各类事件之间的周期相关性。
[0044]
需要说明的是，在关于时态内核的形式中，第一子内核、第二子内核以及第三子内核的形式并不是固定的，例如，第三子内核也可以是sin(2π(μi(x)x-μi(x’)x’))或者cos(2π(μi(x)-μi(x’))等等形式。
[0045]
从而一种可能的混合了前述的第一子内核、第二子内核以及第三子内核的时态内核的形式可以称为广义混合谱(generalized spectral mixture)时态内核k
gsm
，其形式可以为第一子内核、第二子内核以及第三子内核的乘积：
[0046][0047]
其中的k
gibbs
(x，x’)即为第二子内核的一种形式。
[0048]
在时态内核的形式上，如果将前述的第一子内核、第二子内核以及第三子内核中所包含的可训练参数(即αi(x)、li(x)和μi(x))退化至与输入无关的常数时，此时的事态内核即退化为常规方式的静态sm内核。
[0049]
此外，需要说明的是，时态内核的一种形式可以视为前述第一子内核、第二子内核以及第三子内核的乘积，但是，时态内核也可以是其它的形式，例如，时态内核可以是第一子内核、第二子内核以及第三子内核中任意两个子内核的乘积，等等。
[0050]
但是，在去除掉某一种子内核之后，对于非平稳性时间事件序列而言，实际上都会在计算过程中消除了时间上的某种相关性。
[0051]
例如，假设在广义混合谱时态内核k
gsm
中移除了第一子内核，即意味着将各隐式分布的权重视为相同，实际效果表明模型的性能将大幅下降，这表征在模型中各分布实际上的作用是不同的，其各自的权重需要某个参数来衡量。
[0052]
又例如，假设在广义混合谱时态内核k
gsm
中移除了第二子内核，即意味着在时态内核中没有显示的表征长短期时间依赖相关的计算项，这导致训练的模型难以表征各事件发生的相对相关性，同样导致模型性能的下降。
[0053]
又例如，假设在广义混合谱时态内核k
gsm
中移除了第三子内核，即意味着在时态内核中没有表征事件周期性的相关项，这就导致对于非平稳性时间事件序列中可能包含的部分周期性事件不能很好的表征。
[0054]
在实际处理中，本技术的方案还实验了在时态内核中去除与输入x直接相关的选项，即将k
gsm
中与x直接相关的αi(x)、li(x)和μi(x)去除，而使用静态参数替代，但结果显示都导致了模型性能的下降。这充分说明在前述的时态内核中li(x)和αi(x)都依赖于输入参数，换言之，前述的li(x)和αi(x)实际上可以较好从短期或者长期上来表征各事件的发生时间上的绝对相关性和相对相关性。
[0055]
在确定了时态内核之后，即可以将所述第一时间向量x和所述第二时间向量x’作为所述第一子内核、第二子内核和第三子内核的输入参数，分别确定所述第一子内核、第二子内核和第三子内核的取值；将所述第一子内核、第二子内核和第三子内核的取值的乘积确定为第一乘积矩阵；对所述第一乘积矩阵进行缩放，生成缩放后的第一乘积矩阵；隐藏所
述缩放后的第一乘积矩阵中的部分值生成时间注意力权重矩阵kt。
[0056]
在前述的第一乘积矩阵进行缩放时，通常可以将得到的第一乘积矩阵除以以避免数值过大，其中d为得到的第一乘积矩阵的维度。并在缩放之后点乘一个预设的隐藏矩阵(隐藏矩阵中各元素的值为预设的固定的0或者1，并且不会随模型训练而改变)从而实现对部分值进行隐藏。
[0057]
s205，采用预设的事件内核确定所述事件键矩阵ke和事件查询矩阵qe所对应的事件注意力权重矩阵ke。
[0058]
事件内核即可以如图3所示，基于所得到的事件键矩阵ke和事件查询矩阵qe，确定事件键矩阵ke中的第j行的值e
kj
，以及确定所述事件查询矩阵qe中的第i行向量e
qi
，并将所述第i行向量e
qi
与所述向量e
kj
的转置作为所述事件内核的输入参数，生成第二乘积矩阵。并对所述第二乘积矩阵进行缩放，生成缩放后的第二乘积矩阵。
[0059]
即
[0060]
对于得到的第二乘积矩阵同样可以采用前述的隐藏矩阵进行点乘的方式来实现部分数值的隐藏，从而得到事件注意力权重矩阵ke，来防止模型过拟合。
[0061]
s207，融合所述时间注意力权重矩阵kt和所述事件注意力权重矩阵ke生成总注意力权重矩阵。
[0062]
通过前述方式计算得到的事件注意力权重矩阵ke和时间注意力权重矩阵kt的大小是相同的，因此，一种较为便捷的融合方式即可以是将所述时间注意力权重矩阵kt和所述事件注意力权重矩阵ke的相同位置的值进行点乘，生成总注意力权重矩阵km。
[0063]
当然，也可以采用其它的融合方式，例如，采用相应的权重分布对所述ke和km进行加权融合等等。
[0064]
s209，根据所述总注意力权重矩阵和所述事件值矩阵ve生成所述第一事件和所述第二事件间的注意力图。
[0065]
即如图3中所示，将所述km与所述事件值矩阵ve进行矩阵相乘即可以得到最终的注意力图，计算得到的注意力图即表征了各事件之间的相关性。此外，在模型的训练过程中，需要基于所计算得到的注意力图对于前述的时态内核中所包含的可训练参数进行训练。
[0066]
从图3中可以看出，与常规方式的不同之处在于本技术使用了前述的时态内核来表征了非平稳性时间序列中各事件的相关性，以及，在对于值矩阵v的使用中，仅使用了事件值矩阵ve，而无需使用到时间值矩阵vt，从而独立从时间核和事件核上分别表征了事件序列中各事件的时间相关性和非时间相关性。
[0067]
通过获取所述事件序列所对应的特征矩阵；确定所述事件序列中所包含的第i个事件所对应的第一时间向量x，以及，确定所述事件序列中所包含的第j个事件所对应的第二时间向量x’；根据预设的时态内核、所述第一时间向量x和所述第二时间向量x’确定时间注意力权重矩阵kt，其中，所述时态内核中包含与输入的x和x’相关的可训练参数；采用预设的事件内核确定所述事件键矩阵ke和事件查询矩阵qe所对应的事件注意力权重矩阵ke；融合所述时间注意力权重矩阵kt和所述事件注意力权重矩阵ke生成总注意力权重矩阵；根
据所述总注意力权重矩阵和所述事件值矩阵ve生成所述第一事件和所述第二事件间的注意力图，从而可以体现出各事件发生的绝对时间和相对时间在相关性上的贡献，实现在非平稳性时间事件序列中提取得到包含准确特征的注意力图，提高模型对于非平稳性时间事件序列的预测性能。
[0068]
在一种实施例中，采用前述方式进行模型训练时，由于非平稳性时间事件序列的训练样本较难采集，因此，可以采用模拟的方式来生成非平稳性时间事件序列。
[0069]
即获取包含振幅函数、频率函数、相位项和噪声项的三角周期信号，其中，所述相位项满足随机分布，所述噪声项满足正态分布；通过所述三角周期信号产生所述事件序列中的事件。
[0070]
例如，三角周期信号可以是如下形式其中，ai(t)为振幅函数，ωi(t)为频率函数，δi为相位项，εi为噪声项，从而通过该方式，只要当和ai(t)和ωi(t)不是常数时，产生的事件e(t)即可以构成非平稳性时间事件序列。通过该方式，可以快速构建出随机的训练样本，满足模型训练的需求。
[0071]
本技术的方案可以从实际事件中收集相应的非平稳性时间事件序列作为训练样本，并应用于相对应的场景中。例如，可以从电池系统中收集得到时间、温度信息和相对应的负载指标作为事件序列，从而训练得到的模型可以预测从当前时间开始的几个小时之后的电池温度。
[0072]
又例如，可以将指定城市中的长期的气象观测中所得到的每小时的细颗粒物pm2.5的数值或者等级作为事件序列，从而训练得到的模型可以基于当天所采集得到的细颗粒物pm2.5的数值或者等级来预测在所述指定城市的第二天的交通出行高峰时间。
[0073]
又例如，通过收集用户和平台所提供的服务之间的包含有时间戳的交互数据作为事件序列，训练得到的模型可以用来预测用户在登录平台后将在平台上访问的下一项服务，或者，用来预测用户在登录平台后访问某个指定服务的可能时间。
[0074]
基于同样的思路，本说明书一个或多个实施例还提供了上述方法对应的装置和设备，如图4、图5所示。
[0075]
图4为本说明书实施例提供的一种模型训练中的注意力图的生成装置的结构示意图，应用于非平稳性时间事件序列，所述装置包括：
[0076]
特征获取模块401，获取所述事件序列所对应的特征矩阵，所述特征矩阵包括事件键矩阵ke、事件查询矩阵qe和事件值矩阵ve；
[0077]
时间向量确定模块403，确定所述事件序列中所包含的第i个事件所对应的第一时间向量x，以及，确定所述事件序列中所包含的第j个事件所对应的第二时间向量x’；
[0078]
时间注意力权重模块405，根据预设的时态内核、所述第一时间向量x和所述第二时间向量x’确定时间注意力权重矩阵kt，其中，所述时态内核中包含与输入的x和x’相关的可训练参数；
[0079]
事件注意力权重模块407，采用预设的事件内核确定所述事件键矩阵ke和事件查询矩阵qe所对应的事件注意力权重矩阵ke；
[0080]
融合模块409，融合所述时间注意力权重矩阵kt和所述事件注意力权重矩阵ke生成总注意力权重矩阵；
[0081]
注意力图模块411，根据所述总注意力权重矩阵和所述事件值矩阵ve生成所述第一事件和所述第二事件间的注意力图。
[0082]
可选地，在所述装置中，所述时态内核中包含第一子内核、第二子内核和第三子内核；所述第一子内核中包含可训练的权重参数αi(x)，用于调整所述第一子内核中所包含的第i个隐式分布的权重；所述第二子内核中包含可训练的长度参数li(x)，用于表征两个输入x和x’的全局与局部相关性；所述第三子内核中包含可训练的频率参数μi(x)，用于表征事件之间的周期相关性和其对绝对时间的依赖。
[0083]
可选地，所述时间注意力权重模块405，将所述第一时间向量x和所述第二时间向量x’作为所述第一子内核、第二子内核和第三子内核的输入参数，分别确定所述第一子内核、第二子内核和第三子内核的取值；将所述第一子内核、第二子内核和第三子内核的取值的乘积确定为第一乘积矩阵；对所述第一乘积矩阵进行缩放，生成缩放后的第一乘积矩阵；隐藏所述缩放后的第一乘积矩阵中的部分值生成时间注意力权重矩阵kt。
[0084]
可选地，所述事件注意力权重模块407，确定所述事件查询矩阵qe中的第i行向量e
qi
，以及，确定所述事件键矩阵ke中的第j行向量e
kj
；将所述第i行向量e
qi
与所述向量e
kj
的转置作为所述事件内核的输入参数，生成第二乘积矩阵；对所述第二乘积矩阵进行缩放，生成缩放后的第二乘积矩阵；隐藏所述缩放后的第二乘积矩阵中的部分值生成事件注意力权重矩阵ke。
[0085]
可选地，所述融合模块409，将所述时间注意力权重矩阵kt和所述事件注意力权重矩阵ke的相同位置的值进行点乘，生成总注意力权重矩阵。
[0086]
可选地，所述装置还包括事件生成模块413，获取包含振幅函数、频率函数、相位项和噪声项的三角周期信号，其中，所述相位项满足随机分布，所述噪声项满足正态分布；通过所述三角周期信号产生所述事件序列中的事件。
[0087]
如图5所示，图5为本说明书实施例提供的一种电子设备的结构示意图，所述设备包括：
[0088]
至少一个处理器；以及，
[0089]
与所述至少一个处理器通信连接的存储器；其中，
[0090]
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如第一方面所述的方法。
[0091]
基于同样的思路，本说明书实施例还提供了对应于上述方法的一种非易失性计算机存储介质，存储有计算机可执行指令，当计算机读取存储介质中的计算机可执行指令后，该指令使得一个或多个处理器执行如第一方面所述的方法。
[0092]
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(programmable logic device,pld)(例如现场可编程门阵列(field programmable gate array，fpga))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片pld上，而不需要请芯片制造厂商来设计和制作
专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(hardware description language，hdl)，而hdl也并非仅有一种，而是有许多种，如abel(advanced boolean expression language)、ahdl(altera hardware description language)、confluence、cupl(cornell university programming language)、hdcal、jhdl(java hardware description language)、lava、lola、myhdl、palasm、rhdl(ruby hardware description language)等，目前最普遍使用的是vhdl(very-high-speed integrated circuit hardware description language)与verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
[0093]
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(application specific integrated circuit，asic)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：arc 625d、atmel at91sam、microchip pic18f26k20以及silicone labs c8051f320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
[0094]
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
[0095]
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
[0096]
本领域内的技术人员应明白，本说明书实施例可提供为方法、系统、或计算机程序产品。因此，本说明书实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本说明书实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
[0097]
本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用
于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0098]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0099]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0100]
在一个典型的配置中，计算设备包括一个或多个处理器(cpu)、输入/输出接口、网络接口和内存。
[0101]
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(ram)和/或非易失性内存等形式，如只读存储器(rom)或闪存(flash ram)。内存是计算机可读介质的示例。
[0102]
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、快闪记忆体或其他内存技术、只读光盘只读存储器(cd-rom)、数字多功能光盘(dvd)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
[0103]
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
[0104]
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
[0105]
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、设备、非易失性计算机存储介质实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
[0106]
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来
执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。
[0107]
以上所述仅为本说明书的一个或多个实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书的一个或多个实施例可以有各种更改和变化。凡在本说明书的一个或多个实施例的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。