一种基于多任务联合学习的点击转化率预测方法

1.本发明属于电商大数据推荐领域，特别涉及一种基于多任务联合学习的点击转化率预测方法。


背景技术：

2.近年来，互联网的高速发展，给人们的生活带来了越来越多的便利。其中，推荐系统是互联网应用中不可或缺的一部分。推荐系统应用在电商平台中让用户能够及时地得到自己感兴趣的物品。同时，在过去的几年里，一个新兴的行业，线上广告，也随之出现。搭建一个推荐系统有两项任务是必不可少的：点击率(click through rate，ctr)预测和点击转化率(post-click conversion rate，cvr)预测，其中ctr表示的是商品从出现到被点击的转换概率，cvr表示商品被点击后用户购买的概率。
3.另一方面，随着电子商务的发展，在线广告成为商家进行商品推广和获取收入的有效方法之一。根据报道，在2020年，全球在线广告支出总额已达3033亿美元，并占全球广告行业支出的54.4％。对于广告商来说，打造广告除了突显品牌形象，更重要的是追求每次广告投放的实际收益，即广告展示后用户是否购买广告展示的产品。因此，展示广告定向投放的一个重点就是将广告尽可能投放到那些会产生收益的曝光机会(ad impression)上，这就要求广告投放系统在投放之前对cvr进行预测，并根据预测结果，将广告定向投放到转化率高的曝光机会上，实现利益最大化。然而，cvr很难准确的预测，这是因为用户点击转化行为比点击率行为发生的频率更低，并且转化行为相对于点击行为可能会有较长的延迟，这就使得离线建模非常困难。但是在工业上，通过对cvr进行分析和研究，不仅能够判断广告投放后的市场效益,还能进一步明确广告投放对网络消费者行为的影响,帮助广告主更好地开展营销活动,实现商业目标。因此cvr预测有着重要的商业价值和学术研究价值,已经成为了近几年学术界和产业界的一个重要领域。
4.随着电商平台下商品数据量和用户行为数据不断增加和图神经网络的不断发展，有着能够学习不同实体之间关系的异质图神经网络被应用到了电商平台下的行为预测模型中。wang等人(wang x,ji h,shi c,et al.heterogeneous graph attention network[c]//the world wide web conference.2019:2022-2032.)提出了一种能够同时考虑节点级别注意力和语义级别注意力的图神经网络，该网络对同元路径下的节点进行加权表示，同时考虑节点在每条元路径的重要程度，最后对两者进行聚合，得到最终的节点表示。受该篇论文的启发，本发明提出了一种面向电商平台用户行为的点击转化率预测方法，引入电商平台中丰富的辅助信息和用户的历史行为信息，不仅能够有效地预测出商品的点击转化率，还能够分析出不同用户行为对最终点击转化率的影响。
[0005]
综合当前电商平台下对点击转化率已有的研究情况，发现在点击转化率预测上仍存在一些挑战：
[0006]
1.电商平台下，用户有效行为数据稀疏。虽然电商平台下，用户产生的数据量十分客观，但是能够体现用户对商品喜爱程度的行为数据是稀疏的。挖掘有效的用户行为可以
提高对点击转化率预测任务的精度。
[0007]
2.用户对某一商品存在着多种行为。对感兴趣的商品，用户可能对其进行点击、加购、收藏、评论等多种行为，每一种行为代表着用户对该商品的喜好程度。讨论不同用户行为对最终是否下单的影响，也是提高预测准确率的一大因素。
[0008]
3.在电商平台下，用户是否有意愿购买一件商品，与该商品时候被点击是互不影响的。但是，在进行传统的模型训练时，判断商品是否能够在最终被购买，是以被点击的商品集为训练空间，而非浏览商品集。这就导致了样本选择偏差，这就导致了最终的点击转化率出现了一定的偏差，如何解决样本选择偏差问题是研究点击转化率一项重要难题。


技术实现要素：

[0009]
针对上述挑战，本技术提出一种基于多任务联合学习的点击转化率预测方法，包括以下步骤：
[0010]
获取电商平台下的用户信息、商品信息、辅助信息以及用户历史行为数据信息，所述辅助信息包括与用户或商品直接关联的用户的搜索词、店铺信息、活动信息；
[0011]
通过用户历史行为数据信息构建用户-商品感兴趣度；
[0012]
基于辅助信息，通过meta-path随机游走策略获取用户节点序列和商品节点序列，即定义一条以节点1-辅助信息1-节点2-辅助信息2
‑…‑
节点n-1-辅助信息n-1-节点n的元路径，去除元路径中的辅助信息得到节点序列，所述节点为商品节点或者用户节点；
[0013]
根据得到的用户节点序列和商品节点序列计算该各自序列中节点与其相邻节点之间的二阶相似度；
[0014]
将商品节点和用户节点投影到相同的特征空间上，在该特征空间中指定一条由该空间中节点构成的元路径，计算该路径中一个节点对另一个节点的重要性，将当前节点的所有邻居节点对当前节点的重要进行归一化得到当前节点的注意力系数；
[0015]
计算在一组元路径下当前节点的注意力系数，利用该系数对当前节点的邻居节点在投影的特征空间的表示加权求和作为当前节点的聚合表示；
[0016]
利用用户-商品感兴趣度对节点在所有原路径的聚合表示进行加权，得到该节点的最终嵌入表示；
[0017]
获取用户对商品的评分矩阵，并通过该矩阵获取用户点击矩阵和用户购买矩阵得到的用户和商品的信息分别输入预测器中计算用户对商品的点击率和转化率；
[0018]
用过点击率和转化率预测用户购买某一商品的概率。
[0019]
进一步的，用户历史行为数据信息构建用户-商品感兴趣度表示为：
[0020][0021]
其中，表示用户um对商品in的感兴趣度；isbuy、iscollect、iscart、isclick、isbrowse分别代表着用户对商品是否购买、是否收藏、是否加入购物车、是否点击、是否浏览；当用户购买该商品，则isbuy的值为5；当用户收藏该商品，则iscollect的值为4；当用户将该商品加入购物车，则iscart的值为3；当用户点击该商品的值，则isclick的值为2；当用户浏览该商品，则isbrowse的值为1；当用户没有对商品进行购买、收藏、加入购
物车、点击、浏览，则isbuy、iscollect、iscart、isclick、isbrowse的值均为0。
[0022]
进一步的，meta-path随机游走策略中，给定异质网络信息并指定元路径为游走约束，通过基于元路径的随机游走策略来生成相应的节点序列，随机游走的概率表示为：
[0023][0024]
其中，表示随机游走的概率，v
m 1
表示要生成的下一个节点，表示类型为a
t
的节点，φs为制定的第s条元路径；表示在节点的周围邻居中类型为a
t 1
节点的集合，||表示求集合中元素的数量；e表示异质图中的边；φ(v
m 1
)用于判断下一个节点的类型；为异质网络中节点的集合，ε为异质网络中节点之间边关系的集合。
[0025]
进一步的，节点的最终嵌入表示表示为：
[0026][0027]
其中，z＝zu∪zi，表示节点的最终嵌入表示，表示用户um的最终嵌入表示，表示商品iq的最终嵌入表示；表示第s条元路径φs中的节点嵌入表示；表示在第s条元路径φs中用户um对商品in的感兴趣度；在第s条元路径φs中用户对商品的兴趣度的大小；s为元路径的数量。
[0028]
进一步的，一个节点i在元路径φs下的注意力加权表示为：
[0029][0030]
其中，表示进行k次学习，为元路径φs下的一个节点i的表示，k为重复训练的次数；σ()为激活函数；表示元路径φs下i节点的邻域；表示在元路径中φs节点i的每个邻居节点对其的注意力系数；h
′j表示一个节点的向量表示hj投影到商品与用户一致的特征空间后的向量表示，hj为商品节点或者用户节点。
[0031]
进一步的，节点i的每个邻居节点对其的注意力系数表示为：
[0032][0033][0034]
其中，[h
′i||h
′j]表示将节点i的向量表示h
′i与节点j的向量表示h
′j拼接在一起，h′i和h
′j为节点的向量表示hi和节点的向量表示hj投影到相同的特征空间上后得到的向量表示，节点为商品节点或者用户节点；为一个转换系数，使得[h
′i||h
′j]从矩阵转换为一个标量；att
node
表示元路径φs下执行节点注意力聚合操作的深度神经网络；sim
ij
表示节点i与节点j之间的二阶相似度。
[0035]
进一步的，在计算节点i与节点j之间的二阶相似度时，根据节点为用户节点还是商品节点进行计算，若节点为用户节点，则用户-用户的二阶相似度表示为：
[0036][0037]
若节点为商品节点，则商品-商品的二阶相似度表示为：
[0038][0039]
其中，为用户um与用户un的二阶相似度；|t
u_mn
|表示用户um和用户un的之间辅助信息集合t
u_mn
中辅助信息的数量；表示在第k个辅助信息出现在用户um和用户un之间辅助信息集合t
u_mn
中的次数；表示第k个辅助关系在用户um和用户un的辅助关系中的比重；为商品i
p
和商品iq的二阶相似度；|t
i_pq
|表示商品i
p
和商品iq之间辅助信息集合t
i_pq
中辅助信息的数量；表示在第k个辅助信息出现商品i
p
和商品iq之间辅助信息集合t
i_pq
中的次数；表示第k个辅助关系在商品i
p
和商品iq的辅助关系中的比重。
[0040]
进一步的，构建预测模型包括：
[0041][0042]
其中，表示用户um购买商品iq的预测概率；表示用户um的向量表示；表示商品iq的向量表示；表示用户um的最终嵌入表示，表示商品iq的最终嵌入表示；和表示商品iq和用户um的隐式因子；α和β为调整因子。
[0043]
进一步的，对预测模型进行训练的过程中采用的损失函数表示为：
[0044][0045]
其中，￡为损失函数；表示元路径集合；u表示用户集合；i表示商品集合；表示用户um的向量表示；表示用户um购买商品iq的实际概率集合；λ是第一正则化参数。
[0046]
进一步的，采用sgd对损失函数进行优化，表示为：
[0047][0048]
其中，为优化后的值；为优化后的值；η是学习率。
[0049]
本发明对用户是否进行下单进行概率预测，可应用于电商平台的推荐系统中，协助电商平台掌握消费群体行为特性分布，同时有利于广告主精准投放广告信息，减少广告成本。
附图说明
[0050]
图1为本发明一种基于多任务联合学习的点击转化率预测方法的流程示意图；
[0051]
图2为本发明一种基于多任务联合学习的点击转化率预测方法采用的异质图注意力网络结构示意图；
[0052]
图3为本发明一种基于多任务联合学习的点击转化率预测方法中采用多任务联合学习的示意图；
[0053]
图4为本发明一种基于多任务联合学习的点击转化率预测方法进行预测过程的示意图。
具体实施方式
[0054]
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
[0055]
本发明提供一种基于多任务联合学习的点击转化率预测方法，具体包括以下步骤：
[0056]
获取电商平台下的用户信息、商品信息、辅助信息以及用户历史行为数据信息，所述辅助信息包括与用户或商品直接关联的用户的搜索词、店铺信息、活动信息；
[0057]
通过用户历史行为数据信息构建用户-商品感兴趣度；
[0058]
基于辅助信息，通过meta-path随机游走策略获取用户节点序列和商品节点序列，即定义一条以节点1-辅助信息1-节点2-辅助信息2
‑…‑
节点n-1-辅助信息n-1-节点n的元路径，去除元路径中的辅助信息得到节点序列，所述节点为商品节点或者用户节点；
[0059]
根据得到的用户节点序列和商品节点序列计算该各自序列中节点与其相邻节点之间的二阶相似度；
[0060]
将商品节点和用户节点投影到相同的特征空间上，在该特征空间中指定一条由该空间中节点构成的元路径，计算该路径中一个节点对另一个节点的重要性，将当前节点的所有邻居节点对当前节点的重要进行归一化得到当前节点的注意力系数；
[0061]
计算在一组元路径下当前节点的注意力系数，利用该系数对当前节点的邻居节点在投影的特征空间的表示加权求和作为当前节点的聚合表示；
[0062]
利用用户-商品感兴趣度对节点在所有原路径的聚合表示进行加权，得到该节点
的最终嵌入表示；
[0063]
获取用户对商品的评分矩阵，并通过该矩阵获取用户点击矩阵和用户购买矩阵得到的用户和商品的信息分别输入预测器中计算用户对商品的点击率和转化率；
[0064]
用过点击率和转化率预测用户购买某一商品的概率。
[0065]
在本实施例中，主要从数据获取、相关属性提取以及模型建立三个方面对方案进行说明。
[0066]
在获取在线数据的过程中，数据源的获取可以直接从企业提供的数据库中实时查询。包括用户的基本特征数据、商品的基本特征数据、用户历史行为数据(如浏览、点击、购买、添加购物车、收藏等)以及电商平台下店铺信息、营销活动信息等辅助信息。原始数据可以通过社交网络公共api或直接下载已有的数据源都可以得到原始数据。因为通常获取的原始数据都是非结构化的，不能直接用于数据分析，通过简单的数据清洗可以使大部分非结构化数据结构化，例如，清理非法或者无效信息、删除重复数据等。
[0067]
在提取相关属性的过程中，分别从用户基本特征数据、商品基本特征数据、辅助信息以及用户行为数据四方面来进行提取相关属性。在电商平台下，用户最终是否进行下单受多方面影响，比如：用户的兴趣爱好、相似用户的有效行为和用户与电商平台下辅助信息的交互行为，如搜索词、参与的营销活动等。基于此，本文对影响用户行为的因子进行形式化，用户不同的行为代表着用户对商品喜好程度的不同，因此本文定义用户商品兴趣度为：
[0068][0069]
其中，表示用户um对商品in的感兴趣度；isbuy、iscollect、iscart、isclick、isbrowse分别代表着用户对商品是否购买、是否收藏、是否加入购物车、是否点击、是否浏览；当用户购买该商品，则isbuy的值为5；当用户收藏该商品，则iscollect的值为4；当用户将该商品加入购物车，则iscart的值为3；当用户点击该商品的值，则isclick的值为2；当用户浏览该商品，则isbrowse的值为1；当用户没有对商品进行购买、收藏、加入购物车、点击、浏览，则isbuy、iscollect、iscart、isclick、isbrowse的值均为0。
[0070]
在电商平台下，用户和商品之间往往可以通过品牌、风格、商品类别等信息关联起来，本文称这些信息为辅助信息，辅助信息可以是各种两个节点之间的关联信息，例如两个用户参与相同购物活动(例如双十一、618等活动)则可认为两个用户之间存在关联，辅助信息也可以是两个用户收藏相同店铺等，本实施例将所有将两个节点联系在一起的信息统称为辅助信息。而用户-用户或商品-商品之间可以通过辅助信息建立二阶相似度。通过挖掘节点的二阶相似度，能够大大地提高模型的泛化能力，降低用户行为数据稀疏带来的影响。因此，本文定义节点二阶相似度为：
[0071][0072]
式中，t表示两个节点之间辅助关系的集合，表示辅助信息k对节点i的影响大小，tk表示辅助关系k(或称为第k个辅助关系)在节点i和节点j之间出现的次数；表
示是否节点i和节点j共同对辅助信息k存在着联系，若是则该值为1，否则为0。
[0073]
在建立模型的过程主要分为三个阶段，第一阶段基于辅助信息下对u-i节点序列进行表示，本文从基本的信息数据当中提取出能够将用户与用户以及商品与商品能够联系起来的辅助信息，通过设计meta-path随机游走策略，产生联系更加密切的u-i节点序列；第二阶段是节点信息聚合，本文通过使用异质图神经注意网络，计算邻居节点对当前节点的重要性，并粒化各个节点在行为元路径的重要程度，最后对节点进行节点级别以及语义级别的聚合表示；第三阶段是建立多任务联合学习mt-mf点击转化率预测模型，利用矩阵分解在每个辅助任务中构建评分预测器，对用户是否会完成下单行为进行预测。
[0074]
在第一个阶段以元路径为指导进行游走表示的方法能够解决异质图中多类型节点或多类型边的复杂问题，本文基于元路径设计一种新的随机游走策略，以便能够将节点信息精确的表示。给定异质网络信息并指定元路径φ为游走约束，通过基于元路径的随机游走策略来生成相应的节点序列，随机游走的概率公式如下式所示：
[0075][0076]
其中，表示a
t
类型的节点，表示在节点的周围邻居中a
t 1
类型节点的数量。
[0077]
考虑到用户行为的差异性，同一节点可能在不同场景下有着不同的向量表示，因此，根据不同的场景对同一节点指定不同的边类型。同时，在不同的场景下，借助电商平台中的辅助信息寻找节点之间的相似性。
[0078]
因为本文为用户对商品点击转化率的预测研究，所以本文主要对用户节点和商品节点进行表示。因此，在设计游走路径时，给定节点序列长度，只将用户节点或者是商品节点作为元路径的起始节点，生成节点序列后，再遍历生成的节点序列，将与起始节点的不同类型的节点去除，这样，就能保证得到的每一个节点序列只包含用户节点或者是商品节点其中的任意节点类型。这样做的好处是，不仅得到了辅助信息下更强关联的用户-用户和商品-商品的节点序列，同时，将原来复杂的异质信息网络转化为了较为简单的同质网络，大大地降低了模型的复杂度。
[0079]
得到节点序列后，为了探究节点序列下不同辅助信息对节点的影响，分别得到用户-用户的二阶相似度表示，用户-用户的二阶相似度，表示为：
[0080][0081]
商品-商品的二阶相似度，表示为：
[0082][0083]
其中，为用户um与用户un的二阶相似度；|t
u_mn
|表示用户um和用户un的之
间辅助信息集合t
u_mn
中辅助信息的数量；表示在第k个辅助信息出现在用户um和用户un之间辅助信息集合t
u_mn
中的次数；表示第k个辅助关系在用户um和用户un的辅助关系中的比重；为商品i
p
和商品iq的二阶相似度；|t
i_pq
|表示商品i
p
和商品iq之间辅助信息集合t
i_pq
中辅助信息的数量；表示在第k个辅助信息出现商品i
p
和商品iq之间辅助信息集合t
i_pq
中的次数；表示第k个辅助关系在商品i
p
和商品iq的辅助关系中的比重。
[0084]
根据节点二阶相似度的大小决定了不同辅助信息对节点的影响，完成了对节点序列的进一步表示。
[0085]
如图2所示，为了更真实的表达用户的不同行为对最终点击转化率的影响，我们引入异质图注意力网络(heterogeneous graph attention network，简称han)去学习节点级别的注意力和语义级别的注意力，在图2中，利用用户-商品感兴趣度对节点在所有原路径的聚合表示进行加权，得到该节点的最终嵌入表示。
[0086]
由于用户节点和商品节点存在着异质性，而不同类型的节点具有不同的特征空间，因此我们需要设置一个针对用户节点和商品节点的变换矩阵，将这两种类型节点的特征投影到相同的特征空间上，转换过程表示为：
[0087]h′i＝m
·hi
[0088]
其中，hi和h
′i分别是节点i的原始特征和投影特征，m为变换矩阵。经过类型转换之后，节点级别的注意力就可以同时处理用户和商品类型的节点了。
[0089]
在异质图注意网络当中，给定通过指定元路径φ下的两个节点vi，vj可以通过自注意力机制来学习到vj节点对vi节点的重要性如下式所示：
[0090][0091]
其中h
′i，h
′j分别是vi，vj的向量表示；att
node
表示该元路径下执行节点注意力聚合操作的深度神经网络，并且att
node
是适用于整个元路径下的节点对，因此，可以求得任意节点对该元路径下每个节点的重要性。以上小节中生成的商品节点序列中的中心节点vi为例，定义其邻居节点为其中表示在元路径φ下vi的邻居集(包含vi)。然后，求出vi的每个邻居节点vj对vi的重要性并对其进行归一化处理，如下式所示，得到每个邻居节点对vi的注意力系数表示为：
[0092][0093]
其中，σ表示激活函数，||表示对两个节点的特征进行拼接，为一个单位向量，其作用是令拼接得到的[h
′i||h
′j]转换为一个标量，本领域技术人员可以根据具体实施过程中[h
′i||h
′j]的维度设置的维度，本技术不对此进行其他限定；sim
ij
表示节点i与节
点j之间的二阶相似度，该参数的值的根据节点类型(商品节点、用户节点)进行计算，用户节点的计算方式参照商品节点的计算参照然后得到该元路径下，邻居节点对节点vi的多头注意力系数，使得模型更加稳定，一个节点i在元路径φs下的注意力加权表示为：
[0094][0095]
其中，表示进行k次学习，为元路径φs下的一个节点i的表示，k为重复训练的次数；σ()为激活函数；表示元路径φs下i节点的邻域；表示在元路径中φs节点i的每个邻居节点对其的注意力系数。
[0096]
类似地，对于一组元路径我们可以得到相应的节点多头注意力表示向量至此，我们完成了节点级别的注意力聚合。
[0097]
因为用户和商品的关系，无非是存在着浏览、点击、购买等操作，因此，根据用户商品兴趣度uch表示元路径的语义级别的注意力系数，最后，计算节点vi最终的嵌入表示，表示为：
[0098][0099]
其中，z＝zu∪zi，表示节点的最终嵌入表示，表示用户um的最终嵌入表示，表示商品iq的最终嵌入表示；表示第s条元路径φs中的节点嵌入表示；表示在第s条元路径φs中用户um对商品in的感兴趣度；在第s条元路径φs中用户对商品的兴趣度的大小；s为元路径的数量。
[0100]
为了避免训练空间与推测空间不一致，造成样本选择偏差，对最终结果造成影响如图3所示，我们采用多任务联合学习的方法，求出最终的点击转化率pcvr。如图4，在本实施例中建立点击率pctr和转化率pctcvr的辅助任务，对主任务pcvr的准确度进行改进。
[0101]
在辅助任务中，利用经典的矩阵分解(mf)得到用户对商品的评分去预测pctr和pctcvr。在mf中，用户u对商品i可以简单的定义为如下：
[0102][0103]
其中，表示用户um购买商品iq的预测概率；表示用户um的向量表示；表示商品iq的向量表示。将用户和商品的最终嵌入表示zu和zi融入评分预测器当中，则用户um购买商品iq的预测概率可表示为：
[0104]
[0105]
其中，和表示商品iq和用户um的隐式因子；α和β为调整因子。
[0106]
用户um的向量表示和商品iq的向量表示在计算点击率pctr和转化率pctcvr时有不同的取值。在计算点击率pctr的过程中，获取用户对商品的评分矩阵，在这个评分矩阵中，是用户对商品的评分，分值在0～5之间(包括0和10)，2～4表明用户对商品进行了点击，根据点击的类型(加入购物车、收藏等点击类型)赋予不同分值，例如本实施例中令用户进行浏览的分值为1、进行点击的分值为2、进行加入购物车的分值为3、进行收藏的分值为4、进行购买的分值为5，当用户进行点击，即进行加入购物车、收藏、购买操作时也对商品发生点击行为，即在构建用户的点击矩阵时用户的分值在2～5之间，则将这部分用户的值置为1，其他用户的值置为0，转化为点击矩阵，并将该矩阵中用户和商品的信息输入预测器计算点击率pctr；若用户的分值为5，即用户发生点击和购买行为，则将这部分用户的值置为1，其他用户的值置为0，转化为点击购买矩阵，并将该矩阵中用户和商品的信息输入预测器计算转化率pctcvr，例如在图4中，得到的用户评分矩阵表示为：
[0107][0108]
其中，？表示未知的评分；上述用户评分矩阵转化为点击矩阵，即将值为2～5的评分置为1，其他置为0，未知评分不变，表示为：
[0109][0110]
上述用户评分矩阵转化为点击矩阵，即将值为5的评分置为1，其他置为0，未知评分不变，表示为：
[0111][0112]
将点击矩阵和点击购买矩阵中的用户信息和商品信息输入预测器中计算点击率pctr和转化率pctcvr，本实施例计算得到点击率pctr为0.6和转化率pctcvr为0.2，最后根据用过点击率和转化率预测用户购买某一商品的概率，即点击转化率pcvr，表示为：
[0113][0114]
对预测器的，即对预测模型进行训练的过程中采用损失函数进行反向传播对预测器的参数进行优化，损失函数表示为：
[0115][0116]
其中，￡为损失函数；表示元路径集合；u表示用户集合；i表示商品集合；表示用户um的向量表示；表示用户um购买商品iq的实际概率集合；λ是第一正则化参数。
[0117]
为了防止出现过拟合的现象，本实施例中采用sgd对最终的目标函数进行优化，优化过程表示为：
[0118][0119]
其中，为优化后的值；为优化后的值；η是学习率。
[0120]
尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。