1.本技术涉及机器学习技术，尤其涉及一种排序方法、装置、设备及计算机可读存储介质。
背景技术：
：：2.在基于深度学习的推荐领域，排序模型是实现推荐、召回必不可少的神经网络模型。而在实际的推荐过程中，可能会存在多个目标，此时就需要用到多目标排序模型。目前常用的多目标排序模型主要有底层共享(sharebottom)模型和多门控混合专家网络(mmoe，multi-gatemixture-of-experts)模型，其中sharebottom模型由于底层参数硬共享，不同目标在拟合时会相互影响，使得拟合的准确性下降；mmoe模型虽然在模型结构上做了改进，大大降低了目标之间的相互影响，但是它的门控仅依赖输入向量的计算方式会使得它比较容易发生极化现象，同样会降低拟合的准确性，从而降低排序的准确率。技术实现要素：3.本技术实施例提供一种排序方法、装置及计算机可读存储介质，能够提高排序结果的准确性。4.本技术实施例的技术方案是这样实现的：5.本技术实施例提供一种排序方法，包括：6.获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征；7.获取训练好的多目标排序模型，所述多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块；8.将所述输入特征输入所述训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，所述专家权重向量是所述门控模块利用所述输入特征和所述各个专家输出向量确定的；9.利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量；10.利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果。11.本技术实施例提供一种排序装置，包括：。12.第一获取模块，用于获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征；13.第二获取模块，用于获取训练好的多目标排序模型，所述多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块；14.第一输入模块，用于将所述输入特征输入所述训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，所述专家权重向量是所述门控模块利用所述输入特征和所述各个专家输出向量确定的；15.第一确定模块，用于利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量；16.排序模块，用于利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果。17.在一些实施例中，该第一输入模块，还用于：18.将所述各个输入特征分别输入各个专家网络，得到各个专家网络对应的各个专家输出向量；19.对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量；20.将所述各个归一化处理后的专家输出向量和所述输入特征输入各个门控模块，得到各个门控模块对应的专家权重向量。21.在一些实施例中，该第一输入模块，还用于：22.将所述各个归一化处理后的专家输出向量和所述输入特征输入第i个门控模块，i＝1，2，…，n，n为门控模块总数；23.基于所述专家输出向量的维度信息，对所述输入特征进行降维处理，得到降维后的输入特征；24.对所述降维后的输入特征进行批正则归一化处理，得到归一化处理后的输入特征；25.基于所述各个归一化处理后的专家输出向量和所述归一化处理后的输入特征，确定第i个门控模块对应的专家权重向量。26.在一些实施例中，该第一输入模块，还用于：27.将所述各个归一化处理后的专家输出向量分别和所述归一化处理后的输入特征进行缩放的点积处理，得到各个专家网络对应的点积结果，所述点积结果符合预设的分布条件；28.利用归一化指数函数对所述各个专家网络对应的点积结果进行处理，各个专家网络对应的专家权重；29.基于各个专家网络对应的专家权重，确定第i个门控模块对应的专家权重向量。30.在一些实施例中，该第一确定模块，还用于：31.对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量；32.将各个归一化处理后的专家输出向量和第i个门控模块对应的专家权重向量中的各个专家权重进行加权求和，得到第i个排序目标的门控输出向量，i＝1，2，…，n，n为门控模块总数。33.在一些实施例中，该排序模块，还用于：34.基于所述各个排序目标的门控输出向量，确定各个候选排序对象在各个排序目标下的输出结果；35.基于各个候选排序对象在各个排序目标下的输出结果，确定所述各个候选排序对象的综合得分；36.利用所述各个候选排序对象的综合得分对所述候选排序对象进行排序，得到排序结果。37.在一些实施例中，该第一获取模块，还用于：38.响应于接收到的信息推荐请求，获取所述信息推荐请求中携带的推荐对象的标识信息；39.基于所述标识信息获取所述推荐对象的历史行为数据；40.基于所述历史行为数据获取所述推荐对象的推荐对象特征。41.在一些实施例中，该装置还包括：42.第二确定模块，用于基于所述排序结果，从所述多个候选排序对象中确定至少一个目标对象；43.第一发送模块，用于将携带有所述至少一个目标对象的信息推荐响应发送至所述标识信息对应的终端。44.在一些实施例中，该装置还包括：45.第二获取模块，用于获取自身存储的各个待排序对象的排序对象特征；46.第三确定模块，用于基于所述推荐对象特征和各个待排序对象的排序对象特征，从多个排序对象中确定多个候选排序对象。47.本技术实施例提供一种排序设备，包括：48.存储器，用于存储可执行指令；49.处理器，用于执行所述存储器中存储的可执行指令时，实现本技术实施例提供的排序方法。50.本技术实施例提供一种计算机可读存储介质，存储有可执行指令，用于引起处理器执行时，实现本技术实施例提供的排序方法。51.本技术实施例具有以下有益效果：52.在进行排序时，首先获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征；然后再获取训练好的多目标排序模型，其中，该多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块，之后将各个输入特征输入至训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，其中专家权重向量是门控模块利用所述输入特征和所述各个专家输出向量确定的；再利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量；利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果；由于在确定各个门控模块对应的专家权重向量时，不仅利用了输入特征，还利用了各个专家网络对应的专家输出向量，从而使得专家权重向量不仅依赖于输入特征，还能够结合各个专家网络学习到的特征，能获得更加准确的专家权重，从而提升排序结果的准确率。附图说明53.图1a为推荐系统中sharebottom模型的网络结构示意图；54.图1b为推荐系统中mmoe模型的网络结构示意图；55.图1c为mmoe模型中门控gate1的结构示意图；56.图1d为在点击和时长两个目标的情形下，mmoe多目标推荐模型的模型结构示意图；57.图2为本技术实施例提供的排序系统的网络架构示意图；58.图3为本技术实施例提供的服务器的结构示意图；59.图4为本技术实施例提供的排序方法的一种实现流程示意图；60.图5为本技术实施例提供的排序方法的再一种实现流程示意图；61.图6为本技术实施例提供的排序方法的再一种实现流程示意图；62.图7为本技术实施例提供的基于输入输出attention门控结构的混合专家网络的结构示意图；63.图8为本技术实施例提供的带有输入输出attention门控结构的多目标模型的网络结构示意图；64.图9a为利用本技术实施例提供的多目标排序模型在空跑期和实验期pv提升幅度示意图；65.图9b为为利用本技术实施例提供的多目标排序模型在空跑期和实验期时长指标的相对提升幅度示意图；66.图10为利用本技术实施例提供的排序方法进行新闻推荐的界面示意图。具体实施方式67.为了使本技术的目的、技术方案和优点更加清楚，下面将结合附图对本技术作进一步地详细描述，所描述的实施例不应视为对本技术的限制，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本技术保护的范围。68.在以下的描述中，涉及到“一些实施例”，其描述了所有可能实施例的子集，但是可以理解，“一些实施例”可以是所有可能实施例的相同子集或不同子集，并且可以在不冲突的情况下相互结合。69.在以下的描述中，所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象，不代表针对对象的特定排序，可以理解地，“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序，以使这里描述的本技术实施例能够以除了在这里图示或描述的以外的顺序实施。70.除非另有定义，本文所使用的所有的技术和科学术语与属于本技术的
技术领域：
：的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本技术实施例的目的，不是旨在限制本技术。71.对本技术实施例进行进一步详细说明之前，对本技术实施例中涉及的名词和术语进行说明，本技术实施例中涉及的名词和术语适用于如下的解释。72.1)点击率(ctr，clickthroughrate)，即点击数/曝光数。73.2)时长(duration)，主要指用户阅读文章的时长。74.3)召回模型，用于从全量item中快速地选出跟用户兴趣相关的候选item集合的模型75.4)排序模型，用于对召回的item打分的模型，用于更精细地排序和挑选用户感兴趣的item76.5)嵌入式表示(embedding)，是将源数据映射到另外一个空间。在深度学习中，是一种用低维稠密向量来表示数据的方法。77.6)多层感知器(mlp，multiplelayerperceptron)，通常也称为dnn，即多层全连接神经网络。78.7)多门控混合专家网络(mmoe，multi-gatemixture-of-experts)，用于多目标学习的常用网络结构，专家多为dnn网络结构，多个专家用于提取不同的特征，门控用于分配每个专家的权重。79.8)放缩后的内积(scaleddotproduct)，也就是在一般内积的基础上除以向量维度的平方根。80.9)批正则化操作(batchnormalization)，是深度学习中一种常用的正则化方法，通过对每批训练数据做均值和标准差上的正则化，可以使得每一层的数据在分布上得到对齐，使得模型收敛得更快更好。81.为了更好的理解本技术实施例提供的排序方法，首先对相关技术中的排序方法中使用的多目标排序模型及存在的缺点进行说明。82.相关技术中排序方法中使用的多目标排序模型包括sharebottom模型和mmoe模型。83.sharebottom模型是推荐系统中用于多目标建模的一种常用模型，它的特点是所有目标都共用同一个输入层。84.图1a为推荐系统中sharebottom模型的网络结构示意图。如图1a所示，sharebuttom模型的输入特征有两类，一类是分类型特征，也就是图1a中的各个sparsefield001，通常是一些id类特征，比如用户历史点击的物品id，标签id，类别id等，这些分类型特征经过embedding层002之后，转化成了低维稠密的向量。另一类特征是连续型特征，也就是图1中的densefeatures003，通常是一些后验统计特征，比如点击数、曝光数、点击率等，本身就是一个向量的形式存在。分类型特征转化为低维稠密向量后与连续型特征拼接在一起，得到一个向量v，sharebottom模型的特点就是所有目标的建模，都基于这个向量v。比如说，图1a中一共有两个目标，这两个目标都是以向量v作为输入，然后用不同的mlp计算各自目标的得分(score)，最后用这个score分别拟合对应目标。也就是说，sharebottom模型计算各个目标的score时，都共享了同一个输入向量v，而v包含了底层各个embeddingtable的参数，所以共享v本质上就共享了这些参数。这种底层参数共享的方式通常又被称为参数硬共享。85.sharebottom模型的这种结构有两个优点，一是由于底层参数被所有目标共享，所以大大降低了过拟合的风险，二是不同目标在学习时也可以通过这些共享的参数进行知识迁移，利用其它目标学习到的知识帮助自己目标的学习。它的缺点是因为参数的硬共享，限制了各个目标拟合的自由度，影响了拟合的效果。特别是在不同目标之间相关性比较低时，会容易顾此失彼，难以学好每个目标。86.为了解决sharebottom模型参数硬共享存在的问题，又提出了mmoe模型。该模型同时学习多个专家网络，然后每个目标有一个自己的门控结构，用于为每个专家分配一个权重，并将各个专家的输出向量加权求和，作为该目标下的输入向量。这些专家网络是所有目标共享的，不同目标是通过自己的门控去组合这些专家的输出，得到对应目标的输入向量，并将该输入向量输入到自己的mlp中得到该目标的输出score，用它来拟合该目标的标签(label)。由于不同目标的门控不一样，所以不同目标的输入向量也不一样，这就克服了sharebottom因为所有目标使用同一个输入向量带来的难以兼顾每个目标的问题。87.图1b为推荐系统中mmoe模型的网络结构示意图，如图1b所示，该mmoe模型中包括两个专家网络expert1和expert2，还包括两个门控，分别为gate1和gate2。其中，专家网络expert1和expert2都是dnn，gate1和gate2分别是两个目标各自的门控，这些门控结构是一样的，只是参数不一样。在图1b中，inputvector011指的是分类型特征转化为低维稠密向量后与连续型特征拼接在一起得到的向量v，图1c为mmoe模型中门控gate1的结构示意图，如图1c所示，门控的输入是专家1的输出021，专家2的输出022和inputvector023这三个，其中，inputvector输入到门控后，首先做了一个mlp，输出了两个score，然后这两个score经过softmax之后变成两个概率形式的权重，最后用这两个权重对专家1的输出和专家2的输出加权求和，作为这个门控gate1的输出。88.用数学语言来表示就是，设x表示图1c中的inputvector，fi(x)表示第i个专家的输出，gk(x)表示第k个目标的门控函数，gk(x)的表达式为公式(1-1)：89.gk(x)＝softmax(wkx)ꢀꢀꢀ(1-1)；90.其中，wk是第k个目标的门控的参数，gk(x)是x经过全连接之后再softmax得到的概率向量，该概率向量中元素的个数等于专家的个数。记gk(x)中的第i个分量为则其中m是专家的个数。那么，第k个目标的门控的输出fk(x)可以表示为公式(1-2)：[0091][0092]在得到第k个目标的门控输出fk(x)后，fk(x)将作为输入，经过第k个目标自己的mlp，得到该目标的输出score，去拟合该目标对应的label。设第k个目标的mlp为hk(·)，那么第k个目标的输出score如公式(1-3)所示：[0093]yk＝hk(fk(x))ꢀꢀꢀ(1-3)；[0094]得到yk后，在用yk去拟合第k个目标的label。图1d为在点击和时长两个目标的情形下，mmoe多目标推荐模型的模型结构示意图。[0095]mmoe模型相比sharebottom模型的主要改进点就是引入了专家网络，用专家网络输出向量的不同加权组合作为不同目标的mlp的输入，从而可以使得不同目标的mlp的输入拥有更大的拟合自由度，不同目标在拟合各自目标时，相互之间的影响会更小，最终的推荐效果也会更好。[0096]虽然mmoe通过模型结构的改进能取得比sharebottom更好的效果。但是在实践当中，会发现mmoe有一个明显的缺点，就是在训练过程中很容易发生极化现象。所谓极化现象，就是门控在给各个专家分配权重的时候，所有权重都集中在某一个专家上，也就是只有一个专家的权重为1.0，其余专家的权重都为零，只有1个专家是激活的。这种情况下，mmoe模型就退化成了sharebottom模型，从而导致专家网络发挥不出该有的优势。极化现象一旦发生，mmoe就变成了sharebottom模型，效果也会随之变差。极化现象的发生主要是门控的结构引起的，因为mmoe的门控传给softmax的score只依赖于输入向量，这种计算方式会使得不同score之间在数值上差异很大，从而导致最大的score被softmax之后变成了1，其余变成了0。此外，门控计算专家权重时只依赖于输入向量而完全不结合各个专家的特点，也不够合理的，得到的权重准确度会降低。[0097]为了解决mmoe的门控引起的极化现象以及提高权重的计算的准确性，本技术实施例提出一种基于输入输出的attention门控，通过batchnormalization和scaleddotproduct运算来计算不同专家分配到的score。在这种计算方式下得到的score之间在数值上不会差异很大，从而避免了极化现象的发生，让各个专家都能学习到有效的特征，发挥出各个专家该有的优势，提升模型的学习效果。同时，输入结合着专家输出的方式计算专家的权重，也会比只依赖输入去计算专家权重更准确。[0098]下面说明本技术实施例提供的排序设备的示例性应用，本技术实施例提供的设备可以实施为笔记本电脑，平板电脑，台式计算机，机顶盒，移动设备(例如，移动电话，便携式音乐播放器，个人数字助理，专用消息设备，便携式游戏设备)等各种类型的用户终端，也可以实施为服务器。下面，将说明设备实施为服务器时示例性应用。[0099]参见图2，图2为本技术实施例提供的排序系统100的网络架构示意图，如图2所示，该排序系统100包括：终端200、网络300和服务器400，其中，终端200通过网络300连接服务器400，网络300可以是广域网或者局域网，又或者是二者的组合。[0100]终端200中安装有各种应用程序(app，application)，例如，即时通讯app、购物app、视频播放app等，用户在利用终端200上安装的视频播放app观看视频，或者用户在启动某一购物app时，会触发信息推荐请求，该信息推荐请求经由网络300发送至服务器400，信息推荐服务器400在接收到推荐请求后，基于终端200对应的推荐对象的标识信息，获取该推荐对象的推荐对象特征，在本技术实施例中，推荐对象可以为终端200对应的目标用户，对应地，推荐对象特征可以为用户特征。之后获取多个候选排序对象的排序对象特征，将推荐对象特征和每个排序对象特征进行拼接，得到输入特征，并将输入特征输入到排序模型中，得到该排序模型中各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，并且专家权重向量是所述门控模块利用所述输入特征和所述各个专家输出向量确定的，进而再利用各个专家输出向量和各个门控模块对应的专家权重向量，对多个候选排序对象进行排序，得到排序结果，在一些实施例中，在得到排序结果后，基于排序结果确定出返回终端200的目标对象信息，并将该目标对象信息发送至终端200，并在终端200中呈现目标对象信息。[0101]在一些实施例中，服务器400可以是独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、cdn、以及大数据和人工智能平台等基础云计算服务的云服务器。终端200可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表、车载终端、智能电视等，但并不局限于此。终端以及服务器可以通过有线或无线通信方式进行直接或间接地连接，本技术在此不做限制。[0102]参见图3，图3是本技术实施例提供的服务器400的结构示意图，图3所示的服务器400包括：至少一个处理器410、存储器440、至少一个网络接口420。服务器400中的各个组件通过总线系统430耦合在一起。可理解，总线系统430用于实现这些组件之间的连接通信。总线系统430除包括数据总线之外，还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见，在图3中将各种总线都标为总线系统430。[0103]处理器410可以是一种集成电路芯片，具有信号的处理能力，例如通用处理器、数字信号处理器(dsp，digitalsignalprocessor)，或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等，其中，通用处理器可以是微处理器或者任何常规的处理器等。[0104]存储器440可以是可移除的，不可移除的或其组合。示例性的硬件设备包括固态存储器，硬盘驱动器，光盘驱动器等。存储器440可选地包括在物理位置上远离处理器410的一个或多个存储设备。[0105]存储器440包括易失性存储器或非易失性存储器，也可包括易失性和非易失性存储器两者。非易失性存储器可以是只读存储器(rom，readonlymemory)，易失性存储器可以是随机存取存储器(ram，randomaccessmemory)。本技术实施例描述的存储器440旨在包括任意适合类型的存储器。[0106]在一些实施例中，存储器440能够存储数据以支持各种操作，这些数据的示例包括程序、模块和数据结构或者其子集或超集，下面示例性说明。[0107]操作系统441，包括用于处理各种基本系统服务和执行硬件相关任务的系统程序，例如框架层、核心库层、驱动层等，用于实现各种基础业务以及处理基于硬件的任务；[0108]网络通信模块442，用于经由一个或多个(有线或无线)网络接口420到达其他计算设备，示例性的网络接口420包括：蓝牙、无线相容性认证(wifi)、和通用串行总线(usb，universalserialbus)等；[0109]在一些实施例中，本技术实施例提供的装置可以采用软件方式实现，图3示出了存储在存储器440中的排序装置443，其可以是程序和插件等形式的软件，包括以下软件模块：第一获取模块4431、第二获取模块4432、第一输入模块4433、第一确定模块4434和排序模块4435，这些模块是逻辑上的，因此根据所实现的功能可以进行任意的组合或进一步拆分。[0110]将在下文中说明各个模块的功能。[0111]在另一些实施例中，本技术实施例提供的装置可以采用硬件方式实现，作为示例，本技术实施例提供的装置可以是采用硬件译码处理器形式的处理器，其被编程以执行本技术实施例提供的排序方法，例如，硬件译码处理器形式的处理器可以采用一个或多个应用专用集成电路(asic，applicationspecificintegratedcircuit)、dsp、可编程逻辑器件(pld，programmablelogicdevice)、复杂可编程逻辑器件(cpld，complexprogrammablelogicdevice)、现场可编程门阵列(fpga，field-programmablegatearray)或其他电子元件。[0112]将结合本技术实施例提供的终端的示例性应用和实施，说明本技术实施例提供的排序方法。[0113]参见图4，图4为本技术实施例提供的排序方法的一种实现流程示意图，该方法应用于服务器，以下将结合图4对本技术实施例提供的排序方法进行说明。[0114]步骤s101，获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征。[0115]在本技术实施例中，推荐对象可以为终端对应的目标用户，推荐对象的推荐对象特征可以是从该推荐对象的历史行为数据中提取出来的，推荐对象特征可以包括用户历史点击的物品标识，标签标识，类别标识等，候选排序对象可以是该推荐对象对应的召回对象，排序对象特征可以包括候选排序对象的一些后验统计特征，比如点击数、曝光数、点击率等，该排序对象特征通常为稠密特征。[0116]推荐对象特征和候选排序对象的排序对象特征均为向量，基于推荐对象特征和各个排序对象特征确定输入特征在实现时，可以是将推荐对象特征分别和各个排序对象特征进行拼接，从而得到各个候选排序对象的输入特征。例如，推荐对象特征的维度为1*64，排序对象特征的维度为1*256，那么各个候选排序对象的输入特征的维度即为1*320。[0117]步骤s102，获取训练好的多目标排序模型。[0118]其中，该多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块，也就是说该多目标排序模型中的门控模块的数量是与预设的排序目标的数量是对应的，如果预设的排序目标有两个，则门控模块也同样为两个。不同门控模块的结构是相同的，只是参数不同。[0119]专家网络为深度神经网络(deepneuralnetworks，dnn)，dnn是有很多隐藏层的神经网络，从dnn按不同层的位置划分，dnn内部的神经网络层可以分为三类，输入层，隐藏层和输出层，一般来说第一层是输入层，最后一层是输出层，而中间的层数都是隐藏层。在本技术实施例提供的排序模型中，有至少两个专家网络，但是专家网络的个数与排序目标没有必然联系，也即专家网络的个数与门控模块的个数没有必然联系。例如，排序模型中可以有2个专家网络，3个门控模块。[0120]在本技术实施例中，排序目标也可以是基于运营方关注的或者想要提升的目标来确定的，在一些实施例中，排序目标也与排序对象的业务类型相关。例如对于视频类的排序对象，关注的目标可以是播放时长、点击率等，对于公众号文章或者公众号，关注的目标可以是点赞率、关注率、点击率等。[0121]步骤s103，将所述输入特征输入所述训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量。[0122]其中，该专家权重向量是所述门控模块利用所述输入特征和所述各个专家输出向量确定的。专家权重向量的维度与专家网络的个数是对应的，例如，如果多目标排序模型中有三个专家网络，那么每个门控模块对应的专家权重向量的维度为1*3。[0123]步骤s103在实现时，是将对于某一个排序对象来说，假设以第i个排序对象为例进行说明，将第i个排序对象的输入特征vin_i分别输入每个专家网络，从而得到每个专家网络的各个专家输出向量，假设有2个专家网络，那么得到两个专家输出向量分别为vi1和vi2，并且将第i个排序对象的输入特征vin_i和两个专家输出向量vi1、vi2分别输入各个门控模块，从而得到各个门控模块对应的专家权重向量。也就是说，门控模块在计算各个专家网络的权重时，不仅考虑了输入特征，还依赖于各个专家网络的输出向量，从而能够利用各个专家网络学习到的特征，从而提高专家权重的准确性。[0124]步骤s104，利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量。[0125]步骤s104在实现时，可以首先对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量，然后将各个归一化处理后的专家输出向量和各个门控模块对应的专家权重向量中的各个专家权重进行加权求和，得到各个排序目标的门控输出向量。[0126]步骤s105，利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果。[0127]由于每个排序目标对应有一个输出向量，步骤s105在实现时，各个排序目标的门控输出向量会再分别输入各个排序目标对应的mlp网络，从而得到各个候选排序对象在该排序目标下的最终得分，然后再将各个候选排序对象在各个排序目标下的最终得分进行乘法运算，或者加权求和运算得到各个候选排序对象的综合得分，最终基于各个候选对象的综合得分进行排序，得到排序结果。该排序结果可以是按照综合得分从高到低进行排序，也可以是按照综合得分从低到高进行排序。[0128]在本技术实施例提供的排序方法中，在进行排序时，首先获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征；然后再获取训练好的多目标排序模型，其中，该多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块，之后将各个输入特征输入至训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，其中专家权重向量是门控模块利用所述输入特征和所述各个专家输出向量确定的；再利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量；利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果；由于在确定各个门控模块对应的专家权重向量时，不仅利用了输入特征，还利用了各个专家网络对应的专家输出向量，从而使得专家权重向量不仅依赖于输入特征，还能够结合各个专家网络学习到的特征，能获得更加准确的专家权重，从而提升排序结果的准确率。[0129]在一些实施例中，上述步骤s103“将所述各个输入特征输入所述训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量”，可以通过图5所示的各个步骤实现，以下将结合图5对各步骤进行说明。[0130]步骤s1031，将所述各个输入特征分别输入各个专家网络，得到各个专家网络对应的各个专家输出向量。[0131]步骤s1032，对所述各个专家输出向量进行批正则归一化处理，在实现时是对各个专家输出向量做均值和标准差上的正则化，可以使得各个专家输出向量在分布上得到对齐，从而得到各个归一化处理后的专家输出向量。[0132]步骤s1033，将所述各个归一化处理后的专家输出向量和所述输入特征输入各个门控模块，得到各个门控模块对应的专家权重向量。[0133]如图5所示，在实际应用过程中，步骤s1033又可以通过以下的步骤s331至步骤s334实现：[0134]步骤s331，将所述各个归一化处理后的专家输出向量和所述输入特征输入第i个门控模块。[0135]其中，i＝1，2，…，n，n为门控模块总数。[0136]步骤s332，基于所述专家输出向量的维度信息，对所述输入特征进行降维处理，得到降维后的输入特征。[0137]在输入特征输入第i个门控模块之后，为了能够将输入特征和专家输出向量进行内积，需要保证进行内积的两个特征向量的维度一致，因此在该步骤中，需要基于专家输出向量的维度信息，对输入特征进行降维处理，得到降维后的输入特征，并且降维后的输入特征的维度与专家输出向量的维度相同，例如专家输出向量的维度为1*64，而输入特征的维度为1*320，那么对输入特征进行降维处理，降维后的输入特征的维度为1*64。[0138]步骤s333，对所述降维后的输入特征进行批正则归一化处理，得到归一化处理后的输入特征。[0139]步骤s333的实现过程与步骤s1032的实现过程是类似的，通过进行批正则归一化处理，使得各个输入特征在分布上得到对齐。[0140]步骤s334，基于所述各个归一化处理后的专家输出向量和所述归一化处理后的输入特征，确定第i个门控模块对应的专家权重向量。[0141]步骤s334在实现时，首先将所述各个归一化处理后的专家输出向量分别和所述归一化处理后的输入特征进行缩放的点积处理，得到各个专家网络对应的点积结果，由于进行的缩放的处理，也就是说将归一化处理后的专家输入向量和归一化处理后的输入特征进行点积运算后，除以了向量维度的平方根，因此该点积结果符合预设的分布条件，在本技术实施例中，该预设的分布条件可以是0均值，1方差，也就是说各个专家网络的内积结果在数值上不会差异很大。[0142]之后再利用归一化指数函数对所述各个专家网络对应的点积结果进行处理，确定第i个门控模块对应的专家权重向量。[0143]该归一化指数函数可以是softmax函数，利用归一化指数函数对所述各个专家网络对应的点积结果进行处理所得到的专家权重，是0到1之间的实数，由于各个专家网络的内积结果在数值上不会差异很大，因此在利用归一化指数函数进行处理之后，不会发生极化，从而能保证各个专家网络能分配到一个正的权重，而不会出现某一个或几个专家网络的权重为0的情况，进而能够避免退化成sharebottom模型，提升排序结果的准确性。[0144]在一些实施例中，图4所示的步骤s104“利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量”可以通过以下步骤实现：[0145]步骤s1041，对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量。[0146]该步骤的实现过程与步骤s1032的实现过程是相同的，在实际实现时，如果已经得到归一化处理后的专家输出向量，那么该步骤可以省略。[0147]步骤s1042，将各个归一化处理后的专家输出向量和第i个门控模块对应的专家权重向量中的各个专家权重进行加权求和，得到第i个排序目标的门控输出向量。[0148]其中，i＝1，2，…，n，n为门控模块总数。假设第i个门控模块对应的专家权重向量为gi(x)，该专家权重向量中元素的个数等于专家网络的个数。记gi(x)中的第j个分量为则其中m是专家网络的个数。那么，第i个目标的门控的输出fi(x)可以通过将各个归一化处理后的专家输出向量和第i个门控模块对应的专家权重向量中的各个专家权重进行加权求和得到，也即通过公式(1-4)得到：[0149][0150]其中，公式(1-4)中的fj(x)为第j个专家的输出向量。[0151]在上述的步骤s1041至步骤s1042中，将各个归一化处理后的专家输出向量和第i个门控模块对应的专家权重向量中的各个专家权重进行加权求和，也就得到第i个排序目标的门控输出向量，从而可以在后续过程中基于各个排序目标的门控输出向量确定各个待排序对象在各个排序目标下的综合得分，为排序步骤提供准确的数据。[0152]在一些实施例中，上述步骤s105“利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果”可以通过以下步骤实现：[0153]步骤s1051，基于所述各个排序目标的门控输出向量，确定各个候选排序对象在各个排序目标下的输出结果。[0154]各个排序目标的门控输出向量也即为各个门控模块的输出向量，在实际实现时，各个排序目标或者说各个门控模块分别对应有一个mlp网络，各个门控模块的输出向量会输入至各自的mlp网络中进行处理，从而得到各个候选排序对象在各个排序目标下的输出结果。[0155]该输出结果中包括的元素个数与候选排序对象的个数相同。[0156]步骤s1052，基于各个候选排序对象在各个排序目标下的输出结果，确定所述各个候选排序对象的综合得分。[0157]假设有300个候选排序对象，有两个排序目标，分别为时长和点击率。假设时长对应的输出结果为[t1,t2,…,t300]，点击率对应的输出结果为[p1,p2,…,p300]，那么第一个候选排序对象在时长这一排序目标下的输出结果为t1，在点击率这一排序目标下的输出结果为p1，第二个候选排序对象在时长这一排序目标下的输出结果为t2，在点击率这一排序目标下的输出结果为p2，以此类推。步骤s1052在实现时，可以是将候选排序对象在各个排序目标下的输出结果相乘得到该候选排序对象的综合得分，也即第一个候选排序对象的综合得分为t1*p1，第二个候选排序对象的综合得分为t2*p2，…，第300个候选排序对象的综合得分为t300*p300。[0158]在一些实施例中，基于各个候选排序对象在各个排序目标下的输出结果，确定所述各个候选排序对象的综合得分在实现时，还可以是将候选排序对象在各个排序目标下的输出结果进行加法运算。[0159]步骤s1053，利用所述各个候选排序对象的综合得分对所述候选排序对象进行排序，得到排序结果。[0160]步骤s1053在实现时，可以是按照各个候选排序对象的综合得分从大到小的顺序进行排序，得到排序结果，还可以是按照从小到大的顺序进行排序，得到排序结果。[0161]基于前述的实施例，本技术实施例再提供一种排序方法，应用于图2所示网络架构，图6为本技术实施例提供的排序方法的再一种实现流程示意图，如图6所示，该方法包括：[0162]步骤s601，终端接收触发信息推荐请求的触发操作。[0163]这里，该触发操作可以是点击某一app的图标启动该app的操作，也可以是针对视频播放app中某一视频的点击操作，还可以是付款操作。[0164]步骤s602，用户终端响应于该触发操作，向服务器发送信息推荐请求。[0165]这里，该信息推荐请求中携带有标识信息，并且该信息推荐请求中还携带有该触发操作的类型。[0166]步骤s603，服务器响应于接收到的信息推荐请求，获取信息推荐请求中携带的标识信息。[0167]步骤s604，服务器基于该标识信息获取所述推荐对象的历史行为数据。[0168]步骤s604在实现时，可以是服务器获取该推荐对象在当前平台的历史行为数据，还可以是获取该推荐对象在不同业务平台的历史行为数据。[0169]步骤s605，服务器基于所述历史行为数据获取所述推荐对象的推荐对象特征。[0170]该历史行为数据中可以包括推荐对象点击查看文章时的行为数据，还可以包括推荐对象观看视频时的行为数据。步骤s605在实现时，可以基于历史行为数据，确定用户点击或者查看的文章的标识、文章类型等推荐对象特征，还可以基于历史行为数据确定用户点击或观看的视频的视频标识、视频类型、视频标签等推荐对象特征。[0171]步骤s606，服务器获取自身存储的各个待排序对象的排序对象特征。[0172]在该步骤中，服务器提取的排序对象特征至少包括对象标识、对象类型、对象标签等特征，还可以包括各个待排序对象的观看时长、点赞数、评论数等特征。[0173]步骤s607，服务器基于所述推荐对象特征和各个待排序对象的排序对象特征，从多个排序对象中确定多个候选排序对象。[0174]步骤s607在实现时，可以是服务器基于推荐对象特征和各个待排序对象的排序对象特征[0175]步骤s608，服务器获取多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征。[0176]在该步骤中，服务器获取的各个候选排序对象的排序对象特征可以包括各个候选排序对象的点击数、曝光数、点击率、点赞数、评论数等特征。[0177]基于所述推荐对象特征和各个排序对象特征确定输入特征在实现时，可以是将推荐对象特征和各个排序对象特征分别进行拼接，从而得到各个候选排序对象的输入特征。[0178]步骤s609，服务器获取训练好的多目标排序模型。[0179]该多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块。该多目标排序模型还包括各个门控模块对应的mlp网络。[0180]步骤s610，服务器将所述各个输入特征分别输入各个专家网络，得到各个专家网络对应的各个专家输出向量。[0181]在步骤s610中，可以认为得到的是各个候选排序对象在各个专家网络中的各个专家输出向量。如果有m个专家网络，那么每个候选排序对象，或者说每个输入特征能够得到m个专家输出向量。[0182]步骤s611，服务器对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量。[0183]步骤s612，服务器将所述各个归一化处理后的专家输出向量和所述输入特征输入各个门控模块，得到各个门控模块对应的专家权重向量。[0184]步骤s612在实现时，是按照候选排序为粒度进行的。也即服务器将第p个候选排序对象的输入特征和第p个候选排序对象对应的各个归一化处理后的专家输出向量输入各个门控模块，得到的也是第p个候选排序对象在各个门控模块对应的专家权重向量，其中，p＝dnn701和expert2dnn702中。记这两个专家网络分别为f1和f2，那么这两个专家网络的输出就分别为f1(x)和f2(x)。为了让输入x和专家的输出能进行scaleddotproduct操作，输入x需要先做降维，降到跟专家输出向量的维度一致。降维操作就是乘以一个矩阵，记降维的函数为g，降维后的结果为g(x)＝wx，其中w是这个门控的可训练的参数矩阵。为了让经过scaleddotproduct后得到的数据接近0均值，1方差的分布，对专家网络的输出f1(x)、f2(x)f1(x)和降维后的输入g(x)做batchnormalization。为了保持简洁性，仍然用f1(x)、f2(x)和g(x)分别表示经过batchnormalization的专家网络输出和降维后的输入。设专家网络输出的维度为d，则输入向量-专家输出向量的scaleddotproduct利用公式(2-1)计算得出：[0196][0197]其中，《a,b》表示计算a和b的内积，i＝1，2。然后对这些si做softmax，即通过公式(2-2)得到每个专家的attention分数αi：[0198][0199]最后按照公式(2-3)将所有专家的输出向量以αi为权重做加权平均，得到这个门控下的输出向量f(x)：[0200][0201]在做多目标建模时，每个目标都有一个自己的门控，每个目标都按照上述做法得到自己门控的输出向量，记第k个目标的门控输出为fk(x)，则第k个目标会以fk(x)为输入，传给一个自己独有的mlp，记该mlp为hk(·)，那么第k个目标的输出分数为yk＝hk(fk(x))，最后用yk去拟合第k个目标的label。[0202]以下对本技术实施例提供的多目标排序模型能够避免极化现象的理论依据进行说明。[0203]假设经过降维和batchnormalization之后的输入向量的第i个分量为xi，i＝1,2,…,d，其中d为向量的维度。由于经过batchnormalization能把数据近似变换到0均值，1方差的分布，所以xi的数学期望e(xi)＝0，方差d(xi)＝1，并且各个xi独立同分布。设某个专家经过batchnormalization之后的输出向量的第i个分量为yi，i＝1，2，…,d。类似地，yi之间也是独立同分布，并且也是近似服从0均值，1方差的分布，所以有e(yi)＝0，方差d(yi)＝1。此外，所有xi和yi也是独立的。设s为输入和输出向量的scaleddotproduct，那么根据上面给出的scaleddotproduct的计算表达式，有以下公式(2-4)：[0204][0205]结合各个xi和yi独立同分布，且有0均值和1方差，根据数学期望和方差的性质，s的数学期望e(s)可通过公式(2-5)得出：[0206][0207]s的方差d(s)可通过公式(2-6)得出：[0208][0209]其中，e(xiyi)＝e(xi)e(yi)＝0。由于xi和yi独立，所以根据方差和数学期望的关系，类似地有因此所以s的方差d(s)为：[0210][0211]由此证明了输入向量和任何一个专家的输出向量经过scaleddotproduct之后得到的分数s都是服从0均值和1方差的分布。也就是说，分配到各个专家的attention分数s基本不可能出现在数值上差异很大的情况，在经过softmax之后，得到的概率不会集中在某一个专家上。从而可以有效避免极化现象的发生。[0212]图8为本技术实施例提供的带有输入输出attention门控结构的多目标模型的网络结构示意图，为了表述的简洁性，在图8中以点击和时长两个目标为例，展示了如何将输入输出attention门控整合到一般的多目标模型中，对于目标多于两个的情形，应用的方式是完全一样，所有专家被所有目标所共享，每增加一个目标只需相应地增加一个输入输出attention门控以及门控之后的mlp即可。[0213]由上述分析可知，因为输入输出attention门控在理论上可以保证分配给各个专家的attention分数近似服从0均值，1方差的分布，所以相比mmoe能有效避免极化现象的发生，保证各个专家在训练过程中都是激活的，也就是每个专家都会去学习特征，且每个专家学习到的特征都会被各个目标用上，尽可能大地发挥专家网络的优势。[0214]在本技术实施例中，提供一种基于输入输出attention门控的多目标排序模型，用以解决经典mmoe多目标模型容易产生专家极化的问题，同时也提高了分配给专家的权重的准确性。在图文推荐场景下，对点击和时长两目标模型做了线上的a/b测试，图9a为利用本技术实施例提供的多目标排序模型在空跑期和实验期pv提升幅度示意图，图9b为为利用本技术实施例提供的多目标排序模型在空跑期和实验期时长指标的相对提升幅度示意图，其中，空跑期a/b两组都是经典mmoe，实验期两组分别为本技术实施例提供的多目标排序模型与mmoe的对比。通过图9a和图9b可以看出，使用本技术实施例提出的方案对比使用经典mmoe模型，能够实现在时长指标持平的前提下，点击量(pv)平均提升0.55％。[0215]本技术实施例提供的排序模型可应用于基于mmoe多目标排序模型的推荐系统上，如新闻客户端、浏览器等，图10为利用本技术实施例提供的排序方法进行新闻推荐的界面示意图。[0216]本技术实施例是一种对专家网络门控的改进方案，由于专家网络是模型的一部分，因此，无论是排序模型还是召回模型，只要使用到混合专家网络，就可以使用本技术实施例提出的门控结构为各个专家分配权重。对于本技术实施例中提出的输入输出attention门控结构，其要点是根据专家输入向量和输出向量产生出0均值和1方差的attention分数，然后再softmax得到专家权重。其中，为了保证softmax前的attention分数具有0均值和1方差的分布，对输入和输出向量采用了batchnormalization和scaleddotproduct这两种关键的操作和运算。因此，对于其他能保证softmax前的attention分数具有0均值和1方差的方法，都属于本技术实施例要保护的方案。[0217]下面继续说明本技术实施例提供的排序装置443的实施为软件模块的示例性结构，在一些实施例中，如图3所示，存储在存储器440的排序装置443中的软件模块可以包括：[0218]第一获取模块，用于获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征；[0219]第二获取模块，用于获取训练好的多目标排序模型，所述多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块；[0220]第一输入模块，用于将所述输入特征输入所述训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，所述专家权重向量是所述门控模块利用所述输入特征和所述各个专家输出向量确定的；[0221]第一确定模块，用于利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量；[0222]排序模块，用于利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果。[0223]在一些实施例中，该第一输入模块，还用于：[0224]将所述各个输入特征分别输入各个专家网络，得到各个专家网络对应的各个专家输出向量；[0225]对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量；[0226]将所述各个归一化处理后的专家输出向量和所述输入特征输入各个门控模块，得到各个门控模块对应的专家权重向量。[0227]在一些实施例中，该第一输入模块，还用于：[0228]将所述各个归一化处理后的专家输出向量和所述输入特征输入第i个门控模块，i＝1，2，…，n，n为门控模块总数；[0229]基于所述专家输出向量的维度信息，对所述输入特征进行降维处理，得到降维后的输入特征；[0230]对所述降维后的输入特征进行批正则归一化处理，得到归一化处理后的输入特征；[0231]基于所述各个归一化处理后的专家输出向量和所述归一化处理后的输入特征，确定第i个门控模块对应的专家权重向量。[0232]在一些实施例中，该第一输入模块，还用于：[0233]将所述各个归一化处理后的专家输出向量分别和所述归一化处理后的输入特征进行缩放的点积处理，得到各个专家网络对应的点积结果，所述点积结果符合预设的分布条件；[0234]利用归一化指数函数对所述各个专家网络对应的点积结果进行处理，各个专家网络对应的专家权重；[0235]基于各个专家网络对应的专家权重，确定第i个门控模块对应的专家权重向量。[0236]在一些实施例中，该第一确定模块，还用于：[0237]对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量；[0238]将各个归一化处理后的专家输出向量和第i个门控模块对应的专家权重向量中的各个专家权重进行加权求和，得到第i个排序目标的门控输出向量，i＝1，2，…，n，n为门控模块总数。[0239]在一些实施例中，该排序模块，还用于：[0240]基于所述各个排序目标的门控输出向量，确定各个候选排序对象在各个排序目标下的输出结果；[0241]基于各个候选排序对象在各个排序目标下的输出结果，确定所述各个候选排序对象的综合得分；[0242]利用所述各个候选排序对象的综合得分对所述候选排序对象进行排序，得到排序结果。[0243]在一些实施例中，该第一获取模块，还用于：[0244]响应于接收到的信息推荐请求，获取所述信息推荐请求中携带的推荐对象的标识信息；[0245]基于所述标识信息获取所述推荐对象的历史行为数据；[0246]基于所述历史行为数据获取所述推荐对象的推荐对象特征。[0247]在一些实施例中，该装置还包括：[0248]第二确定模块，用于基于所述排序结果，从所述多个候选排序对象中确定至少一个目标对象；[0249]第一发送模块，用于将携带有所述至少一个目标对象的信息推荐响应发送至所述标识信息对应的终端。[0250]在一些实施例中，该装置还包括：[0251]第二获取模块，用于获取自身存储的各个待排序对象的排序对象特征；[0252]第三确定模块，用于基于所述推荐对象特征和各个待排序对象的排序对象特征，从多个排序对象中确定多个候选排序对象。[0253]需要说明的是，以上排序装置实施例项的描述，与上述方法描述是类似的，具有同方法实施例相同的有益效果。对于本技术排序装置实施例中未披露的技术细节，本领域的技术人员请参照本技术方法实施例的描述而理解。[0254]本技术实施例提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行本技术实施例上述的排序方法。[0255]本技术实施例提供一种存储有可执行指令的计算机可读存储介质，其中存储有可执行指令，当可执行指令被处理器执行时，将引起处理器执行本技术实施例提供的方法，例如，如图4、图5和图6示出的方法。[0256]在一些实施例中，计算机可读存储介质可以是fram、rom、prom、eprom、eeprom、闪存、磁表面存储器、光盘、或cd-rom等存储器；也可以是包括上述存储器之一或任意组合的各种设备。[0257]在一些实施例中，可执行指令可以采用程序、软件、软件模块、脚本或代码的形式，按任意形式的编程语言(包括编译或解释语言，或者声明性或过程性语言)来编写，并且其可按任意形式部署，包括被部署为独立的程序或者被部署为模块、组件、子例程或者适合在计算环境中使用的其它单元。[0258]作为示例，可执行指令可以但不一定对应于文件系统中的文件，可以可被存储在保存其它程序或数据的文件的一部分，例如，存储在超文本标记语言(html，hypertextmarkuplanguage)文档中的一个或多个脚本中，存储在专用于所讨论的程序的单个文件中，或者，存储在多个协同文件(例如，存储一个或多个模块、子程序或代码部分的文件)中。[0259]作为示例，可执行指令可被部署为在一个计算设备上执行，或者在位于一个地点的多个计算设备上执行，又或者，在分布在多个地点且通过通信网络互连的多个计算设备上执行。[0260]以上所述，仅为本技术的实施例而已，并非用于限定本技术的保护范围。凡在本技术的精神和范围之内所作的任何修改、等同替换和改进等，均包含在本技术的保护范围之内。当前第1页12当前第1页12
背景技术：
：：2.在基于深度学习的推荐领域，排序模型是实现推荐、召回必不可少的神经网络模型。而在实际的推荐过程中，可能会存在多个目标，此时就需要用到多目标排序模型。目前常用的多目标排序模型主要有底层共享(sharebottom)模型和多门控混合专家网络(mmoe，multi-gatemixture-of-experts)模型，其中sharebottom模型由于底层参数硬共享，不同目标在拟合时会相互影响，使得拟合的准确性下降；mmoe模型虽然在模型结构上做了改进，大大降低了目标之间的相互影响，但是它的门控仅依赖输入向量的计算方式会使得它比较容易发生极化现象，同样会降低拟合的准确性，从而降低排序的准确率。技术实现要素：3.本技术实施例提供一种排序方法、装置及计算机可读存储介质，能够提高排序结果的准确性。4.本技术实施例的技术方案是这样实现的：5.本技术实施例提供一种排序方法，包括：6.获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征；7.获取训练好的多目标排序模型，所述多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块；8.将所述输入特征输入所述训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，所述专家权重向量是所述门控模块利用所述输入特征和所述各个专家输出向量确定的；9.利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量；10.利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果。11.本技术实施例提供一种排序装置，包括：。12.第一获取模块，用于获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征；13.第二获取模块，用于获取训练好的多目标排序模型，所述多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块；14.第一输入模块，用于将所述输入特征输入所述训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，所述专家权重向量是所述门控模块利用所述输入特征和所述各个专家输出向量确定的；15.第一确定模块，用于利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量；16.排序模块，用于利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果。17.在一些实施例中，该第一输入模块，还用于：18.将所述各个输入特征分别输入各个专家网络，得到各个专家网络对应的各个专家输出向量；19.对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量；20.将所述各个归一化处理后的专家输出向量和所述输入特征输入各个门控模块，得到各个门控模块对应的专家权重向量。21.在一些实施例中，该第一输入模块，还用于：22.将所述各个归一化处理后的专家输出向量和所述输入特征输入第i个门控模块，i＝1，2，…，n，n为门控模块总数；23.基于所述专家输出向量的维度信息，对所述输入特征进行降维处理，得到降维后的输入特征；24.对所述降维后的输入特征进行批正则归一化处理，得到归一化处理后的输入特征；25.基于所述各个归一化处理后的专家输出向量和所述归一化处理后的输入特征，确定第i个门控模块对应的专家权重向量。26.在一些实施例中，该第一输入模块，还用于：27.将所述各个归一化处理后的专家输出向量分别和所述归一化处理后的输入特征进行缩放的点积处理，得到各个专家网络对应的点积结果，所述点积结果符合预设的分布条件；28.利用归一化指数函数对所述各个专家网络对应的点积结果进行处理，各个专家网络对应的专家权重；29.基于各个专家网络对应的专家权重，确定第i个门控模块对应的专家权重向量。30.在一些实施例中，该第一确定模块，还用于：31.对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量；32.将各个归一化处理后的专家输出向量和第i个门控模块对应的专家权重向量中的各个专家权重进行加权求和，得到第i个排序目标的门控输出向量，i＝1，2，…，n，n为门控模块总数。33.在一些实施例中，该排序模块，还用于：34.基于所述各个排序目标的门控输出向量，确定各个候选排序对象在各个排序目标下的输出结果；35.基于各个候选排序对象在各个排序目标下的输出结果，确定所述各个候选排序对象的综合得分；36.利用所述各个候选排序对象的综合得分对所述候选排序对象进行排序，得到排序结果。37.在一些实施例中，该第一获取模块，还用于：38.响应于接收到的信息推荐请求，获取所述信息推荐请求中携带的推荐对象的标识信息；39.基于所述标识信息获取所述推荐对象的历史行为数据；40.基于所述历史行为数据获取所述推荐对象的推荐对象特征。41.在一些实施例中，该装置还包括：42.第二确定模块，用于基于所述排序结果，从所述多个候选排序对象中确定至少一个目标对象；43.第一发送模块，用于将携带有所述至少一个目标对象的信息推荐响应发送至所述标识信息对应的终端。44.在一些实施例中，该装置还包括：45.第二获取模块，用于获取自身存储的各个待排序对象的排序对象特征；46.第三确定模块，用于基于所述推荐对象特征和各个待排序对象的排序对象特征，从多个排序对象中确定多个候选排序对象。47.本技术实施例提供一种排序设备，包括：48.存储器，用于存储可执行指令；49.处理器，用于执行所述存储器中存储的可执行指令时，实现本技术实施例提供的排序方法。50.本技术实施例提供一种计算机可读存储介质，存储有可执行指令，用于引起处理器执行时，实现本技术实施例提供的排序方法。51.本技术实施例具有以下有益效果：52.在进行排序时，首先获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征；然后再获取训练好的多目标排序模型，其中，该多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块，之后将各个输入特征输入至训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，其中专家权重向量是门控模块利用所述输入特征和所述各个专家输出向量确定的；再利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量；利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果；由于在确定各个门控模块对应的专家权重向量时，不仅利用了输入特征，还利用了各个专家网络对应的专家输出向量，从而使得专家权重向量不仅依赖于输入特征，还能够结合各个专家网络学习到的特征，能获得更加准确的专家权重，从而提升排序结果的准确率。附图说明53.图1a为推荐系统中sharebottom模型的网络结构示意图；54.图1b为推荐系统中mmoe模型的网络结构示意图；55.图1c为mmoe模型中门控gate1的结构示意图；56.图1d为在点击和时长两个目标的情形下，mmoe多目标推荐模型的模型结构示意图；57.图2为本技术实施例提供的排序系统的网络架构示意图；58.图3为本技术实施例提供的服务器的结构示意图；59.图4为本技术实施例提供的排序方法的一种实现流程示意图；60.图5为本技术实施例提供的排序方法的再一种实现流程示意图；61.图6为本技术实施例提供的排序方法的再一种实现流程示意图；62.图7为本技术实施例提供的基于输入输出attention门控结构的混合专家网络的结构示意图；63.图8为本技术实施例提供的带有输入输出attention门控结构的多目标模型的网络结构示意图；64.图9a为利用本技术实施例提供的多目标排序模型在空跑期和实验期pv提升幅度示意图；65.图9b为为利用本技术实施例提供的多目标排序模型在空跑期和实验期时长指标的相对提升幅度示意图；66.图10为利用本技术实施例提供的排序方法进行新闻推荐的界面示意图。具体实施方式67.为了使本技术的目的、技术方案和优点更加清楚，下面将结合附图对本技术作进一步地详细描述，所描述的实施例不应视为对本技术的限制，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本技术保护的范围。68.在以下的描述中，涉及到“一些实施例”，其描述了所有可能实施例的子集，但是可以理解，“一些实施例”可以是所有可能实施例的相同子集或不同子集，并且可以在不冲突的情况下相互结合。69.在以下的描述中，所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象，不代表针对对象的特定排序，可以理解地，“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序，以使这里描述的本技术实施例能够以除了在这里图示或描述的以外的顺序实施。70.除非另有定义，本文所使用的所有的技术和科学术语与属于本技术的
技术领域：
：的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本技术实施例的目的，不是旨在限制本技术。71.对本技术实施例进行进一步详细说明之前，对本技术实施例中涉及的名词和术语进行说明，本技术实施例中涉及的名词和术语适用于如下的解释。72.1)点击率(ctr，clickthroughrate)，即点击数/曝光数。73.2)时长(duration)，主要指用户阅读文章的时长。74.3)召回模型，用于从全量item中快速地选出跟用户兴趣相关的候选item集合的模型75.4)排序模型，用于对召回的item打分的模型，用于更精细地排序和挑选用户感兴趣的item76.5)嵌入式表示(embedding)，是将源数据映射到另外一个空间。在深度学习中，是一种用低维稠密向量来表示数据的方法。77.6)多层感知器(mlp，multiplelayerperceptron)，通常也称为dnn，即多层全连接神经网络。78.7)多门控混合专家网络(mmoe，multi-gatemixture-of-experts)，用于多目标学习的常用网络结构，专家多为dnn网络结构，多个专家用于提取不同的特征，门控用于分配每个专家的权重。79.8)放缩后的内积(scaleddotproduct)，也就是在一般内积的基础上除以向量维度的平方根。80.9)批正则化操作(batchnormalization)，是深度学习中一种常用的正则化方法，通过对每批训练数据做均值和标准差上的正则化，可以使得每一层的数据在分布上得到对齐，使得模型收敛得更快更好。81.为了更好的理解本技术实施例提供的排序方法，首先对相关技术中的排序方法中使用的多目标排序模型及存在的缺点进行说明。82.相关技术中排序方法中使用的多目标排序模型包括sharebottom模型和mmoe模型。83.sharebottom模型是推荐系统中用于多目标建模的一种常用模型，它的特点是所有目标都共用同一个输入层。84.图1a为推荐系统中sharebottom模型的网络结构示意图。如图1a所示，sharebuttom模型的输入特征有两类，一类是分类型特征，也就是图1a中的各个sparsefield001，通常是一些id类特征，比如用户历史点击的物品id，标签id，类别id等，这些分类型特征经过embedding层002之后，转化成了低维稠密的向量。另一类特征是连续型特征，也就是图1中的densefeatures003，通常是一些后验统计特征，比如点击数、曝光数、点击率等，本身就是一个向量的形式存在。分类型特征转化为低维稠密向量后与连续型特征拼接在一起，得到一个向量v，sharebottom模型的特点就是所有目标的建模，都基于这个向量v。比如说，图1a中一共有两个目标，这两个目标都是以向量v作为输入，然后用不同的mlp计算各自目标的得分(score)，最后用这个score分别拟合对应目标。也就是说，sharebottom模型计算各个目标的score时，都共享了同一个输入向量v，而v包含了底层各个embeddingtable的参数，所以共享v本质上就共享了这些参数。这种底层参数共享的方式通常又被称为参数硬共享。85.sharebottom模型的这种结构有两个优点，一是由于底层参数被所有目标共享，所以大大降低了过拟合的风险，二是不同目标在学习时也可以通过这些共享的参数进行知识迁移，利用其它目标学习到的知识帮助自己目标的学习。它的缺点是因为参数的硬共享，限制了各个目标拟合的自由度，影响了拟合的效果。特别是在不同目标之间相关性比较低时，会容易顾此失彼，难以学好每个目标。86.为了解决sharebottom模型参数硬共享存在的问题，又提出了mmoe模型。该模型同时学习多个专家网络，然后每个目标有一个自己的门控结构，用于为每个专家分配一个权重，并将各个专家的输出向量加权求和，作为该目标下的输入向量。这些专家网络是所有目标共享的，不同目标是通过自己的门控去组合这些专家的输出，得到对应目标的输入向量，并将该输入向量输入到自己的mlp中得到该目标的输出score，用它来拟合该目标的标签(label)。由于不同目标的门控不一样，所以不同目标的输入向量也不一样，这就克服了sharebottom因为所有目标使用同一个输入向量带来的难以兼顾每个目标的问题。87.图1b为推荐系统中mmoe模型的网络结构示意图，如图1b所示，该mmoe模型中包括两个专家网络expert1和expert2，还包括两个门控，分别为gate1和gate2。其中，专家网络expert1和expert2都是dnn，gate1和gate2分别是两个目标各自的门控，这些门控结构是一样的，只是参数不一样。在图1b中，inputvector011指的是分类型特征转化为低维稠密向量后与连续型特征拼接在一起得到的向量v，图1c为mmoe模型中门控gate1的结构示意图，如图1c所示，门控的输入是专家1的输出021，专家2的输出022和inputvector023这三个，其中，inputvector输入到门控后，首先做了一个mlp，输出了两个score，然后这两个score经过softmax之后变成两个概率形式的权重，最后用这两个权重对专家1的输出和专家2的输出加权求和，作为这个门控gate1的输出。88.用数学语言来表示就是，设x表示图1c中的inputvector，fi(x)表示第i个专家的输出，gk(x)表示第k个目标的门控函数，gk(x)的表达式为公式(1-1)：89.gk(x)＝softmax(wkx)ꢀꢀꢀ(1-1)；90.其中，wk是第k个目标的门控的参数，gk(x)是x经过全连接之后再softmax得到的概率向量，该概率向量中元素的个数等于专家的个数。记gk(x)中的第i个分量为则其中m是专家的个数。那么，第k个目标的门控的输出fk(x)可以表示为公式(1-2)：[0091][0092]在得到第k个目标的门控输出fk(x)后，fk(x)将作为输入，经过第k个目标自己的mlp，得到该目标的输出score，去拟合该目标对应的label。设第k个目标的mlp为hk(·)，那么第k个目标的输出score如公式(1-3)所示：[0093]yk＝hk(fk(x))ꢀꢀꢀ(1-3)；[0094]得到yk后，在用yk去拟合第k个目标的label。图1d为在点击和时长两个目标的情形下，mmoe多目标推荐模型的模型结构示意图。[0095]mmoe模型相比sharebottom模型的主要改进点就是引入了专家网络，用专家网络输出向量的不同加权组合作为不同目标的mlp的输入，从而可以使得不同目标的mlp的输入拥有更大的拟合自由度，不同目标在拟合各自目标时，相互之间的影响会更小，最终的推荐效果也会更好。[0096]虽然mmoe通过模型结构的改进能取得比sharebottom更好的效果。但是在实践当中，会发现mmoe有一个明显的缺点，就是在训练过程中很容易发生极化现象。所谓极化现象，就是门控在给各个专家分配权重的时候，所有权重都集中在某一个专家上，也就是只有一个专家的权重为1.0，其余专家的权重都为零，只有1个专家是激活的。这种情况下，mmoe模型就退化成了sharebottom模型，从而导致专家网络发挥不出该有的优势。极化现象一旦发生，mmoe就变成了sharebottom模型，效果也会随之变差。极化现象的发生主要是门控的结构引起的，因为mmoe的门控传给softmax的score只依赖于输入向量，这种计算方式会使得不同score之间在数值上差异很大，从而导致最大的score被softmax之后变成了1，其余变成了0。此外，门控计算专家权重时只依赖于输入向量而完全不结合各个专家的特点，也不够合理的，得到的权重准确度会降低。[0097]为了解决mmoe的门控引起的极化现象以及提高权重的计算的准确性，本技术实施例提出一种基于输入输出的attention门控，通过batchnormalization和scaleddotproduct运算来计算不同专家分配到的score。在这种计算方式下得到的score之间在数值上不会差异很大，从而避免了极化现象的发生，让各个专家都能学习到有效的特征，发挥出各个专家该有的优势，提升模型的学习效果。同时，输入结合着专家输出的方式计算专家的权重，也会比只依赖输入去计算专家权重更准确。[0098]下面说明本技术实施例提供的排序设备的示例性应用，本技术实施例提供的设备可以实施为笔记本电脑，平板电脑，台式计算机，机顶盒，移动设备(例如，移动电话，便携式音乐播放器，个人数字助理，专用消息设备，便携式游戏设备)等各种类型的用户终端，也可以实施为服务器。下面，将说明设备实施为服务器时示例性应用。[0099]参见图2，图2为本技术实施例提供的排序系统100的网络架构示意图，如图2所示，该排序系统100包括：终端200、网络300和服务器400，其中，终端200通过网络300连接服务器400，网络300可以是广域网或者局域网，又或者是二者的组合。[0100]终端200中安装有各种应用程序(app，application)，例如，即时通讯app、购物app、视频播放app等，用户在利用终端200上安装的视频播放app观看视频，或者用户在启动某一购物app时，会触发信息推荐请求，该信息推荐请求经由网络300发送至服务器400，信息推荐服务器400在接收到推荐请求后，基于终端200对应的推荐对象的标识信息，获取该推荐对象的推荐对象特征，在本技术实施例中，推荐对象可以为终端200对应的目标用户，对应地，推荐对象特征可以为用户特征。之后获取多个候选排序对象的排序对象特征，将推荐对象特征和每个排序对象特征进行拼接，得到输入特征，并将输入特征输入到排序模型中，得到该排序模型中各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，并且专家权重向量是所述门控模块利用所述输入特征和所述各个专家输出向量确定的，进而再利用各个专家输出向量和各个门控模块对应的专家权重向量，对多个候选排序对象进行排序，得到排序结果，在一些实施例中，在得到排序结果后，基于排序结果确定出返回终端200的目标对象信息，并将该目标对象信息发送至终端200，并在终端200中呈现目标对象信息。[0101]在一些实施例中，服务器400可以是独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、cdn、以及大数据和人工智能平台等基础云计算服务的云服务器。终端200可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表、车载终端、智能电视等，但并不局限于此。终端以及服务器可以通过有线或无线通信方式进行直接或间接地连接，本技术在此不做限制。[0102]参见图3，图3是本技术实施例提供的服务器400的结构示意图，图3所示的服务器400包括：至少一个处理器410、存储器440、至少一个网络接口420。服务器400中的各个组件通过总线系统430耦合在一起。可理解，总线系统430用于实现这些组件之间的连接通信。总线系统430除包括数据总线之外，还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见，在图3中将各种总线都标为总线系统430。[0103]处理器410可以是一种集成电路芯片，具有信号的处理能力，例如通用处理器、数字信号处理器(dsp，digitalsignalprocessor)，或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等，其中，通用处理器可以是微处理器或者任何常规的处理器等。[0104]存储器440可以是可移除的，不可移除的或其组合。示例性的硬件设备包括固态存储器，硬盘驱动器，光盘驱动器等。存储器440可选地包括在物理位置上远离处理器410的一个或多个存储设备。[0105]存储器440包括易失性存储器或非易失性存储器，也可包括易失性和非易失性存储器两者。非易失性存储器可以是只读存储器(rom，readonlymemory)，易失性存储器可以是随机存取存储器(ram，randomaccessmemory)。本技术实施例描述的存储器440旨在包括任意适合类型的存储器。[0106]在一些实施例中，存储器440能够存储数据以支持各种操作，这些数据的示例包括程序、模块和数据结构或者其子集或超集，下面示例性说明。[0107]操作系统441，包括用于处理各种基本系统服务和执行硬件相关任务的系统程序，例如框架层、核心库层、驱动层等，用于实现各种基础业务以及处理基于硬件的任务；[0108]网络通信模块442，用于经由一个或多个(有线或无线)网络接口420到达其他计算设备，示例性的网络接口420包括：蓝牙、无线相容性认证(wifi)、和通用串行总线(usb，universalserialbus)等；[0109]在一些实施例中，本技术实施例提供的装置可以采用软件方式实现，图3示出了存储在存储器440中的排序装置443，其可以是程序和插件等形式的软件，包括以下软件模块：第一获取模块4431、第二获取模块4432、第一输入模块4433、第一确定模块4434和排序模块4435，这些模块是逻辑上的，因此根据所实现的功能可以进行任意的组合或进一步拆分。[0110]将在下文中说明各个模块的功能。[0111]在另一些实施例中，本技术实施例提供的装置可以采用硬件方式实现，作为示例，本技术实施例提供的装置可以是采用硬件译码处理器形式的处理器，其被编程以执行本技术实施例提供的排序方法，例如，硬件译码处理器形式的处理器可以采用一个或多个应用专用集成电路(asic，applicationspecificintegratedcircuit)、dsp、可编程逻辑器件(pld，programmablelogicdevice)、复杂可编程逻辑器件(cpld，complexprogrammablelogicdevice)、现场可编程门阵列(fpga，field-programmablegatearray)或其他电子元件。[0112]将结合本技术实施例提供的终端的示例性应用和实施，说明本技术实施例提供的排序方法。[0113]参见图4，图4为本技术实施例提供的排序方法的一种实现流程示意图，该方法应用于服务器，以下将结合图4对本技术实施例提供的排序方法进行说明。[0114]步骤s101，获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征。[0115]在本技术实施例中，推荐对象可以为终端对应的目标用户，推荐对象的推荐对象特征可以是从该推荐对象的历史行为数据中提取出来的，推荐对象特征可以包括用户历史点击的物品标识，标签标识，类别标识等，候选排序对象可以是该推荐对象对应的召回对象，排序对象特征可以包括候选排序对象的一些后验统计特征，比如点击数、曝光数、点击率等，该排序对象特征通常为稠密特征。[0116]推荐对象特征和候选排序对象的排序对象特征均为向量，基于推荐对象特征和各个排序对象特征确定输入特征在实现时，可以是将推荐对象特征分别和各个排序对象特征进行拼接，从而得到各个候选排序对象的输入特征。例如，推荐对象特征的维度为1*64，排序对象特征的维度为1*256，那么各个候选排序对象的输入特征的维度即为1*320。[0117]步骤s102，获取训练好的多目标排序模型。[0118]其中，该多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块，也就是说该多目标排序模型中的门控模块的数量是与预设的排序目标的数量是对应的，如果预设的排序目标有两个，则门控模块也同样为两个。不同门控模块的结构是相同的，只是参数不同。[0119]专家网络为深度神经网络(deepneuralnetworks，dnn)，dnn是有很多隐藏层的神经网络，从dnn按不同层的位置划分，dnn内部的神经网络层可以分为三类，输入层，隐藏层和输出层，一般来说第一层是输入层，最后一层是输出层，而中间的层数都是隐藏层。在本技术实施例提供的排序模型中，有至少两个专家网络，但是专家网络的个数与排序目标没有必然联系，也即专家网络的个数与门控模块的个数没有必然联系。例如，排序模型中可以有2个专家网络，3个门控模块。[0120]在本技术实施例中，排序目标也可以是基于运营方关注的或者想要提升的目标来确定的，在一些实施例中，排序目标也与排序对象的业务类型相关。例如对于视频类的排序对象，关注的目标可以是播放时长、点击率等，对于公众号文章或者公众号，关注的目标可以是点赞率、关注率、点击率等。[0121]步骤s103，将所述输入特征输入所述训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量。[0122]其中，该专家权重向量是所述门控模块利用所述输入特征和所述各个专家输出向量确定的。专家权重向量的维度与专家网络的个数是对应的，例如，如果多目标排序模型中有三个专家网络，那么每个门控模块对应的专家权重向量的维度为1*3。[0123]步骤s103在实现时，是将对于某一个排序对象来说，假设以第i个排序对象为例进行说明，将第i个排序对象的输入特征vin_i分别输入每个专家网络，从而得到每个专家网络的各个专家输出向量，假设有2个专家网络，那么得到两个专家输出向量分别为vi1和vi2，并且将第i个排序对象的输入特征vin_i和两个专家输出向量vi1、vi2分别输入各个门控模块，从而得到各个门控模块对应的专家权重向量。也就是说，门控模块在计算各个专家网络的权重时，不仅考虑了输入特征，还依赖于各个专家网络的输出向量，从而能够利用各个专家网络学习到的特征，从而提高专家权重的准确性。[0124]步骤s104，利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量。[0125]步骤s104在实现时，可以首先对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量，然后将各个归一化处理后的专家输出向量和各个门控模块对应的专家权重向量中的各个专家权重进行加权求和，得到各个排序目标的门控输出向量。[0126]步骤s105，利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果。[0127]由于每个排序目标对应有一个输出向量，步骤s105在实现时，各个排序目标的门控输出向量会再分别输入各个排序目标对应的mlp网络，从而得到各个候选排序对象在该排序目标下的最终得分，然后再将各个候选排序对象在各个排序目标下的最终得分进行乘法运算，或者加权求和运算得到各个候选排序对象的综合得分，最终基于各个候选对象的综合得分进行排序，得到排序结果。该排序结果可以是按照综合得分从高到低进行排序，也可以是按照综合得分从低到高进行排序。[0128]在本技术实施例提供的排序方法中，在进行排序时，首先获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征；然后再获取训练好的多目标排序模型，其中，该多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块，之后将各个输入特征输入至训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，其中专家权重向量是门控模块利用所述输入特征和所述各个专家输出向量确定的；再利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量；利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果；由于在确定各个门控模块对应的专家权重向量时，不仅利用了输入特征，还利用了各个专家网络对应的专家输出向量，从而使得专家权重向量不仅依赖于输入特征，还能够结合各个专家网络学习到的特征，能获得更加准确的专家权重，从而提升排序结果的准确率。[0129]在一些实施例中，上述步骤s103“将所述各个输入特征输入所述训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量”，可以通过图5所示的各个步骤实现，以下将结合图5对各步骤进行说明。[0130]步骤s1031，将所述各个输入特征分别输入各个专家网络，得到各个专家网络对应的各个专家输出向量。[0131]步骤s1032，对所述各个专家输出向量进行批正则归一化处理，在实现时是对各个专家输出向量做均值和标准差上的正则化，可以使得各个专家输出向量在分布上得到对齐，从而得到各个归一化处理后的专家输出向量。[0132]步骤s1033，将所述各个归一化处理后的专家输出向量和所述输入特征输入各个门控模块，得到各个门控模块对应的专家权重向量。[0133]如图5所示，在实际应用过程中，步骤s1033又可以通过以下的步骤s331至步骤s334实现：[0134]步骤s331，将所述各个归一化处理后的专家输出向量和所述输入特征输入第i个门控模块。[0135]其中，i＝1，2，…，n，n为门控模块总数。[0136]步骤s332，基于所述专家输出向量的维度信息，对所述输入特征进行降维处理，得到降维后的输入特征。[0137]在输入特征输入第i个门控模块之后，为了能够将输入特征和专家输出向量进行内积，需要保证进行内积的两个特征向量的维度一致，因此在该步骤中，需要基于专家输出向量的维度信息，对输入特征进行降维处理，得到降维后的输入特征，并且降维后的输入特征的维度与专家输出向量的维度相同，例如专家输出向量的维度为1*64，而输入特征的维度为1*320，那么对输入特征进行降维处理，降维后的输入特征的维度为1*64。[0138]步骤s333，对所述降维后的输入特征进行批正则归一化处理，得到归一化处理后的输入特征。[0139]步骤s333的实现过程与步骤s1032的实现过程是类似的，通过进行批正则归一化处理，使得各个输入特征在分布上得到对齐。[0140]步骤s334，基于所述各个归一化处理后的专家输出向量和所述归一化处理后的输入特征，确定第i个门控模块对应的专家权重向量。[0141]步骤s334在实现时，首先将所述各个归一化处理后的专家输出向量分别和所述归一化处理后的输入特征进行缩放的点积处理，得到各个专家网络对应的点积结果，由于进行的缩放的处理，也就是说将归一化处理后的专家输入向量和归一化处理后的输入特征进行点积运算后，除以了向量维度的平方根，因此该点积结果符合预设的分布条件，在本技术实施例中，该预设的分布条件可以是0均值，1方差，也就是说各个专家网络的内积结果在数值上不会差异很大。[0142]之后再利用归一化指数函数对所述各个专家网络对应的点积结果进行处理，确定第i个门控模块对应的专家权重向量。[0143]该归一化指数函数可以是softmax函数，利用归一化指数函数对所述各个专家网络对应的点积结果进行处理所得到的专家权重，是0到1之间的实数，由于各个专家网络的内积结果在数值上不会差异很大，因此在利用归一化指数函数进行处理之后，不会发生极化，从而能保证各个专家网络能分配到一个正的权重，而不会出现某一个或几个专家网络的权重为0的情况，进而能够避免退化成sharebottom模型，提升排序结果的准确性。[0144]在一些实施例中，图4所示的步骤s104“利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量”可以通过以下步骤实现：[0145]步骤s1041，对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量。[0146]该步骤的实现过程与步骤s1032的实现过程是相同的，在实际实现时，如果已经得到归一化处理后的专家输出向量，那么该步骤可以省略。[0147]步骤s1042，将各个归一化处理后的专家输出向量和第i个门控模块对应的专家权重向量中的各个专家权重进行加权求和，得到第i个排序目标的门控输出向量。[0148]其中，i＝1，2，…，n，n为门控模块总数。假设第i个门控模块对应的专家权重向量为gi(x)，该专家权重向量中元素的个数等于专家网络的个数。记gi(x)中的第j个分量为则其中m是专家网络的个数。那么，第i个目标的门控的输出fi(x)可以通过将各个归一化处理后的专家输出向量和第i个门控模块对应的专家权重向量中的各个专家权重进行加权求和得到，也即通过公式(1-4)得到：[0149][0150]其中，公式(1-4)中的fj(x)为第j个专家的输出向量。[0151]在上述的步骤s1041至步骤s1042中，将各个归一化处理后的专家输出向量和第i个门控模块对应的专家权重向量中的各个专家权重进行加权求和，也就得到第i个排序目标的门控输出向量，从而可以在后续过程中基于各个排序目标的门控输出向量确定各个待排序对象在各个排序目标下的综合得分，为排序步骤提供准确的数据。[0152]在一些实施例中，上述步骤s105“利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果”可以通过以下步骤实现：[0153]步骤s1051，基于所述各个排序目标的门控输出向量，确定各个候选排序对象在各个排序目标下的输出结果。[0154]各个排序目标的门控输出向量也即为各个门控模块的输出向量，在实际实现时，各个排序目标或者说各个门控模块分别对应有一个mlp网络，各个门控模块的输出向量会输入至各自的mlp网络中进行处理，从而得到各个候选排序对象在各个排序目标下的输出结果。[0155]该输出结果中包括的元素个数与候选排序对象的个数相同。[0156]步骤s1052，基于各个候选排序对象在各个排序目标下的输出结果，确定所述各个候选排序对象的综合得分。[0157]假设有300个候选排序对象，有两个排序目标，分别为时长和点击率。假设时长对应的输出结果为[t1,t2,…,t300]，点击率对应的输出结果为[p1,p2,…,p300]，那么第一个候选排序对象在时长这一排序目标下的输出结果为t1，在点击率这一排序目标下的输出结果为p1，第二个候选排序对象在时长这一排序目标下的输出结果为t2，在点击率这一排序目标下的输出结果为p2，以此类推。步骤s1052在实现时，可以是将候选排序对象在各个排序目标下的输出结果相乘得到该候选排序对象的综合得分，也即第一个候选排序对象的综合得分为t1*p1，第二个候选排序对象的综合得分为t2*p2，…，第300个候选排序对象的综合得分为t300*p300。[0158]在一些实施例中，基于各个候选排序对象在各个排序目标下的输出结果，确定所述各个候选排序对象的综合得分在实现时，还可以是将候选排序对象在各个排序目标下的输出结果进行加法运算。[0159]步骤s1053，利用所述各个候选排序对象的综合得分对所述候选排序对象进行排序，得到排序结果。[0160]步骤s1053在实现时，可以是按照各个候选排序对象的综合得分从大到小的顺序进行排序，得到排序结果，还可以是按照从小到大的顺序进行排序，得到排序结果。[0161]基于前述的实施例，本技术实施例再提供一种排序方法，应用于图2所示网络架构，图6为本技术实施例提供的排序方法的再一种实现流程示意图，如图6所示，该方法包括：[0162]步骤s601，终端接收触发信息推荐请求的触发操作。[0163]这里，该触发操作可以是点击某一app的图标启动该app的操作，也可以是针对视频播放app中某一视频的点击操作，还可以是付款操作。[0164]步骤s602，用户终端响应于该触发操作，向服务器发送信息推荐请求。[0165]这里，该信息推荐请求中携带有标识信息，并且该信息推荐请求中还携带有该触发操作的类型。[0166]步骤s603，服务器响应于接收到的信息推荐请求，获取信息推荐请求中携带的标识信息。[0167]步骤s604，服务器基于该标识信息获取所述推荐对象的历史行为数据。[0168]步骤s604在实现时，可以是服务器获取该推荐对象在当前平台的历史行为数据，还可以是获取该推荐对象在不同业务平台的历史行为数据。[0169]步骤s605，服务器基于所述历史行为数据获取所述推荐对象的推荐对象特征。[0170]该历史行为数据中可以包括推荐对象点击查看文章时的行为数据，还可以包括推荐对象观看视频时的行为数据。步骤s605在实现时，可以基于历史行为数据，确定用户点击或者查看的文章的标识、文章类型等推荐对象特征，还可以基于历史行为数据确定用户点击或观看的视频的视频标识、视频类型、视频标签等推荐对象特征。[0171]步骤s606，服务器获取自身存储的各个待排序对象的排序对象特征。[0172]在该步骤中，服务器提取的排序对象特征至少包括对象标识、对象类型、对象标签等特征，还可以包括各个待排序对象的观看时长、点赞数、评论数等特征。[0173]步骤s607，服务器基于所述推荐对象特征和各个待排序对象的排序对象特征，从多个排序对象中确定多个候选排序对象。[0174]步骤s607在实现时，可以是服务器基于推荐对象特征和各个待排序对象的排序对象特征[0175]步骤s608，服务器获取多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征。[0176]在该步骤中，服务器获取的各个候选排序对象的排序对象特征可以包括各个候选排序对象的点击数、曝光数、点击率、点赞数、评论数等特征。[0177]基于所述推荐对象特征和各个排序对象特征确定输入特征在实现时，可以是将推荐对象特征和各个排序对象特征分别进行拼接，从而得到各个候选排序对象的输入特征。[0178]步骤s609，服务器获取训练好的多目标排序模型。[0179]该多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块。该多目标排序模型还包括各个门控模块对应的mlp网络。[0180]步骤s610，服务器将所述各个输入特征分别输入各个专家网络，得到各个专家网络对应的各个专家输出向量。[0181]在步骤s610中，可以认为得到的是各个候选排序对象在各个专家网络中的各个专家输出向量。如果有m个专家网络，那么每个候选排序对象，或者说每个输入特征能够得到m个专家输出向量。[0182]步骤s611，服务器对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量。[0183]步骤s612，服务器将所述各个归一化处理后的专家输出向量和所述输入特征输入各个门控模块，得到各个门控模块对应的专家权重向量。[0184]步骤s612在实现时，是按照候选排序为粒度进行的。也即服务器将第p个候选排序对象的输入特征和第p个候选排序对象对应的各个归一化处理后的专家输出向量输入各个门控模块，得到的也是第p个候选排序对象在各个门控模块对应的专家权重向量，其中，p＝dnn701和expert2dnn702中。记这两个专家网络分别为f1和f2，那么这两个专家网络的输出就分别为f1(x)和f2(x)。为了让输入x和专家的输出能进行scaleddotproduct操作，输入x需要先做降维，降到跟专家输出向量的维度一致。降维操作就是乘以一个矩阵，记降维的函数为g，降维后的结果为g(x)＝wx，其中w是这个门控的可训练的参数矩阵。为了让经过scaleddotproduct后得到的数据接近0均值，1方差的分布，对专家网络的输出f1(x)、f2(x)f1(x)和降维后的输入g(x)做batchnormalization。为了保持简洁性，仍然用f1(x)、f2(x)和g(x)分别表示经过batchnormalization的专家网络输出和降维后的输入。设专家网络输出的维度为d，则输入向量-专家输出向量的scaleddotproduct利用公式(2-1)计算得出：[0196][0197]其中，《a,b》表示计算a和b的内积，i＝1，2。然后对这些si做softmax，即通过公式(2-2)得到每个专家的attention分数αi：[0198][0199]最后按照公式(2-3)将所有专家的输出向量以αi为权重做加权平均，得到这个门控下的输出向量f(x)：[0200][0201]在做多目标建模时，每个目标都有一个自己的门控，每个目标都按照上述做法得到自己门控的输出向量，记第k个目标的门控输出为fk(x)，则第k个目标会以fk(x)为输入，传给一个自己独有的mlp，记该mlp为hk(·)，那么第k个目标的输出分数为yk＝hk(fk(x))，最后用yk去拟合第k个目标的label。[0202]以下对本技术实施例提供的多目标排序模型能够避免极化现象的理论依据进行说明。[0203]假设经过降维和batchnormalization之后的输入向量的第i个分量为xi，i＝1,2,…,d，其中d为向量的维度。由于经过batchnormalization能把数据近似变换到0均值，1方差的分布，所以xi的数学期望e(xi)＝0，方差d(xi)＝1，并且各个xi独立同分布。设某个专家经过batchnormalization之后的输出向量的第i个分量为yi，i＝1，2，…,d。类似地，yi之间也是独立同分布，并且也是近似服从0均值，1方差的分布，所以有e(yi)＝0，方差d(yi)＝1。此外，所有xi和yi也是独立的。设s为输入和输出向量的scaleddotproduct，那么根据上面给出的scaleddotproduct的计算表达式，有以下公式(2-4)：[0204][0205]结合各个xi和yi独立同分布，且有0均值和1方差，根据数学期望和方差的性质，s的数学期望e(s)可通过公式(2-5)得出：[0206][0207]s的方差d(s)可通过公式(2-6)得出：[0208][0209]其中，e(xiyi)＝e(xi)e(yi)＝0。由于xi和yi独立，所以根据方差和数学期望的关系，类似地有因此所以s的方差d(s)为：[0210][0211]由此证明了输入向量和任何一个专家的输出向量经过scaleddotproduct之后得到的分数s都是服从0均值和1方差的分布。也就是说，分配到各个专家的attention分数s基本不可能出现在数值上差异很大的情况，在经过softmax之后，得到的概率不会集中在某一个专家上。从而可以有效避免极化现象的发生。[0212]图8为本技术实施例提供的带有输入输出attention门控结构的多目标模型的网络结构示意图，为了表述的简洁性，在图8中以点击和时长两个目标为例，展示了如何将输入输出attention门控整合到一般的多目标模型中，对于目标多于两个的情形，应用的方式是完全一样，所有专家被所有目标所共享，每增加一个目标只需相应地增加一个输入输出attention门控以及门控之后的mlp即可。[0213]由上述分析可知，因为输入输出attention门控在理论上可以保证分配给各个专家的attention分数近似服从0均值，1方差的分布，所以相比mmoe能有效避免极化现象的发生，保证各个专家在训练过程中都是激活的，也就是每个专家都会去学习特征，且每个专家学习到的特征都会被各个目标用上，尽可能大地发挥专家网络的优势。[0214]在本技术实施例中，提供一种基于输入输出attention门控的多目标排序模型，用以解决经典mmoe多目标模型容易产生专家极化的问题，同时也提高了分配给专家的权重的准确性。在图文推荐场景下，对点击和时长两目标模型做了线上的a/b测试，图9a为利用本技术实施例提供的多目标排序模型在空跑期和实验期pv提升幅度示意图，图9b为为利用本技术实施例提供的多目标排序模型在空跑期和实验期时长指标的相对提升幅度示意图，其中，空跑期a/b两组都是经典mmoe，实验期两组分别为本技术实施例提供的多目标排序模型与mmoe的对比。通过图9a和图9b可以看出，使用本技术实施例提出的方案对比使用经典mmoe模型，能够实现在时长指标持平的前提下，点击量(pv)平均提升0.55％。[0215]本技术实施例提供的排序模型可应用于基于mmoe多目标排序模型的推荐系统上，如新闻客户端、浏览器等，图10为利用本技术实施例提供的排序方法进行新闻推荐的界面示意图。[0216]本技术实施例是一种对专家网络门控的改进方案，由于专家网络是模型的一部分，因此，无论是排序模型还是召回模型，只要使用到混合专家网络，就可以使用本技术实施例提出的门控结构为各个专家分配权重。对于本技术实施例中提出的输入输出attention门控结构，其要点是根据专家输入向量和输出向量产生出0均值和1方差的attention分数，然后再softmax得到专家权重。其中，为了保证softmax前的attention分数具有0均值和1方差的分布，对输入和输出向量采用了batchnormalization和scaleddotproduct这两种关键的操作和运算。因此，对于其他能保证softmax前的attention分数具有0均值和1方差的方法，都属于本技术实施例要保护的方案。[0217]下面继续说明本技术实施例提供的排序装置443的实施为软件模块的示例性结构，在一些实施例中，如图3所示，存储在存储器440的排序装置443中的软件模块可以包括：[0218]第一获取模块，用于获取推荐对象的推荐对象特征和多个候选排序对象的排序对象特征，并基于所述推荐对象特征和各个排序对象特征确定输入特征；[0219]第二获取模块，用于获取训练好的多目标排序模型，所述多目标排序模型包括至少两个专家网络和各个排序目标对应的门控模块；[0220]第一输入模块，用于将所述输入特征输入所述训练好的多目标排序模型，得到各个专家网络对应的各个专家输出向量和各个门控模块对应的专家权重向量，所述专家权重向量是所述门控模块利用所述输入特征和所述各个专家输出向量确定的；[0221]第一确定模块，用于利用各个专家输出向量和各个门控模块对应的专家权重向量，确定各个排序目标的门控输出向量；[0222]排序模块，用于利用所述各个排序目标的门控输出向量对所述候选排序对象进行排序，得到排序结果。[0223]在一些实施例中，该第一输入模块，还用于：[0224]将所述各个输入特征分别输入各个专家网络，得到各个专家网络对应的各个专家输出向量；[0225]对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量；[0226]将所述各个归一化处理后的专家输出向量和所述输入特征输入各个门控模块，得到各个门控模块对应的专家权重向量。[0227]在一些实施例中，该第一输入模块，还用于：[0228]将所述各个归一化处理后的专家输出向量和所述输入特征输入第i个门控模块，i＝1，2，…，n，n为门控模块总数；[0229]基于所述专家输出向量的维度信息，对所述输入特征进行降维处理，得到降维后的输入特征；[0230]对所述降维后的输入特征进行批正则归一化处理，得到归一化处理后的输入特征；[0231]基于所述各个归一化处理后的专家输出向量和所述归一化处理后的输入特征，确定第i个门控模块对应的专家权重向量。[0232]在一些实施例中，该第一输入模块，还用于：[0233]将所述各个归一化处理后的专家输出向量分别和所述归一化处理后的输入特征进行缩放的点积处理，得到各个专家网络对应的点积结果，所述点积结果符合预设的分布条件；[0234]利用归一化指数函数对所述各个专家网络对应的点积结果进行处理，各个专家网络对应的专家权重；[0235]基于各个专家网络对应的专家权重，确定第i个门控模块对应的专家权重向量。[0236]在一些实施例中，该第一确定模块，还用于：[0237]对所述各个专家输出向量进行批正则归一化处理，得到各个归一化处理后的专家输出向量；[0238]将各个归一化处理后的专家输出向量和第i个门控模块对应的专家权重向量中的各个专家权重进行加权求和，得到第i个排序目标的门控输出向量，i＝1，2，…，n，n为门控模块总数。[0239]在一些实施例中，该排序模块，还用于：[0240]基于所述各个排序目标的门控输出向量，确定各个候选排序对象在各个排序目标下的输出结果；[0241]基于各个候选排序对象在各个排序目标下的输出结果，确定所述各个候选排序对象的综合得分；[0242]利用所述各个候选排序对象的综合得分对所述候选排序对象进行排序，得到排序结果。[0243]在一些实施例中，该第一获取模块，还用于：[0244]响应于接收到的信息推荐请求，获取所述信息推荐请求中携带的推荐对象的标识信息；[0245]基于所述标识信息获取所述推荐对象的历史行为数据；[0246]基于所述历史行为数据获取所述推荐对象的推荐对象特征。[0247]在一些实施例中，该装置还包括：[0248]第二确定模块，用于基于所述排序结果，从所述多个候选排序对象中确定至少一个目标对象；[0249]第一发送模块，用于将携带有所述至少一个目标对象的信息推荐响应发送至所述标识信息对应的终端。[0250]在一些实施例中，该装置还包括：[0251]第二获取模块，用于获取自身存储的各个待排序对象的排序对象特征；[0252]第三确定模块，用于基于所述推荐对象特征和各个待排序对象的排序对象特征，从多个排序对象中确定多个候选排序对象。[0253]需要说明的是，以上排序装置实施例项的描述，与上述方法描述是类似的，具有同方法实施例相同的有益效果。对于本技术排序装置实施例中未披露的技术细节，本领域的技术人员请参照本技术方法实施例的描述而理解。[0254]本技术实施例提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行本技术实施例上述的排序方法。[0255]本技术实施例提供一种存储有可执行指令的计算机可读存储介质，其中存储有可执行指令，当可执行指令被处理器执行时，将引起处理器执行本技术实施例提供的方法，例如，如图4、图5和图6示出的方法。[0256]在一些实施例中，计算机可读存储介质可以是fram、rom、prom、eprom、eeprom、闪存、磁表面存储器、光盘、或cd-rom等存储器；也可以是包括上述存储器之一或任意组合的各种设备。[0257]在一些实施例中，可执行指令可以采用程序、软件、软件模块、脚本或代码的形式，按任意形式的编程语言(包括编译或解释语言，或者声明性或过程性语言)来编写，并且其可按任意形式部署，包括被部署为独立的程序或者被部署为模块、组件、子例程或者适合在计算环境中使用的其它单元。[0258]作为示例，可执行指令可以但不一定对应于文件系统中的文件，可以可被存储在保存其它程序或数据的文件的一部分，例如，存储在超文本标记语言(html，hypertextmarkuplanguage)文档中的一个或多个脚本中，存储在专用于所讨论的程序的单个文件中，或者，存储在多个协同文件(例如，存储一个或多个模块、子程序或代码部分的文件)中。[0259]作为示例，可执行指令可被部署为在一个计算设备上执行，或者在位于一个地点的多个计算设备上执行，又或者，在分布在多个地点且通过通信网络互连的多个计算设备上执行。[0260]以上所述，仅为本技术的实施例而已，并非用于限定本技术的保护范围。凡在本技术的精神和范围之内所作的任何修改、等同替换和改进等，均包含在本技术的保护范围之内。当前第1页12当前第1页12
再多了解一些
本文用于创业者技术爱好者查询，仅供学习研究，如用于商业用途，请联系技术所有人。
