基于冷启动场景领域适应学习的风险设备识别方法及装置与流程

1.本发明涉及数据处理技术领域，具体而言，涉及一种基于冷启动场景领域适应学习的风险设备识别方法、装置、电子设备及计算机可读介质。


背景技术：

2.随着互联网的发展，出现了各种互联网服务平台，比如：网购平台、网约车平台、共享平台、地图、音乐等等。这些平台给人们的生活带来了很大的便利，但因其与互联网紧密结合，会存在一些比如：欺诈、失信等的风险。
3.为了识别这些存在风险的设备，通常会采集与设备相关的样本数据通过机器学习模型来预测该设备的风险值。但在新的服务或产品投产之前没有、或者只要少量的样本数据，这些样本数据的表现期不够导致有标签本量小于预设样本量的情况称为冷启动。因为冷启动会造成训练样本不足，进而无法对机器学习模型进行有效的训练，影响新业务的开展。


技术实现要素：

4.有鉴于此，本发明主要目的在于提出一种基于冷启动场景领域适应学习的风险设备识别方法、装置、电子设备及计算机可读介质，以期至少部分地解决上述技术问题中的至少之一。
5.为了解决上述技术问题，本发明第一方面提出一种基于冷启动场景领域适应学习的风险设备识别方法，所述方法包括：
6.配置与风险识别模型相关联的辅助任务模型；
7.基于所述辅助任务模型对源域和目标域进行领域适应学习；
8.根据目标域冷启动场景选取源域和目标域对应的训练样本；
9.将选取的训练样本输入风险识别模型进行训练；
10.采用训练好的风险识别模型识别冷启动场景的设备风险；
11.其中，所述冷启动指因样本表现期不够导致有标签样本量小于预设样本量的情况。
12.根据本发明一种优选实施方式，所述基于所述辅助任务模型对源域和目标域进行领域适应学习包括：
13.通过辅助任务模型优化源域与目标域之间的边缘概率距离或者局部边缘概率距离；
14.或者，通过源域和目标域之间的梯度反转层最大化源域和目标域之间的分类误差。
15.根据本发明一种优选实施方式，所述领域适应学习为：
16.17.其中，l为损失函数，n为样本个数，vi为样本权重，λ为复杂度权重，r为领域适应学习正则项，t为特征变换函数，xi是第i个样本的特征数据，yi是第i个样本的标签数据，ds表示源域和d
t
表示目标域。
18.根据本发明一种优选实施方式，所述冷启动场景包括：样本量小于阈值的新开业务场景、只包含早于预定时期的旧样本的重启业务场景、在其他地区新开业务场景。
19.根据本发明一种优选实施方式，所述根据目标域冷启动场景选取源域和目标域对应的训练样本包括：
20.对于样本量小于阈值的新开业务场景和在其他地区新开业务场景，将源域样本作为训练样本；
21.对于只包含早于预定时期的旧样本的重启业务场景，将源域和目标域样本混合作为训练样本。
22.为了解决上述技术问题，本发明第二方面提供一种基于冷启动场景领域适应学习的风险设备识别装置，所述装置包括：
23.配置模块，用于配置与风险识别模型相关联的辅助任务模型；
24.适应模块，用于基于所述辅助任务模型对源域和目标域进行领域适应学习；
25.选取模块，用于根据目标域冷启动场景选取源域和目标域对应的训练样本；
26.训练模块，用于将选取的训练样本输入风险识别模型进行训练；
27.识别模块，用于采用训练好的风险识别模型识别冷启动场景的设备风险；
28.其中，所述冷启动指因样本表现期不够导致有标签样本量小于预设样本量的情况。
29.根据本发明一种优选实施方式，所述适应模块通过辅助任务模型优化源域与目标域之间的边缘概率距离或者局部边缘概率距离；
30.或者，所述适应模块通过源域和目标域之间的梯度反转层最大化源域和目标域之间的分类误差。
31.根据本发明一种优选实施方式，所述领域适应学习为：
[0032][0033]
其中，l为损失函数，n为样本个数，vi为样本权重，λ为复杂度权重，r为领域适应学习正则项，t为特征变换函数，xi是第i个样本的特征数据，yi是第i个样本的标签数据，ds表示源域和d
t
表示目标域。
[0034]
根据本发明一种优选实施方式，所述冷启动场景包括：样本量小于阈值的新开业务场景、只包含早于预定时期的旧样本的重启业务场景、在其他地区新开业务场景。
[0035]
根据本发明一种优选实施方式，所述选取模块，对于样本量小于阈值的新开业务场景和在其他地区新开业务场景，将源域样本作为训练样本；对于只包含早于预定时期的旧样本的重启业务场景，将源域和目标域样本混合作为训练样本。
[0036]
为解决上述技术问题，本发明第三方面提供一种电子设备，包括：
[0037]
处理器；以及
[0038]
存储计算机可执行指令的存储器，所述计算机可执行指令在被执行时使所述处理器执行上述的方法。
[0039]
为解决上述技术问题，本发明第四方面提供一种计算机可读存储介质，其中，所述计算机可读存储介质存储一个或多个程序，当所述一个或多个程序被处理器执行时，实现上述方法。
[0040]
本发明通过配置与风险识别模型相关联的辅助任务模型；基于辅助任务模型对源域和目标域进行领域适应学习，从而将有足够标签样本的源域的特征迁移到只有少量标签样本的目标域，再根据目标域的冷启动场景选取源域和目标域对应的训练样本；通过选取的训练样本训练出可以应用在目标域上的风险识别模型，从而能够识别目标域冷启动场景的设备风险。解决因标签样本量少而无法进行模型训练，影响新业务开展的问题。
附图说明
[0041]
为了使本发明所解决的技术问题、采用的技术手段及取得的技术效果更加清楚，下面将参照附图详细描述本发明的具体实施例。但需声明的是，下面描述的附图仅仅是本发明的示例性实施例的附图，对于本领域的技术人员来讲，在不付出创造性劳动的前提下，可以根据这些附图获得其他实施例的附图。
[0042]
图1是本发明实施例一种基于冷启动场景领域适应学习的风险设备识别方法的流程示意图；
[0043]
图2a～2b分别是本发明实施例对源域和目标域进行领域适应学习的两种示意图；
[0044]
图3是本发明实施例一种基于冷启动场景领域适应学习的风险设备识别装置的结构框架示意图；
[0045]
图4是根据本发明的一种电子设备的示例性实施例的结构框图；
[0046]
图5是本发明一种计算机可读介质实施例的示意图。
具体实施方式
[0047]
现在将参考附图来更加全面地描述本发明的示例性实施例，虽然各示例性实施例能够以多种具体的方式实施，但不应理解为本发明仅限于在此阐述的实施例。相反，提供这些示例性实施例是为了使本发明的内容更加完整，更加便于将发明构思全面地传达给本领域的技术人员。
[0048]
在符合本发明的技术构思的前提下，在某个特定的实施例中描述的结构、性能、效果或者其他特征可以以任何合适的方式结合到一个或更多其他的实施例中。
[0049]
在对于具体实施例的介绍过程中，对结构、性能、效果或者其他特征的细节描述是为了使本领域的技术人员对实施例能够充分理解。但是，并不排除本领域技术人员可以在特定情况下，以不含有上述结构、性能、效果或者其他特征的技术方案来实施本发明。
[0050]
附图中的流程图仅是一种示例性的流程演示，不代表本发明的方案中必须包括流程图中的所有的内容、操作和步骤，也不代表必须按照图中所显示的的顺序执行。例如，流程图中有的操作/步骤可以分解，有的操作/步骤可以合并或部分合并，等等，在不脱离本发明的发明主旨的情况下，流程图中显示的执行顺序可以根据实际情况改变。
[0051]
附图中的框图一般表示的是功能实体，并不一定必然与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实
体。
[0052]
各附图中相同的附图标记表示相同或类似的元件、组件或部分，因而下文中可能省略了对相同或类似的元件、组件或部分的重复描述。还应理解，虽然本文中可能使用第一、第二、第三等表示编号的定语来描述各种器件、元件、组件或部分，但是这些器件、元件、组件或部分不应受这些定语的限制。也就是说，这些定语仅是用来将一者与另一者区分。例如，第一器件亦可称为第二器件，但不偏离本发明实质的技术方案。此外，术语“和/或”、“及/或”是指包括所列出项目中的任一个或多个的所有组合。
[0053]
请参阅图1，图1是本发明提供的一种基于冷启动场景领域适应学习的风险设备识别方法，所述方法用于互在联网服务中识别风险设备，其中，所述互联网服务可以是各种互联网服务平台提供的服务，所述互联网服务平台可以是网购平台、网约车平台、共享平台、搜索平台、社交平台等等，只要是基于互联网提供的服务可以适用，本发明不做具体限定。如图1所示，所述方法包括：
[0054]
s1、配置与风险识别模型相关联的辅助任务模型；
[0055]
本实施例中，需要根据风险识别模型应用的业务场景、和识别的风险类别来配置风险识别模型相关联的辅助任务模型；也就是说，辅助任务模型与风险识别模型应用的业务场景和识别风险类型相关。示例性的，可以将风险识别模型应用的业务场景中识别第一风险类型的任务作为辅助任务，配置对应的辅助任务模型。其中，第一风险类型是不同于风险识别模型识别的风险类型的风险类型。比如：在逾期业务场景中，风险识别模型识别的风险类别为逾期，可以将识别欺诈作为辅助任务，配置对应的欺诈模型；在资信评估业务场景中，风险识别模型识别的风险类别为失信，可以将识别欺诈作为辅助任务，配置对应的欺诈模型。
[0056]
s2、基于所述辅助任务模型对源域和目标域进行领域适应学习；
[0057]
本实施例中，源域的标签样本量大于第一阈值，即：源域有足够的标签样本，目标域因处于冷启动场景，导致目标域的标签样本量小于预设样本量，即：目标域只有少量，或者没有标签样本。所述第一阈值远大于所述预设样本量。
[0058]
其中，所述冷启动指因样本表现期不够导致有标签样本量小于预设样本量的情况。示例性的，所述冷启动场景包括：样本量小于阈值的新开业务场景(比如新开的业务，只有少量标签样本)、只包含早于预定时期的旧样本的重启业务场景(比如业务被迫停止3个月后重启，该重启业务只包含3个月前的旧样本)、在其他地区新开业务场景(比如：在其他地区开展与当地相类似的业务)。
[0059]
下面来具体阐述本发明所述的领域适应学习。
[0060]
对任意一个样本(xi,yi),xi∈x,yi∈y，称d＝{x,y,p(x,y)}为包含该样本的一个领域。其中，x为特征空间，y为标签空间，对于结构化数据来说，特征空间是所有预测变量，标签空间是分类类别、回归区间。xi是第i个样本的特征数据，yi是第i个样本的标签数据，p(x,y)为样本服从的概率分布，常规机器学习模型需要满足独立同分布假设。
[0061]
领域适应学习可以应用于存在以下任一情况的给定源域ds和目标域d
t
中：(1)特征空间不同，xs≠x
t
；(2)标签空间不同，ys≠y
t
；(3)样本概率分布空间不同，ps(x,y)≠p
t
(x,y)。
[0062]
另一方面，常规结构风险最小化的有监督机器学习模型可以定义如下
[0063][0064]
其中，l表示损失函数，n表示样本个数，r(f)为模型复杂度，λ为复杂度权重，xi是第i个样本的特征数据，yi是第i个样本的预测值。
[0065]
则所述领域适应学习为：
[0066][0067]
其中，l为损失函数，n为样本个数，vi为样本权重，λ为复杂度权重，r为领域适应学习正则项，t为特征变换函数，xi是第i个样本的特征数据，yi是第i个样本的标签数据。
[0068]
从上述公式(1)出发，领域适应学习可以分为以下三种：
[0069]
(1)样本权重迁移，通过调整样本权重对于源域中越无法被正确分类的样本赋予越小的权重，对于目标域中越无法被正确分类的样本赋予越大的权重；比如tradaboost算法。
[0070]
(2)特征变换迁移，通过学习特征变换函数t来减小r项，使得经过变换后的边缘分布p(t(xs))对p(t(x
t
))、条件分布p(ys|t(xs))对p(y
t
|t(x
t
))都尽可能接近；比如联合分布适配jda算法。
[0071]
(3)预训练模型迁移，令r(t(ds),t(d
t
))＝r(fs,t(d
t
))，即把源域学到的模型fs拿到目标域的数据上做微调fine-tune，常见于计算视觉cv领域、自然语音处理nlp领域。
[0072]
本实施例中，所述领域适应学习可以限定如下：
[0073]
源域为ds,d
t
；目标域为d
t
，源域和目标域的特征空间相同：xs＝x
t
；源域和目标域的标签空间相同：ys＝y
t
；源域和目标域的样本概率分布空间不同：ps(x,y)≠p
t
(x,y)；目标域可以有标签也可以完全没有标签。
[0074]
在一种示例中，可以通过辅助任务模型优化源域与目标域之间的边缘概率距离来完成对源域和目标域进行领域适应学习，或者，通过辅助任务模型优化源域与目标域之间的局部边缘概率距离来完成对源域和目标域进行领域适应学习。如图2a所示，将辅助任务的源域样本和目标域样本先输入共享层进行处理，辅助任务模型通过优化r(t(ds),t(d
t
))来学习特征变换函数t，r(t(ds),t(d
t
))可以定义为源域与目标域之间的边缘概率距离mmd(maximum mean discrepancy)；或者，r(t(ds),t(d
t
))可以定义为源域与目标域之间的局部边缘概率距离lmmd(local maximum mean discrepancy)来完成对源域和目标域进行领域适应学习。
[0075]
在另一示例中，如图2b，将辅助任务的源域样本和目标域样本先输入共享层进行处理后，再通过源域和目标域之间的梯度反转层最大化源域和目标域之间的分类误差，在识别正确类别的同时消除对域的认识，从而完成对源域和目标域进行领域适应学习。
[0076]
s3、根据目标域冷启动场景选取源域和目标域对应的训练样本；
[0077]
以目标域冷启动场景包括：样本量小于阈值的新开业务场景、只包含早于预定时期的旧样本的重启业务场景、在其他地区新开业务场景为例：对于样本量小于阈值的新开业务场景和在其他地区新开业务场景，将源域样本作为训练样本；对于只包含早于预定时期的旧样本的重启业务场景，将源域和目标域样本混合作为训练样本。
[0078]
s4、将选取的训练样本输入风险识别模型进行训练；
[0079]
本实施例中，当目标域冷启动场景中无标签时，采用半监督学习方式进行训练，即只把源域样本送入主任务学习，这对于新开业务、样本还没有进入表现期的场景适用；当目标域有标签时，采用有监督学习方式进行训练，即把源域和目标域样本混合在一起送入主任务学习，这对于需要扩大样本量、但远期与近期样本同分布假设失效的场景适用。
[0080]
s5、采用训练好的风险识别模型识别冷启动场景的设备风险；
[0081]
通过上述领域适应学习、并训练好的风险识别模型能够识别目标域冷启动场景的设备风险，将目标域冷启动场景的设备数据输入训练好的风险识别模型中，根据输出结果即可识别设备风险。
[0082]
图3是本发明一种基于冷启动场景领域适应学习的风险设备识别装置，如图3所示，所述装置包括：
[0083]
配置模块31，用于配置与风险识别模型相关联的辅助任务模型；
[0084]
适应模块32，用于基于所述辅助任务模型对源域和目标域进行领域适应学习；
[0085]
选取模块33，用于根据目标域冷启动场景选取源域和目标域对应的训练样本；
[0086]
训练模块34，用于将选取的训练样本输入风险识别模型进行训练；
[0087]
识别模块35，用于采用训练好的风险识别模型识别冷启动场景的设备风险；
[0088]
其中，所述冷启动指因样本表现期不够导致有标签样本量小于预设样本量的情况。
[0089]
在一种实施方式中，所述适应模块32通过辅助任务模型优化源域与目标域之间的边缘概率距离或者局部边缘概率距离；
[0090]
或者，所述适应模块32通过源域和目标域之间的梯度反转层最大化源域和目标域之间的分类误差。
[0091]
所述领域适应学习为：
[0092][0093]
其中，l为损失函数，n为样本个数，vi为样本权重，λ为复杂度权重，r为领域适应学习正则项，t为特征变换函数。
[0094]
在一种示例中，所述冷启动场景包括：样本量小于阈值的新开业务场景、只包含早于预定时期的旧样本的重启业务场景、在其他地区新开业务场景。
[0095]
所述选取模块33，对于样本量小于阈值的新开业务场景和在其他地区新开业务场景，将源域样本作为训练样本；对于只包含早于预定时期的旧样本的重启业务场景，将源域和目标域样本混合作为训练样本。
[0096]
本领域技术人员可以理解，上述装置实施例中的各模块可以按照描述分布于装置中，也可以进行相应变化，分布于不同于上述实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块。
[0097]
下面描述本发明的电子设备实施例，该电子设备可以视为对于上述本发明的方法和装置实施例的实体形式的实施方式。对于本发明电子设备实施例中描述的细节，应视为对于上述方法或装置实施例的补充；对于在本发明电子设备实施例中未披露的细节，可以参照上述方法或装置实施例来实现。
[0098]
图4是根据本发明的一种电子设备的示例性实施例的结构框图。图4显示的电子设
备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
[0099]
如图4所示，该示例性实施例的电子设备400以通用数据处理设备的形式表现。电子设备400的组件可以包括但不限于：至少一个处理单元410、至少一个存储单元420、连接不同电子设备组件(包括存储单元420和处理单元410)的总线430、显示单元440等。
[0100]
其中，所述存储单元420存储有计算机可读程序，其可以是源程序或都只读程序的代码。所述程序可以被处理单元410执行，使得所述处理单元410执行本发明各种实施方式的步骤。例如，所述处理单元410可以执行如图1所示的步骤。
[0101]
所述存储单元420可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)4201和/或高速缓存存储单元4202，还可以进一步包括只读存储单元(rom)4203。所述存储单元420还可以包括具有一组(至少一个)程序模块4205的程序/实用工具4204，这样的程序模块4205包括但不限于：操作电子设备、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
[0102]
总线430可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
[0103]
电子设备400也可以与一个或多个外部设备100(例如键盘、显示器、网络设备、蓝牙设备等)通信，使得用户能经由这些外部设备100与该电子设备400交互，和/或使得该电子设备400能与一个或多个其它数据处理设备(例如路由器、调制解调器等等)进行通信。这种通信可以通过输入/输出(i/o)接口450进行，还可以通过网络适配器460与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)进行。网络适配器460可以通过总线430与电子设备400的其它模块通信。应当明白，尽管图4中未示出，电子设备400中可使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid电子设备、磁带驱动器以及数据备份存储电子设备等。
[0104]
图5是本发明的一个计算机可读介质实施例的示意图。如图5所示，所述计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的电子设备、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。当所述计算机程序被一个或多个数据处理设备执行时，使得该计算机可读介质能够实现本发明的上述方法，即：配置与风险识别模型相关联的辅助任务模型；基于所述辅助任务模型对源域和目标域进行领域适应学习；根据目标域冷启动场景选取源域和目标域对应的训练样本；将选取的训练样本输入风险识别模型进行训练；采用训练好的风险识别模型识别冷启动场景的设备风险。
[0105]
通过以上的实施方式的描述，本领域的技术人员易于理解，本发明描述的示例性实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本发明实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个计算机可读的存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台数据处理设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方
法。
[0106]
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行电子设备、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。
[0107]
可以以一种或多种程序设计语音的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语音包括面向对象的程序设计语音—诸如java、c 等，还包括常规的过程式程序设计语音—诸如“c”语音或类似的程序设计语音。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
[0108]
综上所述，本发明可以执行计算机程序的方法、装置、电子设备或计算机可读介质来实现。可以在实践中使用微处理器或者数字信号处理器(dsp)等通用数据处理设备来实现本发明的一些或者全部功能。
[0109]
以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，本发明不与任何特定计算机、虚拟装置或者电子设备固有相关，各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。