基于子空间连续划分建模策略的用户点击率预测方法与流程

技术特征：
1.一种基于子空间连续划分建模策略的用户点击率预测方法，其特征在于，包括数据预处理步骤s1、训练集的生成步骤s2和模型训练与模型建立步骤s3；所述数据预处理步骤s1包括如下步骤：步骤s11：获取n个用户的原始数据信息，并从所述用户的原始数据信息提取原始特征信息；其中，所述原始特征信息包括用户id、用户所在省份、用户所在城市、用户访问dpi、用户访问时间(频度)、设备类型和/或用户是否点击特征；其中，所述用户所在省份、用户所在城市、和用户访问dpi为类别特征，所述用户访问时间为连续特征，所述n大于等于2；步骤s12：对所述用户的原始特征信息进行异常检测与处理步骤；步骤s13：通过独热编码对类别特征进行处理，根据业务需求及求解模型选择进行归一化后梯度下降处理，或利用rankgauss方法对连续特征进行调整样本分布处理；所述训练集的生成步骤s2包括特征工程的处理步骤s21和共现矩阵的构造步骤s22和dpi特征向量的获取步骤s23；步骤s21具体包括如下步骤：步骤s211：用户访问dpi处理步骤，建立用户id与用户访问dpi的特征列；步骤s212：采用通过独热编码对类别特征进行处理；步骤s213：连续特征进行数值型特征改造处理；步骤s214：进行特征筛选和特征构造，以形成新的特征；步骤s215：执行连续特征离散化处理；步骤s22共现矩阵的构造和dpi特征向量的获取具体包括如下步骤：对步骤s221：通过用户访问dpi访问列表，获得所有用户当天访问用户访问dpi的情况，之后对用户访问dpi访问列表中的用户访问dpi进行计数统计来获得共现矩阵；其中，所述共现矩阵的维度为n
×
n；步骤s222：使用奇异值分解算法可以将共现矩阵分解得到维度为n
×
k的特征矩阵，其中，k为特征矩阵的维度(k<n)，所述特征矩阵的维度自由指定，代表特征维度，对于每个dpi来说都有对应的k维特征向量，所述k维特征向量即用户访问dpi的稠密表达，也即词向量；步骤s23具体包括：通过共现矩阵得到每个dpi的特征向量，采用奇异值分解将其访问的dpi对应的特征向量取均值，得到k维dpi特征；步骤s3具体包括如下步骤：步骤s31：将每个dpi的k维dpi特征形成全量训练样本数据d1，根据子空间连续划分策略，连续划分形成二叉树形状的子空间集；其中，每一个所述二叉树的两个树枝子空间的特征数为所述二叉树特征总数的1/2，且每一个节点子空间的特征为随机抽取；步骤s32：根据子空间停止划分的策略，对每一个所述二叉树的两个节点子空间判断是否修剪其所属的两个树枝；最终形成最多具有n层(n1,n2
…
nn)树枝和总共具有m个子空间(m1,m2
…
mm)的二叉树；其中，m个子空间(m1,m2
…
mm)的模型为(m1,m2
…
mi
…
mm)；步骤s33：从第一层开始，采用有监督学习方法，使用全量训练样本数据d1针对广告是否点击建立点击率预估模型，得到相应的模型为m1，训练误差为e1，训练样本的预测值为p1；步骤s34：从第二层开始，采用有监督学习方法，对所述二叉树中的每一个子空间针对广告是否点击建立点击率预估模型，得到相应的模型为mi，训练误差为ei，训练样本的预测
值为pi；其中，在训练中，上一层训练样本的预测值pi被加入到当前层的一个子空间的特征中；步骤s35：以此类推，
…
，直到得到m个满足训练误差的预估模型。2.根据权利要求1所述的预测方法，其特征在于，所述子空间连续划分策略作为子空间停止划分的依据，如下一种情况出现即停止划分：
①
、如果第n阶子空间的训练误差pn是第n-1阶子空间训练误差的a倍，则停止第n阶子空间的划分；其中，a大于1；
②
、如果在划分第n阶子空间后，子空间中样本数量少于设定阈值nmin，则停止第n阶子空间的划分；
③
、如果在划分第n阶子空间后，阶数n超过了设定阈值nmax，则停止第n阶子空间的划分；
④
、如果在划分第n阶子空间后，建立的点击率预估模型数量超过了设定的模型最大数量mmax，则停止第n阶子空间的划分。3.根据权利要求1所述的预测方法，其特征在于，所述点击率预估模型为梯度提升决策树模型，其实现方式包括xgboost或lightgbm。4.根据权利要求1所述的预测方法，其特征在于，还包括预测步骤s4，其具体包括：步骤s41：获取拟对营销活动点击预测的用户群体和所述用户群体的用户原始数据信息，并从所述用户原始数据信息提取原始特征信息；其中，所述原始特征信息包括用户id、用户所在省份、用户所在城市、用户访问dpi、用户访问时间、设备类型和/或用户是否点击特征；其中，所述用户所在省份、用户所在城市、和用户访问dpi为类别特征，所述用户访问时间为连续特征，所述n大于等于2；步骤s42：对每一个所述用户的原始数据信息进行异常检测与处理步骤；通过独热编码对类别特征进行处理，根据业务需求及求解模型选择进行归一化后梯度下降处理，或利用rankgauss方法对连续特征进行调整样本分布处理；步骤s43：通过共现矩阵得到每个dpi的特征向量，之后对于每个待评估用户而言，将其访问的dpi对应的特征向量取均值，得到k维dpi特征；步骤s44：提供建立训练好的m个满足训练误差的预估模型，依次输入m个预估模型，每个待评估用户的k维dpi特征，得到m个预测结果，最后对这m个预测结果取均值，得到拟对营销活动点击预测的用户群体中所有所述用户的预测值；其中，所述用户的模型预测值为所述用户的点击意愿度。5.根据权利要求4所述的预测方法，其特征在于，所述模型预测步骤s4还包括：步骤s45：根据实际投放需求，选择全部或部分所述用户的模型预测值集中点击意愿度为1的用户进行精准营销的任务。

技术总结
一种基于子空间连续划分建模策略的用户点击率预测方法，其包括数据预处理步骤、训练集的生成步骤和所述模型训练与模型建立步骤；其中，训练集的生成步骤包括特征工程的处理步骤、共现矩阵的构造步骤和DPI特征向量的获取步骤，其通过开发出更可靠的特征筛选算法，有效实现了对于总样本空间的连续划分，即通过对不同样本空间的学习和集成，有效降低了过拟合和欠拟合风险，提升了用户点击率预测的结果使筛选后的原始特征显著降低了树模型的过拟合风险，并在实际业务中提升点击率预测结果都具有重要的意义。有重要的意义。有重要的意义。


技术研发人员：项亮
受保护的技术使用者：上海数鸣人工智能科技有限公司
技术研发日：2022.08.24
技术公布日：2022/11/11