基于动态异构图与元学习的冷启动需求预测方法及系统

摘要: 本发明属于供应链管理与人工智能交叉,具体涉及一种基于动态异构图与元学习的冷启动需求预测方法及系统。背景技术:1、电子商务领域的快速增长使得新品上市的频率不断提高...
基于动态异构图与元学习的冷启动需求预测方法及系统

本发明属于供应链管理与人工智能交叉,具体涉及一种基于动态异构图与元学习的冷启动需求预测方法及系统。

背景技术:

1、电子商务领域的快速增长使得新品上市的频率不断提高。据统计,全球直播电商与跨境供应链领域年增长率持续超过25%,而预测低效导致的年度损失超过120亿美元。在新品上市场景中,约72%的新产品面临极端数据稀疏问题,即历史销售记录少于5条。这种“冷启动”问题严重制约了现有需求预测方法的有效性。目前,已有的需求预测技术主要包括以下几类:

2、第一类,传统统计预测方法。包括增强移动平均模型、季节性arima模型(sarima)等。这类方法在平稳时间序列预测中具有良好的理论基础和计算效率。然而,其核心假设是时间序列的线性性和平稳性,无法有效捕捉新品上市初期的复杂非线性需求变化,且在数据极度稀疏时参数估计不稳定。

3、第二类,纯机器学习预测方法。包括集成学习模型、lstm(长短期记忆网络)及其变体(如vmd-lstm混合模型、双阶段注意力bi-lstm、自注意力增强lstm等)。这类方法具有更强的非线性拟合能力,但其性能高度依赖于训练数据的规模。在冷启动场景下,由于历史数据严重不足,模型容易过拟合,泛化能力急剧下降。

4、第三类,序列混合预测模型。包括小波-lstm、arma-lstm等级联架构。这类模型试图结合传统时间序列分析与深度学习的优势。然而,其级联设计缺乏误差反馈校正机制,导致预测误差逐级传播累积,在长期预测中尤为明显。

5、第四类,深度时空融合预测模型。包括三维卷积网络、可变形时空网络、堆叠集成模型等。这类方法通过更复杂的网络结构捕捉时空依赖关系,但计算开销巨大,难以在资源受限的供应链实际部署环境中应用。

6、第五类,图神经网络预测方法。包括时序图卷积网络、图小波网络、多尺度图神经网络等。这类方法通过显式建模实体间的关联关系,在交通流量预测、能源预测等领域取得了较好效果。然而,现有图神经网络方法主要存在以下缺陷,包括图结构静态化——现有方法依赖预定义的静态图拓扑结构,无法反映供应链中商品、店铺、时间窗口之间关系的动态演化特性;缺乏跨任务泛化能力——现有图神经网络方法针对每个预测任务独立训练,未能利用不同商品预测任务之间的共性模式;冷启动适应性不足——对于缺乏历史交互数据的新商品节点,现有方法无法有效初始化其图嵌入表示。

7、第六类,元学习冷启动预测方法。包括metacf、melu等基于元学习框架的冷启动预测方法。然而,现有元学习方法主要存在以下问题,包括缺乏时序-结构协同建模——未能将时序动态建模与图结构学习有机结合;任务条件利用不足——忽略了不同任务之间的差异性,限制了适应效率。

8、综上所述,现有技术中缺乏一种能够同时实现动态关系建模、跨任务知识迁移和极端数据稀疏下鲁棒预测的冷启动需求预测方法。

技术实现思路

1、本发明旨在提供一种基于动态异构图与元学习的冷启动需求预测方法及系统,解决了现有冷启动需求预测方法中图结构静态化、跨任务泛化能力不足、时序-结构协同建模缺失的技术问题。

2、为解决上述存在的技术问题,本发明采用的技术方案如下:

3、一种基于动态异构图与元学习的冷启动需求预测方法,包括:

4、步骤s1:获取供应链多源数据并进行预处理,以商品节点、店铺节点和时间窗口节点为三类核心节点构建动态异构图,所述动态异构图包含商品-商品关联边、商品-店铺归属边和商品-时间窗口时序边,所述关联边的权重随销售记录的累积动态更新;

5、步骤s2:将所述动态异构图输入异构图神经网络,通过类型特定的变换矩阵对不同类型节点进行特征投影,采用注意力机制计算邻居节点的自适应聚合权重,采用门控图神经网络对节点表示进行时序状态更新,输出包含时序动态信息的商品节点嵌入表示;

6、步骤s3:利用预先训练完成的任务感知元学习框架对新商品进行快速适应,以训练好的预测层元参数作为预测头的初始值,在新商品的支持样本上执行内循环梯度更新,获得任务特定参数;所述任务感知元学习框架通过离线元训练获得全局图编码参数和所述预测层元参数;

7、步骤s4:将商品节点嵌入、时序特征、店铺特征和时间上下文特征进行融合,利用所述任务特定参数作为多层感知机预测头的参数,输出需求预测值;其中,所述时序特征由所述新商品过去28天的日销量序列经双层lstm编码得到,所述店铺特征由店铺节点的特征向量经线性投影后得到,所述时间上下文特征由系统当前时间戳和促销管理系统的信息经嵌入层编码得到。

8、进一步地,步骤s1中所述商品节点的特征向量inew由产品元数据imeta、产品内容特征icontent与上下文特征icontext三部分构成,表示为:

9、

10、其中,所述元数据为80维,包含品类编码、品牌编码和价格区间编码;所述内容特征为512维,由视觉向量256维与语义向量256维拼接而成,所述视觉向量通过预训练的resnet-50提取后经主成分分析降维得到,所述语义向量通过预训练的bert-base模型提取后经线性投影降维得到;所述上下文特征为32维,包含销售区域编码和促销活动标识;商品节点特征总维度为624维;店铺节点特征向量为128维,包含店铺id编码、主营品类、历史gmv、好评率和店铺等级;时间窗口节点特征向量为6维,包含季节编码、促销强度系数和该窗口历史平均销量标准化值。

11、进一步地,步骤s1中所述商品-商品关联边的综合相似度由元数据相似度simmeta与内容余弦相似度simcontent加权合成,公式为:

12、

13、其中,inew为新商品节点的特征向量,为现有商品节点的特征向量,为商品-商品关联边的综合相似度,α为权重系数,为产品元数据相似度,为产品内容特征的余弦相似度;

14、当所述综合相似度超过预设阈值σ=0.6时建立所述商品-商品关联边,并进一步引入时间衰减因子γ=exp(−δt/τ)与促销关联因子控制边权重的时效性,其中δt为距当前时间的天数,τ=30天;

15、所述商品-店铺归属边基于品类匹配度、区域匹配度及店铺销售潜力因子计算得到,公式为:

16、

17、

18、其中,为第 j个店铺节点,表示新商品与第 j个店铺的初步关联度,取值范围为[0,1],表示品类匹配度,表示区域匹配度,表示门店销售潜力因子;

19、所述店铺销售潜力因子根据店铺对历史相似产品的销售转化率归一化得到,取值区间为[0.8, 1.5]:店铺销售潜力因子=转化率店铺/同品类店铺平均转化率;当边权重≥0.5时建立所述商品-店铺归属边;

20、所述商品-时间窗口时序边依据季节性匹配得分、促销匹配得分与时间窗口密度因子联合计算得到,公式为:

21、

22、

23、其中,表示第 t个时间窗口节点,表示新商品与第 t个时间窗口的初步时序关联度;表示季节性匹配得分,表示促销活动匹配得分,表示新商品与时间窗口之间商品-时间窗口边的最终权重;表示时间窗口密度因子;

24、所述时间窗口密度因子基于历史相似产品在该窗口的销售频率归一化至[0.9,1.4];当边权重≥0.4时建立所述商品-时间窗口时序边。

25、进一步地,步骤s1中所述图结构的动态更新包括:当新商品产生第一条销售记录即n≥1时触发用户-商品交互边的增量构建,所述用户-商品交互边权重为权重根据单次销售中的用户画像与产品匹配度计算得出,公式为:

26、

27、其中,为用户-商品交互边的权重,为第 i个用户节点,为用户偏好匹配度,为归一化购买量;

28、在累积记录数满足1≤n<15时,每新增一条记录触发局部增量更新,重新计算新商品邻域内关联店铺、受影响时间窗口及语义相似产品的边权重;对于超过30天无销售记录的商品,其所有关联边每30天乘以衰减因子0.95,当权重低于初始阈值的50%时删除该边,所述关联边包括商品-商品关联边、商品-店铺归属边和商品-时间窗口时序边。

29、进一步地,步骤s2中所述异构图神经网络采用两层heterognn结构,基础嵌入维度统一设定为128,各类型节点的变换矩阵将各类型节点原始特征投影至统一128维嵌入空间,其中商品节点变换矩阵为witem∈r128×624,店铺节点变换矩阵为wstore∈r128×128,时间窗口节点变换矩阵为wtime∈r128×6;

30、所述采用注意力机制计算邻居节点的自适应聚合权重,包括:对于目标节点及其邻居节点,先将两者通过类型特定的变换矩阵投影至统一嵌入空间,然后将投影后的特征向量拼接,经可学习注意力向量映射为标量注意力值,再通过leakyrelu激活函数和softmax归一化函数计算得到注意力权重,用于对邻居节点信息进行自适应加权聚合;

31、对于商品-商品边、商品-店铺边、商品-时间窗口边三种不同类型的语义边,采用类型特定的独立变换矩阵和独立的注意力向量分别处理,注意力头数设为4,各头输出经拼接或平均后作为最终嵌入。

32、进一步地,步骤s2中所述门控图神经网络的时序状态更新包括:在每个时间步 t,将步骤s1中动态更新的边权重与步骤s2中所述注意力权重相乘作为综合权重,用于所述门控循环单元输入中邻居消息的加权聚合;其中,所述动态更新的边权重为连接两节点的边在当前时间步的权重;将聚合后的信息作为门控循环单元的输入,动态调节各邻居信息对中心节点状态更新的影响程度;其中,时序输入长度设定为28天,预测视野为14天。

33、进一步地,所述任务感知元学习框架的训练过程包括:将每个商品的需求预测视作一个独立任务,将历史销售记录按时间排序,将每个商品的需求预测视作一个独立任务,若总记录数 ≥10,取最近3条作为支持集,其余作为查询集;若总记录数 <10,取最近1条作为支持集,其余作为查询集;元训练批次采样规模为32个任务,内循环迭代次数 k=5,内循环学习率 α=0.01,外循环学习率 β=0.001;

34、所述训练过程的内循环中,以当前全局元参数为初始值,在支持集上执行梯度更新得到任务特异性参数 ,所述任务特异性参数为在支持集上执行固定次数梯度更新后获得适用于当前任务的预测模型参数;

35、所述训练过程的外循环中,在查询集上计算损失值,汇聚所有任务在查询集上的损失,累积元梯度并更新全局元参数。

36、进一步地,所述训练过程的收敛判据综合最大轮次2000与早停策略,当验证集损失连续50轮未改善时终止训练;梯度裁剪阈值设为1.0。

37、进一步地,步骤s4中所述多层感知机预测头为3层全连接层,其中,第一层全连接层的权重矩阵维度为256×480,第二层全连接层的权重矩阵维度为128×256,输出层全连接层的权重矩阵维度为1×128,各层对应偏置向量的维度分别为256、128和1;

38、融合特征依次通过第一层全连接层和relu激活函数、第二层全连接层和relu激活函数、第三层全连接层进行前向传播,输出需求预测值;

39、所述局部子图以新商品节点为中心沿所有类型的边向外扩展最多2跳,每个节点的邻居数量为权重最高的前50个,当子图节点数少于10个时,额外加入与新商品品类相同、上架时间最近的前5个商品节点及其连接。

40、本方案还提供了一种基于动态异构图与元学习的冷启动需求预测系统,包括:

41、数据获取与预处理模块,用于获取供应链多源数据并进行预处理;

42、动态异构图构建模块,用于以商品节点、店铺节点和时间窗口节点为三类核心节点构建动态异构图,并实现新商品节点接入与图结构的动态增量更新;所述动态异构图包含商品-商品关联边、商品-店铺归属边和商品-时间窗口时序边,所述关联边的权重随销售记录的累积动态更新;

43、时空异构图编码器模块,用于将所述动态异构图输入异构图神经网络,通过类型特定的变换矩阵对不同类型节点进行特征投影,采用注意力机制计算邻居节点的自适应聚合权重,采用门控图神经网络模块对节点表示进行时序状态更新,输出包含时序动态信息的商品节点嵌入表示;

44、任务感知元学习框架模块,用于利用预先训练完成的任务感知元学习框架对新商品进行快速适应,以训练好的预测层元参数作为预测头的初始值,在新商品的支持样本上执行内循环梯度更新,获得任务特定参数;所述任务感知元学习框架通过离线元训练获得全局图编码参数和所述预测层元参数;

45、多模态特征融合与预测生成模块,用于将商品节点嵌入、时序特征、店铺特征和时间上下文特征进行融合,利用所述任务特定参数作为多层感知机预测头的参数,输出需求预测值;其中,所述时序特征由所述新商品过去28天的日销量序列经双层lstm编码得到,所述店铺特征由店铺节点的特征向量经线性投影后得到,所述时间上下文特征由系统当前时间戳和促销管理系统的信息经嵌入层编码得到。

46、综上所述,由于采用了上述技术方案,本发明的有益效果是:

47、本发明构建了包含商品节点、店铺节点和时间窗口节点的动态异构图,通过商品-商品关联边、商品-店铺归属边和商品-时间窗口时序边三类语义边的协同建模,以及新商品接入时的动态建边、销售记录触发下的局部增量权重更新、陈旧关联的衰减与淘汰机制,使图结构能够随业务发展实时演化。相比之下,现有图神经网络方法依赖预定义的静态图拓扑结构,无法反映供应链中商品、店铺、时间窗口之间关系的动态变化,导致预测模型严重滞后于实际业务状态。本发明通过上述动态图构建与更新机制,使模型始终基于最新的结构信息进行推理,解决了静态图结构无法适应供应链关系实时演化的技术瓶颈。

48、本发明通过异构图神经网络的空间注意力机制捕获节点间的空间结构依赖,同时通过门控图神经网络在连续时间窗口间传递图状态,在每个时间步将动态边权重与注意力权重相乘作为综合权重用于邻居消息聚合,使商品节点嵌入同时编码了拓扑结构信息与时序演变信息。现有元学习方法虽能实现跨任务知识迁移,但未能将时序动态建模与图结构学习有机结合,导致模型无法捕捉“促销脉冲→销售增长→关联增强”的完整因果关系链。本发明通过上述深度融合设计,解决了时序-结构协同建模缺失的技术问题,使模型能够同时利用空间关联和时间演变规律进行预测。

49、本发明采用“离线元训练+在线快速适应”的两阶段机制:离线元训练阶段在大量历史商品任务上学习“如何快速适应新商品”的元知识,获得高质量的全局图编码参数与预测层元参数;在线推理阶段以训练好的元参数为初始化,在新商品的少量支持样本上进行极少步数的内循环梯度更新,即可获得任务特定参数。该机制使新商品无需积累大量历史数据即可获得可用模型。实验数据表明,在仅有1条历史销售记录的极端稀疏条件下,显著优于metacf的58次迭代、coldrec的65次迭代、mtgnn的76次迭代、graph wavenet的88次迭代及deepar的95次迭代;当样本量为k=5和k=10时,本发明的mae分别为0.1138和0.1025,较metacf分别提升了43.6%和44.1%。

50、本发明将商品节点嵌入(图结构信息)、lstm时序编码(时序演变信息)、店铺属性(渠道特征)与时间上下文(促销、季节等外部信号)进行多模态融合,通过多层感知机预测头输出需求预测值。单一模态信息难以全面刻画影响新品需求的多维因素,本发明通过多模态融合使模型能够综合利用结构化图信息、时序演变规律、店铺静态属性和即时上下文进行联合推理,单一模态的缺失不会导致预测完全失效。实验数据表明,在极端冷启动条件下(k=1),本发明的mae为0.1269,相较于metacf(0.2624)降低了51.6%,相较于mtgnn(0.3325)降低了61.8%,相较于deepar(0.3864)降低了67.2%;当样本量为k=5和k=10时,本发明的mae分别为0.1138和0.1025,较metacf分别提升了43.6%和44.1%,证明了多模态融合策略的有效性。

51、本发明在在线推理中,仅提取新商品的一跳至两跳邻域构成局部子图进行编码,推理计算量仅取决于邻域规模而与全局图规模无关。实测单sku适应时间仅2.8ms,当平台商品从千级增长至百万级时,单sku推理时延保持恒定。本发明通过局部子图策略解决了全图推理在大规模电商场景下的效率瓶颈,为供应链实时部署场景提供了可行的技术方案。

52、通过消融实验验证了各核心模块的必要性:时序模块去除后性能下降34.92%,tit元路径去除后精度下降24.2%,动态权重机制去除后促销场景适应性下降21.61%。