基于属性锚定和奖励引导的多模态生成式推荐方法及系统
本发明属于模型生成式推荐,尤其涉及基于属性锚定和奖励引导的多模态生成式推荐方法及系统。
背景技术:
1、本部分的陈述仅仅是提供了与本发明相关的背景技术信息,不必然构成在先技术。
2、随着大语言模型在推荐系统中的深入应用,生成式推荐逐渐成为个性化推荐领域的重要研究方向。该类方法通常先为物品构建语义标识符(semantic identifier,sid),再以用户历史交互物品的sid序列为条件,通过大语言模型自回归地生成目标物品的sid,从而实现下一物品推荐。为提升sid的语义表达能力,现有技术通常引入文本描述、视觉内容等多种模态信息,并借助残差量化变分自编码器(rq-vae)等离散化手段,将多模态表征逐层量化为码字索引序列。
3、然而,现有多模态生成式推荐方案仍存在如下技术缺陷:
4、(1)在多模态融合方面,现有方法通常采用单次前向处理的开环融合策略,即对文本、视觉等模态特征进行拼接、交叉注意力或单次前向融合。该类方法仅进行一次性特征交互,缺乏稳定的语义参照和迭代校正机制。由于不同模态中不可避免地包含模态特有噪声,且特征变换与融合过程可能使表征逐渐偏离物品的原始语义,现有开环融合方式容易导致融合结果中噪声残留、语义漂移累积,进而影响后续sid的语义一致性和推荐准确性。
5、(2)现有方法在采用基于相似度的贪心分配策略进行残差量化时,各层依据当前残差表征,独立选取距离最近的码字。然而,这种启发式选择仅考虑即时重构收益,无法评估当前码字选择对后续量化步骤的长期影响。
技术实现思路
1、为克服上述现有技术的不足,本发明提供了基于属性锚定和奖励引导的多模态生成式推荐方法及系统,能够有效利用结构化属性对多模态融合进行闭环约束的同时,通过优化多层码字分配来提升码本利用率和逐层语义监督。
2、为实现上述目的,本发明的一个或多个实施例提供了如下技术方案:
3、本发明第一方面提供了基于属性锚定和奖励引导的多模态生成式推荐方法。
4、基于属性锚定和奖励引导的多模态生成式推荐方法,包括:
5、获取物品的文本模态表征、视觉模态表征和结构化属性表征;
6、以所述结构化属性表征为语义锚点,通过属性引导的模态去噪门和属性锚定的语义校正门对所述文本模态表征和视觉模态表征进行闭环迭代融合,得到多模态表征;
7、将所述多模态表征编码为初始语义状态,采用多层actor-critic智能体逐层选择码字并残差更新语义状态,基于包含承诺奖励、均匀化奖励和渐进式重构奖励的累积奖励生成物品的语义标识符;
8、以用户交互序列中物品的语义标识符为条件微调大语言模型,自回归生成目标物品的语义标识符,并利用前缀树约束输出合法码字序列。
9、进一步地,所述模态去噪门,通过属性引导的交叉注意力获取属性感知的模态表征,使模态特征的编码以物品的内在语义为条件;通过比较属性感知表征与原始模态特征,自适应地识别并抑制不可靠信号,同时保留具有判别力的信息。
10、进一步地,基于所述模态去噪门对视觉模态进行融合时,属性引导下的交叉注意力表示为:
11、;
12、其中,表示第次迭代中属性引导的视觉融合状态,表示第次迭代中属性增强的视觉表征;表示结构化属性表征,表示交叉注意力模块;、和分别表示查询、键和值,表示视觉属性表征。
13、进一步地,所述语义校正门以结构化属性表征作为不变的语义锚点,对融合轨迹进行约束,具体地:在视觉模态融合过程中,先依据去噪门自适应地整合属性增强的视觉表征与原始视觉特征,得到中间去噪视觉表征;再根据所述中间去噪视觉表征与结构化语义锚点之间的交互,估计语义校正门。
14、进一步地,采用多层actor-critic智能体逐层选择码字并残差更新语义状态,包括:对于第个量化层,所述actor-critic智能体以上一层传递的语义状态为条件,从对应的码本中选择码字;选定码字后,以残差方式更新语义状态,为后续智能体保留尚未编码的语义信息。
15、进一步地,每个智能体由actor网络和critic网络组成;其中,所述actor网络采用轻量级多层感知机实现,用于输出多个码字索引上的概率分布;所述critic网络采用相同的mlp架构,用于估计期望的回报,并为基于优势函数的策略优化提供价值反馈。
16、进一步地,所述承诺奖励为rq-vae承诺奖励,用于稳定离散码本学习;所述均匀化奖励基于码字分配的熵进行构建,用于缓解码字分布的长尾现象;所述渐进式重构奖励,用于增强逐层语义监督。
17、本发明第二方面提供了基于属性锚定和奖励引导的多模态生成式推荐系统。
18、基于属性锚定和奖励引导的多模态生成式推荐系统,包括:
19、表征获取模块,被配置为:获取物品的文本模态表征、视觉模态表征和结构化属性表征;
20、闭环多模态融合模块,被配置为:以所述结构化属性表征为语义锚点,通过属性引导的模态去噪门和属性锚定的语义校正门对所述文本模态表征和视觉模态表征进行闭环迭代融合,得到多模态表征;
21、多智能体码字分配模块,被配置为:将所述多模态表征编码为初始语义状态,采用多层actor-critic智能体逐层选择码字并残差更新语义状态,基于包含承诺奖励、均匀化奖励和渐进式重构奖励的累积奖励生成物品的语义标识符;
22、训练与推理模块,被配置为:以用户交互序列中物品的语义标识符为条件微调大语言模型,自回归生成目标物品的语义标识符,并利用前缀树约束输出合法码字序列。
23、本发明第三方面提供了计算机可读存储介质,其上存储有程序,该程序被处理器执行时实现如本发明第一方面所述的基于属性锚定和奖励引导的多模态生成式推荐方法中的步骤。
24、本发明第四方面提供了电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的程序,所述处理器执行所述程序时实现如本发明第一方面所述的基于属性锚定和奖励引导的多模态生成式推荐方法中的步骤。
25、以上一个或多个技术方案存在以下有益效果:
26、(1)本发明将结构化语义属性作为显式语义锚点,引入闭环模态融合框架,以引导多模态表征的融合过程,将每种模态均通过两个互补的门控机制进行迭代优化,具体地:通过属性引导的模态去噪门,可以在保留有效信息的同时,抑制模态特有的噪声信号;通过属性锚定的语义校正门,可以用于校正累积的语义漂移,并保持物品的内在语义。
27、(2)本发明将每个量化层建模为一个智能体,并通过奖励引导的学习优化其码字选择策略,使累积奖励能够同时反映当前决策及其后续影响。在此基础上,进一步设计两种互补奖励:均匀化奖励用于规范码字使用、缓解长尾分布,渐进式重构奖励用于增强逐层语义监督,进而可以在提升码本利用率的同时,实现逐层语义监督。
28、本发明附加方面的优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com