基于协同语义生成的推荐方法、装置、系统及存储介质

摘要: 本发明属于推荐系统和人工智能,具体涉及一种基于协同语义生成的推荐方法、装置、系统及存储介质。背景技术:1、随着互联网内容和商品数量持续增长,用户在检索、浏览和选...
基于协同语义生成的推荐方法、装置、系统及存储介质

本发明属于推荐系统和人工智能,具体涉及一种基于协同语义生成的推荐方法、装置、系统及存储介质。

背景技术:

1、随着互联网内容和商品数量持续增长,用户在检索、浏览和选择过程中面对的信息量不断增加,信息过载会降低用户从大量候选物品中发现潜在兴趣物品的效率。序列推荐通过分析用户按时间形成的历史交互行为,预测其后续可能交互的物品,是个性化信息分发中的重要技术。生成式序列推荐通常将物品表示为可由生成模型处理的离散符号序列,并通过自回归预测方式生成下一物品的表示,因此物品表示的表达能力直接影响序列建模和推荐结果。

2、现有方法中,物品原始标识主要用于区分物品,难以表达物品文本、类别和属性所反映的内容语义;将内容信息转换为离散语义标识虽可提供内容侧描述,但仅依靠内容相似性时,难以充分体现由用户共同交互形成的物品协同关系。对于同一推荐场景,内容语义接近的物品未必具有相同的协同作用,而具有协同关系的物品也可能在表面文本或类别上存在差异。内容语义表达与协同关系表达难以兼顾,会使生成模型获得的物品标识缺少与用户交互结构相适应的区分能力。

3、此外,常规生成训练通常仅以用户序列中的下一物品作为监督信号,对物品层面的协同结构利用不足;采用单一低秩适配路径时,不同用户历史序列状态对应的生成需求容易耦合在同一参数空间中。生成解码阶段若不对候选词元进行合法性限制,还可能生成不对应于实际物品的无效标识,进而影响候选结果的可用性。因此,如何在不增加无效生成的前提下兼顾内容语义、协同关系和不同序列状态,是生成式序列推荐需要解决的问题。

技术实现思路

1、为解决现有生成式序列推荐中物品标识难以兼顾内容语义与协同关系、生成训练协同监督不足、单一适配路径难以适应不同用户序列状态以及生成标识可能不合法的问题,本发明提供一种基于协同语义生成的推荐方法和装置、系统、存储介质。

2、为实现上述目的,本发明提供如下方案:

3、一种基于协同语义生成的推荐方法,包括:

4、s1、获取物品元信息和用户历史交互序列,所述物品元信息至少包括物品文本信息、类别信息和属性信息;

5、s2、对所述物品元信息进行语义编码和残差量化,结合基于物品协同邻居的协同正则约束和码本多样性正则约束构建各物品的语义标识;

6、s3、将所述用户历史交互序列转换为由物品语义标识构成的输入序列,构建序列预测任务和物品协同辅助生成任务,采用统一的指令输入和自回归下一词元预测目标训练生成模型;

7、s4、根据所述用户历史交互序列的状态生成路由权重,动态选择并组合多个低秩适配专家,并通过专家均衡约束优化各低秩适配专家;

8、s5、基于合法物品语义标识构建前缀树,在束搜索解码过程中依据已生成前缀限制候选下一词元,生成下一交互物品的语义标识并输出推荐结果。

9、作为优选,s1中,获取候选物品集合中各物品的文本、类别和属性等元信息,并按照时间顺序获取用户历史交互记录,形成用户历史交互序列。

10、作为优选,s2中,对物品元信息进行文本语义编码以获得物品语义嵌入;利用多个码本对所述物品语义嵌入逐层进行残差量化,将各层量化得到的码字按照预定顺序组合为物品语义标识。

11、作为优选,s3中,将用户历史交互序列中的各物品转换为对应的物品语义标识,构成序列预测任务的输入;以历史交互序列预测下一交互物品的语义标识,并以目标物品语义标识生成协同邻居语义标识,两个任务采用统一指令输入和自回归下一词元预测目标训练。

12、作为优选,s4中,对用户历史交互序列对应的隐藏状态进行状态汇聚,将汇聚结果输入路由网络获得各低秩适配专家的路由权重;根据所述路由权重选择预设数量的低秩适配专家,对所选择专家的低秩增量进行加权组合,并通过专家均衡约束进行优化。

13、作为优选,s5中,以全部合法物品语义标识建立前缀树,根据当前已生成语义标识前缀确定合法下一词元集合,并在束搜索中仅从所述合法下一词元集合中选择候选词元。当候选序列到达前缀树叶子节点时,根据预先建立的物品语义标识与候选物品之间的映射关系确定候选物品,并按照生成得分排序输出推荐结果。

14、本发明还提供一种基于协同增强语义索引的生成式序列推荐装置,包括:

15、用户交互序列与物品元信息获取模块,用于获取物品元信息和用户历史交互序列,并构建待处理的用户历史交互序列;

16、协同增强语义标识构建模块,用于对物品元信息进行语义编码和残差量化,结合基于物品协同邻居的协同正则约束和码本多样性正则约束构建物品语义标识;

17、双任务统一生成训练模块,用于将所述用户历史交互序列转换为由物品语义标识构成的输入序列,构建序列预测任务和物品协同辅助生成任务,并采用统一的指令输入格式和自回归下一词元预测目标训练生成模型;

18、动态路由多专家低秩适配模块,用于根据用户历史交互序列状态生成路由权重,动态组合多个低秩适配专家,并通过专家均衡约束进行训练优化;

19、前缀树约束推荐解码模块,用于基于合法物品语义标识构建前缀树,在束搜索解码过程中依据已生成前缀约束候选下一词元,并根据预先建立的物品语义标识与候选物品之间的映射关系确定候选物品,按照生成得分排序输出推荐结果。

20、本发明还提供一种基于协同增强语义索引的生成式序列推荐系统,包括处理器和存储器,所述存储器上存储有由所述处理器运行的计算机程序,所述计算机程序在被所述处理器运行时执行所述方法。

21、本发明还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序在处理器上运行时,使所述处理器执行所述方法。

22、与现有技术相比,本发明的有益效果为:

23、本发明通过内容语义编码、残差量化、协同邻居约束和码本多样性正则约束的联合构建,使物品语义标识能够兼顾内容语义结构与物品协同关系。

24、本发明通过序列预测任务与物品协同辅助生成任务的统一训练,将物品协同关系引入自回归训练过程,增强生成模型对物品级协同结构的建模能力。

25、本发明通过动态路由组合多个低秩适配专家,使不同用户序列状态能够采用差异化适配路径,并借助专家均衡约束改善专家使用的均衡性。

26、本发明通过前缀树对生成过程施加合法语义标识前缀约束,降低生成无效标识的可能性,提高推荐结果与实际物品集合的一致性。

1.一种基于协同语义生成的推荐方法,其特征在于,包括:

2.如权利要求1所述的基于协同语义生成的推荐方法,其特征在于,所述s2包括:

3.如权利要求1所述的基于协同语义生成的推荐方法,其特征在于,所述s3包括:

4.如权利要求1所述的基于协同语义生成的推荐方法,其特征在于,所述s4包括:

5.如权利要求1所述的基于协同语义生成的推荐方法,其特征在于,所述s5包括:

6.一种基于协同增强语义索引的生成式序列推荐装置,其特征在于,包括:

7.一种基于协同增强语义索引的生成式序列推荐系统,包括处理器和存储器,所述存储器中存储有计算机程序,其特征在于,所述计算机程序被所述处理器执行时,使所述处理器执行如权利要求1至5任一项所述的方法。

8.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序在处理器上运行时,使所述处理器执行如权利要求1至5任一项所述的方法。