基于双原型对齐与强化学习的跨域兴趣点推荐方法与系统

摘要: 本发明涉及兴趣点推荐,尤其涉及基于双原型对齐与强化学习的跨域兴趣点推荐方法与系统。背景技术:1、随着移动互联网的蓬勃发展,兴趣点推荐已成为提升用户体验、促进线下...
基于双原型对齐与强化学习的跨域兴趣点推荐方法与系统

本发明涉及兴趣点推荐,尤其涉及基于双原型对齐与强化学习的跨域兴趣点推荐方法与系统。

背景技术:

1、随着移动互联网的蓬勃发展,兴趣点推荐已成为提升用户体验、促进线下消费的核心技术。传统的兴趣点推荐主要集中在单一城市或特定区域内,然而在现实场景中,用户的活动范围往往具有跨地域性。在这种情况下,系统往往面临严重的数据稀疏性与冷启动问题,即在目标域缺乏甚至没有用户行为记录。因此,如何有效地将用户在源域中积累的行为偏好迁移到目标域,实现跨域兴趣点推荐,对于构建无缝的个性化服务具有至关重要的意义。

2、目前的单域兴趣点推荐方法主要依赖于协同过滤、深度神经网络以及图神经网络来捕获用户的时空偏好。尽管这些方法在数据充足的场景下取得了显著成效,但它们高度依赖于域内数据的分布。当用户进入一个全新的环境时,由于底层特征空间的剧烈变化,单域模型的泛化能力会迅速下降。此外,单域方法往往难以捕捉跨区域通用的高阶偏好逻辑,导致其在处理用户迁移行为时显得力不从心。

3、为了解决上述问题,现有的跨域兴趣点推荐研究尝试通过嵌入对齐或映射网络来实现特征迁移。然而,当前研究仍存在以下难点:

4、兴趣点资料的碎片化:现实环境中的兴趣点蕴含着多维度的语义信息,既包括功能导向的类别标签,也涉及细粒度的描述性属性。这种信息的离散性与碎片化,导致传统模型难以在复杂的特征空间中捕捉深层的语义逻辑,进而增加了跨域知识对齐的难度。

5、负向偏好的忽视:现实环境中用户去过的兴趣点不一定反映了其真实偏好,而大多数跨域模型在提取可迁移的用户画像时仅关注用户“喜欢什么”,却忽略了“不喜欢什么”在界定用户偏好边界中的关键作用。

6、用户偏好的多元性:现实环境中用户的兴趣表现出极高的异质性,其偏好往往受个人习惯、文化背景及即时需求的多重影响。这种高度复杂且因人而异的偏好特征,使得模型难以通过有限的交互数据构建出稳健的用户画像,从而制约了推荐系统在跨域场景下的精准度。

技术实现思路

1、本发明旨在至少解决相关技术中存在的技术问题之一。为此,本发明提供基于双原型对齐与强化学习的跨域兴趣点推荐方法与系统,实现跨域的兴趣点推荐。

2、本发明提供基于双原型对齐与强化学习的跨域兴趣点推荐方法,包括:

3、s1:获取兴趣点文本数据,选取大语言模型,将兴趣点文本数据输入到大语言模型中,得到预处理文本数据;

4、其中,大语言模型对兴趣点的情感偏好进行评分,得到包括预处理用户喜好原型和预处理用户非喜好原型的预处理文本数据;所述预处理用户喜好原型和预处理用户非喜好原型构成双原型;

5、s2:对预处理文本数据进行编码,得到编码向量,计算编码向量的集聚分类损失,根据集聚分类损失得到集聚中心;

6、s3:根据集聚中心得到状态空间,构建动作网络,将状态空间输入到动作网络中,得到残差偏移量,构建价值网络,通过价值网络进行估计得到累计优势参数;

7、s4:通过残差偏移量计算动作概率分布,使用动作概率分布和累计优势参数计算动作网络优化参数,将状态空间输入到价值网络中并进行截断累计价值计算,得到截断累计价值,根据截断累计价值得到价值网络优化参数;

8、s5:通过动作网络优化参数和价值网络优化参数对动作网络和价值网络进行更新,得到目标动作网络,通过目标动作网络输出推荐兴趣点,完成兴趣点推荐。

9、根据本发明提供的基于双原型对齐与强化学习的跨域兴趣点推荐方法,步骤s2中,构建文本编码器,通过所述文本编码器对预处理文本数据进行编码,得到所述编码向量。

10、根据本发明提供的基于双原型对齐与强化学习的跨域兴趣点推荐方法,步骤s2中,计算编码向量的均匀损失和分离损失,根据编码向量计算兴趣点权重,通过兴趣点权重得到对齐损失,对所述均匀损失、对齐损失、分离损失进行加权求和,得到所述集聚分类损失。

11、根据本发明提供的基于双原型对齐与强化学习的跨域兴趣点推荐方法,步骤s3中,从所述集聚中心中得到喜好集聚中心,将状态空间输入到动作网络中,得到动作网络输出,根据所述喜好集聚中心和动作网络输出得到所述残差偏移量。

12、根据本发明提供的基于双原型对齐与强化学习的跨域兴趣点推荐方法,步骤s3中,将状态空间输入到所述价值网络中,得到时序差分误差,通过所述时序差分误差得到累计优势参数。

13、根据本发明提供的基于双原型对齐与强化学习的跨域兴趣点推荐方法,步骤s4中,通过残差偏移量计算包括更新后动作概率分布和更新前动作概率分布的动作概率分布,使用动作概率分布得到新旧概率比,通过新旧概率比和累计优势参数得到动作网络优化参数。

14、根据本发明提供的基于双原型对齐与强化学习的跨域兴趣点推荐方法,步骤s4中,将状态空间输入到价值网络中,得到包括更新前优势估计和更新后优势估计的优势估计,通过优势估计得到所述截断累计价值,使用更新前优势估计和累计优势参数得到目标收益,通过所述目标收益和截断累计价值得到价值网络优化参数。

15、根据本发明提供的基于双原型对齐与强化学习的跨域兴趣点推荐方法,步骤s5中,通过所述动作网络优化参数和价值网络优化参数构建目标优化参数,使用所述目标优化参数对动作网络和价值网络进行更新,得到所述目标动作网络。

16、本发明还提供基于双原型对齐与强化学习的跨域兴趣点推荐系统,包括:

17、文本预处理模块:用于获取兴趣点文本数据,选取大语言模型,将兴趣点文本数据输入到大语言模型中,得到预处理文本数据;

18、其中,大语言模型对兴趣点的情感偏好进行评分,得到包括预处理用户喜好原型和预处理用户非喜好原型的预处理文本数据;所述预处理用户喜好原型和预处理用户非喜好原型构成双原型;

19、集聚分类模块:用于对预处理文本数据进行编码,得到编码向量,计算编码向量的集聚分类损失,根据集聚分类损失得到集聚中心;

20、累计优势参数模块:用于根据集聚中心得到状态空间,构建动作网络,将状态空间输入到动作网络中,得到残差偏移量,构建价值网络,通过价值网络进行估计得到累计优势参数;

21、网络优化参数模块:用于通过残差偏移量计算动作概率分布,使用动作概率分布和累计优势参数计算动作网络优化参数,将状态空间输入到价值网络中并进行截断累计价值计算,得到截断累计价值,根据截断累计价值得到价值网络优化参数;

22、兴趣点推荐模块:用于通过动作网络优化参数和价值网络优化参数对动作网络和价值网络进行更新,得到目标动作网络,通过目标动作网络输出推荐兴趣点,完成兴趣点推荐。

23、本发明实施例中的上述一个或多个技术方案,至少具有如下技术效果之一:

24、本发明提供的基于双原型对齐与强化学习的跨域兴趣点推荐方法与系统,通过大语言模型对兴趣点文本进行语义理解与情感偏好评分,有效缓解了数据稀疏和冷启动问题;利用用户喜好与非喜好双原型对齐,并设计融合均匀性、对齐性和分离性的集聚分类损失,使编码向量在语义空间中形成紧凑且可区分的簇结构,从而更精准地刻画用户兴趣边界,提升推荐的准确性与个性化水平;同时,将集聚中心构建为状态空间,借助动作网络输出的残差偏移量实现推荐策略的自适应调整,并通过价值网络估计累计优势参数和截断累计价值,配合新旧概率比截断机制限制策略更新幅度,增强了训练过程的稳定性与收敛性;动作网络与价值网络的协同优化使系统在探索与利用之间取得良好平衡,最终显著提升兴趣点推荐的整体表现、鲁棒性及长期收益。

25、本发明的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。