基于半去中心化联邦学习的细粒度图神经网络推荐方法

摘要: 本发明涉及人工智能推荐,具体涉及一种基于半去中心化联邦学习的细粒度图神经网络推荐方法。背景技术:1、推荐系统广泛应用于电商、视频、新闻、社交媒体等场景,用于根据...
基于半去中心化联邦学习的细粒度图神经网络推荐方法

本发明涉及人工智能推荐,具体涉及一种基于半去中心化联邦学习的细粒度图神经网络推荐方法。

背景技术:

1、推荐系统广泛应用于电商、视频、新闻、社交媒体等场景,用于根据用户历史交互行为预测用户偏好。近年来,图神经网络被用于推荐系统中,通过建模用户—物品交互图,可以捕获高阶协同信息,从而提升推荐效果。

2、但是,传统图神经网络推荐方法通常需要将用户交互数据集中存储在服务器上,容易带来隐私泄露风险。联邦推荐系统通过将用户数据保留在本地设备上,能够在一定程度上缓解隐私问题。然而,现有联邦推荐方法仍存在扩展性不足、通信开销较大、本地设备资源受限等问题,并且由于各用户的本地交互图相互隔离,难以充分利用跨用户的高阶协同信息。

3、此外,不同用户的数据分布和兴趣偏好差异较大,单一全局模型难以适配所有客户端。现有个性化联邦推荐方法通常粒度较粗,难以根据不同用户的本地目标自适应融合全局模型和本地模型信息,导致个性化推荐效果受限。

4、因此,本领域技术人员亟需开发一种能够在保护用户隐私的同时,提高系统扩展性、利用高阶协同信息并实现细粒度个性化推荐的联邦推荐方法。

技术实现思路

1、有鉴于现有技术的上述缺陷,本发明至少解决以下技术问题:

2、1.现有联邦推荐系统多依赖中心服务器进行模型聚合和信息交互,客户端数量较大时通信开销和服务器压力高,部分方法依赖第三方服务器或复杂加密机制,流程复杂且存在隐私泄露风险的问题;

3、2.现有联邦图推荐方法中各客户端本地自我图相互隔离,难以利用跨用户高阶协同信息,直接共享交互图又会造成隐私泄露的问题;

4、3.联邦推荐场景下数据异质性强,单一全局模型适配性差,现有个性化方法粒度较粗,无法精确融合全局与本地有效信息的问题。

5、为实现上述目的,本发明公开了一种基于半去中心化联邦学习的细粒度图神经网络推荐方法,该方法包括以下步骤:

6、s1:各客户端基于本地用户交互数据构建本地自我图;

7、s2:各客户端将本地用户嵌入和本地物品嵌入上传至中心服务器,所述中心服务器根据接收的嵌入对用户和物品进行分组,为每个分组分配预测物品节点,通过所述预测物品节点连接同组客户端的本地自我图,构建高阶局部协同子图;

8、s3:同组内客户端通过所述预测物品节点进行设备间消息传递;

9、s4:所述中心服务器下发全局模型参数至各客户端,各客户端通过细粒度个性化模块对所述全局模型参数与本地模型参数进行元素级自适应聚合,生成个性化本地模型;

10、s5:各客户端基于所述个性化本地模型完成本地训练,并基于训练得到的嵌入生成推荐结果。

11、进一步的,步骤s1中,所述本地自我图包括用户节点、物品节点以及用户与物品之间的交互边;各客户端利用本地图神经网络模型对所述本地自我图进行消息传播,得到所述本地用户嵌入和本地物品嵌入。

12、进一步的,步骤s2中,所述中心服务器根据接收的本地用户嵌入和本地物品嵌入的相似度进行用户—物品分组,为每个分组选择或生成对应的预测物品节点,所述预测物品节点与组内所有用户节点建立连接。

13、进一步的,步骤s3中,客户端之间不共享原始交互记录和本地自我图,仅交换聚合后的节点嵌入信息,利用所述高阶局部协同子图的消息传播增强所述本地图神经网络模型的表达能力。

14、进一步的,步骤s4中,所述细粒度个性化模块的元素级自适应聚合过程按照如下公式执行:

15、

16、其中,为客户端在模型高层对应的元素级自适应聚合权重矩阵,为裁剪操作算子,为客户端第轮的本地模型参数,为与模型低层参数形状一致且元素均为1的权重矩阵,为第轮的全局模型参数,为哈达玛积;客户端基于a%的本地采样数据对高层自适应聚合权重进行训练,并通过裁剪约束使其取值保持在预设范围内。

17、进一步的,所述细粒度个性化模块在模型低层和模型高层采用不同的聚合方式:对于模型低层,利用使客户端主要继承全局模型参数,以保留跨客户端共享的通用表示能力;对于模型高层,基于客户端本地数据学习元素级自适应聚合权重,对全局模型参数与本地模型参数之间的差异进行个性化加权,从而使聚合后的本地模型更好地适配客户端本地用户偏好。

18、进一步的,步骤s2中,客户端在上传本地物品嵌入至中心服务器前,对所述本地物品嵌入进行裁剪处理并加入噪声扰动。

19、进一步的,步骤s5中,各客户端基于所述个性化本地模型完成本地训练后,更新本地用户嵌入和本地物品嵌入;生成推荐结果的具体方式为:基于更新后的本地用户嵌入和本地物品嵌入,计算用户对候选物品的偏好得分,按照得分高低排序生成推荐结果。

20、进一步的,所述中心服务器维护全局物品嵌入表,接收客户端上传的嵌入后,仅用于更新所述全局物品嵌入表和构建用户—物品分组关系,不存储用户原始交互数据。

21、进一步的,在每轮训练过程中,各客户端完成本地训练后,将更新后的本地用户嵌入和本地物品嵌入上传至中心服务器,进入下一轮训练迭代。

22、本发明至少实现了以下有益技术效果:

23、1.提出半去中心化联邦推荐框架pfedsg,将设备到服务器与设备到设备协作相结合,降低了对中心服务器的依赖,提高了大规模客户端场景下的系统扩展性;同时避免直接上传用户原始交互数据,增强了隐私保护能力,且该框架能够适配多种基于图神经网络的联邦推荐模型;

24、2.提出基于预测物品节点的孤立自我图连接机制,在不共享原始数据的前提下,使模型能够利用跨用户高阶协同信息,缓解了局部图信息不足的问题,提升了推荐准确性和模型表达能力,同时保持联邦推荐场景下的隐私保护特性;

25、3.提出细粒度个性化模块,通过元素级自适应聚合实现全局共性信息与本地个性信息的有效融合,提升了模型对不同客户端个性化偏好的适应能力,缓解了联邦学习中的数据异质性问题。

26、本发明不依赖集中存储完整用户交互图,也不要求客户端直接共享原始用户行为数据,适合在移动终端、边缘设备和大规模分布式用户环境中部署,能够应用于电商推荐、视频推荐、新闻推荐、社交媒体推荐、图书推荐等多种在线推荐场景。本发明在用户原始交互数据不离开本地设备的前提下,通过混合协作方式实现推荐模型训练和个性化推荐,具有较好的隐私保护能力和实际应用价值,同时能够在隐私保护、系统扩展性和推荐精度之间取得较好平衡,具有较强的工程实用性和推广价值。

1.一种基于半去中心化联邦学习的细粒度图神经网络推荐方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于半去中心化联邦学习的细粒度图神经网络推荐方法,步骤s1中,所述本地自我图包括用户节点、物品节点以及用户与物品之间的交互边;各客户端利用本地图神经网络模型对所述本地自我图进行消息传播,得到所述本地用户嵌入和本地物品嵌入。

3.根据权利要求1所述的基于半去中心化联邦学习的细粒度图神经网络推荐方法,步骤s2中,所述中心服务器根据接收的本地用户嵌入和本地物品嵌入的相似度进行用户—物品分组,为每个分组选择或生成对应的预测物品节点,所述预测物品节点与组内所有用户节点建立连接。

4.根据权利要求2所述的基于半去中心化联邦学习的细粒度图神经网络推荐方法,步骤s3中,客户端之间不共享原始交互记录和本地自我图,仅交换聚合后的节点嵌入信息,利用所述高阶局部协同子图的消息传播增强所述本地图神经网络模型的表达能力。

5.根据权利要求1所述的基于半去中心化联邦学习的细粒度图神经网络推荐方法,步骤s4中,所述细粒度个性化模块的元素级自适应聚合过程按照如下公式执行:

6.根据权利要求5所述的基于半去中心化联邦学习的细粒度图神经网络推荐方法,所述细粒度个性化模块在模型的低层和高层采用不同的聚合方式:模型低层利用使客户端继承全局模型参数;模型高层基于客户端本地数据学习元素级自适应聚合权重,对全局模型参数与本地模型参数的差异进行个性化加权。

7.根据权利要求1所述的基于半去中心化联邦学习的细粒度图神经网络推荐方法,步骤s2中,客户端在上传本地物品嵌入至中心服务器前,对所述本地物品嵌入进行裁剪处理并加入噪声扰动。

8.根据权利要求1所述的基于半去中心化联邦学习的细粒度图神经网络推荐方法,步骤s5中,各客户端基于所述个性化本地模型完成本地训练后,更新本地用户嵌入和本地物品嵌入;生成推荐结果的具体方式为:基于更新后的本地用户嵌入和本地物品嵌入,计算用户对候选物品的偏好得分,按照得分高低排序生成推荐结果。

9.根据权利要求1所述的基于半去中心化联邦学习的细粒度图神经网络推荐方法,所述中心服务器维护全局物品嵌入表,接收客户端上传的嵌入后,仅用于更新所述全局物品嵌入表和构建用户—物品分组关系,不存储用户原始交互数据。

10.根据权利要求1所述的基于半去中心化联邦学习的细粒度图神经网络推荐方法,在每轮训练过程中,各客户端完成本地训练后,将更新后的本地用户嵌入和本地物品嵌入上传至中心服务器,进入下一轮训练迭代。