基于多语义引导扩散的知识感知服务推荐方法
本发明涉及服务计算,具体涉及一种基于多语义引导扩散的知识感知服务推荐方法。
背景技术:
1、随着soa和云计算的日益流行,越来越多的企业和组织开发了多样化的web应用程序编程接口,并通过api服务共享平台提供服务。近年来,api服务的数量与类别呈现指数级增长,导致信息过载问题日益凸显,如何从海量服务中精准匹配用户需求成为服务推荐领域的研究重点。
2、服务推荐技术能够有效帮助开发者寻找合适的api服务,近年来已被广泛应用于服务计算领域。例如,yu等人通过深度神经网络分别提取mashup和api描述语义特征与mashup-api交互特征,并融合两者结果以预测api服务被调用的概率,从而实现精准服务推荐。cao等人使用word2vec模型从服务描述文档中学习潜在语义表征,构建服务的初始特征向量,并通过计算api服务节点在网格中的表示并将其细分为不同的功能群组,最后结合多维度qos属性,使用深度因子分解机模型对服务间的复杂交互关系进行建模和挖掘。cao等人通过元路径实例内分解策略在主题推导过程中计算主题相似性得分,以聚合多角度主题感知语义并降低元路径引起的语义模糊,利用个性化知识元网络增强对比学习,并引入主题先验知识指导以提升语义正交性,从而解决服务交互语义缺失与稀疏性问题。
3、扩散模型作为一种生成式模型,近年来在图像、文本等领域取得了显著进展,许多推荐系统也已开始采用扩散模型,并在多个任务上取得了性能提升。例如,yang等提出一种用于服务推荐的扩散图对比学习框架,通过将扩散模型作为对比学习的视图生成器,并通过自适应数据增强策略保持生成图的内在语义结构。考虑到噪声异质性以及关系爆炸带来的计算负担, zhang等人将扩散模型直接应用于用户-服务二部图,以捕获复杂交互动态中固有的高阶连接信号。jiang等人提出基于知识图的扩散模型,将生成式扩散模型与知识图学习集成,设计了包含前向噪声添加与反向去噪重建的扩散过程,从而生成一个与推荐任务高度相关的且去噪的子图,并将用户-物品交互中的协同信号融入知识图扩散过程的优化中,以指导模型保留对推荐有用的知识关系。
4、知识图谱的概念最早由谷歌于2012年提出,用来指代在网络搜索中使用语义知识,提升搜索引擎的性能并改善用户的搜索体验,其优势在于其丰富的实体与关系信息,使其能够存储和集成大量的结构化数据,以灵活应对不同领域的知识表示。在推荐系统、智能问答领域广泛应用。通过引入知识图谱中丰富的关系信息,推荐系统能够扩展用户与项目之间的潜在关联,并更准确地挖掘用户的兴趣偏好。zhang等人提出一种协同知识库嵌入的推荐框架,将知识库中的结构化关系、文本描述和视觉内容以异构数据的形式整合,通过transr模型学习结构化语义表示,并采用去噪自编码器提取文本与视觉的深度特征以增强项目表征。wang等人提出一种基于知识感知路径循环网络的推荐方法,通过知识图谱的实体和关系提取用户与物品之间多跳连接关系的路径序列,并利用加权池化操作区分不同路径的贡献度。cao等人提出一种基于预训练表示与知识图谱增强的mashup服务推荐方法,将mashup与api服务的描述文档以及离散属性以多源异构数据构建知识图谱,通过神经因子分解机和doc2vec分别提取离散属性与文本语义表征,融合生成预训练表示向量后输入知识图谱卷积网络,以挖掘服务间高阶结构关系。
5、尽管现有方法在提升服务推荐性能方面取得了一定进展,然而构建的知识图谱中存在大量与目标无关的实体和关系,噪声与冗余信息干扰了关键语义的提取;且现有方法针对不同语义信息往往采用简单拼接,语义信息融合不充分;用户-服务交互数据稀疏,传统模型无法有效捕获用户与服务之间复杂的高阶连接关系。
技术实现思路
1、为了克服已有技术的不足,本发明提出一种基于多语义引导扩散的知识感知服务推荐方法。该方法引入自适应的服务知识图谱增强策略,解决服务知识图中存在的冗余和噪声问题;其次,使用bilstm网络提取服务描述中的文本语义信息和关系感知注意力网络提取服务知识图谱中的结构语义,并通过门控注意力机制融合多语义特征;提出多语义引导扩散模型引导用户-服务交互图重构,引入多语义信号注入机制以解决用户服务交互数据稀疏问题;通过自适应图注意力网络动态捕捉用户和服务高阶关联;最后,通过跨视图对比学习,对齐用户服务交互和知识语义的表示空间,得到增强的用户服务特征表示,并拼接组合嵌入以预测用户与目标服务的交互概率。
2、本发明解决其技术问题所采用的技术方案是:
3、一种基于多语义引导扩散的知识感知服务推荐方法,包括以下步骤:
4、步骤1:构建服务数据集,从原始服务数据中抽取实体与关系,定义用户-服务交互图和服务知识图,并设计自适应服务知识图增强策略;
5、步骤2:融合服务的文本描述语义和服务知识图的结构语义,生成统一的多语义服务嵌入;
6、步骤 3:以服务多语义嵌入为引导信号,利用去噪扩散模型对稀疏的用户-服务交互图进行前向加噪与反向迭代去噪,生成语义信息丰富的重构用户-服务交互图;
7、步骤4:对原始用户-服务交互图、去噪用户-服务交互图和增强服务知识图分别进行高阶图编码,使用跨视图对比学习机制弥合不同视图,进而获得用户和目标服务的交互概率。
8、进一步地,所述步骤1具体包括:
9、步骤1.1)从网站爬取用户和api服务信息,对收集到的结果进行整理,得到服务数据集;其中服务数据集包含用户、api服务、服务关系;
10、步骤1.2)定义用户-服务交互图,记为,其中,是用户集合,是api服务集合,表示用户和服务之间存在交互,反之亦然;
11、步骤1.3)定义服务知识图,记为,其中,为实体集合,,分别代表服务知识图中的头实体和尾实体,为关系集合;
12、步骤1.4)设计自适应服务知识图增强策略,通过计算关系边的重要性权重并基于概率进行边丢弃,得到去噪增强后的服务知识图。
13、进一步地,所述步骤2具体包括:
14、步骤2.1)基于服务文本语义嵌入提取:2.1.1)输入目标api服务的描述文档;2.1.2)对描述文档进行清洗与标准化处理;2.1.3)利用预训练的word2vec模型将服务描述文档中的单词转换为字向量,得到词向量序列;2.1.4)将词向量序列输入双向长短期记忆网络bilstm,得到服务文本语义嵌入特征;
15、步骤2.2)基于服务结构语义嵌入提取:2.2.1)输入步骤1.4)中增强后的服务知识图谱;2.2.2)将服务关系嵌入注入到相邻服务实体的嵌入中,并使用边重要性权重对其结果加权,得到服务实体嵌入;
16、步骤(2.3)服务多语义嵌入融合:2.3.1)使用门控注意力机制将文本语义嵌入与结构语义嵌入融合,得到门控信号;2.3.2)计算门控注意力分数来控制不同服务语义特征的权重;2.3.3)分别计算加权后的服务文本语义嵌入和服务结构语义嵌入;2.3.4)将加权后的服务文本语义嵌入和服务结构语义嵌入相加,得到最终的服务多语义嵌入。
17、进一步地,所述步骤3具体包括:
18、3.1)模型输入:输入步骤1)中的用户-服务交互图和步骤2)中的服务多语义嵌入,为扩散模型计算提供基础数据;
19、3.2)扩散模型前向加噪过程:在扩散模型的前向过程,逐步向原始用户-服务交互中添加高斯噪声,设计线性噪声调度器控制噪声幅度,完成交互图破坏与噪声注入;
20、3.3)扩散模型反向去噪重构与损失计算:反向过程去除噪声,融合多语义嵌入恢复用户-服务交互,定义msi语义损失与elbo扩散损失,联合双损失并优化总体目标函数,重构用户-服务交互图。
21、进一步地,所述步骤4具体包括:
22、4.1)构建原始交互视图:将步骤1)中的用户-服务交互图,记为原始交互视图;
23、4.2)构建知识视图:将步骤1)中增强后的服务知识图,记为知识视图;
24、4.3)构建交互视图:将步骤3)中重构用户-服务交互图,记为交互视图;
25、4.4)利用自适应注意力网络动态分配邻居节点权重,并采用多头注意力机制聚合节点特征,分别输出原始交互视图嵌入、交互视图嵌入、知识视图嵌入;
26、4.5)交互视图和知识视图进行跨视图对比学习:将来自交互视图和知识视图的服务嵌入分别输入到两个独立的多层感知器中,映射到相同的表示空间中,并计算对比损失;
27、4.6)融合原始交互视图嵌入、交互视图嵌入、知识视图嵌入,计算用户-服务交互概率,结合推荐损失、对比损失、扩散损失进行联合优化,输出个性化推荐列表。
28、更进一步地,所述步骤1.4)具体过程如下:
29、1.4.1)对于服务知识图中的每个三元组,通过关系边加权函数计算边重要性权重;
30、1.4.2)将边重要性权重通过sigmoid激活函数转换为离散概率;
31、1.4.3)引入gumbel-max重参数化技巧,配合区间均匀分布随机变量、sigmoid 函数与温度超参数构建可微采样模型;
32、1.4.4)训练过程中,在每个训练周期以离散概率随机丢弃边,得到服务知识图的采样子集;若,则边将保留在中,否则将边丢弃,最后,将增强服务知识图表示为。
33、更进一步地,所述步骤3.2)具体过程如下:
34、3.2.1)前向过程从初始化开始,在个步长中逐步添加高斯噪声,模拟一个马尔可夫链过程,定义为;
35、3.2.2)利用重参数技术和高斯噪声的独立可加性,直接从初始状态导出马尔可夫链过程中第t步的带噪表征;
36、3.2.3)为调整在中添加的噪声,引入线性的噪声调度器,,其中超参数控制噪声尺度,限制噪声边界避免过大噪声幅度引起的误差。
37、更进一步地,所述步骤3.3)具体过程如下:
38、3.3.1)从开始,反向去噪过程逐渐恢复用户与服务的交互;
39、3.3.2)将服务多语义嵌入特征与预测的多语义用户服务交互嵌入聚合,并将已观察到的用户-服务交互嵌入聚合到服务id向量中;
40、3.3.3)计算两个聚合嵌入的均方误差损失,用于语义信息丰富用户-服务交互图,msi损失表示为;
41、3.3.4)反向过程中,用户和api服务集合间的交互表示为,使用重构用户-服务交互图,并选择前k个最大值,在用户-服务交互图中添加用户与服务s∈s之间的k个交互,得到具有语义信息的用户-服务交互图;
42、3.3.5)扩散模型的中心目标为引导反向过程,优化观测到的用户-服务交互嵌入负对数似然的证据下界elbo,elbo扩散损失表示为:,期望是对分布中采样的取平均,为基于和预测得到;
43、3.3.6)扩散模型的训练涉及两个损失项的同时优化,即elbo损失和msi损失,扩散模型的总体优化目标表示为,为是控制msi损失程度的超参数。
44、更进一步地,所述步骤4.5)具体如下:
45、4.5.1)对于api服务中的每个服务项s,将服务项s的两个不同视图视为一个正样本对;
46、4.5.2)将服务项s与一个随机采样的服务项j进行配对,构造语义无关的负样本对和;
47、4.5.3)采用infonce对比损失函数来实现交互视图和知识视图之间的跨视图协作。
48、更进一步地,所述步骤4.6)具体如下:
49、4.6.1)将学习到的嵌入、、进行拼接,得到最终嵌入表示;
50、4.6.2)根据相应的嵌入维度对进行划分,以分别获得最终的用户嵌入和目标服务嵌入;
51、4.6.3)将与目标服务嵌入进行点积运算得到用户与该api服务交互的概率;
52、4.6.4)采用成对贝叶斯个性化排名损失bpr对目标进行优化计算推荐损失;
53、4.6.5)利用多任务训练策略对推荐损失、对比学习损失和扩散损失进行联合优化。
54、本发明的有益效果主要表现在:
55、1)设计了一种自适应的服务知识图数据增强策略,过滤服务知识图中的冗余和噪声关系,增强了知识语义的纯度与对推荐任务的相关性。
56、2)针对服务描述文本与知识图谱结构信息的多源异构特点,设计门控注意力机制,动态权衡并深度融合服务的文本语义与结构语义,生成统一丰富的服务多语义嵌入,为后续扩散提供高质量的引导信号;
57、3)引入以多语义嵌入为引导的去噪扩散模型,通过对用户-服务交互图进行迭代加噪与去噪重构,以解决原始用户-交互图稀疏问题,提高后续服务推荐准确性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com