一种多视图数据的分布式聚类方法、系统及存储介质
本技术涉及模式识别聚类,具体为一种多视图数据的分布式聚类方法、系统及存储介质。
背景技术:
1、现有主流多视图聚类算法多基于数据集中存储的假设设计,通过融合多视图信息完成样本聚类划分。但在实际应用场景中,多视图数据天然分散存储于不同终端设备或独立机构,直接汇聚原始数据进行集中式计算,既存在数据隐私泄露的风险,也难以满足数据合规管理要求,导致大量成熟的集中式聚类算法无法直接在分布式场景落地。对此,联邦学习为分布式数据协同建模提供了可行框架,其中纵向联邦场景下各参与方共享样本空间、持有不同特征维度,与多视图数据分布式存储的特性高度适配。然而,现有联邦多视图聚类方法普遍存在以下缺陷:一方面为提升聚类效果,需传输与原始数据高度相关的中间表征,使得隐私保护强度不足;另一方面为严控隐私风险,仅传输伪标签、聚类质心等极简交互信息,无法充分挖掘多视图数据的互补性特征与一致性结构,聚类精度与集中式算法存在显著差距,同时,缺少显式的跨视图结构对齐机制,多视图信息融合不充分,进一步限制了联邦场景下的聚类性能上限。
技术实现思路
1、本技术是针对传统联邦视图聚类方法在分散业务场景下无法兼顾数据安全与聚类性能的问题;提出了一种多视图数据的分布式聚类方法、系统及存储介质,通过在客户端构建基于锚点的局部表示,并在服务端利用正交对齐矩阵将各局部表示映射至全局锚点表示,结合客户端与服务端的交替优化,在不共享原始视图数据的前提下,消除了视图异构性,实现了多视图数据的高效、高精度聚类。
2、为实现上述目的,本技术实施例采用的技术方案如下:
3、第一方面,本技术实施例提供一种多视图数据的分布式聚类方法,所述方法应用于包含中心服务端和多个客户端的分布式系统,包括以下步骤:
4、各客户端基于本地的视图数据的互补性特性,构建局部锚点表示矩阵;中心服务端基于各视图间的一致性特性,采用正交对齐矩阵将各客户端的所述局部锚点表示矩阵映射至全局锚点表示矩阵;客户端和中心服务端交替执行所述局部锚点表示矩阵和所述全局锚点表示矩阵的更新过程,直至满足预设收敛条件,得到目标全局锚点表示矩阵;基于所述目标全局锚点表示矩阵对多视图数据进行聚类分析。
5、本方案中,通过以客户端本地构建映射、全局聚合对齐、交替更新的闭环机制,实现了分布式架构下的协同聚类学习。 各客户端基于本地视图数据独立构建局部锚点表示矩阵,确保在本地数据不泄露的条件下获得视图数据的互补特征,从架构层面避免了集中式处理带来的数据安全隐患;中心服务端通过对齐矩阵将各局部表示映射到全局空间,得到了不同视图间的一致性特征,并经由客户端与服务端之间之间交替更新,是全局锚点表示矩阵在优化过程中同时受益于各视图的一致性特征与互补性特征,有效克服了现有联邦聚类方法简单聚合参数而无法充分挖掘多视图信息的缺陷,进一步在保障数据安全的同时提升了聚类精度,实现了隐私保护与聚类性能的双重兼顾。
6、可选的,在构建局部锚点表示矩阵时,还执行:
7、对于任一客户端,构建包含重构误差项、对齐约束误差项和局部正则项的局部优化目标;基于所述局部优化目标,交替更新各客户端对应的锚点矩阵和所述局部锚点表示矩阵;其中,所述重构误差项用于约束所述视图数据与所述锚点矩阵及所述局部锚点表示矩阵之间的重构关系,所述对齐约束误差项用于约束所述局部锚点表示矩阵与所述全局锚点表示矩阵在所述正交对齐矩阵映射下的一致性,所述局部正则项用于约束所述局部锚点表示矩阵的聚类结构。
8、可选的,所述局部优化目标的表达式为:
9、;式中,表示第v个客户端的本地的视图数据,表示第v个客户端的锚点矩阵,表示第v个客户端的局部锚点表示矩阵,z表示全局锚点表示矩阵,表示第v个客户端的对应的正交对齐矩阵,为控制对齐约束的超参数,为控制局部正则化的超参数,为frobenius范数。
10、可选的,所述采用正交对齐矩阵将各客户端的所述局部锚点表示矩阵映射至全局锚点表示矩阵,包括:
11、中心服务端构建包含全局对齐约束误差项和全局正则项的全局优化目标;基于所述全局优化目标,实现将各客户端的所述局部锚点表示矩阵映射至全局锚点表示矩阵;其中,所述全局对齐约束误差项用于约束各所述局部锚点表示矩阵在对应的所述正交对齐矩阵映射下与所述全局锚点表示矩阵的偏差,所述全局正则项用于约束所述全局锚点表示矩阵的全局结构。
12、可选的,所述全局优化目标的表达式为:
13、;式中,v表示客户端的总数,z表示全局锚点表示矩阵,表示第v个客户端对应的正交对齐矩阵,表示第v个客户端的局部锚点表示矩阵,为控制对齐约束的超参数,为控制局部正则化的超参数,为frobenius范数;所述全局优化目标的约束条件为:且;其中,和分别表示元素全为1的列向量,表示单位矩阵,m表示锚点的数量,n表示视图数据样本的总数量,表示矩阵元素非负,表示仿射子空间限制,表示所述正交对齐矩阵的正交约束,表示全局锚点表示矩阵的转置,t为矩阵转置符号。
14、可选的,所述客户端和中心服务端交替执行所述局部锚点表示矩阵和所述全局锚点表示矩阵的更新过程,直至满足预设收敛条件,包括:
15、各客户端在本地完成所述局部锚点表示矩阵的更新后,将其发送至中心服务端;
16、中心服务端基于接收到的各所述局部锚点表示矩阵完成所述正交对齐矩阵和所述全局锚点表示矩阵的更新,并将更新后的所述正交对齐矩阵和所述全局锚点表示矩阵下发至各客户端;
17、各客户端基于接收到的所述正交对齐矩阵和所述全局锚点表示矩阵,再次执行所述局部锚点表示矩阵的更新,直至所述局部锚点表示矩阵和所述全局锚点表示矩阵的变化量满足预设收敛条件。
18、可选的,矩阵更新过程采用交替方向乘子法求解,求解步骤包括:
19、在更新所述局部锚点表示矩阵或所述全局锚点表示矩阵时,将对应的矩阵优化问题转化为针对矩阵列向量的二次规划问题,建立二次规划目标函数;基于二次规划算法求解所述二次规划目标函数,得到更新后的列向量,以完成对应矩阵的更新;其中,所述二次规划目标函数的表达式为:;式中,表示待更新矩阵的第j列向量,表示待更新矩阵第j列向量的转置,t为矩阵转置符号,h为基于当前迭代轮次的已知矩阵构建的hessian矩阵,为基于当前迭代轮次的已知矩阵构建的梯度向量。
20、可选的,在各客户端基于本地的视图数据的互补性特征构建局部锚点表示矩阵之前,所述方法还包括:
21、对各客户端,通过随机采样算法或k均值聚类算法对所述视图数据进行初始化,得到初始锚点;基于所述初始锚点构建初始锚点矩阵,并预设锚点数量、聚类数目以及控制优化过程的超参数。
22、第二方面,本技术实施例提供一种多视图数据的分布式聚类系统,所述系统应用于包含中心服务端和多个客户端的分布式架构,包括:客户端模块,部署于各客户端,用于基于本地的视图数据的互补性特征,构建局部锚点表示矩阵;服务端模块,部署于中心服务端节点,用于基于各视图间的一致性特征,采用正交对齐矩阵将各客户端的所述局部锚点表示矩阵映射至全局锚点表示矩阵;所述客户端模块和所述服务端模块还用于交替执行所述局部锚点表示矩阵和所述全局锚点表示矩阵的更新过程,直至满足预设收敛条件,得到目标全局锚点表示矩阵,并基于所述目标全局锚点表示矩阵对多视图数据进行聚类分析。
23、第三方面,本技术实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上述第一方面所述的方法步骤。
24、本技术的有益效果:
25、1、本技术通过将每个视图数据独立部署在对应客户端,仅通过对应的局部锚点表示矩阵作为媒介映射至中心服务端完成跨端信息交互,各客户端本地的视图数据全程不出本地,从架构上解决了分布式多视图数据无法直接复用集中式聚类能力的局限,并保证了原始视图数据的零泄漏;
26、2、通过在中心服务端构建全局优化目标,引入对齐矩阵实现各客户端视图的局部表示到全局表示空间的显式映射,以结构化形式的约束保障了多视图聚类结果的一致性;且通过全局优化目标实现局部锚点表示矩阵与全局锚点表示矩阵的联合优化,充分利用了不同视图数据独有的特征特性(即互补性特性)与不同视图数据共享的潜在聚类结构的一致性特性,提升了聚类结果的精确性并兼顾了聚类结构的稳定性;
27、3、通过采用交替方向乘子法对交替更新进行分阶段求解,将复杂度联合优化问题拆解为了客户端本地内层迭代、服务端全局内层迭代与整体外层迭代的三层循环逻辑,各子问题独立并行计算,降低了单次更新的计算复杂度,进一步提升了聚类效率。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com