一种网络内容安全风险检测方法、电子设备及存储介质
本发明属于数据处理,涉及一种基于非学习式多模态单纯形表征的网络内容安全风险检测方法、电子设备及存储介质。
背景技术:
1、在网络内容安全监管、风险内容识别、违规信息检测、多模态内容审核以及网络舆情分析等应用场景中,数据通常可以表示为包含文本、图像、视频等多源异构信息以及用户、内容、传播行为之间复杂关联关系的多模态网络结构。其中,网络内容中的实体节点不仅具有文本、图像、视频等多模态语义属性,同时节点之间还存在发布、评论、转发、点赞、引用、关联传播等多类型交互关系,以及由多个用户、内容和主题共同形成的高阶群体关联模式。因此,在网络内容安全风险检测任务中,需要从输入网络内容关联结构和节点多模态属性出发,构建能够同时描述内容语义信息、用户交互关系以及高阶传播结构模式的统一风险表征,并基于该表征实现网络内容风险类别识别和异常内容检测。
2、然而,现有网络内容安全风险检测方法仍存在一定局限性。具体包括:
3、首先,传统内容安全检测方法通常主要基于单一模态信息进行特征学习,难以充分融合网络内容中的多源异构信息。同时,现有图结构建模方法通常基于节点与边构成的普通图结构进行信息传播,主要关注用户、内容以及传播实体之间的两两关系,难以有效捕获网络空间中由多个用户、内容和主题共同形成的高阶关联模式。例如,在网络传播过程中,多个用户围绕同一风险内容进行扩散、多个内容围绕同一事件形成关联传播链路、多个用户共同参与异常行为模式等,均体现了复杂的群体交互结构。仅依赖普通节点和边关系进行建模,会导致风险检测表征中缺失重要的高阶传播信息。
4、其次,现有部分方法尝试利用超图对网络内容中的群体关系进行建模,但超图通常依赖人工定义或先验构造高阶关系,例如预先指定用户群组、兴趣集合或传播社区,难以自动挖掘网络内容原始关联结构中隐含的高阶风险传播模式。相比之下,单纯形能够基于原始网络关联图结构自动提取节点、边以及闭合交互结构,并在统一拓扑空间中描述不同阶次之间的关联关系,更适用于复杂网络内容安全场景下的高阶风险模式建模。
5、然而,将单纯形引入网络内容安全风险检测任务仍存在以下挑战:一方面,如何从文本、图像、视频等多模态内容信息出发,在无需训练参数的情况下构造包含语义信息的不同阶单纯形表征;另一方面,如何有效融合内容语义信息、用户交互结构以及高阶传播关系,并进一步生成适用于风险分类检测任务的图级风险特征。
技术实现思路
1、本发明提出一种基于非学习式多模态单纯形表征的网络内容安全风险检测方法、电子设备及存储介质,用于实现复杂网络环境下多模态风险内容识别任务。该方法首先以网络内容安全多模态关联图结构及节点多模态属性作为统一输入,通过随机映射将不同模态特征转换至统一语义空间,并自动提取用户节点、内容节点、交互关系以及高阶闭合结构构建不同阶单纯形表示;然后,利用hodge结构增强算子和多模态语义一致性调制机制,实现不同阶单纯形之间结构信息与语义信息的联合传播;最后,通过递归局部敏感hash(lsh)生成机制获得图级风险表征,并结合分类模型完成网络内容安全风险类别检测,从而形成从多模态网络内容输入、单纯形构建、非学习式表征生成到风险分类输出的完整处理流程。
2、本发明提供了一种网络内容安全风险检测方法,包括以下步骤:
3、步骤一、获取多模态网络内容风险图;其中,为网络内容关联图中的实体节点集合,包括用户节点、内容节点、话题节点以及其他关联实体;为节点之间的关系集合,包括发布关系、评论关系、点赞关系、转发关系、引用关系以及传播关联关系;
4、对多模态网络内容风险图进行预处理,得到k-单纯形集合;
5、基于k-单纯形集合得到单纯形的多阶特征;单纯形的多阶特征包括0-单纯形特征、1-单纯形特征和2-单纯形特征;
6、步骤二、设置传播轮数为、单轮传播的层数为,对单纯形的多阶特征进行传播后,得到图级风险表示;
7、步骤三、利用图级风险表示构建分类检测模型,并根据多模态网络内容风险图对应的风险特征完成风险类别识别,得到网络内容安全检测结果。
8、进一步,得到k-单纯形集合的具体过程如下:
9、构建0-单纯形和1-单纯形,遍历网络内容安全关联图中的节点集合,将所有实体节点作为0-单纯形加入集合;其中,每个节点可以对应用户、内容、话题或其他网络实体;
10、同时,遍历关系集合,将所有实体之间的关联关系作为1-单纯形加入集合;
11、基于原始网络内容安全关联图中的局部闭合交互结构,对满足三个实体之间两两关联条件的节点组合进行检索,并将其作为2-单纯形加入集合。
12、进一步,得到单纯形的多阶特征的具体过程如下:
13、设多模态网络内容风险图中的任意节点所对应的多模态属性为;其中,为模态数量;为第种模态对应的节点特征矩阵;为网络内容安全多模态图中的任意一种模态,,为网络内容安全多模态图的模态种类数量;
14、将k-单纯形集合以及任意节点所对应的多模态属性作为输入,分别得到0-单纯形特征、1-单纯形特征和2-单纯形特征;其中,为节点对应的0-单纯形特征,用于描述用户、内容、话题等实体的多模态语义信息;为边对应的1-单纯形特征,用于描述用户交互、内容关联以及传播关系中的局部风险关联模式;为三角单纯形对应的 2-单纯形特征,用于表示多个用户、内容以及话题共同形成的群体传播模式;
15、基于0-单纯形特征、1-单纯形特征和2-单纯形特征得到从节点级语义到高阶结构级语义的多阶单纯形表示;其中为保留网络内容实体节点级多模态语义信息,为用户、内容以及传播实体之间的局部交互关系,为由多个实体共同形成的高阶风险传播拓扑结构信息。
16、进一步,得到0-单纯形特征的具体过程如下:
17、遍历0-单纯形加入集合中每个0-单纯形;
18、对于节点对应的0-单纯形,将其文本特征与图像特征进行拼接,得到节点的0-单纯形的特征表示。
19、进一步,得到1-单纯形特征的具体过程如下:
20、遍历1-单纯形加入集合中每个1-单纯形;
21、对于边对应的1-单纯形,基于其两个端点的0-单纯形特征进行特征交互,得到该1-单纯形的特征表示;
22、边的1-单纯形的特征表示的表达式如下:
23、;
24、其中,为hadamard乘积操作,为最大池化聚合操作,为节点的0-单纯形的特征表示,。
25、进一步,构建2-单纯形特征的过程如下:
26、遍历2-单纯形加入集合中每个2-单纯形;
27、获取三角单纯形内部三条边对应的1-单纯形特征、和;
28、将、和进行聚合,得到该2-单纯形的特征表示;
29、2-单纯形特征的表达式如下:
30、。
31、进一步,所述步骤二中,对0-单纯形特征、1-单纯形特征和2-单纯形特征进行每一层的传播过程如下:
32、步骤2.1、对单纯形集合定义边界矩阵和;其中,表示节点与边之间的边界关系,表示边与三角单纯形之间的边界关系;
33、步骤2.2、根据边界矩阵和构造不同阶的hodge拉普拉斯矩阵;
34、步骤2.3、对hodge拉普拉斯矩阵进行归一化处理,得到归一化后的hodge拉普拉斯矩阵;
35、步骤2.4、构造局部拓扑增强矩阵以及多尺度hodge结构增强算子;
36、步骤2.5、对于第阶单纯形特征矩阵,构造两组具有不同映射形式的随机语义映射矩阵和;其中,,二者分别基于共享随机投影空间形成两组非对称语义表示;所述随机映射参数预先确定,在表征生成过程中保持固定且不参与训练;
37、步骤2.6、基于第一随机语义映射矩阵以及第二随机语义映射矩阵分别得到两个随机语义表示和,对于任意两个第阶单纯形,定义非对称语义一致性,其中,;
38、步骤2.7、对上述原始语义一致性矩阵进行对称化处理,得到;
39、步骤2.8、利用 hodge 结构增强矩阵与对称化后的多模态语义一致性矩阵,构造最终传播算子;
40、步骤2.9、对第阶单纯形进行基于随机投影哈希的递归二值编码;
41、初始化第轮迭代过程中,首先进行结构-语义传播,随后利用随机投影矩阵进行lsh映射,最后通过符号函数生成二值特征表示,其中,;经过轮迭代后,得到第阶单纯形的最终特征表示;
42、步骤2.10、对于第阶单纯形;
43、其中,;
44、当时,;
45、步骤2.11、将不同阶单纯形表征进行拼接,得到图级风险表示。
46、进一步,所述步骤三的具体过程如下:
47、将图级风险表示作为分类模型输入;
48、设网络内容安全训练数据集合为,其中,表示第个网络内容样本对应的风险表征;表示对应风险标签;
49、对于二分类风险检测任务,可采用逻辑回归分类器,其中,表示sigmoid函数;
50、输出对应风险预测结果。
51、作为本发明的进一步方案,本发明还提供了一种电子设备,包括存储器、一个或多个处理器以及被存储在存储器中的一个或多个程序,所述一个或多个程序包括用于执行如上述所述的网络内容安全风险检测方法的指令。
52、作为本发明的进一步方案,本发明还提供了一种存储介质,包括供电子设备的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行如上述所述的网络内容安全风险检测方法的指令。
53、与现有技术相比,本发明具有以下有益效果:
54、(1)针对网络内容安全场景中同时包含文本、图像、视频等多源异构信息,且用户、内容、传播行为以及交互关系之间存在复杂关联关系和高阶群体交互结构的问题,本发明提出一种基于非学习式多模态单纯形表征的网络内容安全风险检测方法。该方法以网络内容安全场景中的用户信息、内容信息、传播关系以及多模态属性信息构成的多模态关联图作为输入,通过构建非学习式的多模态单纯形表征,将复杂网络内容安全数据映射为统一维度的图级风险特征,并基于所述图级表征结合传统分类模型实现网络内容安全风险检测任务。
55、(2)本发明针对网络内容传播、用户交互以及内容关联过程中存在的复杂高阶关系,基于原始网络内容关联图结构自动构建单纯形表示,无需人工定义高阶关系或预先构造超边,将用户节点、内容节点、话题节点以及相关实体映射为0-单纯形,将用户交互关系、内容关联关系以及传播关系映射为1-单纯形,并将多个用户围绕相同内容、主题或传播事件形成的群体关联模式映射为2-单纯形;进一步利用文本、图像、视频等多模态信息构造节点级语义特征,通过随机映射将不同模态特征转换至统一语义空间,并利用节点间特征交互生成边级单纯形特征,结合高阶群体关联结构构造高阶单纯形特征,使网络内容中的局部语义模式、传播关联模式以及群体风险传播结构得到显式表达,同时保留多源异构内容信息。
56、(3)本发明提出一种非学习式多模态单纯形表征构建机制,通过利用单纯形内部拓扑关联关系和hodge结构增强算子实现同阶单纯形之间的信息传播,并利用多模态语义一致性关系对拓扑传播过程进行调制,使文本、图像、视频等内容语义信息与用户交互结构、内容传播结构以及高阶群体关联信息进行联合融合;进一步通过递归随机映射和哈希生成机制,将不同阶单纯形结构与语义信息压缩形成图级风险表征,使网络内容安全数据中的多模态语义特征和复杂拓扑风险模式共同参与风险检测过程。
57、(4)针对网络内容安全场景下大规模、多源异构内容数据以及复杂关联网络的风险检测需求,本发明构建基于图级风险表征的分类检测机制,通过约束生成的图级表征保持网络内容之间的语义关联关系、传播结构关系以及高阶交互模式,使得到的风险特征能够有效区分不同类型网络安全风险;结合逻辑回归、支持向量机等分类模型,实现对大规模网络内容数据中的风险类别识别和风险状态检测,提高复杂网络环境下风险检测效率。
58、(5)采用本发明方法能够有效提升网络内容安全风险检测过程中多模态数据表征能力,使生成的图级风险表征同时包含文本、图像、视频等多模态内容语义信息,用户交互关系信息以及高阶传播拓扑信息,从而提高复杂网络环境下风险内容识别、风险类别分类以及异常传播模式检测任务的准确性、稳定性和适应能力。
59、(6)本发明提出了一种面向网络内容安全场景的非学习式多模态单纯形表征方法。该方法能够有效解决现有技术中高阶风险传播关系难以充分利用、多模态内容语义与网络结构信息融合不足以及风险表征泛化能力有限等问题,在保留文本、图像、视频等多模态内容语义信息的同时,充分挖掘用户交互、内容关联以及群体传播过程中形成的多阶拓扑关系,并生成适用于网络内容安全风险检测任务的统一风险表征,从而提高复杂网络环境下风险识别的准确性、稳定性以及适应能力。
60、除了上面所描述的目的、特征和优点之外,本发明还有其它的目的、特征和优点。下面将参照图,对本发明作进一步详细的说明。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com