基于自适应路由的虚假信息检测方法和装置

本公开涉及人工智能，更具体地，涉及一种基于自适应路由的虚假信息检测方法和装置。

背景技术：

1、随着社交媒体和移动互联网的发展，文本、图像、视频截图及链接等多种载体被组合用于信息传播。虚假信息往往通过具有诱导性的文本与经过选择、编辑或脱离上下文的图像共同构造，使单一模态检测难以准确判断其真实性。

技术实现思路

1、有鉴于此，本公开提供了一种基于自适应路由的虚假信息检测方法和装置，可至少部分解决上述技术问题。

2、本公开的一个方面提供了一种基于自适应路由的虚假信息检测方法，包括：将待检测多模态声明输入已训练好的多模态筛选模型进行处理输出多模态融合特征；待检测多模态声明包括文本内容和视觉证据，已训练好的多模态筛选模型用于度量文本内容和视觉证据之间的一致性关系以及根据一致性关系将文本内容和视觉证据生成多模态融合特征；将多模态融合特征输入已训练好的自适应路由模型中的第一核验层中进行处理以输出初始预测值；已训练好的自适应路由模型包括第一核验层、第二核验层和第三核验层，第一核验层被配置为轻量筛选待检测多模态声明，第二核验层被配置为根据外部证据增强核验待检测多模态声明，第三核验层被配置为采用多个智能体推理待检测多模态声明；根据初始预测值和多模态融合特征确定第一核验层、第二核验层和第三核验层各自对应的选择概率；根据第一核验层、第二核验层和第三核验层各自对应的选择概率和危害评分从第一核验层、第二核验层和第三核验层中确定目标核验层；危害评分表征待检测多模态声明传播后的社会风险等级；将多模态融合特征输入目标核验层进行处理以输出目标预测值；根据目标预测值和目标核验层的核验信息生成检测文本。

3、根据本公开的实施例，已训练好的多模态筛选模型包括文本编码器、视觉编码器和门控单元；将待检测多模态声明输入已训练好的多模态筛选模型进行处理以输出多模态融合特征包括：通过文本编码器将待检测多模态声明中的文本内容进行处理，输出文本语义表示；通过视觉编码器将待检测多模态声明中的视觉证据进行处理，输出视觉语义表示；通过门控单元度量文本语义表示和视觉语义表示之间的一致性关系，并根据一致性关系、文本语义表示和视觉语义表示输出多模态融合特征。

4、根据本公开的实施例，根据初始预测值和多模态融合特征确定第一核验层、第二核验层和第三核验层各自对应的选择概率，包括：根据初始预测值和一致性关系确定复杂度特征，复杂度特征表征待检测多模态声明的核验识别难度；基于复杂度特征和多模态融合特征确定第一核验层、第二核验层和第三核验层各自对应的选择概率。

5、根据本公开的实施例，初始预测值包括真实类别预测值和虚假类别预测值；根据初始预测值和一致性关系确定复杂度特征，包括：根据真实类别预测值和虚假类别预测值确定最大类别置信度、预测信息熵和类别预测间隔；最大类别置信度表征真实类别预测值和虚假类别预测值之间的最大预测值，预测信息熵表征待检测多模态声明真假判定的模糊程度，类别预测间隔表征真实类别预测值和虚假类别预测值之间的差距；根据最大类别置信度、预测信息熵、类别预测间隔和一致性关系确定复杂度特征。

6、根据本公开的实施例，根据第一核验层、第二核验层和第三核验层各自对应的选择概率和危害评分从第一核验层、第二核验层和第三核验层中确定目标核验层，包括：对第一核验层、第二核验层和第三核验层各自对应的选择概率进行大小排序；将最大选择概率对应的核验层作为候选核验层；在危害评分大于或等于第一预设阈值，候选核验层为第一核验层或第二核验层的情况下，将第三核验层作为目标核验层；或者，在危害评分小于第一预设阈值的情况下，将候选核验层作为目标核验层。

7、根据本公开的实施例，待检测多模态声明还包括元数据；根据元数据、文本内容和视觉证据确定所述危害评分。

8、根据本公开的实施例，第二核验层包括：查询生成单元、证据检索单元、证据重排序单元和证据增强核验单元；待检测多模态声明还包括元数据；通过查询生成单元将文本内容、视觉证据和元数据生成检索查询；根据检索查询从预存储的数据库中通过证据检索单元确定多个候选外部证据；通过证据重排序单元从多个候选外部证据中确定目标外部证据；基于目标外部证据和多模态融合特征通过证据增强核验单元输出第二核验层的预测值。

9、根据本公开的实施例，第三核验层包括：第一智能体、第二智能体、第三智能体和第四智能体；通过第一智能体对视觉证据进行处理生成分析结果，分析结果表征视频图像发生修改的风险；通过第二智能体确定目标外部证据的可信度；通过第三智能体对待检测多模态声明、目标外部证据和元数据进行处理，生成推理结果，推理结果表征待检测多模态声明的事实一致性；通过第四智能体对分析结果、可信度、推理结果和多模态融合特征进行处理输出第三核验层的预测值。

10、根据本公开的实施例，根据目标预测值和目标核验层的核验信息生成检测文本，包括：在目标核验层为第一核验层的情况下，检测文本包括危害评分、复杂度特征和第一核验层的预测值；在目标核验层为第二核验层的情况下，检测文本包括危害评分、复杂度特征、目标外部证据和第二核验层的预测值；或者，在目标核验层为第三核验层的情况下，检测文本包括危害评分、复杂度特征、目标外部证据、第一智能体输出的分析结果、第二智能体输出的可信度、第三智能体输出的推理结果和第四智能体输出的第三核验层的预测值。

11、本公开的第二方面提供了一种基于自适应路由的信息检测装置，包括：第一处理模块，用于将待检测多模态声明输入已训练好的多模态筛选模型进行处理输出多模态融合特征；待检测多模态声明包括文本内容和视觉证据，已训练好的多模态筛选模型用于度量文本内容和视觉证据之间的一致性关系以及根据一致性关系将文本内容和视觉证据生成多模态融合特征；第二处理模块，用于将多模态融合特征输入已训练好的自适应路由模型中的第一核验层中进行处理以输出初始预测值；已训练好的自适应路由模型包括第一核验层、第二核验层和第三核验层，第一核验层被配置为轻量筛选待检测多模态声明，第二核验层被配置为根据外部证据增强核验待检测多模态声明，第三核验层被配置为采用多个智能体推理待检测多模态声明；第一确定模块，用于根据初始预测值和多模态融合特征确定第一核验层、第二核验层和第三核验层各自对应的选择概率；第二确定模块，用于根据第一核验层、第二核验层和第三核验层各自对应的选择概率和危害评分从第一核验层、第二核验层和第三核验层中确定目标核验层；危害评分表征待检测多模态声明传播后的社会风险等级；第一生成模块，用于将多模态融合特征输入目标核验层进行处理以输出目标预测值；第二生成模块，用于根据目标预测值生成检测文本。

12、本公开提供的基于自适应路由的虚假信息检测方法和装置，至少具有以下技术效果：

13、通过待检测多模态声明的核验复杂度与潜在社会危害程度动态分配核验计算资源，针对低复杂度、低危害的简单样本，直接采用轻量化筛查流程，无需执行冗余的复杂推理，有效降低系统整体平均计算开销与检测响应时延；同时设置高危害信息强制升级机制，对高风险多模态声明统一启用多智能体协同深度核验，显著提升复杂样本、高危害谣言场景下虚假信息检测结果的可靠性、鲁棒性与结果可解释性。