一种事实核查文章自然搜索流量预测与语步贡献分析方法

摘要: 本发明涉及自然语言处理、机器学习、因果推断、语篇结构分析、事实核查文本分析和网络传播效果预测,尤其涉及一种事实核查文章自然搜索流量预测与语步贡献分析方法。背景技...
一种事实核查文章自然搜索流量预测与语步贡献分析方法

本发明涉及自然语言处理、机器学习、因果推断、语篇结构分析、事实核查文本分析和网络传播效果预测,尤其涉及一种事实核查文章自然搜索流量预测与语步贡献分析方法。

背景技术:

1、随着互联网搜索引擎、社交媒体和内容平台的发展,事实核查文章已成为纠正虚假信息、降低误导性传播影响的重要文本形态。事实核查文章通常以较长篇幅呈现被核查说法、证据来源、事实推理、权威引用和结论说明,其传播效果不仅与话题热度、网页基础流量、外部链接、关键词覆盖度等外部因素有关,也可能受到文章内部语篇组织方式的影响。

2、现有事实核查文本分析技术多集中于真假识别、观点抽取、证据检索或句子级语步自动识别,较少进一步回答“修辞结构是否会影响文章后续搜索表现”以及“哪些语步对结果预测更关键”等问题。传统回归或分类模型可以将修辞标签作为普通特征输入,但文本语义、文章主题和流量基础变量往往与修辞结构高度耦合,直接建模容易把语义内容、话题热度或平台基础表现误认为修辞结构本身的作用。

3、在因果推断领域,处理混杂因素、估计反事实结果是核心问题。已有面向时间序列的因果变换器(transformer)方法能够将治疗变量、状态变量和静态特征进行交互建模,并通过反事实替换治疗变量估计效果差异。但是,事实核查文章是由多个句子构成的非时序语篇序列,前后句均可能共同决定文章语义和论证结构,直接套用时间序列因果模型难以兼顾全局句间依赖、修辞标签泄漏抑制和语步序列反事实分析。

4、此外,在实际项目中,文章效果指标可根据应用目的进行设置。例如,原有方案可采用发布日前后谷歌趋势(googletrends)热度变化作为辟谣效果变量;本实施例将文章统一资源定位符(url)在观测窗口内的自然搜索流量(traffic)作为预测目标,并将该字段从静态控制变量中移除,以避免目标泄漏。

5、因此,需要一种面向事实核查文章语篇序列的因果变换器方法,在融合文本语义、修辞结构和文章级静态变量的基础上,对自然搜索流量等连续型传播表现进行预测,并提供可解释的语步贡献分析。

技术实现思路

1、发明目的:本发明提出一种基于修辞结构因果变换器(rhetoricalstructurecausaltransformer,rsct)的事实核查文章自然搜索流量预测与语步贡献分析方法,以解决现有技术中难以在句子级语篇结构、文本语义和文章级控制变量之间分离混杂影响,难以对修辞结构进行反事实替换分析,以及难以输出面向写作优化的语步贡献解释的问题。

2、技术方案:本发明所述的一种事实核查文章自然搜索流量预测与语步贡献分析方法,包括以下步骤:

3、步骤s1:数据获取与预处理:获取事实核查文章数据,所述数据至少包括文章正文句子序列、句子级修辞结构标签、文章级统计特征及文章对应统一资源定位符的自然搜索流量;

4、步骤s2:预测目标与控制变量构造:将所述自然搜索流量作为预测目标,将除自然搜索流量之外的文章级特征作为静态控制变量,并对所述预测目标进行标准化处理;

5、步骤s3:句子级语义编码:将每篇事实核查文章按句子顺序组织为句子序列,并使用预训练文本嵌入模型将每个句子编码为固定维度的句子语义向量,生成其文本表示;

6、步骤s4:修辞结构序列构建:将每个句子的修辞结构标签转换为类别索引,按照句子在文章中的出现顺序形成修辞结构序列,并在编码器输入侧采用错位修辞输入,使当前位置接收前一位置的修辞标签嵌入,第一个位置接收起始标记;

7、步骤s5:修辞结构因果变换器构建与多输入编码:构建包括多输入编码器、修辞分类头和结果预测头修辞结构因果变换器,其中,多输入编码器接收句子级文本表示、错位修辞表示和文章级静态控制变量,采用文本分支与修辞分支并行的双分支结构,并由多个多输入块堆叠构成;每个多输入块分别对文本分支和修辞分支执行全局多头自注意力,再通过双向交叉注意力实现文本与修辞之间的信息交互,并将文章级静态控制变量投影后广播融合至各句子位置,得到最终编码的文本隐藏状态和错位修辞隐藏状态,用于后续融合表征构建和自然搜索流量预测的编码结果;

8、步骤s6:融合表征构建与修辞分类:在最后一个多输入块之后,将步骤s5输出的当前句子的最终文本隐藏状态与对应的错位修辞隐藏状态相加,并经线性映射、激活、随机失活和层归一化得到初始的句子级融合表征;设置修辞分类头,根据所述句子级平衡表征输出当前修辞标签的概率分布;

9、步骤s7:自然搜索流量预测:设置结果预测头,将句子级融合表征与当前位置真实修辞标签嵌入进行拼接后输入结果预测头,输出句子级局部预测值,再对所有有效句子的局部预测值进行掩码平均池化和全局映射,得到标准化空间中的文章级自然搜索流量预测值;

10、步骤s8:交替损失优化:根据步骤s6输出的当前修辞标签概率分布计算修辞分类损失,根据步骤s7输出的标准化预测值计算结果预测损失,并以修辞类别均匀分布为目标计算反事实领域混淆损失;第一优化阶段固定多输入编码器、句子级表征构建参数和结果预测头,更新修辞分类头以最小化修辞分类损失;第二优化阶段固定修辞分类头,更新多输入编码器、句子级表征构建参数、和结果预测头,以最小化结果预测损失与加权反事实领域混淆损失之和;所述第二优化阶段使句子级融合表征在保留自然搜索流量预测相关信息的同时降低当前修辞标签的可判别性,形成句子级平衡表征,用于后续反事实分析与模型预测;

11、步骤s9:反事实替换与语步贡献分析:使用经步骤s8完成优化的模型,保持模型参数、事实文本表示、事实错位修辞表示、注意力掩码和静态控制变量不变,仅在结果预测头输入侧将一个或多个位置的当前实际的修辞标签嵌入替换为候选标签嵌入;每次替换后重新执行前向计算,在上述编码器输入和模型参数不变的条件下获得与事实计算一致的平衡表征,并计算事实预测与反事实预测之间的差异,衡量候选修辞标签相对于事实标签对自然搜索流量预测结果的边际贡献;

12、步骤s10:预测结果与解释报告输出:使用经步骤s8完成优化的模型,按照步骤s7所述预测流程获得标准化预测值,并将所得到的标准化预测值反标准化至预测目标原尺度,输出每篇文章的自然搜索流量预测值及语步贡献分析报告。

13、进一步地,步骤s2所述静态控制变量包括反向链接数backlinks、自然搜索关键词数keyword、文章长度length、情感倾向sentiment、多模态展示特征modal以及主题变量topic中的一种或多种,表示为:

14、

15、式中,表示文章索引;表示第篇文章的预测目标;表示对应文章观测到的自然搜索流量;表示静态控制变量向量;表示主题变量数量,多模态展示特征用于表征文章是否含有图片、视频、图表或其他非纯文本展示元素;

16、对预测目标进行标准化,标准化后的训练目标表示为:

17、

18、式中,表示第篇文章的标准化训练目标;和分别表示训练集预测目标的均值和标准差;表示防止分母为零的正平滑常数。

19、进一步地,所述步骤s3具体包括:

20、使用预训练文本嵌入模型将每个句子编码为固定维度的句子向量,并将每篇文章填充或截断至预设最大句子数,同时生成注意力掩码用于标识有效句子与填充位置:

21、

22、

23、式中,表示句子位置索引;表示第篇文章的第个句子;表示对应句子语义向量;表示参数为的预训练文本嵌入模型;表示句子向量维度;表示注意力掩码;表示第篇文章的有效句子数。

24、进一步地,所述步骤s4具体包括:

25、修辞结构标签采用语步—语阶层级标签体系:宏观语步包括摘要、引入虚假信息、驳斥虚假信息、得出结论和补充阅读材料;其中,引入虚假信息细分为虚假信息传播情况、虚假信息内容描述和相关信息介绍三个语阶;驳斥虚假信息细分为信源核查与内容比对、逻辑推理或事实陈述和权威引用三个语阶;用于模型编码时,将摘要、得出结论、补充阅读材料与上述六个语阶共同构成九个互斥的句子级修辞结构类别;

26、初始文本隐藏状态和初始错位修辞隐藏状态表示为:

27、

28、

29、

30、式中,和分别表示第篇文章当前句子位置的初始文本隐藏状态,以及与该句子配对、来源索引为的初始错位修辞隐藏状态;表示序列首位使用起始标记得到的初始错位修辞隐藏状态;在时由前一位置标签构造;和分别表示文本投影矩阵和偏置;表示编码器输入侧的修辞标签嵌入函数;起始标记start表示序列首位使用的专用标签。

31、进一步地,所述步骤s5中,修辞结构因果变换器的每个多输入块依次执行以下操作:

32、对文本隐藏状态和修辞隐藏状态分别进行多头自注意力计算,并引入可学习相对位置编码以保留句子之间的相对顺序和邻近关系:

33、

34、

35、式中,表示多输入块层号;和分别表示上一层文本隐藏状态和修辞隐藏状态;和分别表示文本自注意力输出和修辞自注意力输出;表示注意力掩码;表示相对位置编码;表示多头注意力;

36、其次,执行双向交叉注意力,使文本表示查询修辞上下文、修辞表示查询文本上下文:

37、

38、

39、式中,表示文本表示查询修辞上下文所得的交叉注意力输出;表示修辞表示查询文本上下文所得的交叉注意力输出;

40、然后,将文章级静态控制变量投影到模型维度并广播至各句子位置,与文本和修辞表示融合:

41、

42、

43、

44、式中,表示第篇文章中第个句子经过第个多输入块处理后得到的文本隐藏状态;表示与该句子配对的、来源索引为的错位修辞标签经过第个多输入块处理后得到的修辞隐藏状态;表示多输入块的序号;表示投影后并广播至各句子位置的文章级静态控制变量;和分别表示静态特征投影矩阵和偏置;表示前馈网络;表示层归一化。

45、进一步地,所述步骤s6具体包括:

46、句子级融合表征按照下式构造:

47、

48、式中,表示由最终文本隐藏状态和最终错位修辞隐藏状态融合得到的句子级融合表征;表示多输入块的总数;表示第篇文章中第个句子经过最后一个多输入块处理后得到的最终文本隐藏状态;表示与该句子配对的、来源索引为的错位修辞标签经过最后一个多输入块处理后得到的修辞隐藏状态;和分别表示句子级融合表征映射矩阵和偏置;表示指数线性单元激活函数;表示随机失活操作;表示层归一化;

49、修辞分类头根据融合表征预测当前修辞标签的概率分布:

50、

51、

52、式中,表示当前位置的修辞标签预测概率向量;表示该向量中类别的概率;表示修辞分类头;和分别表示分类头的权重和偏置;表示归一化指数函数。

53、进一步地,所述步骤s7具体包括:

54、句子级局部预测值按照下式计算:

55、

56、式中,表示第篇文章第个句子的局部预测值;表示局部结果预测网络;表示结果预测头使用的当前修辞标签嵌入函数;表示当前位置的真实修辞标签;方括号内的分号表示向量拼接;

57、标准化空间中的文章级自然搜索流量预测值通过对所有有效句子的局部预测值进行掩码平均池化后,再经全局映射得到:

58、

59、式中,表示第篇文章在标准化空间中的预测值;表示该文章的句子级融合表征序列;表示该文章的事实修辞标签序列;表示结果预测头,由当前标签嵌入函数、局部结果预测网络、掩码平均池化和全局结果映射网络依次构成;表示正平滑常数。

60、进一步地,所述步骤s8具体包括:

61、修辞分类损失、结果预测损失和反事实领域混淆损失分别表示为:

62、

63、

64、

65、交替优化目标表示为:

66、

67、

68、式中,表示修辞分类损失;表示结果预测损失;表示反事实领域混淆损失;表示修辞分类头参数;表示表征编码部分参数,包括多输入编码器参数和句子级表征构建参数;表示结果预测头参数,包括当前修辞标签嵌入函数参数;表示混淆损失权重;表示修辞类别总数,内部类别索引范围为0至。

69、进一步地,所述步骤s9具体包括:

70、反事实预测值按照下式计算:

71、

72、式中,表示在模型参数、事实文本、事实错位修辞序列、注意力掩码和静态控制变量保持不变的条件下计算得到的事实平衡表征序列;表示仅在结果预测头输入侧使用的候选反事实修辞序列,未指定替换的位置保持与事实修辞序列相同;表示结果预测头;表示事实平衡表征不变条件下仅由候选修辞标签作用得到的标准化反事实预测值;

73、单样本反事实效应按照下式计算:

74、

75、式中,表示第篇文章的事实修辞序列;表示第篇文章从事实修辞序列替换为候选反事实修辞序列时,标准化预测值的变化;其绝对值表示该候选替换的边际影响幅度;

76、计算全部修辞类别在结果预测头中的平均嵌入向量:

77、

78、式中,表示结果预测头中全部修辞类别嵌入的平均向量;表示内部修辞类别索引,取值为0至;表示结果预测头使用的修辞标签嵌入函数;

79、修辞结构类别的边际贡献通过逐标签遮掩按照下式计算:

80、

81、式中,表示修辞类别的平均绝对条件边际贡献;表示包含该修辞类别的文章样本集合;表示将结果预测头中类别对应位置的嵌入替换为平均嵌入后所得的标准化预测值;表示事实修辞序列对应的标准化预测值。

82、进一步地,步骤s10所述反标准化表示为:

83、

84、式中,表示恢复至预测目标原尺度的自然搜索流量预测值;表示标准化预测值。

85、有益效果:与现有技术相比,本发明的有益效果:本发明形成从事实核查文章到自然搜索流量预测值的端到端计算完整流程;降低文本语义与修辞结构之间的混杂,提高反事实分析的可解释性;输出整体修辞结构消融结果、逐标签遮掩结果和样本级预测扰动,为事实核查文章的修辞组织评估提供量化依据;与仅使用文本语义或仅将修辞标签作为普通特征的方案相比,本发明将修辞结构作为可干预变量建模,并通过对抗式混杂抑制与固定表征的反事实替换机制,为事实核查文章的搜索流量预测和语篇结构解释提供统一流程,为事实核查文章的篇章组织、证据呈现顺序和修辞策略调整提供量化依据。