文本审核方法、装置、设备以及存储介质与流程
本技术涉及数据处理,尤其涉及文本审核方法、装置、设备以及存储介质。
背景技术:
1、随着融媒体建设的深入推进,各级媒体单位每天产出海量的图文、视频、直播稿件,并通过 app、网站、微信、微博、微直播等多渠道高频分发。稿件在发布前须经过审核,以确保内容合规、导向正确,这是融媒内容生产的必要环节。然而在海量稿件、高频发布、多渠道分发的环境下,传统全量人工审核模式已难以兼顾审核质量与发布时效,稿件审核环节成为制约融媒内容高效流转的瓶颈。
2、相关技术中,稿件审核分级所依据的数据维度较为有限,例如,对于仅具有轻微风险特征的稿件与同时具有多种高风险特征的稿件,相关技术难以形成足够明显的分级差异,从而使低风险内容占用较多处理资源,而高风险内容又难以得到针对性的处理,无法满足实际的审核需求。
技术实现思路
1、本技术的主要目的在于提供一种文本审核方法、装置、设备以及存储介质,旨在解决相关技术中文本审核效率低的技术问题。
2、第一方面,为实现上述目的,本技术提供一种文本审核方法,方法包括:
3、获取待审批稿件;
4、将待审批稿件输入至综合评分模型,获得待审批稿件综合风险评分;
5、基于待审批稿件的综合风险评分和风险评估置信度,确定文本审核策略;
6、其中,综合评分模型用于:
7、分析待审批稿件的正文文本,基于正文文本的情感词和敏感词,确定情感倾向向量和敏感风险向量;
8、通过跨模态注意力机制,确定情感倾向向量和敏感风险向量之间的交叉特征;
9、基于交叉特征、情感倾向向量和敏感风险向量,通过门控网络确定门控标量,基于门控标量对情感倾向向量和敏感风险向量进行加权融合,获得初始风险评分;
10、基于初始风险评分和审核配置,输出待审批稿件的综合风险评分以及风险评估置信度。
11、在一实施例中,分析所述待审批稿件的正文文本,基于所述正文文本的情感词和敏感词,确定情感倾向向量和敏感风险向量包括:
12、对正文文本进行分词,通过依存句法分析器构建句法树;
13、进行词匹配,识别句法树中的情感词节点、程度副词节点和否定词节点;
14、沿句法树的边,确定程度副词节点与情感词节点之间的句法路径,以及否定词节点与情感词节点之间的句法路径;
15、基于预设传播策略,分别计算程度副词节点对情感词节点的程度修正系数和否定词节点对情感词节点的否定修正系数;其中程度修正系数随句法路径距离的增大而衰减;否定修正系数基于情感词节点沿句法路径所经过的否定词节点的个数确定;
16、基于程度修正系数和否定修正系数,通过层次化注意力机制,在词级层面计算各情感词节点的基础情感权重,确定词级情感向量,在短语级层面沿句法路径将词级情感向量聚合为短语情感向量,在句级层面将短语情感向量聚合为稿件情感向量;
17、将稿件情感向量归一化至预设区间,得到情感倾向向量。
18、在一实施例中,分析所述待审批稿件的正文文本,基于正文文本的情感词和敏感词,确定情感倾向向量和敏感风险向量包括:
19、对正文文本进行嵌入处理得到文本嵌入向量,获取敏感概念图中各敏感概念节点对应的概念嵌入向量;敏感概念图的节点用于表征敏感概念并包括风险类别和严重程度标记;
20、基于文本嵌入向量与各概念嵌入向量进行近邻召回,从敏感概念图中确定与正文文本相关的候选敏感概念节点作为激活节点;
21、通过图注意力网络在敏感概念图上按关系类型分配注意力权重,以激活节点作为风险传播起始点,基于注意力权重沿敏感概念图的概念关系边进行风险特征传播,获得各敏感概念节点更新后的风险特征;
22、对敏感概念图中的风险特征按各节点的敏感类别进行聚合,获得多个敏感类别对应的类别风险特征,确定敏感风险向量。
23、在一实施例中,审核配置包括稿件类型权重和渠道权重,基于门控标量对情感倾向向量和敏感风险向量进行加权融合,获得初始风险评分包括:
24、基于情感倾向向量和敏感风险向量,确定情感倾向分值和敏感风险分值;
25、基于门控标量,对情感倾向分值和敏感风险分值进行加权融合,得到初始风险评分;
26、基于初始风险评分和审核配置,输出待审批稿件的综合风险评分包括:
27、将初始风险评分归一化为初始风险评分,将初始风险评分与稿件类型权重相乘后再与渠道权重相乘,获得综合风险评分。
28、在一实施例中,基于初始风险评分和审核配置,输出待审批稿件的综合风险评分以及风险评估置信度包括:
29、基于初始风险评分,通过线性分类头输出多个风险等级的原始预测分值;
30、将原始预测分值输入至证据头,输出风险评估置信度,其中,证据头用于:
31、将原始预测分值通过非线性映射为非负证据量;
32、基于非负证据量,构造狄利克雷分布参数,确定狄利克雷强度;
33、基于风险等级的数量和狄利克雷强度之比,确定总不确定性;
34、基于总不确定性,确定认知不确定性,输出风险评估置信度。
35、在一实施例中,基于待审批稿件的综合风险评分和风险评估置信度,确定文本审核策略的步骤包括:
36、若综合风险评分小于风险下限值且风险评估置信度不小于置信度预设值,则将待审批稿件直接进入发布流程;
37、若综合风险评分处于风险下限值与风险上限值之间或置信度小于置信度预设值,则将待审批稿件进入人工审核队列处理;
38、若综合风险评分高于风险上限值,则将待审批稿件进入驳回和/或复审通道。
39、在一实施例中,风险下限值、风险上限值和置信度预设值基于稿件类型和内容发布渠道的组合方式确定;
40、当检测到新上线的稿件类型与内容发布渠道组合时,通过预训练的阈值策略网络生成该组合的初始风险下限值、初始风险上限值和初始置信度预设值,并写入审核配置表;
41、其中,阈值策略网络的输入为稿件类型嵌入特征和内容发布渠道嵌入特征,输出为风险下限值、风险上限值和置信度预设值;阈值策略网络通过模型无关元学习框架预先训练得到,训练时将每个稿件类型与内容发布渠道的组合视为一个独立阈值适配任务,内循环在单个阈值适配任务上基于少量样本以第一学习率适配阈值参数,外循环跨多个阈值适配任务以第二学习率更新阈值策略网络的参数;
42、在文本审核运行时,根据待审批稿件对应的稿件类型与内容发布渠道组合,从审核配置表中查询获得风险下限值、风险上限值和置信度预设值。
43、第二方面,为实现上述目的,本技术继续提供一种文本审核装置,装置包括:
44、获取模块,用于获取待审批稿件;
45、风险评估模块,用于将待审批稿件输入至综合评分模型,获得待审批稿件综合风险评分;
46、审核策略确定模块,用于基于待审批稿件的综合风险评分和风险评估置信度,确定文本审核策略;
47、其中,综合评分模型用于:
48、分析待审批稿件的正文文本,基于正文文本的情感词和敏感词,确定情感倾向向量和敏感风险向量;
49、通过跨模态注意力机制,确定情感倾向向量和敏感风险向量之间的交叉特征;
50、基于交叉特征、情感倾向向量和敏感风险向量,通过门控网络确定门控标量,基于门控标量对情感倾向向量和敏感风险向量进行加权融合,获得初始风险评分;
51、基于初始风险评分和审核配置,输出待审批稿件的综合风险评分以及风险评估置信度。
52、第三方面,为实现上述目的,本技术继续提供一种文本审核设备,设备包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,计算机程序配置为实现上述的文本审核方法的步骤。
53、第四方面,为实现上述目的,本技术继续提供一种存储介质,存储介质为计算机可读存储介质,存储介质上存储有计算机程序,计算机程序被处理器执行时实现上述的文本审核方法的步骤。
54、本技术提出的一个或多个技术方案,至少具有以下技术效果:
55、本技术通过对待审批稿件的情感倾向信息和敏感风险信息进行联合分析,并利用跨模态注意力机制和门控网络实现二者的自适应加权融合,从而能够更加全面、准确地区分不同稿件的风险程度;同时,通过敏感概念图进行风险特征传播,可进一步挖掘敏感概念之间的关联风险,提高敏感风险识别的完整性,并通过基于狄利克雷分布的证据式不确定性评估获得风险评估置信度,使审核策略不仅依据风险评分,还能够结合模型预测的可靠程度进行动态判定;此外,针对不同稿件类型与发布渠道组合,通过元学习生成并适配相应的风险阈值及置信度阈值,使审核分级能够适应不同内容场景。因此,本技术能够将低风险且高置信度稿件快速导入发布流程,将中风险或低置信度稿件集中至人工审核,并对高风险稿件进行针对性驳回或复审,在保证高风险内容获得重点审核的同时减少低风险稿件对人工审核资源的占用,从而提高文本审核的准确性、针对性和整体处理效率。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com