一种AI生成广告内容的违规风险识别方法及系统与流程

本发明涉及风险识别，具体是涉及一种ai生成广告内容的违规风险识别方法及系统。

背景技术：

1、随着ai生成技术在广告行业的规模化应用，广告素材的文本、画面与配音均可由ai模型批量生成，广告内容的产出速度与数量大幅提升。为防范ai生成广告中可能夹带的虚假宣传、诱导消费、违禁内容等违规风险，现有审核方案通常采用多模态内容理解模型，将广告素材的文案、图像帧和音频统一输入模型进行全局特征融合，再由分类头输出整条素材是否违规的判别结论；部分方案还会在判别违规后，对素材整体给出一个违规置信度数值，供审核人员排序处理。

2、然而，上述全局融合式的审核方案存在明显缺陷：模型对素材做无差别整体处理，文案、画面、配音中零散分布的违规线索被大量无关内容稀释，输出的审核结论仅是针对整条素材的笼统判别，无法回溯到违规线索究竟出现在素材的哪个字符区间、哪个画面区域或哪段音频时间区间。审核人员面对一条被判定违规的素材，无从得知结论由哪些具体证据支撑，既难以人工复核确认，也难以在被审核方提出申诉时给出可追溯的判定依据，导致违规识别结论的可解释性与可复核性不足，审核效率和公信力受到制约。

技术实现思路

1、本发明旨在提供一种ai生成广告内容的违规风险识别方法及系统，显著提升了ai生成广告违规识别结论的可追溯性与审核公信力。

2、为达到以上目的，本发明采用的技术方案为：一种ai生成广告内容的违规风险识别方法，包括：

3、接收ai生成的多模态广告素材，分离得到文本流、图像流和音频流，提取三类模态语义锚点，生成结构化素材表示；

4、以语义锚点为约束，对所述结构化素材表示执行定向跨模态联合特征融合，得到锚点引导的融合特征序列；

5、将所述锚点引导的融合特征序列输入违规风险分类器，逐类别独立识别违规风险，得到带锚点定位的初步风险识别结果；

6、基于业务场景权重，对所述初步风险识别结果计算综合风险评分并划定风险等级；

7、对所述综合风险评分进行跨模态归因分解，生成风险归因报告；

8、基于跨模态一致性，对识别结果进行二次校验与置信度修正，输出修正后综合风险评分、修正后风险等级和更新后风险归因报告。

9、优选的，所述提取三类模态语义锚点，包括：

10、依据预设违规风险类别集合配置的文本规则集扫描所述文本流，将命中规则的语句片段标记为文本语义锚点，记录锚点编号、关联风险类别编号和字符级起止位置；

11、对所述图像流做文字识别，按双向字重合率将画面文字与所述文本语义锚点比对，达到预设标准时沿用对应文本语义锚点的锚点编号，并由视觉符号探测器按预设违规视觉符号库对非文字视觉元素独立建立图像语义锚点；对关联风险类别编号相同、且显示时段与所述文本语义锚点对应字幕的显示时段重叠的锚点执行合并，存在多个候选时并入重叠时长最大的一个；

12、对所述音频流做语音转文字得到旁白文本，按所述双向字重合率沿用文本语义锚点的锚点编号，并由音频特征判别器依频谱特征对可疑声学片段独立建立音频语义锚点，按相同的合并规则处理；

13、将合并后的三类模态语义锚点映射到统一时间轴，输出所述结构化素材表示。

14、优选的，对所述结构化素材表示执行定向跨模态联合特征融合，包括：

15、将所述结构化素材表示中的三路内容分别向量化，排成三路初始特征序列；

16、按锚点逐一为每个语义锚点生成三路掩码向量，被同一特征单元落入的多个语义锚点各自的掩码中同时取一；

17、计算特征单元之间的相似度并除以预设缩放系数后做指数变换，仅允许被同一语义锚点的掩码同时激活的特征单元之间发生交互，按行归一化后得到带锚点索引的跨模态对齐权重，某一模态组合在所述语义锚点上无覆盖单元时，所述模态组合下全部跨模态对齐权重记零；

18、按锚点逐一将三个模态池化向量与三个方向的增强项拼接，经线性映射压缩得到各语义锚点的融合向量，按锚点编号顺序排列成所述锚点引导的融合特征序列。

19、优选的，所述逐类别独立识别违规风险，包括：

20、将所述锚点引导的融合特征序列中每个语义锚点的融合向量输入所述违规风险分类器，得到每个语义锚点在每个风险类别上的原始判别值；

21、对每个原始判别值独立做归一化，得到锚点级置信度，各类别的锚点级置信度互不摊薄；

22、对每个风险类别，将锚点级置信度不低于预设锚点级门限的语义锚点全部列入支撑锚点集合，以类别下全部锚点级置信度的最大者作为素材级置信度，素材级置信度高于预设类别判定门限的类别进入初步命中风险集合，所述类别判定门限设置得高于锚点级门限；

23、整合每个支撑锚点的三类模态时空位置，输出所述带锚点定位的初步风险识别结果。

24、优选的，所述计算综合风险评分并划定风险等级，包括：

25、依据所述初步命中风险集合中各命中类别的风险类别编号，查询预设的业务场景与风险权重映射表，得到当前投放场景下各命中类别的业务权重系数；

26、以每个命中类别的业务权重系数除以全部命中类别业务权重系数之和，得到归一化业务权重；

27、将所述归一化业务权重与对应类别的素材级置信度相乘后对全部命中类别求和，得到综合风险评分；

28、将所述综合风险评分与依据历史素材审核记录的评分分布分位数划定的评分门限比较，划定风险等级；任一命中类别的素材级置信度不低于预设严重门限且属于预设强监管危害分级时，直接定为高风险；风险等级为低风险的素材提前终止，以所述综合风险评分和风险等级作为最终输出。

29、优选的，所述跨模态归因分解，包括：

30、取全部命中类别的支撑锚点集合的并集并去重，组成目标语义锚点集合；

31、以全部语义锚点的融合向量的算术平均作为基线向量，将每个目标语义锚点的融合向量逐一替换为基线向量，以替换后的锚点引导的融合特征序列重新执行逐类别独立识别违规风险、计算综合风险评分并划定风险等级的全流程，得到每个目标语义锚点的扰后综合风险评分；

32、以所述综合风险评分与各扰后综合风险评分之差的绝对值，除以全部目标语义锚点的差值之和，得到各目标语义锚点的归因贡献占比；全部差值均为零时，各目标语义锚点的归因贡献占比均记为目标语义锚点数量的倒数，并标注证据冗余。

33、优选的，所述风险归因报告的分层生成，包括：

34、第一层记录素材唯一标识、风险等级和综合风险评分；

35、第二层按锚点编号逐一列出各目标语义锚点的归因贡献占比、关联风险类别编号以及三类模态的时空位置；

36、第三层对归因贡献占比超过预设展示门限的目标语义锚点，以自然语言综述违规线索出现的模态与内容段以及所支撑的风险类别结论。

37、优选的，所述二次校验，包括：

38、筛选归因贡献占比超过预设校验触发门限的目标语义锚点，作为待校验对象；

39、对每个待校验对象，取其每个模态组合覆盖范围内全部特征对的原始相似度的算术平均，作为所述模态组合的交互印证强度，所述原始相似度未经归一化聚合、与任一模态的覆盖单元数量无关；

40、以三个模态组合的交互印证强度计算一致性方差，所述一致性方差不低于预设一致性阈值时，将对应待校验对象标记为跨模态不一致锚点。

41、优选的，所述置信度修正，包括：

42、以所述一致性阈值和预设方差上限为插值边界，按所述一致性方差线性插值取得衰减因子，方差越大衰减因子越小；

43、将所述跨模态不一致锚点自身全部风险类别的锚点级置信度乘以所述衰减因子，其余语义锚点的锚点级置信度维持原值；

44、以修正后的锚点级置信度重新执行两级判定与评分分级，得到所述修正后综合风险评分和所述修正后风险等级；

45、按修正结果同步更新所述风险归因报告第一层的等级与评分记载，并为触发修正的跨模态不一致锚点附注修正前后的置信度、评分、一致性方差数值及薄弱模态组合，输出更新后风险归因报。

46、另一方面，本发明提出一种ai生成广告内容的违规风险识别系统，包括：

47、接收单元，用于接收ai生成的多模态广告素材，分离得到文本流、图像流和音频流，提取三类模态语义锚点，生成结构化素材表示；

48、融合单元，用于以语义锚点为约束，对所述结构化素材表示执行定向跨模态联合特征融合，得到锚点引导的融合特征序列；

49、分类单元，用于将所述锚点引导的融合特征序列输入违规风险分类器，逐类别独立识别违规风险，得到带锚点定位的初步风险识别结果；

50、评分单元，用于基于业务场景权重，对所述初步风险识别结果计算综合风险评分并划定风险等级；

51、归因单元，用于对所述综合风险评分进行跨模态归因分解，生成风险归因报告；

52、校验单元，用于基于跨模态一致性，对识别结果进行二次校验与置信度修正，输出修正后综合风险评分、修正后风险等级和更新后风险归因报告。

53、与现有技术相比，本发明的有益效果在于：

54、本发明通过提取文本语义锚点、图像语义锚点和音频语义锚点并生成结构化素材表示，使违规线索在特征融合之前即被定位到具体模态的具体内容段；以语义锚点为约束执行定向跨模态联合特征融合，仅在锚点覆盖的特征单元之间发生跨模态交互，避免无关内容稀释违规线索；将锚点引导的融合特征序列输入违规风险分类器逐类别独立识别，得到带锚点定位的初步风险识别结果，使每个风险结论天然携带支撑锚点的编号与位置信息；再经业务场景加权评分、跨模态归因分解生成风险归因报告，将综合风险评分定量分解到各目标语义锚点，明确每个锚点对评分的贡献占比及其关联的风险类别与三类模态时空位置；最后基于跨模态一致性进行二次校验与置信度修正，对仅有单一模态孤证支撑的锚点降低置信度并重算评分，输出修正后综合风险评分、修正后风险等级和更新后风险归因报告，显著提升了ai生成广告违规识别结论的可追溯性与审核公信力。