一种审核结果驱动的资源迁移内容审核系统的制作方法

摘要: 本发明涉及内容安全,尤其涉及一种审核结果驱动的资源迁移内容审核系统。背景技术:1、现有内容审核系统的典型技术方案是通过接入第三方审核服务对多模态内容进行违规识别...
一种审核结果驱动的资源迁移内容审核系统的制作方法

本发明涉及内容安全,尤其涉及一种审核结果驱动的资源迁移内容审核系统。

背景技术:

1、现有内容审核系统的典型技术方案是通过接入第三方审核服务对多模态内容进行违规识别,并根据审核结果执行自动冻结或拦截。例如,腾讯云对象存储支持对上传文件进行自动审核并将违规数据自动冻结处理,华为云视频审核方案则在obs桶收到上传视频后自动触发内容审核服务并将违规视频进行替换和转储。然而,这类操作通常是一次性的、无状态的操作调用,缺乏对迁移任务的持久化记录和可靠性保障机制。

2、现有技术的本质缺陷在于:审核结论与资源物理存储位置之间存在割裂。审核系统仅输出一个业务状态字段(如pass/block),而资源的实际存储位置是否可被公众访问、是否被移入安全区域与审核流程相互独立。当跨系统调用(如通知对象存储服务执行迁移)因网络超时、服务降级或回调丢失而失败时,会出现审核状态已更新但资源文件仍留在公开存储区域的状态不一致问题,导致内容风控措施失效。同时,资源在审核期间通常仍处于公开可访问状态,存在未审先露的安全漏洞,缺乏物理层面的访问控制能力。

3、中国专利cn122112943a虽提出了一种,但其聚焦于审核环节的智能化,未涉及审核结果与存储层的联动问题;现有播控系统虽对素材生命周期进行阶段划分并支持迁移管控,但其触发逻辑依赖于预设时间策略而非实时的审核结果驱动,不适用于ugc高频审核场景。综上,现有技术中尚缺乏一种能够实现审核结论与资源物理存储位置原子性、高可靠、自动化联动的技术方案,以从根本上解决跨系统状态下资源访问控制失效的技术问题。

技术实现思路

1、有鉴于此,本发明实施例提供了一种审核结果驱动的资源迁移内容审核系统,用以解决现有技术中审核结论与资源存储位置割裂,导致违规资源无法被物理隔离、合规资源无法及时恢复服务,从而使内容风控措施停留在逻辑判定层面而缺乏物理执行能力的技术问题。

2、本发明实施例提供一种审核结果驱动的资源迁移内容审核系统,包括:

3、资源隔离存储模块,配置为将待审核资源按照审核状态分别存储于相互物理隔离的公开存储区、审核中间存储区和证据存储区;

4、审核引擎模块,配置为接收所述待审核资源并对所述待审核资源执行内容审核,生成审核结果;

5、资源迁移控制模块,配置为根据所述审核引擎模块输出的审核结果,自动生成并持久化存储从当前存储区迁移至目标存储区的迁移任务记录,所述迁移任务记录至少包含资源标识、源存储区标识、目标存储区标识和迁移状态;

6、迁移执行模块,配置为异步执行所述迁移任务记录所对应的资源迁移操作,将所述待审核资源从所述当前存储区物理搬迁至所述目标存储区,并根据迁移执行结果更新所述迁移状态;

7、其中,所述资源隔离存储模块根据所述资源迁移控制模块的迁移执行结果更新所述待审核资源的存储位置信息,使所述待审核资源的物理存储位置与所述审核结果保持一致。

8、本发明提供的一种审核结果驱动的资源迁移内容审核系统具有以下有益效果:

9、在本发明中,通过设置相互物理隔离的公开存储区、审核中间存储区和证据存储区,并将审核结果直接转化为资源在不同存储区之间的物理搬迁指令,使审核结论具备了驱动存储层物理动作的执行能力,从根本上解决了现有技术中审核结果与资源物理存储位置割裂、违规内容无法被物理隔离、审核期间资源存在"未审先露"安全漏洞以及跨系统状态不一致导致风控措施失效的技术问题;同时,通过将迁移意图以持久化任务记录形式固化并结合事务回调和多重幂等控制,保证了审核系统与对象存储服务之间跨系统状态的最终一致性,实现了内容风控从逻辑判定到物理执行的跨越。

1.一种审核结果驱动的资源迁移内容审核系统,其特征在于,包括:

2.根据权利要求1所述的一种审核结果驱动的资源迁移内容审核系统,其特征在于,所述资源迁移控制模块按照以下迁移路径中的至少一者控制所述待审核资源的迁移:

3.根据权利要求1所述的一种审核结果驱动的资源迁移内容审核系统,其特征在于,所述资源迁移控制模块包括:

4.根据权利要求3所述的一种审核结果驱动的资源迁移内容审核系统,其特征在于,所述资源迁移控制模块还包括:

5.根据权利要求1所述的一种审核结果驱动的资源迁移内容审核系统,其特征在于,所述迁移执行模块包括:

6.根据权利要求1所述的一种审核结果驱动的资源迁移内容审核系统,其特征在于,所述迁移执行模块包括:

7.根据权利要求1所述的一种审核结果驱动的资源迁移内容审核系统,其特征在于,所述审核引擎模块包括:

8.根据权利要求7所述的一种审核结果驱动的资源迁移内容审核系统,其特征在于,所述审核引擎模块还包括:

9.根据权利要求1所述的一种审核结果驱动的资源迁移内容审核系统,其特征在于,还包括:

10.根据权利要求1所述的一种审核结果驱动的资源迁移内容审核系统,其特征在于,所述资源迁移控制模块还包括: