安全审核方法、计算设备及计算机存储介质与流程

本申请涉及计算机，特别是涉及安全审核方法、计算设备及计算机存储介质。

背景技术：

1、随着信息技术与互联网发展，媒体内容、用户生成内容及专业媒体内容呈爆炸式增长，同时，对网络内容安全审核成为保障网络空间清朗的关键环节。

2、现有对网络内容的单一审核技术所适用的场景较为局限，面对复杂多样的网络内容，难以从多维度进行综合审核，导致审核错误率较高，无法满足当下对网络内容高效、精准审核的需求。

技术实现思路

1、本申请的目的在于提供一种安全审核方法、计算设备和存储介质，有效提高了审核准确率，满足了当下对网络内容高效、精准审核的迫切需求。

2、为达到上述目的，本申请实施例提供了一种安全审核方法，包括：

3、将待审核信息在历史审核数据中进行匹配，并根据匹配结果确定所述待审核信息的匹配适应度；

4、将所述待审核信息输入到目标大模型中进行审核分析，确定所述待审核信息的置信度，所述置信度用于表征所述待审核信息的安全程度；

5、根据预设的审核标准库对所述待审核信息进行匹配分析，确定所述待审核信息的风险评级信息；

6、根据所述匹配适应度、所述置信度、所述风险评级信息，确定所述待审核信息的综合风险值，所述综合风险值用于评估所述待审核信息是否属于正常可发布内容。

7、在一实施方式中，方法还包括：

8、响应于满足预设触发条件，对历史审核数据中的目标历史信息进行复核，确定所述目标历史信息的综合风险值；

9、根据所述综合风险值，对所述目标历史信息的审核状态进行更新。

10、在一实施方式中，所述预设触发条件包括以下至少一项：

11、所述历史审核数据中的新增内容的数量超过预设数量阈值；

12、所述新增内容的主题与所述历史审核数据中历史信息的主题不一致；

13、根据所述历史审核数据中已发布的历史信息的信息内容和反馈信息，确定属于预设的高优先级信息的目标历史信息；

14、在所述历史审核数据中，检测到与所述新增内容之间的相似度超过第一预设相似阈值。

15、在一实施方式中，所述将所述待审核信息在历史审核数据中进行匹配，并根据匹配结果确定所述待审核信息的匹配适应度，包括：

16、在所述历史审核数据中，获取与所述待审核信息之间的相似度超过第二预设相似阈值的多条历史内容；

17、确定所述多条历史内容的通过率、拦截率和修改比率；

18、根据所述通过率、所述拦截率和所述修改比率，环境适应度；

19、将所述待审核信息与预设的个人行为画像库进行匹配，确定目标调节系数；

20、根据所述环境适应度和所述目标调节系数，确定所述待审核信息的匹配适应度。

21、在一实施方式中，所述将所述待审核信息输入到目标大模型中进行审核分析，确定所述待审核信息的置信度，包括：

22、将所述待审核信息输入到所述目标大模型中，并基于所述目标大模型对所述置信度进行违规类别判断、违规信息定位和违规依据分析；

23、根据所述违规类别判断、所述违规信息定位和违规依据分析中至少一项的分析结果，确定所述待审核信息的置信度。

24、在一实施方式中，所述根据预设的审核标准库对所述待审核信息进行匹配分析，确定所述待审核信息的风险评级信息，包括：

25、将所述待审核信息与预设的审核标准库中预设的规则条件进行比对；

26、若所述待审核信息触发至少一所述规则条件，则根据所触发的至少一所述规则条件对所述待审核信息进行风险程度分析，确定所述审核信息的风险评级信息。

27、在一实施方式中，所述根据所述匹配适应度、所述置信度、所述风险评级信息，确定所述待审核信息的综合风险值，包括：

28、根据所述匹配适应度、所述置信度、所述风险评级信息，以及预设的至少一权重值，确定所述待审核信息的综合风险值；

29、根据所述综合风险值和预设的审核标准，判断所述待审核信息是否为正常可发布内容。

30、在一实施方式中，方法还包括：

31、若确定所述待审核信息/目标历史信息中存在违规内容，不能正常发布，则根据所述待审核信息/目标历史信息中的违规内容和所述综合风险值，确定当前的违规程度；

32、根据所述违规程度，确定需对所述待审核信息/目标历史信息执行的处置行为。

33、本申请实施例还提供了一种计算设备，具体包括：处理器和用于存储可执行指令的存储器；所述处理器配置执行所述指令，用于执行如上任一所述的安全审核方法。

34、本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，当所述计算机可读存储介质中的指令由计算设备的处理器执行时，使得所述计算设备能够实现如上任一所述的安全审核方法。

35、本申请提供的一种安全审核方法、计算设备和计算机可读存储介质，方法包括：将待审核信息在历史审核数据中进行匹配，并根据匹配结果确定所述待审核信息的匹配适应度；将所述待审核信息输入到目标大模型中进行审核分析，确定所述待审核信息的置信度，所述置信度用于表征所述待审核信息的安全程度；根据预设的审核标准库对所述待审核信息进行匹配分析，确定所述待审核信息的风险评级信息；根据所述匹配适应度、所述置信度、所述风险评级信息，确定所述待审核信息的综合风险值，所述综合风险值用于评估所述待审核信息是否属于正常可发布内容。本申请技术方案，通过对获取的匹配适应度、置信度、风险评级信息的多维信息融合，确定综合风险值，以判断待审核信息是否可以正常发布，有效提高了审核准确率，满足了当下对网络内容高效、精准审核的迫切需求。

1.一种安全审核方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，方法还包括：

3.根据权利要求2所述的方法，其特征在于，所述预设触发条件包括以下至少一项：

4.根据权利要求1所述的方法，其特征在于，所述将所述待审核信息在历史审核数据中进行匹配，并根据匹配结果确定所述待审核信息的匹配适应度，包括：

5.根据权利要求1所述的方法，其特征在于，所述将所述待审核信息输入到目标大模型中进行审核分析，确定所述待审核信息的置信度，包括：

6.根据权利要求1所述的方法，其特征在于，所述根据预设的审核标准库对所述待审核信息进行匹配分析，确定所述待审核信息的风险评级信息，包括：

7.根据权利要求1所述的方法，其特征在于，所述根据所述匹配适应度、所述置信度、所述风险评级信息，确定所述待审核信息的综合风险值，包括：

8.根据权利要求1至7任一项所述的方法，其特征在于，方法还包括：

9.一种计算设备，其特征在于，包括：处理器和用于存储可执行指令的存储器；其中，所述处理器配置执行所述指令，以实现如权利要求1-8中任一项所述的安全审核方法。

10.一种计算机可读存储介质，其特征在于，当所述计算机可读存储介质中的指令由处理器执行时，实现如权利要求1-8中任一项所述的安全审核方法。