面向政务新媒体的内容安全处理与差异化推送方法和介质与流程

本公开的实施例涉及计算机，具体涉及面向政务新媒体的内容安全处理与差异化推送方法和介质。

背景技术：

1、面向政务新媒体的内容安全处理与差异化推送是用于政务新媒体管理平台中实现内容安全检测、分级脱敏与差异化推送协同联动的技术。

2、据统计，我国地市级以上政务新媒体账号总数已超过10万个，日均内容发布量达百万级。一个省级政务新媒体管理平台需同时对接微信公众号、微博、抖音、今日头条等多个目标平台，管理数百至上千个政务账号，日均处理待推送内容达数千条。尤其在突发公共事件应急响应、重大政策集中发布等场景下，多个账号往往需要在同一时间窗口内密集提交推送请求，导致服务器在（即发布服务器）特定时段内面临极高的并发处理压力，cpu核心负载率急剧攀升并超过安全阈值，系统进入高并发推送时段。上述平台对政务内容的合规性、时效性和安全性有极高的要求，政务新媒体矩阵账号数量庞大，若对所有账号（尤其是长期不更新、无服务功能的“不靠谱账号”）进行推送，将造成极大的计算资源（cpu）和网络带宽（网卡）浪费。因此，必须通过活跃度识别对低效账号进行约束（如降权、限流、关停整合），将算力与网络资源集中倾斜给优质、高活跃的主账号，以保障优质、高活跃的主账号发布信息的时效性。而且政务新媒体在发布涉及公众办事、政策公示等内容时，极易包含身份证号、手机号、家庭住址等敏感隐私信息，为防止隐私泄露，系统必须对拟发布内容进行自动扫描与脱敏处理，因此内容需在发布前完成敏感信息检测与脱敏处理。在内容安全处理与推送的实际运行中，缺乏对脱敏前后内容变化程度的量化评估手段，无法将内容安全改动的严重程度转化为推送调度的参考依据，导致安全改动较大的高风险内容与安全改动较小甚至无改动的低风险内容享有相同的推送优先级。服务器作为上述处理流程的核心载体，需要在满足高并发处理性能的前提下，实现内容安全检测、分级脱敏与差异化推送的协同联动。目前，政务新媒体内容安全处理与推送主要依赖以下方式：对所有账号的待推送内容执行统一的敏感信息检测与脱敏。将同一内容不加区分地推送至所有平台。然而，当采用上述方式开展政务新媒体内容安全处理与推送时，在大规模政务新媒体矩阵的实际运行场景下，经常会存在如下技术问题：

3、全账号统一执行同等强度的敏感信息检测与脱敏，未对健康度极低的账号所推送的内容进行任何形式的处理阻断或推送拦截，会导致大量cpu核心的运算资源被僵尸账号、睡眠账号的脱敏任务持续占用，健康度极低账号的脱敏进程长期抢占cpu时间片，而且未根据来源账号健康状态对脱敏强度进行分级，优质活跃账号的内容容易因过度调用硬件加密加速卡而被拖慢处理速度，且在加速卡请求队列中与健康度极低的内容平等竞争，进一步拖慢了处理速度，导致优质活跃政务账号的新媒体内容的安全处理与推送速度较慢。同时，将同一内容不加区分地推送至所有平台，容易引发网卡发送队列的系统性拥塞。

4、该背景技术部分中所公开的以上信息仅用于增强对本发明构思的背景的理解，并因此，其可包含并不形成本领域普通技术人员已知的现有技术的信息。

技术实现思路

1、本公开的内容部分用于以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。

2、本公开的一些实施例提出了面向政务新媒体的内容安全处理与差异化推送方法、装置、电子设备和计算机可读介质，来解决以上背景技术部分提到的技术问题中的一项或多项。

3、第一方面，本公开的一些实施例提供了一种面向政务新媒体的内容安全处理与差异化推送方法，该方法包括：响应于确定政务新媒体的发布服务器的cpu核心负载率超过预设阈值，在接收到政务运营终端设备发送的包含账号标识和待推送内容数据的新媒体内容推送请求后，从预先创建的账号管理数据库获取与上述账号标识对应的账号状态信息；基于上述账号状态信息，生成上述账号标识表征的目标账号的健康度评分；响应于确定上述健康度评分大于等于预设健康度阈值，基于健康度评分，生成与上述待推送内容数据的脱敏等级信息；基于上述脱敏等级信息，对上述待推送内容数据进行脱敏处理，得到脱敏待推送内容数据；基于上述待推送内容数据和上述脱敏待推送内容数据，生成信息熵差值信息；基于上述健康度评分和上述信息熵差值信息，生成推送优先级信息和推送范围信息；基于上述推送优先级信息和上述推送范围信息，将上述脱敏待推送内容数据分配至至少一个目标平台对应的至少一个发送队列中，并通过上述发布服务器的网卡硬件调度器按照上述发送队列的优先级顺序进行调度发送。

4、第二方面，本公开的一些实施例提供了一种面向政务新媒体的内容安全处理与差异化推送装置，装置包括：获取单元，被配置成响应于确定政务新媒体的发布服务器的cpu核心负载率超过预设阈值，在接收到政务运营终端设备发送的包含账号标识和待推送内容数据的新媒体内容推送请求后，从预先创建的账号管理数据库获取与上述账号标识对应的账号状态信息；第一生成单元，被配置成基于上述账号状态信息，生成上述账号标识表征的目标账号的健康度评分；第二生成单元，被配置成响应于确定上述健康度评分大于等于预设健康度阈值，基于健康度评分，生成与上述待推送内容数据的脱敏等级信息；脱敏处理单元，被配置成基于上述脱敏等级信息，对上述待推送内容数据进行脱敏处理，得到脱敏待推送内容数据；第三生成单元，被配置成基于上述待推送内容数据和上述脱敏待推送内容数据，生成信息熵差值信息；第四生成单元，被配置成基于上述健康度评分和上述信息熵差值信息，生成推送优先级信息和推送范围信息；调度发送单元，被配置成基于上述推送优先级信息和上述推送范围信息，将上述脱敏待推送内容数据分配至至少一个目标平台对应的至少一个发送队列中，并通过上述发布服务器的网卡硬件调度器按照上述发送队列的优先级顺序进行调度发送。

5、第三方面，本公开的一些实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。

6、第四方面，本公开的一些实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，程序被处理器执行时实现上述第一方面任一实现方式所描述的方法。

7、本公开的上述各个实施例具有如下有益效果：通过本公开的一些实施例的面向政务新媒体的内容安全处理与差异化推送方法，提高了优质活跃政务账号的新媒体内容安全处理与推送速度以及缓解了网卡发送队列的系统性拥塞。具体来说，造成优质活跃政务账号的新媒体内容安全处理与推送速度较慢以及容易引发网卡发送队列的系统性拥塞的原因在于：全账号统一执行同等强度的敏感信息检测与脱敏，未对健康度极低的账号所推送的内容进行任何形式的处理阻断或推送拦截，会导致大量cpu核心的运算资源被僵尸账号、睡眠账号的脱敏任务持续占用，健康度极低账号的脱敏进程长期抢占cpu时间片，而且未根据来源账号健康状态对脱敏强度进行分级，优质活跃账号的内容容易因过度调用硬件加密加速卡而被拖慢处理速度，且在加速卡请求队列中与健康度极低的内容平等竞争，进一步拖慢了处理速度，导致优质活跃政务账号的新媒体内容的安全处理与推送速度较慢。同时，将同一内容不加区分地推送至所有平台，容易引发网卡发送队列的系统性拥塞。基于此，本公开的一些实施例的面向政务新媒体的内容安全处理与差异化推送方法，首先，响应于确定政务新媒体的发布服务器的cpu核心负载率超过预设阈值，在接收到政务运营终端设备发送的包含账号标识和待推送内容数据的新媒体内容推送请求后，从预先创建的账号管理数据库获取与上述账号标识对应的账号状态信息。由此，可以匹配与待推送内容对应的用于生成目标账号的健康度的账号状态信息。然后，基于上述账号状态信息，生成上述账号标识表征的目标账号的健康度评分。由此，可以根据账号状态信息，量化健康度评分，以区分优质活跃账号、低价值僵尸/睡眠等劣质账号。之后，响应于确定上述健康度评分大于等于预设健康度阈值，基于健康度评分，生成与上述待推送内容数据的脱敏等级信息。然后，基于上述脱敏等级信息，对上述待推送内容数据进行脱敏处理，得到脱敏待推送内容数据。由此，可以匹配适配其账号状态的脱敏强度即脱敏等级信息，并根据脱敏等级信息，实现分级脱敏处理，摒弃传统统一高强度脱敏的模式，避免优质账号内容过度调用硬件加密加速卡，规避过度脱敏导致的优质内容处理速度卡顿处理较慢的问题。之后，基于上述待推送内容数据和上述脱敏待推送内容数据，生成信息熵差值信息。接着，基于上述健康度评分和上述信息熵差值信息，生成推送优先级信息和推送范围信息。由此，可以基于健康度评分和信息熵差值信息，完成推送优先级的分层定级以及限定可分发的目标平台范围，得到推送优先级信息和推送范围信息。然后，基于上述推送优先级信息和上述推送范围信息，将上述脱敏待推送内容数据分配至至少一个目标平台对应的至少一个发送队列中，并通过上述发布服务器的网卡硬件调度器按照上述发送队列的优先级顺序进行调度发送。由此，可以使得高优先级的内容被分配至高优先级发送队列并由上述网卡硬件调度器优先发送，低优先级的内容被分配至低优先级发送队列并在高优先级队列发送完成后再行发送，避免了将同一内容不加区分地推送至所有平台，实现了不同优先级内容的差异化调度和错峰发送，从根源上避免不同优先级内容在发送队列中无序竞争引发的拥塞，来缓解网卡发送队列的系统性拥塞的问题。之后，响应于确定上述健康度评分小于预设健康度阈值且大于预设阻断阈值，将上述账号标识和待推送内容数据发送至预设审核终端，并将上述目标账号对应的脱敏进程挂起，以暂停对上述待推送内容数据的脱敏处理与发送。响应于确定上述健康度评分小于上述预设健康度阈值且小于上述预设阻断阈值，将内存中存储待推送内容数据的内存页标记为可回收状态，并将上述目标账号对应的脱敏进程从当前绑定的cpu核心的运行队列中移除，以阻断对上述待推送内容数据的脱敏处理与发送。由此，可以将健康度较低的账号的内容转入人工审核通道，不再占用自动处理流程中的cpu资源。在健康度极低的情况下，可以阻断待推送内容数据的脱敏处理与发送，释放健康度极低的僵尸账号、睡眠账号占用的cpu核心运算资源和内存空间。也因为采用了根据健康度评分对账号进行分级处理（如高健康度账号采用轻量脱敏并赋予高优先级发送，中低健康度账号挂起脱敏进程转入审核，极低健康度账号直接回收内存页并移除cpu运行队列），因此可以减少僵尸账号、睡眠账号的脱敏任务对cpu核心资源的占用，避免健康度极低的账号的脱敏进程长期抢占cpu时间片。同时，也因为基于健康度评分动态生成脱敏等级，优质活跃账号的内容可以避免过度调用硬件加密加速卡，从而加快优质活跃账号的推送内容脱敏处理与推送的速度。还因为采用了基于推送优先级和推送范围将内容分配至不同平台的不同发送队列，并按优先级顺序调度发送，因此可以缓解同一内容不加区分地推送至所有平台所引发的网卡发送队列系统性拥塞的问题。