一种直播场景下目标主体敏感人物识别和处理系统及方法与流程

1.本技术涉及数据处理技术领域，特别是涉及一种直播场景下目标主体敏感人物识别和处理系统、方法、计算机设备和存储介质。


背景技术：

2.随着智能终端设备使用的大众化以及移动端技术的高速发展，视频直播业务迅速崛起。在发展的过程中，有意或无意出现的敏感(如色情)直播事件，严重阻碍了视频直播的发展环境，并给社会带来了恶劣影响。目前，对直播平台的监管主要处于半人力监管状态，依赖平台预警和人工审核。然而，依赖人工规则预警和人工审验处理的工作模式无法适应庞大数量的直播内容，且异常识别和处理技术的剥离将严重影响监管效率。因此，如何降低直播审核监管中的人力成本至关重要。
3.然而，目前，传统敏感内容识别技术主要对视频帧(图像)进行整体判别，提取全局特征用以异常检测。一方面，全局特征可能忽略局部目标主体的精细表征，进而致使检测精度不高。另一方面，异常处理完全依赖人工审验的模式过于单一，既消耗大量人力，又无法满足直播内容高速增长的个性化需求。因此，针对不同目标人物主体，定制不同的异常检测和处理的一体化监管方案更符合现实直播场景需求。另一方面，考虑到直播场景下目标主体敏感人物识别和处理技术在实际场景中的应用，如果事无巨细地处理所有场景，必然会产生大量的计算资源浪费。


技术实现要素：

4.基于此，有必要针对上述技术问题，提供一种能够合理分配计算资源，降低异常检测成本的一种直播场景下目标主体敏感人物识别和处理系统、方法、计算机设备和存储介质。
5.一种直播场景下目标主体敏感人物识别和处理系统，所述系统包括任务分配模块和检测模块；检测模块由若干云计算节点组成；云计算节点包括即时队列和本地队列；任务分配模块包括全局队列；
6.任务分配模块用于根据直播场景设置待检测目标视频流的敏感阈值，根据敏感值的高低对所有待检测目标视频流进行排序，再将检测模块各个云计算节点的负载情况进行排序，根据排序结果将高敏感值的待检测目标视频流交付给负载较低的云计算节点进行检测；
7.检测模块用于对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理。
8.在其中一个实施例中，任务分配模块还用于获取各个云计算节点本地队列的长度，将待检测目标视频流投递给队列最短的计算节点；如果所有云计算节点的本地队列长度都大于预设值，则将待检测目标视频流放在全局队列中；所有云计算节点优先处理即时队列中的待检测目标视频流，当即时队列没有待检测目标视频流时前往本地队列获取待检
测目标视频流；
9.检测模块还用于检测到超过待检测目标视频流的敏感阈值，对待检测目标视频流进行标记，云计算节点第二次获取到具有标记的待检测目标视频流时直接将具有标记的待检测目标视频流写进入即时队列优先检测并将之前在即时队列的待检测目标视频流踢回本地队列，如果本地队列已满，则会将本地队列分成两份，将后半部分写回全局队列；当云计算节点的本地队列为空时，该节点会优先去其他节点偷取待检测目标视频流，当偷取待检测目标视频流失败时，云计算节点前往去全局队列获取待检测目标视频流，一次获取本地队列预设值的一半。
10.在其中一个实施例中，检测模块包括目标检测模型和异常检测模型；检测模块用于对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理，包括:
11.利用目标检测模型对待检测目标视频流进行目标检测，得到目标主体的多个输出特征图；
12.根据异常检测模型对多个输出特征图进行异常检测，得到人物目标主体的敏感值；
13.若敏感值低于预先设置的敏感阈值，将主要采取提醒和模糊处理，对待检测目标视频流对应的直播场景进行黄色标记，并写入日志，便于管理人员分析查看；采用马赛克技术对相应主体的位置区域进行模糊处理；
14.若敏感值高于预先设置的敏感阈值，对于首次出现的情况，将主要采取提醒和模糊处理，对待检测目标视频流对应的直播场景进行红色标记；对于连续两次判定超过敏感阈值的直播间，将直播间进行封禁，并实时将结果反馈给管理员处理。
15.在其中一个实施例中，构建目标检测模型的过程包括：
16.获取不同直播视频并预处理成不同的视频帧图像，对收集视频帧图像标注目标位置标签构建目标检测样本集并按照预先设置的比例将目标检测样本集划分为目标检测训练集、目标检测测试集和目标检测验证集；
17.根据mosaic算法对目标检测训练集、目标检测测试集和目标检测验证集进行数据增强，得到增强后的目标检测训练集、目标检测测试集和目标检测验证集；
18.利用增强后的目标检测训练集和目标检测验证集对预先构建的基于改进yolov5的人物目标检测深度学习模型进行训练，得到训练好的人物目标检测深度学习模型；
19.根据增强后的目标检测测试集对训练好的人物目标检测深度学习模型进行正确识别率检测，若训练好的人物目标检测深度学习模型的正确识别低于实际场景的识别率门限要求，则继续进行模型优化训练，并进行模型整体参数调优直至达到要求识别率，得到目标检测模型。
20.在其中一个实施例中，构建基于改进yolov5的人物目标检测深度学习模型的过程包括：
21.获取yolov5目标检测模型；
22.对yolov5目标检测模型的3个输入通道进行压缩，得到单通道；
23.将单通道输入至yolov5目标检测模型的骨干网络cspdarknet，提取目标人物在浅层的细节特征，得到特征图；
24.将单通道输入至yolov5目标检测模型的panet特征融合网络的上采样模块，得到上采样特征图；
25.根据特征图和上采样特征图进行最终损失计算，利用得到的最终损失更新yolov5目标检测模型的梯度，得到基于改进yolov5的人物目标检测深度学习模型。
26.在其中一个实施例中，构建异常检测模型的过程包括：
27.获取不同直播视频并预处理成不同的视频帧图像，对收集视频帧图像标注目标位置标签和敏感异常标签构建异常检测样本集；并按照预先设置的比例将异常检测样本集划分为异常检测训练集、异常检测测试集和异常检测验证集；
28.对异常检测训练集、异常检测测试集和异常检测验证集进行几何变换操作和颜色变换操作，得到增强后的异常检测训练集、异常检测测试集和异常检测验证集；
29.利用增强后的异常检测训练集和异常检测验证集对预先构建的基于resnet和focalloss的敏感内容异常检测模型进行训练，得到训练好的敏感内容异常检测模型；
30.根据增强后的异常检测测试集对训练好的敏感内容异常检测模型进行正确识别率检测，若训练好的人物目标检测深度学习模型的正确识别低于实际场景的识别率门限要求，则继续进行模型优化训练，并进行模型整体参数调优直至达到要求识别率，得到异常检测模型。
31.在其中一个实施例中，构建基于resnet和focalloss的敏感内容异常检测模型包括：
32.将目标人物图像输入至resnet骨干网络模型提取目标人物在浅层的细节特征，得到目标人物的特征图；
33.将特征图输入至输出层，并使用focalloss损失函数进行损失计算，根据损失对resnet骨干网络模型进行更新，得到基于resnet和focalloss的敏感内容异常检测模型。
34.一种直播场景下目标主体敏感人物识别和处理方法，所述方法包括：
35.根据直播场景设置待检测目标视频流的敏感阈值，根据敏感值的高低对所有待检测目标视频流进行排序，再将各个云计算节点的负载情况进行排序，根据排序结果将高敏感值的待检测目标视频流交付给负载较低的云计算节点进行检测；
36.在云计算节点中对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理。
37.一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现以下步骤：
38.根据直播场景设置待检测目标视频流的敏感阈值，根据敏感值的高低对所有待检测目标视频流进行排序，再将各个云计算节点的负载情况进行排序，根据排序结果将高敏感值的待检测目标视频流交付给负载较低的云计算节点进行检测；
39.在云计算节点中对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理。
40.一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现以下步骤：
41.根据直播场景设置待检测目标视频流的敏感阈值，根据敏感值的高低对所有待检测目标视频流进行排序，再将各个云计算节点的负载情况进行排序，根据排序结果将高敏
感值的待检测目标视频流交付给负载较低的云计算节点进行检测；
42.在云计算节点中对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理。
43.上述一种直播场景下目标主体敏感人物识别和处理系统、方法、计算机设备和存储介质，首先设置任务分配模块根据直播场景设置待检测目标视频流的敏感阈值，根据敏感值的高低对所有待检测目标视频流进行排序，再将检测模块各个云计算节点的负载情况进行排序，根据排序结果将高敏感值的待检测目标视频流交付给负载较低的云计算节点进行检测；在云计算节点中设置即时队列和本地队列，在任务分配模块中设置全局队列，检测模块用于对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理，本技术根据实际场景设置待检测目标视频流的敏感阈值，因地制宜地采用多级队列进行待检测目标视频流的分配和处理，高效分配整个系统的云计算资源，能让高敏感值的任务优先检测，又能让整个云计算系统负载均衡，有效提升检测效率，降低计算成本，在进行目标异常检测时，先检测目标主体，再针对不同目标主体进行敏感内容检测和敏感区域处理，可有效提取更为精细的人物语义特征，有效提升异常检测精度，实现了直播敏感内容检测、优秀的云计算资源调度分配，提高了直播平台的监管效率、有效降低运营人力成本、从而极大的满足了直播内容高速增长的实际需求。
附图说明
44.图1为一个实施例中一种直播场景下目标主体敏感人物识别和处理系统的结构示意图；
45.图2为一个实施例中单个云节点处理任务的多级队列结构示意图；
46.图3为另一个实施例中一种直播场景下目标主体敏感人物识别和处理方法的流程示意图；
47.图4为一个实施例中计算机设备的内部结构图。
具体实施方式
48.为了使本技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本技术进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本技术，并不用于限定本技术。
49.在一个实施例中，如图1所示，提供了一种直播场景下目标主体敏感人物识别和处理系统，系统包括任务分配模块和检测模块；检测模块由若干云计算节点组成；云计算节点包括即时队列和本地队列；任务分配模块包括全局队列；
50.任务分配模块用于根据直播场景设置待检测目标视频流的敏感阈值，根据敏感值的高低对所有待检测目标视频流进行排序，再将检测模块各个云计算节点的负载情况进行排序，根据排序结果将高敏感值的待检测目标视频流交付给负载较低的云计算节点进行检测；
51.检测模块用于对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理。
52.上述一种直播场景下目标主体敏感人物识别和处理系统中，首先设置任务分配模
块根据直播场景设置待检测目标视频流的敏感阈值，根据敏感值的高低对所有待检测目标视频流进行排序，再将检测模块各个云计算节点的负载情况进行排序，根据排序结果将高敏感值的待检测目标视频流交付给负载较低的云计算节点进行检测；各个云计算节点在处理待检测目标视频流时是并行处理，可以提高处理效率；在云计算节点中设置即时队列和本地队列，在任务分配模块中设置全局队列，检测模块用于对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理，本技术根据实际场景设置待检测目标视频流的敏感阈值，因地制宜地采用多级队列进行待检测目标视频流的分配和处理，高效分配整个系统的云计算资源，能让高敏感值的任务优先检测，又能让整个云计算系统负载均衡，有效提升检测效率，降低计算成本，在进行目标异常检测时，先检测目标主体，再针对不同目标主体进行敏感内容检测和敏感区域处理，可有效提取更为精细的人物语义特征，有效提升异常检测精度，实现了直播敏感内容检测、优秀的云计算资源调度分配，提高了直播平台的监管效率、有效降低运营人力成本、从而极大的满足了直播内容高速增长的实际需求。
53.在其中一个实施例中，任务分配模块还用于获取各个云计算节点本地队列的长度，将待检测目标视频流投递给队列最短的计算节点；如果所有云计算节点的本地队列长度都大于预设值，则将待检测目标视频流放在全局队列中；所有云计算节点优先处理即时队列中的待检测目标视频流，当即时队列没有待检测目标视频流时前往本地队列获取待检测目标视频流；
54.检测模块还用于检测到超过待检测目标视频流的敏感阈值，对待检测目标视频流进行标记，云计算节点第二次获取到具有标记的待检测目标视频流时直接将具有标记的待检测目标视频流写进入即时队列优先检测并将之前在即时队列的待检测目标视频流踢回本地队列，如果本地队列已满，则会将本地队列分成两份，将后半部分写回全局队列；当云计算节点的本地队列为空时，该节点会优先去其他节点偷取待检测目标视频流，当偷取待检测目标视频流失败时，云计算节点前往去全局队列获取待检测目标视频流，一次获取本地队列预设值的一半。
55.在具体实施例中，如图2所示，即时队列指向下一个检测目标，本地队列是任务分配模块交付过来的检测任务，全局队列是当某个本地队列任务排满时，再将产生的任务放在全局队列里面。其中即时队列和本地队列都在云计算节点内部，有n个云计算节点即有n个即时队列和本地队列。而全局队列则在任务分配模块里面，整个系统全局只有一条全局队列。
[0056]“偷取”功能的设计能有效降低云计算节点去全局队列获取任务的频率。对于所有节点，只有一个全局队列，每次某个云计算节点从全局队列获取任务都会造成其他来获取任务的计算节点的“锁等待”，会耗费大量计算机资源。
[0057]
在其中一个实施例中，检测模块包括目标检测模型和异常检测模型；检测模块用于对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理，包括:
[0058]
利用目标检测模型对待检测目标视频流进行目标检测，得到目标主体的多个输出特征图；
[0059]
根据异常检测模型对多个输出特征图进行异常检测，得到人物目标主体的敏感
值；
[0060]
若敏感值低于预先设置的敏感阈值，将主要采取提醒和模糊处理，对待检测目标视频流对应的直播场景进行黄色标记，并写入日志，便于管理人员分析查看；采用马赛克技术对相应主体的位置区域进行模糊处理；
[0061]
若敏感值高于预先设置的敏感阈值，对于首次出现的情况，将主要采取提醒和模糊处理，对待检测目标视频流对应的直播场景进行红色标记；对于连续两次判定超过敏感阈值的直播间，将直播间进行封禁，并实时将结果反馈给管理员处理。
[0062]
在具体实施例中，根据视频流采样时间大概1s左右进行视频图像采集，用于在线直播敏感内容的检测；针对某一个特定视频直播，连续采样三张视频帧的人物主体图像，分别输入至异常检测模型，输入其预测的敏感置信度，以三个或三个以下相同主体的平均值作为该直播该时间间隔内人物目标主体的敏感值；
[0063]
采用马赛克技术对相应主体的位置区域进行模糊处理，，具体为：将需要打码的人物目标区域划分划分为多个小块然后再分别对每个小块进行取平均值处理，实现敏感区域的模糊化处理。
[0064]
在其中一个实施例中，构建目标检测模型的过程包括：
[0065]
获取不同直播视频并预处理成不同的视频帧图像，对收集视频帧图像标注目标位置标签构建目标检测样本集并按照预先设置的比例将目标检测样本集划分为目标检测训练集、目标检测测试集和目标检测验证集；
[0066]
根据mosaic算法对目标检测训练集、目标检测测试集和目标检测验证集进行数据增强，得到增强后的目标检测训练集、目标检测测试集和目标检测验证集；
[0067]
利用增强后的目标检测训练集和目标检测验证集对预先构建的基于改进yolov5的人物目标检测深度学习模型进行训练，得到训练好的人物目标检测深度学习模型；
[0068]
根据增强后的目标检测测试集对训练好的人物目标检测深度学习模型进行正确识别率检测，若训练好的人物目标检测深度学习模型的正确识别低于实际场景的识别率门限要求，则继续进行模型优化训练，并进行模型整体参数调优直至达到要求识别率，得到目标检测模型。
[0069]
在具体实施例中，获取人物目标检测训练集：收集不同直播视频并预处理成不同的视频帧图像，以labelme工具对各个图像目标进行标注，标出目标人物的位置区域以及异常类别标签。依赖位置标签，可以构建目标检测模型所需的训练集，并将训练集、测试集、验证集按照6：2：2的比例进行随机划分；对建立的目标检测训练集、验证集和测试集进行预处理，采用mosaic算法实现人物目标检测图像的数据增强，以增加模型泛化性；
[0070]
先设置好基于改进yolov5的人物目标检测深度学习模型所需要的参数，其中包括学习率、批次大小、优化器类型、迭代次数、激活函数等一系列模型超参数，再根据网络设定的输入图片尺寸大小实现目标人物图像目标检测训练集和目标检测验证集图像的缩放进行模型训练。
[0071]
在其中一个实施例中，构建基于改进yolov5的人物目标检测深度学习模型的过程包括：
[0072]
获取yolov5目标检测模型；
[0073]
对yolov5目标检测模型的3个输入通道进行压缩，得到单通道；
[0074]
将单通道输入至yolov5目标检测模型的骨干网络cspdarknet，提取目标人物在浅层的细节特征，得到特征图；
[0075]
将单通道输入至yolov5目标检测模型的panet特征融合网络的上采样模块，得到上采样特征图；
[0076]
根据特征图和上采样特征图进行最终损失计算，利用得到的最终损失更新yolov5目标检测模型的梯度，得到基于改进yolov5的人物目标检测深度学习模型。
[0077]
在其中一个实施例中，构建异常检测模型的过程包括：
[0078]
获取不同直播视频并预处理成不同的视频帧图像，对收集视频帧图像标注目标位置标签和敏感异常标签构建异常检测样本集；并按照预先设置的比例将异常检测样本集划分为异常检测训练集、异常检测测试集和异常检测验证集；
[0079]
对异常检测训练集、异常检测测试集和异常检测验证集进行几何变换操作和颜色变换操作，得到增强后的异常检测训练集、异常检测测试集和异常检测验证集；
[0080]
利用增强后的异常检测训练集和异常检测验证集对预先构建的基于resnet和focalloss的敏感内容异常检测模型进行训练，得到训练好的敏感内容异常检测模型；
[0081]
根据增强后的异常检测测试集对训练好的敏感内容异常检测模型进行正确识别率检测，若训练好的人物目标检测深度学习模型的正确识别低于实际场景的识别率门限要求，则继续进行模型优化训练，并进行模型整体参数调优直至达到要求识别率，得到异常检测模型。
[0082]
在具体实施例中，获取异常检测训练集：利用标注好的目标人物的位置标签和异常类别标签得到不同主体目标图像的训练数据，构建敏感内容异常检测所需训练集，并将训练集、测试集、验证集按照6：2：2的比例进行划分。由于绝大多数视频直播内容为正常图像(正样本)，敏感图像负样本较少，并且人工收集周期长，成本较高，不能完全满足模型训练需要。因此，需要对建立的异常检测训练集、验证集和测试集中的负样本进行预处理，采用以下数据增强方式：
[0083]
几何变换：主要是对图像进行几何变换操作，包括图像翻转、旋转、裁剪、变形、缩放等；
[0084]
颜色变换：通过模糊、颜色变换、擦除、填充等方式对图像进行处理。
[0085]
先设置好基于resnet和focalloss的敏感内容异常检测模型所需要的参数，其中包括学习率、批次大小、优化器类型、迭代次数、激活函数等一系列模型超参数，再根据网络设定的输入图片尺寸大小实现目标人物图像异常检测训练集和异常检测验证集图像的缩放进行模型训练。
[0086]
在其中一个实施例中，构建基于resnet和focalloss的敏感内容异常检测模型包括：
[0087]
将目标人物图像输入至resnet骨干网络模型提取目标人物在浅层的细节特征，得到目标人物的特征图；
[0088]
将特征图输入至输出层，并使用focalloss损失函数进行损失计算，根据损失对resnet骨干网络模型进行更新，得到基于resnet和focalloss的敏感内容异常检测模型。
[0089]
在一个实施例中，如图3所示，提供了一种直播场景下目标主体敏感人物识别和处理方法，包括：
[0090]
步骤302，根据直播场景设置待检测目标视频流的敏感阈值，根据敏感值的高低对所有待检测目标视频流进行排序，再将各个云计算节点的负载情况进行排序，根据排序结果将高敏感值的待检测目标视频流交付给负载较低的云计算节点进行检测；
[0091]
步骤304，在云计算节点中对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理。
[0092]
在其中一个实施例中，获取各个云计算节点本地队列的长度，将待检测目标视频流投递给队列最短的计算节点；如果所有云计算节点的本地队列长度都大于预设值，则将待检测目标视频流放在全局队列中；所有云计算节点优先处理即时队列中的待检测目标视频流，当即时队列没有待检测目标视频流时前往本地队列获取待检测目标视频流；
[0093]
当检测到超过待检测目标视频流的敏感阈值，对待检测目标视频流进行标记，云计算节点第二次获取到具有标记的待检测目标视频流时直接将具有标记的待检测目标视频流写进入即时队列优先检测并将之前在即时队列的待检测目标视频流踢回本地队列，如果本地队列已满，则会将本地队列分成两份，将后半部分写回全局队列；当云计算节点的本地队列为空时，该节点会优先去其他节点偷取待检测目标视频流，当偷取待检测目标视频流失败时，云计算节点前往去全局队列获取待检测目标视频流，一次获取本地队列预设值的一半。
[0094]
在其中一个实施例中，对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理，包括:
[0095]
利用目标检测模型对待检测目标视频流进行目标检测，得到目标主体的多个输出特征图；
[0096]
根据异常检测模型对多个输出特征图进行异常检测，得到人物目标主体的敏感值；
[0097]
若敏感值低于预先设置的敏感阈值，将主要采取提醒和模糊处理，对待检测目标视频流对应的直播场景进行黄色标记，并写入日志，便于管理人员分析查看；采用马赛克技术对相应主体的位置区域进行模糊处理；
[0098]
若敏感值高于预先设置的敏感阈值，对于首次出现的情况，将主要采取提醒和模糊处理，对待检测目标视频流对应的直播场景进行红色标记；对于连续两次判定超过敏感阈值的直播间，将直播间进行封禁，并实时将结果反馈给管理员处理。
[0099]
在其中一个实施例中，构建目标检测模型的过程包括：
[0100]
获取不同直播视频并预处理成不同的视频帧图像，对收集视频帧图像标注目标位置标签构建目标检测样本集并按照预先设置的比例将目标检测样本集划分为目标检测训练集、目标检测测试集和目标检测验证集；
[0101]
根据mosaic算法对目标检测训练集、目标检测测试集和目标检测验证集进行数据增强，得到增强后的目标检测训练集、目标检测测试集和目标检测验证集；
[0102]
利用增强后的目标检测训练集和目标检测验证集对预先构建的基于改进yolov5的人物目标检测深度学习模型进行训练，得到训练好的人物目标检测深度学习模型；
[0103]
根据增强后的目标检测测试集对训练好的人物目标检测深度学习模型进行正确识别率检测，若训练好的人物目标检测深度学习模型的正确识别低于实际场景的识别率门限要求，则继续进行模型优化训练，并进行模型整体参数调优直至达到要求识别率，得到目
标检测模型。
[0104]
在其中一个实施例中，构建基于改进yolov5的人物目标检测深度学习模型的过程包括：
[0105]
获取yolov5目标检测模型；
[0106]
对yolov5目标检测模型的3个输入通道进行压缩，得到单通道；
[0107]
将单通道输入至yolov5目标检测模型的骨干网络cspdarknet，提取目标人物在浅层的细节特征，得到特征图；
[0108]
将单通道输入至yolov5目标检测模型的panet特征融合网络的上采样模块，得到上采样特征图；
[0109]
根据特征图和上采样特征图进行最终损失计算，利用得到的最终损失更新yolov5目标检测模型的梯度，得到基于改进yolov5的人物目标检测深度学习模型。
[0110]
在其中一个实施例中，构建异常检测模型的过程包括：
[0111]
获取不同直播视频并预处理成不同的视频帧图像，对收集视频帧图像标注目标位置标签和敏感异常标签构建异常检测样本集；并按照预先设置的比例将异常检测样本集划分为异常检测训练集、异常检测测试集和异常检测验证集；
[0112]
对异常检测训练集、异常检测测试集和异常检测验证集进行几何变换操作和颜色变换操作，得到增强后的异常检测训练集、异常检测测试集和异常检测验证集；
[0113]
利用增强后的异常检测训练集和异常检测验证集对预先构建的基于resnet和focalloss的敏感内容异常检测模型进行训练，得到训练好的敏感内容异常检测模型；
[0114]
根据增强后的异常检测测试集对训练好的敏感内容异常检测模型进行正确识别率检测，若训练好的人物目标检测深度学习模型的正确识别低于实际场景的识别率门限要求，则继续进行模型优化训练，并进行模型整体参数调优直至达到要求识别率，得到异常检测模型。
[0115]
在其中一个实施例中，构建基于resnet和focalloss的敏感内容异常检测模型包括：
[0116]
将目标人物图像输入至resnet骨干网络模型提取目标人物在浅层的细节特征，得到目标人物的特征图；
[0117]
将特征图输入至输出层，并使用focalloss损失函数进行损失计算，根据损失对resnet骨干网络模型进行更新，得到基于resnet和focalloss的敏感内容异常检测模型。
[0118]
上述一种直播场景下目标主体敏感人物识别和处理方法中，首先根据直播场景设置待检测目标视频流的敏感阈值，根据敏感值的高低对所有待检测目标视频流进行排序，再将各个云计算节点的负载情况进行排序，根据排序结果将高敏感值的待检测目标视频流交付给负载较低的云计算节点进行检测；各个云计算节点在处理待检测目标视频流时是并行处理，可以提高处理效率；在云计算节点中设置即时队列和本地队列，在任务分配模块中设置全局队列，对待检测目标视频流进行人体检测，并针对不同目标主体进行敏感内容检测和敏感区域处理，本技术根据实际场景设置待检测目标视频流的敏感阈值，因地制宜地采用多级队列进行待检测目标视频流的分配和处理，高效分配整个系统的云计算资源，能让高敏感值的任务优先检测，又能让整个云计算系统负载均衡，有效提升检测效率，降低计算成本，在进行目标异常检测时，先检测目标主体，再针对不同目标主体进行敏感内容检测
和敏感区域处理，可有效提取更为精细的人物语义特征，有效提升异常检测精度，实现了直播敏感内容检测、优秀的云计算资源调度分配，提高了直播平台的监管效率、有效降低运营人力成本、从而极大的满足了直播内容高速增长的实际需求。
[0119]
应该理解的是，虽然图3的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，图3中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
[0120]
关于一种直播场景下目标主体敏感人物识别和处理方法的具体限定可以参见上文中对于一种直播场景下目标主体敏感人物识别和处理系统的限定，在此不再赘述。上述一种直播场景下目标主体敏感人物识别和处理系统中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。
[0121]
在一个实施例中，提供了一种计算机设备，该计算机设备可以是终端，其内部结构图可以如图4所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口、显示屏和输入装置。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种直播场景下目标主体敏感人物识别和处理系统。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏，该计算机设备的输入装置可以是显示屏上覆盖的触摸层，也可以是计算机设备外壳上设置的按键、轨迹球或触控板，还可以是外接的键盘、触控板或鼠标等。
[0122]
本领域技术人员可以理解，图4中示出的结构，仅仅是与本技术方案相关的部分结构的框图，并不构成对本技术方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
[0123]
在一个实施例中，提供了一种计算机设备，包括存储器和处理器，该存储器存储有计算机程序，该处理器执行计算机程序时实现上述实施例中方法的步骤。
[0124]
在一个实施例中，提供了一种计算机存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述实施例中方法的步骤。
[0125]
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本技术所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦除可编程rom(eeprom)或闪存。易失性存储器可包括随机存取存储器(ram)或者外部高速缓冲存储器。作为说明而非局限，ram以多种形式可得，
诸如静态ram(sram)、动态ram(dram)、同步dram(sdram)、双数据率sdram(ddrsdram)、增强型sdram(esdram)、同步链路(synchlink)dram(sldram)、存储器总线(rambus)直接ram(rdram)、直接存储器总线动态ram(drdram)、以及存储器总线动态ram(rdram)等。
[0126]
以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
[0127]
以上所述实施例仅表达了本技术的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本技术构思的前提下，还可以做出若干变形和改进，这些都属于本技术的保护范围。因此，本技术专利的保护范围应以所附权利要求为准。