内容审核流程异步化交互方法、装置及存储介质与流程

1.本技术涉及互联网技术领域，具体涉及为一种内容审核流程异步化交互方法、装置及存储介质。


背景技术：

2.网站内容审核是指按照国家有关规定、公司企业相关制度的要求，对网站所发布的内容进行检查和处理，检查的内容主要包含文字、图像和视频等。
3.对于信息量较大的家装平台，平台网站的质量控制由信息审核部门把握，信息审核成为其中的核心工作。审核过程中需要大量的信息审核人员进行整个网站质量的监控工作，并通过信息审核工作对家装平台网站的信息取向起到引导性作用。面对家装平台大量的内容信息，需要审核辅助工具来辅助审核人员进行内容审核，以减少相关的人力成本。一般的审核辅助工具包括自建智能审核系统和第三方审核服务系统等。
4.由于家装平台的内容量大，形态多种多样，且数据存储分布不一致，对接审核辅助工具的步骤较为繁琐，从而导致新内容想要接入审核辅助工具时的成本较大。且一般的第三方审核服务有调用频率的限制，若各个内容独自调用第三方审核服务系统将会导致审核功能无法使用，使得审核效率较低。


技术实现要素：

5.鉴于上述状况，本技术提供一种审核效率高且适用于大内容量的内容审核流程异步化交互方法、装置及存储介质，以解决上述问题。
6.本技术提供了一种内容审核流程异步化交互方法，包括：
7.获取并保存待审核数据，所述待审核数据中含有用于标识数据的数据类型的标识字段；
8.识别所述待审核数据中标识字段的数据类型；
9.根据所述数据类型分批次获取所述待审核数据；
10.请求审核辅助处理工具对所述待审核数据进行内容审核，得到审核结果；
11.根据所述数据类型的不同，分别接收所述审核结果。
12.可选的，所述请求审核辅助处理工具对所述待审核数据进行内容审核，得到审核结果包括：
13.对待审核数据进行分类处理，得到分类处理后的数据；
14.基于所述分类处理后的数据与所述审核辅助处理工具中的数据进行内容审核，以确定所述待审核数据的所述审核结果；
15.若内容审核后的所述审核结果未发现异常，则同一批次下的所述待审核数据均审核通过，并将所述审核结果发送到对应的内容系统；
16.若内容审核后的所述审核结果发现异常，则同一批次下的所述待审核数据审核失败，并将审核失败的所述审核结果发送到对应的内容系统。
17.可选的，所述若内容审核后的所述审核结果发现异常，则同一批次下的所述待审核数据审核失败，并将审核失败的所述审核结果发送到对应的内容系统还包括：
18.将所述审核结果为失败的所述待审核数据再次进行分类处理；
19.经过内容审核后确定同一批次下审核通过的所述待审核数据和审核失败的所述待审核数据；
20.确定审核失败的所述待审核数据后，将审核通过的所述审核结果和审核失败的所述审核结果分别发送至对应的内容系统。
21.可选的，所述审核辅助处理工具包括：自建智能审核系统、第三方审核服务系统及人工辅助审核系统。
22.可选的，所述请求审核辅助处理工具对所述待审核数据进行内容审核，得到审核结果还包括：
23.请求所述自建智能审核系统和/或所述第三方审核服务系统对所述待审核数据进行审核，得到所述审核结果；
24.将审核结果反馈至所述人工辅助审核系统进行审核，以确定所述待审核数据是否存在异常；
25.将审核通过的所述审核结果和审核失败的所述审核结果分别发送至对应的内容系统。
26.可选的，在请求所述自建智能审核系统和/或所述第三方审核服务系统对所述待审核数据进行审核之后，得到所述审核结果之前，所述方法还包括：
27.若所述自建智能审核系统和/或所述第三方审核服务系统出现调用频率限制情况，则请求所述人工辅助审核系统进行审核。
28.可选的，所述待审核数据包括文字数据、图片数据、视频数据及家装平台的结构数据。
29.另一方面，本技术还公开了一种内容审核流程异步化交互装置，包括：
30.内容获取模块：被配置为获取并保存待审核数据，所述待审核数据中含有用于标识数据的数据类型的标识字段；
31.审核流程控制模块：被配置为识别所述待审核数据中标识字段的数据类型，根据所述数据类型分批次获取所述待审核数据；
32.审核辅助处理模块：被配置为请求审核辅助处理工具对所述待审核数据进行内容审核，得到审核结果。
33.结果输出模块：被配置为根据所述数据类型的不同，分别接收所述审核结果。
34.本技术的实施例根据第三个方面，还提供了一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述计算机可读指令被所述处理器执行时，使得所述处理器执上述所述的内容审核流程异步化交互方法的步骤。
35.本技术的实施例根据第四个方面，还提供了一种存储有计算机可读指令的存储介质，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行上述所述的内容审核流程异步化交互方法的步骤。
36.本技术提供的内容审核流程异步化交互方法、装置及存储介质，通过识别待审核数据中标识字段的数据类型，根据数据类型分批次获取待审核数据，提高了待审核数据的
识别和获取效率，请求审核辅助处理工具对待审核数据进行内容审核，得到审核结果，根据所述数据类型的不同，分别接收审核结果，通过分批次地将同类型的待审核数据一次性打包给审核辅助处理工具进行一次调用，从而能够较少的被第三方审核服务系统的调用频率限制，并且一次调用审核携带的待审核数据较多，所以能够在较少的调用情况下给第三方审核服务系统提供较多的待审核数据，保证内容审核不易受频率限制，降低了审核成本，提高了审核效率。
附图说明
37.图1是本技术的一个实施例中的内容审核流程异步化交互方法流程示意图；
38.图2是本技术的一个实施例中的内容审核分类处理方法流程示意图；
39.图3是本技术的一个实施例中的内容审核分类处理方法流程示意图；
40.图4是本技术的一个实施例中的审核辅助处理工具的处理流程示意图；
41.图5是本技术的一个实施例中的审核辅助处理工具的处理流程示意图；
42.图6是本技术的一个实施例中的内容审核流程异步化交互装置各模块框图；
43.图7是本技术的一个实施例中的内容审核流程异步化交互装置内容审核阶段各模块框图；
44.图8是本技术的一个实施例中的电子设备的结构示意图；
45.图9是本技术的一个实施例中的服务器的结构示意图。
具体实施方式
46.下面将结合本技术实施例中的附图，对本技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本技术一部分实施例，而不是全部的实施例。基于本技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本技术保护的范围。
47.除非另有定义，本文所使用的所有的技术和科学术语与属于本技术的技术领域的技术人员通常理解的含义相同。本文中在本技术的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本技术。本文所使用的术语“及/或”包括一个或多个相关的所列项目的任意的和所有的组合。
48.本技术领域技术人员可以理解，这里所使用的“内容系统”既包括无线信号接收器的设备，其仅具备无发射能力的发射信号接收器的设备，又包括发射和接收硬件的设备，其具有能够在双向通信链路上，执行双向通信的接收和发射硬件的设备。这种设备可以包括：蜂窝或其他通信设备，其具有单线路显示器或多线路显示器或没有多线路显示器的蜂窝或其他通信设备；pcs(personal communications service，个人通信系统)，其可以组合语音、数据处理、传真和/或数据通信能力；pda(personal digital assistant，个人数字助理)，其可以包括射频接收器、寻呼机、互联网/内联网访问、网络浏览器、记事本、日历和/或gps(global positioning system，全球定位系统)接收器；常规掌上型计算机或其他设备，其具有和/或包括射频接收器的常规膝上型和/或掌上型计算机或其他设备。这里所使用的“终端”可以是便携式、可运输、安装在交通工具(航空、海运和/或陆地)中的，或者适合于和/或配置为在本地运行，和/或以分布形式，运行在地球和/或空间的任何其他位置运行。
49.请参阅图1，为本实施例提供一种内容审核流程异步化交互方法，包括：
50.s1000、获取并保存待审核数据，所述待审核数据中含有用于标识数据的数据类型的标识字段；
51.s2000、识别所述待审核数据中标识字段的数据类型；
52.s3000、根据所述数据类型分批次获取所述待审核数据；
53.s4000、请求审核辅助处理工具对所述待审核数据进行内容审核，得到审核结果；
54.s5000、根据所述数据类型的不同，分别接收所述审核结果。
55.在本实施例中，待审核数据通过内容系统上传。此处，内容系统指发布待审核数据的终端，所述待审核数据可以通过电脑、手机、平板等装置设备上的网页或者专属应用来上传。待审核数据的内容可以是文字数据、图片数据、视频数据以及家装平台的结构数据等，在此不做限制。
56.上传待审核数据后，审核流程控制系统获取待审核数据，进一步识别待审核数据中标识字段的数据类型，并对所获取的待审核数据进行审核处理。此处，通过调用审核辅助处理工具的内容审核服务接口，通过内容审核服务接口所提供的服务，对所获取的待审核数据进行审核处理。
57.为了防止内容系统所上传的待审核数据上传多个文件，其中的每一个文件均访问一次审核辅助处理工具的内容审核服务接口，在本实施例中，审核流程控制系统识别待审核数据中标识字段的数据类型后，根据所述数据类型分批次获取所述待审核数据。分批次获取所述待审核数据后，进行分批次的调用审核辅助处理工具的内容审核服务接口，并得到审核结果。
58.根据所述数据类型的不同，所述内容系统分别接收所述审核结果。审核辅助处理工具对待审核数据进行审核后，会将审核结果按照所读取的内容系统的通信地址回传到内容系统中。内容系统收到审核通过的审核结果后，会对审核结果进行显示。
59.在本技术实施例中，识别待审核数据中标识字段的数据类型后，根据所述数据类型分批次获取所述待审核数据，进行分批次的调用审核辅助处理工具的内容审核服务接口，并得到审核结果，根据所述数据类型的不同，所述内容系统分别接收所述审核结果。通过分批次地将同类型的待审核数据一次性打包给审核辅助处理工具进行一次调用，从而能够较少的被第三方审核服务系统的调用频率限制，并且一次调用审核携带的待审核数据较多，所以能够在较少的调用情况下给第三方审核服务系统提供较多的待审核数据，保证内容审核不易受频率限制，降低了审核成本，提高了审核效率。
60.在一实施例中，请参阅图2，所述请求审核辅助处理工具对所述待审核数据进行内容审核，得到审核结果包括：
61.s4100、对待审核数据进行分类处理，得到分类处理后的数据；
62.s4200、基于所述分类处理后的数据与所述审核辅助处理工具中的数据进行内容审核，以确定所述待审核数据的所述审核结果；
63.s4300、若内容审核后的所述审核结果未发现异常，则同一批次下的所述待审核数据均审核通过，并将所述审核结果发送到对应的内容系统；
64.s4400、若内容审核后的所述审核结果发现异常，则同一批次下的所述待审核数据审核失败，并将审核失败的所述审核结果发送到对应的内容系统。
65.在本实施例中，通过审核流程控制系统对待审核数据进行分类处理，得到分类处理后的数据。审核流程控制系统可以与审核辅助处理工具之间相互通信，并调用审核辅助处理工具提供的内容审核服务接口，对所述待处理数据进行内容审核。
66.若内容审核后的所述审核结果未发现异常，则同一批次下的所述待审核数据均审核通过，并将所述审核结果发送到对应的内容系统。即同一批次下的所述待审核数据均通过审核辅助处理工具进行了审核，且仅调用一次审核辅助处理工具提供的内容审核服务接口。内容审核结束后，分别将所述审核结果发送到对应的内容系统。
67.若内容审核后的所述审核结果发现异常，则同一批次下的所述待审核数据审核失败，分别将所述审核结果发送到对应的内容系统。
68.本技术实施例通过对待审核数据进行分类分批次处理，调用一次审核辅助处理工具提供的内容审核服务接口即可判断同一批次待审核数据的审核结果，并分别将审核通过的审核结果和审核失败的审核结果发送到对应的内容系统。
69.在一实施例中，请参阅图3，若内容审核后的所述审核结果发现异常，则同一批次下的所述待审核数据审核失败，并将审核失败的所述审核结果发送到对应的内容系统包括：
70.s4310、将所述审核结果为失败的所述待审核数据再次进行分类处理；
71.s4320、经过内容审核后确定同一批次下审核通过的所述待审核数据和审核失败的所述待审核数据；
72.s4330、确定审核失败的所述待审核数据后，将审核通过的所述审核结果和审核失败的所述审核结果分别发送至对应的内容系统。
73.在本实施例中，为了进一步确定审核失败的待审核数据，将所述审核结果为失败的所述待审核数据再次进行分类处理，直到确定最终审核失败的一个或多个待审核数据，并将审核通过的所述审核结果和审核失败的所述审核结果分别发送至对应的内容系统。
74.本技术实施例通过对审核结果为失败的所述待审核数据再次进行分类处理，能够直接确定审核失败的一个或多个待审核数据，使得审核结果的反馈更及时更准确，有效提高了待审核数据的审核效率。
75.在一实施例中，所述审核辅助处理工具包括：自建智能审核系统、第三方审核服务系统及人工辅助审核系统。
76.在本技术实施例中，可以根据实际审核需要，自主选择自建智能审核系统、第三方审核服务系统及人工辅助审核系统中的一个或多个，提高了内容审核的便捷性。
77.在一实施例中，请参阅图4，所述请求审核辅助处理工具3100对所述待审核数据进行内容审核，得到审核结果还包括：
78.s4500、请求所述自建智能审核系统3101和/或所述第三方审核服务系统3102对所述待审核数据进行审核，得到所述审核结果；
79.s4600、将审核结果反馈至所述人工辅助审核系统3103进行审核，以确定所述待审核数据是否存在异常；
80.s4700、将审核通过的所述审核结果和审核失败的所述审核结果分别发送至对应的内容系统。
81.在本实施例中，通过请求所述自建智能审核系统3101和/或所述第三方审核服务
系统3102对所述待审核数据进行审核，得到所述审核结果后通过所述人工辅助审核系统3103进行人工审核。人工审核完成后，将审核通过的所述审核结果和审核失败的所述审核结果分别发送至对应的内容系统。
82.内容系统收到审核通过或审核失败的审核结果后，会将待审核数据和审核结果进行显示，审核结果不局限于最终得到的审核结果，还可以包括自建智能审核系统3101和/或所述第三方审核服务系统3102的审核结果。
83.本技术实施例通过所述自建智能审核系统3101和/或所述第三方审核服务系统3102对所述待审核数据进行审核，得到审核结果后再通过所述人工辅助审核系统3103进行人工审核，有效降低人工审核的工作内容，节省人力成本。
84.在一实施例中，请参阅图5，在请求所述自建智能审核系统和/或所述第三方审核服务系统对所述待审核数据进行审核，得到所述审核结果之前，所述方法还包括：
85.s4800、若所述自建智能审核系统和/或所述第三方审核服务系统出现调用频率限制情况，则请求所述人工辅助审核系统进行审核。
86.本技术实施例通过直接请求人工辅助审核系统进行审核，能够有效避免自建智能审核系统和/或所述第三方审核服务系统出现调用频率限制情况，保证待审核数据的审核效率，提高审核工作运行的流程性。
87.在一实施例中，请参阅图6和图7，本技术还提供了一种内容审核流程异步化交互装置，包括：
88.内容获取模块1000：被配置为获取并保存待审核数据，所述待审核数据中含有用于标识数据的数据类型的标识字段；
89.审核流程控制模块2000：被配置为识别所述待审核数据中标识字段的数据类型，根据所述数据类型分批次获取所述待审核数据；
90.审核辅助处理模块3000：被配置为请求审核辅助处理工具对所述待审核数据进行内容审核，得到审核结果。
91.结果输出模块4000：被配置为根据所述数据类型的不同，分别接收所述审核结果。
92.由于上述内容审核流程异步化交互装置是内容审核流程异步化交互方法一一对应的装置，其实现原理与内容审核流程异步化交互方法一样，此处不再赘述。
93.在一实施例中，请参阅图8，提供了计算机设备基本结构框图。
94.该计算机设备包括通过系统总线连接的处理器、非易失性存储介质、存储器和网络接口。其中，该计算机设备的非易失性存储介质存储有操作系统、数据库和计算机可读指令，数据库中可存储有控件信息序列，该计算机可读指令被处理器执行时，可使得处理器实现一种内容审核流程异步化交互方法。该计算机设备的处理器用于提供计算和控制能力，支撑整个计算机设备的运行。该计算机设备的存储器中可存储有计算机可读指令，该计算机可读指令被处理器执行时，可使得处理器执行一种内容审核流程异步化交互方法。该计算机设备的网络接口用于与终端连接通信。本领域技术人员可以理解，图8中示出的结构，仅仅是与本技术方案相关的部分结构的框图，并不构成对本技术方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
95.处理器可以包括一个或多个处理核心，比如4核心处理器、8核心处理器等。处理器
可以采用dsp(digital signal processing，数字信号处理)、fpga(field－programmable gate array，现场可编程门阵列)、pla(programmable logic array，可编程逻辑阵列)中的至少一种硬件形式来实现。处理器1001也可以包括主处理器和协处理器，主处理器是用于对在唤醒状态下的数据进行处理的处理器，也称cpu(central processing unit，中央处理器)；协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中，处理器可以在集成有gpu(graphics processing unit，图像处理器)，gpu用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中，处理器1001还可以包括ai(artificial intelligence，人工智能)处理器，该ai处理器用于处理有关机器学习的计算操作。
96.本技术还提供一种存储有计算机可读指令的存储介质，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行上述任一实施例所述内容审核流程异步化交互方法。
97.存储器可以包括一个或多个计算机可读存储介质，该计算机可读存储介质可以是非暂态的。存储器还可包括高速随机存取存储器，以及非易失性存储器，比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中，存储器中的非暂态的计算机可读存储介质用于存储至少一个指令，该至少一个指令用于被处理器所执行以实现本技术中方法实施例提供的内容审核流程异步化交互方法。
98.图9示出了本技术一个实施例提供的服务器的结构示意图。该服务器用于实施上述实施例中提供的内容审核流程异步化交互方法。具体来讲：
99.所述服务器包括中央处理单元(cpu)、包括随机存取存储器(ram)和只读存储器(rom)的系统存储器，以及连接系统存储器和中央处理单元的系统总线。所述服务器还包括帮助计算机内的各个器件之间传输信息的基本输入/输出系统(i/o系统)，和用于存储操作系统、应用程序和其他程序模块的大容量存储设备。
100.所述基本输入/输出系统包括有用于显示信息的显示器和用于用户输入信息的诸如鼠标、键盘之类的输入设备。其中所述显示器和输入设备都通过连接到系统总线的输入输出控制器连接到中央处理单元。所述基本输入/输出系统还可以包括输入输出控制器以用于接收和处理来自键盘、鼠标、或电子触控笔等多个其他设备的输入。
101.所述大容量存储设备通过连接到系统总线的大容量存储控制器(未示出)连接到中央处理单元。所述大容量存储设备及其相关联的计算机可读介质为服务器提供非易失性存储。也就是说，所述大容量存储设备可以包括诸如硬盘或者cd-rom驱动器之类的计算机可读介质(未示出)。
102.不失一般性，所述计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括ram、rom、eprom、eeprom、闪存或其他固态存储其技术，cd-rom、dvd或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然，本领域技术人员可知所述计算机存储介质不局限于上述几种。上述的系统存储器和大容量存储设备可以统称为存储器。
103.本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。
104.本技术实施例是参照根据本技术实施例的方法、终端设备(系统)和计算机程序产
品的流程图和/或方框图中的流程和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图中的一个方框或多个方框中指定的功能的装置。
105.这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框指定的功能。
106.这些计算机程序指令也可装载到计算机或其他可编程数据处理终端上，使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
107.另外，在本技术各个实施例中的各功能装置可以集成在相同数据处理装置中，也可以是各个装置单独物理存在，也可以两个或两个以上装置集成在相同装置中。
108.对于本领域技术人员而言，显然本技术不限于上述示范性实施例的细节，而且在不背离本技术的精神或基本特征的情况下，能够以其他的具体形式实现本技术。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本技术的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本技术内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。此外，显然“包括”一词不排除其他装置或步骤，单数不排除复数。计算机装置权利要求中陈述的多个装置或计算机装置也可以由同一个计算机装置通过软件或者硬件来实现。第一，第二等词语用来表示名称，而并不表示任何特定的顺序。
109.最后应说明的是，以上实施例仅用以说明本技术的技术方案而非限制，尽管参照较佳实施例对本技术进行了详细说明，本领域的普通技术人员应当理解，可以对本技术的技术方案进行修改或等同替换，而不脱离本技术技术方案的精神和范围。