直播监测方法、装置、介质以及计算机设备与流程

1.本技术实施例涉及网络直播技术领域，特别是涉及一种直播监测方法、装置、介质以及 计算机设备。


背景技术：

2.随着网络通信技术的进步，用户可参与的线上娱乐项目越来越多，其中，网络直播由于 实时性强且交互性强的特点，更是受到越来越多用户的喜爱。
3.在网络直播中，存在某些特定人群观看或者参与特定类型频道的直播活动，如宗教、传 销和兼职，甚至色情表演等。这些用户群体，因其身份或爱好特性，会定期或不定期参与符 合上述某类型频道的直播活动，而这些直播活动大多是网络内容安全监管范围内的违规行为， 因此，很有必要监测直播间的违规行为。
4.一些技术中，监测直播间的违规行为方式为：从直播视频流中提取关键帧，生成对应的 图片，再根据图片特征来判断是否包含违规行为，这种方式需要在直播中存在非常强烈的违 规行为特征，如果违规行为特征不强烈，或者没有固定可区分的特征时，监测准确率比较低。


技术实现要素：

5.为克服相关技术中存在的问题，本技术提供一种直播监测方法、装置、介质以及计算机 设备，不需要获取违规特征，也不需要依赖于根据违规特征来识别违规行为，可以提高监测 的有效性，提高监测的准确度。
6.根据本技术实施例的第一方面，提供一种直播监测方法，包括如下步骤：
7.获取历史违规直播间标识；
8.根据所述历史违规直播间标识，获取进入对应的历史违规直播间的若干个第一观众用户 标识，且将若干个所述第一观众用户标识确定为可疑观众用户标识；
9.监听到观众用户登录直播间时，获取第二观众用户标识；若所述第二观众用户标识为可 疑观众用户标识，将所述观众用户进入的若干个直播间对应的直播间标识确定为可疑直播间 标识；
10.若在第一预设时间内存在第一预设数量的观众用户进入所述可疑直播间标识对应的直播 间，将所述可疑直播间标识对应的直播间信息确定为待审查信息。
11.根据本技术实施例的第二方面，提供一种直播监测装置，包括：
12.历史违规直播间标识获取模块，用于获取历史违规直播间标识；
13.可疑观众用户标识获取模块，用于根据所述历史违规直播间标识，获取进入对应的历史 违规直播间的若干个第一观众用户标识，且将若干个所述第一观众用户标识确定为可疑观众 用户标识；
14.可疑直播间标识确定模块，用于根据监听到观众用户登录直播间时，获取第二观众用户 标识；若所述第二观众用户标识为可疑观众用户标识，将所述观众用户进入的若干
个直播间 对应的直播间标识确定为可疑直播间标识；
15.待审查信息获取模块，用于若在第一预设时间内存在第一预设数量的观众用户进入所述 可疑直播间标识对应的直播间，将所述可疑直播间标识对应的直播间信息确定为待审查信息。
16.根据本技术实施例的第三方面，提供一种计算机设备，包括处理器和存储器；所述存储 器存储有计算机程序，所述计算机程序适于由所述处理器加载并执行如上述所述的直播监测 方法。
17.根据本技术实施例的第四方面，提供一种计算机可读存储介质，其上储存有计算机程序， 其特征在于，该计算机程序被处理器执行时实现如上述所述的直播监测方法。
18.本技术实施例获取历史违规直播间标识；根据所述历史违规直播间标识，获取进入对应 的历史违规直播间的若干个第一观众用户标识，且将若干个所述第一观众用户标识确定为可 疑观众用户标识；监听到观众用户登录直播间时，获取第二观众用户标识；若所述第二观众 用户标识为可疑观众用户标识，将所述观众用户进入的若干个直播间对应的直播间标识确定 为可疑直播间标识；若在第一预设时间内存在第一预设数量的观众用户进入所述可疑直播间 标识对应的直播间，将所述可疑直播间标识对应的直播间信息确定为待审查信息，本技术实 施例根据通过历史违规直播间标识得到可疑观众用户标识，进而根据可疑观众用户标识来跟 踪识别违规的直播间，不需要获取违规特征，也不需要依赖于根据违规特征来识别违规行为， 可以提高监测的有效性，提高监测的准确度。
19.应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制 本技术。
20.为了更好地理解和实施，下面结合附图详细说明本发明。
附图说明
21.为了更清楚地说明本技术实施例或现有技术中的技术方案，下面将对实施例或现有技术 描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本技术的一 些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些 附图获得其他的附图。
22.图1为本技术实施例提供的直播监测方法的应用环境的示意框图；
23.图2为本技术第一实施例提供的直播监测方法的流程图；
24.图3为本技术一个实施例提供的确定待审查信息的方法的流程图；
25.图4为本技术另一个实施例提供的确定待审查信息的方法的流程图；
26.图5为本技术另一个实施例提供的直播监测方法的流程图；
27.图6为本技术第二实施例提供的直播监测装置的示意框图；
28.图7为本技术第三实施例提供的计算机设备的结构示意框图。
具体实施方式
29.为使本技术的目的、技术方案和优点更加清楚，下面将结合附图对本技术实施例方式作 进一步地详细描述。
30.应当明确，所描述的实施例仅仅是本技术实施例一部分实施例，而不是全部的实
施例。 基于本技术实施例中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的 所有其它实施例，都属于本技术实施例保护的范围。
31.下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。 在本技术的描述中，需要理解的是，术语“第一”、“第二”、“第三”等仅用于区别类似 的对象，而不必用于描述特定的顺序或先后次序，也不能理解为指示或暗示相对重要性。对 于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本技术中的具体含义。在 本技术和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多 数形式，除非上下文清楚地表示其他含义。在此所使用的词语“如果”/“若”可以被解释 成为“在
……
时”或“当
……
时”或“响应于确定”。
32.此外，在本技术的描述中，除非另有说明，“多个”是指两个或两个以上。“和/或”， 描述关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示：单独存在 a，同时存在a和b，单独存在b这三种情况。字符“/”一般表示前后关联对象是一种“或
”ꢀ
的关系。
33.本领域技术人员可以理解，本技术所使用的“客户端”、“终端”、“终端设备”既包 括无线信号发射器的设备，其仅具备发射能力的无线信号发射器的设备，又包括无线信号接 收射器的设备，其仅具备接收能力的无线信号接收器的设备，还可以包括接收和发射硬件的 设备，其具有能够在双向通信链路上，进行双向通信的接收和发射硬件的设备。这种设备可 以包括：蜂窝或其他诸如个人计算机、平板电脑之类的通信设备，其具有单线路显示器或多 线路显示器或没有多线路显示器的蜂窝或其他通信设备；pcs(personalcommunicationsservice，个人通信系统)，其可以组合语音、数据处理、传真和/或数据通信能力；pda(personaldigital assistant，个人数字助理)，其可以包括射频接收器、寻呼机、互联网/内联网访问、网 络浏览器、记事本、日历和/或gps(global positioningsystem，全球定位系统)接收器；常规膝 上型和/或掌上型计算机或其他设备，其具有和/或包括射频接收器的常规膝上型和/或掌上型 计算机或其他设备。这里所使用的“客户端”、“终端”、“终端设备”可以是便携式、可 运输、安装在交通工具(航空、海运和/或陆地)中的，或者适合于和/或配置为在本地运行，和 /或以分布形式，运行在地球和/或空间的任何其他位置运行。这里所使用的“客户端”、“终 端”、“终端设备”还可以是通信终端、上网终端、音乐/视频播放终端，例如可以是pda、 mid(mobile internet device，移动互联网设备)和/或具有音乐/视频播放功能的移动电话，也可 以是智能电视、机顶盒等设备。
34.本技术所称的“服务器”、“客户端”、“服务节点”等名称所指向的硬件，本质上是 具备个人计算机等效能力的计算机设备，为具有中央处理器(包括运算器和控制器)、存储器、 输入设备以及输出设备等冯诺依曼原理所揭示的必要构件的硬件装置，计算机程序存储于其 存储器中，中央处理器将存储在外存中的程序调入内存中运行，执行程序中的指令，与输入 输出设备交互，借此完成特定的功能。
35.需要指出的是，本技术所称的“服务器”这一概念，同理也可扩展到适用于服务器机群 的情况。依据本领域技术人员所理解的网络部署原理，所述各服务器应是逻辑上的划分，在 物理空间上，这些服务器既可以是互相独立但可通过接口调用的，也可以是集成到一台物理 计算机或一套计算机机群的。本领域技术人员应当理解这一变通，而不应以此约
束本技术的 网络部署方式的实施方式。
36.请参阅图1，图1为本技术实施例提供的直播监测方法的应用场景示意图，该应用场景 包括主播客户端110、观众客户端120和服务器130。
37.所述主播客户端110与所述观众客户端120通过所述服务器130进行交互。具体的，所 述主播客户端110和所述观众客户端120均可以通过网络接入方式接入互联网，与所述服务 器130建立数据通信链路。其中，网络可以是能够在所述分享发布终端与所述分享接收终端 之间提供通信链路的各种连接类型的通信介质，例如可以是有线通信链路、无线通信链路或 者光纤电缆等等，本技术在此不做限制。
38.所述主播客户端110是指发送网络直播视频的一端，通常来说是网络直播中主播用户所 采用的客户端。所述主播客户端110所指向的硬件，本质上是指计算机设备，具体地，如图 1所示，其可以是智能手机、智能交互平板和个人计算机等类型的计算机设备。
39.所述观众客户端120是指接收和观看网络直播视频的一端，通常来说是网络直播中观看 视频的观众用户所采用的客户端。所述观众客户端120所指向的硬件，本质上是指计算机设 备，具体地，如图1所示，其可以是智能手机、智能交互平板和个人计算机等类型的计算机 设备。
40.应当说明，所述观众客户端120与所述主播客户端110只是从功能上进行划分，在实际 应用中，可以由同一个客户端在不同时间分别执行所述观众客户端120与所述主播客户端110 的功能。因此，同一个客户端在观看网络直播时，可以作为所述观众客户端120，在发布直 播视频时，可以作为所述主播客户端110。
41.所述服务器130可作为一个业务服务器，其可以负责进一步连接起相关音频数据服务器、 视频流服务器以及其他提供相关支持的服务器等，以此构成逻辑上相关联的服务机群，来为 相关的终端设备，例如图1中所示的主播客户端110和观众客户端120提供服务。
42.本技术实施例中，所述主播客户端110与所述观众客户端120可以加入同一个直播间(即 直播频道)，上述的直播间是指依靠互联网技术和所述服务器130实现的一种聊天室，通常具 备音视频播控功能。主播用户通过所述主播客户端110在直播间内进行直播，所述观众客户 端120的观众用户可以登录所述服务器130进入直播间观看直播。
43.在直播间内，主播用户与观众用户之间可通过语音、视频、文字等公知的线上交互方式 来实现互动，一般是主播用户以音视频流的形式为观众用户表演节目，同时，观众用户可以 文字或者赠送虚拟礼物的方式与主播用户进行互动，而在互动过程中还可产生经济交易行为， 当然，直播间的应用形态并不局限于在线娱乐，也可推广到其他相关场景中。
44.具体地，观众用户观看直播的过程如下：观众用户可以点击访问安装在观众客户端120 上的直播应用程序，并选择进入任意一个直播间，触发所述观众客户端120为该观众用户加 载直播间界面，该直播间界面内包括若干交互组件，例如：视频组件、虚拟礼物栏组件以及 公屏组件等，通过加载这些交互组件可以使观众用户在直播间内观看直播，并进行多种线上 互动，线上互动的方式包括但不限于赠送虚拟礼物、参加直播活动以及公屏发言聊天等。
45.值得一提的是，图1中的应用场景只是一种示例性应用场景，并非用于限定本发明的方 案。本发明的方案还可以应用于其他形式的网络直播应用场景中，对此不再一一说明。
46.请参阅图2，其是本技术第一实施例提供的直播监测方法的流程图。本技术第一实施例 提供的直播监测方法包括如下步骤：
47.步骤s101：获取历史违规直播间标识。
48.为更好的理解本技术的直播监测方法，下面对本技术需要监测的直播内容进行介绍。
49.在特定的直播内容中，直播平台作为直播工具被利用，主播用户和观众用户的联系和推 广是从其它渠道甚至是线下进行，直播内容本身不被直播平台所推荐和认可，而这些特定的 直播内容的观众用户进入直播平台的目的性却非常强，他们根据其它渠道或线下已经确定的 内容和目的聚集进入指定直播间，进行直播内容互动，而这些直播内容大多是网络内容安全 监管范围内的违规行为。例如，某传销组织计划利用某直播软件开展一场线上活动，首先会 创建直播间，然后将直播间通过各种通讯工具或线下组织告知参与者，并要求在约定时间内 进入直播间，然后开展直播活动。又例如，某非法宗教组织在某社交群中聚集，并以各种形 式吸收成员到社交群，当非法宗教线上活动时，通知成员进入某直播间，开展非法宗教讲座 活动。
50.因此，针对特定直播内容的违规行为，可以从网站、各社交群、直播平台历史违规记录、 直播平台举报记录等一种或者多种方式中，获得违规行为对应的历史违规直播间标识。其中 直播间标识用于唯一标识直播平台的直播间，其可以为直播间账号等。
51.步骤s102：根据所述历史违规直播间标识，获取进入对应的历史违规直播间的若干个第 一观众用户标识，且将若干个所述第一观众用户标识确定为可疑观众用户标识。
52.一般地，直播平台所在的服务器存储有在直播平台上开播的各个直播间的直播信息；直 播信息可以包括直播间标识、直播时间、进入直播间的观众用户标识和观众用户进入直播间 的时间；因此，可以根据服务器存储的各个直播间的直播信息，获取进入历史违规直播间标 识对应的历史违规直播间的若干个第一观众用户标识。其中，观众用户标识用于唯一确定观 众用户在直播平台上的身份，其可以为观众用户在直播平台的账号、身份证号等。
53.可以理解的是，对于进入历史违规直播间的观众用户，在一定程度上可以认为是直播间 违规行为的受众，该观众用户在一定程度上会被认为是可疑的违规观众用户，因此，可以将 若干个所述第一观众用户标识确定为可疑观众用户标识。
54.可选的，可以通过将若干个所述第一观众用户标识分别标识为可疑观众用户标识的方式， 进而将若干个所述第一观众用户标识确定为可疑观众用户标识。可选的，也可以设置可疑观 众用户库，通过将若干个所述第一观众用户标识存储至可疑观众用户库中，从而将若干个所 述第一观众用户标识确定为可疑观众用户标识。
55.可选的，可以根据所述历史违规直播间标识，自动获取进入对应的历史违规直播间的若 干个第一观众用户标识，且将若干个所述第一观众用户标识确定为可疑观众用户标识。可选 的，也可以提供可疑观众用户标识录入页面，在可疑观众用户标识录入页面，将若干个所述 第一观众用户标识录入为可疑观众用户标识。对应的，也可以提供可疑观众用户标识查询页 面，可以查看某个观众用户标识是否为可疑观众用户标识。
56.步骤s103：监听到观众用户登录直播间时，获取第二观众用户标识；若所述第二观众用 户标识为可疑观众用户标识，将所述观众用户进入的若干个直播间对应的直播间标
识确定为 可疑直播间标识。
57.可以理解的是，当观众用户登录直播间后，观众用户可能进入若干个直播间，因此，可 以获得若干个直播间对应的直播间标识确定为可疑直播间标识。
58.步骤s104：若在第一预设时间内存在第一预设数量的观众用户进入所述可疑直播间标识 对应的直播间，将所述可疑直播间标识对应的直播间信息确定为待审查信息。
59.对于违规直播间，其一般会让受众在某个预设时间内同时进入直播间，因此，可以判断 是否在第一预设时间内存在第一预设数量的观众用户进入所述可疑直播间标识对应的直播间 来判断直播间是否违规。可以理解的是，第一预设时间以及第一预设数量可以根据实际需求 进行调整和设置，本技术并不加以限制。例如，若5分钟内有20个观众用户进入可疑直播间 标识对应的直播间，则将所述可疑直播间标识对应的直播间信息确定为待审查信息。
60.所述可疑直播间标识对应的直播间信息可以包括开播页面、直播间当前页面、直播间属 性和/或主播用户信息；直播间属性可以包括直播间标识、直播间名称、直播间状态和/或直 播间人气等；主播用户信息可以包括主播名称和/或主播人气等。
61.可以理解的是，步骤s103中的可疑观众用户标识对应的观众用户进入的直播间可以为多 个，因此可获得多个可疑直播间标识，此时，需要对多个可疑直播间标识对应的直播间均需 要监测是否有在第一预设时间内存在第一预设数量的观众用户进入所述可疑直播间标识对应 的直播间。
62.本技术实施例获取历史违规直播间标识；根据所述历史违规直播间标识，获取进入对应 的历史违规直播间的若干个第一观众用户标识，且将若干个所述第一观众用户标识确定为可 疑观众用户标识；监听到观众用户登录直播间时，获取第二观众用户标识；若所述第二观众 用户标识为可疑观众用户标识，将所述观众用户进入的若干个直播间对应的直播间标识确定 为可疑直播间标识；若在第一预设时间内存在第一预设数量的观众用户进入所述可疑直播间 标识对应的直播间，将所述可疑直播间标识对应的直播间信息确定为待审查信息，本技术实 施例通过根据通过历史违规直播间标识得到可疑观众用户标识，进而根据可疑观众用户标识 来跟踪识别违规的直播间，不需要获取违规特征，也不需要依赖于根据违规特征来识别违规 行为，可以提高监测的有效性，提高监测的准确度。
63.在一个实施例中，步骤s102所述根据所述历史违规直播间标识，获取进入对应的历史违 规直播间的若干个第一观众用户标识，且将若干个所述第一观众用户标识确定为可疑观众用 户标识的步骤，包括：
64.步骤s1021：根据所述历史违规直播间标识，将在第二预设时间内进入对应的历史违规 直播间、退出所述历史违规直播间、在所述历史违规直播间产生互动行为、和/或在历史违规 直播间具有预设身份的若干个第一观众用户标识确定为可疑观众用户标识。
65.由于进入到对应的历史违规直播间的观众用户可能有很多，会增加服务器的负荷，同时， 这些观众用户可能在预设时间之前可能比较久远，以这些观众用户的动作判定是否违规并不 合适，因此，可以获取最近时间在直播间活跃的用户。例如，可以将第二预设时间设置为一 周，进而将在最近一周内进入对应的历史违规直播间的若干个第一观众用户标识确定为可疑 观众用户标识。
66.有些观众用户可能是忠实用户，在第二预设时间之前已经进入到了对应的历史违
规直播 间之后，但是，在第二预设时间内可能退出直播间或者产生互动，还可以将退出所述历史违 规直播间、和/或在所述历史违规直播间产生互动行为的若干个第一观众用户标识确定为可疑 观众用户标识。其中，互动方式可以为给主播用户赠送礼物、在公屏上聊天和/或发弹幕等。
67.预设身份可以是直播间的管理员，例如是马甲管理人员，预设身份还可以嘉宾用户、或 者是会员用户等。有些观众用户虽然在第二预设时间内未进入对应的历史违规直播间、退出 所述历史违规直播间、在所述历史违规直播间产生互动行为，但是，在历史违规直播间具有 特殊的预设身份，说明这个观众用户比较重视该直播间，因此，需要在历史违规直播间具有 预设身份的若干个第一观众用户标识也确定为可疑观众用户标识。
68.请参阅图3，其为本技术一个实施例提供的确定待审查信息的方法的流程图；在一个实 施例中，步骤s104所述若在第一预设时间内存在第一预设数量的观众用户进入所述可疑直播 间标识对应的直播间，将所述可疑直播间标识对应的直播间信息确定为待审查信息的步骤， 包括步骤s10411-步骤s10413：
69.步骤s10411：获取所述第二观众用户标识进入所述可疑直播间标识对应的直播间的进场 时间。
70.步骤s10412：以所述进场时间为起点，以所述第一预设时间为滑动时间窗口，获取各个 所述滑动时间窗口内进入所述可疑直播间标识对应的直播间的观众数量。
71.例如若第一预设时间为5分钟，从进场时间为0点，则0点至0点5分作为一个滑动时 间窗口，获取在这个滑动时间窗口内进入所述可疑直播间标识对应的直播间的观众数量。0 点1分至0点6分作为另一个滑动时间窗口，获取在这个滑动时间窗口内进入所述可疑直播 间标识对应的直播间的观众数量，依次类推，直至直播间结束为止。可以理解的是，当相邻 滑动时间窗口的时间长度足够小时，可以认为是在直播间内，采用一个滑动时间窗口无间隙 滑动，以获取各个所述滑动时间窗口内进入所述可疑直播间标识对应的直播间的观众数量。
72.步骤s10413：当其中一个所述滑动时间窗口内的所述观众数量大于所述第一预设数量时， 将所述可疑直播间标识对应的直播间信息确定为待审查信息。
73.可以理解的是，所述可疑直播间标识对应的直播间，存在若干个滑动时间窗口，每个所 述滑动时间窗口内的所述观众数量大于所述第一预设数量时，都会将所述可疑直播间标识对 应的直播间信息确定为待审查信息。
74.本技术实施例通过获取所述第二观众用户标识进入所述可疑直播间标识对应的直播间的 进场时间；以所述进场时间为起点，以所述第一预设时间为滑动时间窗口，获取各个所述滑 动时间窗口内进入所述可疑直播间标识对应的直播间的观众数量；进而通过监测所述滑动时 间窗口内的所述观众数量是否大于所述第一预设数量，判断将所述可疑直播间标识对应的直 播间信息确定为待审查信息，从而实现对所述可疑直播间标识对应的直播间的实时监测。
75.在一个实施例中，步骤s102所述根据所述历史违规直播间标识，获取进入对应的历史违 规直播间的若干个第一观众用户标识，且将若干个所述第一观众用户标识确定为可疑观众用 户标识的步骤之后，还包括：
76.步骤s1022：根据所述历史违规直播间标识，确定所述可疑观众用户标识对应的类
型标 签，建立所述类型标签与监查条件的映射关系；所述监查条件包括在预设时间内加入直播间 的观众用户数量。
77.可选的，对于可疑观众用户标识还可以进一步标注相应的类型标签，如“色情”“涉政
”ꢀ
等。从而可以根据不同类型的可疑观众用户标识，设置对应的监查条件，例如设置对应的审 核时间和审核数量的关系。
78.请参阅图4，其为本技术另一个实施例提供的确定待审查信息的方法的流程图；步骤s104 所述若在第一预设时间内存在第一预设数量的观众用户进入所述可疑直播间标识对应的直播 间，将所述可疑直播间标识对应的直播间信息确定为待审查信息的步骤，包括：
79.步骤s10421：获得所述第二观众用户标识对应的可疑观众用户标识的类型标签。
80.步骤s10422：根据所述类型标签与监查条件的映射关系，获得所述第二观众用户标识对 应的类型标签对应的第一预设时间和第一预设数量。
81.步骤s10423：若在第一预设时间内存在第一预设数量的观众用户进入所述可疑直播间标 识对应的直播间，将所述可疑直播间标识对应的直播间信息确定为待审查信息。
82.例如，对于“色情”类型标签，可以设置在5分钟内有20个用户进入直播间，则将所述 可疑直播间标识对应的直播间信息确定为待审查信息。对于“涉政”类型标签，可以设置在 30分钟内有30个用户进入直播间，则将所述可疑直播间标识对应的直播间信息确定为待审 查信息等。
83.本技术实施例根据可疑观众用户标识的类型标签，进而确定对直播间审核的时间和数量， 从而提高监测的准确率。
84.请参阅图5，其为本技术另一个实施例提供的直播监测方法的流程图；在一个实施例中， 所述直播监测方法还包括如下步骤s105-步骤s106：
85.步骤s105：根据所述历史违规直播间标识，获取创建历史违规直播间的主播用户创建的 相关直播间的相关直播间标识，且将所述相关直播间标识确定为可疑直播间标识。
86.在直播平台上，主播用户可以创建多个直播间，而在创建的各个直播间主播用户标识是 一样的，进而可以根据所述历史违规直播间标识，获得创建历史违规直播间标识的主播用户 标识，从而根据主播用户标识，获得改主播用户创建的相关直播间的相关直播间标识，进而 将所述相关直播间标识确定为可疑直播间标识。
87.可选的，可以通过将所述相关直播间标识分别标识为可疑直播间标识的方式，进而将所 述相关直播间标识确定为可疑直播间标识。可选的，也可以设置可疑直播间库，通过将若干 个所述相关直播间标识存储至可疑直播间库中，从而将所述相关直播间标识确定为可疑直播 间标识。
88.可选的，可以根据所述历史违规直播间标识，自动将所述相关直播间标识确定为可疑直 播间标识。可选的，也可以提供可疑直播间标识录入页面，在可疑直播间标识录入页面，将 若干个直播间标识录入为可疑观众用户标识。对应的，也可以提供可疑直播间标识查询页面， 可以查看某个直播间标识是否为可疑观众用户标识。
89.步骤s106：监听到直播间开播时，获取直播间标识；若所述直播间标识为可疑直播间标 识，将所述可疑直播间标识对应的直播间信息确定为待审查信息。
90.本技术实施例通过将创建历史违规直播间的主播用户创建的相关直播间的相关
直播间标 识，且将所述相关直播间标识确定为可疑直播间标识；监听到直播间开播时，获取直播间标 识；若所述直播间标识为可疑直播间标识，将所述可疑直播间标识对应的直播间信息确定为 待审查信息，从而可直接快捷地确定可疑的主播用户的直播间，从而对可疑直播间的监测。
91.在一个实施例中，所述直播监测方法还包括如下步骤s107-步骤s108：
92.步骤s107：将所述待审查信息推送至审核页面。
93.可选的，所述审核页面为用户人工审核的页面，用户可以在该审核页面对待审查信息进 行审查，以确定直播间是否违规。可选的，在人工审核的页面还可包含待审列表、直播视频 窗口、视频流截图、主播信息、直播间基本信息。
94.可选的，在审核页面可以设置有进入频道的按钮，在直播间未开播或主播已下线，则点 击右侧的“进入频道”按钮，直接跳转到该直播频道，查看频道内详细信息，结合频道内的 用户行为和用户列表判定频道是否违规。可选的，还可设置巡查记录查询页面，可根据直播 间标识，处理结果和时间范围等条件，查询审核历史数据。
95.可选的，在审核页面可以设置有处罚按钮，选择“严重违规”或“冻结频道”、“封禁
”ꢀ
等处罚方式，处罚对应的直播间。一般情况下，对违规的直播间封禁是越快越好。但对此类 直播间，需要有一定的延后封禁处理，以增强本方案的效果。观众用户是陆续进入直播间， 当确定出该直播间违规时，可能还有更多观众用户未进入直播间。如果此时封禁直播间，可 能造成直播违规内容还未出现，无法进行违规取证；另外，对可疑用户标识收集也不利，所 以封禁操作需要设置一个固定时延，或判断直播的音视频是否开始，再进行封禁操作。
96.步骤s108：获取从所述审核页面反馈的基于所述待审查信息得到的审核结果；所述审核 结果包括所述可疑直播间标识对应的直播间违规或者所述可疑直播间标识对应的直播间不违 规。
97.本技术实施例通过将所述待审查信息推送至审核页面；获取从所述审核页面反馈的基于 所述待审查信息得到的审核结果，从而快捷推送和获得审核结果。
98.在一个实施例中，所述直播监测方法还包括如下步骤s10911-步骤s10912：
99.步骤s10911：获取所述可疑观众用户标识对应的观众用户在第三预设时间内进出直播间 的第一数量以及进出的直播间对应的第一审核结果。
100.步骤s10912：若所述第一数量大于第二预设数量，且所述第一审核结果均为不违规，将 所述可疑观众用户标识更改确定为正常观众用户标识。
101.可选的，可以通过将标注为所述可疑观众用户标识的观众用户标识，更改标注为正常观 众用户标识，从而将所述可疑观众用户标识更改确定为正常观众用户标识，也可以将可疑观 众用户标识从可疑观众用户库中删除，从而将所述可疑观众用户标识更改确定为正常观众用 户标识。
102.本技术实施例通过在所述可疑观众用户标识对应的观众用户在第三预设时间内进出直播 间的第一数量大于第二预设数量，且进出的直播间对应的第一审核结果所述第一审核结果均 为不违规，将所述可疑观众用户标识更改确定为正常观众用户标识，从而减少对可疑观众用 户标识的判断，提高监测效率。
103.在一个实施例中，所述直播监测方法还包括如下步骤s10921-步骤s10922：
104.步骤s10921：在所述审核结果为所述可疑直播间标识对应的直播间不违规时，获
取所述 可疑直播间标识对应的直播间的历史审核结果为不违规的次数；
105.步骤s10922：若所述不违规的次数超过第一预设数量阈值，将所述可疑直播间标识更改 确定为正常直播间标识。
106.可选的，可以通过将标注为所述可疑直播间标识的直播间标识，更改标注为直播间标识， 从而将所述可疑直播间标识更改确定为正常直播间标识，也可以将可疑直播间标识从可疑直 播间标识库中删除，从而将所述可疑直播间标识更改确定为正常直播间标识。
107.本技术实施例通过将所述可疑直播间标识对应的直播间的历史审核结果为不违规的次数 超过预设数量阈值，将所述可疑直播间标识更改确定为正常直播间标识，从而减少对可疑直 播间标识的判断，提高监测效率。
108.在一个实施例中，所述直播监测方法还包括如下步骤：
109.步骤s10931：若所述可疑直播间标识对应的直播间信息的历史审核结果为不违规的次数 超过第二预设数量阈值，停止推送所述可疑直播间标识对应的直播间信息。
110.在所述可疑直播间标识对应的直播间信息的历史审核结果为不违规的次数超过第一预设 数量阈值，通过停止推送所述可疑直播间标识对应的直播间信息，以减少不要的巡查审核， 提高审核效率。
111.在一个实施例中，所述直播监测方法还包括如下步骤：
112.步骤s10941：若所述观众用户进入所述可疑直播间标识对应的直播间信息的历史审核结 果为违规的次数超过第三预设数量阈值，将所述观众用户进入的所述可疑直播间标识均确定 为违规。
113.若所述观众用户进入所述可疑直播间标识对应的直播间信息的历史审核结果为违规的次 数超过第二预设数量阈值，说明该观众用户已经是违规直播间的忠实用户，该观众用户进入 的直播间都是违规直播间，因此，可以自动审核确定出违规的直播间。
114.请参见图6，其为本技术第二实施例提供的直播监测装置的结构示意图。该装置200包 括：
115.历史违规直播间标识获取模块201，用于获取历史违规直播间标识；
116.可疑观众用户标识获取模块202，用于根据所述历史违规直播间标识，获取进入对应的 历史违规直播间的若干个第一观众用户标识，且将若干个所述第一观众用户标识确定为可疑 观众用户标识；
117.可疑直播间标识确定模块203，用于根据监听到观众用户登录直播间时，获取第二观众 用户标识；若所述第二观众用户标识为可疑观众用户标识，将所述观众用户进入的若干个直 播间对应的直播间标识确定为可疑直播间标识；
118.待审查信息获取模块204，用于若在第一预设时间内存在第一预设数量的观众用户进入 所述可疑直播间标识对应的直播间，将所述可疑直播间标识对应的直播间信息确定为待审查 信息。
119.需要说明的是，本技术第二实施例提供的直播监测装置在执行直播中的直播监测方法时， 仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由 不同的功能模块完成，即将设备的内部结构划分为不同的功能模块，以完成以上描述的全部 或者部分功能。另外，本技术第二实施例提供的直播监测装置与本技术第一实施例直播监测 方法属于同一构思，其体现实现过程详见方法实施例，这里不再赘述。
rom)、数字多 功能光盘(dvd)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何 其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机存储 介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
127.本领域内的技术人员应明白，本技术的实施例可提供为方法、系统、或计算机程序产品。 因此，本技术可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的 形式。而且，本技术可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储 介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
128.本技术是参照根据本技术实施例的方法、设备(系统)、和计算机程序产品的流程图和 /或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和 /或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指 令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一 个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流 程图一个流程或多个流程和/或方框图一个方框或多个方框中选定的功能的装置。这些计算 机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可 读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令 装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中选定的功能。
129.这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或 其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编 程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多 个方框中选定的功能的步骤。
130.还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包 含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括 没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。 在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括要素的过 程、方法、商品或者设备中还存在另外的相同要素。
131.以上仅为本技术的实施例而已，并不用于限制本技术。对于本领域技术人员来说，本申 请可以有各种更改和变化。凡在本技术的精神和原理之内所作的任何修改、等同替换、改进 等，均应包含在本技术的权利要求范围之内。