网络信息处理方法、用户面功能系统、介质和电子设备与流程

1.本公开涉及计算机技术领域，尤其涉及一种网络信息处理方法、用户面功能系统、介质和电子设备。


背景技术：

2.随着信息技术的不断发展，人们日常沟通交流很大一部分转移为了网络信息交流，但是在网络信息进行交流过程中可能会涉及到例如暴力、政治、恐怖、色情等危害公共安全的各种敏感信息，对于该类敏感信息必须及时剔除，以保障网络文明与公共安全。
3.目前针对该类敏感信息的剔除方式主要包括如下两种：第一种方式，通过人工审核，以对网络信息中存在的敏感信息进行筛检，该种方法虽然准确性较高，但是人工筛检耗时长，效率过低；第二种方式，运营商屏蔽处理，也就是在将网络信息发送到各运营商服务器之后，由各运营商在各自的服务器中对接收到的网络信息进行筛检，屏蔽掉敏感信息，但是不同网络交流软件或网络信息平台对应的运营商不同，其服务器也分散于全国各地，无法统一进行处理，效率也较低。
4.因此，目前针对敏感信息的筛检效率均较低。


技术实现要素：

5.本公开提供了一种网络信息处理方法、用户面功能系统、介质和电子设备，进而提高针对敏感信息的筛检效率。
6.第一方面，本公开一个实施例提供了一种网络信息处理方法，应用于用户面功能系统，该方法包括：
7.基于信息获取接口获取用户终端发送的网络流量信息；
8.对网络流量信息与预设敏感信息进行语义匹配，得到匹配结果；
9.根据匹配结果判断网络流量信息中是否包含预设敏感信息；
10.若网络流量信息中包含预设敏感信息，则对网络流量信息进行屏蔽，并对网络流量信息对应的用户进行屏蔽。
11.在本公开一个可选的实施例中，信息获取接口配置有安全控制开关，基于信息获取接口获取用户终端发送的网络流量信息，包括：
12.实时检测用户终端是否有生成网络流量信息；
13.若用户终端有生成网络流量信息，则打开安全控制开关，并基于信息获取接口获取用户终端发送的网络流量信息。
14.在本公开一个可选的实施例中，预设敏感信息为预设敏感词汇，对网络流量信息与预设敏感信息进行语义匹配，得到匹配结果，包括：
15.对网络流量信息进行预处理，将网络流量信息转换为待处理文本信息；
16.基于文本分词模型对待处理文本信息进行词汇分割处理，得到多个信息词汇；
17.基于语义匹配模型，分别确定各信息词汇与预设敏感词汇的匹配度，得到匹配结
果。
18.在本公开一个可选的实施例中，根据匹配结果判断网络流量信息中是否包含预设敏感信息，包括：
19.若所有的匹配度均小于预设阈值，则确定网络流量信息中不包含预设敏感信息；
20.若至少一个匹配度均不小于预设阈值，则确定网络流量信息中包含预设敏感信息。
21.在本公开一个可选的实施例中，预设敏感词汇的数量为多个，预设敏感信息为预设敏感词汇，对网络流量信息与预设敏感信息进行语义匹配，得到匹配结果，包括：
22.对网络流量信息进行预处理，将网络流量信息转换为待处理文本信息；
23.基于文本分词模型对待处理文本信息进行词汇分割处理，得到多个信息词汇；
24.分别确定各预设敏感词汇在多个信息词汇中出现的特征频次。
25.在本公开一个可选的实施例中，根据匹配结果判断网络流量信息中是否包含预设敏感信息，包括：
26.若各预设敏感词汇对应的特征频次均为0，则确定网络流量信息中不包含预设敏感信息；
27.若至少一个预设敏感词汇对应的特征频次不为0，则确定网络流量信息中包含特征频次不为0对应的预设敏感信息。
28.在本公开一个可选的实施例中，网络流量信息包含用户身份标识，对网络流量信息对应的用户进行屏蔽，包括：
29.基于用户身份标识从用户数据管理系统查找与用户身份标识对应的目标权限配置文件；
30.将目标权限配置文件中的消息发送权限配置为禁止发送消息。
31.第二方面，本公开一个实施例提供了一种用户面功能系统，该用户面功能系统包括：
32.获取模块，用于基于信息获取接口获取用户终端发送的网络流量信息；
33.匹配模块，用于对网络流量信息与预设敏感信息进行语义匹配，得到匹配结果；
34.判断模块，用于根据匹配结果判断网络流量信息中是否包含预设敏感信息；
35.屏蔽模块，用于若网络流量信息中包含预设敏感信息，则对网络流量信息进行屏蔽，并对网络流量信息对应的用户进行屏蔽。
36.第三方面，本公开一个实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上的方法。
37.第四方面，本公开一个实施例提供了一种电子设备，包括：处理器；以及存储器，用于存储处理器的可执行指令；其中，处理器配置为经由执行可执行指令来执行如上的方法。
38.本公开的技术方案具有以下有益效果：
39.上述网络流量信息处理方法直接在用户功能系统对接收到的网络流量进行敏感信息的筛检，直接从源头对敏感信息进行筛检过滤，可以有效避免包含有敏感信息的网络流量信息进一步流入大网而难以管控，大大提高针对敏感信息筛检的效率；同时，本公开实施例提供的网络流量信息处理方法不仅可以对包含有敏感信息的网络流量信息进行屏蔽处理，同时还可以对包含有敏感信息的网络流量信息对应的用户进行屏蔽处理，以防止该
用户再次发送包含有敏感信息的网络流量信息，或者对敏感信息进行进一步包装或转换后继续发送，从而可以有效提高针对敏感信息的处理安全性与处理可靠性。
40.应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
41.此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施方式，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
42.图1示出本示例性实施方式中一种网络流量信息处理方法的应用场景示意图；
43.图2示出本示例性实施方式中一种网络流量信息处理方法的流程图；
44.图3示出本示例性实施方式中一种网络流量信息处理方法的流程图；
45.图4示出本示例性实施方式中一种网络流量信息处理方法的流程图；
46.图5示出本示例性实施方式中一种网络流量信息处理方法的流程图；
47.图6示出本示例性实施方式中一种网络流量信息处理方法的流程图；
48.图7示出本示例性实施方式中一种网络流量信息处理方法的流程图；
49.图8示出本示例性实施方式中一种网络流量信息处理方法的流程图；
50.图9示出本示例性实施方式中一种用户面功能系统结构示意图；
51.图10示出本示例性实施方式中一种电子设备的结构示意图。
具体实施方式
52.现在将参考附图更全面地描述示例性实施方式。然而，示例性实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例性实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
53.此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
54.附图中所示的流程图仅是示例性说明，不是必须包括所有的步骤。例如，有的步骤还可以分解，而有的步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
55.相关技术中，随着信息技术的不断发展，人们日常沟通交流很大一部分转移为了
网络信息交流，但是在网络信息进行交流过程中可能会涉及到例如暴力、政治、恐怖、色情等危害公共安全的各种敏感信息，对于该类敏感信息必须及时剔除，以保障网络文明与公共安全。
56.目前针对该类敏感信息的剔除方式主要包括如下两种：第一种方式，通过人工审核，以对网络信息中存在的敏感信息进行筛检，该种方法虽然准确性较高，但是人工筛检耗时长，效率过低；第二种方式，运营商屏蔽处理，也就是在将网络信息发送到各运营商服务器之后，由各运营商在各自的服务器中对接收到的网络信息进行筛检，屏蔽掉敏感信息，但是不同网络交流软件或网络信息平台对应的运营商不同，其服务器也分散于全国各地，无法统一进行处理，效率也较低。
57.因此，目前针对敏感信息的筛检效率均较低。
58.鉴于上述问题，本公开实施例提供了一种网络流量信息处理方法直接在用户功能系统对接收到的网络流量进行敏感信息的筛检，直接从源头对敏感信息进行筛检过滤，可以有效避免包含有敏感信息的网络流量信息进一步流入大网而难以管控，大大提高针对敏感信息筛检的效率；同时，本公开实施例提供的网络流量信息处理方法不仅可以对包含有敏感信息的网络流量信息进行屏蔽处理，同时还可以对包含有敏感信息的网络流量信息对应的用户进行屏蔽处理，以防止该用户再次发送包含有敏感信息的网络流量信息，或者对敏感信息进行进一步包装或转换后继续发送，从而可以有效提高针对敏感信息的处理安全性与处理可靠性。
59.以下对本公开实施例提供的网络信息处理方法的应用环境作简单介绍：
60.请参见图1，本公开实施例应用于通信安全控制系统10，该通信安全控制系统10至少包括：多个用户终端101和控制终端102。其中，该用户终端 101的数量为多个，分别用于对应的用户发送网络信息或接收网络信息；控制终端102是指通信运营商的管理终端。需要指出的是，该控制终端102配置有用户面功能(upf，user plane function)系统，该用户面功能系统是5g 的核心网络系统之一，和gnodeb等通过ng3接口进行逻辑互联，以实现分组路由和转发、数据包检查、用户平面部分策略实施等。该用户面功能系统的结构包括：信息获取接口、策略配置模块、信息处理模块、分组路由和转发模块等。其中，信息获取接口用于从外部设备获取网络流量信息；策略配置模块对外开放，用于工作人员对其内部信息、模块等的策略进行配置；信息处理模块用于对接收到的信息或产生的信息进行过滤、屏蔽、转换等处理；分组路由和转发模块用于将接收到的信息或经过信息处理模块处理后的信息进行分组路由，或者转发至其他设备。
61.下面以上述控制终端102为执行主体，将该网络信息处理方法应用于上述的控制终端102中，对用户终端101发送的网络流量信息进行安全控制为例进行举例说明。请参见图2，本公开实施例提供的网络信息处理方法包括如下步骤201-步骤204：
62.步骤201、控制终端基于信息获取接口获取用户终端发送的网络流量信息。
63.网络流量信息是指用户通过用户终端发送的用于通信交流的信息，例如 qq、微信、短信等即时信息，或者贴吧、论坛、微博等平台交流信息，本实施例不作具体限定。一台用户终端可以对应一个用户发送一条或多条网络流量信息；一台用户终端也可以对应多个用户，分别发送各自需要发送的网络流量信息，例如，一台电脑可以同时登录多个qq账号，不同qq账号发送各自的qq消息，或者一部手机可以同时插入多张sim卡，不同的sim卡对应
的不同的账号发送各自的短信、飞信、微信等网络流量信息。
64.用户通过各自的用户终端向控制终端发送各自的网络流量信息，控制终端通过内部配置的用户面功能系统中的信息获取接口实时或者按照一定周期获取各用户终端发送来的网络流量信息。
65.步骤202、控制终端对网络流量信息与预设敏感信息进行语义匹配，得到匹配结果。
66.控制终端从信息获取接口获取得到网络流量信息后，可以通过如下几种方式进行语义匹配：
67.第一种方式，控制终端将网络流量信息输入至预先训练得到的语义识别模型，然后通过该语义识别模型可以直接识别得到网络流量信息中的预设敏感信息；其中，该语义识别模型是基于大量预设敏感信息训练得到的语义识别模型；第二种方式，控制终端基于预设敏感信息在网络流量信息中进行逐一检索，以确定网络流量信息中是否包含有预设敏感信息；第三种方式，先对网络流量信息进行分词处理，然后分别判断各分词与预设敏感信息的匹配度。
68.步骤203、控制终端根据匹配结果判断网络流量信息中是否包含预设敏感信息。
69.控制终端根据匹配结果确定网络流量信息中是否包含预设敏感信息。例如：
70.针对如上第一种方式，语义识别模型直接输出是否包含预设敏感信息的结果，控制终端直接通过该语义识别模型得到判断结果，无需再进行进一步判断，识别效果更好，且效率更高；
71.针对如上第二种方式，若任意一个预设敏感信息在网络流量信息中出现的特征频次不为0，则确定该网络流量信息中包含有预设敏感信息；若所有的预设敏感信息在网络流量信息中出现的特征频次均为0，则确定该网络流量信息中不包含预设敏感信息；检索方式简单，且准确性高。
72.针对如上第三种方式，若任意一个分词与预设敏感信息的匹配度大于预设阈值，例如70％，80％等，则确定网络流量信息中包含预设敏感信息；若所有的分词与预设敏感信息的匹配度小于或等于预设阈值，则确定网络流量信息中不包含预设敏感信息。通过该种分词方式，不仅可以高效的确定网络流量信息中是否包含预设敏感信息，还可以对网络信息中的敏感信息进行准确定位，敏感信息的识别效果更佳。
73.步骤204、若网络流量信息中包含预设敏感信息，控制终端则对网络流量信息进行屏蔽，并对网络流量信息对应的用户进行屏蔽。
74.控制终端一旦发现某条网络流量信息中包含有预设敏感信息，则对该条网络流量信息进行屏蔽。其中，本公开实施例中的屏蔽是指在用户面功能系统阻止该网络流量信息进一步下发至路由或转发模块，以避免该包含有敏感信息的网络流量信息进入大网。例如可以阻止网络流量信息转发至目标网络 (dn，destination network)。同时，控制设备在对该网络流量信息进行屏蔽的同时，进一步对网络流量信息对应的用户进行屏蔽，以防止该用户继续发送其他敏感信息或者对敏感信息进行包装或转换而再次发送。
75.本公开实施例提供的网络流量信息处理方法直接在用户功能系统对接收到的网络流量进行敏感信息的筛检，直接从源头对敏感信息进行筛检过滤，可以有效避免包含有敏感信息的网络流量信息进一步流入大网而难以管控，大大提高针对敏感信息筛检的效
率；同时，本公开实施例提供的网络流量信息处理方法不仅可以对包含有敏感信息的网络流量信息进行屏蔽处理，同时还可以对包含有敏感信息的网络流量信息对应的用户进行屏蔽处理，以防止该用户再次发送包含有敏感信息的网络流量信息，或者对敏感信息进行进一步包装或转换后继续发送，从而可以有效提高针对敏感信息的处理安全性与处理可靠性。
76.请参见图3，在本公开一个可选实施例中，信息获取接口配置有安全控制开关，上述步骤201、控制终端基于信息获取接口获取用户终端发送的网络流量信息，包括如下步骤301-步骤302：
77.步骤301、控制终端实时检测用户终端是否有生成网络流量信息。
78.控制终端可以通过如下两种方式检测用户终端是否生成网络流量信息：第一种方式，各用户终端实时监测各自的网络流量信息状态，一旦有新增的网络流量信息，则立即更新各自的网络流量信息状态，并向控制终端发送状态更新指令，控制终端一旦接收到了该状态更新指令，则确定当前用户终端有新生成的网络流量信息，未接收到该状态更新指令，则确定用户终端当前未有新生成的网络流量信息。第二种方式，控制终端信息获取接口配置信息检测程序，基于该信息检测程序实时检测是否有网络流量信息接入；该信息检测程序用于检测当前是否有产生网络流量，若检测有网络流量接入，则确定用户终端生成有网络流量信息；若未检测到有网络流量接入，则确定用户终端未生成有网络流量信息。
79.步骤302、若用户终端有生成网络流量信息，控制终端则打开安全控制开关，并基于信息获取接口获取用户终端发送的网络流量信息。
80.控制终端通过步骤301一旦确定用户终端生成有网络流量信息，则打开配置于信息获取接口配置的安全控制开关，通过信息获取接口获取用户终端发送的网络流量信息。
81.本公开实施例在用户终端生成有网络流量信息的情况下，再打开安全控制开关以接收用户终端发送的网络流量信息，在其他情况下，均关闭该安全控制开发，以避免用户面功能系统接收过多其他无用信息而影响其信息处理的效率，以进一步保证本公开实施例提供的网络流量信息处理方法的处理效率。
82.在一个可选的实施例中，工作人员可以根据历史数据或者历史经验设定一个针对安全控制开关的切换周期，配置该安全控制开关在预设周期内处于关闭状态，以方便工作人员进行内部信息修改、测试等工作；在处于该预设周期之外的其他时间区间保持该安全控制处于打开状态，以通过信息获取接口实时获取用户终端发送的网络流量信息。当然，在另一个可选的实施例中，可以将该安全控制开关的状态控制对外开放，通过工作人员进行灵活控制。
83.请参见图4，在本公开一个可选实施例中，预设敏感信息为预设敏感词汇，上述步骤202、控制终端对网络流量信息与预设敏感信息进行语义匹配，得到匹配结果，包括如下步骤401-步骤403：
84.步骤401、控制终端对网络流量信息进行预处理，将网络流量信息转换为待处理文本信息。
85.网络流量信息的形式可能包括文字、图片、视频、音频等，控制终端在接收到该网络流量信息后先进行格式转换，转换为文本形式，以方便处理。其中，若网络流量信息为图片，可以通过预先存储的文字识别模型对其中的文字信息进行提取，以形成待处理文本信
息；若网络流量信息为视频或音频形式，则通过视频或音频转换软件，以将其中的声音信息转换为文本信息。
86.步骤402、控制终端基于文本分词模型对待处理文本信息进行词汇分割处理，得到多个信息词汇。
87.控制终端在通过步骤401得到待处理文本信息后，基于内部预先存储的文本分词模型对待处理文本信息进行词汇分割处理，从而得到多个信息词汇。该文本分词模型可以为隐马尔可夫模型、条件随机场模型等分词模型，本实施例不作具体限定，可根据实际情况具体选择，只需要可以实现将待处理文本信息分割为多个信息词汇的功能即可。
88.步骤403、控制终端基于语义匹配模型，分别确定各信息词汇与预设敏感词汇的匹配度，得到匹配结果。
89.先对网络流量信息进行分词处理，然后如上步骤202中的第三种方式，分别确定各信息词汇与预设敏感词汇之间的匹配度。本实施例基于语义匹配模型对各信息词汇与预设敏感词汇之间的匹配度进行一一计算，其中，该语义匹配模型可以为lstm匹配模型、mv-dssm[3]模型、esim[4]模型等，本实施例不作任何限定，可根据实际情况具体选择，只需要确定得到各信息词汇与预设敏感词汇的匹配度即可。
[0090]
本公开实施例先将网络流量信息预处理为待处理文本信息，可以方便后续进行统一处理，可以有效提高信息处理效率；同时，本公开实施例基于文本分词模型将待处理文本信息分割为多个信息词汇，最后只需要基于语义匹配模型分别确定各信息词汇与预设敏感词汇的匹配度即可，匹配结果准确，且匹配准确性更高。因此，本公开实施例在提高匹配准确性的前提下，从多个维度提高匹配效率，进一步在保证信息处理准确性的前提下提高本公开实施例体用的网络信息处理效率。
[0091]
请参见图5，在本公开一个可选实施例中，上述步骤203控制终端根据匹配结果判断网络流量信息中是否包含预设敏感信息，包括如下步骤501-步骤502：
[0092]
步骤501、若所有的匹配度均小于预设阈值，控制终端则确定网络流量信息中不包含预设敏感信息。
[0093]
如上步骤203，例如预设阈值为80％，若所有的信息词汇与预设敏感信息的匹配度均小于或等于80％，则确定网络流量信息中不包含预设敏感信息。当然，本实施例对于预设阈值的具体数值不作具体限定，可根据实际情况具体设定。
[0094]
步骤502、若至少一个匹配度均不小于预设阈值，控制终端则确定网络流量信息中包含预设敏感信息。
[0095]
如上步骤501，若任意一个信息分词与预设敏感信息的匹配度大于80％等，则确定网络流量信息中包含预设敏感信息。
[0096]
本公开实施例通过先分词处理，然后再判断各信息分词与预设敏感信息的匹配度与预设阈值之间的相对大小来确定网络流量信息中是否包含预设敏感信息，通过该种分词方式，不仅可以高效的确定网络流量信息中是否包含预设敏感信息，还可以对网络信息中的敏感信息进行准确定位，敏感信息的识别效果更佳。
[0097]
请参见图6，在本公开一个可选实施例中，预设敏感词汇的数量为多个，预设敏感信息为预设敏感词汇，上述步骤202、控制终端对网络流量信息与预设敏感信息进行语义匹配，得到匹配结果，包括如下步骤601-步骤603：
[0098]
步骤601、控制终端对网络流量信息进行预处理，将网络流量信息转换为待处理文本信息。
[0099]
如上步骤401，网络流量信息的形式可能包括文字、图片、视频、音频等，控制终端在接收到该网络流量信息后先进行格式转换，转换为文本形式，以方便处理。其中，若网络流量信息为图片，可以通过预先存储的文字识别模型对其中的文字信息进行提取，以形成待处理文本信息；若网络流量信息为视频或音频形式，则通过视频或音频转换软件，以将其中的声音信息转换为文本信息。
[0100]
步骤602、控制终端基于文本分词模型对待处理文本信息进行词汇分割处理，得到多个信息词汇。
[0101]
如上步骤402，控制终端在得到待处理文本信息后，基于内部预先存储的文本分词模型对待处理文本信息进行词汇分割处理，从而得到多个信息词汇。该文本分词模型可以为隐马尔可夫模型、条件随机场模型等分词模型，本实施例不作具体限定，可根据实际情况具体选择，只需要可以实现将待处理文本信息分割为多个信息词汇的功能即可。例如，待处理文本为“我刚看到《今日说法》中有一个片段是有人在a处做b事情”，将该待处理文本信息输入至文本分词模型中，即可得到“我/刚/看到/今日/说法/中/有一个/片段/ 是/有人/在/a处/做/b事情”，这14个信息词汇。
[0102]
步骤603、控制终端分别确定各预设敏感词汇在多个信息词汇中出现的特征频次。
[0103]
控制终端在得到多个信息词汇后，然后基于预设敏感词汇在该多个信息词汇中进行逐一检索，以确定每个词汇在多个信息词汇中出现的特征频次。例如预设敏感词汇包括“b事情”、“c事情”，针对如上步骤602中“我/刚/ 看到/今日/说法/中/有一个/片段/是/有人/在/a处/做/b事情”，这14个信息词汇”，先查找“b事情”在这14个信息词汇中出现的特征频次为1；然后再查找“c事情”在这14个信息词汇中出现的特征频次为0次。
[0104]
本公开实施例先将网络流量信息转换为待处理文本信息，然后基于文本分词模型对待处理文本信息进行词汇分割处理得到多个信息词汇后，最后分别确定各预设敏感词汇在多个信息词汇中出现的特征频次，基于特征频次确定网络流量信息中是否包含预设敏感信息。该种方式在预设敏感信息较少时，可以大大提高敏感信息的查找速度，同时可以有利于对各敏感信息的出现权重进行统计分析，不仅可以提高本次的网络流量信息处理效率，还有利于后期进行信息分析处理。
[0105]
请参见图7，在本公开一个可选实施例中，上述步骤203控制终端根据匹配结果判断网络流量信息中是否包含预设敏感信息，包括如下步骤701-步骤702：
[0106]
步骤701、若各预设敏感词汇对应的特征频次均为0，控制终端则确定网络流量信息中不包含预设敏感信息。
[0107]
例如预设敏感词汇的数量为5个，那么这5个词汇的出现频次均为0的时候，则确定该条网络流量信息中不包含预设敏感信息，可以正常处理，例如通过路由转发模块进行信息下发或转发。
[0108]
步骤702、若至少一个预设敏感词汇对应的特征频次不为0，控制终端则确定网络流量信息中包含特征频次不为0对应的预设敏感信息。
[0109]
例如针对上述步骤603中，敏感词汇“c事情”的特征频次为0，但是“b 事情”的特征频次为1，则确定该条网络流量信息中仍包含有预设敏感信息，则需要对该条网络流量信息
进行处理，例如进一步筛检、屏蔽或阻隔。
[0110]
本公开实施例基于特征频次是否均为0来确定网络流量信息中是否包含预设敏感信息，在预设敏感信息较少时，可以大大提高敏感信息的查找速度以及敏感信息确定的可靠性。
[0111]
请参见图8，在本公开一个可选实施例中，网络流量信息包含用户身份标识，上述步骤204、控制终端对网络流量信息对应的用户进行屏蔽，包括如下步骤801-步骤802：
[0112]
步骤801、控制终端基于用户身份标识从用户数据管理系统查找与用户身份标识对应的目标权限配置文件。
[0113]
用户数据管理系统中存储有不同的用户的签约信息与该用户的权限配置文件，权限配置文件与用户身份一一对应。其中，该用户数据管理系统可以为用户数据请求(udr，user data request)系统，控制终端接收到的网络流量信息包含有用户身份标识，该用户身份标识可以为id、身份账号等均可，本公开实施例不作具体限定。控制终端基于该用户身份标识在用户管理系统中进行查询，基于用户身份与权限配置文件一一对应的关系得到该用户身份标识对应的目标权限配置文件，该权限配置文件是指用户可执行的功能项目，例如发送消息、接收消息等。
[0114]
步骤802、控制终端将目标权限配置文件中的消息发送权限配置为禁止发送消息。
[0115]
控制终端一旦确定该网络流量信息中包含有预设敏感信息，则基于步骤 801查找到该条网络流量信息对应用户的目标权限配置文件，并将该目标权限配置文件中发送消息的权限修改为禁止，以防止该用户继续发送涉及有敏感信息的消息出去。
[0116]
本公开实施例直接通过用户数据管理系统中的目标权限配置文件来对用户的消息发送权限进行禁止，不仅屏蔽了包含敏感信息的网络流量信息，还禁止了对应用户的消息发送权限，可以有效避免用户进一步发送一些不良信息，从而提高敏感信息的处理效果，以保证网络通信的安全性与可靠性。
[0117]
请参见图9，为了实现上述业务处理方法，本公开的一个实施例中提供了一种用户面功能系900。图9示出了用户面功能系统900的示意性架构图。
[0118]
其中，该用户面功能系900包括：获取模块910、匹配模块920、判断模块930和屏蔽模块940。
[0119]
获取模块910，用于基于信息获取接口获取用户终端发送的网络流量信息；
[0120]
匹配模块920，用于对网络流量信息与预设敏感信息进行语义匹配，得到匹配结果；
[0121]
判断模块930，用于根据匹配结果判断网络流量信息中是否包含预设敏感信息；
[0122]
屏蔽模块940，用于若网络流量信息中包含预设敏感信息，则对网络流量信息进行屏蔽，并对网络流量信息对应的用户进行屏蔽。
[0123]
在一个可选的实施例中，信息获取接口配置有安全控制开关，该获取模块910具体用于，实时检测用户终端是否有生成网络流量信息；若用户终端有生成网络流量信息，则打开安全控制开关，并基于信息获取接口获取用户终端发送的网络流量信息。
[0124]
在一个可选的实施例中，预设敏感信息为预设敏感词汇，该匹配模块920 具体用于，对网络流量信息进行预处理，将网络流量信息转换为待处理文本信息；基于文本分词模型对待处理文本信息进行词汇分割处理，得到多个信息词汇；基于语义匹配模型，分别确定
各信息词汇与预设敏感词汇的匹配度，得到匹配结果。
[0125]
在一个可选的实施例中，该判断模块930具体用于，若所有的匹配度均小于预设阈值，则确定网络流量信息中不包含预设敏感信息；若至少一个匹配度均不小于预设阈值，则确定网络流量信息中包含预设敏感信息。
[0126]
在一个可选的实施例中，预设敏感词汇的数量为多个，预设敏感信息为预设敏感词汇，该匹配模块920具体用于，对网络流量信息进行预处理，将网络流量信息转换为待处理文本信息；基于文本分词模型对待处理文本信息进行词汇分割处理，得到多个信息词汇；分别确定各预设敏感词汇在多个信息词汇中出现的特征频次。
[0127]
在一个可选的实施例中，该判断模块930具体用于，若各预设敏感词汇对应的特征频次均为0，则确定网络流量信息中不包含预设敏感信息；若至少一个预设敏感词汇对应的特征频次不为0，则确定网络流量信息中包含特征频次不为0对应的预设敏感信息。
[0128]
在一个可选的实施例中，该屏蔽模块940具体用于，基于用户身份标识从用户数据管理系统查找与用户身份标识对应的目标权限配置文件；将目标权限配置文件中的消息发送权限配置为禁止发送消息。
[0129]
本公开的示例性实施方式还提供了一种计算机可读存储介质，可以实现为一种程序产品的形式，其包括程序代码，当程序产品在电子设备上运行时，程序代码用于使电子设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。在一种实施方式中，该程序产品可以实现为便携式紧凑盘只读存储器(cd-rom)并包括程序代码，并可以在电子设备，例如个人电脑上运行。然而，本公开的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
[0130]
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
[0131]
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
[0132]
可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。
[0133]
可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如java、c 等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计
算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。在本公开实施例中，计算机可读存储介质中存储的程序代码被执行时可以实现如上一种网络流量信息处理方法中的任一步骤。
[0134]
请参见图10，本公开的示例性实施方式还提供了一种电子设备1000，可以是信息平台的后台服务器。下面参考图10对该电子设备1000进行说明。应当理解，图10显示的电子设备1000仅仅是一个示例，不应对本公开实施方式的功能和使用范围带来任何限制。
[0135]
如图10所示，电子设备1000以通用计算设备的形式表现。电子设备1000 的组件可以包括但不限于：至少一个处理单元1010、至少一个存储单元1020、连接不同系统组件(包括存储单元1020和处理单元1010)的总线1030。
[0136]
其中，存储单元存储有程序代码，程序代码可以被处理单元1010执行，使得处理单元1010执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如，处理单元1010可以执行如图2所示的方法步骤等。
[0137]
存储单元1020可以包括易失性存储单元，例如随机存取存储单元 (ram)1021和/或高速缓存存储单元1022，还可以进一步包括只读存储单元(rom)1023。
[0138]
存储单元1020还可以包括具有一组(至少一个)程序模块1025的程序/ 实用工具1024，这样的程序模块1025包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
[0139]
总线1030可以包括数据总线、地址总线和控制总线。
[0140]
电子设备1000也可以与一个或多个外部设备1100(例如键盘、指向设备、蓝牙设备等)通信，这种通信可以通过输入/输出(i/o)接口1040进行。电子设备1000还可以通过网络适配器1050与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。如图所示，网络适配器1050通过总线1030与电子设备1000的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备1000使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid 系统、磁带驱动器以及数据备份存储系统等。
[0141]
在本公开实施例中，电子设备中存储的程序代码被执行时可以实现如上一种网络流量信息处理方法中的任一步骤。
[0142]
应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的示例性实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
[0143]
所属技术领域的技术人员能够理解，本公开的各个方面可以实现为系统、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施方式。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施方式仅被视为示例性的，本公开的真
正范围和精神由权利要求指出。
[0144]
应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限定。