异常消息处理方法、平台、系统及存储介质与流程

1.本技术涉及通信技术领域，尤其涉及一种异常消息处理方法、平台、系统及存储介质。


背景技术：

2.富媒体消息是指包含文本、语音、图片、音频、视频中至少一种信息的新型短信。富媒体消息也称为5g消息或5g短信。5g消息业务具有极其便捷的特性，因此，5g消息业务将成为5g时代的重要通信业务。
3.为了保障5g消息业务良好的通信环境，运营商的消息转发平台采用异常消息拦截方法，对5g消息业务中诸如垃圾短信之类的异常消息进行拦截。现有的异常消息拦截方法主要为消息转发平台基于用户黑名单，对用户黑名单中用户标识对应的发送终端所发送的富媒体消息进行拦截。用户黑名单中用户标识对应的发送终端所发送的富媒体消息属于异常消息。用户标识例如用户手机号码。其中，用户标识是按如下方式被加入用户黑名单的：接收终端收到富媒体消息后，若接收终端的用户认为该富媒体消息是异常消息，则用户通过接收终端对发送该富媒体消息的发送终端的用户标识进行异常标记，生成上报信息，并将上报信息上报到消息转发平台。该上报信息包括接收终端所接收的疑似异常的富媒体消息的消息标识和异常标记后的用户标识。消息转发平台基于各用户标识被异常标记的次数，将被异常标记次数达到预设阈值的用户标识加入用户黑名单。消息标识例如存储富媒体消息的地址。
4.在用户标识被误标记的情况下，现有的异常消息拦截方法，存在被误标记的用户标识被误加入用户黑名单的问题。


技术实现要素：

5.本技术提供一种异常消息处理方法、平台、系统及存储介质，以解决在用户标识被误标记的情况下，现有的异常消息拦截方法，存在被误标记的用户标识被误加入用户黑名单的问题。
6.第一方面，本技术提供一种异常消息处理方法，包括：
7.获取富媒体消息的接收终端发送的上报信息，所述上报信息包含所述富媒体消息；所述富媒体消息包括所述富媒体消息的发送终端的用户标识以及富媒体消息内容；
8.对所述富媒体消息内容进行审核处理，确定所述富媒体消息内容中是否包含异常关键词；
9.若确定所述富媒体消息内容中包含异常关键词，则对所述发送终端的信用状态进行审核处理，得到审核处理结果；
10.若所述审核处理结果满足用户黑名单的加入条件，则将所述发送终端的用户标识加入所述用户黑名单，所述用户黑名单用于异常消息的拦截。
11.可选的，所述若确定所述富媒体消息内容中包含异常关键词，则对所述发送终端
的信用状态进行审核处理，得到审核处理结果，包括：
12.若确定所述富媒体消息内容中包含异常关键词，则对所述发送终端的信用状态进行调整，得到调整后的信用状态；
13.将所述调整后的信用状态与用户黑名单的加入条件进行匹配审核，确定所述调整后的信用状态与所述用户黑名单的加入条件是否匹配。
14.可选的，所述若确定所述富媒体消息内容中包含异常关键词，则对所述发送终端的信用状态进行调整，得到调整后的信用状态，包括：
15.若确定所述富媒体消息内容中包含异常关键词，则基于所述富媒体消息内容中所包含的异常关键词，确定所述富媒体消息的危害等级；
16.按所述危害等级对应的状态值调整幅度，对所述发送终端的信用状态值进行调整，得到调整后的信用状态值。
17.可选的，所述对所述富媒体消息内容进行审核处理，确定所述富媒体消息内容中是否包含异常关键词，包括：
18.基于异常关键词库，对所述富媒体消息内容进行识别，确定所述富媒体消息内容中是否包含所述异常关键词库中的异常关键词。
19.可选的，在所述基于异常关键词库，对所述富媒体消息内容进行识别，确定所述富媒体消息内容中是否包含所述异常关键词库中的异常关键词之后，所述方法还包括：
20.若确定所述富媒体消息内容中不包含所述异常关键词库中的异常关键词，则将所述富媒体消息的人工审核请求发送给人工审核装置，并接收所述人工审核装置响应人工审核请求所返回的人工确认信息；所述人工确认信息为表征所述富媒体消息内容中包含人工确定的异常关键词的信息；所述人工审核请求包括所述富媒体消息。
21.可选的，在所述接收所述人工审核装置响应人工审核请求所返回的人工确认信息之后，所述方法还包括：
22.基于所述人工确定的异常关键词，对所述异常关键词库进行更新，并将更新后的异常关键词库进行跨运营商平台的区块链存储。
23.可选的，在所述将所述发送终端的用户标识加入所述用户黑名单之后，所述方法还包括：
24.基于异常关键词库，确定待转发给所述接收终端的富媒体消息是否为富媒体消息内容包含异常关键词的待拦截消息；
25.若确定所述富媒体消息为待拦截消息，则对所述富媒体消息进行拦截。
26.可选的，在所述将所述发送终端的用户标识加入所述用户黑名单之后，所述方法还包括：
27.将所述用户黑名单进行跨运营商平台的区块链存储。
28.第二方面，本技术提供一种异常消息处理平台，所述平台包括：收发模块、过滤模块和共享模块；其中，
29.所述收发模块，用于获取富媒体消息的接收终端发送的上报信息，所述上报信息包含所述富媒体消息；所述富媒体消息包括所述富媒体消息的发送终端的用户标识以及富媒体消息内容；
30.所述过滤模块，用于对所述富媒体消息内容进行审核处理，确定所述富媒体消息
内容中是否包含异常关键词；若确定所述富媒体消息内容中包含异常关键词，则对所述发送终端的信用状态进行审核处理，得到审核处理结果；
31.所述共享模块，用于若所述审核处理结果满足用户黑名单的加入条件，则将所述发送终端的用户标识加入所述用户黑名单，所述用户黑名单用于异常消息的拦截。
32.第三方面，本技术提供一种异常消息处理系统，所述系统包括：至少两个运营商各自的运营商平台；
33.所述运营商平台，用于执行如上所述的方法；
34.所述运营商平台，还用于在将所述发送终端的用户标识加入所述用户黑名单之后，对所述用户黑名单进行哈希运算，得到所述用户黑名单的哈希值，并将所述哈希值上链存储到所述系统各运营商平台共同维护的跨运营商平台的用户黑名单区块链中。
35.第四方面，本技术提供一种异常消息处理装置，包括：
36.处理器和存储器；
37.所述存储器存储所述处理器可执行的可执行指令；
38.其中，所述处理器执行所述存储器存储的可执行指令，使得所述处理器执行如上所述的方法。
39.第五方面，本技术提供一种存储介质，所述存储介质中存储有计算机执行指令，所述计算机执行指令被处理器执行时用于实现如上所述的方法。
40.本技术提供的异常消息处理方法及平台，通过对上报信息中的富媒体消息内容和富媒体消息的发送终端的信用状态进行审核处理，得到审核处理结果，在审核处理结果满足用户黑名单的加入条件后，才将发送终端的用户标识加入用户黑名单，避免了用户终端误发送上报信息，造成上报信息对应发送终端用户标识被误加入用户黑名单的问题。本技术解决了在用户标识被误标记的情况下，现有的异常消息拦截方法，存在被误标记的用户标识被误加入用户黑名单的问题。
附图说明
41.此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本技术的实施例，并与说明书一起用于解释本技术的原理。
42.图1为现有的异常消息拦截系统架构图；
43.图2为本技术实施例提供的异常消息处理系统架构图；
44.图3为本技术实施例提供的异常消息处理方法流程图；
45.图4为本技术实施例提供的异常消息处理平台结构图；
46.图5为本技术实施例提供的异常消息处理系统结构图；
47.图6为本技术实施例提供的异常消息处理装置结构图。
48.通过上述附图，已示出本技术明确的实施例，后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本技术构思的范围，而是通过参考特定实施例为本领域技术人员说明本技术的概念。
具体实施方式
49.为使本技术实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例
中的附图，对本技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本技术中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本技术保护的范围。
50.5g消息业务集成了多种移动通讯标准协议，用户可以通过终端以短信形式向其他终端发送视频、图片、文本等内容的富媒体消息。发送富媒体消息的终端无需安装任何插件或更新终端。接收富媒体消息的终端基于用户标识即可接收富媒体消息，用户标识可以为诸如手机号码、设备端口号码等标识。5g消息业务的便捷性，将促使5g消息业务成为5g时代的重要通信业务。
51.在5g消息业务中，为了遏制诸如垃圾短信之类的异常消息对用户财产和个人隐私造成的危害，构建健康良好的通信环境，目前各运营商采用异常消息拦截方法对异常消息进行拦截。图1为现有的异常消息拦截系统架构图。如图1所示，该系统架构包括运营商的消息转发平台11和消息转发平台11下属管辖的至少一个终端12。消息转发平台11诸如运营商的maap(messaging as a platform)平台。富媒体消息的发送终端12将富媒体消息发送到消息转发平台11，再由消息转发平台11将该富媒体消息转发到该富媒体消息的接收终端12，从而实现5g消息业务中两个终端12之间的通信。消息转发平台11在转发富媒体消息之前，基于预先存储的用户黑名单，确定待转发的富媒体消息是否是用户黑名单中用户标识对应终端12发送的富媒体消息。用户标识可以是移动用户识别码(international mobile subscriber identification number，简称：imsi)。用户黑名单中用户标识对应终端在本技术中简称黑名单用户的终端。若消息转发平台11确定待转发的富媒体消息是黑名单用户的终端12发送的富媒体消息，则对该富媒体消息进行拦截，即实现对异常消息的拦截。若消息转发平台11确定待转发的富媒体消息不是黑名单用户的终端12发送的富媒体消息，则将该富媒体消息转发给该富媒体消息的接收终端12。其中，用户标识是通过如下方式被加入用户黑名单的：接收终端12收到富媒体消息后，若该终端12的用户认为该富媒体消息是异常消息，则用户通过接收终端12对该富媒体消息发送终端12的用户标识进行异常标记，生成上报信息，并将上报信息上报到消息转发平台11。消息转发平台11基于各用户标识被异常标记的次数，将被异常标记次数达到预设阈值的用户标识加入用户黑名单。
52.现有的异常消息拦截方法，主要通过确定用户标识的被异常标记次数是否达到加入用户黑名单的预设阈值，来确定是否将用户标识加入用户黑名单。消息转发平台11默认接收终端12每一次异常标记行为均为正确无误的标记行为，而并未考虑接收终端12存在的误标记行为。正确无误的标记行为对于待加入用户黑名单的用户标识的确定是积极有效的，但误标记行为对于待加入用户黑名单的用户标识的确定是无效且会产生不利影响的。当误标记行为频繁发生时，将导致非异常富媒体消息的发送终端12的用户标识被误标记而被误加入用户黑名单，进而影响其正常通信。由此可见，现有的异常消息拦截方法，在用户标识被误标记上报的情况下，存在被误标记的用户标识被误加入用户黑名单的问题。
53.对此，本技术提供一种异常消息处理方法，通过对接收终端每次的上报信息中富媒体消息内容和发送终端的信用状态进行审核处理，在审核处理结果满足用户黑名单加入条件后才将发送终端的用户标识加入用户黑名单，实现了对接收终端所执行的上报行为是否为正常无误的上报行为的精准审核，从而解决在用户标识被误标记的情况下，现有的异常消息拦截方法存在被误标记的用户标识被误加入用户黑名单的问题。
54.下面结合部分实施例对本技术提供的异常消息处理方法进行说明。为便于理解，本技术中发送终端指发送富媒体消息的终端，接收终端是指接收富媒体消息的终端。
55.图2为本技术实施例提供的异常消息处理系统架构图。该架构包括至少一个终端12、消息处理平台21、人工审核装置22。在5g消息业务中，富媒体消息的发送终端12将富媒体消息发送到消息处理平台21，由消息处理平台21将该富媒体消息转发到该富媒体消息的接收终端12，实现两个终端12之间的通信。消息处理平台21在收到待转发的富媒体消息后，将对收到的富媒体消息进行存储。消息处理平台21在转发富媒体消息之前，基于预先存储的用户黑名单，确定待转发的富媒体消息是否是黑名单用户的终端12发送的富媒体消息。若消息处理平台21确定待转发的富媒体消息是黑名单用户的终端12发送的富媒体消息，则对该富媒体消息进行拦截，以实现对异常消息的拦截。若消息处理平台21确定待转发的富媒体消息不是黑名单用户的终端12发送的富媒体消息，则对该富媒体消息放行转发给该富媒体消息的接收终端12。
56.消息处理平台21还存储了用户白名单。用户白名单和用户黑名单均属于用户名单。用户白名单包括用户白名单中各用户标识的用户基本信息，用户黑名单包括用户黑名单中各用户标识的用户基本信息。其中，用户基本信息包括用户标识与信用状态的对应关系。
57.示例性地，消息处理平台21按如下方式对异常消息进行拦截：消息处理平台21获取富媒体消息的接收终端12发送的上报信息，该上报信息包括富媒体消息，该富媒体消息包括该富媒体消息的发送终端的用户标识以及富媒体消息内容。消息处理平台21对富媒体消息内容进行审核处理，确定该富媒体消息内容中是否包含异常关键词。若确定富媒体消息内容中包含异常关键词，消息处理平台21则对发送终端12的信用状态进行审核处理，得到审核处理结果。其中，发送终端12的信用状态即发送终端12的用户标识所对应的信用状态。若该审核处理结果满足用户黑名单的加入条件，消息处理平台21则将发送终端12的用户标识加入用户黑名单，以采用该用户黑名单对待转发的富媒体消息进行审核拦截。
58.消息处理平台21与终端12之间的数据传输可以如图2所示进行直接传输。可选地，消息处理平台21与终端12之间的数据传输也可以通过如图1所示的消息转发平台11进行中转传输。图2所示的消息处理平台21与终端12进行直接通信的架构是优选的架构。
59.本实施例提供的异常消息处理方法，通过对上报信息中的富媒体消息内容和富媒体消息的发送终端的信用状态进行审核处理，得到审核处理结果，在审核处理结果满足用户黑名单的加入条件后，才将发送终端的用户标识加入用户黑名单，避免了用户终端误发送上报信息，造成上报信息对应发送终端的用户标识被误加入用户黑名单的问题。本技术解决了在用户标识被误标记的情况下，现有的异常消息拦截方法，存在被误标记的用户标识被误加入用户黑名单的问题。
60.下面结合图3所示实施例对本技术提供的异常信息处理方法进行详细说明。图3为本技术实施例提供的异常消息处理方法流程图。图3所示实施例的执行主体为图2所示实施例中的消息处理平台21。如图3所示，该方法包括：
61.s301、获取富媒体消息的接收终端发送的上报信息，上报信息包含富媒体消息；富媒体消息包括富媒体消息的发送终端的用户标识以及富媒体消息内容。
62.具体而言，消息处理平台21获取富媒体消息的接收终端12发送的上报信息。该上
报信息包含富媒体消息；富媒体消息包括富媒体消息的发送终端12的用户标识以及富媒体消息内容。
63.s302、对富媒体消息内容进行审核处理，确定富媒体消息内容中是否包含异常关键词。
64.具体而言，消息处理平台21对步骤s301获取的富媒体消息内容进行审核处理，确定富媒体消息内容中是否包含异常关键词。
65.示例性地，消息处理平台21基于异常关键词库，对步骤s301获取的富媒体消息内容进行识别，确定该富媒体消息内容中是否包含异常关键词库中的异常关键词。进一步地，若消息处理平台21确定富媒体消息内容中不包含异常关键词库中的异常关键词，消息处理平台21则将富媒体消息的人工审核请求发送给如图2所示的人工审核装置22，并接收人工审核装置22响应人工审核请求所返回的人工确认信息。其中，人工确认信息为表征富媒体消息内容中包含人工确定的异常关键词的信息；人工审核请求包括富媒体消息。进一步地，在消息处理平台21接收人工审核装置22响应人工审核请求所返回的人工确认信息之后，消息处理平台21基于人工确定的异常关键词，对异常关键词库进行更新，并将更新后的异常关键词库进行跨运营商平台的区块链存储。
66.消息处理平台21基于异常关键词库确定富媒体消息内容中是否包含异常关键词的方法，是确定富媒体消息内容是否包含异常关键词最快捷的方法。然而，跟随着5g消息业务的发展，往往存在某些富媒体消息内容中包含异常关键词没有被异常关键词库收录的情况，这些没有被异常关键词库收录的异常关键词可能是首次出现的异常关键词。这些没有被异常关键词库收录的异常关键词可以通过人工审核方式进行确定和识别。因此，若消息处理平台21确定富媒体消息内容中不包含异常关键词库中的异常关键词，消息处理平台21将富媒体消息的人工审核请求发送给人工审核装置22，并接收人工审核装置22响应人工审核请求所返回的人工确认信息，并基于人工确定的异常关键词，对异常关键词库进行更新，可以确保包含异常关键词的富媒体消息被精准及时地识别出来。消息处理平台21将更新后的异常关键词库进行跨运营商平台的区块链存储，实现异常关键词库在不同运营商平台之间的共享，提高了各运营商对异常消息的拦截高效性和及时性。
67.s303、若确定富媒体消息内容中包含异常关键词，则对发送终端的信用状态进行审核处理，得到审核处理结果。
68.具体而言，消息处理平台21根据步骤s302，若确定富媒体消息内容中包含异常关键词，消息处理平台21则对发送终端12的信用状态进行审核处理，得到审核处理结果。
69.示例性地，消息处理平台21按步骤s3031-s3032对发送终端12的信用状态进行审核处理，得到审核处理结果。
70.s3031、消息处理平台21若确定富媒体消息内容中包含异常关键词，则对发送终端12的信用状态进行调整，得到调整后的信用状态。
71.示例性地，消息处理平台21若确定富媒体消息内容中包含异常关键词，则基于富媒体消息内容中所包含的异常关键词，确定富媒体消息的危害等级。消息处理平台21按危害等级对应的状态值调整幅度，对发送终端12的信用状态值进行调整，得到调整后的信用状态值。
72.可选地，信用状态值可以为用户标识被上报次数。消息处理平台21若确定富媒体
消息内容中包含异常关键词，则将发送终端12的用户标识被上报次数按p＝p0 ki方式进行增值处理。消息处理平台21还将该富媒体消息对应的上报信息进行哈希运算得到上报信息的哈希结果，将上报信息的哈希结果与增值处理后的用户标识被上报次数p关联后一并存储到发送终端12的用户标识所属的用户名单中。其中，p0为调整为p之前发送终端12的用户标识被上报次数，ki为状态值调整幅度。
73.可选地，信用状态值还可以为用户的信用积分。消息处理平台21若确定富媒体消息内容中包含异常关键词，则将发送终端12的信用积分按q＝q
0-ki的方式进行减值处理。消息处理平台21还将该富媒体消息对应的上报信息进行哈希运算得到上报信息的哈希结果，将上报信息的哈希结果与更新后的信用积分q关联后一并存储到发送终端12的用户标识所属的用户名单中。其中，q0为调整为q之前发送终端12的信用积分，ki为状态值调整幅度。
74.其中，ki可以为预设的数值，如ki＝1。在消息处理平台21基于富媒体消息内容中所包含的异常关键词，确定富媒体消息的危害等级i后。ki也可以是由危害等级i所确定的数值。其中，富媒体消息的危害等级i是消息处理平台21基于富媒体消息内容中所包含的异常关键词，按预设的危害等级规则所确定的，且不同的危害等级i对应的ki的数值可以是不同的，i为自然数。例如，危害等级与危害程度对应，ki数值可以与异常消息的危害程度成正比关系。
75.消息处理平台21基于富媒体消息内容中所包含的异常关键词，确定富媒体消息的危害等级i后，根据危害等级i所确定的状态值调整幅度ki对发送终端的信用状态值进行调整，可以更高效地遏制发送终端12发送异常消息的行为以及异常消息对接收终端12的用户的危害影响范围。包含异常关键词的富媒体消息为异常消息。
76.可选地，消息处理平台21若确定富媒体消息内容中包含异常关键词，还可以将富媒体消息的接收终端12的信用积分按q＝q0 ki的方式进行增值处理，以促使用户积极参与良好通信环境的构建。
77.可选地，消息处理平台21若确定富媒体消息内容中不包含异常关键词，还可以将富媒体消息的接收终端12的信用积分按q＝q
0-c的方式进行减值处理，以遏制接收终端12的恶意上报行为。其中，c为状态值调整幅度，c为一预设值。
78.s3032、消息处理平台21将步骤s3031调整后的信用状态与用户黑名单的加入条件进行匹配审核，确定调整后的信用状态与用户黑名单的加入条件是否匹配。
79.示例性地，若信用状态值为用户标识被上报次数，用户黑名单的加入条件为：用户标识被上报次数≥δ
p
。消息处理平台21将步骤s3031调整后的发送终端12信用状态值p与该加入条件进行匹配审核，确定调整后的信用状态值p与该加入条件是否匹配，得到审核结果：p≥δ
p
或p＜δ
p
。
80.示例性地，若信用状态值为信用积分，用户黑名单的加入条件为：用户标识的信用积分≤δq。消息处理平台21将步骤s3031调整后的发送终端12信用状态值q与该加入条件进行匹配审核，确定调整后的信用状态值q与该加入条件是否匹配，得到审核结果：q≤δq或q＞δq。
81.s304、若审核处理结果满足用户黑名单的加入条件，则将发送终端的用户标识加入用户黑名单，用户黑名单用于异常消息的拦截。
82.具体而言，若步骤s3032的审核处理结果满足用户黑名单的加入条件，消息处理平
台21则将发送终端12的用户标识加入用户黑名单，该用户黑名单用于异常消息的拦截。
83.示例性地，若信用状态值为用户标识被上报次数，用户黑名单的加入条件为：用户标识被上报次数≥δ
p
。步骤s3032的审核处理结果为发送终端12的信用状态值p≥δ
p
，消息处理平台21则将发送终端12的用户标识加入用户黑名单。若信用状态值为信用积分，用户黑名单的加入条件为：用户标识的信用积分≤δq。步骤s3032的审核处理结果为发送终端12的信用状态值q≤δq，消息处理平台21则将发送终端12的用户标识加入用户黑名单。消息处理平台21基于该用户黑名单，确定待转发的富媒体消息是否是黑名单用户的终端12发送的富媒体消息。消息处理平台21若确定待转发的富媒体消息是黑名单用户的终端12发送的富媒体消息，则对该富媒体消息进行拦截。
84.可选地，消息处理平台21对富媒体消息内容进行审核处理，确定富媒体消息内容中包含异常关键词后，消息处理平台21可以向富媒体消息的接收终端12发送上报确认信号。消息处理平台21对富媒体消息内容进行审核处理，确定富媒体消息内容中不包含异常关键词后，消息处理平台21可以向富媒体消息的接收终端12发送上报否认信号。上报确认信号或上报否认信号有利于接收终端12的用户对所接收的富媒体消息的识别经验积累，进而提升接收终端12发送上报信息的行为准确性。
85.可选地，消息处理平台21按照步骤s304将发送终端12的用户标识加入用户黑名单之后，本技术的方法还包括：消息处理平台21将用户黑名单进行跨运营商平台的区块链存储，以实现用户黑名单在不同运营商平台之间的共享，提高了各运营商对异常消息的拦截高效性和及时性。
86.可选地，为了提高异常消息拦截的精准性，消息处理平台21还可以基于异常关键词库，确定待转发的富媒体消息是否为富媒体消息内容包含异常关键词的待拦截消息。消息处理平台21若确定该富媒体消息为待拦截消息，则对该富媒体消息进行拦截。待转发的富媒体消息即待转发给接收终端的富媒体消息。
87.例如，消息处理平台21在将发送终端的用户标识加入用户黑名单之后，基于更新后的异常关键词库，确定待转发给接收终端的富媒体消息是否为富媒体消息内容包含异常关键词的待拦截消息。消息处理平台21若确定该富媒体消息为待拦截消息，则对该富媒体消息进行拦截。
88.本技术提供的异常消息处理方法，通过对接收终端发送的上报信息中富媒体消息内容进行审核处理，确定富媒体消息内容中是否包含异常关键词以及包含异常关键词的富媒体消息的危害等级，并在确定富媒体消息内容中包含异常关键词后，综合富媒体消息的危害等级，对富媒体消息发送终端的信用状态进行审核处理，若审核处理结果满足用户黑名单的加入条件，则将发送终端的用户标识加入用户黑名单，将用户黑名单用于异常消息的拦截。本技术提供的方法不但解决了在用户标识被误标记的情况下，现有的异常消息拦截方法，存在被误标记的用户标识被误加入用户黑名单的问题，极大提高了异常消息的拦截精准性和及时性。本技术提供的方法还实现用户黑名单和异常关键词库在不同运营商平台之间的共享，实现运营商平台对异常信息的高效拦截，将上报信息的哈希结果与信用状态关联存储，便于司法部门对发送异常消息的终端对应用户进行相应处理。
89.本技术实施例提供一种异常消息处理平台。下面结合图4对本技术实施例提供的异常消息处理平台进行说明。图4为本技术实施例提供的异常消息处理平台结构图。如图4
所示，该平台41与终端12进行通信。该平台包括：收发模块411、过滤模块412和共享模块413；其中，
90.收发模块411，用于获取富媒体消息的接收终端12发送的上报信息，该上报信息包含富媒体消息；富媒体消息包括富媒体消息的发送终端的用户标识以及富媒体消息内容。
91.过滤模块412，用于对富媒体消息内容进行审核处理，确定富媒体消息内容中是否包含异常关键词。过滤模块412若确定富媒体消息内容中包含异常关键词，则对发送终端12的信用状态进行审核处理，得到审核处理结果。
92.共享模块413，用于若过滤模块412的审核处理结果满足用户黑名单的加入条件，共享模块413则将发送终端12的用户标识加入用户黑名单，该用户黑名单用于异常消息的拦截。
93.可选地，收发模块411，获取并存储发送终端12发送的待转发的富媒体消息。
94.过滤模块412，还用于基于用户黑名单或用户黑名单和敏感关键词库，对待转发的富媒体消息的发送终端12的用户标识和待转发的富媒体消息内容进行审核，确定待转发的富媒体消息是否为待拦截的富媒体消息。过滤模块412在确定待转发的富媒体消息为待拦截的富媒体消息后，对待拦截的富媒体消息进行拦截。其中，待拦截的富媒体消息的确定方法为：若待转发的富媒体消息的发送终端12的用户标识为用户黑名单中的用户标识，则确定该富媒体消息为待拦截的富媒体消息；和/或，若待转发的富媒体消息内容包含异常关键词，则确定该富媒体消息为待拦截的富媒体消息。
95.共享模块413，还用于对待转发的富媒体消息进行哈希运算得到该富媒体消息对应的哈希结果，并将该哈希结果进行区块链存储，得到平台41的富媒体消息区块链。以便接收终端12收到富媒体消息后，将接收终端12对富媒体消息进行哈希运算得到的哈希结果与富媒体消息区块链上存储的该富媒体消息的哈希结果进行对比，以验证接收终端12所收到的富媒体消息的完整性。
96.示例性地，共享模块413对富媒体消息进行哈希运算得到哈希结果的过程示例说明如下：共享模块413可以将富媒体消息作为一个整体进行哈希运算，得到一个哈希值，即一个富媒体消息对应一个哈希值。共享模块413也可以将富媒体消息中的内容按文本、图片、音频、视频等类别，分别对各类别进行哈希运算，得到由各类别各自对应的哈希值所组成的哈希值组合，即一个富媒体消息对应一个哈希值组合。进一步地，共享模块413对富媒体消息中的图片内容进行哈希运算过程中，可以按图片数量对每一张图片进行哈希运算，得到每张图片对应的哈希值。以便于在富媒体消息被篡改的情况下，通过篡改后的富媒体消息的哈希值与富媒体消息区块链上存储的哈希值的对比，快速识别出被篡改的富媒体消息的内容。
97.本实施例提供的异常消息处理平台，其具体实现原理和技术效果，与图3所示实施例的具体实现原理和技术效果类似，本实施例此处不再赘述。在此基础上，本实施例提供的异常消息处理平台将富媒体消息以区块链形式进行存储，接收终端在收到富媒体消息后，可以该富媒体消息的接收终端运算的哈希值与富媒体消息区块链上存储的哈希值进行异同对比，以确定所收到的富媒体消息的完整性。
98.本技术实施例还提供一种异常消息处理系统。图5为本技术实施例提供的异常消息处理系统结构图。如图5所示，该系统包括：至少两个运营商各自的运营商平台51。运营商
平台51与各自运营商管理的终端12进行通信。运营商管理的终端12如图5中归属运营商a管理的终端12、归属运营商b管理的终端12。
99.运营商平台51，用于执行本技术提供的异常消息处理方法；
100.运营商平台51，还用于在将发送终端12的用户标识加入用户黑名单之后，对用户黑名单进行哈希运算，得到用户黑名单的哈希值，并将该用户黑名单的哈希值上链存储到系统各运营商平台51共同维护的跨运营商平台的用户黑名单区块链中。
101.本实施例提供的异常消息处理系统，其具体实现原理和技术效果，与图3所示实施例的具体实现原理和技术效果类似，本实施例此处不再赘述。
102.本技术实施例还提供一种异常消息处理装置。图6为本技术实施例提供的异常消息处理装置结构图。如图6所示，该装置包括处理器61和存储器62，存储器62存储有处理器61可执行指令，使得该处理器61可用于执行上述方法实施例的技术方案，其实现原理和技术效果类似，本实施例此处不再赘述。应理解，上述处理器61可以是中央处理单元(英文：central processing unit，简称：cpu)，还可以是其他通用处理器、数字信号处理器(英文：digital signal processor，简称：dsp)、专用集成电路(英文：application specific integrated circuit，简称：asic)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合发明所公开的方法的步骤可以直接体现为硬件处理器执行完成，或者用处理器中的硬件及软件模块组合执行完成。存储器62可能包含高速随机存取存储器(英文：random access memory，简称：ram)，也可能还包括非易失性存储器(英文：non-volatile memory，简称：nvm)，例如至少一个磁盘存储器，还可以为u盘、移动硬盘、只读存储器、磁盘或光盘等。
103.本技术实施例还提供一种存储介质，该存储介质中存储有计算机执行指令，这些计算机执行指令被处理器执行时，实现上述的异常消息处理方法。存储介质可以是由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(英文：static random-access memory，简称：sram)，电可擦除可编程只读存储器(英文：electrically-erasable programmable read-only memory，简称：eeprom)，可擦除可编程只读存储器(英文：erasable programmable read-only memory，简称：eprom)，可编程只读存储器(英文：programmable read-only memory，简称：prom)，只读存储器(英文：read-only memory，简称：rom)，磁存储器，快闪存储器，磁盘或光盘。存储介质可以是通用或专用计算机能够存取的任何可用介质。
104.一种示例性的存储介质耦合至处理器，从而使处理器能够从该存储介质读取信息，且可向该存储介质写入信息。当然，存储介质也可以是处理器的组成部分。处理器和存储介质可以位于专用集成电路(英文：application specific integrated circuits，简称：asic)中。当然，处理器和存储介质也可以作为分立组件存在于电子设备或主控设备中。
105.本技术实施例还提供一种程序产品，如计算机程序，该计算机程序被处理器执行时实现本技术所涵盖的异常消息处理方法。
106.本领域普通技术人员可以理解：实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时，执行包括上述各方法实施例的步骤；而前述的存储介质包括：rom、ram、磁碟或者光盘等各种可以存储程序代码的介质。
107.最后应说明的是：以上实施方式仅用以说明本发明的技术方案，而非对其进行限制；尽管参照前述实施方式对本发明已经进行了详细的说明，但本领域的普通技术人员应当理解：其依然可以对前述实施方式所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明实施方式技术方案的范围。