一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

数据流量监控方法、装置、计算机设备及存储介质与流程

2021-10-24 03:56:00 来源:中国专利 TAG:数据 监测 装置 流量 监控


1.本技术实施例涉及网络数据监测领域,尤其涉及一种数据流量监控方法、装置、计算机设备及存储介质。


背景技术:

2.互联网平台常需为其内外部用户开放各种各样的在线服务,部分此类在线服务可能由第三方的服务引擎所提供,出于对有限资源使用的进行有效管控的目的,便需要监测各个用户所使用的数据流量,或者出于控制费用的目的而监测各个使用服务引擎所消耗的数据流量,在此基础上,利用数据流量与费用、用户可享权限等要素之间的关系,对这些服务引擎的后续访问行为进行有效控制,达到资源配置效益最大化的目的。
3.现有技术中,互联网平台对这些数据流量的监测手段较为传统,一种方式是利用关系型数据库对数据流量进行监测,对于平台日常产生的海量的访问记录来说,这种传统技术在效率方面的体现显得捉襟见肘。
4.以翻译服务这种服务引擎为例,部分用户日常调用翻译服务可能是非常高频的,或者个别用户调用翻译服务是批量进行的,总体而言,翻译服务日常响应调用的数量巨大,由此所产生的数据流量相应的记录也是海量的,传统的存储技术及其对应的访问策略,显然无法满足此类需求。


技术实现要素:

5.本技术实施例提供一种能够实现高效监控在线服务的使用流量的数据流量监控方法、装置、计算机设备及存储介质。
6.为解决上述技术问题,本技术创造的实施例采用的一个技术方案是:一种数据流量监控方法,其包括如下步骤:
7.启动对调用日志的监控,所述调用日志用于存储作用于在线服务引擎的调用事件相对应产生的访问数据,所述访问数据被组织为多个哈希结构对象,每个对象携带调用事件所属的多个交互属性,且包括多个键值节点,每个键值节点中,其键域用于记录单位时间刻度,其值域用于存储该单位时间刻度所指示的单位时间内满足所述交互属性的数据使用流量;
8.以任意所述的交互属性为维度,对所述调用日志中的数据使用流量进行统计,获取该维度下的流量消耗总量;
9.判断所述流量消耗总量是否超出预设范围,当其超出预设范围时,限制性响应该维度相对应的交互属性相关联的调用事件。
10.较佳的实施例中,以任意所述的交互属性为维度,对所述调用日志中的数据使用流量进行统计,获取该维度下的流量消耗总量,包括:
11.响应于外部查询请求,获取该请求中指定的作为查询维度的交互属性;
12.结合通配符构造唯一指定了所述作为查询维度的交互属性的查询表达式;
13.调用安全扫描指令对该查询维度相对应的键值节点执行数据安全扫描;
14.根据所述查询表达式查询获取所述查询维度相对应的键值节点,对获取到的所述查询维度相对应的键值节点进行数据使用流量的聚合,获得流量消耗总量。
15.较佳的,判断所述流量消耗总量是否超出预设范围,当其超出预设范围时,限制性响应该维度相对应的交互属性相关联的调用事件,包括如下任意一种判断方式:
16.根据所述流量消耗总量计算相对应的流量费用,当该流量费用超出预设范围时,限制性响应该维度相对应的交互属性相关联的调用事件;
17.根据所述流量消耗总量计算流量消耗速率,当该流量消耗速率超出预设范围时,限制性响应该维度相对应的交互属性相关联的调用事件。
18.进一步优化的实施例中,所述数据流量监控方法还包括如下步骤:
19.以其中一个交互属性获取所述调用日志的全量访问数据存储为缓存备份,以服务于后续作用于以该交互属性为查询维度的请求。
20.较佳的实施例中,所述在线服务引擎提供翻译服务,所述交互属性为如下任意两个以上:所述调用事件的调用方、所述调用事件所作用的在线服务引擎、所述调用事件中待翻译的源语种、作为所述调用事件的翻译结构的目标语种。
21.进一步优化的实施例中,限制性响应该维度相对应的交互属性相关联的调用事件,包括对所述调用事件实施如下任意一项的限制:终止响应该维度相对应的交互属性相关联的调用事件、降低该维度相对应的交互属性相关联的调用事件的单位时间内可用的数据使用流量。
22.进一步改进的实施例中,所述的数据流量监控方法还包括如下步骤:调用预设接口输出告警信息,在该告警信息中包含执行所述判断所得的结论信息。
23.为解决上述技术问题,本技术还提供一种数据流量监控装置,其包括:
24.监控启动模块,用于启动对调用日志的监控,所述调用日志用于存储作用于在线服务引擎的调用事件相对应产生的访问数据,所述访问数据被组织为多个哈希结构对象,每个对象携带调用事件所属的多个交互属性,且包括多个键值节点,每个键值节点中,其键域用于记录单位时间刻度,其值域用于存储该单位时间刻度所指示的单位时间内满足所述交互属性的数据使用流量;
25.流量统计模块,用于以任意所述的交互属性为维度,对所述调用日志中的数据使用流量进行统计,获取该维度下的流量消耗总量;
26.流量控制模块,用于判断所述流量消耗总量是否超出预设范围,当其超出预设范围时,限制性响应该维度相对应的交互属性相关联的调用事件。
27.较佳的实施例中,所述流量统计模块包括:维度确定子模块,被配置为响应于外部查询请求,获取该请求中指定的作为查询维度的交互属性;查询表达子模块,用于结合通配符构造唯一指定了所述作为查询维度的交互属性的查询表达式;安全扫描子模块,用于调用安全扫描指令对该查询维度相对应的键值节点执行数据安全扫描;聚合统计子模块,用于根据所述查询表达式查询获取所述查询维度相对应的键值节点,对获取到的所述查询维度相对应的键值节点进行数据使用流量的聚合,获得流量消耗总量。
28.所述流量控制模块被配置为采用如下任意一种判断方式:根据所述流量消耗总量计算相对应的流量费用,当该流量费用超出预设范围时,限制性响应该维度相对应的交互
属性相关联的调用事件;根据所述流量消耗总量计算流量消耗速率,当该流量消耗速率超出预设范围时,限制性响应该维度相对应的交互属性相关联的调用事件。
29.进一步优化的实施例中,所述数据流量监控装置还包括缓存备份模块,被配置为以其中一个交互属性获取所述调用日志的全量访问数据存储为缓存备份,以服务于后续作用于以该交互属性为查询维度的请求。
30.较佳的实施例中,所述在线服务引擎提供翻译服务,所述交互属性为如下任意两个以上:所述调用事件的调用方、所述调用事件所作用的在线服务引擎、所述调用事件中待翻译的源语种、作为所述调用事件的翻译结构的目标语种。
31.进一步优化的实施例中,所述流量控制模块被配置为适于对所述调用事件实施如下任意一项的限制:终止响应该维度相对应的交互属性相关联的调用事件、降低该维度相对应的交互属性相关联的调用事件的单位时间内可用的数据使用流量。
32.进一步改进的实施例中,所述的数据流量监控装置还包括输出告警模块,用于调用预设接口输出告警信息,在该告警信息中包含执行所述判断所得的结论信息。
33.为解决上述技术问题本技术实施例还提供一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述计算机可读指令被所述处理器执行时,使得所述处理器执行上述所述数据流量监控方法的步骤。
34.为解决上述技术问题本技术实施例还提供一种存储有计算机可读指令的存储介质,所述计算机可读指令被一个或多个处理器执行时,使得一个或多个处理器执行上述所述数据流量监控方法的步骤。
35.与现有技术相比,本技术具有如下优点:
36.本技术以哈希数据结构进行组织的在线服务引擎的调用日志作为数据流量数据源进行数据使用流量的统计,由于该哈希数据结构在表示数据对象的第一层级可以同时携带多个交互属性,在表示具体数据的第二层级以键值节点进行数据使用流量的存储,因此,可以通过任意交互属性快速地筛选出与该交互属性相对应的全量或部分数据,无需遍历整个调用日志中的全量数据,整个过程安全而高效,数据准确度也较高,因此,其统计结果更为精准迅速,有助于互联网平台对其平台下的在线服务调用活动进行基于数据流量的监控,便于其对在线服务调用事件及时采取安全措施,提高互联网平台及其提供的具体在线服务的整体安全性。
附图说明
37.本技术上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
38.图1为本技术一个具体实施例的数据流量监控方法的基本流程示意图;
39.图2为本技术一个调用日志的存储结构原理示意图;
40.图3为本技术一个具体实施例中通过查询表达式实现查询的流程示意图;
41.图4为本技术另一具体实施例的数据流量监控方法的基本流程示意图;
42.图5为本技术一个实施例的数据流量监控装置基本结构示意图;
43.图6为本技术一个实施例的计算机设备的基本结构框图。
具体实施方式
44.下面详细描述本技术的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本技术,而不能解释为对本技术的限制。
45.本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是,本技术的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解,当我们称元件被“连接”或“耦接”到另一元件时,它可以直接连接或耦接到其他元件,或者也可以存在中间元件。此外,这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。
46.本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语),具有与本技术所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语,应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非像这里一样被特定定义,否则不会用理想化或过于正式的含义来解释。
47.本技术领域技术人员可以理解,这里所使用的“客户端”、“终端”、“终端设备”既包括无线信号接收器的设备,其仅具备无发射能力的无线信号接收器的设备,又包括接收和发射硬件的设备,其具有能够在双向通信链路上,进行双向通信的接收和发射硬件的设备。这种设备可以包括:蜂窝或其他诸如个人计算机、平板电脑之类的通信设备,其具有单线路显示器或多线路显示器或没有多线路显示器的蜂窝或其他通信设备;pcs(personal communications service,个人通信系统),其可以组合语音、数据处理、传真和/或数据通信能力;pda(personal digital assistant,个人数字助理),其可以包括射频接收器、寻呼机、互联网/内联网访问、网络浏览器、记事本、日历和/或gps(global positioning system,全球定位系统)接收器;常规膝上型和/或掌上型计算机或其他设备,其具有和/或包括射频接收器的常规膝上型和/或掌上型计算机或其他设备。这里所使用的“客户端”、“终端”、“终端设备”可以是便携式、可运输、安装在交通工具(航空、海运和/或陆地)中的,或者适合于和/或配置为在本地运行,和/或以分布形式,运行在地球和/或空间的任何其他位置运行。这里所使用的“客户端”、“终端”、“终端设备”还可以是通信终端、上网终端、音乐/视频播放终端,例如可以是pda、mid(mobile internet device,移动互联网设备)和/或具有音乐/视频播放功能的移动电话,也可以是智能电视、机顶盒等设备。
48.本技术所称的“服务器”、“客户端”、“服务节点”等名称所指向的硬件,本质上是具备个人计算机等效能力的电子设备,为具有中央处理器(包括运算器和控制器)、存储器、输入设备以及输出设备等冯诺依曼原理所揭示的必要构件的硬件装置,计算机程序存储于其存储器中,中央处理器将存储在外存中的程序调入内存中运行,执行程序中的指令,与输入输出设备交互,借此完成特定的功能。
49.需要指出的是,本技术所称的“服务器”这一概念,同理也可扩展到适用于服务器机群的情况。依据本领域技术人员所理解的网络部署原理,所述各服务器应是逻辑上的划分,在物理空间上,这些服务器既可以是互相独立但可通过接口调用的,也可以是集成到一
台物理计算机或一套计算机机群的。本领域技术人员应当理解这一变通,而不应以此约束本技术的网络部署方式的实施方式。
50.本技术相关技术方案可部署在云端服务器,其可以与业务上相关的服务器实现数据通信连接以协调在线服务,还可与其他相关服务器构成逻辑上相关联的服务机群,来为相关的终端设备例如智能手机、个人计算机、第三方服务器等提供服务。所述的智能手机和个人计算机均可通过公知的网络接入方式接入互联网,与本技术的服务器建立数据通信链路,以便访问和使用所述服务器所提供的服务。
51.对于服务器而言,一般通过提供在线服务的服务引擎开放相应的程序接口供各种终端设备进行远程调用,本技术中适于部署于服务器的相关技术方案,便可以此种方式实现于服务器中。
52.本领域技术人员对此应当知晓:本技术的各种方法,虽然基于相同的概念而进行描述而使其彼此间呈现共通性,但是,除非特别说明,否则这些方法都是可以独立执行的。同理,对于本技术所揭示的各个实施例而言,均基于同一发明构思而提出,因此,对于相同表述的概念,以及尽管概念表述不同但仅是为了方便而适当变换的概念,应被等同理解。
53.请参阅图1所示本实施例数据流量监控方法的基本流程示意图。如图1所示,本技术一种数据流量监控方法,在其典型实施例中,包括如下步骤:
54.步骤s1100,启动对调用日志的监控,所述调用日志用于存储作用于在线服务引擎的调用事件相对应产生的访问数据,所述访问数据被组织为多个哈希结构对象,每个对象携带调用事件所属的多个交互属性,且包括多个键值节点,每个键值节点中,其键域用于记录单位时间刻度,其值域用于存储该单位时间刻度所指示的单位时间内满足所述交互属性的数据使用流量:
55.互联网平台,包括电商服务平台、视频直播平台等,出于服务于平台自身或其平台上的商户、主播、消费者的需要,通常会引入第三方互联网平台的在线服务,以满足这些用户的服务需求,完善本平台的服务功能。这些服务可以是诸如翻译服务、语音转文字服务、图像识别服务等等可以依据本互联网平台所输入的信息转换出符合目标要求的对应信息的、服务功能相对独立的在线服务。
56.由于所引入的在线服务来自第三方互联网平台,由第三方互联网平台所构建的在线服务引擎提供服务接口,而且,此类在线服务对本互联网平台而言是一种付费服务,或者至少是消耗本互联网平台所使用的网络的有限流量资源的在线服务,因此,本互联网平台为确保其广大的平台用户对此类第三方在线服务引擎的安全稳定使用,需要利用其所掌握的控制权限,对其平台用户使用此类第三方在线服务的具体权限进行有效管控,实现第三方在线服务资源在本平台下的较优的资源配置效果,使经济效益最大化。
57.为此,本互联网平台一般会记录其平台下相关用户调用所述的在线服务引擎的访问数据,构成所述在线服务引擎的调用日志。互联网平台会启动对该调用日志的监控,使该调用日志处于本联网平台的常态监控之下,以便本互联网平台及时掌握在线服务引擎的使用情况。
58.所述的访问数据在本互联网平台触发对在线服务引擎的服务接口的调用以触发一个相应的调用事件时产生,通常至少包括如下几方面的要素,例如:发起在线服务调用的用户身份特征信息、所使用的在线服务引擎,至于其他要素,可以结合具体在线服务引擎的
性质,灵活设定。例如,对于一种提供在线翻译服务的在线服务引擎而言,所述的要素还可以包括平台用户对其调用时所输入的源语种文本以及该在线服务引擎所返回的目标语种文本。其他在线服务引擎的访问数据的构成与此同理,均可由本领域技术人员依循其互联网平台的开发需求而灵活设定,恕不赘述。
59.可以理解,在进行数据组织时,访问数据中的每个要素,实际上也是其具体数据的某一方面的属性,由于这些数据均是与在线服务引擎交互产生的,因而也可视为交互属性。可以理解,任意不同要素之间的结合,本质上便指向同一类涉及相同交互属性的调用事件,基于同一类调用事件进行数据组织,符合程序开发逻辑,数据存储效率将变得更为高效。
60.故而,如图2所示,为开发出调用日志中访问数据的数据价值,所述调用日志中的访问数据采用更为合理的存储结构进行组织。具体而言,访问数据被解构为两个数据层面,第一个数据层面属于对象管理层面,其将所述的同一类调用事件抽象为同一对象,置于对象存储管理空间中进行集中管理;第二个数据层面属于数据管理层面,其将所述的同一类调用事件相关的每一调用事件所对应的汇总流量数据作为一个数据记录,置于该同一对象之下的数据管理空间中进行集中管理。
61.如图2所示,所述访问数据基于哈希技术实现存储,因此,对应所述同一类调用事件的对象,由于其采用哈希结构进行组织,因而也称为一个哈希结构对象。每个哈希结构对象开放性地携带多个所述的交互属性,用于标记其所对应的同一类调用事件相对应的各个要素。例如,适应前文所提及的在线服务为翻译服务的示例,所述哈希结构对象可以携带如下的交互属性:所述调用事件的调用方、所述调用事件所作用的在线服务引擎、所述调用事件中待翻译的源语种、作为所述调用事件的翻译结构的目标语种。对应的,在程序层面进行描述时,这些交互属性均可以相应的标识对其所属的哈希结构对象进行赋值,例如,所述调用事件的调用方这一交互属性可以被赋值为该调用方的用户身份特征标识,所述调用事件所作用的在线服务引擎可以被赋值为该在线服务引擎的可识别标识,所述调用事件中的源语种与目标语种可分别被赋值为相应的文字标识。
62.推而广之,所述哈希结构对象可以携带的交互属性的个数不受本技术各个实施例的限制,理论上只要适应实际需要由本领域技术人员灵活设定即可。但也应当知晓,出于调用事件本身属于多方交互通知这一性质,其相应的要素通常不会少于两项,藉此方可善用哈希结构这一数据结构的优势。
63.继续参阅图2,在每个所述的哈希结构对象专属的所述数据管理空间中,存储着具有该对象的所有交互属性的若干调用事件所产生的键值节点,每个键值节点所存储的数据,是单位时间范围内满足该对象所有交互属性的所有调用事件所对应消耗的汇总的数据使用流量,也即,在该单位时间范围内,满足该对象的所有交互属性的所有调用事件,其各自使用相应的在线服务所对应的数据使用流量,被汇总成为该键值节点的数据使用流量。
64.为此,所述键值节点采用键值对结构进行存储,包括具有一一对应关系的键域和值域。其中的键域用于存储该单位时间范围的一个端值,该端值按照所述单位时间相对应的单位时间刻度对应标示,可以按需灵活具体到日、时、分、秒的标记深度,例如,若以日为单位时间深度,则可以标记为形如“20210601”、“20210602”;若以时为单位时间深度,则可以标记为形如“2021060100”、“2021060101”,以此类推。键值节点的值域,则相应存储所述汇总的数据使用流量即可,以在线服务为翻译服务为例,若在线服务引擎以源语种的字数
计费,则可相应统计每个调用事件所相对应的源语种的总字数,作为该调用事件相对应的数据使用流量,将单位时间范围内同一哈希结构对象相对应的所有调用事件的数据使用流量加总后,成为一个汇总的数据使用流量,即可作为该单位时间范围内的汇总的数据使用流量,存储于相应的单位时间刻度所对应的键域所对应的值域中。
65.一个涉及翻译服务应用的具体实施例中,其调用日志中所存储的访问数据,既涉及多个调用方,也可能涉及多个在线翻译服务引擎,还涉及多种源语种、多种目标语种的情况,按照一个调用方、一个在线服务引擎、一种源语种、一种目标语种这四个要素来区分每个哈希结构对象,构成该哈希结构对象的四个交互属性,在每个哈希结构对象的数据管理空间中记录满足这四个交互属性的相关调用事件相对应的键值节点,由此,便能使其调用日志符合本技术的规范,适于服务本技术的创造精神。
66.一个涉及程序开发层面的具体实施例中,所述调用日志适宜采用redis数据库技术来实现,redis支持所述哈希结构对象及其下的键值节点这一数据结构,因此,本领域技术人员可借助redis提供的功能来实现所述调用日志的数据结构,大大降低开发难度和开发成本。redis还支持对每个哈希结构对象的交互属性的查询,因此,后续还可较为高效地通过调用redis提供的接口来实现对调用日志中访问数据的调用,省去自行开发相关接口的麻烦。
67.步骤s1200,以任意所述的交互属性为维度,对所述调用日志中的数据使用流量进行统计,获取该维度下的流量消耗总量:
68.哈希结构对象所具有的几个交互属性,可以被用作数据查询访问的维度,本技术允许以其中任何交互属性为维度,对每个哈希结构对象辖下的数据管理空间中的数据记录进行查询访问。
69.为了体现数据挖掘的优势,本技术可以响应于多种方式,或者按照默认的程序运行逻辑,被动或主动地对所述调用日志执行数据挖掘操作,以便统计出一个或多个维度或所有维度下的流量消耗总量。
70.例如可以查询其中某一调用方在整份调用日志中所记录的所有数据使用流量的汇总值。为此,首先确定要查询的调用方的用户身份特征标识,以该用户身份特征标识为查询依据,在调用日志中调用出交互属性中包含了该用户身份特征标识的所有哈希结构对象集合,可以理解,该集合仅包含该调用方所产生的所有数据使用流量,而不包含其他调用方所消耗的数据使用流量。进而,便可对该集合中的所有数据使用流量进行加总,其加总值即为该用户身份特征标识所对应的调用方在本互联网平台使用相关在线服务所占用流量消耗总量,完成统计。
71.又如,还可以查询某一时间范围内个别或某些调用方在本互联网平台占用的流量消耗总量,以单个调用方为例,则可在前一示例的基础上,从前一示例所得集合内各个哈希结构对象的键值节点中,筛选出键域符合给定的查询时间范围的数据记录,然后再对这些筛选出的数据记录中的数据使用流量进行加总,得到加总值,作为该单个调用方在所述给定的查询时间范围之内的流量消耗总量。
72.再如,在理解了单个调用方为维度进行查询的过程的基础上,也可理解,按照两个维度例如增加具体在线服务引擎这一交互属性进行查询也应可实现。具体而言,只要在查询时,将同时包含该调用方的用户身份特征标识、该在线服务引擎的识别标识的相关哈希
结构对象调出构造为所述的集合,然后汇总计算该集合中键值节点中的数据记录,将各个键值节点的值域中的数据使用流量加总为所述的流量消耗总量即可。
73.再如,还可以查询所有维度相关的流量消耗总量,具体而言,参照前述关于单个调用方维度查询的示例,还可以为其他维度均分别执行同理的统计操作,使得每个维度均可以得出该维度之下的流量消耗总量。结合前述关于在线翻译服务的应用实例,不难理解,按照这一原理,从调用日志中,可以统计出每个具体用户、每个在线翻译服务引擎、每种源语种、每种目标语种各自所占用的流量消耗总量。
74.以上,通过多个具体应用实例,详细揭示了如何通过所述调用日志获取一个、任意多个、所有维度之下的流量消耗总量的实现方案,本领域技术人员应可理解,在以上示例的基础上,可以自行灵活按需实现在调用日志中的数据查询统计操作,最终获取相应的流量消耗总量,因此,不宜以本技术的有限示例限制其各种可能的变通情形。
75.步骤s1300,判断所述流量消耗总量是否超出预设范围,当其超出预设范围时,限制性响应该维度相对应的交互属性相关联的调用事件:
76.获得某个维度相应的流量消耗总量之后,便可基于该流量消耗总量,结合互联网平台的管理逻辑,实现对该维度使用在线服务的权限进行管理。
77.一般而言,互联网平台可以采用计量机制、计费机制或者阶梯机制来实施在线服务的使用权限的管理。对于该平台内部的使用用户而言,若采用计费机制,则可根据其流量消耗总量来计算其已产生的流量费用,与该用户的账户余额这一预设范围进行比较,如果已产生的流量费用已经超出该用户的账户余额,则可触发限制性事件,通过该限制性事件对该用户后续享用相关在线服务做出限制,对于以后的相关调用事件,便可遵从该限制作出限制性响应。对于该平台自身所使用的在线服务而言,若采用计量机制,同理可将该互联网平台可以使用某一在线服务的总流量作为预设范围,在需要确认整个互联网平台对该在线服务的流量消耗总量是否超出该总流量时,将这一流量消耗总量与该预设范围进行比较,当其超过该预设范围时,便可触发限制性事件,通过该限制性事件对本互联网平台后续使用该在线服务的权限做出限制。同理,也可根据流量消耗总量计算流量消耗速率,当该流量消耗速率超出预设范围时做出类似的限制。
78.所述的预设范围,既可以如前所示,表现为一个具体的数值,也可以适应阶梯机制的需要而设为多个数值,例如,可以表现为“a、b、c”三个数值,表征当流量消耗总量在a与b之间时,可对相关维度相对应的调用事件做出第一种限制,当其在b与c之间时,可对相关维度相对应的调用事件做出第二种限制。可以理解,通过此举可兼容更为复杂的统计需求和判断逻辑,方便为更多复杂场景提供有价值的数据,方便通过技术手段达成更为复杂多样的管控目标。
79.互联网平台判断相关流量消耗总量超出预设范围而触发相应的限制性事件以对相关维度相对应的交互属性做出限制性操作这一原理,主要是基于使本技术的技术方案具有通用性的考虑。例如,以调用方的流量消耗总量进行所述的判断之后,便对应对该调用方做出限制;以作用于在线服务引擎的流量消耗总量进行所述的判断之后,便对应对该在线服务引擎做出限制。如此一一对应,符合数据管理逻辑。
80.至于互联网平台所触发的限制性事件,当其被响应而执行限制性操作时,其操作细节则可由本领域技术人员灵活设计实施,但其本质上是指向调用事件的,也即,一旦某一
具体内容的交互属性被限制,则后续该具体内容的交互属性相关的调用事件,将遵从该限制性操作已经做出的限制。例如对某一在线服务引擎的识别标识已经做出了限制,后续无论何一用户作为调用方企图触发调用事件以调用该在线服务引擎提供的在线服务,此类调用事件均会被做出相应的限制,实现管控的目的。由此,可以理解,若某一在线翻译服务引擎已被限制,具体例如禁止使用,此时,若有用户企图使用该在线翻译服务引擎,互联网平台便会禁止对该服务引擎的调用,相应向该用户反馈相关服务不可用的通知。若对于某一用户身份特征标识做出限制也与此同理,任何关联或包含了该用户身份特征标识的调用事件,将不会被响应或者直接被拒绝。由此达到有效实施流量管控的目的。
81.限制性响应该维度相对应的交互属性相关联的调用事件,包括对所述调用事件实施如下任意一项的限制:终止响应该维度相对应的交互属性相关联的调用事件、降低该维度相对应的交互属性相关联的调用事件的单位时间内可用的数据使用流量等待。可见,互联网平台所触发的限制性事件所涉的限制操作类型,除了限流操作之外,还可以是限速操作,或者是费率变更操作等等,本领域技术人员可灵活适用之。
82.一个更便于程序开发人员实施的具体实施例中,请参阅图3,所述步骤s1200还包括如下步骤:
83.步骤s1211、响应于外部查询请求,获取该请求中指定的作为查询维度的交互属性:
84.本技术的互联网平台的用户,包括对在线服务的实际使用者或者网络管理人员,均可发起针对所述调用日志的查询请求,对本技术的技术方案而言,该查询请求即为外部查询请求。其中,平台实际使用者相关用户一般是为了查询其本人在某一时间段内在本平台所消耗的某项在线服务的总流量,以便维护自身利益做出付费或停止使用相关在线服务的决策;而网络管理人员相关用户可能是为了了解某项在线服务引擎所消耗的总流量,以便为平台本身做出管理决策。
85.相关用户均可通过本技术的互联网平台提供的访问页面指定相关查询维度信息,以便构造所述的外部查询请求提交给互联网平台的实施了本技术技术方案的服务器。例如,某一用户直接触控访问页面中的“流量查询”按键,实际便向该服务器提交了所述的外部查询请求,在该请求中包含了该用户的用户身份特征标识这一查询维度,服务器便可利用这一维度在调用日志中进行查询。
86.当然,也可以是其他任意维度,或者是多个维度或所有维度,甚至还可以在所述外部查询请求中添加诸如时间段之类的约束条件,参照本技术的其他在先实施例,本领域技术人员可以灵活实施。
87.步骤s1212、结合通配符构造唯一指定了所述作为查询维度的交互属性的查询表达式:
88.实际操作中,通常外部查询请求中仅会给出个别查询维度的信息,例如给出所述的用户身份特征标识,但是,如前所述,每个哈希结构对象具有多个交互属性,因此,为了区分查询维度与非查询维度之间的关系,本技术借助通配符构造查询表达式以实现模糊查询的方式来实现对通用性操作的支持。具体而言,设前文所述的在线翻译服务引擎具有四个交互属性抽象表达为“user:type:source:target”,其对应表示“用户标识:在线服务引擎识别标识:源语种标识:目标语种标识”,这种情况下,若采用“*”作为通配符,如需查询用户
身份特征标识为“myname”这一调用方相关的流量消耗总量,则可以构造表达式为:“myname:*:*:*”。
89.可以理解,本技术可以预先实现对这种表达式的解析技术的支持。而适应所述应用redis数据技术的应用实例,若其自身具备这一解析功能,则也可直接适用之。
90.步骤s1213、调用安全扫描指令对该查询维度相对应的键值节点执行数据安全扫描:
91.为了确定数据完整性和安全性,适宜调用预设的安全扫描指令对调用日志中所有哈希结构对象中包含所述查询维度的键值节点执行数据安全扫描,确定其数据完整性和安全性。本领域技术人员可根据需要自行编写这一安全扫描指令,而适应所述应用redis数据技术的应用实例,由于redis本身提供实现同等功能的安全扫描指令,则可直接调用该安全扫描指令来执行即可。
92.步骤s1214、根据所述查询表达式查询获取所述查询维度相对应的键值节点,对获取到的所述查询维度相对应的键值节点进行数据使用流量的聚合,获得流量消耗总量:
93.服务器解析该查询表达式并确知相关查询维度下的相关数据的安全性后,便可获得包含了这一查询维度的相关哈希结构对象之下的键值节点之下的数据记录,将其视为一个哈希结构对象集合,可以理解,该集中仅包含该查询维度相关的键值节点。
94.在此基础上,对这一集合中的键值节点具体是对其各个数据记录的值域中的数据使用流量进行聚合,也即进行加总,其加总值即可该查询维度相对应的流量消耗总量。
95.此处所称的聚合,还包括更为复杂的实施情况:例如,设查询维度为某一具体调用方用户的用户身份特征标识,可以是进一步根据另一维度(例如在线服务引擎标识)进行分类汇总,将该调用方用户使用各个不同的在线服务引擎相对应的流量消耗总量分别统计出来,从而得到多个流量消耗总量,但却是属于同一查询维度的。又如,设查询维度为某一具体调用方用户的用户身份特征标识,可以是进一步根据时间例如自然月度对所有键值节点中的键域进行分类汇总,按月得出该调用方用户使用在线服务相对应的流量消耗总量。诸如此类,均可视为基于查询维度所获得的集合进行聚合,最终均可获得一个或多个流量消耗总量。
96.可见,实施例丰富了本技术的复杂度,使得本技术的技术方案适于扩展数据流量管控的技术手段,强化了相关技术功能。
97.一个实施例中,为了降低服务器压力,服务器可以预先以任意一个交互属性查询获取所述调用日志的全量访问数据存储,将其存储为缓存备份,后续如果提交以该交互属性为查询维度的外部查询请求时,服务器即可优先在缓存备份中执行相应的查询,从而缩短查询时间,提高数据访问效率,提升用户查询体验。
98.较佳的实施例,请参阅图4,本技术的数据流量监控方法进一步增设后续实施例:
99.步骤s1400、调用预设接口输出告警信息,在该告警信息中包含执行所述判断所得的结论信息:
100.本技术的技术方案可被构造为互联网平台的服务器中运行的数据流量监控服务,网络管理人员可以预先为其配置相关通信接口,例如用于发送该数据流量监控服务所输出的告警信息,以便将该些告警信息送达相关网络管理人员、调用方用户等等预设对象。
101.通常,该告警信息以报告的形式呈现,在报告中简述或详述产生这一告警信息的
原因,也即在先步骤执行了相关判断之后得出相应的结论信息的过程,以便相关接收方能够快速了解情况,及时做出安全响应,确保数据流量监控服务的高效运行。
102.为解决上述技术问题,本技术实施例还提供数据流量监控装置。具体请参阅图5,图5为本实施例数据流量监控装置基本结构示意图。
103.如图5所示,本技术的一种数据流量监控装置包括监控启动模块1100、流量统计模块1200以及流量控制模块1300,其中:监控启动模块1100,用于启动对调用日志的监控,所述调用日志用于存储作用于在线服务引擎的调用事件相对应产生的访问数据,所述访问数据被组织为多个哈希结构对象,每个对象携带调用事件所属的多个交互属性,且包括多个键值节点,每个键值节点中,其键域用于记录单位时间刻度,其值域用于存储该单位时间刻度所指示的单位时间内满足所述交互属性的数据使用流量;流量统计模块1200,用于以任意所述的交互属性为维度,对所述调用日志中的数据使用流量进行统计,获取该维度下的流量消耗总量;流量控制模块1300,用于判断所述流量消耗总量是否超出预设范围,当其超出预设范围时,限制性响应该维度相对应的交互属性相关联的调用事件。
104.较佳的实施例中,所述流量统计模块1200包括:维度确定子模块,被配置为响应于外部查询请求,获取该请求中指定的作为查询维度的交互属性;查询表达子模块,用于结合通配符构造唯一指定了所述作为查询维度的交互属性的查询表达式;安全扫描子模块,用于调用安全扫描指令对该查询维度相对应的键值节点执行数据安全扫描;聚合统计子模块,用于根据所述查询表达式查询获取所述查询维度相对应的键值节点,对获取到的所述查询维度相对应的键值节点进行数据使用流量的聚合,获得流量消耗总量。
105.所述流量控制模块1300被配置为采用如下任意一种判断方式:根据所述流量消耗总量计算相对应的流量费用,当该流量费用超出预设范围时,限制性响应该维度相对应的交互属性相关联的调用事件;根据所述流量消耗总量计算流量消耗速率,当该流量消耗速率超出预设范围时,限制性响应该维度相对应的交互属性相关联的调用事件。
106.进一步优化的实施例中,所述数据流量监控装置还包括缓存备份模块,被配置为以其中一个交互属性获取所述调用日志的全量访问数据存储为缓存备份,以服务于后续作用于以该交互属性为查询维度的请求。
107.较佳的实施例中,所述在线服务引擎提供翻译服务,所述交互属性为如下任意两个以上:所述调用事件的调用方、所述调用事件所作用的在线服务引擎、所述调用事件中待翻译的源语种、作为所述调用事件的翻译结构的目标语种。
108.进一步优化的实施例中,所述流量控制模块1300被配置为适于对所述调用事件实施如下任意一项的限制:终止响应该维度相对应的交互属性相关联的调用事件、降低该维度相对应的交互属性相关联的调用事件的单位时间内可用的数据使用流量。
109.进一步改进的实施例中,所述的数据流量监控装置还包括输出告警模块,用于调用预设接口输出告警信息,在该告警信息中包含执行所述判断所得的结论信息。
110.为解决上述技术问题,本技术实施例还提供计算机设备。具体请参阅图6,图6为本实施例计算机设备基本结构框图。
111.如图6所示,计算机设备的内部结构示意图。该计算机设备包括通过系统总线连接的处理器、非易失性存储介质、存储器和网络接口。其中,该计算机设备的非易失性存储介质存储有操作系统、数据库和计算机可读指令,数据库中可存储有控件信息序列,该计算机
可读指令被处理器执行时,可使得处理器实现一种数据流量监控方法。该计算机设备的处理器用于提供计算和控制能力,支撑整个计算机设备的运行。该计算机设备的存储器中可存储有计算机可读指令,该计算机可读指令被处理器执行时,可使得处理器执行一种数据流量监控方法。该计算机设备的网络接口用于与终端连接通信。本领域技术人员可以理解,图6中示出的结构,仅仅是与本技术方案相关的部分结构的框图,并不构成对本技术方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
112.本实施方式中处理器用于执行图5中监控启动模块1100、流量统计模块1200以及流量控制模块1300的具体功能,存储器存储有执行上述模块所需的程序代码和各类数据。网络接口用于向用户终端或服务器之间的数据传输。本实施方式中的存储器存储有数据流量监控装置中执行所有子模块所需的程序代码及数据,服务器能够调用服务器的程序代码及数据执行所有子模块的功能。
113.本技术还提供一种存储有计算机可读指令的存储介质,计算机可读指令被一个或多个处理器执行时,使得一个或多个处理器执行上述任一实施例数据流量监控方法的步骤。
114.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,该计算机程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的存储介质可为磁碟、光盘、只读存储记忆体(read

only memory,rom)等非易失性存储介质,或随机存储记忆体(random access memory,ram)等。
115.本技术技术方案的一种典型应用,适用于基于独立站的跨境电商平台中。这种跨境电商平台,由平台商统一提供海量的独立站的搭建服务和运维服务,商户通过租赁平台商的服务拥有自己的独立站,各独立站之间原则上相互不通数据,彼此独立运营,但各独立站的后台数据通常由平台商以统一的技术框架提供服务和执行管理。
116.跨境电商平台是面向全球提供服务的,因此,为了实现对各家独立站的标准化支持,解决全球各地语言沟通问题,需要为各家独立站提供具有语言翻译功能的服务,这时便需要接入第三方互联网平台提供的在线翻译服务引擎,开放这些服务引擎相应的调用接口给各家独立站使用,可以理解,使用这些服务所产生的流量及其费用是巨大的,因此,有必要采用本技术所实现的技术方案对在线翻译服务使用过程中的数据流量实施有效的监控,提升平台方的数据监控管理效率,确保整个跨境电商平台有序、稳定、及时地提供相关在线翻译服务,确保各家独立站能够畅通无阻地在全球运营。
117.综上所述,本技术以哈希数据结构进行组织的在线服务引擎的调用日志作为数据流量数据源进行数据使用流量的统计,由于该哈希数据结构在表示数据对象的第一层级可以同时携带多个交互属性,在表示具体数据的第二层级以键值节点进行数据使用流量的存储,因此,可以通过任意交互属性快速地筛选出与该交互属性相对应的全量或部分数据,无需遍历整个调用日志中的全量数据,整个过程安全而高效,数据准确度也较高,因此,其统计结果更为精准迅速,有助于互联网平台对其平台下的在线服务调用活动进行基于数据流量的监控,便于其对在线服务调用事件及时采取安全措施,提高互联网平台及其提供的具体在线服务的整体安全性。
118.本技术领域技术人员可以理解,本技术中已经讨论过的各种操作、方法、流程中的步骤、措施、方案可以被交替、更改、组合或删除。进一步地,具有本技术中已经讨论过的各种操作、方法、流程中的其他步骤、措施、方案也可以被交替、更改、重排、分解、组合或删除。进一步地,现有技术中的具有与本技术中公开的各种操作、方法、流程中的步骤、措施、方案也可以被交替、更改、重排、分解、组合或删除。
119.以上所述仅是本技术的部分实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本技术原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本技术的保护范围。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献

  • 日榜
  • 周榜
  • 月榜