指标监控方法、电子设备及芯片系统与流程

1.本技术涉及终端技术领域，尤其涉及一种指标监控方法、电子设备及芯片系统。


背景技术：

2.大数据分析是一项对海量的文本、图像、音频和视频等数据进行数据分析和数据挖掘的技术。其中，etl(extraction-transformation-loading，抽取、转换和加载)是大数据分析中的一个重要过程，用于从海量数据中抽取需要的数据进行转换，转换后的数据是进一步进行数据分析、数据挖掘的基础。通过对海量数据的分析能够确定出用户的行为、用户对产品的依赖程度等结果，而且可以基于上述结果对产品和运营策略进行优化。例如，可以优化产品功能或页面，针对特定人群制定特定的运营策略，从而提升投资回报率(return on investment，roi)。
3.为了能够对运营策略的优化提供准确的数据支持，需要对etl数据处理过程进行数据质量的监控。例如，可以根据etl过程中产生的元数据信息和任务执行日志判断etl数据处理过程是否存在数据处理的异常。若未检测到etl数据处理过程存在数据处理的异常，则可以根据etl数据处理过程得到的数据进行分析，得出能够对产品和运营策略进行优化的结果。然而，传统的对etl数据处理过程进行数据质量监控的方法，大都聚焦在宏观上对etl数据处理过程进行监控，并不能保证监控指标本身在etl数据处理过程中可能存在的异常。


技术实现要素：

4.本技术提供一种指标监控方法、电子设备及芯片系统方法，解决了现有技术中无法监测在数据处理过程中指标本身可能存在异常的问题。
5.为达到上述目的，本技术采用如下技术方案：
6.第一方面，本技术实施例提供一种指标监控方法，上述方法包括：第一电子设备生成预设数据生成模型，基于所述预设数据生成模型生成理论监测数据，并获取监控指标对应的第一指标值；所述第一电子设备向第二电子设备发送所述理论监测数据；所述第二电子设备通过数据处理模型对所述理论监测数据进行处理，并基于处理后的理论监测数据确定所述监控指标对应的第二指标值；所述第一电子设备和/或所述第二电子设备根据所述监控指标的第一指标值和第二指标值，对所述监控指标进行监测。
7.上述数据处理模型为第二电子设备在etl数据处理过程中实际使用的数据处理模型，包括多个数据处理节点。在前的数据处理节点对理论监测数据处理完成后，将处理后的理论监测数据传输给下一个数据处理节点进行处理。因此，在第二电子设备通过数据处理模型对该理论监测数据进行处理的过程中，可能会存在由于数据传输导致部分数据丢失、第二电子设备处理逻辑错误等异常等情况。通过比较监控指标的第一指标值和第二指标值，根据比较结果即可确定上述数据处理模型是否存在上述异常情况，进而确定由上述数据处理模型处理后的数据得到的监控指标本身是否存在异常。若监控指标本身不存在异
常，则可以根据该数据处理模型对数据源产生的数据进行处理。因此，本技术实施例能够提升所确定的监控指标的指标值的准确度，能够帮助业务运营人员及时监测监控指标是否异常。
8.需要说明的是，上述第一电子设备和第二电子设备可以为同一电子设备，也可以为不同的电子设备，对此不予限定。
9.其中，第一电子设备可以根据数据生成规则信息，确定监控指标对应的第一指标值。由于数据生成规则信息中包含监控指标及其相关信息，因此第一电子设备可以根据数据生成规则信息确定监控指标对应的第一指标值。
10.结合第一方面，在一些实施例中，根据所述监控指标的第一指标值和第二指标值，对所述监控指标进行监测，包括：根据所述第一指标值和所述第二指标值的差值，对所述监控指标进行监测。
11.其中，若第一指标值和第二指标值相同或比较接近，则说明第二电子设备的数据处理模型对理论监控数据进行处理后，并不会导致监控指标本身发生异常。若第一指标值和第二指标值相差加大，则说明第二电子设备的数据处理模型对理论监控数据进行处理后，会导致监控指标本身发生异常。
12.一种场景中，可以设置预设范围，根据该预设范围对监控指标进行监测。
13.示例性的，所述根据所述第一指标值和所述第二指标值的差值，对所述监控指标进行监测，可以包括：若所述第一指标值和所述第二指标值的差值位于预设范围内，则所述监控指标无异常；若所述第一指标值和所述第二指标值的差值超出所述预设范围内，则所述监控指标存在异常。
14.具体的，若第一指标值和第二指标值的差值位于上述预设范围内，则说明第二电子设备的数据处理模型对理论监控数据进行处理后，并不会导致监控指标本身发生异常。若第一指标值和第二指标值的差值超出上述预设范围内，则说明第二电子设备的数据处理模型对理论监控数据进行处理后，会导致监控指标本身发生异常。
15.结合第一方面，在一些实施例中，根据所述第一指标值和所述第二指标值的差值，对所述监控指标进行监测，包括；所述第二电子设备展示所述第一指标值，所述第二指标值，以及所述第一指标值和所述第二指标值的差值；或者，所述第一电子设备比较所述第一指标值和所述第二指标值，并在所述第一指标值和所述第二指标值的差值超出预设范围时，向系统管理员终端发送提醒信息。
16.一种场景中，可以将监控指标的第一指标值和第二指标值通过ui的方式向业务运营人员展示。业务运营人员可以通过业务运营人员终端登录第二电子设备中的指标可视化系统，第二电子设备通过指标可视化系统向业务运营人员展示监控指标的第一指标值和第二指标值。
17.一种场景中，第一电子设备可以获取第二指标值，之后比较第一指标值和第二指标值，在第一指标值和第二指标值的差值超出预设范围时，向系统管理员终端发送提醒信息。
18.结合第一方面，在一些实施例中，所述第一电子设备生成预设数据模型，包括：所述第一电子设备获取数据生成规则，并按照所述数据生成规则建立所述预设数据生成模型；其中，所述数据生成规则包括以下至少一项：各个场景中新用户和老用户的数量，各个
场景中需要生产数据的种类及数量，各个场景中生产各种数据的顺序，各个场景中的监控指标。
19.结合第一方面，在一些实施例中，所述按照所述数据生成规则建立所述预设数据生成模型，包括：响应接收到的监测场景建立指令，建立一个或多个监测场景；响应接收到的监测场景名称设置指令，为所述一个或多个监测场景设置名称；响应接收到的各个监测场景的优先级设置指令，设置各个监测场景的优先级顺序，所述优先级顺序表示生成各个监测场景的先后顺序；响应接收到的各个监测场景的用户规则设置指令，设置各个监测场景对应的用户规则；其中，所述用户规则包括：总用户数，新用户比例或数量，老用户比例或数量，以及用户属性资源池，所述用户属性资源池中包括多个用户属性；响应接收到的各个监测场景所需的事件规则设置指令，为各个监测场景设置所需的事件规则；其中，所述事件规则包括：包含多个事件的事件列表、所述多个事件的上报顺序以及所述多个事件中每个事件的数量；响应接收到的各个监测场景的监测规则设置指令，为各个监测场景设置对应的监测规则，所述监测规则包括需要监测的监控指标以及所述监控指标不满足预设条件时的动作。
20.其中，第一电子设备可以包括数据质量监测系统和数据生成系统。例如，数据质量监测系统和数据生成系统可以为第一电子设备的处理器中的一个处理单元。
21.一种场景中，系统管理员可以向系统管理员终端输入数据生成规则信息，系统管理员终端根据该数据生成规则信息生成监测场景建立指令。该监测场景建立指令可以用于指示数据质量监测系统建立一个监测场景，或者同时建立多个监测场景。之后，系统管理员终端向数据质量监测系统发送该监测场景建立指令。数据质量监测系统响应接收到的监测场景建立指令，建立监测场景。
22.另外，系统管理员终端根据该数据生成规则信息还能够生成监测场景名称设置指令，各个监测场景的优先级设置指令，各个监测场景的用户规则设置指令，各个监测场景所需的事件规则设置指令，以及各个监测场景的监测规则设置指令等。系统管理员终端在向数据质量监测系统发送监测场景建立指令的同时，还可以同时发送监测场景名称设置指令，各个监测场景的优先级设置指令，各个监测场景的用户规则设置指令，各个监测场景所需的事件规则设置指令，以及各个监测场景的监测规则设置指令等。数据质量监测系统同时接收系统管理员终端发送的上述指令。
23.监测场景建立指令可以用于指示数据质量监测系统同时建立多个监测场景，而上述多个系统监测场景可能会同时发生事件，此时需要限定各个监测场景的优先级，以使得数据生成系统能够按照设置的优先级，生成各个监测场景的数据。
24.例如，数据质量监测系统为用户漏斗分析场景设置的优先级级别为5，为活跃用户场景设置的优先级级别为4，为应用安装场景设置的优先级级别为3，为新用户场景设置的优先级级别为2，优先级级别数字越大优先级越高，则数据生成系统按照优先级由高到低的顺序，依次生成各个监测场景的数据。
25.示例性的，所述用户属性为用户所使用的终端设备的设备特征，所述设备特征包含以下至少一项：设备厂家、设备型号、设备的操作系统、设备物理地址、设备ip地址。
26.示例性的，事件列表中可以包含多个事件，例如打开应用事件、浏览商品事件、将商品加入购物车事件和对购物车中的商品下单事件。不同的监测场景的事件规则通常不
同。例如，监测场景1的事件列表中的事件与监测场景2的事件列表中的事件可以不同，监测场景1的各个事件的数量与监测场景2的各个事件的数量可以不同，监测场景1的各个事件的上报顺序与监测场景2的各个事件的上报顺序可以不同。
27.其中，对于打开应用事件、浏览商品事件、将商品加入购物车事件和对购物车中的商品下单事件，上报顺序可以依次为打开应用事件、浏览商品事件、将商品加入购物车事件和对购物车中的商品下单事件。
28.示例性的，需要监测的指标可以包括新用户的数量、活跃用户的数量、安装某个应用的用户数量、下单用户数量等中的一个或多个。若某个指标不满足预设条件，则可以向系统管理员终端和/或业务运营人员终端发送提醒信息，该提醒信息包含不满足预设条件的指标信息。其中，指标不满足预设条件指标的指标值超出预设范围。
29.结合第一方面，在一些实施例中，所述基于所述预设数据生成模型生成理论监测数据，包括：解析所述预设数据生成模型，得到数据生成规则；按照所述数据生成规则中的用户规则，生成新用户；按照所述数据生成规则中的用户属性资源池，为所述新用户配置用户属性；按照所述数据生成规则中的用户规则，获取老用户的信息；按照所述数据生成规则中的事件规则，构建所述新用户和所述老用户触发的事件；按照各个事件的上报顺序，将各个事件依次发送给所述第二电子设备。
30.其中，数据生成系统可以从数据质量监测系统读取数据生成规则信息。解析上述数据生成规则信息可以得到以下信息：各个监测场景的名称、各个监测场景的优先级顺序、各个监测场景对应的用户规则、各个监测场景所需的事件规则、各个监测场景对应的监测规则。
31.示例性的，可以按照用户规则中新用户数量，生成新用户。或者，可以按照用户规则中总用户数和新用户比例，生成新用户。
32.其中，老用户信息可以包括老用户id(身份标识)和老用户的用户属性。老用户id可以为用户名称。需要说明的是，生成一个新用户后，经过一段时间该新用户可以改变为老用户。在一个新用户改变为老用户之后，该用户的有些用户属性保持不变，有些用户属性需要改变。例如，该用户的设备特征、年龄、性别等信息可以保持不变，该用户的用户级别等信息可能会改变。
33.一些实施例中，可以按照事件列表和各个事件的数量，构建用户触发的事件。例如，可以根据事件列表为每个用户触发一个或多个事件，同时设置该一个或多个事件分别对应的数量。
34.举例说明，事件列表包括事件1、事件2、事件3和事件4，事件1对应的数量为x1，事件1对应的数量为x2，事件1对应的数量为x3，事件1对应的数量为x4。对用户1可以触发事件列表中的事件1、事件3和事件4，对用户2可以触发事件列表中的事件2、事件3和事件4。对用户1触发的事件1的数量为x1，触发的事件3的数量为x3，触发的事件4的数量为x4。对用户2触发的事件2的数量为x2，触发的事件3的数量为x3，触发的事件4的数量为x4。
35.示例性的，按照各个事件的上报顺序，将各个事件依次发送给所述第二电子设备，可以为：对于打开应用事件、浏览商品事件、将商品加入购物车事件和对购物车中的商品下单事件，上报顺序可以依次为打开应用事件、浏览商品事件、将商品加入购物车事件和对购物车中的商品下单事件。对应的，先将打开应用事件发送给数据处理系统，之后将浏览商品
事件发送给数据处理系统，接着将商品加入购物车事件发送给数据处理系统，最后将对购物车中的商品下单事件发送给数据处理系统。数据处理系统对数据生成系统依次发送来的各个事件进行处理。
36.第二方面，本技术实施例提供一种电子设备，包括：一个或多个处理器和存储器；所述存储器与所述一个或多个处理器耦合，所述存储器用于存储计算机程序代码，所述计算机程序代码包括计算机指令；当所述一个或多个处理器执行所述计算机指令时，使得所述电子设备执行如第一方面中任一项所述的方法。
37.第三方面，本技术实施例提供一种芯片系统，所述芯片系统包括处理器，所述处理器与存储器耦合，所述处理器执行所述存储器中存储的计算机程序，以实现如第一方面中任一项所述的方法。其中，该芯片系统可以为单个芯片，或者多个芯片组成的芯片模组。
38.第四方面，本技术实施例提供一种芯片系统，所述芯片系统包括存储器和处理器，所述处理器执行所述存储器中存储的计算机程序，以实现如第一方面中任一项所述的方法。其中，该芯片系统可以为单个芯片，或者多个芯片组成的芯片模组。
39.第五方面，本技术实施例提供一种计算机程序产品，当计算机程序产品在电子设备上运行时，使得电子设备执行上述第一方面中任一项所述的方法。
40.第六方面，本技术实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如第一方面中任一项所述的方法。
41.可以理解地，上述提供的第二方面所述的电子设备、第三方面和第四方面所述的芯片系统、第五方面所述的计算机程序产品、第六方面所述的计算机可读存储介质，均用于执行第二方面中所提供的方法，或第三方面中所提供的方法。因此，其所能达到的有益效果可参考对应方法中的有益效果，此处不再赘述。
附图说明
42.图1为相关技术一中对etl数据处理过程进行监控的方法适用的系统架构示意图；
43.图2为相关技术二中基于数据处理过程模型对数据处理进行监控的方法的流程示意图；
44.图3为本技术实施例提供的指标监控方法的架构示意图；
45.图4为本技术实施例提供的指标监控方法的流程示意图；
46.图5为本技术实施例提供的指标监控的界面示意图；
47.图6为本技术实施例提供的为数据质量监测系统配置数据生成规则信息的流程示意图；
48.图7为本技术实施例提供的生成理论监测数据的流程示意图；
49.图8为本技术实施例提供的对监控指标进行监测的流程示意图；
50.图9为本技术实施例提供的对监控指标进行监测的流程示意图；
51.图10为本技术实施例提供的电子设备的结构示意图。
具体实施方式
52.以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具
体细节，以便透彻理解本技术实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本技术。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本技术的描述。
53.应当理解，当在本技术说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
54.还应当理解，在本技术说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
55.如在本技术说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
[0056]
另外，在本技术说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
[0057]
在本技术说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本技术的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
[0058]
此外，本技术实施例中提到的“多个”应当被解释为两个或两个以上。
[0059]
本技术实施例中提供的指标监控方法中所涉及到的步骤仅仅作为示例，并非所有的步骤均是必须执行的步骤，或者并非各个信息或消息中的内容均是必选的，在使用过程中可以根据需要酌情增加或减少。
[0060]
本技术实施例中同一个步骤或者具有相同功能的步骤或者消息在不同实施例之间可以互相参考借鉴。
[0061]
本技术实施例描述的业务场景是为了更加清楚的说明本技术实施例的技术方案，并不构成对于本技术实施例提供的技术方案的限定，本领域普通技术人员可知，随着网络架构的演变和新业务场景的出现，本技术实施例提供的技术方案对于类似的技术问题，同样适用。
[0062]
相关技术一中提供了一种对etl数据处理过程进行监控的方法。图1为上述对etl数据处理过程进行监控的方法适用的系统架构。该系统架构包括：监控指标配置模块、监控处理模块。图1中的etl处理单元是执行etl数据处理的功能模块，通常etl数据处理过程由相应的etl处理单元执行，如数据抽取、转换或加载分别由相应的etl处理单元执行。etl处理单元可以是执行数据抽取、转换或加载等数据处理过程的功能单元。
[0063]
上述对etl数据处理过程进行监控的方法，根据etl数据处理任务的相关信息确定数据处理过程中输出数据的字段类型，根据上述输出数据的字段类型生成etl数据处理过程的监控指标。之后，根据生成的监控指标对etl数据处理过程进行监控，检测是否存在数据处理异常。例如，可以对etl数据处理过程中输出数据的相应字段进行统计或运算，得到
指标的结果值，根据该结果值确定etl数据处理过程是否存在数据处理异常。
[0064]
需要说明的是，在大数据分析时，指标本身是否能够准确反映出etl数据处理过程中可能存在的数据处理异常也是尤为重要的。可以理解的，若指标不能够准确反映出etl数据处理过程中可能存在的数据处理异常，则相关技术一也就不能够为产品优化提供有意义的信息，不能够基于大数据分析结果制定有针对性的运营策略。相关技术一能够在宏观上对etl数据处理过程进行监控，却并不能保证指标本身能够准确反映出etl数据处理过程中可能存在的数据处理异常。例如，在etl数据处理过程中可能存在数据处理过程正常，但由于传输过程中数据丢失而造成的指标异常。
[0065]
相关技术二中提供了一种基于数据处理过程模型对数据处理进行监控的方法。参见图2，该方法包括：构建数据处理过程描述模型与存储结构，采集数据处理过程模型信息，收集任务执行状态信息，对数据处理过程进行可视化处理，利用可视化界面对数据全链路进行管控。上述模型为基于数据处理过程构建针对数据处理过程的模型，该模型用于对各种类型数据和各个数据处理环节进行描述。之后，收集数据处理过程中每个步骤执行状态所产生的日志，描述任务执行的结果，并对执行过程进行可视化展示。
[0066]
其中，相关技术二可以监控数据处理过程是否存在异常，但无法保证指标本身能够准确反映出数据处理过程中可能存在的数据处理异常。即便是从数据处理过程是否存在异常以推测指标是否异常，也仍然不能解决监控指标本身是否准确的问题。例如，在数据处理过程中可能存在数据处理过程正常，但由于传输过程中数据丢失而造成的指标异常。
[0067]
基于上述问题，本技术实施例中提供一种指标监控方法，包括：第一电子设备获取预设数据生成模型，基于上述预设数据生成模型生成理论监测数据，并获取监控指标的第一指标值。其中，该预设数据生成模型中包含理论监测数据的监控指标。之后，第一电子设备将该理论监测数据发送给第二电子设备。以及，第二电子设备通过数据处理模型对该理论监测数据进行处理，并基于处理后的理论监测数据确定监控指标对应的第二指标值。上述数据处理模型为第二电子设备在etl数据处理过程中实际使用的数据处理模型，包括多个数据处理节点。在前的数据处理节点对理论监测数据处理完成后，将处理后的理论监测数据传输给下一个数据处理节点进行处理。因此，在第二电子设备通过数据处理模型对该理论监测数据进行处理的过程中，可能会存在由于数据传输导致部分数据丢失、第二电子设备处理逻辑错误等异常等情况。通过比较监控指标的第一指标值和第二指标值，根据比较结果即可确定上述数据处理模型是否存在上述异常情况，进而确定由上述数据处理模型处理后的数据得到的监控指标本身是否存在异常。若监控指标本身不存在异常，则可以根据该数据处理模型对数据源产生的数据进行处理。因此，本技术实施例能够提升所确定的监控指标的指标值的准确度，能够帮助业务运营人员及时监测监控指标是否异常。
[0068]
需要说明的是，上述第一电子设备和第二电子设备可以为同一电子设备，也可以为不同的电子设备，对此不予限定。第一电子设备和第二电子设备的硬件结构请参考图10。
[0069]
图3示出了本技术实施例中提供的指标监控方法适用的系统架构。参见图3，该系统架构可以包括数据质量监测系统、数据生成系统、数据处理系统、监控指标可视化系统、数据源、系统管理员终端和业务运营人员终端。
[0070]
其中，数据质量监测系统用于管理预设数据生成模型、监控指标质量、监控指标异常通知、查询监控指标的指标值等。例如，系统管理员可以通过系统管理员终端输入预设数
据生成模型。之后，数据质量监测系统接收系统管理员终端发送的预设数据生成模型。关于预设数据生成模型的具体信息请参考后续内容，在此先不予赘述。
[0071]
数据生成系统用于按照上述预设数据生成模型生成理论监测数据，以及基于预设数据处理模型对理论监测数据进行处理，确定监控指标对应的第一指标值。数据生成系统将理论监测数据和第一指标值发送给数据处理系统，以及将第一指标值发送给数据质量监测系统。
[0072]
数据处理系统用于根据数据处理模型对理论监测数据进行处理，确定监控指标对应的第二指标值，并将第一指标值和第二指标值发送给指标可视化系统。其中，上述数据处理模型中包括多个数据处理节点，在前的数据处理节点对理论监测数据处理完成后，将处理后的理论监测数据传输给下一个数据处理节点进行处理。
[0073]
指标可视化系统用于向用户展示监控指标的第一指标值和第二指标值，例如可以通过ui(user interface，用户界面)向用户展示监控指标的第一指标值和第二指标值。业务运营人员可以通过业务运营人员终端访问指标可视化系统，查看监控指标的第一指标值和第二指标值，以及第一指标值和第二指标值之间的差异等信息。
[0074]
数据处理系统还可以将第一指标值和第二指标值发送给数据质量监测系统。业务运营人员可以通过业务运营人员终端访问数据质量监测系统，以查询监测指标的计算方法是否准确。系统管理员可以通过系统管理员终端访问数据质量监测系统，以查询监测指标的计算方法是否准确。
[0075]
数据源为能够提供源数据的系统。例如，数据源可以为开发者提供的app(application，应用程序)或者其他能够产生数据的系统。数据源将产生的源数据发送给数据处理系统。数据处理系统通过实际数据处理模型对源数据进行处理，得出源数据对应的监控指标的指标值。例如，若第一指标值和第二指标值相同，或者两者差值在预设范围内，则数据处理系统可以通过实际数据处理模型对源数据进行处理。或者，若第一指标值和第二指标值相同，或者两者差值在预设范围内，则数据处理系统得出的源数据对应的监控指标的指标值不存在异常，比较可信。
[0076]
图4为本技术实施例提供的指标监控方法的流程示意图。参见图4，上述指标监控方法可以包括步骤101～步骤104。
[0077]
步骤101，第一电子设备生成预设数据生成模型，基于上述预设数据生成模型生成理论监测数据，并获取监控指标对应的第一指标值。
[0078]
示例性的，系统管理员可以通过管理员终端向第一电子设备发送数据生成规则信息。第一电子设备接收该数据生成规则信息，并按照该数据生成规则进行配置，得到预设数据生成模型。
[0079]
其中，预设数据生成模型能够为一种或多种应用场景生产理论监测数据。举例说明，应用场景可以包括：新用户场景、活跃用户场景、用户漏斗分析场景、应用安装场景等。新用户场景可以为获取在预设时间段内(例如一天)首次访问商城网站、app等应用的用户的用户信息的场景。活跃用户场景可以为获取在预设时间段内(例如一周)多次访问商城网站、app等应用的用户的用户信息的场景。用户漏斗分析场景可以为对用户行为状态以及从起点到终点各阶段用户转化率情况进行分析的场景。应用安装场景可以为获取在预设时间段内容安装某个应用的用户数量的场景。
[0080]
一些实施例中，预设数据生成模型可以包括以下数据生成规则信息中的一种信息或多种信息：各个场景新用户和老用户的数量，各个场景需要生产数据的种类及数量，各个场景下生产数据的顺序，各个场景下的监控指标。
[0081]
其中，新用户可以为首次登陆商城网站、app等应用的用户，老用户为已经多次登陆商城网站、app等应用的用户。新用户和老用户的数量可以根据需要进行设置。例如,新用户和老用户的比例可以为1:3，新用户和老用户的总数为c；或者，新用户的数量为a，老用户的数量为b，a与b的比值为1:3。
[0082]
数据的种类可以为用户在商城网站、app等系统中的用户行为，例如登录应用、将商品加入购物车、对购物车中的商品下单、安装应用等。数据的数量可以为在预设时间内发生各种用户行为的数量，例如在预设时间内登录应用的用户数量、在预设时间内将商品加入购物车的用户数量、在预设时间内对购物车中的商品下单的用户数量、在预设时间内安装某个应用的用户数量。
[0083]
各个场景下生产数据的顺序可以为在每种场景中，用户行为发生的先后顺序。例如，对于打开应用、将商品加入购物车、对购物车中的商品下单等用户行为，用户行为发生的先后顺序可以为：首先发生的是打开应用的用户行为，其次发生的是将商品加入购物车的用户行为，最后发生的是对购物车中的商品下单的用户行为。
[0084]
各个场景下的监控指标可以为在各种场景中所关注的指标。例如，对于新用户场景，监控指标可以为在预设时间内(例如一天)产生的新用户的数量。对于活跃用户场景，监控指标可以为在预设时间内(例如一周)活跃用户的数量。对于用户漏斗分析场景，监控指标可以为从起点到终点的各阶段的用户转化率。对于应用安装场景，监控指标可以为安装某个应用的用户数量。
[0085]
需要说明的是，监控指标可以为一个，也可以为多个。例如，监控指标可以为新用户的数量，或活跃用户的数量。
[0086]
其中，第一电子设备可以根据数据生成规则信息，确定监控指标对应的第一指标值。由于数据生成规则信息中包含监控指标及其相关信息，因此第一电子设备可以根据数据生成规则信息确定监控指标对应的第一指标值。
[0087]
示例性的，监控指标为新用户的数量的情况，第一电子设备可以根据数据生成规则信息中的新用户和老用户的数量，确定新用户的数量。例如，若数据生成规则信息中的新用户和老用户的数量为：新用户数量为a，老用户的数量为b，则第一电子设备生成的理论监测数据中的新用户的数量为a，老用户的数量为b。因此，第一电子设备可以确定新用户的数量这一监控指标的指标值为a。
[0088]
示例性的，监控指标为安装应用的用户数量的情况，第一电子设备可以根据数据生成规则信息中的在预设时间内安装某个应用这一用户行为对应的用户数量，来确定安装应用的用户数量。例如，若数据生成规则信息中在预设时间内安装某个应用这一用户行为对应的用户数量为l，则在第一电子设备生成的理论监测数据中，在预设时间内安装某个应用的用户数量为l。因此，第一电子设备可以确定安装的用户数量这一监控指标的指标值为l。
[0089]
示例性的，监控指标为下单用户数量的情况，第一电子设备可以根据数据生成规则信息中的在预设时间内对购物车中的商品下单这一用户行为对应的用户数量来确定下
单用户数量。例如，若数据生成规则信息中在预设时间内对购物车中的商品下单这一用户行为对应的用户数量为m，则在第一电子设备生成的理论监测数据中，在预设时间内对购物车中的商品下单的用户数量为m。因此，第一电子设备可以确定下单用户数量这一监控指标的指标值为m。
[0090]
步骤102，第一电子设备向第二电子设备发送理论监测数据。
[0091]
步骤103，第二电子设备通过数据处理模型对上述理论监测数据进行处理，并基于处理后的理论监测数据确定监控指标对应的第二指标值。
[0092]
其中，数据处理模型为第二电子设备在etl数据处理过程中实际使用的数据处理模型。上述数据处理模型中可以包括多个数据处理节点，在前的数据处理节点对理论监测数据处理完成后，将处理后的理论监测数据传输给下一个数据处理节点进行处理。在第二电子设备通过数据处理模型对该理论监测数据进行处理的过程中，可能会存在由于数据处理节点之间的数据传输导致部分数据丢失的情况。
[0093]
例如，第二电子设备在对理论监测数据处理过程中，一些新用户的信息可能会在数据处理节点之间的数据传输中丢失。在第二电子设备在对理论监测数据处理完成后，第二电子设备根据处理完成后的数据确定新用户数量这一监控指标的第二指标值。由于部分新用户的信息丢失，因此得出的第二指标值与实际情况不符，即新用户数量这一监控指标本身很可能存在异常。
[0094]
步骤104，第一电子设备和/或第二电子设备根据监控指标的第一指标值和第二指标值，对监控指标进行监测。
[0095]
其中，若第一指标值和第二指标值相同或比较接近，则说明第二电子设备的数据处理模型对理论监控数据进行处理后，并不会导致监控指标本身发生异常。若第一指标值和第二指标值相差加大，则说明第二电子设备的数据处理模型对理论监控数据进行处理后，会导致监控指标本身发生异常。
[0096]
一种场景中，可以设置预设范围，根据该预设范围对监控指标进行监测。例如，若第一指标值和第二指标值的差值位于上述预设范围内，则说明第二电子设备的数据处理模型对理论监控数据进行处理后，并不会导致监控指标本身发生异常。若第一指标值和第二指标值的差值超出上述预设范围内，则说明第二电子设备的数据处理模型对理论监控数据进行处理后，会导致监控指标本身发生异常。
[0097]
一些实施例中，可以将监控指标的第一指标值和第二指标值通过ui的方式向业务运营人员展示。
[0098]
图5为本技术实施例提供的指标监控的界面示意图。参见图5，本实施例中的监控指标包括新用户数、活跃用户数和安装事件数等多个。图5中的预期值为监控指标的第一指标值，实际值为监控指标的第二指标值。新用户数的预期值为100，实际值为70，则预期值与实际值的差异为30，即实际值相对于预期值下降了30％。同样的，活跃用户数的预期值为100，实际值为100，则预期值与实际值的差异为0，即实际值相对于预期值没有变化。安装事件数的预期值为100，实际值为120，则预期值与实际值的差异为20，即实际值相对于预期值上升了20％。
[0099]
其中，业务运营人员能够通过图5所展示的各个指标监控的预期值和实际值，能够直观地获知由第二电子设备的数据处理模型得到的监控指标本身是否存在异常。
[0100]
上述指标监控方法，通过比对监控指标的第一指标值和第二指标值，根据比对结果即可确定上述数据处理模型是否存在由于数据传输导致部分数据丢失的情况，进而确定由上述数据处理模型得到的监控指标本身是否存在异常。若由上述数据处理模型得到的监控指标本身不存在异常，则可以根据该数据处理模型对数据源产生的数据进行处理。因此，本技术实施例能够提升所确定的监控指标的指标值的准确度，能够帮助业务运营人员及时监测监控指标是否异常。
[0101]
图6为本技术实施例提供的为数据质量监测系统配置数据生成规则信息的流程示意图。参见图6，为数据质量监测系统配置数据生成规则信息的过程包括步骤201～步骤206。
[0102]
步骤201，响应接收到的监测场景建立指令，建立监测场景。
[0103]
其中，第一电子设备可以包括数据质量监测系统和数据生成系统。例如，数据质量监测系统和数据生成系统可以为第一电子设备的处理器中的一个处理单元。
[0104]
一种场景中，系统管理员可以向系统管理员终端输入数据生成规则信息，系统管理员终端根据该数据生成规则信息生成监测场景建立指令。该监测场景建立指令可以用于指示数据质量监测系统建立一个监测场景，或者同时建立多个监测场景。之后，系统管理员终端向数据质量监测系统发送该监测场景建立指令。数据质量监测系统响应接收到的监测场景建立指令，建立监测场景。
[0105]
例如，该监测场景建立指令可以用于指示数据质量监测系统建立场景1、场景2、场景3和场景4中的一个场景。或者，该监测场景建立指令可以用于指示数据质量监测系统建立场景1、场景2、场景3和场景4中的多个场景。
[0106]
另外，系统管理员终端根据该数据生成规则信息还能够生成监测场景名称设置指令，各个监测场景的优先级设置指令，各个监测场景的用户规则设置指令，各个监测场景所需的事件规则设置指令，以及各个监测场景的监测规则设置指令等。系统管理员终端在向数据质量监测系统发送监测场景建立指令的同时，还可以同时发送监测场景名称设置指令，各个监测场景的优先级设置指令，各个监测场景的用户规则设置指令，各个监测场景所需的事件规则设置指令，以及各个监测场景的监测规则设置指令等。数据质量监测系统同时接收系统管理员终端发送的上述指令。
[0107]
或者，系统管理员终端可以向数据质量监测系统分别发送上述指令。对应的，数据质量监测系统分别接收系统管理员终端发送的上述指令。例如，在步骤201完成后，系统管理员终端向数据质量监测系统发送监测场景名称设置指令；在步骤202完成后，系统管理员终端向数据质量监测系统发送各个监测场景的优先级设置指令；在步骤203完成后，系统管理员终端向数据质量监测系统发送各个监测场景的用户规则设置指令；在步骤204完成后，系统管理员终端向数据质量监测系统发送各个监测场景的事件规则设置指令；在步骤205完成后，系统管理员终端向数据质量监测系统发送各个监测场景的监测规则设置指令。
[0108]
步骤202，响应接收到的监测场景名称设置指令，为建立的监测场景设置名称。
[0109]
其中，监测场景名称用于用户分辨各个场景，且每个监测场景对应一个监测场景名称。监测场景名称设置指令用于指示数据质量监测系统为建立的每个监测场景设置对应的名称。
[0110]
例如，系统管理员可以通过系统管理员终端向数据质量监测系统发送场景1～场
景4的名称。其中，场景1的名称可以为新用户场景，场景2的名称可以为活跃用户场景，场景3的名称可以为用户漏斗分析场景，场景4的名称可以为应用安装场景。
[0111]
步骤203，响应接收到的各个监测场景的优先级设置指令，设置各个监测场景的优先级顺序。
[0112]
其中，监测场景建立指令可以用于指示数据质量监测系统同时建立多个监测场景，而上述多个系统监测场景可能会同时发生事件，此时需要限定各个监测场景的优先级，以使得数据生成系统能够按照设置的优先级，生成各个监测场景的数据。
[0113]
本步骤中，各个监测场景的优先级设置指令用于指示数据质量监测系统设置生成各个监测场景的先后顺序。
[0114]
例如，数据质量监测系统为用户漏斗分析场景设置的优先级级别为5，为活跃用户场景设置的优先级级别为4，为应用安装场景设置的优先级级别为3，为新用户场景设置的优先级级别为2，优先级级别数字越大优先级越高，则数据生成系统按照优先级由高到低的顺序，依次生成各个监测场景的数据。
[0115]
步骤204，响应接收到的各个监测场景的用户规则设置指令，设置各个监测场景对应的用户规则。
[0116]
本步骤中，用户规则设置指令用于指示数据质量监测系统为各个监测场景中生成的各个用户设置用户属性。
[0117]
其中，用户规则可以包括总用户数，新用户比例或数量，老用户比例或数量，以及用户属性资源池，用户属性资源池中包括多个用户属性。示例性的，用户属性可以为用户所使用的终端设备的设备特征。例如，设备特征可以包括设备厂家、设备型号、设备的操作系统、设备mac(medium access control，物理地址)地址或ip地址等。
[0118]
例如，数据质量监测系统接收到系统管理员终端发送的各个监测场景的用户规则信息之后，为各个监测场景设置用户规则。
[0119]
示例性的，生成用户属性资源池的程序代码如下：
[0120][0121]
步骤205，响应接收到的各个监测场景所需的事件规则设置指令，为各个监测场景设置所需的事件规则。
[0122]
其中，事件规则可以包括事件列表、各个事件的上报顺序以及各个事件的数量。事件规则设置指令用于指示数据质量监测系统为各个监测场景设置对应的事件规则。
[0123]
示例性的，事件列表中可以包含多个事件，例如打开应用事件、浏览商品事件、将商品加入购物车事件和对购物车中的商品下单事件。不同的监测场景的事件规则通常不同。例如，监测场景1的事件列表中的事件与监测场景2的事件列表中的事件可以不同，监测场景1的各个事件的数量与监测场景2的各个事件的数量可以不同，监测场景1的各个事件的上报顺序与监测场景2的各个事件的上报顺序可以不同。
[0124]
其中，对于打开应用事件、浏览商品事件、将商品加入购物车事件和对购物车中的商品下单事件，上报顺序可以依次为打开应用事件、浏览商品事件、将商品加入购物车事件和对购物车中的商品下单事件。
[0125]
另外，对于各个事件的数量可以根据需要进行设置。例如，打开应用事件的数量为1000，将商品加入购物车事件的数量为100，对购物车中的商品下单事件的数量为20。
[0126]
一种场景中，数据质量监测系统在接收到系统管理员终端发送的各个监测场景所需的事件规则设置指令之后，为各个监测场景设置所需的事件规则。
[0127]
示例性的，生成各个监测场景所需的事件规则对应的程序代码如下：
[0128]
[0129]
[0130][0131]
步骤206，响应接收到的各个监测场景的监测规则设置指令，为各个监测场景设置对应的监测规则。
[0132]
其中，监测规则可以包括需要监测的指标以及指标不满足预设条件时的动作。
[0133]
示例性的，需要监测的指标可以包括新用户的数量、活跃用户的数量、安装某个应用的用户数量、下单用户数量等中的一个或多个。若某个指标不满足预设条件，则可以向系统管理员终端和/或业务运营人员终端发送提醒信息，该提醒信息包含不满足预设条件的指标信息。其中，指标不满足预设条件指标的指标值超出预设范围。
[0134]
一种场景中，数据质量监测系统在接收到系统管理员终端发送的各个监测场景的监测规则之后，为各个监测场景设置监测规则。
[0135]
图7为本技术实施例提供的生成理论监测数据的流程示意图。参见图7，生成理论监测数据的过程包括步骤301至步骤307。
[0136]
步骤301，读取数据生成规则信息，并解析该数据生成规则信息。
[0137]
其中，数据生成系统可以从数据质量监测系统读取数据生成规则信息。解析上述数据生成规则信息可以得到以下信息：各个监测场景的名称、各个监测场景的优先级顺序、各个监测场景对应的用户规则、各个监测场景所需的事件规则、各个监测场景对应的监测规则。具体信息请参考图6实施例中的内容，在此不再赘述。
[0138]
步骤302，按照数据生成规则信息中的用户规则，生成新用户。
[0139]
其中，参见步骤204中用户规则的相关信息，可以按照用户规则中新用户数量，生成新用户。例如，用户规则中新用户数量为a，则生成a个新用户，a为正整数。或者，可以按照用户规则中总用户数和新用户比例，生成新用户。例如，用户规则中总用户数量为c，新用户比例为n％，则生成c
·
n％个新用户，c为正整数，n为正数。
[0140]
步骤303，按照数据生成规则信息中的用户属性资源池，为生成的新用户配置用户属性。
[0141]
例如，用户属性可以为用户所使用的终端设备的设备特征，可以为每个新用户配置对应的设备特征，即设备厂家、设备型号、设备的操作系统、设备mac地址或ip地址等。另外，用户属性也可以包括用户年龄、性别、用户级别等信息。各个新用户对应的用户属性不同。
[0142]
步骤304，按照数据生成规则信息中的用户规则，获取老用户信息。
[0143]
其中，老用户信息可以包括老用户id(身份标识)和老用户的用户属性。老用户id可以为用户名称，老用户的用户属性请参考步骤303中所述的用户属性，在此不再赘述。
[0144]
需要说明的是，生成一个新用户后，经过一段时间该新用户可以改变为老用户。在一个新用户改变为老用户之后，该用户的有些用户属性保持不变，有些用户属性需要改变。例如，该用户的设备特征、年龄、性别等信息可以保持不变，该用户的用户级别等信息可能会改变。
[0145]
步骤305，按照数据生成规则信息中的事件规则，构建各个用户触发的事件。
[0146]
其中，事件规则可以包括事件列表、各个事件的上报顺序以及各个事件的数量。对应的，构建的用户触发的事件可以包括：每个用户触发的一个或多个事件，该一个或多个事件中各个事件的数量。其中，各个用户触发的事件包括新用户触发的事件和老用户触发的事件。
[0147]
一些实施例中，可以按照事件列表和各个事件的数量，构建用户触发的事件。例如，可以根据事件列表为每个用户触发一个或多个事件，同时设置该一个或多个事件分别对应的数量。
[0148]
举例说明，事件列表包括事件1、事件2、事件3和事件4，事件1对应的数量为x1，事件1对应的数量为x2，事件1对应的数量为x3，事件1对应的数量为x4。对用户1可以触发事件列表中的事件1、事件3和事件4，对用户2可以触发事件列表中的事件2、事件3和事件4。对用户1触发的事件1的数量为x1，触发的事件3的数量为x3，触发的事件4的数量为x4。对用户2触发的事件2的数量为x2，触发的事件3的数量为x3，触发的事件4的数量为x4。
[0149]
步骤306，按照各个用户触发的事件的上报顺序，将各个事件依次发送给数据处理系统。
[0150]
其中，数据处理系统可以为第二电子设备的的处理器中的一个处理单元。
[0151]
例如，对于打开应用事件、浏览商品事件、将商品加入购物车事件和对购物车中的商品下单事件，上报顺序可以依次为打开应用事件、浏览商品事件、将商品加入购物车事件和对购物车中的商品下单事件。对应的，先将打开应用事件发送给数据处理系统，之后将浏览商品事件发送给数据处理系统，接着将商品加入购物车事件发送给数据处理系统，最后将对购物车中的商品下单事件发送给数据处理系统。数据处理系统对数据生成系统依次发送来的各个事件进行处理。
[0152]
步骤307，按照监测规则，确定监控指标的第一指标值。
[0153]
其中，监控指标可以为一个或多个。例如，监控指标可以为新用户的数量、活跃用户的数量、安装某个应用的用户数量、下单用户数量等中的一个或多个。如何确定各个监控指标的第一指标值，请参考步骤102中的内容，在此不再赘述。
[0154]
图8为本技术实施例提供的对监控指标进行监控的流程示意图。参见图8，对监控指标进行监测的过程包括步骤401至步骤404。
[0155]
步骤401，指标可视化系统响应接收到的登录信息，登录指标可视化系统。
[0156]
步骤402，指标可视化系统获取数据处理系统得到的监控指标的第二指标值。
[0157]
步骤403，指标可视化系统获取数据生成系统得到的监控指标的第一指标值。
[0158]
步骤404，指标可视化系统向用户展示第一指标值和第二指标值。
circuit，asic)、现成可编程门阵列(field-programmable gate array，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
[0173]
所述存储器620可以是所述电子设备600的内部存储单元，例如电子设备600的硬盘或内存。所述存储器620也可以是所述电子设备600的外部存储设备，例如所述电子设备600上配备的插接式硬盘，智能存储卡(smart media card，smc)，安全数字(secure digital，sd)卡，闪存卡(flash card)等。进一步地，所述存储器620还可以既包括所述电子设备600的内部存储单元也包括外部存储设备。所述存储器620用于存储所述计算机程序以及所述电子设备600所需的其他程序和数据。所述存储器620还可以用于暂时地存储已经输出或者将要输出的数据。
[0174]
可选的，本技术实施例还提供了一种电子设备，包括：一个或多个处理器、存储器和显示屏。存储器、显示器与一个或多个处理器耦合，存储器用于存储计算机程序代码，计算机程序代码包括计算机指令；当一个或多个处理器执行计算机指令时，使得电子设备执行上述任一个方法中的一个或多个步骤。
[0175]
可选的，本技术实施例还提供了一种电子设备，包括：一个或多个处理器和存储器。存储器与一个或多个处理器耦合，存储器用于存储计算机程序代码，计算机程序代码包括计算机指令；当一个或多个处理器执行计算机指令时，使得电子设备执行上述任一个方法中的一个或多个步骤。
[0176]
可选的，本技术实施例还提供了一种计算机可读存储介质，该计算机可读存储介质中存储有指令，当其在计算机或处理器上运行时，使得计算机或处理器执行上述任一个方法中的一个或多个步骤。
[0177]
可选的，本技术实施例还提供了一种包含指令的计算机程序产品，当该计算机程序产品在计算机或处理器上运行时，使得计算机或处理器执行上述任一个方法中的一个或多个步骤。
[0178]
可选的，本技术实施例还提供了一种芯片系统，该芯片系统可包括存储器和处理器，该处理器执行该存储器中存储的计算机程序，以实现上述任一个方法中的一个或多个步骤。其中，该芯片系统可以为单个芯片，或者多个芯片组成的芯片模组。
[0179]
可选的，本技术实施例还提供了一种芯片系统，该芯片系统可包括处理器，该处理器与存储器耦合，该处理器执行存储器中存储的计算机程序，以实现上述任一个方法中的一个或多个步骤。其中，该芯片系统可以为单个芯片，或者多个芯片组成的芯片模组。
[0180]
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时，全部或部分地产生按照本技术实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。计算机指令可以存储在计算机可读存储介质中，或者通过计算机可读存储介质进行传输。计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。
可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，dvd)、或者半导体介质(例如，固态硬盘(solid state disk，ssd))等。
[0181]
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，该流程可以由计算机程序来指令相关的硬件完成，该程序可存储于计算机可读取存储介质中，该程序在执行时，可包括如上述各方法实施例的流程。而前述的存储介质包括：rom或随机存储记忆体ram、磁碟或者光盘等各种可存储程序代码的介质。
[0182]
最后应说明的是：以上所述，仅为本技术的具体实施方式，但本技术的保护范围并不局限于此，任何在本技术揭露的技术范围内的变化或替换，都应涵盖在本技术的保护范围之内。因此，本技术的保护范围应以所述权利要求的保护范围为准。