分布式计算系统的监控方法、装置、电子设备及存储介质与流程

1.本公开涉及分布式计算、高精地图和自动驾驶领域，具体可用于大数据、分布式计算、自动驾驶中高精地图制作等场景。


背景技术：

2.对于涉及到大规模数据处理的任务，例如用于自动驾驶的高精地图制图，往往需要利用分布式计算系统来完成。在利用分布式计算系统来完成大规模数据处理任务时，由于数据计算量非常庞杂，分布式计算系统往往会由于出现的各种运行异常的问题，而导致任务执行失败。为了提高分布式计算系统任务执行的成功率，需要对分布式计算系统在执行指定任务时的运行情况进行监控，以实时监控对分布式计算系统可能出现的运行异常。
3.但现有对分布式计算系统的监控方法，往往无法为相关人员提供用于管理分布式计算系统运行的决策依据。


技术实现要素：

4.本公开提供了提供一种分布式计算系统的监控方法、装置、电子设备、可读存储介质、计算机程序产品以及分布式计算系统，以为相关人员提供用于管理分布式计算系统运行的决策依据，提高分布式计算系统任务执行的成功率。
5.根据本公开的一方面，提供了一种分布式计算系统的监控方法，该方法可以包括以下步骤：
6.获取执行指定任务的分布式计算系统对应的监控指标，所述监控指标用于表示所述分布式计算系统在执行所述指定任务时的运行情况；
7.将所述监控指标按照获取时间生成时间序列数据；
8.基于所述时间序列数据，对所述监控指标进行可视化处理。
9.根据本公开的第二方面，提供了一种分布式计算系统的监控装置，该装置可以包括：
10.监控指标获取模块，用于获取执行指定任务的分布式计算系统对应的监控指标，所述监控指标用于表示所述分布式计算系统在执行所述指定任务时的运行情况；
11.时间序列数据生成模块，用于将所述监控指标按照获取时间生成时间序列数据；
12.可视化处理模块，用于基于所述时间序列数据，对所述监控指标进行可视化处理。
13.根据本公开的另一方面，提供了一种电子设备，包括：
14.至少一个处理器；以及
15.与该至少一个处理器通信连接的存储器；其中，
16.该存储器存储有可被该至少一个处理器执行的指令，该指令被该至少一个处理器执行，以使该至少一个处理器能够执行本公开任一实施例中的方法。
17.根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行本公开任一实施例中的方法。
18.根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序/指令，其特征在于，该计算机程序/指令被处理器执行时实现本公开任一实施例中的方法。
19.根据本公开的另一方面，提供了一种分布式计算系统，包括本公开实施例中提供的电子设备。
20.本公开的技术，在获取执行指定任务的分布式计算系统对应的监控指标后，会先将监控指标按照获取时间生成时间序列数据，再基于时间序列数据，对监控指标进行可视化处理，从而能够实现对执行指定任务的分布式计算系统对应的监控指标进行可视化。
21.相关人员可基于该可视化的监控指标，对分布式计算系统可能出现的运行异常进行分析和预测，从而为可能出现的运行异常的处理和预防提供决策依据。相关人员还可基于该可视化的监控指标，对分布式计算系统进行任务或资源，从而为分布式计算系统的任务或资源调整提供决策依据。而通过为相关人员提供用于管理分布式计算系统运行的决策依据，能够提高分布式计算系统任务执行的成功率。
22.应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
23.附图用于更好地理解本方案，不构成对本公开的限定。其中：
24.图1为本公开的实施例中提供的一种分布式计算系统的监控方法的流程图；
25.图2为本公开的实施例中提供的一种监控指标获取方法的流程图；
26.图3为本公开的实施例中提供的一种监控指标可视化的示意图；
27.图4为本公开的实施例中提供的一种时间序列数据方法的流程图；
28.图5为本公开的实施例中提供的一种监控指标的可视化图标的示意图；
29.图6为本公开的实施例中提供的一种分布式计算系统的监控装置的示意图；
30.图7为本公开的实施例提供的一种电子设备的示意图。
具体实施方式
31.以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
32.本公开提供一种分布式计算系统的监控方法，具体请参照图1，其为本公开的实施例中提供的一种分布式计算系统的监控方法的流程图。该方法可以包括以下步骤：
33.步骤s101：获取执行指定任务的分布式计算系统对应的监控指标，监控指标用于表示分布式计算系统在执行指定任务时的运行情况。
34.步骤s102：将监控指标按照获取时间生成时间序列数据。
35.步骤s103：基于时间序列数据，对监控指标进行可视化处理。
36.所谓执行指定任务的分布式计算系统，可以指包括多个通过互联网连接的节点的系统，这些节点相互配合用于执行并完成某一指定任务。具体的，这些节点中可以包括主节点以及子节点，主节点可以为管理节点，用于负责系统的管理和配置、任务的管理和分配，
也可以用于执行子任务。子节点也可以称为从节点，子节点的用途包括但不限于并行的执行各自分配的不同子任务。
37.所谓子任务可以为主节点对指定任务进行任务划分后，分配给不同的节点来执行的任务。在各个节点的执行各自分配的子任务的过程中，可以按预设时间间隔，将子任务在相应时间间隔内的实时执行结果提供给主节点进行结果的统一合并；也可以在各个节点的完成各自分配的子任务后，再将子任务对应的执行结果提供给主节点进行结果的统一合并，以获得最终的指定任务的任务执行结果。
38.将子任务在相应时间间隔内的实时执行结果提供给主节点进行结果的统一合并，能够将结果的统一合并分散到不同的时间段，从而能够降低主节点的压力。
39.所谓节点的一般实现方式包括但不限于计算机、服务器。具体可以包括统一服务器集群的不同服务器，也可以为部署在同一地区不同地点的计算机以及服务器等，还可以为部署在不同地区的计算机、服务器等。
40.以指定任务为制作某一市区的高精地图的任务为例，该任务往往可以按照该市区所包括的不同地区，划分成多个子任务，每一个子任务为制作该地区的高精地图的任务。在划分好子任务后，会将制作地区的高精地图的子任务对应分配给部署在所属地区的计算机、服务器等来完成。
41.本公开的实施例中提供的分布式计算系统的监控方法，执行主体主要为运行在主节点上的目标程序、应用或软件。所谓目标程序、应用或软件为具有分布式计算系统的监控的功能的程序、应用或软件。
42.本公开的实施例中提供的分布式计算系统的监控方法，在获取执行指定任务的分布式计算系统对应的监控指标后，会先将监控指标按照获取时间生成时间序列数据。再基于时间序列数据，对监控指标进行可视化处理。从而能够实现对执行指定任务的分布式计算系统对应的监控指标进行可视化。
43.相关人员可基于该可视化的监控指标，对分布式计算系统可能出现的运行异常进行分析和预测，从而为可能出现的运行异常的处理和预防提供了决策依据。相关人员还可基于该可视化的监控指标，对分布式计算系统进行任务或资源，从而为分布式计算系统的任务或资源调整提供了决策依据。通过为相关人员提供用于管理分布式计算系统运行的决策依据，能够提高分布式计算系统任务执行的成功率。
44.具体的，相关人员可基于该可视化的监控指标，对分布式计算系统可能出现的运行异常进行分析和预测。上述过程使相关人员可对分布式计算系统可能出现的运行异常进行快速的处理和预防。最终可以提高任务执行的成功率。
45.所谓的对分布式计算系统可能出现的运行异常进行分析和预测包括但不限于：对分布式计算系统可能出现的运行内存占用超出对应阈值的时间进行分析和预测；分析和预测cpu使用率超出报警阈值时对应的作业量等。
46.另外，基于可视化的监控指标，对分布式计算系统进行任务或资源的调整，包括但不限于：基于可视化的监控指标，分析和预测哪个节点在何时是超负荷运行的，对即将超负荷运行的节点进行任务或资源的调整，如：减少作业量、调整节点中用于支持子任务执行的资源等；或者，基于可视化的监控指标，分析和预测各个节点在每天的不同时间段所执行的作业类型以及当前作业量，根据作业类型以及当前作业量，分配各个节点在不同时间段所
需要的资源等。根据运行状况来调整各个节点在不同时间段所需要的资源等，能够提高任务执行的成功率。
47.本公开的实施例中，所谓监控指标包括用于指定任务的程序、应用等在任务执行过程中读入数据量、写出数据量、写出记录数、读入记录数、当前作业量、中央处理单元(cpu，central processing unit)使用率、内存使用率、网路进出流量、线程数、每秒事务处理量(tps，transaction per second)和磁盘读写吞吐量等中的至少一种。
48.本公开的实施例中，所谓监控指标是可以根据任务类型、任务量等数据来配置。例如，对需要占用较大cpu资源的任务一般需要将中央处理单元使用率作为监控指标；对于数据读写比较频繁的任务，则一般需要将读入数据量、写出数据量、写出记录数、读入记录数作为监控指标。
49.为了获取运行情况随时间变化的状态或程度，以能够实时的反映运行情况，以使相关人员能够得知分布式计算系统在执行指定任务时的实时运行情况。本公开的实施例中，在获取监控指标后，会将监控指标按照获取时间生成时间序列数据。
50.具体的，将监控指标按照获取时间生成时间序列数据，是指将不同时间获取到的监控指标，按照获取时间的先后顺序生成时间序列数据，以指定时间间隔生成时间序列数据。时间序列数据用于反映运行情况随时间变化的状态或程度。实现方式可以为：将监控指标写入时间序列数据库(tsdb，time
‑
series database)，以生成时间序列数据。
51.为了便于获取分布式计算系统中不同节点各自对应的监控指标，以更好地区分出不同节点各自对应的监控指标，从而使相关人员能够针对性地获得对各个节点的决策依据，获取分布式计算系统对应的监控指标的步骤可以如图2所示，其为本公开的实施例中提供的一种监控指标获取方法的流程图。
52.步骤s201：确定与各个节点对应的监控指标接收器。
53.步骤s202：从各个监控指标采集器拉取对应的节点的监控指标，各个节点为分布式计算系统中用于执行指定任务中不同子任务的节点，监控指标采集器为各个节点中用于采集各自监控指标的数据采集器。
54.如图3所示，其为本公开的实施例中提供的一种监控指标可视化的示意图。监控指标接收器为预先部署在各个节点301的数据采集器。具体实现方式包括graphite
‑
exporter，prometheus服务(prometheus
‑
server)中对应于各个监控指标采集器的监控指标接收器用于从各个监控指标采集器拉取对应的节点的监控指标，并将监控指标写入时间序列数据库，以生成时间序列数据。最终通过图形编辑器将时间序列数据可视化为对应的可视化图表。其中，图形编辑器可以为grafana。
55.需要说明的是，exporter是一个采集监控指标并通过prometheus监控规范对外提供数据的组件；prometheus是一个开源的服务监控系统和时间序列数据库，运行在主节点上；grafana是一种开源的仪表盘和图形编辑器，grafana内置promql并且提供丰富的图表工具，通过http(hypertext transfer prtcl，超文本传输协议)协议与prometheus时序数据库连接，利用promql(prometheus query language，prometheus对应的数据查询领域专用语言)查询所需的监控指标，以实现对所需的监控指标进行可视化处理。
56.也就是说，本公开的实施例中，可以仅对所需的监控指标进行可视化处理。例如，仅对运行内存占用量或者cpu使用率等进行可视化处理。仅对所需的监控指标进行可视化
处理能够使获得的可视化数据更有针对性，且能够减少可视化所需的资源。
57.另外，本公开的实施例在对所需的监控指标进行可视化处理后，还可以进一步对所需的监控指标进行可视化展示，以便相关人员可基于该可视化的监控指标，对分布式计算系统进行相关决策。具体实现方式为：基于不同类型的监控指标对应的时间序列数据，对不同类型的监控指标进行可视化处理。
58.另外，监控指标采集器、监控指标接收器以及服务监控系统的实现方式均不限于以上一种实现方式，只要能够实现监控指标的可视化处理即可。
59.为了方便地对监控指标进行聚合、过滤及裁剪，以对监控指标进行可视化处理，可以采用如图4所示的步骤来生成时间序列数据，图4为本公开的实施例中提供的一种时间序列数据方法的流程图。
60.步骤s401：确定监控指标中不同类型的监控指标对应的监控指标名称，以及不同类型的监控指标对应的监控指标标签，监控指标标签为用于表示不同类型的监控指标的特征的标签。
61.步骤s402：基于监控指标名称以及监控指标标签，生成不同类型的监控指标对应的时间序列数据。
62.所谓监控指标名称可以为用以识别某一监控指标的专用称呼。例如：监控指标为cpu使用率时，其名称为cpu使用率。再如：监控指标为运行内存占用量时，其名称为运行内存占用量。
63.为了提高可视化的效率，降低可视化的成本，并确保时间序列数据可以形象的被展现出来，本公开的实施例中，采用针对时间序列数据进行图形以及报表处理，生成监控指标对应的可视化图表的方方式，来实现对监控指标进行可视化处理。具体图表如图5所示，其为本公开的实施例中提供的一种监控指标的可视化图标的示意图。图中的监控指标为读入记录数，坐标系的横坐标表示时间，纵坐标表示当前为读入记录数。
64.本公开的实施例中提供的分布式计算系统的监控方法，还可以将时间序列数据，与报警规则进行比较。并在所述监控指标达到所述报警规则时，进行报警；或者，在所述监控指标未达到所述报警规则时，继续进行监控。
65.如图6所示，本公开的实施例中提供的一种分布式计算系统的监控装置，该装置包括：
66.监控指标获取模块601，用于获取执行指定任务的分布式计算系统对应的监控指标，监控指标用于表示分布式计算系统在执行指定任务时的运行情况；
67.时间序列数据生成模块602，用于将监控指标按照获取时间生成时间序列数据；
68.可视化处理模块603，用于基于时间序列数据，对监控指标进行可视化处理。
69.在一种实施方式中，监控指标获取模块601还可以进一步包括：
70.接收器确定子模块，用于确定与各个节点对应的监控指标接收器；
71.监控指标拉取子模块，用于从各个监控指标采集器拉取对应的节点的监控指标，各个节点为分布式计算系统中用于执行指定任务中不同子任务的节点，监控指标采集器为各个节点中用于采集各自监控指标的数据采集器。
72.在一种实施方式中，时间序列数据生成模块602具体用于将监控指标写入时间序列数据库，以生成时间序列数据。
73.在一种实施方式中，时间序列数据生成模块602还可以进一步包括：
74.指标名称及标签确定子模块，用于确定监控指标中不同类型的监控指标对应的监控指标名称，以及不同类型的监控指标对应的监控指标标签，监控指标标签为用于表示不同类型的监控指标的特征的标签；
75.时间序列数据生成子模块，用于基于监控指标名称以及监控指标标签，生成不同类型的监控指标对应的时间序列数据。
76.在一种实施方式中，可视化处理模块603具体用于基于不同类型的监控指标对应的时间序列数据，对不同类型的监控指标进行可视化处理。
77.在一种实施方式中，可视化处理模块603具体用于针对时间序列数据进行图形以及报表处理，生成监控指标对应的可视化图表。
78.本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
79.根据本公开实施例，本公开还提供了一种电子设备和一种可读存储介质。
80.另外，本公开还提供了一种分布式计算系统，该分布式计算系统包括本公开实施例提供的电子设备。
81.图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
82.如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(rom)702中的计算机程序或者从存储单元708加载到随机访问存储器(ram)703中的计算机程序，来执行各种适当的动作和处理。在ram703中，还可存储设备700操作所需的各种程序和数据。计算单元701、rom 702以及ram 703通过总线704彼此相连。输入/输出(i/o)接口705也连接至总线704。
83.设备700中的多个部件连接至i/o接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的显示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
84.计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如分布式计算系统的监控方法。例如，在一些实施例中，分布式计算系统的监控方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由rom 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到ram 703并由计算单元701执行时，可以执行上文描述的分布式计算系统的监控方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可
以通过其他任何适当的方式(例如，借助于固件)而被配置为执行分布式计算系统的监控方法。
85.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
86.用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
87.在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd
‑
rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
88.为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
89.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)和互联网。
90.计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端
‑
服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的
服务器，或者是结合了区块链的服务器。
91.应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
92.上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。