集群边缘节点的数据处理方法、装置、电子设备及介质与流程

1.本技术涉及云计算边缘领域，具体而言，涉及一种集群边缘节点的数据处理方法、装置、电子设备及计算机可读介质。


背景技术：

2.随着网络基础设施的普及，传统行业信息化、智能化进行的如火如荼。在进行信息化、智能化改造的过程中获取底层系统的全方位的数据变为重中之重。为此，需要部署大量的边缘设备来采集数据、分析数据，通过这些数据进行建模。在物联网边缘层中，有大量离散的边缘设备需要进行管理和运维，因此一个轻量的可靠的运维平台变得非常重要，k3s自身只要60兆的二进制文件和200兆的离线数据包，k3s对于运行平台的要求非常低廉并且启动迅速。k3s基于具备轻量、易于部署、应用部署与kubernetes完全一样的特点，成为目前边缘节点的主要解决方案。
3.目前主流对kubernetes集群的监控技术栈prometheus使用传统的集群收集资源对象拉取到prometheus服务器在汇聚推送告警或者存储的思想和k3s集群在实际情况中边缘设备离散的分布且在不同机房、厂区、不同的地理区域造成的集群网络不稳定。此外，边缘节点设备数量繁多且资源短缺，实际运维状况不稳定性低可靠时通常采用删除节点重启的方法，会带来以下问题：
4.1、k3s边缘集群内部网络抖动导致日志丢失：集群网络不稳定会严重影响监控系统的收集和呈现，在本地暂存的指标一旦恢复连接大量传输会造成严重堵塞丢包。
5.2、节点异常后被删除重启导致日志丢失：频繁对不稳定不健康的k3s集群快速重启会导致采集的数据大量重复且冗余，删除重启会导致容器级别内部的数据直接丢失。这对于边缘集群定位节点问题进行运维变得更为困难。
6.因此，需要一种新的集群边缘节点的数据处理方法、装置、电子设备及计算机可读介质。
7.在所述背景技术部分公开的上述信息仅用于加强对本技术的背景的理解，因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。


技术实现要素：

8.有鉴于此，本技术提供一种集群边缘节点的数据处理方法、装置、电子设备及计算机可读介质，能够为边缘节点内容服务器的运维提供纠错能力，避免丢失日志数据，还能够提供更精确的异常报警的标记。
9.本技术的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本技术的实践而习得。
10.根据本技术的一方面，提出一种集群边缘节点的数据处理方法，该方法包括：监听集群通信端口数据；根据所述端口数据提取多个当前指标；将所述多个当前指标和多个历史指标进行比对；在比对结果存在异常且满足第一策略时，在集群边缘节点内部存储日志
数据并进行处理；在比对结果存在异常且满足第二策略时，将存在异常的指标进行内部存储并进行处理。
11.在本技术的一种示例性实施例中，监听集群通信端口数据，包括：监听集群kubelet tunnel端口数据。
12.在本技术的一种示例性实施例中，将所述多个当前指标和多个历史指标进行比对，包括：根据集群边缘节点待收集的指标生成指标树；生成所述多个历史指标的历史指标树；生成所述多个当前指标的当前指标树；将所述当前指标树和所述历史指标树的树形图子元素进行递归比较。
13.在本技术的一种示例性实施例中，将所述多个当前指标和多个历史指标进行比对，还包括：更新存在差异的树形图子元素。
14.在本技术的一种示例性实施例中，在比对结果存在异常且满足第一策略时，在集群边缘节点内部存储日志数据并进行处理，包括：在比对结果存在异常且存在通信指标区别度异常时，集群边缘节点内部存储日志数据并进行处理。
15.在本技术的一种示例性实施例中，集群边缘节点内部存储日志数据并进行处理，包括：将异常节点指标压缩后在集群边缘节点内部进行存储；在异常节点指标恢复正常后，向服务端输出异常节点指标。
16.在本技术的一种示例性实施例中，在比对结果存在异常且满足第二策略时，将存在异常的指标进行内部存储并进行处理，包括：在比对结果存在异常且存在健康指标区别度异常时，向服务端输出标记后的节点异常指标。
17.根据本技术的一方面，提出一种集群边缘节点的数据处理装置，该装置包括：监听模块，用于监听集群通信端口数据；指标模块，用于根据所述端口数据提取多个当前指标；比对模块，用于将所述多个当前指标和多个历史指标进行比对；第一异常模块，用于在比对结果存在异常且满足第一策略时，在集群边缘节点内部存储日志数据并进行处理；第二异常模块，用于在比对结果存在异常且满足第二策略时，将存在异常的指标进行内部存储并进行处理。
18.根据本技术的一方面，提出一种电子设备，该电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上文的方法。
19.根据本技术的一方面，提出一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如上文中的方法。
20.根据本技术的集群边缘节点的数据处理方法、装置、电子设备及计算机可读介质，通过监听集群通信端口数据；根据所述端口数据提取多个当前指标；将所述多个当前指标和多个历史指标进行比对；在比对结果存在异常且满足第一策略时，在集群边缘节点内部存储日志数据并进行处理；在比对结果存在异常且满足第二策略时，将存在异常的指标进行内部存储并进行处理的方式，能够为边缘节点内容服务器的运维提供纠错能力，避免丢失日志数据，还能够提供更精确的异常报警的标记。
21.应当理解的是，以上的一般描述和后文的细节描述仅是示例性的，并不能限制本技术。
附图说明
22.通过参照附图详细描述其示例实施例，本技术的上述和其它目标、特征及优点将变得更加显而易见。下面描述的附图仅仅是本技术的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
23.图1是根据一示例性实施例示出的一种集群边缘节点的数据处理方法及装置的系统框图。
24.图2是根据一示例性实施例示出的一种集群边缘节点的数据处理方法的流程图。
25.图3是根据另一示例性实施例示出的一种集群边缘节点的数据处理方法的流程图。
26.图4是根据另一示例性实施例示出的一种集群边缘节点的数据处理方法的示意图。
27.图5是根据一示例性实施例示出的一种集群边缘节点的数据处理装置的框图。
28.图6是根据一示例性实施例示出的一种电子设备的框图。
29.图7是根据一示例性实施例示出的一种计算机可读介质的框图。
具体实施方式
30.现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本技术将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。
31.此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本技术的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本技术的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本技术的各方面。
32.附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
33.附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
34.应理解，虽然本文中可能使用术语第一、第二、第三等来描述各种组件，但这些组件不应受这些术语限制。这些术语乃用以区分一组件与另一组件。因此，下文论述的第一组件可称为第二组件而不偏离本技术概念的教示。如本文中所使用，术语“及/或”包括相关联的列出项目中的任一个及一或多者的所有组合。
35.本领域技术人员可以理解，附图只是示例实施例的示意图，附图中的模块或流程并不一定是实施本技术所必须的，因此不能用于限制本技术的保护范围。
36.图1是根据一示例性实施例示出的一种集群边缘节点的数据处理方法、装置的系统框图。
37.如图1所示，集群系统架构10可以包括边缘节点101、102、103，网络104和服务端105。网络104用以在边缘节点101、102、103和服务端105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
38.边缘节点101、102、103通过网络104与服务端105交互，以接收或发送消息等。边缘节点101、102、103上可以安装有各种应用，例如监测类应用、数据处理类应用、报文转发类应用、指令执行类工具、邮箱客户端、社交平台软件等。
39.边缘节点101、102、103可以是支持数据传输的各种电子设备，包括但不限于传感器、通信处理设备、智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
40.服务端105可以是提供各种服务的服务器，例如对边缘节点101、102、103所传输的数据提供支持的集群服务端。
41.边缘节点101、102、103可例如监听集群通信端口数据；边缘节点101、102、103可例如根据所述端口数据提取多个当前指标；边缘节点101、102、103可例如将所述多个当前指标和多个历史指标进行比对；边缘节点101、102、103可例如在比对结果存在异常且满足第一策略时，在集群边缘节点内部存储日志数据并进行处理；边缘节点101、102、103可例如在比对结果存在异常且满足第二策略时，将存在异常的指标进行内部存储并进行处理。
42.需要说明的是，本技术实施例所提供的集群边缘节点的数据处理方法可以由边缘节点101、102、103和服务端105执行，相应地，集群边缘节点的数据处理装置可以设置于边缘节点101、102、103和服务端105中。
43.目前运维边缘集群注重向中心云协同，无法在边缘集群server-agent间中断下自治，监控手段需要稳定环境，不会标记和收集非健康容器内数据。本技术提出的方法可以形成agent低资源自治，降低记录冗余保存下关键日志。
44.和现有技术相比，本技术的集群边缘节点的数据处理方法，主要优势在于：
45.1、给出了一个低资源需求的判别指标异常的计算算法以压缩计算量。
46.2、针对异常情况处理数据提供日志保存能力。
47.本公开提出了一种在涉及边缘集群系统k3s的节点异常场景中，节省有限资源并在节点终止前对节点日志数据保存和分辨异常并保存的方法。
48.图2是根据一示例性实施例示出的一种集群边缘节点的数据处理方法的流程图。集群边缘节点的数据处理方法20至少包括步骤s202至s210。
49.如图2所示，在s202中，监听集群通信端口数据。在集群部署，监听集群kubelet tunnel端口数据。本技术中的集群可为k3s集群，k3s二进制文件是一个自给自足的封装实体，它几乎运行了kubernetes集群的所有组件，包括api server、scheduler和controller。默认情况下，每个k3s的安装都包括控制平面、kubelet和containerd运行时，担当kubernetes工作负载。
50.k3s集群的所有数据存储在server(master)节点本地的sqlite数据库中，也支持按需在部署节点存储在诸如mysql、etcd中。server节点与agent节点之间采用tunnel隧道通信，增强了安全性，同时也提升了效率。agent与server节点即使断开网络连接，也不影响相互各自的业务。
51.基于k3s集群中边缘节点的这些特点，在本技术中结合相关特点制定了具体的数据处理方案。
52.在s204中，根据所述端口数据提取多个当前指标。当前指标可事先设置在边缘节点中，是和边缘节点自身相关的指标，每个边缘节点的指标设置可不相同。
53.在s206中，将所述多个当前指标和多个历史指标进行比对。可根据集群边缘节点待收集的指标生成指标树；生成所述多个历史指标的历史指标树；生成所述多个当前指标的当前指标树；将所述当前指标树和所述历史指标树的树形图子元素进行递归比较。
54.在s208中，在比对结果存在异常且满足第一策略时，在集群边缘节点内部存储日志数据并进行处理。
55.在一个实施例中，在比对结果存在异常且存在通信指标区别度异常时，集群边缘节点内部存储日志数据并进行处理。可设置正常通信指标阈值，在当前指标和历史指标中的通信指标大于阈值时，可认为当前网络传输环境中存在通信指标区别度异常。
56.更加具体的，可将异常节点指标压缩后在集群边缘节点内部进行存储；在异常节点指标恢复正常后，向服务端输出异常节点指标。
57.更具体的，集群通信指标区别度异常时，向节点process组件传递警告开始在agent内部拉起数据库节点，压缩输出异常节点日志储存；恢复正常后关闭内部临时数据库向server端sqlite输出节点异常指标；
58.在s208中，在比对结果存在异常且满足第二策略时，将存在异常的指标进行内部存储并进行处理。
59.在一个实施例中，在比对结果存在异常且存在健康指标区别度异常时，向服务端输出标记后的节点异常指标。可设置每个指标正常值范围和差异范围，在当前指标和历史指标中的通信指标大于差异范围，或者当前指标本身大于正常值范围时，可认为该指标出现异常，即健康度指标异常。
60.更具体的，节点内部健康指标区别度异常时，向server tunnel端口输出标记后的节点指标直至节点访问异常或恢复健康；在集群server端监控汇聚组件汇总结果。
61.根据本技术的集群边缘节点的数据处理方法，通过监听集群通信端口数据；根据所述端口数据提取多个当前指标；将所述多个当前指标和多个历史指标进行比对；在比对结果存在异常且满足第一策略时，在集群边缘节点内部存储日志数据并进行处理；在比对结果存在异常且满足第二策略时，将存在异常的指标进行内部存储并进行处理的方式，能够为边缘节点内容服务器的运维提供纠错能力，避免丢失日志数据，还能够提供更精确的异常报警的标记。
62.应清楚地理解，本技术描述了如何形成和使用特定示例，但本技术的原理不限于这些示例的任何细节。相反，基于本技术公开的内容的教导，这些原理能够应用于许多其它实施例。
63.图3是根据另一示例性实施例示出的一种集群边缘节点的数据处理方法的流程图。图3所示的流程30是对图2所示的流程中s206“将所述多个当前指标和多个历史指标进行比对”的详细描述。
64.如图3所示，在s302中，根据集群边缘节点待收集的指标生成指标树。实时根据节点及部署的容器及要收集的指标生成树形图，每次新指标根据收集周期生成新的树进行比对。
65.在s304中，生成所述多个历史指标的历史指标树。
66.在s306中，生成所述多个当前指标的当前指标树。
67.在s308中，将所述当前指标树和所述历史指标树的树形图子元素进行递归比较。设定阈值，对树形图子元素递归比较：当比较两个相同类型的树子叶元素时，检查它们的指标属性，保留相同的底层指标数值，只更新产生改变的指标。
68.在s310中，更新存在差异的树形图子元素。每次更新后评估指标属性下指标数值更新比例和数值。大于阈值抛出异常值。
69.一旦有节点内容器丢失，没有数据拉取到，生成新节点树抛出异常值。还可根据异常值向agent process模块输出请求，拉取agent内容器运行sqlite服务，异常值正常释放后，sqlite数据库并转移数据至server节点。
70.图4是根据另一示例性实施例示出的一种集群边缘节点的数据处理方法的示意图。图4所示的流程40是对图2所示的流程的详细描述。
71.在集群部署，监听kubelet tunnel端口数据；根据收集到的数据实时生成树形图进行区别度分析；设定区分度阈值来标定异常情况；
72.集群通信指标区别度异常：向节点process组件传递警告开始在agent内部拉起数据库节点，压缩输出异常节点日志储存；恢复正常后关闭内部临时数据库向server端sqlite输出节点异常指标；
73.节点内部健康指标区别度异常：向server tunnel端口输出标记后的节点指标直至节点访问异常或恢复健康；
74.在集群server端监控汇聚组件汇总结果。
75.和现有技术相比，本技术的方案，能够对节点内容器指标联立建模，统一分析监控状态；流处理指标为树形图比对，使用o(n)复杂度的树形图算法实现高性能低占用；提前预判网络波动，容器波动在节点内拉起小型数据库保存关键信息。
76.根据本技术的方案，能使得复杂场景，极端场景下边缘集群不稳定环境保持日志稳定收集；还能够对容器级运维数据提供异常值分析能力。还能够对统计分析日志进行大数据挖掘业务，提供了更精确的异常报警的标记，可以对前后时间段数据进行针对性分析。
77.本领域技术人员可以理解实现上述实施例的全部或部分步骤被实现为由cpu执行的计算机程序。在该计算机程序被cpu执行时，执行本技术提供的上述方法所限定的上述功能。所述的程序可以存储于一种计算机可读存储介质中，该存储介质可以是只读存储器，磁盘或光盘等。
78.此外，需要注意的是，上述附图仅是根据本技术示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。
79.下述为本技术装置实施例，可以用于执行本技术方法实施例。对于本技术装置实施例中未披露的细节，请参照本技术方法实施例。
80.图5是根据一示例性实施例示出的一种集群边缘节点的数据处理装置的框图。如图5所示，集群边缘节点的数据处理装置50包括：监听模块502，指标模块504，比对模块506，第一异常模块508，第二异常模块510。
81.监听模块502用于监听集群通信端口数据；
82.指标模块504用于根据所述端口数据提取多个当前指标；
83.比对模块506用于将所述多个当前指标和多个历史指标进行比对；
84.第一异常模块508用于在比对结果存在异常且满足第一策略时，在集群边缘节点内部存储日志数据并进行处理；
85.第二异常模块510用于在比对结果存在异常且满足第二策略时，将存在异常的指标进行内部存储并进行处理。
86.根据本技术的集群边缘节点的数据处理装置，通过监听集群通信端口数据；根据所述端口数据提取多个当前指标；将所述多个当前指标和多个历史指标进行比对；在比对结果存在异常且满足第一策略时，在集群边缘节点内部存储日志数据并进行处理；在比对结果存在异常且满足第二策略时，将存在异常的指标进行内部存储并进行处理的方式，能够为边缘节点内容服务器的运维提供纠错能力，避免丢失日志数据，还能够提供更精确的异常报警的标记。
87.图6是根据一示例性实施例示出的一种电子设备的框图。
88.下面参照图6来描述根据本技术的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例，不应对本技术实施例的功能和使用范围带来任何限制。
89.如图6所示，电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
90.其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元610执行，使得所述处理单元610执行本说明书中描述的根据本技术各种示例性实施方式的步骤。例如，所述处理单元610可以执行如图2，图3中所示的步骤。
91.所述存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(rom)6203。
92.所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
93.总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
94.电子设备600也可以与一个或多个外部设备600’(例如键盘、指向设备、蓝牙设备等)通信，使得用户能与该电子设备600交互的设备通信，和/或该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。
95.通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，如图7所示，根据本技术实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在
一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本技术实施方式的上述方法。
96.所述软件产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
97.所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。
98.可以以一种或多种程序设计语言的任意组合来编写用于执行本技术操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、c 等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
99.上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该计算机可读介质实现如下功能：监听集群通信端口数据；根据所述端口数据提取多个当前指标；将所述多个当前指标和多个历史指标进行比对；在比对结果存在异常且满足第一策略时，在集群边缘节点内部存储日志数据并进行处理；在比对结果存在异常且满足第二策略时，将存在异常的指标进行内部存储并进行处理。
100.本领域技术人员可以理解上述各模块可以按照实施例的描述分布于装置中，也可以进行相应变化唯一不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块。
101.通过以上的实施例的描述，本领域的技术人员易于理解，这里描述的示例实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本技术实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本技术实施例的方法。
102.以上具体地示出和描述了本技术的示例性实施例。应可理解的是，本技术不限于这里描述的详细结构、设置方式或实现方法；相反，本技术意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。