一种工业智能制造边缘智能计算优化方法与流程

1.本发明涉及工业智能制造与边缘计算领域，具体地说是一种工业智能制造边缘智能计算优化方法。


背景技术：

2.随着云服务和物联网的拉动，网络的边缘正在从数据消费者转变为数据生产者和数据消费者。数据越来越多地在网络的边缘产生，因此，在网络的边缘处理数据会更有效率。微数据中心、云中心和雾计算已经被相继提出并应用在多个领域之中，当数据在网络的边缘生成时，云计算并不总是有效地处理数据。现在有了物联网，我们将进入后云时代，日常生活中会产生大量的数据，很多应用程序也会部署在边缘来消费这些数据。思科全球云指数统计，2019年，人、机、物产生的数据达到500吉比特，但全球数据中心ip流量仅达到10.4吉比特。45％的物联网创建的数据被存储、处理、分析，并在网络附近或边缘计算。到2020年，将有500亿件东西连接到互联网上。有些物联网应用可能需要非常短的响应时间，有些可能涉及私有数据，有些可能会产生大量的数据，这对网络带来沉重的负载，云计算效率不足以支持这些应用程序。
3.传统的编程模型并不适合边缘计算，边缘计算中的设备大多是异构计算平台，每个设备上的运行时环境、数据也不相同，且边缘设备的资源相对受限，在边缘计算场景下部署用户应用程序会有较大的困难。边缘计算中的一个任务可以迁移到不同的边缘设备去执行，即任务可迁移是实现在边缘设备上进行数据处理的必要条件。边缘计算模型中的数据具有一定的可分布性，从而要求处理数据所需要的计算、存储和通信资源也具有可分布性。只有当边缘计算系统具备数据处理和计算所需要的资源，边缘设备才可以对数据进行处理。


技术实现要素：

4.为解决上述技术问题，本发明提供了一种工业智能制造边缘智能计算优化方法。
5.本发明采用如下技术方案：一种工业智能制造边缘智能计算优化方法，包括以下步骤：
6.采集工业生产中设备的状态数据，并经边缘网关传递到服务器；
7.在服务器中建立带有退出节点的边缘计算模型，并将边缘计算模型部署到网关中；
8.当有计算任务时，边缘网关通过边缘计算模型输入选择退出节点，对实时采集的设备状态进行在线识别，并将识别结果送至服务器，实现边缘计算的优化。
9.所述建立带有退出节点的边缘计算模型，包括以下步骤：
10.将设备状态经过池化后得到特征结果，作为输入变量输入到神经网络中；
11.在训练阶段，将损失函数与每个出口结合起来，每个出口决定于深度的准确率；x是输入变量，在每个出口点设计一个目标函数如下：
[0012][0013]
是一个函数，表示从入口点到第n个出口分支的神经网络的输出，即为z，作为识别结果；θ代表网络参数，包括权值和偏置；
[0014]
然后将网络输出结果通过softmax激活函数得到用于表示含有设备正常或异常分类的状态判别结果
[0015][0016]
c是所有可能设备状态c的集合，在第n个退出节点的计算模型损失函数ln如下：
[0017][0018]
y是模型输出的真实值，即设备真实的正常或异常状态；然后将每个出口损失函数的加权和最小化作为优化问题进行训练，得到训练后的模型。
[0019]
设备状态经过最大池化方法得到特征结果，具体如下：
[0020][0021]
其中，e
ij
是状态矩阵的第i行和第j列中的元素，所述状态矩阵通过采集的设备状态得到，m为设备状态特征向量输入的个数，是最大元素的结果。
[0022]
设备状态经过平均池方法得到特征结果，具体如下：
[0023]
平均池通过取状态矩阵每个分量的平均值来作为特征结果。
[0024][0025]
其中，e
ij
是状态矩阵的第i行和第j列中的元素，所述状态矩阵通过采集的设备状态得到，m为设备状态特征向量输入的个数，是平均元素的结果。
[0026]
联合损失函数l如下：
[0027][0028]
式中，n为模型出口点的总数，βn为每个出口的关联权值。
[0029]
经过训练后，使用熵来衡量在出口点分类器对样本预估概率，熵的定义为：
[0030]
[0031]
其中，通过激活函数得到状态判别结果包含所有可能结果的计算概率，c是所有可能设备状态c的集合，快速决断算法为：
[0032]
(1)n＝1...n为第n个退出节点，计算(1)n＝1...n为第n个退出节点，计算
[0033]
(2)如果e＜tn则返回n，否则重复(1)；
[0034]
其中x是输入样本，tn是决定是否在第n层退出的时间阈值，n是出口点的总数。
[0035]
在线优化阶段，边缘计算模型首先在边缘网关上退出，之后在服务器上完成剩余节点的网络计算；
[0036]
在第n个退出节点，在边缘网关上每个退出节点的运行时间edn和服务器上的运行时间esn，zn是模型第n层的输出计算量，input为模型输入计算量；在带宽b下，计算整个运行时
[0037]
如果a小于目标时延，则直接选择在目标时延内的退出节点作为出口点n；
[0038]
如果a大于等于目标时延，则不改变训练阶段得到的出口点n。
[0039]
本发明具有以下有益效果及优点：
[0040]
本发明设计了一种工业智能制造边缘智能计算优化方法，边缘智能计算模型设计适用于边缘测设备基于深度学习的联合模型训练与推断策略，设计浅层网络快速退出出口，合理选择边缘服务器退出节点，降低网络复杂度，建立云边协同化数据优化算法。基于边缘设备计算资源的智能算法优化方法，解决边缘智能系统的实时性和可靠性，降低能耗、网络带宽需求，以及信息泄露的可能性。
附图说明
[0041]
图1是本发明的总体构架框图；
[0042]
图2是本发明的智能边缘计算算法流程图。
具体实施方式
[0043]
下面结合附图及实施例对本发明做进一步的详细说明。
[0044]
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图对本发明的具体实施方式做详细的说明。在下面的描述中阐述了很多具体细节以便于充分理解本发明。但本发明能够以很多不同于在此描述的其他方式来实施，本领域技术人员可以在不违背发明内涵的情况下做类似改进，因此本发明不受下面公开的具体实施的限制。
[0045]
除非另有定义，本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中在发明的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本发明。
[0046]
在工业生产中设各种边缘设备(如机械臂、摄像头、传感器等)会产生大量数据，常规的云计算方法网络时延大，同时海量数据的传输和存储也存在着计算负荷的问题。本发
明设计了一种能够在设备边缘侧实现智能计算的方法，其构架如图1所示，边缘感知层采集工业生产中设备的状态数据，并传递到边缘网关中，边缘智能计算模型部署在边缘智能网关中，实现智能感知、智能决策。边缘任务调度模型在边缘服务器侧，主要规划任务调度，将边缘测的计算任务卸载到边缘服务器中。
[0047]
其中，边缘任务调度模型可以通过以下方式实现：
[0048]
采集工业生产中设备的状态数据以及设备信息，并传递到边缘网关中；
[0049]
边缘服务器通过与边缘网关的数据传输，获取设备信息，并根据设备信息和数据传输状态规划任务调度，得到所有终端设备卸载到边缘网关的任务量；
[0050]
根据各边缘网关的任务量为终端设备分配任务。
[0051]
所述设备信息包括：终端设备计算单位比特卸载任务所需要的cpu周期数、终端设备有效电容系数。
[0052]
所述数据传输状态包括：终端设备到边缘网关的传输速率、设备到边缘网关传输系统的带宽、终端设备到边缘网关的传输功率、信道增益、终端设备到边缘网关的平均噪声功率。
[0053]
所述规划任务调度，包括以下步骤：
[0054]
将终端设备总的计算任务量表示为l，用l表示终端设备进行本地计算的任务量，用oi表示第i个边缘网关被分配的任务量，n为边缘网关总数；因此，计算任务量满足以下约束：
[0055][0056]
终端设备在整个时间块t执行本地计算任务l时，用c表示终端设备计算单位比特卸载任务所需要的cpu周期数，因此终端设备本地计算的能耗e为：
[0057][0058]
其中，k表示有效电容系数，取决于终端设备的cpu结构，l表示终端设备进行本地计算的任务量，t为本地计算时间；
[0059]
当终端设备选择将任务卸载到边缘网关时，终端设备到边缘网关的传输速率ri为：
[0060][0061]
其中，i为第i个边缘网关，n为边缘网关总数，b表示设备到边缘网关传输系统的带宽，pi表示终端设备到边缘网关的传输功率；hi＝di-k
表示信道增益，di表示终端设备到边缘网关的距离，k为衰落因子，ni表示终端设备到边缘网关的平均噪声功率；
[0062]
终端设备卸载到边缘网关的任务量oi表示为：
[0063][0064]
τi为第i个边缘网关处理终端设备的时隙，n为边缘网关总数。
[0065]
边缘智能计算优化模型是针对深度学习模型等计算密集同时难以分布式优化的智能算法对边缘侧有限的计算资源带来的调整，建立边缘设备计算资源评估方法，在此基础上设计基于边缘设备计算资源的智能算法优化方法，解决边缘智能系统的实时性和可靠性，降低能耗、网络带宽需求，以及信息泄露的可能性。该特性可用于跨区域数据的推断和决策。
[0066]
本模型基于卷积神经网络，通过设计训练方法得到带有退出节点的神经网络，以便减小网络规模运行在边缘网关上，网络训练时以设备状态运行数据作为输入，利用不同的池化技巧来得到状态特征，最大池化方法主要通过取矩阵的最大值来作为特征结果。
[0067][0068]
其中m是设备状态特征输入的个数，e
ij
是状态矩阵的第i行和第j列中的元素，通过设备状态输入得到，如电压、功率、噪声等，此状态矩阵是状态量通过初等池化计算后的虚拟量，是最大元素的结果。
[0069]
平均池通过取状态矩阵每个分量的平均值来作为特征结果。
[0070][0071]
其中m是设备状态特征输入的个数，e
ij
是状态矩阵的第i行和第j列中的元素，与平均池含义相同。是平均元素的结果，平均池可以降低某些终端设备的噪声输入。其中和是两种不同的特征结果，是实际中可选择的两种方法，之后将特征结果继续输入到网络，从而得到最终训练结果
[0072]
在训练阶段，将损失函数与每个出口结合起来，使整个神经网络可以联合训练，每个出口决定于深度的准确率。x是模型输入变量，也可是经过池化后状态特征结果，在每个出口点，设计了一个特定的目标函数，可以写成：
[0073][0074]
是一个函数，表示从入口点到第n个出口分支的神经网络的输出，即为z，θ代表网络参数，如权值和偏置。然后将网络输出结果通过softmax激活函数得到状态判别结果
[0075][0076]
c是所有可能状态的集合，之后可在第n个退出节点的计算模型损失函数ln。
[0077][0078]
y是模型输出的真实值。然后将每个出口损失函数的加权和最小化作为优化问题进行训练，l为联合损失函数。
[0079][0080]
式中，n为出口点的总数，而βn为每个出口的关联权值。
[0081]
经过训练后，本模块可以在网络的浅层对样本进行分类，用于快速推理。如果分支出口的分类器对正确标注测试样本预估概率很高，那么该样本就会提前退出并返回一个预测的结果。使用熵来衡量在出口点分类器对样本预估概率，熵的定义为：
[0082][0083]
其中通过激活函数得到状态判别结果包含所有可能结果的计算概率，c是所有可能结果的集合。快速决断算法为：
[0084]
(3)n＝1...n为第n个退出节点，计算(3)n＝1...n为第n个退出节点，计算
[0085]
(4)如果e＜tn则返回n，否则重复(1)。
[0086]
其中x是输入样本，tn是决定是否在第n层退出的时间阈值，n是出口点的总数。
[0087]
在线优化阶段，边缘智能计算模块从移动设备接收延迟要求，然后寻找训练后的模型的最优出口点。模型首先在边缘节点上退出，之后在服务器上完成剩余节点的网络计算。在第n个退出节点在设备上每个节点的运行时间edn和服务器上的运行时间esn，zn是第n层的输出计算量，input为模型输入计算量。在特定带宽b下，计算整个运行时如果a小于目标时延，则优化选择出口点n。如果大于等于目标时延，则不改变训练阶段得到的出口点n。
[0088]
将优化好的神经网络模型分别部署在边缘智能设备(网关)和服务器中，当有智能计算任务时，边缘网关可通过输入选择合理退出节点，运行简易的深度学习算法对设备状态进行识别，通过将中间结果送至服务器端，完成最终计算。
[0089]
以上实施例仅用以说明本发明的技术方案而非对其限制，尽管参照上述实施例对本发明进行了详细的说明，所属领域的普通技术人员应当理解：依然可以对本发明的具体实施方式进行修改或者等同替换，而未脱离本发明精神和范围的任何修改或者等同替换，其均应涵盖在本发明的权利要求保护范围之内。