一种基于嵌入式AIOT平台的神经网络模型裁剪方法与流程

一种基于嵌入式aiot平台的神经网络模型裁剪方法
技术领域
1.本发明涉及人工智能、模式识别领域技术领域，特别涉及一种基于嵌入式aiot平台的神经网络模型裁剪方法。


背景技术：

2.目前，深度学习(deep learning)作在解决高级抽象认知问题上有着显著的成果，使人工智能上了一个新台阶，为高精度、多种类的目标检测、识别与跟踪提供了技术基础。但是复杂的运算，庞大的资源需求，使得神经网络只能在高性能计算平台上部署，限制了在移动设备上的应用。2015年，han发表的deep compression将网络模型裁剪、权值共享和量化、编码等方式运用在模型压缩上，使得模型存储实现了很好的效果，也引起了研究人员对网络压缩方法的研究。目前深度学习模型压缩裁剪方法的研究主要可以分为以下几个方向：(1)更精细模型的设计，使用更加细致、高效的模型设计，能够很大程度的减少模型尺寸，并且也具有不错的性能。
3.(2)模型裁剪，结构复杂的网络具有非常好的性能，其参数也存在冗余，因此对于已训练好的模型网络，通常是寻找一种有效的评判手段，来判断参数的重要性，将不重要的连接或者卷积核进行裁剪来减少模型的冗余。
4.(3)核的稀疏化，在训练过程中，对权重的更新进行诱导，使其更加稀疏，对于稀疏矩阵，可以使用更加紧致的存储方式，但是使用稀疏矩阵操作在硬件平台上运算效率不高，容易受到带宽的影响，因此加速并不明显。
5.综上所述，现有方案的局限性如下：a.核的稀疏化方法仅仅考虑到网络的压缩存储，在运行过程中的压缩效果不明显，速度也没有明显的提升；b.用权重的大小作为评判指标仅仅考虑了权重本身的数值特性，没有考虑网络层的数据特征，压缩的效果不高；c.评判指标的计算的复杂程度较高，耗费了较多的计算能力；d.随机裁剪的方法随机性太强，容易破坏网络本身的参数特征。


技术实现要素：

6.本发明提供一种基于嵌入式aiot平台的神经网络模型裁剪方法，用以解决深度神经网络核的稀疏化方法仅仅考虑到网络的压缩存储，在运行过程中的压缩效果不明显，速度也没有明显的提升；用权重的大小作为评判指标仅仅考虑了权重本身的数值特性，没有考虑网络层的数据特征，压缩的效果不高；评判指标的计算的复杂程度较高，耗费了较多的计算能力；随机裁剪的方法随机性太强，容易破坏网络本身的参数特征的情况。
7.一种基于嵌入式aiot平台的神经网络模型裁剪方法，包括：获取嵌入式aiot平台的场景数据，并将所述场景数据转化为样本数据；
将所述样本数据导入预设的神经网络模型进行训练，确定训练的模型参数；将不同数据类型的训练数据对应的模型参数进行特征值转化；获取转化后的特征值，并进行场景建模，对建模后的场景进行评判，确定失真场景；根据所述失真场景确定对应的模型参数，并进行模型参数移除。
8.优选的、所述获取嵌入式aiot平台的场景数据，包括：根据所述嵌入式aiot平台，确定所述场景数据的采集设备；根据所述采集设备，对所述嵌入式aiot平台采集的实时场景数据进行分布标记和类型标记；根据所述分布标记，建立数据分布图谱，并基于所述数据分布图谱建立异常数据池和标准数据池；根据所述类型标记，对不同类型的实时场景数据进行多维度检验，判断所述实时场景数据是否存在异常点；其中，所述多维度检验包括：空间维度检验、时间维度检验；将存在异常点的实时场景数据储存至所述是常数据池；将不存在异常点的实时场景数据进行数据溯源，进行多源数据划分；其中，所述多源数据划分包括：关联数据源数据划分和独立数据源数据划分；根据所述多源数据划分，对多源数据划分的实时场景数据进行多源值计算；其中，所述多源值计算包括：对关联数据源数据划分的数据进行关联性计算，确定第一关联值；对独立数据源数据划分的数据进行独立性计算，确定独立值；根据所述第一关联值，对对应的实时场景数据的采集设备进行关联性计算，获取第二关联值，判断所述第一关联值和第二关联值的差异度是否在预设的差异度阈值之内，并将差异度不在预设的差异度阈值之内的实时场景数据导入所述异常数据池，将差异度在预设的差异度阈值之内的实时场景数据导入所述标准数据池；根据所述独立值，获取对应的实时场景数据的采集记录，确定数据生成流程；根据所述数据生成流程，进行流程合理性效验，判断数据生成流程是否合理；其中，所述流程合理性效验包括：流程一致性效验、流程矛盾性效验和流程执行结果预测的预测效验；当数据生成流程合理时，将对应的实时场景数据导入所述标准数据池；当数据生成流程不合理时，将对应的实时场景数据导入所述异常数据池；根据所述标准数据池，确定场景数据。
9.优选的、所述将所述场景数据转化为样本数据，包括：对所述场景数据进行类型划分，生成多个不同类型场景数据的数据子集；对每个数据子集的每个场景数据进行权重计算，并根据所述权重值对每个数据子集的数据进行权重排序，并将每个数据子集按照所述权重排序划分为相同的数据组数；根据所述数据组数，将不同数据子集的场景数据进行融合，生成所述数据组数的样本组，并将所述样本组作为样本数据。
10.优选的、所述将所述场景数据转化为样本数据，还包括：根据所述数据组数，确定样本数据量；根据所述样本数据量，将所述样本组进行聚类分析，生成聚类参数；根据所述聚类参数建立样本相似性矩阵和样本权重矩阵；根据所述样本相似性矩阵和样本权重矩阵，构建对角矩阵；通过所述对角矩阵，计算所述样本数据的边界参数和离群指数；根据所述边界参数，确定所述训练的模型参数的参数范围；根据所述离群指数，确定所述失真场景的最低比例。
11.优选的、所述确定训练的模型参数，包括：将未训练的神经网络模型与编码网络进行融合，获取所述未训练的神经网络模型的第一特征信息，其中，所述编码网络为模型参数的编码网络；获取训练好的神经网络模型与编码网络进行融合，获取所述训练好的神经网络模型的第二特征信息，依据所述第一特征信息和第二特征信息，确定不同特征信息的差值；对所述差值进行熵编码，得到转化后的特征值。
12.优选的、所述进行场景建模，包括：获取所述特征值转化后的特征值；依据特征值生成字符参数；依据字符参数再预设的场景网络中进行特征加强；根据所述特征加强，进行场景建模。
13.优选的、所述建模后的场景进行评判，确定失真场景，包括：将场景建模后场景与预设的场景标准参数数据库对比，确定场景此参数差值；其中，所述场景标注参数数据库中包括场景模型中不同场景模型的数据标准；依据所述参数差值及预设的场景标准参数数据库识别建模后的异常场景数据，将所述异常场景数据进行输出，并作为失真场景。
14.优选的、所述失真场景确定对应的模型参数包括：将所述失真场景代入到深度神经网络中，确定对应的场景结果；根据所述场景结果，确定深度神经网络中对应的输出通道；根据所述输出通道，确定对应的模型参数。
15.优选的、所述模型参数移除包括：抽取神经网络模型中的失真场景对应的模型参数；根据所述失真场景对应的模型参数，确定所述神经网络模型模型参数对应的节点信息，其中，所述节点信息用于表示神经网络模型中不同节点的节点坐标；根据所述节点坐标，在所述神经网络模型中确定目标节点，其中，所述目标节点为所述神经网络模型中所述失真场景对应的模型参数对应的场景节点；针对所述神经网络模型中的至少一个场景节点，在所述神经网络模型中除所述目
标节点以外的其它区域内确定裁剪线；通过所述裁剪线对所述神经网络模型进行裁剪，得到目标神经网络模型，以使所述目标节点不在所述目标神经网络模型中。
16.优选的、所述方法还包括：获取嵌入式aiot平台不同层级在软件平台上的符合预设标准的性能表现；根据所述性能表现，对所述模型参数移除前的深度神经网络模型进行模型效验，获取第一效验结果；根据所述性能表现，对所述模型参数移除后的深度神经网络模型进行模型效验，获取第二效验结果；通过嵌入式aiot平台分别获取所述第一效验结果的计算决策性能表现和第二效验结果的计算决策性能表现，并进行计算决策性能表现对比，确定裁剪结果。
17.本发明额有益效果在于：因为本发明主要借助于云端的ai数据处理技术和平台服务层的学校或者企业实施对应的辅助决策，因此，本发明的主要目的是对云端的深度神经网络模型进行不断的裁剪优化，用以达到更快的处理速度和运行速度。
18.因此，本发明结合嵌入式aiot平台，对不同的工作场景，通过场景数据在深度网络模型中的训练，根据场景数据的准确性，深度神经网络模型对于场景的影响，判断深度神经网络模型的那些场景是无效的，是失真场景，从而实现对深度神经网络模型的裁剪和优化。
19.本发明的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书以及附图中所特别指出的结构来实现和获得。
20.下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。
附图说明
21.附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。在附图中：图1为本发明实施例中一种基于嵌入式aiot平台的神经网络模型裁剪方法的方法流程图；图2为本发明实施例中场景数据获取的流程图。
具体实施方式
22.以下结合附图对本发明的优选实施例进行说明，应当理解，此处所描述的优选实施例仅用于说明和解释本发明，并不用于限定本发明。
23.如附图1所示，一种基于嵌入式aiot平台的神经网络模型裁剪方法，包括：获取嵌入式aiot平台的场景数据，并将所述场景数据转化为样本数据；将所述样本数据导入预设的神经网络模型进行训练，确定训练的模型参数；将不同数据类型的训练数据对应的模型参数进行特征值转化；获取转化后的特征值，并进行场景建模，对建模后的场景进行评判，确定失真场景；
根据所述失真场景确定对应的模型参数，并进行模型参数移除。
24.上述技术方案中：本发明主要应用与新一代的数字产业服务企业，本发明在进行社会服务的时候除了在服务层面构建了paas服务层和saas软件服务层，通过进行数据采集、数据标注、数据清晰和数据挖掘等应用服务实现科创人才的培养、教学、管理和测评。基于数字的人才培养的云端虚拟实验室，实现随机数方案的实时，本发明主要应用与产业基地，例如：政府智慧城市的相关平台和学校的学科弓箭，合作办学的相关教育产品。
25.因为本发明主要借助于云端的ai数据处理技术和平台服务层的学校或者企业实施对应的辅助决策，因此，本发明的主要目的是对云端的深度神经网络模型进行不断的裁剪优化，用以达到更快的处理速度和运行速度。
26.本发明在深度圣经网络优化后，性能效果明显提升，因此相对于现有技术中的核的稀疏化方法仅仅考虑到网络的压缩存储，在运行过程中的压缩效果不明显，速度也没有明显的提升，本发明的性能更好。现有技术中，用权重的大小作为评判指标仅仅考虑了权重本身的数值特性，没有考虑网络层的数据特征，压缩的效果不高；而本发明在神经网络模型的压缩裁剪过程中不仅考虑了权重，还考虑了失真数据额离散程度。本发明在优化之后，评判指标的计算的复杂程度更高，不会耗费了较多的计算能力；现有技术中，随机裁剪的方法随机性太强，容易破坏网络本身的参数特征，所以本发明也不会进行随机采裁剪。
27.因此，本发明结合嵌入式aiot平台，对不同的工作场景，通过场景数据在深度网络模型中的训练，根据场景数据的准确性，深度神经网络模型对于场景的影响，判断深度神经网络模型的那些场景是无效的，是失真场景，从而实现对深度神经网络模型的裁剪和优化。
28.优选的、如附图2所示，所述获取嵌入式aiot平台的场景数据，包括：根据所述嵌入式aiot平台，确定所述场景数据的采集设备；根据所述采集设备，对所述嵌入式aiot平台采集的实时场景数据进行分布标记和类型标记；根据所述分布标记，建立数据分布图谱，并基于所述数据分布图谱建立异常数据池和标准数据池；根据所述类型标记，对不同类型的实时场景数据进行多维度检验，判断所述实时场景数据是否存在异常点；其中，所述多维度检验包括：空间维度检验、时间维度检验；将存在异常点的实时场景数据储存至所述异常数据池；将不存在异常点的实时场景数据进行数据溯源，进行多源数据划分；其中，所述多源数据划分包括：关联数据源数据划分和独立数据源数据划分；根据所述多源数据划分，对多源数据划分的实时场景数据进行多源值计算；其中，所述多源值计算包括：对关联数据源数据划分的数据进行关联性计算，确定第一关联值；对独立数据源数据划分的数据进行独立性计算，确定独立值；根据所述第一关联值，对对应的实时场景数据的采集设备进行关联性计算，获取第二关联值，判断所述第一关联值和第二关联值的差异度是否在预设的差异度阈值之内，并将差异度不在预设的差异度阈值之内的实时场景数据导入所述异常数据池，将差异度在预设的差异度阈值之内的实时场景数据导入所述标准数据池；
根据所述独立值，获取对应的实时场景数据的采集记录，确定数据生成流程；根据所述数据生成流程，进行流程合理性效验，判断数据生成流程是否合理；其中，所述流程合理性效验包括：流程一致性效验、流程矛盾性效验和流程执行结果预测的预测效验；当数据生成流程合理时，将对应的实时场景数据导入所述标准数据池；当数据生成流程不合理时，将对应的实时场景数据导入所述异常数据池；根据所述标准数据池，确定场景数据。
29.在现有技术：我们都知道aiot平台至少由三层构成，云计算层、边缘计算层和iot层三层构成，在业务应用上，可以划分为至少四层，也就是应用层、操作系统服务层、基础设施层和接入层；云计算层内置有神经网络模型，实现ai控制服务；而边缘计算层实现数据的处理对业务进行执行和协同计算。而iot层实现对场景数据的采集。因此，我们在进行神经网络模型裁剪的过程中，主要进行裁剪的就是处于云计算层中的神经网络模型。在进行场景数据采集的过程中，现有技术中，是通过iot层的智能设备有哪些，就采集那些数据。但是，本发明因为本来就是要对神经网络模型进行裁剪，所以，需要的都是非常准确和能够影响神经网络模型决策的数据。而在现有技术，是不管任何场景数据都进行采集，是否与神经网络模型裁剪的准确性有关，是否对神经网络模型裁剪的准确性有影响，并没有在现有技术的神经网络模型裁剪技术方案中出现；因此，本发明在进行场景数据采集的过程中，就根据神经网络模型裁剪中场景失真的判断标准，去判断采集的场景数据会不会在神经网络模型决策中产生失真。这就主要体现在场景数据的真实性、准确性和数据的产生痕迹明显，存在明显的数据记录和逻辑上的合理性，所以首先在场景数据采集的过程中，进行时间和空间维度上的检验，也就是对数据的准确性进行一个贩毒案，在准确性判断之后通过多源数据的处理，对场景数据进行合理性和准确性的效验。
30.优选的、所述将所述场景数据转化为样本数据，包括：对所述场景数据进行类型划分，生成多个不同类型场景数据的数据子集；对每个数据子集的每个场景数据进行权重计算，并根据所述权重值对每个数据子集的数据进行权重排序，并将每个数据子集按照所述权重排序划分为相同的数据组数；根据所述数据组数，将不同数据子集的场景数据进行融合，生成所述数据组数的样本组，并将所述样本组作为样本数据。
31.在现有技术中，很多训练数据都是人为的进行划分，划分为测试数据和训练数据，本发明中也存在测试数据和训练数据的划分，但是，本发明是先将场景数据转化为样本数据之后再进行训练。训练的过程和传统的神经网络模型相同。但是现有技术中，对于样本数据的处理大多是预处理，预处理的结果是得到一个完整性、准确性、可比性和一致性更高的数据。本发明也是基于这个目的，但是本发明除了预处理之外，本发明也想达到一个更高程度的完整性、准确性、可比性和一致性；因此本发明提出了逐进式的训练方式；将样本数据划分为多个样本组，通过样本组进行训练，逐进式的训练方式，达更加准确的结果。
32.优选的、所述将所述场景数据转化为样本数据，还包括：根据所述数据组数，确定样本数据量；根据所述样本数据量，将所述样本组进行聚类分析，生成聚类参数；
根据所述聚类参数建立样本相似性矩阵和样本权重矩阵；根据所述样本相似性矩阵和样本权重矩阵，构建对角矩阵；通过所述对角矩阵，计算所述样本数据的边界参数和离群指数；根据所述边界参数，确定所述训练的模型参数的参数范围；根据所述离群指数，确定所述失真场景的最低比例。
33.本发明在进行样本数据转化的过程中，因为模型参数和样本数据存在巨大的相关性，本发明的方式建立两种不同的矩阵，实现对边界参数和利群指数的计算，达到判断失真场景的最低比例和参数范围，确定最终转化的样本数据量的标准。在这个过程中，首先针对于原始的样本数据量，本发明是先转化为聚类参数之后，通过聚类参数进行构建两个不同的矩阵，聚类之后所有的数值都在区间{0~1}之间，是的相似性矩阵和样本权重矩阵存在边界，在有编辑的情况下，更容易计算边界参数，而离群指数通过离散计算就能确定离群指数。失真场景就是不清楚的场景，而离群指数就是通过样本数据的离散状态，离散的具体数值体现在不清楚的样本数据上，脱衣可以通过样本数据的不清楚状态确定失真场景的最低比例。确定样本不清楚的程度有多高，而样本的不清楚程度也就是失真的样本数据。
34.优选的、所述确定训练的模型参数，包括：将未训练的神经网络模型与编码网络进行融合，获取所述未训练的神经网络模型的第一特征信息，其中，所述编码网络为模型参数的编码网络；获取训练好的神经网络模型与编码网络进行融合，获取所述训练好的神经网络模型的第二特征信息，依据所述第一特征信息和第二特征信息，确定不同特征信息的差值；对所述差值进行熵编码，得到转化后的特征值。
35.本发明对于深度网络模型，本发明会将训练好的模型和没有训练好的模型进行对比，通过对比的结果去判断不同模型之间的差值，通过这个差值，将训练后的模型和训练前的模型进行对比确定差异，最后通过差异的熵编码确定特征值，而熵值本就是数据的特征值得一种。在进行训练的过程中，现有技术都是单一的训练方式，通过不同的神经网络模型，而在本发明中，将两种神经网络模型进行融合，对于融合后的模型，分别获取训练前的特征信息和训练后的特征信息，通过不同特征之前的差值，区别判断训练前后的状态，然后将差值编码，差值编码的作用在于，差值更能体现判断这的个性、因为差值也别小，在动态变化的过程中也更容易区分差值，更加方便进行编码。
36.优选的、所述进行场景建模，包括：获取所述特征值转化后的特征值；依据特征值生成字符参数；依据字符参数再预设的场景网络中进行特征加强；根据所述特征加强，进行场景建模。
37.上述技术方案中是一个对场景网络进行增强有技术，字符参数是对特征值的参数转化，字符参数可以和场景元素中其它元素结合精确数据导航，因此可以把字符参数融入到场景网络中，然后通过场景网络实现对特征的最终建模。
38.优选的、所述建模后的场景进行评判，确定失真场景，包括：
将场景建模后场景与预设的场景标准参数数据库对比，确定场景此参数差值；其中，所述场景标注参数数据库中包括场景模型中不同场景模型的数据标准；依据所述参数差值及预设的场景标准参数数据库识别建模后的异常场景数据，将所述异常场景数据进行输出，并作为失真场景。
39.上述技术方案中，在场景建模的过程中我们设定有预设的标注你参数数据库，对于标准参数数据库，我们训练得到的场景模型进行对于，通过对比得到参数差值。而在这个过程中对于不同的场景模型的数据和标准都会进行效验，不断判断是不是存在异常数据，如果有异常数据就表明这个地方为失真场景。
40.优选的、所述失真场景确定对应的模型参数包括：将所述失真场景代入到深度神经网络中，确定对应的场景结果；根据所述场景结果，确定深度神经网络中对应的输出通道；根据所述输出通道，确定对应的模型参数。
41.在本发明中本发明对于失真的场景，会代入到深度神经网络模型中，通过深度神经网络模型，代入得失真场景，得到一个仿真的结果，通过仿真的结果，每一个结构都有对应的通信链路，通过这个通信脸书，能够确定场景网络的参数组成。
42.优选的、所述模型参数移除包括：抽取神经网络模型中的失真场景对应的模型参数；根据所述失真场景对应的模型参数，确定所述神经网络模型模型参数对应的节点信息，其中，所述节点信息用于表示神经网络模型中不同节点的节点坐标；根据所述节点坐标，在所述神经网络模型中确定目标节点，其中，所述目标节点为所述神经网络模型中所述失真场景对应的模型参数对应的场景节点；针对所述神经网络模型中的至少一个场景节点，在所述神经网络模型中除所述目标节点以外的其它区域内确定裁剪线；通过所述裁剪线对所述神经网络模型进行裁剪，得到目标神经网络模型，以使所述目标节点不在所述目标神经网络模型中。
43.在本发明中本发明对于失真的场景，会代入到深度神经网络模型中，对于失真的场景我们必定是要消除的，在这个消除失真场景的实施方式中，我们首先将失真场景和模型参数中的不同节点相对应，根据对应结果，确定神经网络模型中的每一个节点坐标，通过节点坐标，我们可以对失真的地方进行定位，通过对失真的地方进行定位之后，每个失真的地方所对应的节点就是需要进行裁剪的节点，通对裁剪的节点划分裁剪线，这些线条之外就是需要裁剪的内容。最后在所有的失真场景的节点裁剪删除之后，剩余的就是修正后的神经网络模型，这些神经网络模型就存在我们需要的目标节点，也就是目标神经网络模型的组成节点。
44.优选的、所述方法还包括：获取嵌入式aiot平台不同层级在软件平台上的符合预设标准的性能表现；根据所述性能表现，对所述模型参数移除前的深度神经网络模型进行模型效验，获取第一效验结果；
根据所述性能表现，对所述模型参数移除后的深度神经网络模型进行模型效验，获取第二效验结果；通过嵌入式aiot平台分别获取所述第一效验结果的计算决策性能表现和第二效验结果的计算决策性能表现，并进行计算决策性能表现对比，确定裁剪结果。
45.在本发明的最后，需要对神经网络模型进行效验，这个效验是为了判断我们最终得到的神经网络模型的计算性能和数据处理性能是不是更加好。所以这时候将原始的神经网络模型和现有技术中的网络模型进行适配，如果现有的裁剪后的神经网络模型效果更好，计算能力更强，就说明本发明进行了一次完整的裁剪，实现了神经网络模型的优化。
46.显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。