一种yolo目标检测模型压缩方法、系统及存储介质与流程

技术特征：
1.一种yolo目标检测模型压缩方法，其特征在于，包括如下步骤：利用深度学习框架搭建yolo目标检测模型；对所述yolo目标检测模型进行训练，并保存训练后的yolo目标检测模型的模型参数；利用所述模型参数，量化所述yolo目标检测模型每层的输出值，得到所述yolo目标检测模型每层的输出值的缩放尺度因子和偏置因子；导出所述模型参数，并将所述yolo目标检测模型的bn层和卷积层进行融合，得到融合后的yolo目标检测模型；对所述融合后的yolo目标检测模型的模型参数进行量化，得到权重和偏置的缩放尺度因子和偏置因子；根据所述yolo目标检测模型每层的输出值的缩放尺度因子和偏置因子，以及所述权重和偏置的缩放尺度因子和偏置因子，对所述融合后的yolo目标检测模型的模型参数进行量化，得到所述融合后的yolo目标检测模型的整体量化因子；根据所述整体量化因子，搭建yolo的int8型目标检测模型，得到通过int8参数进行前向推理的yolo目标检测模型。2.根据权利要求1所述的yolo目标检测模型压缩方法，其特征在于，所述利用深度学习框架搭建yolo目标检测模型包括：计算数据集的均值和标准差，并对所述数据集进行归一化处理，得到预处理后的数据集；写出文件读取函数，并利用所述文件读取函数读取yolo目标检测模型各层的数据参数；利用所述深度学习框架搭建所述yolo目标检测模型的yolo层；定义所述yolo层的模块函数；利用所述数据参数和所述模块函数，搭建所述yolo目标检测模型。3.根据权利要求2所述的yolo目标检测模型压缩方法，其特征在于，所述对所述yolo目标检测模型进行训练包括：利用所述数据集对所述yolo目标检测模型进行n次训练，其中n为整数，且n≥100；对第n次训练后的yolo目标检测模型的平均精度进行测试；若第n次训练后的yolo目标检测模型的平均精度大于或等于标准精度，则停止训练。4.根据权利要求3所述的yolo目标检测模型压缩方法，其特征在于，在所述停止训练之后还包括：根据所述yolo目标检测模型的类型，选择对应的保存格式保存第n次训练后的yolo目标检测模型的模型参数。5.根据权利要求1所述的yolo目标检测模型压缩方法，其特征在于，对所述yolo目标检测模型进行训练后得到的模型参数为浮点型，所述yolo的int8型目标检测模型的模型参数为int型。6.根据权利要求1所述的yolo目标检测模型压缩方法，其特征在于，所述根据所述整体量化因子，搭建yolo的int8型目标检测模型，得到通过int8参数进行前向推理的yolo目标检测模型包括：将所述yolo目标检测模型的浮点型卷积运算转换成int型卷积运算，使浮点型矩阵转
换成int型矩阵；将所述yolo目标检测模型中的卷积操作通过所述int型矩阵进行卷积运算；通过将所述整体量化因子和int型矩阵卷积运算后的输出进行相乘，并做截断，使所述yolo目标检测模型中的运算均为int型运算，得到int型输出值；利用所述整体量化因子将浮点运算转换为整数运算。7.一种yolo目标检测模型压缩系统，其特征在于，所述系统包括：处理器和存储器；所述存储器用于存储一个或多个程序指令；所述处理器，用于运行一个或多个程序指令，用以执行如权利要求1
‑
6任一项所述的方法。8.一种计算机存储介质，其特征在于，所述计算机存储介质中包含一个或多个程序指令，所述一个或多个程序指令用于被一种yolo目标检测模型压缩系统执行如权利要求1
‑
6任一项所述的方法。

技术总结
本发明实施例公开了一种yolo目标检测模型压缩方法、系统及存储介质，首先对搭建并训练好的yolo目标检测模型每层的输出值进行量化得到yolo目标检测模型每层的输出值的缩放尺度因子和偏置因子，再将yolo目标检测模型的BN层和卷积层进行融合，然后对融合后的yolo目标检测模型的模型参数进行量化得到权重和偏置的缩放尺度因子和偏置因子，根据yolo目标检测模型每层的输出值的缩放尺度因子和偏置因子，以及权重和偏置的缩放尺度因子和偏置因子，对融合后的yolo目标检测模型的模型参数进行量化，得到融合后的yolo目标检测模型的整体量化因子，最后根据整体量化因子，搭建yolo的int8型目标检测模型，得到通过int8参数进行前向推理的yolo目标检测模型。向推理的yolo目标检测模型。向推理的yolo目标检测模型。


技术研发人员：李卫东 刘平涛 罗博文 张招
受保护的技术使用者：武汉莱克斯瑞科技发展有限公司
技术研发日：2021.07.14
技术公布日：2021/10/23