一种图像数据安全检测方法、系统和存储介质与流程

技术特征：
1.一种图像数据安全检测方法，其特征在于，包括：数据持有端将原始训练集所包含的类别数量及样本图像的原始尺寸发送至模型提供端，接收所述模型提供端发送的基于机器学习的分类模型，并将所述原始训练集输入所述分类模型；所述原始训练集包含所述样本图像的类别标签及所述类别标签对应的标签编码；所述分类模型按照预设恶意扩充方法，利用所述原始尺寸对所述原始训练集进行恶意扩充，得到第一扩充集和第二扩充集，并利用所述原始训练集、所述第一扩充集和所述第二扩充集进行训练；所述第一扩充集记录有所述样本图像的数据，所述第二扩充集包含子集的数量为所述类别数量，且所述子集标注有所述标签编码；所述数据持有端将完成训练的分类模型的api接口发送至所述模型提供端；所述模型提供端利用所述预设恶意扩充方法、所述原始尺寸及所述类别数量还原所述第一扩充集和所述第二扩充集，利用所述第二扩充集和所述api接口还原出所述类别标签与所述标签编码的对应关系，并利用所述对应关系、所述第一扩充集和所述api接口对所述原始训练集进行还原，得到还原图像；所述模型提供端将所述还原图像发送至所述数据持有端，以使所述数据持有端利用所述还原图像和所述原始训练集进行图像数据安全检测。2.根据权利要求1所述的图像数据安全检测方法，其特征在于，所述利用所述第二扩充集和所述api接口还原出所述类别标签与所述标签编码的对应关系，并利用所述对应关系、所述第一扩充集和所述api接口对所述原始训练集进行还原，得到还原图像，包括：所述模型提供端将所述第二扩充集中各子集的第二扩充图像输入所述api接口，得到各所述子集包含的类别标签；将所述子集的标签编码与所述子集中占比最大的类别标签建立所述对应关系；将所述第一扩充集中所有的第一扩充图像输入所述api接口，得到所述第一扩充图像对应的类别标签，并利用所述类别标签和所述对应关系查找所述第一扩充图像所对应的标签编码；利用所述第一扩充图像和对应的标签编码对所述原始训练集进行还原，得到所述还原图像。3.根据权利要求1所述的图像数据安全检测方法，其特征在于，所述数据持有端利用所述还原图像和所述原始训练集进行图像数据安全检测，包括：所述数据持有端计算所述还原图像与所述原始数据集的相似度，并判断所述相似度是否大于预设阈值；若是，则判定存在数据泄露异常。4.根据权利要求1所述的图像数据安全检测方法，其特征在于，所述分类模型按照预设恶意扩充方法，利用所述原始尺寸对所述原始训练集进行恶意扩充，得到第二扩充集，包括：所述分类模型获取预设随机种子和所述样本图像，并将所述样本图像分成多个不同区域；为所述第二扩充集中的每一子集设置不同的像素值范围序列；所述像素值范围序列中的像素值范围与所述区域相对应；
利用所述像素值范围序列为每一子集设置多张伪随机图像，并为所述子集设置所述标签编码；所述伪随机图像的尺寸为所述原始尺寸，所述伪随机图像中各区域的像素值为利用所述像素值范围序列中对应的像素值范围生成的伪随机数，所述伪随机数由所述预设随机种子生成。5.根据权利要求1所述的图像数据安全检测方法，其特征在于，所述数据持有端将完成训练的分类模型的api接口发送至所述模型提供端，包括：所述数据持有端将完成训练的分类模型的api接口上传至公共平台；模型提供端从所述公共平台获取所述api接口。6.一种图像数据安全检测系统，其特征在于，包括：数据持有端、分类模型和模型提供端，其中，所述数据持有端，用于将原始训练集所包含的类别数量及样本图像的原始尺寸发送至所述模型提供端，接收所述模型提供端发送的基于机器学习的所述分类模型，并将所述原始训练集输入所述分类模型；所述原始训练集包含样本图像的类别标签及所述类别标签对应的标签编码；将完成训练的分类模型的api接口发送至所述模型提供端；利用所述模型提供端发送的还原图像和所述原始训练集进行图像数据安全检测；所述分类模型，用于按照预设恶意扩充方法，利用所述原始尺寸对所述原始训练集进行恶意扩充，得到第一扩充集和第二扩充集，并利用所述原始训练集、所述第一扩充集和所述第二扩充集进行训练；所述第一扩充集记录有所述样本图像的数据，所述第二扩充集包含子集的数量为所述类别数量，且所述子集标注有所述标签编码；所述模型提供端，用于接收所述类别数量及所述原始尺寸；利用所述预设恶意扩充方法、所述原始尺寸及所述类别数量还原所述第一扩充集和所述第二扩充集，利用所述第二扩充集和所述api接口还原出所述类别标签与所述标签编码的对应关系，并利用所述对应关系、所述第一扩充集和所述api接口对所述原始训练集进行还原，得到还原图像；将所述还原图像发送至所述数据持有端。7.根据权利要求6所述的图像数据安全检测系统，其特征在于，所述模型提供端，还用于将所述第二扩充集中各子集的第二扩充图像输入所述api接口，得到各所述子集包含的类别标签；将所述子集的标签编码与所述子集中占比最大的类别标签建立所述对应关系；将所述第一扩充集中所有的第一扩充图像输入所述api接口，得到所述第一扩充图像对应的类别标签，并利用所述类别标签和所述对应关系查找所述第一扩充图像所对应的标签编码；利用所述第一扩充图像和对应的标签编码对所述原始训练集进行还原，得到所述还原图像。8.根据权利要求6所述的图像数据安全检测系统，其特征在于，所述数据持有端，还用于计算所述还原图像与所述原始数据集的相似度，并判断所述相似度是否大于预设阈值；若是，则判定存在数据泄露异常。9.根据权利要求6所述的图像数据安全检测系统，其特征在于，所述分类模型，还用于获取预设随机种子和所述样本图像，并将所述样本图像分成多个不同区域；为所述第二扩充集中的每一子集设置不同的像素值范围序列；所述像素值范围序列中的像素值范围与所述区域相对应；利用所述像素值范围序列为每一子集设置多张伪随机图像，并为所述子集设置所述标签编码；所述伪随机图像的尺寸为所述原始尺寸，所述伪随机图像中各区域的
像素值为利用所述像素值范围序列中对应的像素值范围生成的伪随机数，所述伪随机数由所述预设随机种子生成。10.一种存储介质，其特征在于，所述存储介质中存储有计算机可执行指令，所述计算机可执行指令被处理器加载并执行时，实现如权利要求1至5任一项所述的图像数据安全检测方法。

技术总结
本发明提供一种图像数据安全检测方法、系统及介质，其中机器学习分类模型在训练前，利用预设恶意扩充方法扩充数据持有端的原始训练集，得到第一扩充集和第二扩充集，其中第一扩充集记录有原始训练集的样本图像，第二扩充集存储有原始训练集各类别标签的标签编码，并同时利用原始训练集、第一扩充集和第二扩充集进行训练；模型提供端则可在本地利用相同扩充方法还原第一扩充集和第二扩充集，并将第二扩充集输入至训练后的分类模型，还原出原始训练集中各类别标签与标签编码的对应关系，进而便可利用第一扩充集及该对应关系对原始训练集进行还原及泄露检测，避免数据窃取攻击在标签编码未知时难以检测的问题，增强了安全人员对数据泄露的检测能力。数据泄露的检测能力。数据泄露的检测能力。


技术研发人员：罗文坚 张立才 吴宇琳 刘川意 韩培义 庄荣飞
受保护的技术使用者：哈尔滨工业大学（深圳）
技术研发日：2021.09.08
技术公布日：2021/12/3