一种强鲁棒性的图像内容审查保护方法和系统与流程

1.本发明涉及信息安全领域，特别涉及一种强鲁棒性的图像内容审查保护方法和系统。


背景技术：

2.图像缩放是机器学习中常见的预处理步骤。主流的深度学习框架tensorflow、caffe、pytorch分别采用图像库tf.image， opencv， pillow，各个图像库采用如nearest，bilinear，bicubic，lanczos，area等缩放算法。由于许多学习算法需要固定大小的输入，所以在大多数基于机器学习的图像系统中，缩放是必须的步骤。
3.然而，缩放算法容易受到攻击，并且可能被滥用来欺骗基于机器学习的图像系统。参阅图1，缩放攻击通过对源图像a进行轻微扰动后生成的图像b，使得它在缩放到特定维度时，缩放后的版本匹配目标图像c。这在平台的内容审查中，很容易被不法分子利用缩放攻击，上传看似正常的图像，普通用户下载后，缩放到某个图像尺度，显示的却是包含不良的信息的图像，这对平台造成恶劣的影响。
4.缩放攻击的抵御方法常见于图像隐写技术中，水印技术是一种很普遍的方法来抵御缩放攻击。它的目的主要分为以下几种：（1）保护原始图像版权。通过将水印嵌入到原始图像中，可根据准确提取到的水印信息判断当前获得的图像是否为盗版图像，该目的并不在于防止不良信息的图像传播。（2）保护隐写信息。基于小波变换、基于下采样轮廓变换、基于位置映射的信息嵌入算法等手段，可保证在图像中隐写的秘密信息遭受缩放攻击后，仍然能够提取出来，该技术目的在于保护图像隐写的秘密信息，不在于审核检测出图像中隐藏的秘密信息，不能解决不良信息躲避内容审查的问题。综上，水印技术不适用于解决不良信息躲避内容审查，且计算复杂度太大，在大型应用中不实际。
5.中值滤波器是一种常用的非线性滤波器，其基本原理是选择待处理像素的一个邻域中各像素值的中值来代替待处理的像素，其主要功能是像素的灰度值与周围像素比较接近，从而消除孤立的噪声点，所以中值滤波器能够很好的消除椒盐噪声，达到抵御缩放攻击的效果。但是传统的中值滤波器，每轮中值计算操作都要遍历滤波器窗口内的全部像素，计算复杂度很高。
6.现况中，存在如下三个问题：（1）在图像内容审查中，缺乏缩放攻击的抵御方法；（2）若内容审查流程过于面面俱到，会给审查员带来沉重的业务负担；（3）传统的中值滤波效率低下，对于处理大规模的图像计算成本巨大。
7.因此，迫切需要一种针对缩放攻击的图像内容审查技术，而且要求审查内容时具备高效率和针对缩放攻击的强鲁棒性。


技术实现要素：

8.本发明的目的在于提供一种强鲁棒性的图像内容审查保护方法和系统，以克服现
有技术中的不足。
9.为实现上述目的，本发明提供如下技术方案：本技术公开了一种强鲁棒性的图像内容审查保护方法，包括如下步骤：s1、接收用户上传的图像，获取用户的信息；s2、根据用户的信息，检查用户是否符合可上传图像的要求；若符合，则进入s3；反之，不予响应；s3、对图像进行统一尺寸的调节；s4、对步骤s3中调节后的图像直接进行图像审核；得到原图像审核结果；s5、对步骤s3中调节后的图像进行内容处理，再将内容处理后的图像进行图像审核，得到新图像审核结果；s6、对比步骤s4中的原图像审核结果和步骤s5中的新图像审核结果；若结果一致，则图像审查通过；若结果不一致，则图像审查不通过。
10.作为优选，步骤s2具体包括如下子步骤：s21、检查用户ip地址是否在黑名单内，若是，则不予响应；反之，进入s22；s22、统计该用户的提交次数，判断是否超过单个用户容许提交的最大次数，若超过，则将该用户加入黑名单；反之，进入步骤s3。
11.作为优选，步骤s5的内容处理具体包括如下子步骤：s51、将图像分为等间距的若干行和若干列，根据行数从上往下依次标号；根据列数从左往右依次标号；s52、设置滑动窗口的大小，在图像上选取滑动窗口，所述滑动窗口的初始位置为第0行第0列；s53、判断滑动窗口内的最右边一列是否为图像的最后一列；若是，则进入步骤s54；若不是，进入步骤s55；s54、判断滑动窗口内的最下边一行是否为图像的最后一行；若是；则结束图像内容处理；若不是，将滑动窗口向下移动一行，以该行作为起始点，清空中值计算记录，进入s56；s55、查看是否存在中值计算记录；若不存在，进入步骤s56；若存在，则对滑动窗口内新加入的一列的像素进行中值计算，记录计算结果，形成中值集合，并进入s57；s56、对当前滑动窗口内的每一列的像素分别执行中值计算，得到每一列的像素对应的中值结果，形成中值集合，记录中值集合中的每一个元素；s57、对中值集合再执行中值计算；将结果作为当前滑动窗口的中间位置的像素值，进入s58；s58、移除中值集合内的第一个元素，删除该元素对应的记录，将滑动窗口向右滑动一列；返回s53。
12.本发明还公开了一种强鲁棒性的图像内容审查保护系统，包括用户端和平台端；所述用户端内设有图像上传模块，用于用户进行图像上传；接收告知模块，用于接收用户告知；用户接口，用于对接平台接口；所述平台端内设有平台接口，用于对接用户接口；用户检查模块，用于检查用户是否符合可上传图像的要求；图像尺寸处理模块，用于图像尺寸处理；内容处理模块，用于图
像内容处理；图像内容审核模块，用于审核图像；审核通知模块，用于接收审核通知，并生成用户告知命令；用户告知模块，用于下发用户告知；上传服务模块，用于图像上传服务。
13.作为优选，所述用户检查模块内包括：黑名单检测模块，用于检查用户ip地址是否在黑名单内；阈值审计模块，用于审计用户提交次数。
14.作为优选，所述内容处理模块内包括：滑动窗口子模块，用于设置滑动窗口；中值计算子模块，用于中值计算；中值记录子模块，用于记录中值计算结果；像素更新子模块，用于更新滑动窗口内的像素值；新增子模块，用于新增中值集合内元素；移除子模块，用于移除中值集合内元素。
15.本发明的有益效果：本发明提供一种强鲁棒性的图像内容审查保护方法和系统，可以有效抵御图像缩放攻击，避免不法分子利用缩放攻击躲避内容审查，保障公众平台的良好运转。本发明的特征及优点将通过实施例结合附图进行详细说明。
附图说明
16.图1为背景缩放攻击基本原理示意图；图2为本发明的图像内容处理流程图；图3 为本发明的滑动窗口处理图。
17.图4为本发明的强鲁棒性的图像内容审查保护方法的系统架构图。
具体实施方式
18.为使本发明的目的、技术方案和优点更加清楚明了，下面通过附图及实施例，对本发明进行进一步详细说明。但是应该理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限制本发明的范围。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本发明的概念。
19.参阅图2，本发明一种强鲁棒性的图像内容审查保护方法，包括如下步骤：s1、接收用户上传的图像，获取用户的信息；s2、根据用户的信息，检查用户是否符合可上传图像的要求；若符合，则进入s3；反之，不予响应；s3、对图像进行统一尺寸的调节；s4、对步骤s3中调节后的图像直接进行图像审核；得到原图像审核结果；s5、对步骤s3中调节后的图像进行内容处理，再将内容处理后的图像进行图像审核，得到新图像审核结果；s6、对比步骤s4中的原图像审核结果和步骤s5中的新图像审核结果；若结果一致，则图像审查通过；若结果不一致，则图像审查不通过。
20.在一种可行的实施例中，步骤s2具体包括如下子步骤：
s21、检查用户ip地址是否在黑名单内，若是，则不予响应；反之，进入s22；s22、统计该用户的提交次数，判断是否超过单个用户容许提交的最大次数，若超过，则将该用户加入黑名单；反之，进入步骤s3。
21.在一种可行的实施例中，步骤s5的内容处理具体包括如下子步骤：s51、将图像分为等间距的若干行和若干列，根据行数从上往下依次标号；根据列数从左往右依次标号；s52、设置滑动窗口的大小，在图像上选取滑动窗口，所述滑动窗口的初始位置为第0行第0列；s53、判断滑动窗口内的最右边一列是否为图像的最后一列；若是，则进入步骤s54；若不是，进入步骤s55；s54、判断滑动窗口内的最下边一行是否为图像的最后一行；若是；则结束图像内容处理；若不是，将滑动窗口向下移动一行，以该行作为起始点，清空中值计算记录，进入s56；s55、查看是否存在中值计算记录；若不存在，进入步骤s56；若存在，则对滑动窗口内新加入的一列的像素进行中值计算，记录计算结果，形成中值集合，并进入s57；s56、对当前滑动窗口内的每一列的像素分别执行中值计算，得到每一列的像素对应的中值结果，形成中值集合，记录中值集合中的每一个元素；s57、对中值集合再执行中值计算；将结果作为当前滑动窗口的中间位置的像素值，进入s58；s58、移除中值集合内的第一个元素，删除该元素对应的记录，将滑动窗口向右滑动一列；返回s53。
22.参阅图4，本发明一种强鲁棒性的图像内容审查保护系统，包括用户端和平台端；所述用户端内设有图像上传模块，用于用户进行图像上传；接收告知模块，用于接收用户告知；用户接口，用于对接平台接口；所述平台端内设有平台接口，用于对接用户接口；用户检查模块，用于检查用户是否符合可上传图像的要求；图像尺寸处理模块，用于图像尺寸处理；内容处理模块，用于图像内容处理；图像内容审核模块，用于审核图像；审核通知模块，用于接收审核通知，并生成用户告知命令；用户告知模块，用于下发用于告知；上传服务模块，用于图像上传服务。
23.在一种可行的实施例中，所述用户检查模块内包括：黑名单检测模块，用于检查用户ip地址是否在黑名单内；阈值审计模块，用于审计用户提交次数。
24.在一种可行的实施例中，所述图像内容处理模块内包括：滑动窗口子模块，用于设置滑动窗口；中值计算子模块，用于中值计算；中值记录子模块，用于记录中值计算结果；像素更新子模块，用于更新滑动窗口内的像素值；新增子模块，用于新增中值集合内元素；移除子模块，用于移除中值集合内元素。
25.实施例：
（1）首先，用户通过图像上传模块，通过用户接口，向平台接口上传图像；（2）平台采用一种强鲁棒性的图像内容审查保护方法，对上传的图像进行审查，具体操作如下：（2-1）平台调用用户检查模块中的黑名单检测子模块，检查该用户ip是否在黑名单内，若是，则不予响应；若不是，跳转至步骤（2-2）；（2-2）平台调用用户检查模块中的阈值审计子模块，统计该用户提交次数，若超过容许单个用户提交的最大次数，则将该用户ip加入防火墙黑名单，并将在一定时间段内不对该ip开放上传接口通道的决定，报告审核通知模块；若提交次数在允许容许单个用户提交的最大次数范围内，则跳转至步骤（2-3）；（2-3）平台调用图像尺寸处理模块，图像经过缩放到规定尺寸，最大尺寸宽（maxw，maxh），发送给图像内容处理模块；（2-4）平台调用图像内容审核模块，发送原图像审核申请；同时平台的图像内容处理模块调用滑动窗口子模块，选取滑动窗口的起始点为（0，0），滑动窗口大小为（m，n）。
26.（2-5）平台的图像内容处理模块，判断若此时滑动窗口最右边一列是否为图像的最后一列，若是进入（2-6）；若不是，进入（2-7）。
27.（2-6）平台的图像内容处理模块调用滑动窗口子模块，判断此时滑动窗口最下面一行是否是图像的最后一行，若是，进入（2-16）；若不是进入（2-8）。
28.（2-7）平台的图像内容处理模块调用中值记录子模块。查看记录条数，若记录为空，则进入（2-9）；若记录不为空，则进入（2-14）。
29.（2-8）平台的图像内容处理模块调用滑动窗口子模块，向下移动一行，并位于该行起始点，即令滑动窗口的行数索引增加1，列数索引设置为0。调用中值记录子模块，清空记录。进入（2-9）。
30.（2-9）平台的图像内容处理模块调用中值计算子模块，其中，中值计算定义如下：假设一组数据x1,
…
,xn，将其按增序排列后，若n为奇数，中位数的值m=x(n 1)/2；若n为偶数，中位数的值m=(x(n/2) x(n/2 1))/2。
31.如数据{3,1,5,6,7}，增序排列后{1,3,5,6,7}，可以得到中值为5。
32.对当前滑动窗口的每一列的像素{q1,q2,q3,q4,
…
,qn}分别执行中值计算，如图3所示，在q1列中{q1,1,q2,1,
…
,qm-1,1,qm,1},执行中值计算，得到m1。
33.分别对每个列执行中值计算，形成一个中值集合{m1,m2,m3,m4,
…
,mn}。进入（2-10）。
34.（2-10）平台的图像内容处理模块调用中值记录子模块，设置n条记录，依次使用栈存储该中值集合的元素。进入（2-11）（2-11）调用中值计算子模块，对这个中值集合{m1,m2,m3,m4,
…
,mn}执行中值计算得到px。进入（2-12）。
35.（2-12）调用像素更新子模块，将计算后的值px作为当前滑动窗口的中间位置的像素值。进入（2-13）。
36.（2-13）平台的图像内容处理模块调用移除子模块，将m1从记录中移除。平台的图
像内容处理模块调用中值记录子模块，将m2作为新的m1，以此类推，更新此时的中值记录{m1,m2,m3,m4,
…
,mn-1}。进入（2-15）。
37.（2-14）平台的图像内容处理模块调用中值计算子模块，对新加入的一列计算中值。调用新增入栈子模块，更新为mn。调用中值记录子模块，新增记录，存储mn。进入（2-11）.（2-15）平台的图像内容处理模块调用滑动窗口子模块，将滑动窗口位置向右滑动一步。将滑动窗口的最左边一列移除，新增的一列作为滑动窗口的最右边一列。进入（2-5）。
38.（2-16）图像内容处理结束。向平台的图像内容审核模块发出内容处理后图像审核申请；（3）平台调用图像内容审核模块，分别生成原图像审核申请的结果与图像审核申请的结果。
39.（4）平台调用审核通知模块，对比原图像审核申请的结果与图像审核申请的结果，若结果一致，则图像审查通过，生成审核通过的命令给用户告知模块，同时调用上传服务模块，将图像上传到服务，提供公众访问服务。若结果不一致，则图像审查不通过，生成审核不通过的命令给用户告知模块。
40.（5）用户告知模块将用户告知下发；（6）用户通过接收告知模块，了解图像审核是否通过的结果。
41.以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换或改进等，均应包含在本发明的保护范围之内。