一种基于同态加密的神经网络推理加速方法及装置

摘要: 本发明属于数据处理,具体涉及一种基于同态加密的神经网络推理加速方法及装置。背景技术:1、随着人工智能技术的迅猛发展,机器学习模型被广泛部署于云端推理服务平台。用...
一种基于同态加密的神经网络推理加速方法及装置

本发明属于数据处理,具体涉及一种基于同态加密的神经网络推理加速方法及装置。

背景技术:

1、随着人工智能技术的迅猛发展,机器学习模型被广泛部署于云端推理服务平台。用户需将待预测数据上传至远程服务器以获取推理结果。与此同时,ai推理任务亦可被编码为智能合约,直接部署于区块链上执行自动化初步筛选。在上述应用场景中,用户原始数据通常包含敏感个人信息、商业机密或受保护的医疗记录。若采用传统的明文推理方式,数据必须在计算过程中暴露给服务提供商,即使在传输和存储阶段均已加密,仍会在计算环节形成安全漏洞。因此,如何在不解密用户数据的前提下完成机器学习推理,成为该领域亟待解决的技术问题。

2、同态加密(homomorphic encryption,he)允许直接在加密数据上执行计算,实现“数据在使用中保持加密”的密码学安全目标。在现有同态加密方案中,cheon-kim-kim-song(ckks)方案因天然支持实数上的近似算术运算,与神经网络中普遍使用的浮点数计算高度契合,已成为隐私保护机器学习领域的主流技术方案。同时,ckks方案支持单指令多数据(single instruction multiple data,simd)打包技术,可并行处理数千个数据项,并可根据神经网络模型的乘法深度定制层级化加密参数,为将机器学习模型适配至加密计算框架提供了基础技术支撑。

3、现有基于ckks同态加密的cnn推理方案,因非线性激活函数与全连接层在加密域中的高昂计算开销,难以兼顾推理效率与模型准确率。存在一种迫切的技术需求,即提供一种能够在不牺牲分类精度的前提下,显著降低密文推理延迟的优化方案,同时该方案应具备与主流同态加密库的良好兼容性,且无需对特征提取网络进行全量重训练。

技术实现思路

1、本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

2、为此,本发明的第一个目的在于提出一种基于同态加密的神经网络推理加速方法。

3、本发明的第二个目的在于提出一种基于同态加密的神经网络推理加速装置。

4、本发明的第三个目的在于提出一种计算机设备。

5、本发明的第四个目的在于提出一种非临时性计算机可读存储介质。

6、为达上述目的,本发明第一方面实施例提出一种基于同态加密的神经网络推理加速方法,包括:

7、s1,对原始输入数据进行预处理,并采用ckks同态加密方案对预处理后的数据进行加密,生成所述加密数据;

8、s2,通过粒子群优化算法生成激活函数的低次多项式近似函数,所述粒子群优化算法的适应度函数包含近似误差项和同态加密计算成本惩罚项;利用所述低次多项式近似函数,对所述加密数据中的非线性激活层进行同态计算;

9、s3,通过由卷积层、平均池化层和展平层构成的轻量级分类器,对经过所述非线性激活层处理后的加密数据进行分类处理,其中所述轻量级分类器替代神经网络中的全连接分类层;

10、s4,输出所述加密数据的推理结果。

11、在本发明的一个实施例中,所述通过粒子群优化算法生成激活函数的低次多项式近似函数,包括:

12、将粒子群优化算法中每个粒子编码为包含常数项系数、一次项系数和二次项系数的三维系数向量;

13、基于所述系数向量构建最高次数为2的多项式近似函数;

14、在预设的近似区间内均匀采样多个点,通过适应度函数对每个粒子对应的多项式近似函数进行评估,所述适应度函数包括基于均方误差的近似质量项、对非零二次项的次数惩罚项以及对系数与缩放因子乘积超过模数时的重缩放惩罚项;

15、根据评估结果迭代更新粒子的速度和位置,直至满足终止条件,输出全局最优解对应的系数向量作为所述低次多项式近似函数的系数。

16、在本发明的一个实施例中,所述迭代更新粒子的速度和位置,包括:

17、根据当前迭代次数和最大迭代次数按预设衰减规律计算惯性权重;

18、基于所述惯性权重、个体学习因子、全局学习因子、随机数、粒子个体历史最优位置和群体全局最优位置更新粒子的速度向量;

19、将更新后的速度向量与粒子当前位置向量相加,得到粒子更新后的位置向量;在迭代过程中,根据当前迭代次数将粒子的搜索边界向群体几何中心进行自适应压缩,并相应调整速度限制范围;

20、当达到最大迭代次数或全局最优解的适应度在连续预设次数迭代中的变化量低于预设阈值时终止迭代。

21、在本发明的一个实施例中,所述通过由卷积层、平均池化层和展平层构成的轻量级分类器,对经过所述非线性激活层处理后的加密数据进行分类处理,包括:

22、通过所述卷积层对输入的特征张量进行通道调整卷积,将通道维度降低至输出类别数量;

23、通过所述平均池化层对卷积后的特征图进行空间聚合,将空间尺寸压缩至1×1;通过所述展平层将池化后的张量展平为长度等于类别数量的逻辑值向量。

24、在本发明的一个实施例中,所述卷积层的核尺寸根据所述特征张量的空间尺寸确定,使卷积后的输出空间尺寸为1×1或能够通过后续池化操作降至1×1;所述平均池化层的池化窗口大小与卷积后的特征图的空间尺寸相同;所述轻量级分类器替代神经网络中的全连接分类层时,所述全连接分类层的隐藏层维度大于输出类别数量。

25、在本发明的一个实施例中,所述粒子群优化算法生成的所述低次多项式近似函数为一次多项式,使得在ckks同态加密方案下计算该一次多项式时无需执行密文-密文乘法运算和重缩放操作。

26、为达上述目的,本发明第二方面实施例提出了一种基于同态加密的神经网络推理加速装置,包括:

27、数据加密模块,用于对原始输入数据进行预处理,并采用ckks同态加密方案对预处理后的数据进行加密,生成所述加密数据;

28、激活近似与同态计算模块,用于通过粒子群优化算法生成激活函数的低次多项式近似函数,所述粒子群优化算法的适应度函数包含近似误差项和同态加密计算成本惩罚项;利用所述低次多项式近似函数,对所述加密数据中的非线性激活层进行同态计算;

29、轻量级分类模块,用于通过由卷积层、平均池化层和展平层构成的轻量级分类器,对经过所述非线性激活层处理后的加密数据进行分类处理,其中所述轻量级分类器替代神经网络中的全连接分类层;

30、结果输出模块,用于输出所述加密数据的推理结果。

31、本发明实施例的一种基于同态加密的神经网络推理加速方法及装置,具有如下有益效果:

32、第一,本发明通过粒子群优化算法生成激活函数的低次多项式近似函数,将同态加密执行成本明确纳入适应度函数,生成的线性或低次二次多项式可最大限度减少密文-密文乘法运算并消除重缩放操作,单独使用即可实现1%至21.15%的推理速度提升,且模型精度几乎无损失。

33、第二,本发明通过由卷积层、平均池化层和展平层构成的轻量级分类器caf替代参数密集型全连接分类层,在隐藏层维度大于输出类别数量的条件下,分类器参数量缩减94%至99.99%,推理时间缩短30%至50%,且对小型数据集具有正则化效果,可显著提升泛化能力。

34、第三,上述两种优化策略相互正交、协同叠加,组合使用时可在全部测试数据集上持续优于现有方案,推理速度进一步提升,精度仅有微小波动,适用于医疗影像分析、金融风险控制和区块链隐私ai推理等多种应用场景。

35、第四,所述轻量级分类器caf仅使用标准卷积运算和局部平均池化操作,兼容microsoft seal、helib、pyseal及concrete-ml等所有主流同态加密库,且无需对特征提取网络进行全量重训练,仅需微调分类头即可部署,显著降低了技术实施门槛。

36、为达上述目的,本技术第三方面实施例提出了一种计算机设备,包括:处理器和存储器;其中,所述处理器通过读取所述存储器中存储的可执行程序代码来运行与所述可执行程序代码对应的程序,以用于实现如第一方面实施例所述的一种基于同态加密的神经网络推理加速方法。

37、为达上述目的,本技术第四方面实施例提出了一种非临时性计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如第一方面实施例所述的一种基于同态加密的神经网络推理加速方法。

38、本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。