一种残差调控的展开式非负自动编码器训练及图像重构方法

摘要: 本发明属于图像处理,具体涉及一种残差调控的展开式非负自动编码器训练及图像重构方法。背景技术:1、图像在采集、传输或存储过程中可能受到传感器噪声、局部遮挡、脉冲干...
一种残差调控的展开式非负自动编码器训练及图像重构方法

本发明属于图像处理,具体涉及一种残差调控的展开式非负自动编码器训练及图像重构方法。

背景技术:

1、图像在采集、传输或存储过程中可能受到传感器噪声、局部遮挡、脉冲干扰和异常像素的影响。图像重构需要从受干扰的观测数据中估计主体成分并抑制干扰,以便后续进行显示、识别或测量。

2、非负矩阵分解利用非负基特征及其组合系数表示图像数据。交替方向乘子法求解带约束矩阵分解时,通常需要预设惩罚系数、正则权重、停止阈值和最大迭代次数。固定参数难以反映不同图像或不同迭代阶段的约束状态,可能造成残差已满足条件后仍继续计算,或在两类残差失衡时维持不合适的更新尺度。

3、自动编码器通过编码器提取潜在表示,再由解码器生成输出。其潜在表示通常不直接对应非负矩阵分解中的基特征和组合系数。深度展开方法可将优化迭代映射为顺序网络单元,但仍需明确区分基矩阵与系数矩阵、原变量与辅助变量。改变惩罚系数时,还需同步处理缩放对偶变量,以保持相邻单元的对偶状态连续。

4、因此,需要一种面向图像重构的展开式非负自动编码器,使编码器、非负潜在表示、展开单元和解码器之间的数据关系明确,并根据维度一致的原始残差和对偶残差调节惩罚系数、投影阈值和执行深度。

技术实现思路

1、本发明的目的在于克服现有技术的不足,提供一种残差调控的展开式非负自动编码器训练及图像重构方法。本发明在基特征和组合系数满足非负约束的条件下,建立自动编码器内部状态与矩阵分解变量之间维度一致的对应关系;根据各展开单元的一致性约束状态调节惩罚系数和执行深度;从退化图像中重构主体图像并估计稀疏干扰;解决由共享基础字典和样本修正量生成初始化状态、改变惩罚系数时保持对偶状态连续性以及减少无效计算量的问题。

2、为实现上述目的,本发明采用如下技术方案:一种残差调控的展开式非负自动编码器训练方法,包括:

3、获取由退化输入图像和对应目标干净图像组成的训练图像对,并将所述退化输入图像构成非负图像块矩阵y∈r+m×n;

4、构建包括编码器、多个顺序连接的交替方向乘子法展开单元、残差控制模块和解码器的展开式非负自动编码器,所述编码器用于将所述非负图像块矩阵映射为基矩阵初始状态、非负系数矩阵初始状态和稀疏干扰矩阵初始状态,所述非负系数矩阵作为潜在表示;

5、按照网络连接顺序执行各交替方向乘子法展开单元,对基矩阵原变量w∈rm×r、系数矩阵原变量h∈rr×n、基矩阵辅助变量zw∈rm×r、系数矩阵辅助变量zh∈rr×n、稀疏干扰矩阵s∈rm×n和对应的缩放对偶变量进行更新,并使更新后的基矩阵辅助变量非负且各列的二范数为1、更新后的系数矩阵辅助变量非负;

6、由所述残差控制模块根据各交替方向乘子法展开单元的一致性约束偏差生成原始残差,根据相邻交替方向乘子法展开单元的辅助变量变化生成对偶残差,对所述原始残差和所述对偶残差进行归一化,并依据二者的相对大小调节下一交替方向乘子法展开单元使用的惩罚系数、非负软阈值和执行状态;

7、由所述解码器根据当前基矩阵辅助变量与当前系数矩阵辅助变量的乘积x̂=zwzh生成非负重构图像块;

8、根据所述非负重构图像块与所述目标干净图像对应的目标图像块之间的重构损失、所述潜在表示和稀疏干扰的稀疏约束损失以及原变量与辅助变量之间的一致性损失构成联合损失,并将所述联合损失通过已执行的交替方向乘子法展开单元反向传播,以更新所述展开式非负自动编码器的可训练参数。

9、进一步地,所述编码器包括:

10、系数编码支路,用于对所述非负图像块矩阵进行特征映射和非负激活,生成所述非负系数矩阵初始状态;

11、基矩阵自适应支路,用于将跨训练样本共享的基础字典与当前样本的修正量组合,并进行非负列归一化投影,生成所述基矩阵初始状态;

12、稀疏干扰支路,用于根据输入矩阵与所述基矩阵初始状态、系数矩阵初始状态的乘积之差,生成所述稀疏干扰矩阵初始状态。

13、进一步地,每个交替方向乘子法展开单元执行以下更新处理:

14、从所述非负图像块矩阵中扣除上一展开单元的稀疏干扰估计,更新所述基矩阵原变量和所述系数矩阵原变量;

15、对更新后的基矩阵原变量与对应缩放对偶变量之和执行非负列归一化投影,得到更新后的基矩阵辅助变量;

16、对更新后的系数矩阵原变量与对应缩放对偶变量之和执行非负软阈值处理,得到更新后的系数矩阵辅助变量;

17、更新所述稀疏干扰矩阵和两组缩放对偶变量;

18、将更新后的两个辅助变量的乘积作为该展开单元的非负重构图像块。

19、进一步地,所述原始残差和所述对偶残差通过以下方式计算:

20、第k个交替方向乘子法展开单元的原始残差和对偶残差分别为:

21、

22、

23、其中,vec表示按固定次序向量化,分号表示纵向连接两个向量,为第k个展开单元的惩罚系数,上标k表示第k个展开单元更新后的相应变量;

24、所述残差控制模块按所述基矩阵和系数矩阵的元素数对所述原始残差和所述对偶残差进行归一化,并依据归一化后的原始残差和对偶残差的相对大小,按以下规则更新下一展开单元的惩罚系数:

25、当归一化原始残差大于预设倍数的归一化对偶残差时,在预设上限内增大惩罚系数;

26、当归一化对偶残差大于所述预设倍数的归一化原始残差时,在预设下限内减小惩罚系数;

27、其余情况,保持惩罚系数不变;

28、其中,所述预设倍数大于1。

29、进一步地,当所述惩罚系数更新时,按新旧惩罚系数的比值重标定两组缩放对偶变量;并且,下一展开单元的系数矩阵辅助变量的非负软阈值根据稀疏正则权重与更新后的惩罚系数之比确定。

30、进一步地,所述残差控制模块还用于控制展开单元的停止执行状态:

31、当连续q个展开单元的归一化原始残差和归一化对偶残差均不大于各自对应的停止阈值时,停止后续展开单元的执行,并将当前两个辅助变量的乘积传递至所述解码器;

32、否则,继续执行后续展开单元,直至达到最大展开单元数k;

33、其中,q和k为正整数,且q不大于k。

34、本发明还提供了一种利用上述训练方法训练完成的展开式非负自动编码器进行图像重构的方法,包括:

35、获取待处理图像,并对其进行非负归一化、图像块划分和按列矩阵排列,得到非负图像块矩阵;

36、将所述非负图像块矩阵输入所述训练完成的展开式非负自动编码器,由所述编码器生成基矩阵初始状态、非负系数矩阵初始状态和稀疏干扰矩阵初始状态;

37、依次执行所述交替方向乘子法展开单元,对基矩阵原变量、系数矩阵原变量、基矩阵辅助变量、系数矩阵辅助变量、稀疏干扰矩阵和缩放对偶变量进行更新,并由所述残差控制模块根据归一化原始残差与归一化对偶残差调节惩罚系数、非负软阈值及后续交替方向乘子法展开单元的执行状态;

38、在满足残差停止条件或执行至最大展开单元数k时,由所述解码器根据当前非负的基矩阵辅助变量与当前非负的系数矩阵辅助变量的乘积x̂=zwzh生成非负重构图像块;

39、根据所述非负重构图像块形成重构图像。

40、进一步地,根据所述非负重构图像块形成重构图像,包括:

41、依据图像块划分时记录的空间位置和列排列次序,对所述非负重构图像块执行逆向量化和逆排列;

42、对于相互重叠的非负重构图像块,根据各图像块中像素到图像块边界的距离确定非负融合权重,对同一空间位置的像素值执行加权求和并除以对应融合权重之和;

43、依据非负归一化时记录的数值变换参数将融合后的像素值恢复至所述待处理图像的数值范围,并对超出所述数值范围的像素值进行截断以获得所述重构图像。

44、本发明还提供了一种电子设备,包括处理器、存储器以及存储在所述存储器中并能够在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述的训练方法,和/或,上述的图像重构方法。

45、本发明还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,所述计算机程序被处理器执行时,使所述处理器实现上述的训练方法,和/或,上述的图像重构方法。

46、与现有技术相比,本发明具有以下有益效果:

47、第一,设置与基矩阵原变量w和系数矩阵原变量h同维的辅助变量zw、zh,实现变量分裂。通过w=zw、h=zh进行变量分裂,可分别执行数据保真更新和非负投影,避免对不同尺寸矩阵直接作差,使得网络内部状态与矩阵分解变量之间具有维度一致的对应关系。

48、第二,编码器提供合理的初始化状态。共享基础字典和样本修正量生成基矩阵初值,系数编码支路生成主要潜在表示,稀疏干扰支路生成干扰初值,由此建立输入图像、内部状态和解码输出之间的数据关系。

49、第三,残差调控机制实现惩罚系数的自适应调节。归一化原始残差反映一致性约束偏差,归一化对偶残差反映辅助变量变化。两类残差共同调节有界惩罚系数。惩罚系数变化时,同步重标定缩放对偶变量,并联动更新非负软阈值,从而保持相邻单元的对偶状态连续性。

50、第四,自适应展开深度减少计算量。残差连续满足停止条件后,停止执行后续展开单元,从而避免在残差已满足条件后继续执行不必要的展开单元所产生的计算,提高推理效率。

51、第五,展开单元保留可解释性与可训练性的统一。展开单元保留数据保真、非负投影和稀疏收缩的计算关系,并支持联合损失沿已执行单元反向传播,兼具传统优化算法的可解释性与深度学习的建模能力。