一种使用选择性深度生成重放模块对深度神经网络模型执行可调连续学习的方法和装置与流程

技术特征：
1.一种使用选择性深度生成重放模块对深度神经网络模型进行可调连续学习的方法，所述方法包括：(a)当从整个数据库获得第1学习用数据且从作为所述整个数据库的子集的子数据库获得第2学习用数据时，学习装置执行或支持执行如下处理：将所述第1学习用数据和所述第2学习用数据输入到选择性深度生成重放模块使得所述选择性深度生成重放模块(i)通过位于所述选择性深度生成重放模块的分布分析器生成与所述第1学习用数据对应的第1学习用低维分布特征和与所述第2学习用数据对应的第2学习用低维分布特征，其中所述第1学习用低维分布特征的维度低于所述第1学习用数据的维度，所述第2学习用低维分布特征的维度低于所述第2学习用数据的维度，(ii)将从位于所述选择性深度生成重放模块的动态二进制生成器中生成的学习用二进制、从位于所述选择性深度生成重放模块的随机参数生成器中生成的学习用随机参数、和所述第2学习用低维分布特征输入到位于所述选择性深度生成重放模块的数据生成器，通过所述数据生成器根据所述学习用二进制和所述学习用随机参数生成与所述第2学习用低维分布特征对应的第3学习用数据，(iii)将所述第1学习用数据输入到位于所述选择性深度生成重放模块的求解器，通过所述求解器输出基于深度学习对所述第1学习用数据进行标注的学习用标注数据；(b)所述学习装置执行或支持执行如下处理：将所述第1学习用数据、所述第2学习用数据、所述第1学习用低维分布特征、所述第2学习用低维分布特征、所述第3学习用数据和所述学习用二进制输入到判别器，使得所述判别器对应于所述学习用二进制输出第1学习用数据分数、第2学习用数据分数、第1分布特征分数、第2分布特征分数和第3学习用数据分数；以及(c)所述学习装置执行或支持执行如下处理：(i)生成参考所述第2学习用数据分数、所述第2分布特征分数和所述第3学习用数据分数的第1判别损失、参考所述第1学习用数据分数、所述第1分布特征分数和所述第3学习用数据分数的第2判别损失、参考所述第2分布特征分数和所述第3学习用数据分数的第1生成损失、和参考所述第1分布特征分数、所述第2分布特征分数和所述第3学习用数据分数的第2生成损失以训练所述判别器、所述数据生成器和所述分布分析器，以使所述数据生成器生成在所述学习用二进制为第1二进制值时包括具有在基于所述第2学习用低维分布特征的均值和方差确定的各学习用数据阈值范围内的均值和方差中的至少一个的分布的特征的所述第3学习用数据，生成在所述学习用二进制为第2二进制值时包括具有在基于所述第2学习用低维分布特征的所述均值和所述方差确定的所述各学习用数据阈值范围之外的均值和方差中的至少一个的分布的特征的所述第3学习用数据，(ii)参考所述学习用标注数据和与之对应的真实数据进一步生成求解器损失，并使用所述求解器损失进一步训练所述求解器。2.根据权利要求1所述的方法，其特征在于：在所述(c)步骤中，所述学习装置执行或支持执行如下处理：参考所述学习用二进制值，(i)当所述学习用二进制为第1二进制值时，使用所述第1判别损失训练所述判别器和所述分布分析器，使用所述第1生成损失训练所述数据生成器和所述分布分析器，(ii)当所述学习用二进制为第2二进制值时，使用所述第2判别损失训练所述判别器和所述分布分析器，并使用第2生成损失训练所述数据生成器和所述分布分析器。3.根据权利要求2所述的方法，其特征在于：
所述学习装置执行或支持执行如下处理：(i)当分别使用所述第1判别损失和所述第2判别损失来训练所述判别器和所述分布分析器时，在固定所述数据生成器的第1参数的状态下进行训练，(ii)当分别使用所述第1生成损失和所述第2生成损失来训练所述数据生成器和所述分布分析器时，在固定所述判别器的第2参数的状态下进行训练。4.根据权利要求1所述的方法，其特征在于：所述数据生成器包括至少一个编码层和至少一个解码层。5.一种使用选择性深度生成重放模块对深度神经网络模型进行可调连续学习的方法，所述方法包括：(a)在学习装置从整个数据库获得第1学习用数据且从作为所述整个数据库的子集的子数据库获得第2学习用数据时，所述学习装置执行或支持执行如下处理：将所述第1学习用数据和所述第2学习用数据输入到选择性深度生成重放模块使得所述选择性深度生成重放模块(i)(i)通过位于所述选择性深度生成重放模块的分布分析器生成与所述第1学习用数据对应的第1学习用低维分布特征和与所述第2学习用数据对应的第2学习用低维分布特征，其中所述第1学习用低维分布特征的维度低于所述第1学习用数据的维度，所述第2学习用低维分布特征的维度低于所述第2学习用数据的维度，(ii)将从位于所述选择性深度生成重放模块的动态二进制生成器中生成的学习用二进制、从位于所述选择性深度生成重放模块的随机参数生成器中生成的学习用随机参数、和所述第2学习用低维分布特征输入到位于所述选择性深度生成重放模块的数据生成器，通过所述数据生成器根据所述学习用二进制和所述学习用随机参数生成与所述第2学习用低维分布特征对应的第3学习用数据，(iii)将所述第1学习用数据输入到位于所述选择性深度生成重放模块的求解器，通过所述求解器输出基于深度学习对所述第1学习用数据进行标注的学习用标注数据的处理；(ii)将所述第1学习用数据、所述第2学习用数据、所述第1学习用低维分布特征、所述第2学习用低维分布特征、所述第3学习用数据和所述学习用二进制输入判别器，使得所述判别器对应于所述学习用二进制输出第1学习用数据分数、第2学习用数据分数、第1分布特征分数、第2分布特征分数和第3学习用数据分数的处理；以及(iii)(i)生成参考所述第2学习用数据分数、所述第2分布特征分数和所述第3学习用数据分数的第1判别损失、参考所述第1学习用数据分数、所述第1分布特征分数和所述第3学习用数据分数的第2判别损失、参考所述第2分布特征分数和所述第3学习用数据分数的第1生成损失、和参考所述第1分布特征分数、所述第2分布特征分数和所述第3学习用数据分数的第2生成损失以训练所述判别器、所述数据生成器和所述分布分析器，以使所述数据生成器生成在所述学习用二进制为第1二进制值时包括具有在基于所述第2学习用低维分布特征的均值和方差确定的各学习用数据阈值范围内的均值和方差中的至少一个的分布的特征的所述第3学习用数据，生成在所述学习用二进制为第2二进制值时包括具有在基于所述第2学习用低维分布特征的所述均值和所述方差确定的所述各学习用数据阈值范围之外的均值和方差中的至少一个的分布的特征的所述第3学习用数据，(ii)参考所述学习用标注数据和与之对应的真实数据进一步生成求解器损失，并使用所述求解器损失进一步训练所述求解器的处理的状态下，连续学习装置执行或支持执行从新收集的新数据库获得新数据的处理；以及(b)所述连续学习装置执行或支持执行如下处理：将所述新数据输入到所述选择性深度生成重放模块使得所述选择性深度生成重放模块(i)通过所述分布分析器生成与所述新
数据对应的新低维分布特征，其中所述新低维分布特征的维度低于所述新数据的维度，(ii)将从所述动态二进制生成器生成的测试用二进制、从所述随机参数生成器生成的测试用随机参数、和所述新低维分布特征输入到所述数据生成器，并通过所述数据生成器根据所述测试用二进制和所述测试用随机参数生成与所述新低维分布特征对应的测试用数据，其中所述测试用数据包括第1再生性数据和第2再生性数据，所述第1再生性数据在所述测试用二进制为第1二进制值时包括具有在基于所述新低维分布特征的均值和方差确定的各测试用数据阈值范围内的均值和方差中的至少一个的分布的特征，所述第2再生性数据在所述测试用二进制为第2二进制值时包括具有在基于所述新低维分布特征的所述均值和所述方差确定的所述各测试用数据阈值范围之外的均值和方差中的至少一个的分布的特征，(iii)将所述测试用数据输入到所述求解器，并通过所述求解器输出标注所述测试用数据的测试用标注数据。6.根据权利要求5所述的方法，其特征在于，还包括：(c)在通过复制所述选择性深度生成重放模块生成旧选择性深度生成重放模块，将包括所述第1学习用低维分布特征和所述第2学习用低维分布特征的至少一部分的旧低维分布特征输入到所述旧选择性深度生成重放模块，以使所述旧选择性深度生成重放模块生成与所述旧低维分布特征对应的旧数据和与所述旧数据对应的旧标注数据的状态下，所述连续学习装置执行或支持执行如下处理：(i)将所述旧数据、所述新数据、所述旧低维分布特征、所述新低维分布特征、所述测试用数据和所述测试用二进制输入到所述判别器，以使所述判别器对应于所述测试用二进制输出旧数据分数、新数据分数、旧分布特征分数、新分布特征分数和测试用数据分数，(ii)将所述旧数据和所述新数据输入到所述求解器，以使所述求解器输出基于深度学习对所述旧数据和所述新数据进行标注的新标注数据；以及(d)所述连续学习装置执行或支持执行如下处理：(i)生成参考所述新数据分数、所述新分布特征分数和所述测试用数据分数的第1新判别损失、参考所述旧数据分数、所述旧分布特征分数和所述测试用数据分数的第2新判别损失、参考所述新分布特征分数和所述测试用数据分数的第1新生成损失、和参考所述旧分布特征分数、所述新分布特征分数和所述测试用数据分数的第2新生成损失以训练所述判别器、所述数据生成器和所述分布分析器，以使所述数据生成器生成在所述测试用二进制为第1二进制值时包括具有在基于所述新低维分布特征的所述均值和所述方差确定的所述各测试用数据阈值范围内的均值和方差中的至少一个的分布的特征的所述测试用数据，生成在所述测试用二进制为第2二进制值时包括具有在基于所述新低维分布特征的所述均值和所述方差确定的所述各测试用数据阈值范围之外的均值和方差中的至少一个的分布的特征的所述测试用数据，(ii)参考所述新标注数据和所述旧标注数据生成新求解器损失，并使用所述新求解器损失训练所述求解器。7.根据权利要求5所述的方法，其特征在于：在所述(b)步骤中，所述连续学习装置执行或支持执行如下处理：使所述动态二进制生成器生成所述测试用二进制，其中，将设置所述第1再生性数据与所述第2再生性数据的生成比率的数据生成比率输入到所述动态二进制生成器，使得所述动态二进制生成器根据数据生成比率生成针对多个用于生成所述第1再生性数据的第1二进制值和多个用于生成所述第2再生性数据的第2二进制值的多个所述测试用二进制。
8.根据权利要求6所述的方法，其中：在所述(d)步骤中，所述连续学习装置执行或支持执行如下处理：参考所述测试用二进制值，(i)当所述测试用二进制为第1二进制值时，使用所述第1新判别损失训练所述判别器和所述分布分析器，并使用所述第1新生成损失训练所述数据生成器和所述分布分析器，(ii)当所述测试用二进制为第2二进制值时，使用所述第2新判别损失训练所述判别器和所述分布分析器，并使用第2新生成损失训练所述数据生成器和所述分布分析器。9.根据权利要求8所述的方法，其中：所述连续学习装置执行或支持执行如下处理：(i)当分别使用所述第1新判别损失和所述第2新判别损失来训练所述判别器和所述分布分析器时，在固定所述数据生成器的第1参数的状态下进行训练，(ii)当分别使用所述第1新生成损失和所述第2新生成损失来训练所述数据生成器和所述分布分析器时，在固定所述判别器的第2参数的状态下进行训练。10.根据权利要求5所述的方法，其特征在于：所述数据生成器包括至少一个编码层和至少一个解码层。11.一种使用选择性深度生成重放模块对深度神经网络模型进行可调连续学习的学习装置，其包括：至少一个存储指令的存储器；和至少一个用于执行所述指令的处理器，所述处理器执行或支持执行如下处理：(i)当从整个数据库获得第1学习用数据且从作为所述整个数据库的子集的子数据库获得第2学习用数据时，将所述第1学习用数据和所述第2学习用数据输入到选择性深度生成重放模块使得所述选择性深度生成重放模块(i)通过位于所述选择性深度生成重放模块的分布分析器生成与所述第1学习用数据对应的第1学习用低维分布特征和与所述第2学习用数据对应的第2学习用低维分布特征，其中所述第1学习用低维分布特征的维度低于所述第1学习用数据的维度，所述第2学习用低维分布特征的维度低于所述第2学习用数据的维度，(ii)将从位于所述选择性深度生成重放模块的动态二进制生成器中生成的学习用二进制、从位于所述选择性深度生成重放模块的随机参数生成器中生成的学习用随机参数、和所述第2学习用低维分布特征输入到位于所述选择性深度生成重放模块的数据生成器，通过所述数据生成器根据所述学习用二进制和所述学习用随机参数生成与所述第2学习用低维分布特征对应的第3学习用数据，(iii)将所述第1学习用数据输入到位于所述选择性深度生成重放模块的求解器，通过所述求解器输出基于深度学习对所述第1学习用数据进行标注的学习用标注数据；(ii)将所述第1学习用数据、所述第2学习用数据、所述第1学习用低维分布特征、所述第2学习用低维分布特征、所述第3学习用数据和所述学习用二进制输入判别器，并使所述判别器对应于所述学习用二进制，输出第1学习用数据分数、第2学习用数据分数、第1分布特征分数、第2分布特征分数和第3学习用数据分数；以及(iii)(i)生成参考所述第2学习用数据分数、所述第2分布特征分数和所述第3学习用数据分数的第1判别损失、参考所述第1学习用数据分数、所述第1分布特征分数和所述第3学习用数据分数的第2判别损失、参考所述第2分布特征分数和所述第3学习用数据分数的第1生成损失、和参考所述第1分布特征分数、所述第2分布特征分数和所述第3学习用数据分数的第2生成损失以训练所述判别器、所述数据生成器和所述分布分析器，以使所述数据生成器生成在所述学习用二进制为第1二进制值时包括具有在基于所述
第2学习用低维分布特征的均值和方差确定的各学习用数据阈值范围内的均值和方差中的至少一个的分布的特征的所述第3学习用数据，生成在所述学习用二进制为第2二进制值时包括具有在基于所述第2学习用低维分布特征的所述均值和所述方差确定的所述各学习用数据阈值范围之外的均值和方差中的至少一个的分布的特征的所述第3学习用数据，(ii)参考所述学习用标注数据和与之对应的真实数据进一步生成求解器损失，并使用所述求解器损失进一步训练所述求解器。12.根据权利要求11所述的学习装置，其特征在于：在所述(iii)处理中，所述处理器执行或支持执行如下处理：参考所述学习用二进制值，(i)当所述学习用二进制为第1二进制值时，使用所述第1判别损失训练所述判别器和所述分布分析器，使用所述第1生成损失训练所述数据生成器和所述分布分析器，(ii)当所述学习用二进制为第2二进制值时，使用所述第2判别损失训练所述判别器和所述分布分析器，并使用第2生成损失训练所述数据生成器和所述分布分析器。13.根据权利要求12所述的学习装置，其特征在于：所述处理器执行或支持执行如下处理：(i)当分别使用所述第1判别损失和所述第2判别损失来训练所述判别器和所述分布分析器时，在固定所述数据生成器的第1参数的状态下进行训练，(ii)当分别使用所述第1生成损失和所述第2生成损失来训练所述数据生成器和所述分布分析器时，在固定所述判别器的第2参数的状态下进行训练。14.根据权利要求11所述的学习装置，其特征在于：所述数据生成器包括至少一个编码层和至少一个解码层。15.一种使用选择性深度生成重放模块对深度神经网络模型进行可调连续学习的连续学习装置，其包括：至少一个存储指令的存储器；和至少一个用于执行所述指令的处理器，所述处理器执行或支持执行如下处理：(i)学习装置执行或支持执行如下处理：当从整个数据库获得第1学习用数据且从作为所述整个数据库的子集的子数据库获得第2学习用数据时，将所述第1学习用数据和所述第2学习用数据输入到选择性深度生成重放模块使得所述选择性深度生成重放模块(i)(i-1)通过位于所述选择性深度生成重放模块的分布分析器生成与所述第1学习用数据对应的第1学习用低维分布特征和与所述第2学习用数据对应的第2学习用低维分布特征，其中所述第1学习用低维分布特征的维度低于所述第1学习用数据的维度，所述第2学习用低维分布特征的维度低于所述第2学习用数据的维度，(i-2)将从位于所述选择性深度生成重放模块的动态二进制生成器中生成的学习用二进制、从位于所述选择性深度生成重放模块的随机参数生成器中生成的学习用随机参数、和所述第2学习用低维分布特征输入到位于所述选择性深度生成重放模块的数据生成器，通过所述数据生成器根据所述学习用二进制和所述学习用随机参数生成与所述第2学习用低维分布特征对应的第3学习用数据，(i-3)将所述第1学习用数据输入到位于所述选择性深度生成重放模块的求解器，通过所述求解器输出基于深度学习对所述第1学习用数据进行标注的学习用标注数据；(ii)将所述第1学习用数据、所述第2学习用数据、所述第1学习用低维分布特征、所述第2学习用低维分布特征、所述第3学习用数据和所述学习用二进制输入判别器，并使所述判别器对应于所述学习用二进制，输出第1学习用数据分数、第2学习用数据分数、
第1分布特征分数、第2分布特征分数和第3学习用数据分数；以及(iii)(iii-1)生成参考所述第2学习用数据分数、所述第2分布特征分数和所述第3学习用数据分数的第1判别损失、参考所述第1学习用数据分数、所述第1分布特征分数和所述第3学习用数据分数的第2判别损失、参考所述第2分布特征分数和所述第3学习用数据分数的第1生成损失、和参考所述第1分布特征分数、所述第2分布特征分数和所述第3学习用数据分数的第2生成损失以训练所述判别器、所述数据生成器和所述分布分析器，以使所述数据生成器生成在所述学习用二进制为第1二进制值时包括具有在基于所述第2学习用低维分布特征的均值和方差确定的各学习用数据阈值范围内的均值和方差中的至少一个的分布的特征的所述第3学习用数据，生成在所述学习用二进制为第2二进制值时包括具有在基于所述第2学习用低维分布特征的所述均值和所述方差确定的各每个学习用数据阈值范围之外的均值和方差中的至少一个的分布的特征的所述第3学习用数据，(iii-2)在参考所述学习用标注数据和与之对应的真实数据进一步生成求解器损失，并使用所述求解器损失进一步训练所述求解器的状态下，从新收集的新数据库获得新数据；以及(ii)将所述新数据输入到所述选择性深度生成重放模块，并使所述选择性深度生成重放模块(i)通过所述分布分析器生成与所述新数据对应的新低维分布特征，其中所述新低维分布特征的维度低于所述新数据的维度，(ii)将从所述动态二进制生成器生成的测试用二进制、从所述随机参数生成器生成的测试用随机参数，和所述新低维分布特征输入到所述数据生成器，并通过所述数据生成器根据所述测试用二进制和所述测试用随机参数生成与所述新低维分布特征对应的测试用数据，其中所述测试用数据包括第1再生性数据和第2再生性数据，所述第1再生性数据在所述测试用二进制为第1二进制值时包括具有在基于所述新低维分布特征的均值和方差确定的各测试用数据阈值范围内的均值和方差中的至少一个的分布的特征，所述第2再生性数据在所述测试用二进制为第2二进制值时包括具有在基于所述新低维分布特征的所述均值和所述方差确定的各测试用数据阈值范围之外的均值和方差中的至少一个的分布的特征，(iii)将所述测试用数据输入到所述求解器，并通过所述求解器输出标注所述测试用数据的测试用标注数据。16.根据权利要求15所述的连续学习装置，还包括：(iii)在通过复制所述选择性深度生成重放模块生成旧选择性深度生成重放模块，将包括所述第1学习用低维分布特征和所述第2学习用低维分布特征的至少一部分的旧低维分布特征输入到所述旧选择性深度生成重放模块，以使所述旧选择性深度生成重放模块生成与所述旧低维分布特征对应的旧数据和与所述旧数据对应的旧标注数据的状态下，所述处理器执行或支持执行如下处理：(i)将所述旧数据、所述新数据、所述旧低维分布特征、所述新低维分布特征、所述测试用数据和所述测试用二进制输入到所述判别器，以使所述判别器对应于所述测试用二进制输出旧数据分数、新数据分数、旧分布特征分数、新分布特征分数和测试用数据分数，(ii)将所述旧数据和所述新数据输入到所述求解器，以使所述求解器输出基于深度学习对所述旧数据和所述新数据进行标注的新标注数据；以及(iv)所述处理器执行或支持执行如下处理：(i)生成参考所述新数据分数、所述新分布特征分数和所述测试用数据分数的第1新判别损失、参考所述旧数据分数、所述旧分布特征分数和所述测试用数据分数的第2新判别损失、参考所述新分布特征分数和所述测试用数据分数的第1新生成损失、和参考所述旧分布特征分数、所述新分布特征分数和所述测试用
数据分数的第2新生成损失以训练所述判别器、所述数据生成器和所述分布分析器，以使所述数据生成器生成在所述测试用二进制为第1二进制值时包括具有在基于所述新低维分布特征的所述均值和所述方差确定的所述各测试用数据阈值范围内的均值和方差中的至少一个的分布的特征的所述测试用数据，生成在所述测试用二进制为第2二进制值时包括具有在基于所述新低维分布特征的所述均值和所述方差确定的所述各测试用数据阈值范围之外的均值和方差中的至少一个的分布的特征的所述测试用数据，(ii)参考所述新标注数据和所述旧标注数据生成新求解器损失，并使用所述新求解器损失训练所述求解器。17.根据权利要求15所述的连续学习装置，其特征在于：在所述(ii)处理中，所述处理器执行或支持执行如下处理：使所述动态二进制生成器生成所述测试用二进制，将设置所述第1再生性数据与所述第2再生性数据的生成比率的数据生成比率输入到所述动态二进制生成器，使得所述动态二进制生成器根据数据生成比率针对多个用于生成所述第1再生性数据的第1二进制值和多个用于生成所述第2再生性数据的第2二进制值生成多个所述测试用二进制。18.根据权利要求16所述的连续学习装置，其特征在于：在所述(iv)处理中，所述处理器执行或支持执行如下处理：参考所述测试用二进制值，(i)当所述测试用二进制为第1二进制值时，使用所述第1新判别损失训练所述判别器和所述分布分析器，并使用所述第1新生成损失训练所述数据生成器和所述分布分析器，(ii)当所述测试用二进制为第2二进制值时，使用所述第2新判别损失训练所述判别器和所述分布分析器，并使用第2新生成损失训练所述数据生成器和所述分布分析器。19.根据权利要求18所述的连续学习装置，其特征在于：所述处理器执行或支持执行如下处理：(i)当分别使用所述第1新判别损失和所述第2新判别损失来训练所述判别器和所述分布分析器时，在固定所述数据生成器的第1参数的状态下进行训练，(ii)当分别使用所述第1新生成损失和所述第2新生成损失来训练所述数据生成器和所述分布分析器时，在固定所述判别器的第2参数的状态下进行训练。20.根据权利要求15所述的连续学习装置，其特征在于：所述数据生成器包括至少一个编码层和至少一个解码层。

技术总结
公开一种使用选择性深度生成重放模块对深度神经网络模型进行可调连续学习的方法包括：(a)(i)将来自整个数据库和子数据库的第1学习用数据和第2学习用数据输入所述选择性深度生成重放模块生成第1低维分布特征和第2低维分布特征，(ii)将二进制、随机参数和第2维分布特征输入到数据生成器生成第3学习用数据，(iii)将所述第1学习用数据输入到求解器生成学习用标注数据；(b)将所述第1学习用数据、所述第2学习用数据、所述第1低维分布特征、所述第2低维分布特征、所述第3学习用数据和所述二进制输入到判别器生成第1学习用数据分数、第2学习用数据分数、第1分布特征分数、第2分布特征分数和第3学习用数据分数；(c)训练所述判别器、所述数据生成器、分布分析器和所述求解器。分布分析器和所述求解器。分布分析器和所述求解器。


技术研发人员：夫硕焄 权成颜 金镕重 柳宇宙
受保护的技术使用者：斯特拉德视觉公司
技术研发日：2021.04.14
技术公布日：2022/2/6