一种用于数据生成的人工智能网络模型及其训练方法和装置与流程
概括地说,本发明涉及人工智能技术,更具体而言涉及用于数据生成的人工智能网络模型及其训练方法。
背景技术:
1、人工智能(artificialintelligence)技术目前正在飞速发展。通过训练和对大量数据的学习,ai网络模型可以根据输入的条件或指导,生成与之相符的内容。
2、不同类型的ai网络模型具有各自独特的优势,并且ai网络模型的应用也越来越广泛。随着ai网络模型的发展,可能期望应用ai网络模型来解决日常工作和生活中具有复杂函数关系或变化规律的问题。例如,在散热设计和环境温度检测等涉及温度场动态变化的场景中通常需要求解热传导方程。又例如,在隔音工程和结构抗震等涉及声波/机械振动传播的场景中通常需要求解波动方程。又例如,在进行市场泡沫预测等群体行为模拟场景中可能需要求解反应-扩散方程。用于描述诸如温度场、声场、市场泡沫等这些变量的动态变化规律的方程通常会包含未知函数及其偏导数。如果通过传统的数学方法来解决这些问题往往是非常困难甚至是无法解决的。因此,需要一种用于解决日常工作和生活中的这种问题的ai网络模型及其训练方法。
技术实现思路
1、下面提供根据本公开的一个或多个方面的简要说明,以便提供对这些方面的基本理解。本 技术实现要素: 不是对所有方面的广泛概述,既不是要确定所有方面的关键要素,也不是要划定任何方面或所有方面的范围。其唯一目的是以简化的形式呈现一个或多个方面的一些概念,作为后面更详细描述的前序。
2、根据本公开的一个方面,一种用于训练人工智能网络模型的方法,包括:生成包括多个训练数据对的训练数据集,训练数据对包括具有函数对应关系的第一训练数据和第二训练数据;将训练数据对的第一训练数据或者第二训练数据进行掩码以生成经掩码数据对,经掩码数据对包括第一训练数据被掩码的数据对和第二训练数据被掩码的数据对;以及通过将经掩码数据对输入到人工智能网络模型并且优化人工智能网络模型输出的重构数据对与训练数据对之间的损失,来对人工智能网络模型进行训练。
3、根据本公开的一个方面,一种用于训练人工智能网络模型的装置,包括:存储器;以及至少一个处理器,至少一个处理器耦合到存储器并且被配置为执行以下操作:生成包括多个训练数据对的训练数据集,训练数据对包括具有函数对应关系的第一训练数据和第二训练数据;将训练数据对的第一训练数据或者第二训练数据进行掩码以生成经掩码数据对,经掩码数据对包括第一训练数据被掩码的数据对和第二训练数据被掩码的数据对;以及通过将经掩码数据对输入到人工智能网络模型并且优化人工智能网络模型输出的重构数据对与训练数据对之间的损失,来对人工智能网络模型进行训练。
4、根据本公开的一个方面,一种用于训练人工智能网络模型的计算机程序产品,包括计算机可执行指令,计算机可执行指令当被执行时使得一个或多个处理器执行以下操作:生成包括多个训练数据对的训练数据集,训练数据对包括具有函数对应关系的第一训练数据和第二训练数据;将训练数据对的第一训练数据或者第二训练数据进行掩码以生成经掩码数据对,经掩码数据对包括第一训练数据被掩码的数据对和第二训练数据被掩码的数据对;以及通过将经掩码数据对输入到人工智能网络模型并且优化人工智能网络模型输出的重构数据对与训练数据对之间的损失,来对人工智能网络模型进行训练。
5、根据本公开的一个方面,一种基于人工智能网络模型的数据生成方法,包括:生成由第一数据或第二数据与掩码数据构成的数据对;以及将数据对输入到人工智能网络模型中以生成重构数据对,重构数据对包括具有函数对应关系的第一重构数据和第二重构数据,其中,人工智能网络模型是根据以下操作来训练的:生成包括多个训练数据对的训练数据集,训练数据对包括具有函数对应关系的第一训练数据和第二训练数据;将训练数据对的第一训练数据或者第二训练数据进行掩码以生成经掩码数据对,经掩码数据对包括第一训练数据被掩码的数据对和第二训练数据被掩码的数据对;以及通过将经掩码数据对输入到人工智能网络模型并且优化人工智能网络模型输出的重构数据对与训练数据对之间的损失,来对人工智能网络模型进行训练。
6、根据本公开的一个方面,一种基于人工智能网络模型的数据生成装置,包括:存储器;以及至少一个处理器,至少一个处理器耦合到存储器并且被配置为执行以下操作:生成由第一数据或第二数据与掩码数据构成的数据对;以及将数据对输入到人工智能网络模型中以生成重构数据对,重构数据对包括具有函数对应关系的第一重构数据和第二重构数据,其中,人工智能网络模型是根据以下操作来训练的:生成包括多个训练数据对的训练数据集,训练数据对包括具有函数对应关系的第一训练数据和第二训练数据;将训练数据对的第一训练数据或者第二训练数据进行掩码以生成经掩码数据对,经掩码数据对包括第一训练数据被掩码的数据对和第二训练数据被掩码的数据对;以及通过将经掩码数据对输入到人工智能网络模型并且优化人工智能网络模型输出的重构数据对与训练数据对之间的损失,来对人工智能网络模型进行训练。
7、根据本公开的一个方面,一种用于基于人工智能网络模型生成数据的计算机程序产品,包括计算机可执行指令,计算机可执行指令当被执行时使得一个或多个处理器执行以下操作:生成由第一数据或第二数据与掩码数据构成的数据对;以及将数据对输入到人工智能网络模型中以生成重构数据对,重构数据对包括具有函数对应关系的第一重构数据和第二重构数据,其中,人工智能网络模型是根据以下操作来训练的:生成包括多个训练数据对的训练数据集,训练数据对包括具有函数对应关系的第一训练数据和第二训练数据;将训练数据对的第一训练数据或者第二训练数据进行掩码以生成经掩码数据对,经掩码数据对包括第一训练数据被掩码的数据对和第二训练数据被掩码的数据对;以及通过将经掩码数据对输入到人工智能网络模型并且优化人工智能网络模型输出的重构数据对与训练数据对之间的损失,来对人工智能网络模型进行训练。
8、应当注意,以上一个或多个方面包括以下详细描述以及在权利要求中具体记载的特征。下面的说明书及附图从多个方面详细阐述了部分示例性特征。这些特征仅仅指示可以实施各个方面的原理的多种方式,并且本公开内容旨在包括所有这些方面及其等同变换。
1.一种用于训练人工智能网络模型的方法,包括:
2.根据权利要求1所述的方法,其中,所述第一训练数据和所述第二训练数据中的至少一者包括文本数据、图像数据、音频数据、或者视频数据。
3.根据权利要求1所述的方法,其中,将所述训练数据对的所述第一训练数据或者所述第二训练数据进行掩码包括:将所述第一训练数据或者所述第二训练数据替换为随机噪声的值、正态分布的值或预先设置的值。
4.根据权利要求1所述的方法,其中,将所述训练数据对的所述第一训练数据或者所述第二训练数据进行掩码包括:随机地将所述训练数据对的所述第一训练数据或者所述第二训练数据进行掩码。
5.根据权利要求1所述的方法,其中,将所述训练数据对的所述第一训练数据或者所述第二训练数据进行掩码包括:
6.根据权利要求1所述的方法,其中,所述人工智能网络模型包括编码器和解码器。
7.根据权利要求6所述的方法,对所述人工智能网络模型进行训练还包括:
8.根据权利要求7所述的方法,其中,所述损失包括所述重构数据对与所述训练数据对之间的重构损失、kullback-leibler(kl)损失和物理损失。
9.根据权利要求8所述的方法,其中,
10.根据权利要求8所述的方法,其中,所述训练数据对和所述重构数据对包括图像数据,并且其中,所述损失还包括快速傅里叶变换(fft)损失,所述fft损失包括:经过fft的训练数据对和经过fft的重构数据对之间的mse。
11.一种用于训练人工智能网络模型的装置,包括:
12.一种用于训练人工智能网络模型的计算机程序产品,包括计算机可执行指令,所述计算机可执行指令当被执行时使得一个或多个处理器执行根据权利要求1-10中的任一项所述的方法。
13.一种基于人工智能网络模型的数据生成方法,包括:
14.一种基于人工智能网络模型的数据生成装置,包括:
15.一种用于基于人工智能网络模型生成数据的计算机程序产品,包括计算机可执行指令,所述计算机可执行指令当被执行时使得一个或多个处理器执行根据权利要求13所述的方法。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com