一种数据预测方法及装置与流程
本技术涉及人工智能(artificial intelligence,ai),尤其涉及一种数据预测方法及装置。
背景技术:
1、在气象灾害预警、能源管理、农业规划和交通调度等领域,往往需要对复杂混沌系统在未来的时间点(如数周、数月甚至数年后)的状态进行推理预测,以及时采取合适的应对措施来减少损失。目前,可以利用人工智能模型对系统在未来的状态进行预测,但模型的推理精度有限,导致预测过程的整体可靠性不高。
技术实现思路
1、本技术提供了一种数据预测方法,用于提升数据预测的可靠性。本技术还提供了相应装置、计算机可读存储介质和计算机程序产品等。
2、本技术第一方面提供一种数据预测方法,该方法可以由终端设备或者云端系统执行,该方法包括:获取第一数据与时间信息;其中,时间信息用于指示预测与第一数据相关的未来数据的时间;将第一数据输入预测模型;其中,预测模型包括多个子模型和至少一个第一校正模型,多个子模型对应至少一个时间步长,时间步长用于指示子模型预测数据的时间长度,多个子模型中的每个子模型用于预测对应时间步长的第二数据,每个子模型输出的第二数据与第一数据相关,至少一个第一校正模型用于校正每个子模型输出的第二数据;输出预测结果,预测结果是基于多个子模型输出的多个第二数据中的至少一个第二数据得到的,预测结果用于指示未来数据。
3、本技术中,第一数据可以包括一个或多个在基准时间之前观测到的数据,基准时间可以为最近观测到的历史数据的时间,未来数据可以为在基准时间之后的数据,第一数据与未来数据相关;例如,第一数据为与气象相关的参数,则未来数据同样为与气象相关的参数;此处,可以使用时间信息指示该未来数据的时间,时间信息可以包括如下信息中的至少两项:基准时间、第二时间、第一时间长度;其中,第二时间为需要预测的未来数据的时间,第一时间长度为基准时间与第二时间之间的时间长度。
4、本技术中,数据预测的任务可以由用户通过终端设备的交互界面触发,第一数据与时间信息也可以由用户通过终端设备主动提交;数据预测的任务还可以由相关的系统(或设备)根据预设的时间表触发,第一数据可以由终端设备根据任务从本地内存中获取,或者,终端设备从云端(比如服务器、在线网站等)获取;本技术对第一数据的获取方式不做限定;时间信息则可以根据预测任务的信息确定。
5、本技术中,预测模型可以由多个子模型以及至少一个第一校正模型组合得到,每个子模型可以输出对应时间长度的预测数据(第二数据),第一校正模型可用于对子模型的输出进行校正;其中,每个子模型对应的第一校正模型可以是基于推理精度更高的子模型训练得到的,能够从输出层面对结果进行修正;具体而言,推理精度更高的子模型为时间步长更短的子模型;在一些情况下,多个子模型中的每个子模型可以各自分别对应一个第一校正模型。
6、上述第一方面提供的方案,可以利用预测模型中的多个子模型进行推理,在此过程中,第一校正模型会校正每个子模型输出的数据,相比于校正之前的数据,校正后的数据能够得到精度更高的预测结果,有助于提升数据预测的可靠性。
7、一种可能的实现方式中,该方法还包括:根据时间信息,从数据库中选择多个子模型,以及多个子模型对应的至少一个第一校正模型;组合多个子模型和至少一个第一校正模型得到预测模型。
8、本技术中,数据库可以包括时间步长不同的多个子模型以及至少一个第一校正模型,多个子模型是基于相同或不同的骨干网络训练得到的,每个子模型对应的第一校正模型是基于该子模型以及至少一个时间步长更小的子模型训练得到的。
9、本技术中,时间信息可以包括第一时间长度,或确定第一时间长度所需的信息;根据第一时间长度,可以确定子模型的选择条件,根据该选择条件,便可从数据库中选择多个子模型。
10、本技术中,预测模型可以按照特定的排布方式,将确定出的多个子模型和至少一个第一校正模型进行组合得到。
11、该种可能的实现方式中,可以针对不同的时间尺度,从数据库中选取合适的子模型,从而能够根据具体的预测需求动态调整预测模型,有助于提升数据预测方法的灵活性和适应性。
12、一种可能的实现方式中,时间信息指示的第一时间长度为多个子模型中每个子模型的时间步长之和;对应地,预测模型中的多个子模型和至少一个第一校正模型按照子模型在前,第一校正模型在后的顺序交替排布,其中,每个第一校正模型的输入为前一个子模型的输出,每个第一校正模型的输出为后一个子模型的输入。
13、在本技术中,可以将第一时间长度为多个子模型中每个子模型的时间步长之和作为选择条件,从数据库中确定多个子模型以及至少一个第一校正模型;例如,可以根据该选择条件,利用贪心算法或者动态规划算法,从数据库中确定出所需的最少数目的多个子模型。
14、本技术中,预测模型中的多个子模型和至少一个第一校正模型按照子模型在前,第一校正模型在后的顺序交替排布;也就是说,预测模型中各个子模型以及第一校正模型可以通过串行排布的方式连接,在进行数据预测时,每个子模型可以对一个时间的未来数据进行预测,后一个子模型可以基于前一个子模型的预测数据进行下一个时间的预测。
15、该种可能的实现方式中,预测模型中的多个子模型和至少一个第一校正模型按照子模型在前,第一校正模型在后的顺序交替排布,从而在每个子模型预测后能够立即利用第一校正模型进行校正,减少误差在后续处理中累积,有助于提升数据预测的精度和可靠性。
16、一种可能的实现方式中,预测模型中的第一个子模型的输入为第一数据,预测结果为预测模型中最后一个子模型输出的第二数据。
17、本技术中,第一数据作为预测模型中的第一个子模型的输入;也就是说,使用上述预测模型进行数据预测时,根据预测模型中的第一个子模型,便可以确定数据预测过程所需的第一数据。
18、该种可能的实现方式中,在数据预测时,预测模型中的第一子模型将第一数据作为输入,并输出第二数据,第二数据又可以作为下一个第一校正模型的输入;换而言之,该方法将数据预测的过程分阶段进行,每个子模型可对其中的一个阶段进行预测,逐步地预测得到所需的未来数据;如此,能够预测时间长度较大的未来数据,实现长时预测。
19、一种可能的实现方式中,时间信息指示的第一时间长度小于或等于多个子模型中每个子模型的时间步长;对应地,预测模型中的多个子模型并行排布,且每个子模型的输出为一个第一校正模型的输入。
20、本技术中,可以将第一时间长度小于或等于多个子模型中每个子模型的时间步长作为选择条件,从数据库中选择时间步长小于第一时间步长的多个子模型。
21、本技术中,在进行数据预测时,预测模型中的每个子模型都可以对需要的未来数据独立地进行数据预测,并且,可以利用至少一个第一校正模型对子模型的输出进行校正。
22、该种可能的实现方式中,预测模型中的多个子模型可以通过并行排布的方式进行组合,在数据预测时,每个子模型都直接对同一个时间的未来数据进行预测,即,多个子模型并行运行,并且能够通过第一校正模型对输出进行校正;由于子模型的输入不依赖于上一步的输出,从而能够避免误差的累计,有助于提升数据预测的精度和可靠性。
23、一种可能的实现方式中,预测模型中每个子模型的输入为第一数据,预测结果包括与多个第二数据对应的多个第三数据,第三数据为经过每个子模型对应的第一校正模型校正过的第二数据。
24、本技术中,每个子模型对应的第一数据需要子模型对应的时间步长确定;具体地,对某个子模型而言,该子模型所需的第一数据的时间可以通过未来数据的时间向前回溯对应的时间长度得到。
25、其中,预测结果包括与多个第二数据对应的多个第三数据。例如,多个第二数据中的每个第二数据可以各自与一个第三数据对应;又例如,大小相同的多个第二数据可以与一个第三数据对应,大小不同的多个第二数据可以分别各自与一个第三数据对应。
26、该种可能的实现方式中,每个子模型都可以根据对应的第一数据,直接对同一个时间的未来数据进行预测,并通过至少一个第一校正模型对每个子模型的输出进行校正;之后,可以根据多个第二数据确定出多个第三数据;通过集成不同子模型的输出,能得到更鲁棒的预测结果,提升预测结果的可用性。
27、一种可能的实现方式中,预测结果还包括多个第三数据指示的不同类型的未来数据的概率。
28、本技术中,未来数据的类型与数据预测方法的应用领域相关,例如,未来数据为与气象相关的数据,则未来数据的类型也同样与气象相关,比如,若未来数据为降水量,则未来数据的类型可以为无雨、小雨、中雨、大雨和暴雨中的一个。
29、该种可能的实现方式中,预测结果中还可以包括第三数据指示的不同类型的未来数据的概率,相比于仅包括多个第三数据的预测结果而言,上述方法能够通过概率预测的方式增强结果的可解释性,有助于提升数据预测的实用性和决策支持能力。
30、一种可能的实现方式中,第一数据为与气象相关的参数。
31、本技术中,数据预测方法可以应用于气象预报领域,第一数据即为与气象相关的参数;例如,第一数据可以为降水量、湿度、温度、气压、风速、风向、露点温度或云量等参数。
32、一种可能的实现方式中,数据预测方法可以应用于能源管理领域,第一数据为与能源相关的参数;例如,第一数据可以为用电量、新能源发电功率等参数。
33、一种可能的实现方式中,数据预测方法可以应用于农业规划领域,第一数据为与农业相关的参数;例如,第一数据可以为作物产量、病虫害记录、作物种类等参数。
34、一种可能的实现方式中,数据预测方法可以应用于交通调度领域,第一数据为与交通相关的参数;例如,第一数据可以为车流量、人流量、交通事故频次等参数。
35、本技术第二方面提供一种模型训练方法,该方法可由终端设备或云端系统执行,该方法包括:获取第一子模型的第一输出数据与第二子模型的第二输出数据,第一输出数据和第二输出数据对应同一时间,第二子模型的时间步长小于第一子模型的时间步长;将第一输出数据输入第二校正模型,得到第三输出数据;基于第二输出数据和第三输出数据更新第二校正模型,得到第一校正模型。
36、本技术中,第二校正模型为初始的校正模型(即训练之前的校正模型)。
37、一种可能的实现方式中,第二校正模型可以包括特征融合模块(featurefusion)、块嵌入模块(patch embedding)、自注意力模块(self-attention)和多层感知机模块(mutilayer perception layer),其中的每个模块可以包括一层或多层。特征融合模块的输入为第一输出数据,特征融合模块具体用于增强预测的细节,例如,特征融合模块可以通过残差连接或多尺度特征融合以保留第一输出数据中的高频信息;块嵌入模块的输入为特征融合模块的输出,块嵌入模块具体用于将特征融合模块的输出分割为多个小块,并映射为低维向量序列;自注意力模块的输入为块嵌入模块输出的低维向量序列,自注意力模块具体用于计算块之间的全局依赖关系;多层感知机模块的输入为自注意力模块的输出,多层感知机模块具体用于增强非线性表达能力,细化预测的细节;多层感知机模块输出的数据会被还原为与第一输出数据相同的维度,得到第三输出数据。
38、一种可能的实现方式中,第二校正模型可以为线性回归模型。
39、本技术中,可以基于第二输出数据与第三输出数据的距离,确定训练过程中的损失,并可以基于该损失对第二校正模型进行参数更新(例如可通过反向传播的方式更新),得到第一校正模型。也就是说,第一校正模型的训练过程是以第二输出数据为真值进行的。
40、本技术中,基于上述过程训练得到的第一校正模型为与第一子模型对应的第一校正模型;在进行数据预测时,该第一校正模型可以用于对第一子模型的输出进行校正。
41、一种可能的实现方式中,在第一子模型对应的第一校正模型的训练过程中,可以使用一个第二子模型与该第一子模型。
42、一种可能的实现方式中,在第一子模型对应的第一校正模型的训练过程中,可以使用多个第二子模型与该第一子模型。具体地,可以使用第一个第二子模型与该第一子模型训练得到第一校正模型,在此基础上,利用下一个第二子模型与该第一子模型,继续对该第一校正模型进行训练,得到更新的第一校正模型;每个第二子模型都可以对上一次更新得到的第一校正模型进行训练,最后一个第二子模型训练得到的第一校正模型即为实际的数据预测过程中使用的第一校正模型。
43、上述第二方面提供的方案,可利用时间步长小的子模型(第二子模型)作为基准,对第二校正模型进行更新,得到时间步长大的子模型(第一子模型)对应的第一校正模型;时间步长小的子模型的推理精度往往会高于时间步长大的子模型的推理精度,因此,根据上述方法训练得到的第一校正模型,可以将第一子模型的输出校正为精度更高的结果,从而提升第一子模型的预测精度。
44、一种可能的实现方式中,基于第二输出数据和第三输出数据更新第二校正模型,得到第一校正模型,包括:基于第二输出数据和第三输出数据的距离确定训练损失;基于训练损失更新第二校正模型得到第一校正模型。
45、本技术中,可以基于第二输出数据、第三输出数据以及预设的损失函数,确定训练损失。
46、例如,可以将第二输出数据和第三输出数据的差值作为训练损失。
47、又例如,可以将第二输出数据对应的残差与第三输出数据对应的残差的差值作为训练损失,在此示例中,对应的损失函数可表示如下:
48、
49、其中,ladjusted表示第一校正模型的训练过程的损失,n表示第二校正模型在本次迭代中使用的样本的数目,em1(ti)表示第i个样本对应的第二输出数据与对应的标记结果(即时间ti对应的观测数据)的差值(也称为残差),em2(ti)表示第i个样本对应的第三输出数据与对应的标记数据(即时间ti对应的实际数据)的差值(也称为残差)。
50、具体地,可以根据训练损失确定梯度(即损失函数对模型参数的偏导数),并将梯度通过反向传播的方式逐层地传递至第二校正模型不同的层中,以调整第二校正模型各层的参数;每次迭代后,可以得到更新后的第二校正模型,并基于该更新后的第二校正模型进行下一轮迭代;在迭代停止后,便可得到第一校正模型;此处,迭代停止的条件可以为迭代次数达到预设的阈值(例如上万次),或者,第二校正模型收敛。
51、该种可能的实现方式中,可以基于第三输出数据与第一输出数据确定训练损失,从而第二校正模型可以学习第一子模型和第二子模型输出的差异模式,并不断更新模型参数,得到第一校正模型;由于第二子模型的推理精度高于第一子模型的推理精度,因此,训练得到的第一校正模型能够将第一子模型输出的数据校正为精度更高的数据,有助于提升第一子模型的预测精度。
52、应理解,上述第一方面或第一方面任一种可能的实现方式,以及第二方面或第二方面任一种可能的实现方式可由同一个执行主体执行,也可以由不同的执行主体执行,本技术对此不做限定。
53、本技术第三方面提供一种数据预测装置,该装置包括:
54、获取模块,用于获取第一数据与时间信息;其中,时间信息用于指示预测与第一数据相关的未来数据的时间;
55、输入模块,用于将第一数据输入预测模型;其中,预测模型包括多个子模型和至少一个第一校正模型,多个子模型对应至少一个时间步长,时间步长用于指示子模型预测数据的时间长度,多个子模型中的每个子模型用于预测对应时间步长的第二数据,每个子模型输出的第二数据与第一数据相关,至少一个第一校正模型用于校正每个子模型输出的第二数据;
56、输出模块,用于输出预测结果,预测结果是基于多个子模型输出的多个第二数据中的至少一个第二数据得到的,预测结果用于指示未来数据。
57、一种可能的实现方式中,该模型训练装置还包括:
58、选择模块,用于根据时间信息,从数据库中选择多个子模型,以及多个子模型对应的至少一个第一校正模型;组合模块,用于组合多个子模型和至少一个第一校正模型得到预测模型。
59、一种可能的实现方式中,时间信息指示的第一时间长度为多个子模型中每个子模型的时间步长之和;对应地,预测模型中的多个子模型和至少一个第一校正模型按照子模型在前,第一校正模型在后的顺序交替排布,其中,每个第一校正模型的输入为前一个子模型的输出,每个第一校正模型的输出为后一个子模型的输入。
60、一种可能的实现方式中,预测模型中的第一个子模型的输入为第一数据,预测结果为预测模型中最后一个子模型输出的第二数据。
61、一种可能的实现方式中,时间信息指示的第一时间长度小于或等于多个子模型中每个子模型的时间步长;对应地,预测模型中的多个子模型并行排布,且每个子模型的输出为一个第一校正模型的输入。
62、一种可能的实现方式中,预测模型中每个子模型的输入为第一数据,预测结果包括与多个第二数据对应的多个第三数据,第三数据为经过每个子模型对应的第一校正模型校正过的第二数据。
63、一种可能的实现方式中,预测结果还包括多个第三数据指示的不同类型的未来数据的概率。
64、一种可能的实现方式中,第一数据为与气象相关的参数。
65、本技术第四方面提供一种模型训练装置,该装置包括:
66、获取模块,用于获取第一子模型的第一输出数据与第二子模型的第二输出数据,第一输出数据和第二输出数据对应同一时间,第二子模型的时间步长小于第一子模型的时间步长;
67、输入模块,用于将第一输出数据输入第二校正模型,得到第三输出数据;
68、更新模块,用于基于第二输出数据和第三输出数据更新第二校正模型,得到第一校正模型。
69、一种可能的实现方式中,更新模块具体用于:基于第二输出数据和第三输出数据的距离确定训练损失;基于训练损失更新第二校正模型得到第一校正模型。
70、本技术第五方面提供一种计算机设备,包括存储介质、处理电路以及总线系统;其中,存储介质用于存储指令,处理电路用于执行存储器中的指令,以执行上述第一方面及其任一种实现方式
71、本技术第六方面提供一种计算机设备,包括存储介质、处理电路以及总线系统;其中,存储介质用于存储指令,处理电路用于执行存储器中的指令,以执行上述第二方面及其任一种实现方式。
72、本技术第七方面提供一种计算机可读存储介质,计算机可读存储介质中存储有计算机程序,当其在计算机上运行时,使得计算机执行上述第一方面或第一方面任一可能的实现方式,或者,使得计算机执行上述第二方面或第二方面任一可能的实现方式。
73、本技术第八方面提供一种计算机程序,当其在计算机上运行时,使得计算机执行上述第一方面或第一方面任一可能的实现方式,或者,使得计算机设备执行上述第二方面或第二方面任一可能的实现方式。
74、本技术第九方面提供一种芯片系统,该芯片系统包括处理器,用于支持计算机设备实现上述第一方面或第一方面任一可能的实现方式,和/或,第二方面或第二方面任一可能的实现方式中所涉及的功能,例如,发送或处理上述方法中所涉及的数据和/或信息。在一种可能的设计中,芯片系统还包括存储器,存储器,用于保存计算机设备必要的程序指令和数据。该芯片系统,可以由芯片构成,也可以包括芯片和其他分立器件。
75、其中,第三方面、第五方面,或第三方面、第五方面任一可能的实现方式,以及第七方面至第九方面所带来的技术效果可参见第一方面或第一方面不同可能实现方式所带来的技术效果,此处不再赘述。
76、其中,第四方面、第六方面,或第四方面、第六方面任一可能的实现方式,以及第七方面至第九方面所带来的技术效果可参见第二方面或第二方面不同可能实现方式所带来的技术效果,此处不再赘述。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com