一种基于TokenLite-Former的轻量级船舶姿态预测方法
本发明涉及深度学习时间序列预测领域及船舶姿态预测,具体而言,涉及一种基于tokenlite-former的轻量级船舶姿态预测方法。
背景技术:
1、随着海基航天发射技术的发展,海基航天发射船因具备发射海域选择灵活、任务部署机动性强以及受陆基发射场地理条件限制较小等特点,逐渐成为海上航天发射任务的重要支撑平台。然而,海基航天发射船在作业过程中长期受到风、浪、流等海洋环境载荷以及船体运动响应的耦合作用,其姿态响应呈现出明显的非线性、非平稳性和多自由度耦合特征。尤其是在火箭转运、竖起、发射准备和发射窗口判断等关键阶段,船体的垂荡、横摇和纵摇变化会直接影响发射平台稳定性、箭体姿态安全、设备对接精度及任务执行可靠性。因此,针对海基航天发射船开展短时姿态响应预测,提前获取未来时间窗口内的船体运动变化趋势,对于海上发射安全评估、发射窗口辅助判断、运动补偿控制和任务决策支持具有重要工程价值。
2、现有船舶姿态预测方法主要包括模型驱动方法和数据驱动方法。模型驱动方法通常依赖水动力理论、响应幅值算子等模型建立船舶运动响应预测关系,但在复杂风浪耦合激励下,船舶姿态响应具有较强的非线性和非平稳特征,传统方法对复杂海况变化的适应能力和预测稳定性仍存在不足。近年来,深度学习模型被用于船舶运动预测,能够从历史运动序列中学习非线性映射关系,并在一定程度上提高姿态预测精度。然而,船舶姿态响应序列通常具有较长历史窗口和多步预测需求,transformer对每个时间步进行全局自注意力计算,存在计算复杂度高、显存占用大、推理效率不足等问题,难以满足工程实时部署需求。此外,在多步姿态预测过程中,若直接预测未来时刻的绝对姿态响应值,模型需要同时拟合低频漂移、基线偏移、相位变化和局部扰动等复杂成分,容易导致预测误差随时间步增加而累积放大,影响长期预测稳定性。同时,仿真海况数据与真实海况数据之间通常存在分布差异,真实海况样本规模有限,直接利用仿真数据训练得到的模型在真实海况下可能出现泛化能力不足和预测精度下降的问题。
3、因此,有必要设计一种基于tokenlite-former的轻量级船舶姿态预测方法,通过时间token压缩降低长序列建模计算开销,利用轻量化transformer提取全局时序依赖特征,结合时间残差机制缓解多步预测误差累积,并通过相近海况预训练—微调策略提高模型在真实海况条件下的适应能力,从而实现船舶垂荡、横摇和纵摇姿态响应高精度、轻量化的极短期预测。
技术实现思路
1、鉴于此,本发明提出了一种基于tokenlite-former的轻量级船舶姿态预测方法,旨在解决现有船舶姿态预测方法在复杂风浪耦合激励下存在的长时间序列建模计算开销大、多步预测误差易累积、真实海况适应性不足以及工程实时部署能力有限的问题。
2、本发明提出了一种基于tokenlite-former的轻量级船舶姿态预测方法,包括:
3、获取船舶在历史时间窗口内的三自由度姿态响应序列,所述三自由度姿态响应序列包括垂荡z、横摇rx和纵摇ry,对所述姿态响应序列进行标准化处理,并构造模型输入样本;
4、对所述模型输入样本进行线性映射与位置编码,将原始姿态响应序列投影至高维特征空间,获得用于时序特征提取的输入嵌入表示;
5、利用tokenlite模块对所述输入嵌入表示中的各历史时间步进行重要性评估,生成时间权重分布,并基于所述时间权重分布采用分段加权汇聚方式,将长时间姿态响应序列压缩为紧凑token表示;
6、将所述紧凑token表示输入轻量化transformer编码器,通过多头自注意力机制和前馈网络提取船舶姿态响应中的全局时序依赖特征,获得反映船舶历史运动演化规律的时序特征表示;
7、基于时间残差机制,利用所述时序特征表示预测未来姿态响应相对于当前时刻姿态响应的变化量,并将所述变化量与当前时刻姿态响应进行叠加,恢复得到未来时刻的绝对姿态预测结果;
8、结合基于相近海况的预训练—微调策略,利用仿真海况数据对tokenlite-former模型进行预训练,并利用真实海况数据对模型进行微调,提高模型在真实海况条件下的适应能力,最终输出船舶垂荡z、横摇rx和纵摇ry的姿态预测结果。
9、进一步地,所述三自由度姿态响应序列由船舶在连续历史时间窗口内的运动响应数据构成,所述运动响应数据包括垂荡z、横摇rx和纵摇ry三个方向的姿态响应分量;
10、将所述三自由度姿态响应序列按照预设采样时间间隔进行排列,形成长为t的历史输入序列,并根据预设预测步长确定未来姿态响应预测序列;
11、对所述历史输入序列进行标准化处理。
12、进一步地,将标准化后的历史输入序列作为模型输入样本,并通过线性映射层将其投影至高维特征空间,获得高维特征表示;
13、在所述高维特征表示中叠加位置编码,获得输入嵌入表示。
14、进一步地,所述利用tokenlite模块对历史时间步进行重要性评估并生成紧凑token表示时,包括:
15、基于所述输入嵌入表示,利用时间打分网络scorenet对各历史时间步的重要性进行评估,获得每一时间步对应的原始重要性分数;
16、所述时间打分网络采用轻量化时序卷积结构,所述时间打分网络用于提取船舶姿态响应序列中的局部时间相关特征、短时振荡特征和突变片段特征;
17、基于所述原始重要性分数,通过softmax函数进行归一化处理,生成对应的时间权重分布;
18、在所述softmax归一化过程中引入temperature系数;
19、将原始历史时间轴划分为多个连续子区间,并在每一子区间内根据所述时间权重分布对输入嵌入表示进行分段加权汇聚,生成对应的压缩token;
20、将各子区间生成的压缩token按时间顺序组合,得到长度小于原始历史输入序列长度的紧凑token表示。
21、进一步地,所述基于时间权重分布构造紧凑token表示时,包括:
22、基于所述输入嵌入表示,利用时间打分网络scorenet输出各历史时间步的重要性分数,并通过softmax函数进行归一化处理,得到时间权重分布,其形式为:
23、
24、其中,表示第个历史时间步的重要性分数,表示temperature系数,表示历史输入序列长度,表示第个历史时间步对应的时间权重;
25、将历史输入序列的时间轴划分为个连续子区间,对于第个子区间,对该子区间内的时间权重进行重新归一化,其形式为:
26、
27、其中,表示第个子区间内第个时间步的局部归一化权重,表示用于防止分母为零的微小常数;
28、基于所述局部归一化权重,对第个子区间内的输入嵌入表示进行加权汇聚,生成对应的压缩token,其形式可表示为:
29、
30、其中,表示第个历史时间步的输入嵌入特征,表示第个压缩token;
31、将各子区间生成的压缩token按照时间顺序组合,得到紧凑token序列:
32、
33、其中,。
34、进一步地,所述利用轻量化transformer编码器提取全局时序依赖特征包括:
35、将所述紧凑token序列输入轻量化transformer编码器;
36、基于所述紧凑token序列分别生成查询向量、键向量和值向量,并计算各压缩token之间的注意力权重,其形式为:
37、
38、
39、其中,表示所述紧凑token序列,、、分别表示查询向量、键向量和值向量,、、为可学习参数矩阵,为键向量维度;
40、采用多头自注意力机制在不同特征子空间内并行提取时序依赖关系,并将各注意力头的输出结果进行拼接与线性变换,获得多头注意力输出特征;
41、将所述多头注意力输出特征依次经过残差连接、归一化层和前馈网络,得到反映船舶历史姿态响应演化规律的时序特征表示;
42、所述轻量化transformer编码器仅保留编码器结构,去除解码器和掩码自注意力结构,并通过减少编码器层数、压缩嵌入维度以及降低注意力头数控制模型规模。
43、进一步地,所述基于时间残差机制预测未来姿态响应包括:
44、将船舶当前时刻的姿态响应作为残差预测基准;
45、设历史输入序列的最后一个时间步对应的姿态响应为,未来第个时间步的真实姿态响应为,则未来姿态响应的真实残差变化量为:
46、
47、其中,表示预测步长,表示未来第个时间步相对于当前时刻的姿态响应变化量;
48、利用tokenlite-former模型输出预测残差变化量,并构造残差预测损失函数,其形式为:
49、
50、其中,表示时间残差预测损失,表示模型预测得到的未来姿态响应变化量,表示真实姿态响应变化量;
51、在模型推理阶段,将预测得到的残差变化量与当前时刻姿态响应进行叠加,恢复得到未来时刻的绝对姿态预测结果,其形式为:
52、
53、其中,表示未来第个时间步的绝对姿态预测结果。
54、进一步地,所述未来姿态响应预测结果为多步预测结果,其包括未来多个时间步下船舶的垂荡z、横摇rx和纵摇ry三个姿态响应分量;
55、所述tokenlite-former模型采用多输入多输出预测方式,根据历史时间窗口内的三自由度姿态响应序列,一次性输出未来预测时间窗口内的三自由度姿态响应变化量。
56、进一步地,所述结合基于相近海况的预训练-微调策略包括:
57、获取不同典型海况条件下的船舶姿态响应仿真数据;
58、根据目标真实海况数据的运动响应特征,从所述仿真数据中选取与目标真实海况相近的仿真海况数据作为预训练数据;
59、利用所述预训练数据对tokenlite-former模型进行预训练,获得模型初始参数;
60、利用真实海况数据对预训练后的tokenlite-former模型进行微调,更新模型参数。
61、进一步地,所述方法对船舶未来时间窗口内的垂荡z、横摇rx和纵摇ry姿态响应进行极短期预测;
62、所述姿态预测结果用于船舶稳定性分析、设备运行状态评估、作业窗口判断、补偿控制系统输入和海上航天发射作业安全辅助决策。
63、与现有技术相比,本发明的有益效果在于:通过tokenlite模块对历史时间步进行重要性评估,并采用分段加权汇聚方式将长时间序列压缩为紧凑token表示,在保留关键动态信息的同时降低transformer自注意力计算开销;通过轻量化transformer编码器提取船舶姿态响应中的全局时序依赖特征,提高模型对复杂风浪耦合激励下非线性、非平稳运动响应的建模能力;通过时间残差机制预测未来姿态响应相对于当前时刻的变化量,降低直接预测绝对姿态值的回归难度,缓解多步预测过程中的误差累积;通过基于相近海况的预训练—微调策略,提高模型在真实海况条件下的适应能力、泛化能力和预测稳定性。由此,本发明能够实现船舶垂荡z、横摇rx和纵摇ry姿态响应的高精度、轻量化、极短期预测,为运动补偿控制、安全预警、海上风电运维和工程辅助决策提供可靠技术支撑。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com