基于多尺度注意力机制的锂电池荷电状态预测方法与流程

基于多尺度注意力机制的锂电池荷电状态预测方法
【技术领域】
1.本发明涉及锂电池soc在线预测技术领域，具体地说，涉及一种基于多尺度注意力机制的锂电池荷电状态预测方法。


背景技术：

2.新能源技术的研究与发展已成为我国“碳中和”国家战略的重要举措，对实现能源安全、环境保护和产业升级具有重要意义。随着近年来新能源与电动汽车行业的蓬勃发展，锂离子电池在储能系统(energy storage system，ess) 中发挥的作用愈发重要。为了保障ess的安全可靠运行，对电池荷电状态 (state of charge，soc)的监测必不可少。soc被定义为电池中剩余的可用容量与总容量之比，但soc不能被直接采样观测，因此soc的准确估计始终是电池管理系统的一大难题。
3.常见的soc预测方法大致可以分为四类：基于表征参数的方法、安时积分法、基于模型的方法以及基于数据驱动的方法。基于表征参数的方法需要进行长时间的恒流放电来确定剩余容量，使得该方法只适用于实验室等特定环境。安时积分法经典易用，但存在电池初始soc精确值难以获得、对电流传感器精度要求很高、电池静态容量退化会影响计算精度等问题，存在较强的局限性。基于模型的方法对模型的准确度有较高的依赖性，存在计算成本较高、初值不当可能造成估计结果发散的问题。基于数据驱动的方法是指基于大量的历史离线数据，建立并训练锂电池电流、电压、温度等数据与电池soc的直接映射关系模型，对解决强非线性问题有特别的优势，估计精度高，但目前此类方法存在一些共同的问题，如训练速度慢且容易陷入局部最小点。
4.近年来，随着深度学习技术的不断发展，一些深度学习模型逐渐被应用到时序数据的研究中。深度学习模型是一种拥有多个非线性映射层级的深度学习神经网络模型，能够对输入信号逐层抽象并提取特征，挖掘出更深层的潜在规律。锂电池soc预测作为一个时间序列预测问题也可以利用深度学习技术加以解决。
5.人类的注意力机制(attention mechanism)是人类利用有限的注意力资源从大量信息中快速筛选出高价值信息的手段。深度学习中的注意力机制借鉴了人类的注意力思维方式，被广泛的应用在自然语言处理、图像分类及语音识别等各种不同类型的深度学习任务中，并取得了显著的成果。
6.锂离子电池是一个具有长时依赖性响应的动态系统，其当前soc与历史 soc、电压、电流、温度均存在联系，本发明将多尺度注意力机制引入锂电池soc 预测模型中，在增强长时依赖性捕捉能力的同时降低了模型复杂度，能实现高精度在线式锂电池soc预测。


技术实现要素：

7.本发明的目的在于解决上述技术问题而提供的一种新型的基于多尺度注意力机制的锂电池荷电状态预测方法，能够增强长时依赖性捕捉能力的同时降低了模型复杂度，能实现高精度在线式锂电池soc预测等优点。
8.本发明是通过以下技术方案来实现的：
9.一种基于多尺度注意力机制的锂电池荷电状态预测方法，所述多尺度注意力机制中各时间节点的关系构建一种多尺度层次结构神经网络模型，每个非叶子节点有c个子节点，每个节点只关注有限的若干个key，尺度间连接对原始时间序列建立了多尺度的表示，位于最小尺度的节点对应与时间序列中的原始点，而位于较大尺度的节点对应时间序列在较低分辨率上表现出来的特征。
10.优选地，所述多尺度层次结构称为c叉树，所述多尺度层次结构模型表达式：
11.其中表示s尺度上的第l个节点，s＝1，
…
，s依次表示最低到最高的尺度，每一个节点可以与c叉树中的三个尺度的节点连接，分别是同一个尺度上的相邻节点a，记为c个子节点c，记为c叉树中的父节点p，记为则得到节点的注意力可以简化为：
12.因此，模型可以同时捕获不同长短时间范围的依赖关系，并且空间和时间复杂度降至o(l)，可以有效降低计算时间和内存消耗，并使模型能够处理长时间序列，而通常来说越长的历史输入能提供更多的信息，能改善预测精度。
13.优选地，还包括一种新颖的网络结构，所述新颖的网络结构在网络输入端观测量和与电池特性相关协变量的参数同时被模型接收，不需要使用不同的网络处理，便于模型的训练和优化。
14.优选地，所述多尺度层次结构在网络中由大尺度连接模块实现，所述大尺度连接模块对嵌入编码的时间序列在不同尺度上进行汇聚形成多层次的树状结构，尺度层面自底向上对相应的子节点进行卷积操作，将嵌入编码序列依次在时间维度上输入多个卷积核大小和步长都为c的卷积层，得到在时间尺度s 上长度为l/cs的序列，不同尺度的新序列组成了c叉树，在序列输入堆叠的卷积层之前和完成卷积之后，使用了全连接层来减少参数数量和计算量，有效避免模型过拟合。
15.一种基于多尺度注意力机制的锂电池荷电状态预测方法，该方法包括如下步骤：
16.s1：构建多尺度层次结构神经网络模型，并设置训练超参数，超参数包括最大迭代次数、学习率等；
17.s2：将步骤s1中的多尺度层次结构模型初始化网络参数；
18.s3：将模型数输入数据进行预处理后输入到步骤s2中完成初始化的网络模型中，神经网络进行前向传播，进行网络前向计算；
19.s4：将步骤s3中的网络前向计算得到的模型损失，通过神经网络反向传播后更新
参数；
20.s5：判断步骤s4中更新后的网络模型精度是否达到要求或训练是否已达到最大迭代次数；若否，则返回到步骤s3，继续训练；若是，则完成训练得到所需模型；
21.s6：使用s5中得到的网络模型进行锂电池荷电状态预测。
22.优选地，所述步骤s3中的神经网络进行前向传播后，网络输出值与真实值之间的误差函数为l2损失函数，即式中t表示为预测电池 soc选取的序列长度；y
t
和分别表示t时刻电池soc的真实值和预测值。
23.优选地，所述步骤s4中的每次迭代次数中，网络都会进行反向传播，使用 adam优化器更新网络权重和偏置。
24.优选地，所述步骤s3中的模型输入数据是在充电和放电过程中对电压、电流、温度的观测值进行采集，形成时间序列，而协变量选择与电池soc直接相关的特征量，同时在每次采样时均通过技术检测手段获取当前电池的真实soc 以此作为标签，以观测值和协变量作为特征构建训练样本集。
25.本发明的有益效果在于：
26.(1)本发明多尺度注意力机制引入锂电池soc预测模型中，在增强长时依赖性捕捉能力的同时降低了模型复杂度，能实现高精度在线式锂电池soc预测；
27.(2)本发明多尺度注意力机制引入锂电池soc预测模型可以同时捕获不同长短时间范围的依赖关系，并且空间和时间复杂度降至o(l)，可以有效降低计算时间和内存消耗，并使模型能够处理长时间序列，而通常来说越长的历史输入能提供更多的信息，能改善预测精度。
【附图说明】
28.图1为本发明多尺度注意力机制中各时间节点的关系示意图；
29.图2为本发明新颖的网络结构示意图；
30.图3为本发明基于多尺度注意力机制的锂电池荷电状态预测方法流程示意图。
31.图4为本发明这种注意力机制下各时间节点间的关系；
32.图5为本发明从中选取5组数据，变化曲线；
33.图6为本发明模型预测值与实测值。
【具体实施方式】
34.下面结合附图及具体实施方式对本发明做进一步描述：
35.可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分。此外，在不冲突的情况下，本技术中的实施例及实施例中的特征可以相互组合。
36.实施例1，如图1-2所示，一种基于多尺度注意力机制的锂电池荷电状态预测方法，所述多尺度注意力机制中各时间节点的关系构建一种多尺度层次结构神经网络模型，每个非叶子节点有c个子节点，每个节点只关注有限的若干个 key，尺度间连接对原始时间序列建立了多尺度的表示，位于最小尺度的节点对应与时间序列中的原始点，原始点为每分钟
的电压电流值，而位于较大尺度的节点对应时间序列在较低分辨率上表现出来的特征，表现出来的特征为温度在每小时、每天、每周呈现出的趋势。
37.作为上述技术方案的进一步描述：所述多尺度层次结构称为c叉树，所述多尺度层次结构模型表达式：
38.其中表示s尺度上的第l个节点， s＝1，
…
，s依次表示最低到最高的尺度，每一个节点可以与c叉树中的三个尺度的节点连接，分别是同一个尺度上的相邻节点a，记为c个子节点c，记为c叉树中的父节点p，记为则得到节点的注意力可以简化为：因此，模型可以同时捕获不同长短时间范围的依赖关系，并且空间和时间复杂度降至o(l)，可以有效降低计算时间和内存消耗，并使模型能够处理长时间序列，而通常来说越长的历史输入能提供更多的信息，能改善预测精度。
39.作为上述技术方案的进一步描述：还包括一种新颖的网络结构，所述新颖的网络结构在网络输入端的电流、电压、温度等观测量和与电池特性相关协变量的电池类型、电池型号、生产厂家等参数同时被模型接收，不需要使用不同的网络处理，便于模型的训练和优化。
40.作为上述技术方案的进一步描述：所述多尺度层次结构在网络中由大尺度连接模块实现，所述大尺度连接模块对嵌入编码的时间序列在不同尺度上进行汇聚形成多层次的树状结构，尺度层面自底向上对相应的子节点进行卷积操作，将嵌入编码序列依次在时间维度上输入多个卷积核大小和步长都为c的卷积层，得到在时间尺度s上长度为l/cs的序列，不同尺度的新序列组成了c叉树，在序列输入堆叠的卷积层之前和完成卷积之后，使用了全连接层来减少参数数量和计算量，有效避免模型过拟合。
41.如图3所示，一种基于多尺度注意力机制的锂电池荷电状态预测方法，该方法包括如下步骤：
42.s1：构建多尺度层次结构神经网络模型，并设置训练超参数，超参数包括最大迭代次数、学习率等；
43.s2：将步骤s1中的多尺度层次结构模型初始化网络参数；
44.s3：将模型设置训练超参数输入数据进行预处理后输入到步骤s2中完成初始化的网络模型中，神经网络进行前向传播，进行网络前向计算；
45.s4：将步骤s3中的网络前向计算得到的模型损失，通过神经网络反向传播后更新参数；
46.s5：判断步骤s4中更新后的网络模型精度是否达到要求或训练是否已达到最大迭代次数；若否，则返回到步骤s3，继续训练；若是，则完成训练得到所需模型；
47.s6：使用s5中得到的网络模型进行锂电池荷电状态预测。
48.作为上述技术方案的进一步描述：所述步骤s3中的神经网络进行前向传播后，网络输出值与真实值之间的误差函数为l2损失函数，即式中t表示为预测电池soc选取的序列长度；y
t
和分别表示t时刻电池 soc的真实值和预测值。
49.作为上述技术方案的进一步描述：所述步骤s4中的每次迭代次数中，网络都会进行反向传播，使用adam优化器更新网络权重和偏置。
50.作为上述技术方案的进一步描述：所述步骤s3中的模型输入数据是在充电和放电过程中对电压、电流、温度的观测值进行采集，形成时间序列，而协变量选择与电池soc直接相关的特征量，同时在每次采样时均通过技术检测手段获取当前电池的真实soc以此作为标签，以观测值和协变量作为特征构建训练样本集。
51.实施例2，锂电池soc预测问题可以用形式化的语言描述为：已知l步长度的观测值(电压、电流、温度)z
t-l 1：t
和相关的协变量(如电池的型号、类型)x
t-l 1：t
以及对应的soc值y
t-l 1：t
，预测未来m步的soc值y
t 1：t m
。
52.现有的lstm、transformer等神经网络需要处理序列的编解码，计算空间复杂度大，而且原始的自注意力机制计算方法对局部信息不敏感，使得模型易受异常点影响。原始的注意力机制的形式化表达如下：
53.其中q为query向量，k为key向量，v为value 向量，dk是query向量的维度。
54.这种注意力机制下各时间节点间的关系如图4所示：可见，每一个时间节点都需要互相连接，因此空间和时间复杂度为o(l2)，l为时间序列长度。
55.实施例3，本实施例采用10组lg chem 18650锂离子电池进行测试，该型号锂离子电池的额定容量为2.1ah，正常工作电压处于3.2～4.2v之间。为获取电池放电数据用以训练和验证模型，电池以4.2v/2.9a充电模式进行充电，如果电池电压保持在4.2v，充电电流降至50ma，则表示电池已充满。充电结束后，将电池在室温下静置1h，接0.5ω电阻对电池恒阻放电，记录放出电量；如果电池电压下降至2.5v则表示电池电量全部放完；将电池再次静置1h，重新进行充放电实验，并记录数据，包括电压、电流、温度、soc及采样时刻；在室温环境下，对电池重复充放电多次，得到950条充放电曲线。从中选取5 组数据，变化曲线见图5：
56.本实施例通过引入高斯白噪声实现对原始样本数据进行数据增强(dataaugmentation)。具体而言，根据原始样本数据测试过程中的误差范围，引入平均值为0且幅值为原数据幅值1％-2％的高斯白噪声，并根据电压、电流、温度传感器不可消除的固有误差，额外对电压、电流、温度分别设置
±
0.1v、
±
0.005a、
±
2.5℃偏置量，最终将原始样本数据扩充了65倍。
57.数据预处理。通过适当的数据预处理，可以使网络的训练数据更加有效和稳健。对于电流、电压、温度的观测值，进行归一化处理，公式如下：对于电池类型、电池型号等协变量使用one-hot编码处理为神经网络可以直接处理的数据。
58.历史数据时间窗口设置为672，预测时间窗口设置为96，即用长度为672 的历史数
据预测未来96个时间点的soc值。按此设置对数据进行窗口化处理，形成训练集和测试集。而lstm，transformer等网络都无法有效提取如此长的时间窗口中的依赖关系。
59.实验模型的超参数设置见下表：
[0060][0061]
在网络输入端，电池类型、电池型号、生产厂家等参数作为协变量被模型接收，使模型能够综合考虑电池特性、电池初始状态、电池充放电过程历史数据对电池soc的影响，因此得到更佳的准确性和鲁棒性。
[0062]
误差函数为l2损失函数，即式中t表示为预测电池soc 选取的序列长度；y
t
和分别表示t时刻电池soc的真实值和预测值。在每次迭代中，网络都会进行反向传播，使用adam优化器更新网络权重和偏置。初始学习率设为10-4，学习率衰减率设为每个epoch 0.1，训练的epoch数设为5。
[0063]
训练好的模型对测试集中编号为8的电池实测数据进行验证，模型预测值与实测值如图6所示，得到预测结果的均方根误差、平均绝对误差和最大绝对误差分别为0.986％、0.455％和1.96％，预测值与真实值偏离程度很小，因此可以确定基于多尺度注意力机制的锂电池soc预测模型具有较高的预测精度。
[0064]
根据上述说明书的揭示和教导，本发明所属领域的技术人员还可以对上述实施方式进行适当的变更和修改。因此，本发明并不局限于上面揭示和描述的具体实施方式，对本发明的一些修改和变更也应当落入本发明的权利要求的保护范围内。此外，尽管本说明书中使用了一些特定的术语，但这些术语只是为了方便说明，并不对本发明构成任何限制。