一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

基于联邦学习的在线式电池循环寿命预测系统及方法与流程

2022-02-20 23:09:55 来源:中国专利 TAG:


1.本发明涉及一种电池技术及电池寿命检测领域,尤其涉及一种基于联邦学习的在线式电池循环寿命预测系统及方法。


背景技术:

2.锂离子电池因其具有能量密度高,无记忆效应,自放电小且循环寿命长等优点,被广泛应用于各种数码电子器件、电动汽车和储能电站等领域。其性能主要分为电性能和安全可靠性两大类,而长期的循环寿命是衡量其电性能的重要指标之一,属于必不可少的检测项目。除了电池本身等影响因素外,不同的检测方法也会对电池的循环寿命造成影响。
3.锂电池的循环寿命是指在一定的充放电机制下,锂电池的最大放电容量衰退到某一设置的阈值(通常为标称容量的80%)时经历的充放电循环数量。循环寿命预测是一个基于电池历史数据运用一定的数学方法对其循环寿命进行预测的过程。随着锂电池的应用日益广泛,电池循环寿命预测技术也得到了广泛的关注。目前,电池循环寿命预测主要是基于数据驱动的方法,其核心在于对大量的电池容量衰减轨迹和历史数据进行挖掘,提炼出其中蕴含的规律并泛化应用到待检测的电池上。运用数据驱动的手段进行电池的循环寿命预测,首要任务就是获取尽可能多的电池老化试验的容量数据。然而这一任务却面临着一些困难。一方面是数据孤岛现象严重。由于电池测试耗时长久,加上保密的考虑,电池测试领域很少有公开的数据集,电池测试数据被难以打破的壁垒封锁在各研究机构和企业内部。由于每个数据孤岛的数据大小或数据特征都具有一定的局限性,所以单个数据拥有者无法训练出对特定任务具有良好预测准确性的高质量模型。另一方面,数据安全和数据隐私问题近年来受到了前所未有的重视。2017年, 我国实施《中华人民共和国网络安全法》,要求在进行数据交易时需明确数据交易范围和数据保护义务,数据的收集者不能随意地对用户的个人信息进行修改和泄露。欧盟实施的《通用数据保护条例》也对收集用户数据的方式做出了要求,必须保证公开、透明,且用户有权利要求删除其个人有关数据,停止使用其数据进行分析建模。这些法案都对数据共享规则和数据的保护提出了明确的要求。也正是由于这些政策法规的限制,数据的获取难上加难。
4.要解决数据获取的困境,仅靠传统的方法已经出现瓶颈,而联邦学习(federated learning)是一种基于分布式机器学习的框架。在这种框架中,客户端(例如移动设备)在中央服务器的协调下协作地训练模型,同时训练数据可保留在客户端本地,无需像传统机器学习方法将数据上传至数据中心,减轻了传统的集中式机器学习带来的许多系统隐私风险和成本。


技术实现要素:

5.本发明的目的在于解决上述技术问题的不足而提供的一种新型的基于联邦学习的在线式电池循环寿命预测系统及方法。
6.本发明是通过以下技术方案来实现的:一种基于联邦学习的在线式电池循环寿命
预测系统,包括云端聚合中央服务器、电池检测边缘服务器、电池测试设备,所述云端聚合中央服务器通过不同连接方式与所述电池检测边缘服务器通讯,所述电池检测边缘服务器与所述云端聚合中央服务器之间模型参数传输,所述电池检测边缘服务器通过不同连接方式与若干个电池测试设备通讯,所述云端聚合中央服务器用于参与联邦学习建模电池检测边缘服务器选择、初始模型及参数生成、全局超参数调优、模型聚合、模型下发、定期模型备份,所述电池检测设备得到的电池循环测试数据由局域网上传后保存在电池检测边缘服务器内部,所述电池检测边缘服务器基于本地私有测试数据训练电池循环寿命预测模型。
7.作为本发明进一步的方案,所述云端聚合中央服务器包括云端选择模块、云端初始化模块、云端聚合模块、云端模型更新模块;所述云端选择模块:云端聚合中央服务器维护全局统一的各参与联邦学习建模的电池检测边缘服务器元数据哈希表,元数据哈希表中包含着每个电池检测边缘服务器相关的元信息,每个电池检测边缘服务器首先都需要在中心注册服务器上进行自身信息的注册,这样各电池检测缘服务器才能进行互相感知;第一步,各参与方电池检测边缘服务器将自身的元信息整理为报文并发送注册请求,接着云端聚合中央服务器在哈希表上插入一条对应的条目,并返回注册成功信息,接着云端聚合中央服务器选取一部分满足要求的电池检测边缘服务器参与进联邦学习;为避免影响用户的设备使用,电池检测边缘服务器只有在工作负载低于某一阈值时才能接入云端中央服务器参与联邦学习的训练;云端选择模块选择c个电池检测边缘服务器作为联邦学习参与者,每个电池检测边缘服务器都有一个本地的私有数据集(c=1,2,3,

,c),是电池循环测试数据样本特征,是对应的标签,nc表示参与联邦学习的第c个电池测试机构的数据集的大小;所述云端初始化模块:云端聚合中央服务器利用rsa算法生成公钥私钥,并将自身的公钥下发给各电池检测边缘服务器,用来加密要传输的数据,云端聚合中央服务器将当前模型和初始化后的模型参数至被选定的客户端;所述云端聚合模块:云端聚合中央服务器接收电池检测边缘服务器加密传入的模型参数或模型更新进行聚合;基于同态加密的特性,云端聚合中央服务器可以在不解密的前提下聚合来自电池检测边缘服务器本地模型的参数,一旦有足够数量的电池检测边缘服务器传输其本地更新的结果,则当前轮的更新则停止;所述云端模型更新模块:云端聚合中央服务器从参与当前轮数的客户端的本地模型参数或模型更新计算出聚合更新,来更新全局共享模型;训练全局模型的过程只依赖于本地模型的更新,而不是站点上的原始数据,随后将更新后的参数传给各客户端,通常认为数据集样本量越大,所训练出的模型更加准确,因此在模型聚合时让数据集样本量大的模型拥有更大的权重值,具体方法是在更新权重时根据各区域模型所拥有的样本数据集样本量进行加权平均,即,在每一轮模型权重更新之后,模块都会对新的全局模型性能进行评估,计算其对测试集误差和r2决定系数, 然后再保存和下发,方便及时对模型做出调整,提高系统的整体性能;云端聚合中央服务器对三个关键的全局超参数进行设置,分别是c代表参与联邦建模的客户端数量,b是边缘服务器训练的mini-batch大小,e是边缘服务器训练的epoch大小。
8.作为本发明进一步的方案,所述电池检测边缘服务器包括边缘端计算模块、边缘端模型更新模块;所述边缘端计算模块被选定的边缘服务器都通过执行在本地私有数据集
上训练程序来计算模型参数或模型更新;所述边缘端模型更新模块从参与当前轮数的客户端的本地模型参数或模型更新计算出模型更新,来更新全局共享模型。
9.作为本发明进一步的方案,所述电池循环寿命预测模型从线性回归模型、基于树的回归模型(随机森林、xgboost)、神经网络模型任意模型中选择,包括如下步骤:(1)数据预处理:首先数据清洗,对原始数据中的空值、缺失值、异常值进行处理,得到可供建模的干净数据;其次数据转换,如对存在偏态数据进行对数转换纠正偏态;再次数据标准化,由于不同的特征具有不同的量级,为了避免特征量级相差悬殊对模型造成影响,需要对原始数据进行标准化变换,使其变为均值为0,标准差为1;(2)特征工程:电池循环测试的原始数据不足以反映其循环寿命的变化,通过对其进行特征工程,生成更有预测性的特征,预测性的特征包括:a)首个循环的放电容量为qi(在此以qi表示第i个循环的放电容量);b)最大放电容量与首个循环放电容量之差为max(qi)
‑ꢀ
q1;c)第50个循环的放电容量为 q
50
;d)电池放电平台期时长;电池放电平台期是指电池在放电初期电压骤降之后,电池电压进入缓慢变化的一段时期,可由dq/dv曲线的峰值确定,第i个放电周期放电平台期时长可表示为:,其中为第i个放电周期放电平台期时长,为对应平台期结束时刻,为对应平台期起始时刻,即电压骤降结束点;e)平台期电压变化率;第i个放电周期平台期电压变化率可表示为:,其中表示第i个放电周期平台期电压变化率,是第i个平台期的电压压降值;f)第50个循环和首个循环的直流内阻差值,即dcir
50-dcir1;g)最后10个循环的放电容量斜率,此处将放电容量视为循环序号的函数,即;则放电容量斜率可表示为: ;h)前50个循环中直流内阻的最小值,即min(dciri),i∈[1,50];i)第50个循环中充电平台电压与放电平台电压的差值,即δv=vch-p
‑ꢀ
vdc-p;(3)模型训练:模型的学习目标可以表示为:,而c个参与联邦学习的电池测试机构都有其本地私有数据集|di|=nc,n定义为参与整个联邦学习构建的所有数据集大小,即,则可将目标方程表示为:,每个参与
联邦学习的客户端边缘服务器从云端聚合中央服务器下载当前的全局模型参数,以固定的学习率在当前循环寿命预测模型参数w
t
下计算各自在私有数据集上的平均损失梯度fc,,各参与的电池检测边缘服务器更新其本地的预测模型后,将模型更新的参数发送到云端聚合中央服务器,云端聚合中央服务器汇总这些模型的参数更新来改进全局共享循环寿命预测模型:改进全局共享循环寿命预测模型:改进全局共享循环寿命预测模型: ,而对于每一个客户端边缘服务器,, 则在云端聚合中央服务器有:。
[0010]
作为本发明进一步的方案,所述连接方式为有线或无线,所述有线连接方式包括但不限于网口连接、串口连接,所述无线连接方式包括但不限于wifi连接、蓝牙连接、5g/6g连接、wimax连接、zigbee连接、uwb(ultra wideband)连接。
[0011]
一种基于联邦学习的在线式电池循环寿命预测方法,包括如下步骤:s1:在电池检测边缘服务器上对电池循环测试数据进行特征工程,生成样本数据;s2:电池检测边缘服务器接受云端聚合中央服务器传输的初始模型参数、训练本地模型;s3:电池检测边缘服务器每一轮训练完成后更新本地模型,并将最新的模型参数上传至云端聚合中央服务器;s4:云端聚合中央服务器进行模型聚合,对更新后的全局模型进行评估;s5:将步骤s4中的全局模型评估后,若模型精度达到要求,则停止模型训练,否则继续新一轮模型训练。
[0012]
本发明的有益效果在于:(1)解决了电池测试的数据孤岛,使得各个机构之间通过共享底层模型参数协同训练电池循环寿命预测模型;(2)不再需要将各个客户端的训练数据集上传至数据中心,在各个客户端的数据隐私和敏感性的同时,在一定程度上减少了训练时间的开销,节省了训练模型的成本,提升了整个模型准确率和效率;(3)解决电池测试数据获取困难的问题,同时最大限度的保护用户数据隐私,提高电池循环寿命的预测性能。
附图说明
[0013]
图1为本发明基于联邦学习的在线式电池循环寿命预测系统示意图;图2为本发明基于联邦学习的在线式电池循环寿命预测系统流程示意图;
图3为本发明基于联邦学习的在线式电池循环寿命预测系统框架结构示意图;图4为本发明基于联邦学习的在线式电池循环寿命预测系统模型预测结果示意图;图5为本发明基于联邦学习的在线式电池循环寿命预测建模方式进行对比图。
具体实施方式
[0014]
下面结合附图及具体实施方式对本发明做进一步描述,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0015]
请参阅图1~4,本发明实施例1中,一种基于联邦学习的在线式电池循环寿命预测系统,包括云端聚合中央服务器、电池检测边缘服务器、电池测试设备,所述云端聚合中央服务器通过不同连接方式与所述电池检测边缘服务器通讯,所述电池检测边缘服务器与所述云端聚合中央服务器之间模型参数传输,所述电池检测边缘服务器通过不同连接方式与若干个电池测试设备通讯,所述云端聚合中央服务器用于参与联邦学习建模电池检测边缘服务器选择、初始模型及参数生成、全局超参数调优、模型聚合、模型下发、定期模型备份,所述电池检测设备得到的电池循环测试数据由局域网上传后保存在电池检测边缘服务器内部,所述电池检测边缘服务器基于本地私有测试数据训练电池循环寿命预测模型。
[0016]
其中,作为本发明进一步的方案,所述云端聚合中央服务器包括云端选择模块、云端初始化模块、云端聚合模块、云端模型更新模块;所述云端选择模块:云端聚合中央服务器维护全局统一的各参与联邦学习建模的电池检测边缘服务器元数据哈希表,元数据哈希表中包含着每个电池检测边缘服务器相关的元信息,每个电池检测边缘服务器首先都需要在中心注册服务器上进行自身信息的注册,这样各电池检测缘服务器才能进行互相感知;第一步,各参与方电池检测边缘服务器将自身的元信息整理为报文并发送注册请求,接着云端聚合中央服务器在哈希表上插入一条对应的条目,并返回注册成功信息,接着云端聚合中央服务器选取一部分满足要求的电池检测边缘服务器参与进联邦学习;为避免影响用户的设备使用,电池检测边缘服务器只有在工作负载低于某一阈值时才能接入云端中央服务器参与联邦学习的训练;云端选择模块选择c个电池检测边缘服务器作为联邦学习参与者,每个电池检测边缘服务器都有一个本地的私有数据集 (c=1,2,3,

,c),是电池循环测试数据样本特征,是对应的标签,nc表示参与联邦学习的第c个电池测试机构的数据集的大小;所述云端初始化模块:云端聚合中央服务器利用rsa算法生成公钥私钥,并将自身的公钥下发给各电池检测边缘服务器,用来加密要传输的数据,云端聚合中央服务器将当前模型和初始化后的模型参数至被选定的客户端;所述云端聚合模块:云端聚合中央服务器接收电池检测边缘服务器加密传入的模型参数或模型更新进行聚合;基于同态加密的特性,云端聚合中央服务器可以在不解密的前提下聚合来自电池检测边缘服务器本地模型的参数,一旦有足够数量的电池检测边缘服务器传输其本地更新的结果,则当前轮的更新则停止;所述云端模型更新模块:云端聚合中央服务器从参与当前轮数的客户端的本地模型参数或模型更新计算出聚
合更新,来更新全局共享模型;训练全局模型的过程只依赖于本地模型的更新,而不是站点上的原始数据,随后将更新后的参数传给各客户端,通常认为数据集样本量越大,所训练出的模型更加准确,因此在模型聚合时让数据集样本量大的模型拥有更大的权重值,具体方法是在更新权重时根据各区域模型所拥有的样本数据集样本量进行加权平均,即,在每一轮模型权重更新之后,模块都会对新的全局模型性能进行评估,计算其对测试集误差和r2决定系数, 然后再保存和下发,方便及时对模型做出调整,提高系统的整体性能;云端聚合中央服务器对三个关键的全局超参数进行设置,分别是c代表参与联邦建模的客户端数量,b是边缘服务器训练的mini-batch大小,e是边缘服务器训练的epoch大小。
[0017]
其中,作为本发明进一步的方案,所述电池检测边缘服务器包括边缘端计算模块、边缘端模型更新模块;所述边缘端计算模块被选定的边缘服务器都通过执行在本地私有数据集上训练程序来计算模型参数或模型更新,具体过程可用下面的伪代码表示:function localtrain(i, wt):#i为客户端的序号,wt为第t轮的全局模型d
ꢀ←ꢀ
将本地数据集随机分为若干b尺寸的数据集for 每个本地epoch从1到e do
ꢀꢀꢀꢀ
for 在d中的每个batch b do
ꢀꢀꢀꢀ
mt
ꢀ←ꢀ
mt
ꢀ‑ꢀ
#利用batch数据做梯度下降
ꢀꢀ
测试mt并将mt保存为新一轮的模型 return 。
[0018]
其中,作为本发明进一步的方案,所述电池循环寿命预测模型从线性回归模型、基于树的回归模型(随机森林、xgboost)、神经网络模型任意模型中选择,包括如下步骤:(1)数据预处理:首先数据清洗,对原始数据中的空值、缺失值、异常值进行处理,得到可供建模的干净数据;其次数据转换,如对存在偏态数据进行对数转换纠正偏态;再次数据标准化,由于不同的特征具有不同的量级,为了避免特征量级相差悬殊对模型造成影响,需要对原始数据进行标准化变换,使其变为均值为0,标准差为1;(2)特征工程:电池循环测试的原始数据不足以反映其循环寿命的变化,通过对其进行特征工程,生成更有预测性的特征,预测性的特征包括:a)首个循环的放电容量为qi(在此以qi表示第i个循环的放电容量);b)最大放电容量与首个循环放电容量之差为max(qi)
‑ꢀ
q1;c)第50个循环的放电容量为 q
50
;d)电池放电平台期时长;电池放电平台期是指电池在放电初期电压骤降之后,电池电压进入缓慢变化的一段时期,可由dq/dv曲线的峰值确定,第i个放电周期放电平台期时长可表示为:,其中
为第i个放电周期放电平台期时长,为对应平台期结束时刻,为对应平台期起始时刻,即电压骤降结束点;e)平台期电压变化率;第i个放电周期平台期电压变化率可表示为:,其中表示第i个放电周期平台期电压变化率,是第i个平台期的电压压降值;f)第50个循环和首个循环的直流内阻差值,即dcir
50-dcir1;g)最后10个循环的放电容量斜率,此处将放电容量视为循环序号的函数,即;则放电容量斜率可表示为;h)前50个循环中直流内阻的最小值,即min(dciri),i∈[1,50];i)第50个循环中充电平台电压与放电平台电压的差值,即δv=vch-p
‑ꢀ
vdc-p;(3)模型训练:模型的学习目标可以表示为:, 而c个参与联邦学习的电池测试机构都有其本地私有数据集|di|=nc,n定义为参与整个联邦学习构建的所有数据集大小,即,则可将目标方程表示为:,每个参与联邦学习的客户端边缘服务器从云端聚合中央服务器下载当前的全局模型参数,以固定的学习率在当前循环寿命预测模型参数w
t
下计算各自在私有数据集上的平均损失梯度fc,,各参与的电池检测边缘服务器更新其本地的预测模型后,将模型更新的参数发送到云端聚合中央服务器,云端聚合中央服务器汇总这些模型的参数更新来改进全局共享循环寿命预测模型:改进全局共享循环寿命预测模型:改进全局共享循环寿命预测模型: ,而对于每一个客户端边缘服务器,, 则在云端聚合中央服务器有:;模型训练过程的详细信息如下:联合电池循环寿命预测框架算法,f是每一轮参与的客户端比例,b是本地batch_size大小,e是本地epoch大小,t是当前轮数索引,为学习率。
[0019]
输入:各测试实验室的私有数据集输出:基于联邦学习的电池循环寿命预测系统cloudupdate初始化预测模型和模型参数w0对于每一轮t=1,2,

t执行:随机从所有参与联邦学习的客户端中选择max(f*c,1)个边缘服务器,记作集合nt对于每一个客户端c∈nt(∣nt∣= k)并行执行:k)并行执行:edgeupdate(c,w):\\在第c个边缘服务器上执行b
ꢀ←ꢀ
将数据集dn分为b大小的数据块batch对于每一个本地epoch i 从1到e执行:对于每一个数据块b∈b执行:返回模型参数w到云端中央服务器;综上所述经过多个参与方以及云端中心服务器之间的加密数据交互式训练,本基于联邦学习的在线式电池循环寿命预测系统在不泄漏任何用户数据隐私的情况下,完成了模型训练过程;进行预测时,若各参与方均信任中心服务器,则可通过中心服务器进行样本预测,否则,各参与方在训练完成后,各自保存部分模型,预测过程通过各方共同参与协作完成。过程为:客户端将待预测样本数据发送至云端中心服务器,云端中心服务器复制请求并分别传输至各参与方,接着各参与方计算本地结果回传至中心服务器,中心服务器解密后得到该样本对应的电池循环寿命预测值。具体来说,假设有2个参与方a、b,则待预测样本数据可以表示为x = {xa,xb}, xa表示属于参与方a的维度,xb表示属于参与方b的维度,则参与方a的边缘推理过程即为将样本数据中属于参与方a的维度部分输入到a的本地模型中,并将模型的输出结果采用公钥加密,可用下式表示:,其中enc表示加密过程,modela是a的本地模型,wa是a模型的本地参数。同理,参与方b的边缘推理过程可用下式表示:最终各参与方将边缘推理结果也就是和传输到云端中央服务器,汇总过程如下式:然后通过dec[enc[y]],即对输出结果进行解密得到该样本对应的电池循环寿命预测值。
[0020]
其中,作为本发明进一步的方案,所述连接方式为有线或无线,所述有线连接方式包括但不限于网口连接、串口连接,无线连接方式包括但不限于wifi连接、蓝牙连接、5g/6g连接、wimax连接、zigbee连接、uwb(ultra wideband)连接。
[0021]
请参阅图1~4,本发明实施例2中,一种基于联邦学习的在线式电池循环寿命预测方法,包括如下步骤:s1:在电池检测边缘服务器上对电池循环测试数据进行特征工程,生成样本数据;s2:电池检测边缘服务器接受云端聚合中央服务器传输的初始模型参数、训练本地模型;s3:电池检测边缘服务器每一轮训练完成后更新本地模型,并将最新的模型参数上传至云端聚合中央服务器;s4:云端聚合中央服务器进行模型聚合,对更新后的全局模型进行评估;s5:将步骤s4中的全局模型评估后,若模型精度达到要求,则停止模型训练,否则继续新一轮模型训练。
[0022]
请参阅图5,基于联邦学习的在线式电池循环寿命预测建模方式:(a)联邦学习建模方式:将联邦学习框架独立设置在若干台服务器,模拟 若干台服务器不同电池检测设备,若干台服务器之间通过千兆以太网连接,同时将数据集划分为互斥的三部分,分别放置在三台服务器中,用于模拟电池检测设备内部自有数据集;(b)集中式学习建模方式:完整的数据集设置在单台服务器上进行模型评测。
[0023]
对比实验采用麻省理工学院公开的电池实验数据集,包括124个18650磷酸铁锂/石墨电池,充放电循环实验,采用统一的4c倍率进行放电,72种不同倍率(3.6c-6c)下的快速充电模式,恒温箱温度设定为30℃,记录电压、电流、内阻和温度参数。其中,附图4黑色色块即为模型预测的对应电池循环寿命终点(80%初始容量),当容量降低到初始容量的80%时实验终止,循环寿命范围为150-2300。训练集从电池前 600 次、700次、800 次循环依次划分,从这以后到 1030 次循环作为测试集。采用均方根误差rmse和平均绝对误差mape评价模型有效性,测试结果如下表。
[0024]
由上表可见,联邦学习建模方式得到的模型在训练集和测试机上都表现出比集中式学习建模方式更好的性能,更为重要的是,联邦学习建模过程中,各参与方私有数据留在本地,用户敏感数据没有泄露的风险。
[0025]
根据上述说明书的揭示和教导,本发明所属领域的技术人员还可以对上述实施方式进行适当的变更和修改。因此,本发明并不局限于上面揭示和描述的具体实施方式,对本发明的一些修改和变更也应当落入本发明的权利要求的保护范围内。此外,尽管本说明书中使用了一些特定的术语,但这些术语只是为了方便说明,并不对本发明构成任何限制。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献