基于注意力的锂离子电池日历老化预测模型和方法

技术领域

本发明涉及一种电池技术，尤其涉及一种基于注意力的锂离子电池日历老化预测模型和方法。

背景技术

锂离子电池由于其在能量密度和低自放电率方面的优势，已被广泛应用于电动汽车（EV）和智能电网等许多工业电子应用中。然而，有效的健康管理是锂离子电池更广泛应用的一个关键和具有挑战性的问题。在电动汽车等实际应用中，电池会随着日历（calendaraging）和循环模式（cycling）而退化。由于超过70%的汽车电池寿命是在储存条件下度过的，因此迫切需要在日历退化模式下进行有效的电池健康监测和管理解决方案。

在电池日历模式下，电池容量衰减率会受到一些因素的显著影响，包括存储温度和电池充电状态（State of charge，SoC）。由于电池日历退化是一个高度非线性和强耦合的过程，开发适当的模型来诊断/描述不同存储情况下的电池容量退化行为，同时考虑存储温度和SoC的影响，对于电池健康监测和管理至关重要。目前，电池日历老化预测模型可以分为两类，即知识驱动模型和数据驱动模型。

对于知识驱动的模型，一些能够反映电池退化机制的知识将被耦合到模型中，以解释电池老化的动态。另一方面，基于一些知识信息，如艾林加速方程或阿伦休斯定律，使得半经验模型成为另一种常用的知识驱动模型来捕捉电池日历老化的动态。

随着机器学习和云计算技术的快速发展，数据驱动模型已经成为另一种常用的工具，并实现了电池健康估计和预测。这种类型的模型可以进一步分为传统的统计模型和基于深度学习的模型。前者的容量相对较小，如支持向量回归（SVR）、高斯过程回归（GPR）等。后者采用了深度结构的大容量神经网络，如卷积神经网络、递归神经网络、深度信念网络，以及一些结合递归神经网络和迁移学习的混合模型。

目前，通过数据驱动模型进行电池日历老化预测的一个挑战是：如果没有电池电化学经验知识的指导，纯数据驱动模型主要从训练数据中学习电池老化信息，其泛化性较差。由于电池电化学知识可以支持日历老化建模，因此将电池电化学经验知识合并到数据驱动的模型中，应该在提高预测性能方面具有显著的潜力，特别是在缺乏历史数据的全新运行条件下。然而，现有的数据驱动模型在合并来自不同模态的先验知识和统计规律方面的能力有限，即处理多模态输入的能力有限。最近提出的注意力机制已经部分解决了多模态处理问题。注意力机制是模仿人类的认知过程，即选择性地集中于一件或几件事，而忽略其他事情，如自我注意、全局/软注意、局部/硬注意等。预测领域对注意力机制也进行了多次尝试，如提出了混合注意-长短期记忆（LSTM）模型进行光伏功率预测、结合注意力机制和双向LSTM进行电力负荷预测等。

即使已经出现了这些基于注意力的预测模型，我们认为仍然可以实现有效改进和性能提升，因为这些模型均基于纯数据驱动模型，而较少考虑将领域知识或专业知识融入模型中。

发明内容

针对上述问题，在本申请中设计了基于注意力的锂离子电池日历老化预测模型（KDACAF），其包含两个注意力模块，即知识驱动注意力和数据驱动注意力。知识驱动注意力模块以半经验模型为前端，充分利用电池老化电化学经验知识。由于电化学知识可以引导电池日历老化预测建模，在KDACAF中引入先验知识为模型预测带来了显著的性能改进。且由于所提出的知识-数据驱动注意模型由数据驱动和半经验模块组成，本申请主要将其与其他经典数据驱动模型和半经验模型进行性能对比和评价。

为实现上述目的，本发明提供了基于注意力的锂离子电池日历老化预测模型，包括半经验模块、知识驱动注意力模块、数据驱动注意力模块和长短时记忆模块；

所述知识驱动注意力模块以半经验模型为前端，所述半经验模型基于阿伦尼乌斯定律。

本发明还包括用于测试KDACAF有效性的实验平台，所述实验平台包括用于控制存储电池环境温度的热室、用于保持电池预定存储充电状态（SoC）水平的电池测试设备、用于监测和存储电池老化数据的计算机。

基于注意力的锂离子电池日历老化预测模型的方法，包括以下步骤：

S1、数据收集和预处理；

S2、建立日历老化预测模型；

S21、建立日历老化预测的问题描述和半经验模型；

S22、KDACAF的结构；

S23、长短时记忆模块与KDACAF的损失函数；

S3、实验和分析

S31、比较测试；

S32、消融测试；

S33、收敛性分析。

步骤S1具体包括以下步骤：

数据预处理和评估指标

在训练集上进行三次样条插值，使训练集中的每个电池容量序列都有1小时的分辨率，使每个序列的长度为11521，此外，为了保证KDACAF在训练集、验证集和测试集上的时间分辨率一致性，训练集中的所有容量序列每30天稀疏采样一次，即在KDACAF训练期间，所有

步骤S21具体包括以下步骤：

S211、日历老化预测的问题描述

锂离子电池的日历老化预测旨在预测它们的容量随着存储时间的变化关系，此任务的解释变量格式化为以下矩阵：

其中，

对于单步的容量预测，目标变量为

其中，

S212、日历老化预测的半经验模型

根据阿伦尼乌斯定律，日历容量的退化最终用特定的半经验形式表示：

其中，

考虑到存储SoC对寄生化学反应的影响会导致电池容量的退化，考虑SoC的线性和指数依赖，即

上述所有SEMs 式子可分别简化表示为

步骤S22 KDACAF的结构

KDACAF以半经验模块为基础，从中抽取三个分支，即预测分支、拟合分支和特征分支。预测分支通过上述四个SEM对

步骤S22、具体包括以下步骤：

S221、半经验模块和预测分支

半经验模块是S212中阐述的四个SEM的集合。

在预测分支中，

即，对于每个SEM分别有：

S222、拟合分支和知识驱动注意力模块

为了拟合过去容量序列的结果，首先，将

即：

式中，

本知识驱动的注意力模块专用于日历老化预测任务，其中预测目标

首先，该知识驱动的注意力模型在

然后可以获得

然后，得到对于

S223、特征分支和数据驱动注意力模块

为了扩大KDACAF的模型容量，以便更好地捕捉日历老化过程的多模态，构建了数据驱动注意力，细节如下：

为了从半经验模块中构建特征向量，将

其中，

在数据驱动注意力模块中，预测目标

其中

然后，可得到

然后，得到对于

步骤S23 长短时记忆模块与KDACAF的损失函数

综合两部分注意力机制可以得到

其中

然后，将历史容量序列

最后，上述矢量被输入到包含一个LSTM层的长短时记忆模块，而LSTM的输出在被缩放到

KDACAF的损失函数设置如下：

式中,

步骤S31具体包括以下步骤：

S311、在测试集Set†上的比较；

S312、在测试集Set‡上的比较。

因此，本发明采用上述结构具有以下有益效果：

1、通过将电化学知识作为知识驱动注意力模块的关键基础，KDACAF实现了基于知识-数据双驱动的精准电池日历老化预测。消融实验表明，电化学领域知识的引入显著提高了KDACAF的预测性能。

2、多次比较测试表明，KDACAF优于当前最先进的知识驱动和数据驱动的电池日历老化预测模型。

下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。

附图说明

图1为本发明的结构框图；

图2为本发明的实验平台结构框图；

图3为本发明的数据处理流程图；

图4为本发明的长短时记忆模块图；

图5为本发明在测试集set†上的预测结果和相应的预测误差关系图；

图6为本发明在测试集set‡上的预测结果和相应的预测误差关系图；

图7为本发明在测试集set†上的收敛性和稳定性分析图；

图8为本发明在测试集set‡上的收敛性和稳定性分析图。

具体实施方式

以下将结合附图对本发明作进一步的描述，需要说明的是，本实施例以本技术方案为前提，给出了详细的实施方式和具体的操作过程，但本发明的保护范围并不限于本实施例。

图1为本发明的实施例一种的结构示意图，如图1所示，本发明的结构包括半经验模块、知识驱动注意力模块、数据驱动注意力模块和长短时记忆模块；

所述知识驱动注意力模块以半经验模型为前端，所述半经验模型基于阿伦尼乌斯定律。

本发明还包括用于测试KDACAF有效性的实验平台，所述实验平台包括用于控制存储电池环境温度的热室、用于保持电池预定存储充电状态（SoC）水平的电池测试设备、用于监测和存储电池老化数据的计算机。

基于注意力的锂离子电池日历老化预测模型的方法，包括以下步骤：

S1、数据收集和预处理；

表1为日历老化数据集表

步骤S1具体包括以下步骤：

数据预处理和评估指标

在训练KDACAF之前，将27个容量序列分为四个子集，即序列13、14、16、17、22、23、25、26在8000小时内的作为训练集，序列15、18、24、27在8000小时内的作为验证集，Con.#5、6、8、9中时间戳超过8000小时的作为测试集set†，Con.#1、2、3、4、7作为测试集set‡。

在训练集上进行三次样条插值，使训练集中的每个电池容量序列都有1小时的分辨率，使每个序列的长度为11521，此外，为了保证KDACAF在训练集、验证集和测试集上的时间分辨率一致性，训练集中的所有容量序列每30天稀疏采样一次，即在KDACAF训练期间，所有

S2、建立日历老化预测模型；

S21、建立日历老化预测的问题描述和半经验模型；

步骤S21具体包括以下步骤：

S211、日历老化预测的问题描述

锂离子电池的日历老化预测旨在预测它们的容量随着存储时间的变化关系，此任务的解释变量格式化为以下矩阵：

其中，

对于单步的容量预测，目标变量为

其中，

S212、日历老化预测的半经验模型

根据阿伦尼乌斯定律，日历容量的退化最终用特定的半经验形式表示：

其中，

考虑到存储SoC对寄生化学反应的影响会导致电池容量的退化，考虑SoC的线性和指数依赖，即

上述所有SEMs 式子可分别简化表示为

S22、KDACAF的结构；

KDACAF以半经验模块为基础，从中抽取三个分支，即预测分支、拟合分支和特征分支。预测分支通过上述四个SEM对

步骤S22具体包括以下步骤：

S221、半经验模块和预测分支

半经验模块是S212中阐述的四个SEM的集合。

在预测分支中，

即，对于每个SEM分别有：

S222、拟合分支和知识驱动注意力模块

为了拟合过去容量序列的结果，首先，将

即：

式中，

本知识驱动的注意力模块专用于日历老化预测任务，其中预测目标

首先，该知识驱动的注意力模型在

然后可以获得

然后，得到对于

S223、特征分支和数据驱动注意力模块

为了扩大KDACAF的模型容量，以便更好地捕捉日历老化过程的多模态，构建了数据驱动注意力，细节如下：

为了从半经验模块中构建特征向量，将

其中，

在数据驱动注意力模块中，预测目标

其中

然后，可得到

然后，得到对于

S23、长短时记忆模块与KDACAF的损失函数；

综合两部分注意力机制可以得到

其中

然后，将历史容量序列

最后，上述矢量被输入到包含一个LSTM层的长短时记忆模块，而LSTM的输出在被缩放到

KDACAF的损失函数设置如下：

式中,

S3、实验和分析

S31、比较测试；

步骤S31具体包括以下步骤：

S311、在测试集Set†上的比较；

S312、在测试集Set‡上的比较。

S32、消融测试；

S33、收敛性分析。

基于以下模型分别测试知识驱动的方法和数据驱动的方法；

参与对比的模型：四个SEM（其参数由生物地理学优化算法BBO确定）、SVR、GPR、通过叠加多个LSTM层构建的Deep LSTM（DLSTM）、LSTM+全连接层+迁移学习（LSTM-FC-TL）混合模型。其中，SVR、GPR和DLSTM是数据驱动的，所有SEM都是知识驱动的，KDACAF是知识-数据联合驱动的。

表2为在测试集Set†上的表现结果表

由表2可知：(1)总体而言，四个SEM的表现比其他的差，表明知识驱动的SEM相对较小的容量限制了它们的近似能力和回归优度。(2)每种SEM在四种情况下的表现都不同，

此外，图5为本发明在测试集set†上的预测结果和相应的预测误差关系图，图6为本发明在测试集set‡上的预测结果和相应的预测误差关系图。

在测试集Set‡上的比较

表3为所有模型在测试集Set‡上的性能表

由表3可知，KDACAF具有最令人满意的性能，即在所有条件下都具有最低的MAE和RMSE。每个模型在测试集set†中的平均性能也列在表3中最后一列用于比较和分析。结果为：(1)虽然所有模型在测试集set‡上的性能都比在测试集set†上的性能差，但KDACAF在测试集set†与测试集set‡之间的性能差距最小，显示出最高的泛化性和通用性。(2)由于模型捕获多模态的能力有限，SEM的表现再次比其他模型更差。(3) LSTM-FC-TL的性能是所有模型中第二好的，这是因为迁移学习机制使LSTM-FC-TL在新条件下有很好的泛化能力。 (4)对于SVR、DLSTM、GPR、LSTM-FC-TL、KDACAF五个最好模型它们在Con.#1上的表现最差，这是因为Con.#1与#5、#6、#8的相似度最低。此外，这些模型在Con.#4中的表现优于Con.#2，这意味着将温度从25◦C降至10◦C是比在电池日历老化期间将SoC从50%降低到20%更重要的影响因素，因此，将模型应用于Con.#2时存在比Con.#4更大的模式失配。消融测试：

表4为消融测试结果表

为了验证每个模块的有效性和必要性，我们进行了消融测试，结果列在表4中，表4中的K、D、L和S分别表示知识驱动注意力模块、数据驱动注意力模块、长短时记忆模块和半经验模块。表4结果表明：(1)这两个注意力模块对预测性能的提高至关重要，即 "D+L+S "和 "K+L+S "都获得了比 "L+S "低得多的MAE和RMSE。(2) 知识驱动的注意力和数据驱动注意力模块相互补充，即"K+D+S "和 "K+D+L+S "的表现比 "D+L+S "和 "K+L+S "好得多。(3) 知识驱动的注意力比数据驱动的注意力贡献更大，也就是说，"K+L+S "的表现比 "D+L+S "略好一些。(4) 将长短时记忆模块加入到现有的框架工作中可以带来进一步的改善，即 "L+S "和 "K+D+L+S "分别比 "S "和 "K+D+S "表现更好。

表5为SEM的消融测试结果表

为了验证每个SEM的贡献和必要性，我们进行了另一项消融测试，结果列在表中5中，由表5可知：(1)所有SEM对测试集set†性能的贡献顺序如下：

KDACAF的收敛性分析

将图3中所示的KDACAF实例的训练再执行1000次，在测试集set†和测试集set‡上的最终MAE和RMSE为分别通过图7和图8中的箱线图进行演示，证明：KDACAF具有较好的收敛性和稳定性，即最终MAE和RMSE的波动方差非常低，表明KDACAF已经训练到较优的阶段。收敛性分析表明，知识和数据联合驱动KDACAF兼具有大容量和小容量模型的优点，即具有良好的预测性能和高训练稳定性。

本发明采用上述结构的基于注意力的锂离子电池日历老化预测模型，将注意力机制应用于锂离子电池日历老化预测，即KDACAF，有利于电池的监测和管理。KDACAF以电池电化学经验知识作为其关键基础，即知识驱动注意力模块，实现了领域知识和数据的有效互补。消融测试表明，领域知识的引入显著提高了KDACAF的预测性能。在KDACAF中，来自SEM的先验知识比数据集中包含的数据统计规律发挥了更重要的作用。对实际日历老化数据的案例测试表明，KDACAF在预测和推广到未见过的（全新的）测试条件方面具有优越性。与测试集set‡上的SEM相比，MAE和RMSE分别降低了5.78%和3.57%，表明所设计的KDACAF性能优越。对于电池健康预测，一种方法能达到的预测误差率越低，这种方法的预测性能就越好。在实际应用中，可接受的标准误差率会根据不同的要求而变化。例如，一些汽车公司建议2%，而一些能源系统公司建议为3%。由于电池的健康状况对于保证电池的效率和安全至关重要，因此值得探索更低的可接受误差率以扩大电池的应用范围。

最后应说明的是：以上实施例仅用以说明本发明的技术方案而非对其进行限制，尽管参照较佳实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对本发明的技术方案进行修改或者等同替换，而这些修改或者等同替换亦不能使修改后的技术方案脱离本发明技术方案的精神和范围。