基于注意力机制和多层LSTM的电厂烟气含氧量智能预测方法

基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法
技术领域
1.本发明属于燃煤电厂智能测量和控制技术领域，具体涉及了一种基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法。


背景技术：

2.随着国家经济的快速发展，国内电网布局规模不断扩大，燃煤电厂发电作为主要的发电途径，由此引起电厂的碳排放量持续攀升。一方面，非再生能源的日益枯竭和竞价上网的策略使得燃煤发电厂的发电成本越来越高；另一方面，国家对于电厂碳排放量的严格要求也使得燃煤电厂不得不借助技术的升级迭代来降低碳排放。尤其是近几年，煤炭的价格不断上涨，燃煤发电厂日常经营的压力加大，这就使得发电厂不得不加强各方面的管理和规划，以提高发电效率的同时降低发电成本和碳排放。
3.电厂烟气含氧量多少作为衡量发电效率的一个重要指标，一般将含氧量控制在3％-5％，能使发电效率达到最高。烟气含氧量的精确测量是实现高质量燃煤控制的基础，目前大部分燃煤电厂借助硬件传感器来测量烟气含氧量。其中，热磁式氧量传感器和氧气皓氧量传感器是很常见的两种。但因为传统的硬件传感器具有较高的投资和安装风险，工作环境也十分恶劣，因此日常维护工作量就相当繁重，使用寿命也会大大降低。另外，在日常生活中也会发生诸如氧量仪故障、对某些操作控制信息的反馈不及时等问题，不利于在线监控，还会影响电厂锅炉的热效率。
4.随着神经网络技术在热工过程控制领域中的应用越来越广泛，基于软测量的烟气含氧量测量方法得到广泛研究[1]。使用深度神经网络通过对大量历史数据进行分析，进而进行数据的表征学习，由此可以提高烟气中含氧量的预测精度和预测稳定性[2]。而且全程省去大量人工去处理输入数据的复杂工作，使得预测过程更为简便和智能。在此基础上，避免了硬件测量的高昂的成本和测量不准确的问题，通过软测量得到的数据可以用于在线优化燃烧系统，还可以使得电厂锅炉燃烧效率大大提高，降低电厂的发电成本。但是现有的软测量的方法仅对采集的数据进行分析处理，很少关注数据的物理属性和借助专家经验，使得软测量方法的深入研究依旧是电厂智能优化控制的热点和难点之一。


技术实现要素：

[0005]
为了解决现有技术中的上述问题，即现有的烟气含氧量软测量方法仅考虑原始采集数据本身的特点，并未考虑数据的物理意义和专家知识；另外，多数软测量方法多借助大数据进行模型训练，一般模型训练效率低而且模型的预测精度也不高，本发明提供了一种基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法，该方法包括：
[0006]
(1)原始传感器数据的采集和存储。在燃煤电厂锅炉不同的工况下，以设定频率采集传感器的数据，并将数据保存到数据库。
[0007]
(2)原始传感器数据预处理。预处理主要包含两个阶段：数据清洗和数据降维。保存的原始传感器数据记作a＝[a1,a2,
…
,a
l
]
t
∈r
l
×s，l 和s分别表示数据个数和数据特征维
度。
[0008]
(3)基于专家知识的数据融合。通过专家知识和收集到的历史 a1-a6磨煤机煤量对锅炉燃烧系统的影响分析，将a1-a6磨煤机煤量的煤量进行了如式(3)所示的加权融合得到总的煤量。
[0009][0010]
其中，t表示总的煤量，ti表示各个磨煤机的分煤量，γi表示权值系数,该值可以通过专家知识对历史数据的分析确定。
[0011]
(4)pca主成分分析。假设进行基于专家知识的数据融合后，数据记作φ＝[φ1,φ2,...,φn]
t
∈rn×m，m分别表示数据融合后数据的特征维度。数据φ的协方差矩阵c计算如下
[0012][0013]
协方差矩阵c可进行如下的特征值分解
[0014]qt
cq＝λ＝diag(λ1,λ2,....,λm) (3)
[0015]
其中，λ1》λ2,》...,》λm为协方差矩阵c的特征值，相应的特征向量记作 u＝[u1,u2,
…
,um]。
[0016]
通过设定累计方差贡献率阈值，可以得到d个对输出影响较大的主要特征。以第i个主要特征zi为例，其表示如下
[0017][0018]
其中，u
ij
和φ
ij
可以从特征向量u和融合后的数据φ中直接获取。
[0019]
(5)注意力机制。由于不同的主要特征对输出的影响也不同，在这里设计了具有3层结构的注意力网络来计算每个特征向量的注意力权值，并获得权值特征向量。3层结构包含特征输入层，注意力权值计算层和权值特征输出层。
[0020]
注意力网络的注意力权值计算如下
[0021][0022]
其中，f为输入向量，f＝[f
p
,fo]
t
，f
p
＝[z1,z2,
…
,zd]∈r1×d为主要特征向量，fo＝[f1,f2]为两个烟气含氧量测量点的测量值，ω和β为注意力网络的超参数，κi表示第i个注意力权值。
[0023]
注意力网络的输出，即权值特征向量表示为
[0024][0025]
其中，表示点乘，即两个矩阵对应位置的元素相乘，κ＝[κ1,κ2,...,κd]∈r1×d。
[0026]
(6)多层lstm的预测网络。考虑到lstm适合处理时间序列的数据，本发明搭建了多
分别表示数据个数和数据特征维度，对该数据进行基于专家知识的数据融合和pca主成分分析处理，实现数据的降维。
[0043]
进一步地，所述保存的数据有32个量，包含采集时间、发电负荷、主蒸汽压力、主蒸汽温度、主蒸汽流量、炉膛负压、a1-a6磨煤机煤量、炉膛总风量、a和b侧的风机送风量、一次和二次总风量、a侧二次风量、a侧一次热风、a侧一次冷风、b侧二次风量，b侧一次热风、b 侧一次冷风、a侧烟气流量、b侧烟气流量、反应器a侧的3个检测点温度、反应器b侧的3个检测点温度、a侧烟气含氧量和b侧烟气含氧量，其中，符号a1-a6只是用来标识6个不同的监测点，a和b为了标识燃烧锅炉的两个主要采集点。
[0044]
本发明的有益效果：
[0045]
(1)本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法。本发明首先对原始传感器数据进行预处理，预处理过程包含：数据清洗和数据降维，数据清洗主要是对关联性强的原始传感器数据进行剔除，由此降低数据之间的冗余性，提高数据的代表性；数据降维主要是降低数据内部不同特征之间的关联程度，由此降低次要特征对网络训练的干扰，提高主要特征的表示能力。然后基于设计的注意力机制网络，将预处理后数据的主要特征根据其对输出的影响程度不同分配不同的注意力权值，得到权值特征，进而将权值特征输入到基于多层lstm的预测网络进行烟气含氧量的预测；随着燃煤电厂控制系统的不断更新升级，本发明的应用前景和社会经济效益是可观的。
[0046]
(2)本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法。对于数据清洗过程，以电厂的发电负荷为参考基准，根据采样数据是否相邻，设计了不同清洗阈值，进而对相邻或者非相邻数据执行不同的数据清洗策略，剔除了原始数据中的重复或者相近的数据。
[0047]
(3)本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法。对于数据降维过程，首先基于专家知识和采集数据不同特征的物理意义，将多个分煤口的煤量特征进行融合，建立影响烟气含氧量的煤量总特征；进一步使用pca技术对数据的特征进行主成分分析，最后得到影响预测系统输出的主要特征。通过设计的数据降维策略，有效地降低了数据主要特征的维度，提高了数据主要特征的表示能力。
[0048]
(4)本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法。对于注意力机制，设计了3层注意力网络结构，第一层为特征输入层，第二层为注意力权值计算层，第三层为权值特征输出层。根据每个主要特征和烟气含氧量的关联程度，对每个主要特征分配不同的注意力权值，使得预测网络更倾向于挑选关联程度更高的主要特征，从而提高模型的训练速度和预测精度。
[0049]
(5)本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法，搭建了基于lstm结构的预测网络。由于lstm独特的网络结构特点，使得其更适合分析和处理时间序列相关的数据，而且搭建的多层lstm预测网络能够在保证预测模型训练效率的同时，大大提高了预测模型的精度。
附图说明
[0050]
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本技术的其它特征、目的和优点将会变得更明显：
[0051]
图1是本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法一种实施例的数据处理流程框图；
[0052]
图2是本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法一种实施例的注意力网络示意图；
[0053]
图3是本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法一种实施例的lstm单元示意图；
[0054]
图4是本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法一种实施例的数据降维后累计方差比图；
[0055]
图5是本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法一种实施例的主要特征中每个特征量的方差占比图。
[0056]
图6是本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法一种实施例的预测网络训练损失变化曲线图。
[0057]
图7是本发明基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法一种实施例的a、b氧量监测点的含氧量预测误差图。
具体实施方式
[0058]
下面结合附图和实施例对本技术作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
[0059]
需要说明的是，在不冲突的情况下，本技术中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本技术。
[0060]
本发明提供了一种基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法，该方法包含数据预处理和模型预测两个阶段，其中数据预处理又包含数据清洗和数据降维，主要为了降低原始采集数据之间以及数据内部不同特征之间的冗余度，提高数据的有效性和表示能力。模型预测包含注意力网络构建和预测网络构建，注意力网络主要根据主要特征和预测模型输出的关联程度而构建，通过赋予不同主要特征不同的注意力权值进一步提高预测网络的预测精度，基于 lstm对时间序列数据具有较强的预测效果，搭建了基于多层lstm 的预测网络，确保预测的精度和可靠性。
[0061]
本发明的一种基于注意力机制和多层lstm的电厂烟气含氧量智能预测方法，本发明原始采集的数据来源于300-mw燃煤发电厂，电脑处理器参数为第12代gen intel(r)core(tm)i9-12900k 3.20 ghz,英伟达geforce rtx 3090gpu。该方法包括：
[0062]
原始传感器数据的采集和存储。在燃煤锅炉不同的工况下，以设定频率采集传感器的数据，并将数据保存到数据库，具体保存的数据有32个量，包含采集时间、发电负荷、主蒸汽压力、主蒸汽温度、主蒸汽流量、炉膛负压、a1-a6磨煤机煤量、炉膛总风量、a和b侧的风机送风量、一次和二次总风量、a侧二次风量、a侧一次热风、a 侧一次冷风、b侧二次风量，b侧一次热风、b侧一次冷风、a侧烟气流量、b侧烟气流量、反应器a侧的3个检测点温度、反应器b侧的3 个检测点温度、a侧烟气含氧量和b侧烟气含氧量。其中，符号a1-a6 只是用来标识6个监测点，a和b为了标识电厂燃烧锅炉的两个主要采集点。
[0063]
原始传感器数据预处理。预处理主要包含两个阶段：数据清洗和数据降维。保存的
原始传感器数据记作a＝[a1,a2,
…
,a
l
]
t
∈r
l
×s，l和s分别表示数据个数和数据特征维度。
[0064]
数据清洗。以发电负荷为数据清洗的参考基准，对原始传感器数据进行数据筛选，具体包含：相邻数据的筛选和非相邻数据的筛选。
[0065]
相邻数据的筛选依据如下：
[0066]
|a
t,1-a
(t 1),1
|≤ε1ꢀꢀ
(12)
[0067]
其中，t和t 1表示采样时刻，a
t,1
和a
(t 1),1
分别表示相应采样时刻的发电负荷，ε1＝0.1表示相邻数据筛选阈值，阈值的设定可以通过分析历史采集数据和专家知识。如果相邻采样数据的发电负荷差值满足(1)，则可以将t 1时刻的采样数据a
t 1
剔除。
[0068]
非相邻数据的筛选依据如下：
[0069]
|a
t,1-a
p,1
|≤ε2ꢀꢀ
(13)
[0070]
其中，t和p表示非相邻的两个采样时刻，a
t,1
和a
p,1
分别表示相应采样时刻的发电负荷，ε2＝0.05表示非相邻数据筛选阈值，阈值的设定可以通过分析历史采集数据和专家知识。如果非相邻采样数据的发电负荷差值满足(2)，则可以将p时刻的采样数据a
p
剔除。
[0071]
数据降维。假设数据清洗之后，数据表示为φ＝[φ1,φ2,...,φn]
t
∈rn×s，n和s分别表示数据的个数和数据的特征维度。对该数据进行基于专家知识的数据融合和pca主成分分析处理，实现数据的降维。
[0072]
基于专家知识的数据融合。通过专家知识和收集到的历史a1-a6 磨煤机煤量对锅炉燃烧系统的影响分析，将a1-a6磨煤机煤量的煤量进行了如式(3)所示的加权融合得到总的煤量。
[0073][0074]
其中，t表示总的煤量，ti表示各个磨煤机的分煤量，权值分别为γ1＝0.16，γ2＝0.14，γ3＝0.14，γ4＝0.13，γ5＝0.16，γ6＝0.17。
[0075]
pca主成分分析。假设进行基于专家知识的数据融合后，数据记作φ＝[φ1,φ2,...,φn]
t
∈rn×m，m分别表示数据融合后数据的特征维度。数据φ的协方差矩阵c计算如下
[0076][0077]
协方差矩阵c可进行如下的特征值分解
[0078]qt
cq＝λ＝diag(λ1,λ2,....,λm)
ꢀꢀ
(16)
[0079]
其中，λ1》λ2,》...,》λm为协方差矩阵c的特征值，相应的特征向量记作 u＝[u1,u2,
…
,um]。
[0080]
通过设定累计方差贡献率阈值，可以得到d个对输出影响较大的主要特征。以第i个主要特征zi为例，其表示如下
[0081][0082]
其中，u
ij
和φ
ij
可以从特征向量u和融合后的数据φ中直接获取。
[0083]
注意力机制。由于不同的主要特征对输出的影响也不同，在这里设计了具有3层结构的注意力网络来计算每个特征向量的注意力权值，并获得权值特征向量。3层结构包含特
征输入层，注意力权值计算层和权值特征输出层。
[0084]
注意力网络的注意力权值计算如下
[0085][0086]
其中，f为输入向量，f＝[f
p
,fo]
t
，f
p
＝[z1,z2,
…
,zd]∈r1×d为主要特征向量，fo＝[f1,f2]为两个烟气含氧量测量点的测量值，ω和β为注意力网络的超参数，κi表示第i个注意力权值。
[0087]
注意力网络的输出，即权值特征向量表示为
[0088][0089]
其中，表示点乘，即两个矩阵对应位置的元素相乘，κ＝[κ1,κ2,...,κd]∈r1×d为注意力权值向量。
[0090]
多层lstm的预测网络。考虑到lstm适合处理时间序列的数据，本发明搭建了多层lstm网络结构进行烟气含氧量的预测。针对每个 lstm结构单元，其包含3个门单元：输入门，遗忘门和输出门，网络超参数更新如下
[0091][0092]
其中，i
t
表示t时刻的输入的时间序列，即t时刻的带有注意力权值的特征向量，h
t
表示t时刻的lstm结构单元的隐藏状态，f
t
表示t时刻的遗忘门的状态，o
t
表示t时刻的输出门的状态，b＝[bi,bf,bo]和 w＝[w
xi
,w
hi
,w
xf
,w
hf
,w
xo
,w
ho
,w
xu
,w
hu
]为预测网络的超参数，可以通过网络训练获得，σ(
·
)表示sigmoid激活函数。
[0093]
预测网络训练。在预测网络训练时，采用了如下的均方误差作为网络的训练损失函数l，网络的训练就是最小化损失函数。
[0094][0095]
其中，为预测网络的输出值，n表示网络训练过程中批量数据训练中数据的个数，min(
·
)表示最小化函数。
[0096]
超参数更新。基于预测网络的损失函数定义(10)，预测网络的超参数更新如下
[0097][0098]
其中，α是参数更新率，
←
表示赋值。
[0099]
在本发明一个实施例中，基于注意力机制和多层lstm的电厂烟气含氧量智能预测系统主要包含了预测算法和各个模块功能实现。
[0100]
所属技术领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统的具体工作过程及有关说明，可以参考前述方法实施例中的对应过程，在此不再赘述。
[0101]
需要说明的是，上述实施例提供的基于注意力机制和多层lstm 的电厂烟气含氧量智能预测系统，仅以上述各功能模块的划分进行举例说明，在实际应用中，可以根据需要而将上述功能分配由不同的功能模块来完成，即将本发明实施例中的模块或者步骤再分解或者组合，例如，上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块，以完成以上描述的全部或者部分功能。对于本发明实施例中涉及的模块、步骤的名称，仅仅是为了区分各个模块或者步骤，不视为对本发明的不当限定。
[0102]
本领域技术人员应该能够意识到，结合本文中所公开的实施例描述的各示例的模块、方法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，软件模块、方法步骤对应的程序可以置于随机存储器(ram)、内存、只读存储器(rom)、电可编程rom、电可擦除可编程rom、寄存器、硬盘、可移动磁盘、cd-rom、或技术领域内所公知的任意其它形式的存储介质中。为了清楚地说明电子硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以电子硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
[0103]
本发明涉及到“a侧”、“b侧”以及“a1-a6”等符号仅为标识不同的采集点，根据实施例的不同，本领域技术人员可以对此做出修改，在此不再赘述。
[0104]
术语“包括”或者任何其它类似用语旨在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备/装置不仅包括那些要素，而且还包括没有明确列出的其它要素，或者还包括这些过程、方法、物品或者设备/装置所固有的要素。
[0105]
至此，已经结合附图所示的优选实施方式描述了本发明的技术方案，但是，本领域技术人员容易理解的是，本发明的保护范围显然不局限于这些具体实施方式。在不偏离本发明的原理的前提下，本领域技术人员可以对相关技术特征做出等同的更改或替换，这些更改或替换之后的技术方案都将落入本发明的保护范围之内。