一种电力领域隐患事件文本分类方法及其相关装置与流程

1.本技术涉及文本分类技术领域，尤其涉及一种电力领域隐患事件文本分类方法及其相关装置。


背景技术：

2.电力供应关系民生，安全生产对电力企业尤为重要。虽然电力企业制定了安全规程，以规范电网运行过程，保障电网设备和人员安全。但事故和未遂事故仍时有发生，大量的事故事件记录的描述中暴露出操作过程中存在的问题。通过对这些文本记录的调查和统计分析，可以为采取有针对性的控制措施，防止事故的发生，提高安全管理和监督水平。然而，这些文本通常都是依赖于人工方式进行审查，效率低，费时长，工作量大。因此，提供一种电力领域隐患事件文本分类方法是本领域技术人员亟需解决的技术问题。


技术实现要素：

3.本技术提供了一种电力领域隐患事件文本分类方法及其相关装置，用于改善现有的电力领域风险隐患事件文本采用人工审查方式，存在效率低和耗时长的技术问题。
4.有鉴于此，本技术第一方面提供了一种电力领域隐患事件文本分类方法，包括：
5.s1、构建包括有标签样本的风险隐患库和包括待分类样本的无标签样本库，所述有标签样本为有标签的电力领域风险隐患事件文本，所述待分类样本为无标签的电力领域事件文本；
6.s2、对所述有标签样本的置信度进行初始化，并对所述有标签样本进行预处理后，通过预处理后的所述有标签样本对预置文本分类网络进行训练，得到文本分类模型；
7.s3、从所述无标签样本库随机抽取若干所述待分类样本进行预处理后输入到所述文本分类模型进行文本分类，并根据所述待分类样本对应的分类类别概率获取该待分类样本的置信度；
8.s4、将置信度最高的第一预置数量个所述待分类样本添加到当前的风险隐患库，得到更新后的所述风险隐患库，剩余的待分类样本放回所述无标签样本库；
9.s5、通过所述文本分类模型对更新后的所述风险隐患库中的有标签样本进行文本分类，并基于更新后的所述风险隐患库中各有标签样本的分类类别概率获取置信度；
10.s6、将置信度最低的第二预置数据量个更新后的所述风险隐患库中的有标签样本添加到风险隐患库回收站，并返回步骤s3，直至所述无标签样本库中的样本数量为0。
11.可选的，所述预处理包括分词和/或去停用词。
12.可选的，所述预置文本分类网络包括前向长短期记忆网络、后向长短期记忆网络、注意力层、dropout层和归一化层；
13.所述前向长短期记忆网络和所述后向长短期记忆网络的输出端均连接所述注意力层的输入端；
14.所述注意力层的输出端与所述dropout层的输入端连接，并与所述归一化层跨越
连接；
15.所述dropout层的输出端与所述归一化层的输入端连接。
16.可选的，所述根据所述待分类样本对应的分类类别概率获取该待分类样本的置信度，包括：
17.将所述待分类样本对应的分类类别概率中的最高概率值作为该待分类样本的置信度。
18.可选的，步骤s6之后还包括：
19.s7、对所述风险隐患库回收站中的置信度最高的第三预置数量个有标签样本进行审核，调整审核通过的有标签样本的置信度，并将调整后的有标签样本添加到更新后的所述风险隐患库，将审核不通过的有标签样本删除标签后添加到所述无标签样本库；
20.s8、当所述无标签样本库的样本数量达到预置阈值时，返回步骤s3。
21.本技术第二方面提供了一种电力领域隐患事件文本分类装置，包括：
22.构建单元，用于构建包括有标签样本的风险隐患库和包括待分类样本的无标签样本库，所述有标签样本为有标签的电力领域风险隐患事件文本，所述待分类样本为无标签的电力领域事件文本；
23.训练单元，用于对所述有标签样本的置信度进行初始化，并对所述有标签样本进行预处理后，通过预处理后的所述有标签样本对预置文本分类网络进行训练，得到文本分类模型；
24.第一分类单元，用于从所述无标签样本库随机抽取若干所述待分类样本进行预处理后输入到所述文本分类模型进行文本分类，并根据所述待分类样本对应的分类类别概率获取该待分类样本的置信度；
25.添加单元，用于将置信度最高的第一预置数量个所述待分类样本添加到当前的风险隐患库，得到更新后的所述风险隐患库，剩余的待分类样本放回所述无标签样本库；
26.第二分类单元，用于通过所述文本分类模型对更新后的所述风险隐患库中的有标签样本进行文本分类，并基于更新后的所述风险隐患库中各有标签样本的分类类别概率获取置信度；
27.第一触发单元，用于将置信度最低的第二预置数据量个更新后的所述风险隐患库中的有标签样本添加到风险隐患库回收站，并触发所述第一分类单元，直至所述无标签样本库中的样本数量为0。
28.可选的，所述预置文本分类网络包括前向长短期记忆网络、后向长短期记忆网络、注意力层、dropout层和归一化层；
29.所述前向长短期记忆网络和所述后向长短期记忆网络的输出端均连接所述注意力层的输入端；
30.所述注意力层的输出端与所述dropout层的输入端连接，并与所述归一化层跨越连接；
31.所述dropout层的输出端与所述归一化层的输入端连接。
32.可选的，还包括：
33.审核单元，用于对所述风险隐患库回收站中的置信度最高的第三预置数量个有标签样本进行审核，调整审核通过的有标签样本的置信度，并将调整后的有标签样本添加到
更新后的所述风险隐患库，将审核不通过的有标签样本删除标签后添加到所述无标签样本库；
34.第二触发单元，用于当所述无标签样本库的样本数量达到预置阈值时，触发所述第一分类单元。
35.本技术第三方面提供了一种电子设备，所述设备包括处理器以及存储器；
36.所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；
37.所述处理器用于根据所述程序代码中的指令执行第一方面任一种所述的电力领域隐患事件文本分类方法。
38.本技术第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质用于存储程序代码，所述程序代码用于执行第一方面任一种所述的电力领域隐患事件文本分类方法。
39.从以上技术方案可以看出，本技术具有以下优点：
40.本技术提供了一种电力领域隐患事件文本分类方法，包括：s1、构建包括有标签样本的风险隐患库和包括待分类样本的无标签样本库，有标签样本为有标签的电力领域风险隐患事件文本，待分类样本为无标签的电力领域事件文本；s2、对有标签样本的置信度进行初始化，并对有标签样本进行预处理后，通过预处理后的有标签样本对预置文本分类网络进行训练，得到文本分类模型；s3、从无标签样本库随机抽取若干待分类样本进行预处理后输入到文本分类模型进行文本分类，并根据待分类样本对应的分类类别概率获取该待分类样本的置信度；s4、将置信度最高的第一预置数量个待分类样本添加到当前的风险隐患库，得到更新后的风险隐患库，剩余的待分类样本放回无标签样本库；s5、通过文本分类模型对更新后的风险隐患库中的有标签样本进行文本分类，并基于更新后的风险隐患库中各有标签样本的分类类别概率获取置信度；s6、将置信度最低的第二预置数据量个更新后的风险隐患库中的有标签样本添加到风险隐患库回收站，并返回步骤s3，直至无标签样本库中的样本数量为0。
41.本技术中，在构建风险隐患库和无标签样本库后，通过有标签样本训练预置文本分类网络，通过训练好的文本分类模型对无标签样本库中的无标签样本进行文本分类，避免了人工审查；并在根据无标签样本的置信度更新风险隐患库后，通过文本分类模型对更新后的风险隐患库中的有标签样本进行文本分类，将置信度最低的第二预置数据量个更新后的风险隐患库中的有标签样本添加到风险隐患库回收站，以确保风险隐患库中的有标签样本的准确性，将可能存在错误的样本数据添加到风险隐患库回收站以进行下一步处理，在保证文本分类结果的准确性的基础上，改善了现有的电力领域风险隐患事件文本采用人工审查方式，存在效率低和耗时长的技术问题。
附图说明
42.为了更清楚地说明本技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。
43.图1为本技术实施例提供的一种电力领域隐患事件文本分类方法的一个流程示意
图；
44.图2为本技术实施例提供的一种电力领域隐患事件文本分类装置的一个结构示意图；
45.图3为本技术实施例提供的一种预置文本分类网络的一个结构示意图；
46.图4为本技术提供的一个gru单元的结构示意图。
具体实施方式
47.为了使本技术领域的人员更好地理解本技术方案，下面将结合本技术实施例中的附图，对本技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本技术一部分实施例，而不是全部的实施例。基于本技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本技术保护的范围。
48.文本分类是自然语言处理和数据挖掘中的一个重要子任务，是在预先定义的分类系统中，根据文本的特征(内容或属性)将给定文本与一个或多个类别相关联的过程。目前，文本分类的主要研究内容之一是探索高性能的分类方法或模型。早期的文本分类模型主要包括基于规则的模型和基于统计的模型，如朴素贝叶斯、k邻域和支持向量机等。近十年来，文本分类逐渐从浅层学习模式向深层学习模式转变。与基于浅层学习的方法相比，深度学习方法避免了人工设计规则和特征，能够从文本中自动挖掘出大量丰富的语义表示。
49.文本挖掘技术在事故叙事分类中的应用引起了人们越来越多的关注。例如，文本分类技术被用于分析铁路、制造业和建筑业中的事故叙述。这些尝试验证了文本分类技术在事故分析中的有效性。然而，同一文本分类算法对不同数据集的分类效果并不一致。电力领域的文本中含有大量的电力专业词汇，这些词汇往往是非结构化的，且在叙述中往往忽略了语言学的规律。这些特点使得电力领域事故事件记录的文本进行自动分类存在较大的困难。
50.为了改善上述问题，本技术实施例提供一种电力领域隐患事件文本分类方法。为了便于理解，请参阅图1，本技术提供的一种电力领域隐患事件文本分类方法的一个实施例，包括：
51.s1、构建包括有标签样本的风险隐患库和包括待分类样本的无标签样本库，有标签样本为有标签的电力领域风险隐患事件文本，待分类样本为无标签的电力领域事件文本。
52.将的有标签的电力领域风险隐患事件文本作为有标签样本添加到风险隐患库，将无标签的电力领域事件文本作为无标签样本添加到无标签样本库。通常有标签的电力领域风险隐患事件文本的数量比较少，无标签的电力领域事件文本的数量较多。
53.s2、对有标签样本的置信度进行初始化，并对有标签样本进行预处理后，通过预处理后的有标签样本对预置文本分类网络进行训练，得到文本分类模型。
54.将有标签样本的置信度初始化为90％，然后对有标签样本进行分词、去停用词等预处理。由于中文文本的词语间没有空格，首先利用jieba切割器进行分词，还进行其他预处理，包括删除标点符号、特殊符号和一些无意义的常用词，停用词等，因为它们不利于模型对文本内容的分析和预测，还会增加计算复杂度。然后对分词后的词语进行one
‑
hot编码，并采用基于cbow的word2vec词嵌入方法将稀疏的高维单词转换成低维向量，进而由预
置文本分类网络进行特征提取和自动分类。
55.在训练预置文本分类网络时，可以将预处理后的有标签样本随机划分为训练集和测试集，然后进行预置文本分类网络的训练。训练时，采用早停策略，根据测试集的表现(例如测试集的预测准确率或错误率等)确定训练的终止，避免模型过拟合。
56.请参考图3，预置文本分类网络包括前向长短期记忆网络、后向长短期记忆网络、注意力层、dropout层和归一化层；
57.前向长短期记忆网络和后向长短期记忆网络的输出端均连接注意力层的输入端；
58.注意力层的输出端与dropout层的输入端连接，并与归一化层跨越连接；
59.dropout层的输出端与归一化层的输入端连接。
60.其中，注意力层能够通过计算权重并为自身加权，实现关注文本中的重要部分，即：
61.f(h)＝gru1(h)gru2(h)
t
；
62.attention(h)＝softmax(f(h))gru3(h)；
63.其中，h为上一隐含层输出的特征向量，f(h)为中间参数，attention(h)为注意力层的输出特征，gru1、gru2、gru3为3个独立的gru网络。gru1、gru2、gru3的结构图如4所示，三者的结构设计相同的，但是参数是独立的，在模型的训练过程中会自动调整。
64.dropout层能够通过随机丢弃两层神经网络之间神经元之间的连接来增强泛化性能；归一化层能够通过对时间维度进行归一化来减少长时的递归神经网络中的梯度爆炸和梯度消失问题。
65.本技术实施例中注意力层采用残差的方式与归一化层跨越连接，有助于避免梯度消失的问题，提高网络性能。
66.s3、从无标签样本库随机抽取若干待分类样本进行预处理后输入到文本分类模型进行文本分类，并根据待分类样本对应的分类类别概率获取该待分类样本的置信度。
67.从无标签样本库随机抽取若干待分类样本进行分词、去停用词等预处理，并将预处理后的待分类样本输入到训练好的文本分类模型进行文本分类，通过文本分类模型来对该待分类样本进行特征提取和类别预测，得到该待分类样本对应的分类类别概率，该分类类别概率为待分类样本对应各个类别的分类概率；将待分类样本对应的分类类别概率中的最高概率值作为该待分类样本的置信度，该最高概率值对应的类别为该待分类样本的标注标签。
68.s4、将置信度最高的第一预置数量个待分类样本添加到当前的风险隐患库，得到更新后的风险隐患库，剩余的待分类样本放回无标签样本库。
69.将置信度最高的第一预置数量个待分类样本添加到当前的风险隐患库，得到更新后的风险隐患库，剩余的置信度低的待分类样本放回无标签样本库，其中，第一预置数量可以根据实际情况进行具体设置。
70.s5、通过文本分类模型对更新后的风险隐患库中的有标签样本进行文本分类，并基于更新后的风险隐患库中各有标签样本的分类类别概率获取置信度。
71.通过文本分类模型对更新后的风险隐患库中的各有标签样本进行文本分类，得到各有标签样本对应的分类类别概率，然后将更新后的风险隐患库中的有标签样本的分类类别概率的最高概率值作为该有标签样本的置信度。
72.s6、将置信度最低的第二预置数据量个更新后的风险隐患库中的有标签样本添加到风险隐患库回收站，并返回步骤s3，直至无标签样本库中的样本数量为0。
73.将置信度最低的第二预置数据量个更新后的风险隐患库中的有标签样本添加到风险隐患库回收站，其中，第二预置数量可以根据实际情况进行具体取值。返回步骤s3，从无标签样本库获取下一批无标签样本进行预处理和文本分类，直至无标签样本库中的样本数量为0。
74.本技术实施例中，在构建风险隐患库和无标签样本库后，通过有标签样本训练预置文本分类网络，通过训练好的文本分类模型对无标签样本库中的无标签样本进行文本分类，避免了人工审查；并在根据无标签样本的置信度更新风险隐患库后，通过文本分类模型对更新后的风险隐患库中的有标签样本进行文本分类，将置信度最低的第二预置数据量个更新后的风险隐患库中的有标签样本添加到风险隐患库回收站，以确保风险隐患库中的有标签样本的准确性，将可能存在错误的样本数据添加到风险隐患库回收站以进行下一步处理，在保证文本分类结果的准确性的基础上，改善了现有的电力领域风险隐患事件文本采用人工审查方式，存在效率低和耗时长的技术问题。
75.进一步，在步骤s6之后还包括：
76.s7、对风险隐患库回收站中的置信度最高的第三预置数量个有标签样本进行审核，调整审核通过的有标签样本的置信度，并将调整后的有标签样本添加到更新后的风险隐患库，将审核不通过的有标签样本删除标签后添加到无标签样本库，并返回步骤s3。
77.由于风险隐患库回收站中的样本数量相对较少，可以采用人工审核，可以保证了数据的高准确性。即可以对风险隐患库回收站中的置信度最高的第三预置数量个有标签样本进行人工审核，将标注标签正确的有标签样本(即审核通过的有标签样本)的置信度调整为100％并添加到风险隐患库，将标注标签错误的有标签样本(即审核不通过的有标签样本)的错误标签删除后添加到无标签样本库。其中，第三预置数量可以根据实际情况进行具体设置。
78.需要说明的是，当风险隐患库回收站中的样本数量超过一定值时，可以自动删除回收站中置信度较低的30％的样本并将删除的这部分样本添加到无标签样本库。
79.s8、当无标签样本库的样本数量达到预置阈值时，返回步骤s3。
80.当当前的无标签样本库的样本数量达到预置阈值时，返回步骤s3，进行无标签样本的分类。
81.当当前的无标签样本库的样本数量未达到预置阈值(例如无标签样本库的样本数量为0)时，说明此时存在错误标签的情况较小，模型分类准确率较高，则不作处理。
82.本技术实施例中的分类方法，可以大幅度减少分类模型对有标签数据的依赖，以迭代的形式管理电力领域风险隐患事件文本，最终实现电力领域风险隐患事件文本的快速分类，相比于人工审查的方式，大大提高了分类效率；并且在现有的长短期记忆网络的基础上进行改进，增加注意力机制以及通过跨越连接的方式来通过文本分类模型的分类性能，且可适用于不同长度的文本输入，可以更好地理解文本的上下文语义信息，使得分类结果更为准确。
83.以上为本技术提供的一种电力领域隐患事件文本分类方法的一个实施例，以下为本技术提供的一种电力领域隐患事件文本分类装置的一个实施例。
84.请参考图2，本技术实施例提供的一种电力领域隐患事件文本分类装置，包括：
85.构建单元，用于构建包括有标签样本的风险隐患库和包括待分类样本的无标签样本库，有标签样本为有标签的电力领域风险隐患事件文本，待分类样本为无标签的电力领域事件文本；
86.训练单元，用于对有标签样本的置信度进行初始化，并对有标签样本进行预处理后，通过预处理后的有标签样本对预置文本分类网络进行训练，得到文本分类模型；
87.第一分类单元，用于从无标签样本库随机抽取若干待分类样本进行预处理后输入到文本分类模型进行文本分类，并根据待分类样本对应的分类类别概率获取该待分类样本的置信度；
88.添加单元，用于将置信度最高的第一预置数量个待分类样本添加到当前的风险隐患库，得到更新后的风险隐患库，剩余的待分类样本放回无标签样本库；
89.第二分类单元，用于通过文本分类模型对更新后的风险隐患库中的有标签样本进行文本分类，并基于更新后的风险隐患库中各有标签样本的分类类别概率获取置信度；
90.第一触发单元，用于将置信度最低的第二预置数据量个更新后的风险隐患库中的有标签样本添加到风险隐患库回收站，并触发第一分类单元，直至无标签样本库中的样本数量为0。
91.可选的，预置文本分类网络包括前向长短期记忆网络、后向长短期记忆网络、注意力层、dropout层和归一化层；
92.前向长短期记忆网络和后向长短期记忆网络的输出端均连接注意力层的输入端；
93.注意力层的输出端与dropout层的输入端连接，并与归一化层跨越连接；
94.dropout层的输出端与归一化层的输入端连接。
95.作为进一步地改进，装置还包括：
96.审核单元，用于对风险隐患库回收站中的置信度最高的第三预置数量个有标签样本进行审核，调整审核通过的有标签样本的置信度，并将调整后的有标签样本添加到更新后的风险隐患库，将审核不通过的有标签样本删除标签后添加到无标签样本库；
97.第二触发单元，用于当无标签样本库的样本数量达到预置阈值时，触发第一分类单元。
98.本技术实施例中，在构建风险隐患库和无标签样本库后，通过有标签样本训练预置文本分类网络，通过训练好的文本分类模型对无标签样本库中的无标签样本进行文本分类，避免了人工审查；并在根据无标签样本的置信度更新风险隐患库后，通过文本分类模型对更新后的风险隐患库中的有标签样本进行文本分类，将置信度最低的第二预置数据量个更新后的风险隐患库中的有标签样本添加到风险隐患库回收站，以确保风险隐患库中的有标签样本的准确性，将可能存在错误的样本数据添加到风险隐患库回收站以进行下一步处理，在保证文本分类结果的准确性的基础上，改善了现有的电力领域风险隐患事件文本采用人工审查方式，存在效率低和耗时长的技术问题。
99.本技术实施例还提供了一种电子设备，设备包括处理器以及存储器；
100.存储器用于存储程序代码，并将程序代码传输给处理器；
101.处理器用于根据程序代码中的指令执行前述方法实施例中的电力领域隐患事件文本分类方法。
102.本技术实施例还提供了一种计算机可读存储介质，计算机可读存储介质用于存储程序代码，程序代码用于执行前述方法实施例中的电力领域隐患事件文本分类方法。
103.所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
104.本技术的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本技术的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
105.应当理解，在本技术中，“至少一个(项)”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“a和/或b”可以表示：只存在a，只存在b以及同时存在a和b三种情况，其中a，b可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”，其中a，b，c可以是单个，也可以是多个。
106.在本技术所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
107.所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
108.另外，在本技术各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
109.所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本技术的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以通过一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本技术各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(英文全称：read
‑
only memory，英文缩写：rom)、随机存取存储器(英文全称：randomaccess memory，英文缩写：ram)、磁碟或者光盘等各种可以存储程序代码的介质。
110.以上所述，以上实施例仅用以说明本技术的技术方案，而非对其限制；尽管参照前述实施例对本技术进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本技术各实施例技术方案的精神和范围。