电力设备缺陷信息的处理方法、装置、设备及存储介质与流程

1.本发明涉及电力设备运维技术领域，尤其涉及一种电力设备缺陷信息的处理方法、装置、设备及存储介质。


背景技术：

2.在电力设备故障发生后，通常会对电力设备所存在的缺陷进行快速识别并及时消缺，以保证电力系统的可靠性。为助于后续故障识别和消缺，电力设备缺陷信息以文本方式进行记录，其包含故障问题描述和故障原因分析等关键信息，蕴含着丰富的与电力设备运行维护相关的经验知识。
3.目前，由于电力设备缺陷文本的领域性较强，且由人工记录，所以其表达方式不符合通用语法，存在篇幅较长、句法结构复杂以及难以准确划分文本的主谓成分的问题，再加上待抽取的实体类型多样，不仅有词语短语类型，还包括特定类型的句子，因此需要对电力设备缺陷文本进行知识管理。但是，当前知识管理工作主要基于语法结构清晰的大型传统文本数据集进行，其无法适用于具有异构性、多样性和碎片化等特征的电力设备缺陷文本。因此，亟需一种适用于电力设备缺陷信息的处理方法。


技术实现要素：

4.本发明提供一种电力设备缺陷信息的处理方法、装置、设备及存储介质，以解决当前知识管理方式无法适用于电力设备缺陷文本的技术问题。
5.为解决上述技术问题，第一方面，本发明提供一种电力设备缺陷信息的处理方法，包括：
6.获取电力设备缺陷信息，电力设备缺陷信息包括结构化文本信息和非结构化文本信息；
7.利用预设的改进bilstm算法，对结构化文本信息进行文本增强，得到目标结构化文本信息；
8.利用预设的改进bert算法，对非结构化文本信息进行实体抽取，得到目标实体信息；
9.基于目标结构化文本信息和目标实体信息，构建电力设备缺陷知识图谱。
10.作为优选，改进bilstm算法包括ucnn算法和第一bilstm算法，利用预设的改进bilstm算法，对结构化文本信息进行文本增强，得到目标结构化文本信息，包括：
11.对结构化文本信息进行预处理，得到预处理后的结构化文本信息，预处理包括文本分词、去停用词和同义词替换；
12.利用ucnn算法，对预处理后的结构化文本信息进行词语特征提取，得到预处理后的结构化文本信息的词语特征；
13.利用第一bilstm算法，根据词语特征，对预处理后的结构化文本信息进行文本分类，得到目标结构化文本信息。
14.作为优选，ucnn算法的表达式为：
[0015][0016]
其中，o(u,v)为词语特征，为非共享卷积核，w
i,j
为中在(i,j)处的权重值，kr×s表示预处理后的结构化文本信息对应的词向量集，k
u-i,v-j
为kr×s中的词向量。
[0017]
作为优选，改进bert算法包括bert算法、第二bilstm算法和crf算法，利用预设的改进bert算法，对非结构化文本信息进行实体抽取，得到目标实体信息，包括：
[0018]
利用bert算法，对非结构化文本信息进行编码，得到字向量和位置向量；
[0019]
利用第二bilstm算法，根据字向量和位置向量，对非结构化文本信息进行上下文语义特征提取，得到非结构化文本信息的上下文语义特征；
[0020]
利用crf算法，根据上下文语义特征，对非结构化文本信息进行命名实体识别，得到非结构化文本信息的实体标签；
[0021]
根据实体标签，对非结构化文本信息进行实体抽取，得到目标实体信息。
[0022]
作为优选，实体标签包括设备标签和位置标签，目标实体信息包括缺陷设备名称、缺陷位置名称、设备缺陷信息和缺陷处理策略，根据实体标签，对非结构化文本信息进行实体抽取，得到目标实体信息，包括：
[0023]
根据设备标签，在非结构化文本信息中，抽取与设备标签对应的缺陷设备名称；
[0024]
根据缺陷设备名称对应的位置标签，在非结构化文本信息中，抽取与位置标签对应的缺陷位置名称；
[0025]
根据缺陷位置名称，在非结构化文本信息中，抽取与缺陷位置名称对应的设备缺陷信息，设备缺陷信息包括设备缺陷等级、设备缺陷原因、设备缺陷现象和设备缺陷类型；
[0026]
根据设备缺陷现象，在非结构化文本信息中，抽取与设备缺陷现象对应的缺陷处理策略。
[0027]
作为优选，基于目标结构化文本信息和目标实体信息，构建电力设备缺陷知识图谱，包括：
[0028]
利用基于相似性传播的知识融合策略，对目标结构化文本信息和目标实体信息进行知识融合，得到目标文本实体信息；
[0029]
基于neo4j数据库的知识存储策略，对目标文本实体信息进行知识存储，以构建电力设备缺陷知识图谱。
[0030]
作为优选，基于相似性传播的知识融合策略包括相似度算法，相似度算法用于对目标结构化文本信息和目标实体信息中的实体进行语义匹配，相似度算法为：
[0031][0032]
其中，yi表示第i个实体的向量，ys表示第s个实体的向量。
[0033]
第二方面，本发明还提供一种电力设备缺陷信息的处理装置，包括：
[0034]
获取模块，用于获取电力设备缺陷信息，电力设备缺陷信息包括结构化文本信息
和非结构化文本信息；
[0035]
增强模块，用于利用预设的改进bilstm算法，对结构化文本信息进行文本增强，得到目标结构化文本信息；
[0036]
抽取模块，用于利用预设的改进bert算法，对非结构化文本信息进行实体抽取，得到目标实体信息；
[0037]
构建模块，用于基于目标结构化文本信息和目标实体信息，构建电力设备缺陷知识图谱。
[0038]
第三方面，本发明还提供一种计算机设备，包括处理器和存储器，存储器用于存储计算机程序，计算机程序被处理器执行时实现如权第一方面的电力设备缺陷信息的处理方法。
[0039]
第四方面，本发明还提供一种计算机可读存储介质，其存储有计算机程序，计算机程序被处理器执行时实现如第一方面的电力设备缺陷信息的处理方法。
[0040]
与现有技术相比，本发明具备以下有益效果：
[0041]
本发明通过利用预设的改进bilstm算法，对结构化文本信息进行文本增强，得到目标结构化文本信息，以保证缺陷文本的质量，从而提高后续构建的知识图谱的内容质量；再利用预设的改进bert算法，对非结构化文本信息进行实体抽取，得到目标实体信息，以实现针对具有异构性、多样性和碎片化等特征的电力设备缺陷文本的信息抽取，同时利用改进bert算法能够提高实体抽取精度；最后基于目标结构化文本信息和目标实体信息，构建电力设备缺陷知识图谱，从而以知识图谱方式对电力设备缺陷信息进行管理，能够有效提高知识管理的全面性和可靠性，为后续应用提高知识支持。
附图说明
[0042]
图1为本发明实施例示出的电力设备缺陷信息的处理方法的流程示意图；
[0043]
图2为本发明实施例示出的基于改进bi－lstm算法的文本增强示意图；
[0044]
图3为本发明实施例示出的基于改进bert算法的实体抽取示意图；
[0045]
图4为本发明实施例示出的bert算法的结构示意图；
[0046]
图5为本发明实施例示出的bert模型输入的结构示意图；
[0047]
图6为本发明实施例示出的自注意力机制的示意图；
[0048]
图7为本发明实施例示出的bilstm算法的结构示意图；
[0049]
图8为本发明实施例示出的知识更新结果的对比示意图；
[0050]
图9为本发明实施例示出的电力设备缺陷信息的处理装置的结构示意图；
[0051]
图10为本发明实施例示出的计算机设备的结构示意图。
具体实施方式
[0052]
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
[0053]
请参照图1，图1为本发明实施例提供的一种电力设备缺陷信息的处理方法的流程
示意图。首先基于bilstm的上下文语义信息提取策略，解决bert在实体抽取时上下文语义获取不够全面的问题。再基于crf的标签预测分支改进策略，解决bert仅考虑局部信息容易陷入局部最优的问题。最后基于改进bert算法，可以快速从电力设备缺陷文本中抽取实体信息。本发明实施例的方法可应用于计算机设备，该计算机设备包括但不限于智能手机、笔记本电脑、平板电脑、桌上型计算机、物理服务器和云服务器等设备。如图1所示，本实施例的电力设备缺陷信息的处理方法包括步骤s101至步骤s104，详述如下：
[0054]
步骤s101，获取电力设备缺陷信息，所述电力设备缺陷信息包括结构化文本信息和非结构化文本信息。
[0055]
在本步骤中，结构化文本信息为具有清晰语法结构的文本信息，非结构化文本信息为语法结构不清晰的文本信息。
[0056]
步骤s102，利用预设的改进bilstm算法，对所述结构化文本信息进行文本增强，得到目标结构化文本信息。
[0057]
在步骤中，bilstm算法为双向长短时记忆算法，改进bilstm算法包括ucnn算法和第一bilstm算法，ucnn算法为u型卷积神经网络算法。其中，基于ucnn的词语语义特征提取策略能够解决bilstm更多关注句子含义而忽略文本单词特征的问题；在改进bilstm算法的训练阶段，采用基于leakyrelu激活函数重构策略解决bilstm存在梯度消失的问题，以及采用基于foscal loss损失函数重构策略解决缺陷文本数据不平衡的问题。
[0058]
可选地，在文本增强之前，对结构化文本信息进行数据预处理。具体地，基于结巴分词进行文本分词，并引入自定义词典作为辅助词典进行分词；再去除停用词，并基于同义词词典进行文本数据的共指标准化，以完成数据预处理。
[0059]
在一实施例中，所述改进bilstm算法包括ucnn算法和第一bilstm算法，所述步骤s102，包括：
[0060]
对所述结构化文本信息进行预处理，得到预处理后的结构化文本信息，所述预处理包括文本分词、去停用词和同义词替换；
[0061]
利用所述ucnn算法，对预处理后的所述结构化文本信息进行词语特征提取，得到预处理后的所述结构化文本信息的词语特征；
[0062]
利用所述第一bilstm算法，根据所述词语特征，对预处理后的所述结构化文本信息进行文本分类，得到所述目标结构化文本信息。
[0063]
在本实施例中，在对电力缺陷文本及进行分词、去停用词和共指标准化后，基于改进bilstm算法对文本进行文本增强。如图2所示，首先基于ucnn对分词后的文本词语进行特征提取，然后再输入bilstm进行句子语义理解，进而进行文本分类。其中，ucnn算法通过卷积核在原始词向量数据上进行卷积计算并滑动，实现文本词语特征的提取。与传统cnn不同，在原始数据的不同位置，ucnn采用具有不同权值大小的卷积核。因此，所述ucnn算法的表达式为：
[0064][0065]
其中，o(u,v)为所述词语特征，为非共享卷积核，w
i,j
为中在(i,j)处的权重值，kr×s表示预处理后的所述结构化文本信息对应的词向量集，k
u-i,v-j
为kr×s中的词向量。
[0066]
根据ucnn框架可知，上述卷积核权重矩阵在相对词向量原始数据滑动位置(u,v)发生改变时可能发生变化。而传统cnn在不同位置上将保持同样的权重矩阵显然，本发明的ucnn更有利于对差异化词语的提取。在此基础上，通过ucnn计算得到缺陷文本的特征图的大小r
′×s′
，其计算公式为：
[0067][0068][0069]
式中，t为ucnn滑动步幅，p为自动填充层数。
[0070]
最后，可获得表征缺陷文本词语含义的特征矩阵kr′×s′
，并进一步输入到bilstm进行后续处理。
[0071]
本发明在改进bilstm算法的训练阶段，在relu函数的基础上，引入leakyrelu作为ucnn－bilstm算法的激活函数，其表达式为：
[0072]
y＝max(ax,x)；
[0073]
式中，x为激活函数输入，y为激活函数输出，a(0《a《1)为函数的反向梯度。
[0074]
本发明引入foscal loss损失函数以解决不平衡数据带来的影响，从而保证模型精度，foscal loss计算公式为：
[0075][0076]
式中，l
fl
(y,y
′
)为foscal loss损失函数。α为平衡因子，用于平衡不同类别样本的数量的不平衡。γ为调制系数，用于提升损失函数对于更难分类类别的敏感度。通过foscal loss损失函数能够解决电力设备缺陷文本数据集不平衡的问题，保证模型的准确性，从而使结构化缺陷文本质量得到明显改善，保证知识图谱数据的可靠性。
[0077]
示例性地，在windows操作系统中训练改进bilstm算法，硬件配置包括：cpu型号为i9 9980xe 3ghz，gpu型号为gtx2080，实验环境为python3.8 pytorch1.10.2 cuda11.3。数据集共包含5679条缺陷文本，其中外部影响2699条，设备老化1461条，施工质量784条，运维质量527条，产品质量181条，验收质量26条；紧急缺陷3292条，重大缺陷2387条。训练集，验证集，测试集按6：2：2进行切分。
[0078]
文本分类模型训练超参数设置如下：embeding size为300，ucnn layer为1，ucnn cell为300，bilstm layer为2，bilstm cell为512，全连接层数为2，全连接隐藏单元为256，dropout为0.2，学习率为onecyclelr自适应学习率(初始学习率1e－4)，ecoph为240。
[0079]
为体现改进bilstm算法的整体表现，基于传统主流文本分类模型textcnn、svm和bilstm，在相同的数据集上进行训练，并比较多种算法之间的整体表现。具体结果如下表所示。
[0080][0081]
如上表可见，在文本缺陷类别分类中，改进bilstm算法的性能明显优于textcnn、svm和bilstm算法，其预测精确度高于75％，明显优于其他算法在70％以下的预测精确度。可见，与传统主流文本分类算法相比，在对电力设备缺陷文本进行分类时，改进bilstm改进算法有着更好的表现。
[0082]
步骤s103，利用预设的改进bert算法，对所述非结构化文本信息进行实体抽取，得到目标实体信息。
[0083]
在本步骤中，bert算法为bidirectional encoder representations fromtransformers语言模型算法，改进bert算法包括bert算法、第二bilstm算法和crf算法，crf算法为条件随机场算法。
[0084]
在一实施例中，所述步骤s1013，包括：
[0085]
利用所述bert算法，对所述非结构化文本信息进行编码，得到字向量和位置向量；
[0086]
利用所述第二bilstm算法，根据字向量和所述位置向量，对所述非结构化文本信息进行上下文语义特征提取，得到所述非结构化文本信息的上下文语义特征；
[0087]
利用所述crf算法，根据所述上下文语义特征，对所述非结构化文本信息进行命名实体识别，得到所述非结构化文本信息的实体标签；
[0088]
根据所述实体标签，对所述非结构化文本信息进行实体抽取，得到所述目标实体信息。
[0089]
在本实施例中，示例性地，改进bert算法的实体抽取流程如图3所示，首先利用bert预训练语言模型中的transformer结构，对输入层缺陷文本中的单个字符进行编码，训练得到单个字符对应的字向量和位置向量，并作为bilstm层的初始化输入；然后利用bilstm层对输入的缺陷文本的向量信息进行双向编码，进一步计算得到文本上下文相关的语义信息；最后将包含上下文信息的语义向量输入到crf层，采用viterbi算法进行解码，由crf模型计算得到全局最优结果，输出概率最大的标签序列，从而得到缺陷文本中每个字符的实体类别。
[0090]
对于bert算法：bert是一种深度双向语言表征模型，其结构如图4所示。由图4可知，bert模型的第一层为输入层，ei代表输入的单词，第二层和第三层中的trme代表transformer编码结构，第四层中的ti代表输出结果，n代表输入词的总数。
[0091]
示例性地，如图5所示，bert模型的输入层由字向量、句向量和位置向量3部分组成，[cls]为文本的开始标志，[sep]为句子间分隔或文本的结束标志。token是通过查询字向量表将缺陷文本中的每个字转换为一维向量，表示单词原始的词向量，segment用于区分
不同缺陷文本，表示当前单词位于缺陷文本中的句向量位置，position用于表示当前单词在缺陷文本中的序列位置。其次，bert模型的第2层和第3层中一共有12层trme网络，每层trme网络均由6层encoder组成。其中trme网络主要使用自注意力机制，该机制用于计算每个词与其上下文之间的关系权重，并将权重给到上下文中的每个词，以及根据权重对该词的词向量进行更新，从而得到新的词向量，新的词向量包含该词自身与其上下文的语义信息。
[0092]
示例性地，自注意力机制的产生过程如图6所示。在图6中，输入为查询向量、键向量和值向量，将其分别表示为q、k和v，其计算公式分别为：
[0093]
q＝xwq，k＝xwk，v＝xwv；
[0094]
式中，x为输入矩阵，wq，wk，wv为权重矩阵。自注意力机制输出的关系权重的计算公式为：
[0095][0096]
式中，为惩罚因子，用来确保q与k的乘积不会过大。
[0097]
bert模型使用基于自注意力机制的多头注意力机制，头的个数也是自注意力机制的个数。在多头注意力机制中，每个自注意力机制关注同一个词的不同上下文信息，其输出矩阵headi可表示为：
[0098]
headi＝attention(qw
iq
，kw
ik
，vw
iv
)；
[0099]
多头注意力机制的输出矩阵multihead计算公式为：
[0100]
mulitihead(q，k，v)＝concat(head1，head2…
headk)wo；
[0101]
式中，concat是将每个headi相连后与连接矩阵wo相乘的结果。
[0102]
最后，bert模型根据第4层词向量输出结果。该模型在对词向量进行表征时，可以获得富含缺陷文本语义信息的字符向量，较完整地保存文本的语义信息。
[0103]
对于第二bilstm算法：通过bilstm算法进一步对缺陷文本的字符向量进行上下文语义信息提取，得到更全面的上下文语义特征，从而确保命名实体抽取模型语义学习的稳健性。传统lstm算法只有一层网络从前向后对句子进行编码，只掌握句子从前到后的上下文信息，但没有掌握从后到前的上下文信息。如图7所示，本发明的第二bilstm算法是由前向lstm算法和后向lstm算法组合而成的，可以实现上下文信息的双向学习。最终bilstm层的输出表示为：
[0104]
h(t)＝[o
pre
,o
pos
]；
[0105]
式中，h为bilstm算法前向和后向输出拼接的结果，t为时间步，o
pre
,o
pos
分别为前向lstm和后向lstm的输出。
[0106]
对于crf算法：为从缺陷文本获取全局信息并应用到模型输出中，本发明将softmax层替换为crf层。crf属于判别式概率模型，可以对有序序列进行标注和切分。对于序列x＝(x1,x2,
…
,xn)，状态序列y＝(y1,y2,
…yn
)的条件概率p(y|x)的计算公式为：
[0107][0108]
[0109]
式中，fk是特征函数，wk是fk的权重，z(x)是归一化函数。
[0110]
crf模型采用最大化对数似然函数进行训练，对于给定电力设备缺陷文本a的标签序列y的条件概率计算公式为：
[0111][0112]
loss＝log(p(y|a))；
[0113]
式中，为真实标签，ya为给定缺陷文本a全部可能的标签组合，loss为定义的损失函数。
[0114]
在采用crf的进行电力设备缺陷文本实体标签的最终预测时，采用viterbi算法得到全局最优解，其求解公式为：
[0115][0116]
式中，y
*
为得分取得最大值的电力设备缺陷文本标签序列。
[0117]
可见，在bert的序列标注任务中采用crf预测标签输出，可以对预测标签间的依赖关系进行有效约束，从而获得全局最优序列。
[0118]
对于实体抽取，在一实施例中，所述实体标签包括设备标签和位置标签，所述目标实体信息包括缺陷设备名称、缺陷位置名称、设备缺陷信息和缺陷处理策略，所述根据所述实体标签，对所述非结构化文本信息进行实体抽取，得到所述目标实体信息，包括：
[0119]
根据所述设备标签，在所述非结构化文本信息中，抽取与所述设备标签对应的缺陷设备名称；
[0120]
根据所述缺陷设备名称对应的所述位置标签，在所述非结构化文本信息中，抽取与所述位置标签对应的缺陷位置名称；
[0121]
根据所述缺陷位置名称，在所述非结构化文本信息中，抽取与所述缺陷位置名称对应的设备缺陷信息，所述设备缺陷信息包括设备缺陷等级、设备缺陷原因、设备缺陷现象和设备缺陷类型；
[0122]
根据所述设备缺陷现象，在所述非结构化文本信息中，抽取与所述设备缺陷现象对应的缺陷处理策略。
[0123]
在本实施例中，在电力设备缺陷文本的实体关系抽取时，直接通过实体标签判断实体类型，然后根据定义好的实体关系建立实体关系抽取规则，抽取规则如下：
[0124]
首先，以缺陷设备名称为中心，根据缺陷设备名称的实体标签equipment，提取出缺陷设备的名称；
[0125]
其次，根据实体标签position，提取出与之有关的缺陷部位名称；
[0126]
然后，以提取出的缺陷部位名称为实体中心，依次根据各类实体标签，提取出与之有关的设备缺陷等级、设备缺陷原因、设备缺陷现象、设备缺陷类型；
[0127]
最后，以设备缺陷现象为实体中心，提取出缺陷处理措施。
[0128]
示例性地，在windows操作系统中进行实体抽取，开发语言为python，版本为python3.8，深度学习框架tensorflow版本为1.12.0，bert模型为bert－base－chinese版本，硬件配置：cpu型号为i9 9980xe 3ghz，gpu型号为gtx2080。
[0129]
将bert－bilstm－crf命名实体抽取算法与hmm、crf、bilstm、bilstm－crf和bert
等主流算法进行对比分析，然后对bert－bilstm－crf的实体抽取结果进行分析，测试结果如下表所示。
[0130][0131][0132]
由上表可知，在采用hmm、crf、bilstm、bilstm－crf、bert与本发明的bert－
bilstm－crf算法对电力设备缺陷文本进行实体抽取时，本发明的改进bert算法在缺陷现象、缺陷设备、缺陷等级、处理措施、缺陷部位、缺陷原因和缺陷类型7类实体上，均取得最优的抽取效果。改进bert算法在准确率、召回率和f1值上均有一定程度的提升，可以有效对命名实体抽取结果进行提升，有利于后续的实体关系抽取，并且可为构建知识图谱提供可靠的数据。
[0133]
步骤s104，基于所述目标结构化文本信息和目标实体信息，构建电力设备缺陷知识图谱。
[0134]
在本步骤中，基于neo4j数据库提出基于相似性传播的集体实体融合策略，以解决缺陷文本数据来源广泛和不易融合的问题；基于neo4j数据库提出知识存储策略，以解决缺陷文本体量较大和不易存储查询的问题；基于neo4j数据库提出知识更新策略，以解决实时缺陷数据更新速度慢的问题。本发明构建的电力设备缺陷知识图谱，具有全面可靠的知识，可以为后续其应用提供知识支持。
[0135]
neo4j数据库为一个高性能的nosql(not only sql，非关系型数据库)图形数据库，其属于一个嵌入式的、基于磁盘的、具备完全的事务特性的java持久化引擎，其结构化数据存储于网络上。
[0136]
在一实施例中，所述步骤s104，包括：
[0137]
利用基于相似性传播的知识融合策略，对所述目标结构化文本信息和所述目标实体信息进行知识融合，得到目标文本实体信息；
[0138]
基于neo4j数据库的知识存储策略，对所述目标文本实体信息进行知识存储，以构建所述电力设备缺陷知识图谱。
[0139]
在本实施例中，对于知识融合：采用基于相似性传播的集体实体知识融合策略进行知识融合。在一实施例中，基于相似性传播的知识融合策略包括预先余弦相似度算法，所述相似度算法用于对所述目标结构化文本信息和所述目标实体信息中的实体进行语义匹配，所述余弦相似度算法为：
[0140][0141]
其中，yi表示第i个实体的向量，ys表示第s个实体的向量。
[0142]
根据相似度传播算法，对实体对进行语义匹配。假设具有相似命名的两个相连实体之间具有较高的相似性，实体之间的相似性可以不断被传播，直至实体遍历完成或者到达设定的阈值，具体策略如下表所示。
[0143][0144]
对于知识存储：采用基于cypher语句的知识存储策略进行知识存储。
[0145]
将基于文本增强后的结构化缺陷文本(即上述目标结构化文本信息)和信息抽取后的非结构化缺陷文本(即上述目标实体信息)构建三元组，然后进行csv文件的批量导入。利用load csv命令将构建好三元组的csv文件进行批量导入。在进行数据导入之前，首先将csv文件放到neo4j文件夹下的import目录下，以便进行下一步的数据批量上传。在进行csv文件导入时，首先在后台启动neo4j数据库，将数据导入到数据库。在导入上述电力设备缺陷文本数据之后，结构化和非结构化缺陷文本被完整的存储到电力设备缺陷知识图谱中，缺陷数据导入速度较快，知识图谱存储完成。
[0146]
对于知识更新：采用知识更新策略实现知识更新。
[0147]
在产生新的缺陷文本时，首先通过基于相似性传播的集体实体融合策略将新的缺陷文本与原有知识进行融合，接着对融合后的缺陷文本进行判断，如果缺陷文本数据中存在新的实体类，则在知识图谱中创建新的实体类，反之，将知识融合后的数据加入知识图谱，完成知识更新。
[0148]
示例性地，知识更新效果如图8所示。图8中，在知识更新前，配电变压器的缺陷部位包括中压套管、接地引下线、油箱/油枕、接地刀闸、架空导线和计量终端6种，在知识更新后，配电变压器的缺陷部位在原有的基础上，新增加调压开关、母线、盖板和低压套管3种。
[0149]
需要说明的是，本发明的电力设备缺陷信息的处理方法，能够解决由于电力设备体量大、多源异构、信息冗余杂乱而导致的信息展示和映射较难的问题，并构建成型的电力设备缺陷知识网络，为电力设备的缺陷消除过程提供准确专业的解决方法，具有很好的应用前景。
[0150]
为执行上述方法实施例对应的电力设备缺陷信息的处理方法，以实现相应的功能和技术效果。参见图9，图9示出本发明实施例提供的一种电力设备缺陷信息的处理装置的结构框图。为便于说明，仅示出与本实施例相关的部分，本发明实施例提供的电力设备缺陷信息的处理装置，包括：
[0151]
获取模块901，用于获取电力设备缺陷信息，所述电力设备缺陷信息包括结构化文本信息和非结构化文本信息；
[0152]
增强模块902，用于利用预设的改进bilstm算法，对所述结构化文本信息进行文本增强，得到目标结构化文本信息；
[0153]
抽取模块903，用于利用预设的改进bert算法，对所述非结构化文本信息进行实体抽取，得到目标实体信息；
[0154]
构建模块904，用于基于所述目标结构化文本信息和目标实体信息，构建电力设备缺陷知识图谱。
[0155]
在一实施例中，所述改进bilstm算法包括ucnn算法和第一bilstm算法，所述增强模块902，具体用于：
[0156]
对所述结构化文本信息进行预处理，得到预处理后的结构化文本信息，所述预处理包括文本分词、去停用词和同义词替换；
[0157]
利用所述ucnn算法，对预处理后的所述结构化文本信息进行词语特征提取，得到预处理后的所述结构化文本信息的词语特征；
[0158]
利用所述第一bilstm算法，根据所述词语特征，对预处理后的所述结构化文本信息进行文本分类，得到所述目标结构化文本信息。
[0159]
在一实施例中，所述ucnn算法的表达式为：
[0160][0161]
其中，o(u,v)为所述词语特征，为非共享卷积核，w
i,j
为中在(i,j)处的权重值，kr×s表示预处理后的所述结构化文本信息对应的词向量集，k
u-i,v-j
为kr×s中的词向量。
[0162]
在一实施例中，所述改进bert算法包括bert算法、第二bilstm算法和crf算法，所述抽取模块903，包括：
[0163]
编码单元，用于利用所述bert算法，对所述非结构化文本信息进行编码，得到字向量和位置向量；
[0164]
提取单元，用于利用所述第二bilstm算法，根据字向量和所述位置向量，对所述非结构化文本信息进行上下文语义特征提取，得到所述非结构化文本信息的上下文语义特征；
[0165]
识别单元，用于利用所述crf算法，根据所述上下文语义特征，对所述非结构化文本信息进行命名实体识别，得到所述非结构化文本信息的实体标签；
[0166]
抽取单元，用于根据所述实体标签，对所述非结构化文本信息进行实体抽取，得到所述目标实体信息。
[0167]
在一实施例中，所述实体标签包括设备标签和位置标签，所述目标实体信息包括缺陷设备名称、缺陷位置名称、设备缺陷信息和缺陷处理策略，所述抽取单元，具体用于：
[0168]
根据所述设备标签，在所述非结构化文本信息中，抽取与所述设备标签对应的缺陷设备名称；
[0169]
根据所述缺陷设备名称对应的所述位置标签，在所述非结构化文本信息中，抽取与所述位置标签对应的缺陷位置名称；
[0170]
根据所述缺陷位置名称，在所述非结构化文本信息中，抽取与所述缺陷位置名称对应的设备缺陷信息，所述设备缺陷信息包括设备缺陷等级、设备缺陷原因、设备缺陷现象和设备缺陷类型；
[0171]
根据所述设备缺陷现象，在所述非结构化文本信息中，抽取与所述设备缺陷现象
对应的缺陷处理策略。
[0172]
在一实施例中，所述构建模块904，具体用于：
[0173]
利用基于相似性传播的知识融合策略，对所述目标结构化文本信息和所述目标实体信息进行知识融合，得到目标文本实体信息；
[0174]
基于neo4j数据库的知识存储策略，对所述目标文本实体信息进行知识存储，以构建所述电力设备缺陷知识图谱。
[0175]
在一实施例中，所述基于相似性传播的知识融合策略包括相似度算法，所述相似度算法用于对所述目标结构化文本信息和所述目标实体信息中的实体进行语义匹配，所述相似度算法为：
[0176][0177]
其中，yi表示第i个实体的向量，ys表示第s个实体的向量。
[0178]
上述的电力设备缺陷信息的处理装置可实施上述方法实施例的电力设备缺陷信息的处理方法。上述方法实施例中的可选项也适用于本实施例，这里不再详述。本发明实施例的其余内容可参照上述方法实施例的内容，在本实施例中，不再进行赘述。
[0179]
图10为本发明一实施例提供的计算机设备的结构示意图。如图10所示，该实施例的计算机设备100包括：至少一个处理器1000(图10中仅示出一个)处理器、存储器1001以及存储在所述存储器1001中并可在所述至少一个处理器1000上运行的计算机程序1002，所述处理器1000执行所述计算机程序1002时实现上述任意方法实施例中的步骤。
[0180]
所述计算机设备100可以是智能手机、平板电脑、桌上型计算机和云端服务器等计算设备。该计算机设备可包括但不仅限于处理器1000、存储器1001。本领域技术人员可以理解，图10仅仅是计算机设备100的举例，并不构成对计算机设备100的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如还可以包括输入输出设备、网络接入设备等。
[0181]
所称处理器1000可以是中央处理单元(central processing unit，cpu)，该处理器1000还可以是其他通用处理器、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现成可编程门阵列(field－programmable gate array，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
[0182]
所述存储器1001在一些实施例中可以是所述计算机设备100的内部存储单元，例如计算机设备100的硬盘或内存。所述存储器1001在另一些实施例中也可以是所述计算机设备100的外部存储设备，例如所述计算机设备100上配备的插接式硬盘，智能存储卡(smart media card，smc)，安全数字(secure digital，sd)卡，闪存卡(flash card)等。进一步地，所述存储器1001还可以既包括所述计算机设备100的内部存储单元也包括外部存储设备。所述存储器1001用于存储操作系统、应用程序、引导装载程序(bootloader)、数据以及其他程序等，例如所述计算机程序的程序代码等。所述存储器1001还可以用于暂时地存储已经输出或者将要输出的数据。
[0183]
另外，本发明实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述任意方法实施例中的步骤。
[0184]
本发明实施例提供一种计算机程序产品，当计算机程序产品在计算机设备上运行时，使得计算机设备执行时实现上述各个方法实施例中的步骤。
[0185]
在本发明所提供的几个实施例中，可以理解的是，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意的是，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。
[0186]
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：u盘、移动硬盘、只读存储器(rom，read－only memory)、随机存取存储器(ram，random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
[0187]
以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行进一步的详细说明，应当理解，以上所述仅为本发明的具体实施例而已，并不用于限定本发明的保护范围。特别指出，对于本领域技术人员来说，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。