文本不良信息识别方法、装置、电子设备及存储介质与流程

1.本发明涉及自然语言处理技术领域，尤其涉及一种文本不良信息识别方法、装置、电子设备及计算机可读存储介质。


背景技术：

2.文本不良信息识别是一种对文本信息进行识别，防止发布到网络上的文章出现“黄反”等不良信息的技术。由于中文等语言的词语边界较为模糊、话语灵活，不同情境下具有不同含义，因此文本不良信息识别通常需要预先构建一个庞大且固定格式的文本结构图，该文本结构图中有大量权重固定的边，利用大量权重固定的“边”连接各个节点，再通过分析文本结构图中是否有不良信息，但需要构建庞大且固定格式的文本结构图，且基于这种文本结构图的运算负责，因此这一计算过程计算量大、内存消耗大，且文本识别时的灵活性较低。


技术实现要素：

3.本发明提供一种文本不良信息识别方法、装置、电子设备及计算机可读存储介质，目的在于增加文本分析的灵活度、减小文本分析的计算量。
4.为实现上述目的，本发明提供的一种文本不良信息识别方法，包括：
5.获取待识别文本；
6.通过字符向量化方式和分词方式分别对所述待识别文本进行处理，得到字向量集合与词向量集合；
7.将所述字向量集合中各个字向量作为节点进行连接，将所述词向量集合中词向量作为字与字的连接的边，将所有的节点与边都连接至预构建的中继节点上，得到文本结构图；
8.利用预训练的文本识别模型对所述文本结构图进行分析，得到所述待识别文本中存在不良信息的得分值；
9.判断所述得分值是否大于预设的第一阈值，当所述得分值大于所述第一阈值时，确定所述待识别文本中存在不良信息。
10.可选的，所述将所述字向量集合中各个字向量作为节点进行连接，将所述词向量集合中词向量作为字与字的连接的边，将所有的节点与边都连接至预构建的中继节点上，得到文本结构图，包括：
11.将所述字向量集合中多个字向量设置为节点，所述节点的初始值为所述节点对应的字向量；
12.将所述词向量集合中各个词向量和组成各个词向量的字向量进行运算，通过运算结果更新各个字向量对应的节点中的初始值；
13.将所述字向量集合中组成各个词向量的字向量分别连接，将连接字向量的边的值设置为由相连接的字向量组成的词向量；
14.构建中继节点，将各个所述边及没有边连接的节点分别与所述中继节点进行连接，得到文本结构图。
15.可选的，所述通过字符向量化方式和分词方式分别对所述待识别文本进行处理，得到字向量集合与词向量集合，包括：
16.利用预构建的语言模型对所述待识别文本进行字符提取和向量化处理，得到所述字向量集合；
17.利用预构建的分词工具将所述待识别文本进行分词处理，得到所述词向量集合。
18.可选的，所述利用预训练的文本识别模型对所述文本结构图进行分析，得到所述待识别文本中存在不良信息的得分值，包括：
19.对所述文本结构图进行特征提取，得到每个边或节点的特征值；
20.对各个节点与连接各个所述节点的边的所述特征值进行加权运算，通过遍历所述文本结构图中每个节点，获取每个节点对于所述中继节点的相对关系向量；
21.利用所述文本识别模型中的激活函数对所述相对关系向量进行不良信息识别，得到所述待识别文本中有不良信息的得分值。
22.可选的，所述判断所述得分值是否大于预设的第一阈值，当所述得分值大于所述第一阈值，确定所述待识别文本中存在不良信息，包括：
23.对所述得分值进行归一化运算，得到归一值；
24.当所述归一值大于所述第一阈值时，确定对所述待识别文本中存在不良信息。
25.可选的，所述利用预训练的文本识别模型对所述文本结构图进行分析之前，所述方法还包括：
26.步骤i、获取包含特征提取网络、多头注意力图神经网络的待训练文本识别模型；
27.步骤ii、将预构建的训练样本集导入所述待训练文本识别模型中，利用所述特征提取网络对所述训练样本集进行特征提取，得到特征序列集及文本标签集；
28.步骤iii、利用所述多头注意力图神经网络分析所述特征序列集，得到预测结果集；
29.步骤iv、根据所述文本标签集，计算所述预测结果集的方差值，当所述方差值大于预设的第二阈值，调整所述待训练文本识别模型的内部参数，返回至步骤ii的操作，直至所述方差值小于所述第二阈值，得到所述预训练的文本识别模型。
30.可选的，所述根据所述文本标签集，计算所述预测结果集的方差值，当所述方差值大于预设的第二阈值，调整所述待训练文本识别模型的内部参数，包括：
31.通过将所述文本标签集及所述预测结果集映射至同一二维平面，计算所述文本标签集与所述预测结果集之间的方差值；
32.当所述方差值大于所述第二阈值，判定所述方差值未收敛，利用所述方差值调整所述待训练文本识别模型中的回归函数。
33.为了解决上述问题，本发明还提供一种文本不良信息识别装置，所述装置包括：
34.文本预处理模块，用于获取待识别文本，及通过字符向量化方式和分词方式分别对所述待识别文本进行处理，得到字向量集合与词向量集合；
35.文本结构图构建模块，用于将所述字向量集合中各个字向量作为节点进行连接，将所述词向量集合中词向量作为字与字的连接的边，将所有的节点与边都连接至预构建的
中继节点上，得到文本结构图；
36.文本分析模块，用于利用预训练的文本识别模型对所述文本结构图进行分析，得到所述待识别文本中存在不良信息的得分值；
37.结果判断模块，用于判断所述得分值是否大于预设的第一阈值，当所述得分值大于所述第一阈值时，确定所述待识别文本中存在不良信息。
38.为了解决上述问题，本发明还提供一种电子设备，所述电子设备包括：
39.至少一个处理器；以及，
40.与所述至少一个处理器通信连接的存储器；其中，
41.所述存储器存储有可被所述至少一个处理器执行的计算机程序指令，所述计算机程序指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述所述的文本不良信息识别方法。
42.为了解决上述问题，本发明还提供一种计算机可读存储介质，包括存储数据区和存储程序区，存储数据区存储创建的数据，存储程序区存储有计算机程序；其中，所述计算机程序被处理器执行时实现上述所述的文本不良信息识别方法。
43.本发明实施例通过对待识别文本进行预处理，获取字向量集合及词向量集合，基于所述字向量集合及词向量集合构建节点和边，得到文本结构图，并构建中继节点将节点与边进行连接，使得各个不相邻的节点都是彼此的二阶节点，构图更加灵活且无需使用庞大且固定格式的文本结构图，减少运算量；此外，利用预训练完成的文本识别模型，进一步对通过前述操作构建的文本结构图进行分析，从提高文本分析的效率，增加文本分析的灵活度和计算量。因此，本发明实施例可以增加文本分析的灵活度、减小文本分析的计算量。
附图说明
44.图1为本发明一实施例提供的文本不良信息识别方法的流程示意图；
45.图2为图1提供的文本不良信息识别方法中一个步骤的详细流程图；
46.图3为本发明一实施例提供的文本不良信息识别装置的模块示意图；
47.图4为本发明一实施例提供的实现文本不良信息识别方法的电子设备的内部结构示意图；
48.本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
49.应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
50.本技术实施例提供一种文本不良信息识别方法。所述文本不良信息识别方法的执行主体包括但不限于服务端、终端等能够被配置为执行本技术实施例提供的该方法的电子设备中的至少一种。换言之，所述文本不良信息识别方法可以由安装在终端设备或服务端设备的软件或硬件来执行，所述软件可以是区块链平台。所述服务端包括但不限于：单台服务器、服务器集群、云端服务器或云端服务器集群等。
51.参照图1所示，为本发明一实施例提供的文本不良信息识别方法的流程示意图。在本实施例中，所述文本不良信息识别方法包括：
52.s1、获取待识别文本。
53.本发明实施例中，所述待识别文本为需要进行不良信息识别的文本。
54.例如，待识别文本为新闻发布之前需要进行文件识别的预构建的文本。
55.具体的，待识别文本可以从指定服务器(例如聊天服务器)获取，也可以是随机从网站或应用程序中获取的，或者是通过语音识别技术转换得到的文本信息。
56.s2、通过字符向量化方式和分词方式分别对所述待识别文本进行处理，得到字向量集合与词向量集合。
57.详细地，本发明实施例中，所述通过字符向量化方式和分词方式分别对所述待识别文本进行处理，得到字向量集合与词向量集合，包括：
58.利用预构建的语言模型对所述待识别文本进行字符提取和向量化处理，得到所述字向量集合；
59.利用预构建的分词工具将所述待识别文本进行分词处理，得到所述词向量集合。
60.本发明实施例中，所述字向量集合及所述词向量集合为待识别文本经过预构建的bert文本分析模型及jieba分词工具的处理得到的。
61.例如，输入的待识别文本为“武汉市长江大桥”。通过所述bert文本分析模型，可以得到字向量集为【“武”，“汉”，“市”，
……
，“桥”】，再将文本“武汉市长江大桥”输入所述jieba分词工具，得到的词向量集合为【“武汉”，“武汉市”，“市长”，“长江
”……
】。
62.s3、将所述字向量集合中各个字向量作为节点进行连接，将所述词向量集合中词向量作为字与字的连接的边，将所有的节点与边都连接至预构建的中继节点上，得到文本结构图。
63.本发明实施例构建一节点作为中继节点，将各个节点均连接至所述中继节点，得到文本结构图，使得任意不相连的节点都是彼此的二阶节点。
64.详细地，本发明实施例中，所述将所述字向量集合中各个字向量作为节点进行连接，将所述词向量集合中词向量作为字与字的连接的边，将所有的节点与边都连接至预构建的中继节点上，得到文本结构图，包括：
65.s31、将所述字向量集合中多个字向量设置为节点，所述节点的初始值为所述节点对应的字向量；
66.s32、将所述词向量集合中各个词向量和组成各个词向量的字向量进行运算，通过运算结果更新各个字向量对应的节点中的初始值。
67.本发明实施例中，各个字或词的量化值为【c1：“武”，c2：“汉”，c3：“市”，
……
，c7：“桥”】，【e12：“武汉”，e13：“武汉市”，e34：“市长”，e45“长江
”……
】，将词向量集合中各个词向量和组成各个词向量的字向量进行运算，得到【c1*(e12 e13)：“武”，c2*(e12 e13)：“汉”，c3*(e13 e34)：“市”，
……
】，并将【c1*(e12 e13)，c2*(e12 e13)，c3*(e13 e34)，
……
】赋值至各个节点中替换原来各个节点中的初始值，例如将“c1*(e12 e13)”赋值至“武”，将“c2*(e12 e13)”赋值至“汉”。
68.s33、将所述字向量集合中组成各个词向量的字向量分别连接，将连接字向量的边的值设置为由相连接的字向量组成的词向量。
69.本发明实施例中，利用边将各个边对应的节点进行连接，构建一个图。其中，节点的赋值为前述步骤s32中运算得到的结果，边的赋值为对应的词向量。
70.s34、构建中继节点，将各个所述边及没有边连接的节点分别与所述中继节点进行
连接，得到文本结构图。
71.本发明实施例中，将各个没有组成词的字向量及每个词向量分别连接至所述中继节点，得到所述文本结构图，则所有的边和字节点都相连接，从而使得每个节点都是彼此的二级节点。
72.s4、利用预训练的文本识别模型对所述文本结构图进行分析，得到所述待识别文本中存在不良信息的得分值。
73.本发明实施例中，所述文本识别模型是基于transform模型框架构建的多头注意力图神经网络模型，可以鉴别文本中是否含有不良信息，例如是否含有“黄反”内容。
74.详细地，本发明实施例中，所述利用预训练的文本识别模型对所述文本结构图进行分析，得到所述待识别文本中存在不良信息的得分值，包括：
75.对所述文本结构图进行特征提取，得到每个边或节点的特征值；
76.对各个节点与连接各个所述节点的边的所述特征值进行加权运算，通过遍历所述文本结构图中每个节点，获取每个节点对于所述中继节点的相对关系向量；
77.利用所述文本识别模型中的激活函数对所述相对关系向量进行不良信息识别，得到所述待识别文本中有不良信息的得分值。
78.所述文本识别模型通过多头注意力机制对所述文本结构图中各个节点的向量进行向量运算，得到每个节点的与所述中继节点的相对关系向量。再将各个节点的所述相对关系向量导入包含多头图注意力神经网络中的全连接层进行网络激活，生成预设维数的向量结果，再将所述向量结果经过逻辑回归函数处理，得到1*2维的向量，即各个节点的不良信息类型及正常类别概率。
79.详细地，本发明实施例中，所述利用预训练的文本识别模型对所述文本结构图进行分析之前，所述方法还包括：
80.步骤i、获取包含特征提取网络、多头注意力图神经网络的待训练文本识别模型；
81.本发明实施例中在transform模型框架上依次连接所述全连接层、所述图注意力神经网络、所述样本文本结构图，得到待训练文本识别模型。其中所述图注意力神经网络中包含基于lstm门控的图更新过程，通过下述函数对所述节点及所述连线进行更新：
[0082][0083][0084][0085][0086][0087]
其中，表示预设窗口范围内邻接向量的拼接操作，例如，窗口大小预设为2。三个门控结构代表在第t轮迭代中控制全局特征向第i个字符表示的信息流动，从而调节词语的权值，缓解序列上边界模糊的问题。控制第i
‑
1个字符在t
‑
1轮迭代中的
特征有多少被传入到第t轮迭代更新中的第i个字符中，控制第i个字符在t
‑
1轮迭代中的特征有多少被传入到第t轮迭代更新中的第i个字符中，控制t
‑
1轮迭代中聚合前后的第i
‑
1个字符，第i个字符有多少被传入到第t轮迭代更新中的第i个字符中。
[0088]
最终，所述多头注意力图网络神经网络可以得到文本中每个字符的表示，即每个节点表示每个字，每个节点的值就是最终每个字符的表示。
[0089]
步骤ii、将预构建的训练样本集导入所述待训练文本识别模型中，利用所述特征提取网络对所述训练样本集进行特征提取，得到特征序列集及文本标签集；
[0090]
步骤iii、利用所述多头注意力图神经网络分析所述特征序列集，得到预测结果集；
[0091]
步骤iv、根据所述文本标签集，计算所述预测结果集的方差值，当所述方差值大于预设的第二阈值，调整所述待训练文本识别模型的内部参数，返回至步骤ii的操作，直至所述方差值小于所述第二阈值，得到所述预训练的文本识别模型。
[0092]
详细地，本发明实施例中，所述根据所述文本标签集，计算所述预测结果集的方差值，当所述方差值大于预设的第二阈值，调整所述待训练文本识别模型的内部参数，包括：
[0093]
将所述文本标签集及所述预测结果集映射至同一二维平面，计算所述文本标签集与所述预测结果集之间的方差值；
[0094]
当所述方差值大于所述第二阈值，判定所述方差值未收敛，利用所述方差值调整所述待训练文本识别模型中的回归函数。
[0095]
本发明实施例中，当所述评估结果小于所述预设阈值时，表明所述待训练文本识别模型训练完成，得到训练好的文本识别模型，即预训练的文本识别模型。
[0096]
s5、判断所述得分值是否大于预设的第一阈值，当所述得分值大于所述第一阈值时，确定所述待识别文本中存在不良信息。
[0097]
详细地，本发明实施例中，所述判断所述得分值是否大于预设的第一阈值，当所述得分值大于所述第一阈值时，确定所述待识别文本中存在不良信息，包括：
[0098]
对所述得分值进行归一化运算，得到归一值；
[0099]
当所述归一值大于所述第一阈值时，确定所述待识别文本中存在不良信息。
[0100]
进一步的，当所述归一值小于所述第一阈值时，确定所述待识别文本中不良信息的概率较小，判定所述待识别文本中没有不良信息。
[0101]
具体的，本发明实施例中，利用所述文本识别模型对所述文章文本进行打分，通过对得分值进行划分，可以进一步判断待发布文本中是否有不良信息，增加检测结果准确性。
[0102]
本发明实施例中，通过归一化算法将得分值转变为0～1直接的归一值，使得所述文本识别模型的识别结果更清晰。
[0103]
本发明实施例通过对待识别文本进行预处理，获取字向量集合及词向量集合，基于所述字向量集合及词向量集合构建节点和边，得到文本结构图，并构建中继节点将节点与边进行连接，使得各个不相邻的节点都是彼此的二阶节点，构图更加灵活且无需使用庞大且固定格式的文本结构图，减少运算量；此外，利用预训练完成的文本识别模型，进一步对通过前述操作构建的文本结构图进行分析，从提高文本分析的效率，增加文本分析的灵活度和计算量。因此，本发明实施例可以增加文本分析的灵活度、减小文本分析的计算量。
[0104]
如图3所示，是本发明文本不良信息识别装置的模块示意图。
[0105]
本发明所述文本不良信息识别装置100可以安装于电子设备中。根据实现的功能，所述文本不良信息识别装置可以包括文本预处理模块模块101、文本结构图构建模块102、文本分析模块103、结果判断模块104。本发明所述模块也可以称之为单元，是指一种能够被电子设备处理器所执行，并且能够完成固定功能的一系列计算机程序段，其存储在电子设备的存储器中。
[0106]
在本实施例中，关于各模块/单元的功能如下：
[0107]
所述文本预处理模块模块101，用于获取待识别文本，及通过字符向量化方式和分词方式分别对所述待识别文本进行处理，得到字向量集合与词向量集合。
[0108]
本发明实施例中，所述装置项文本预处理模块模块101，包含文本获取单元及文本处理单元。
[0109]
所述文本获取单元，用于获取待识别文本。
[0110]
本发明实施例中，所述待识别文本为需要进行不良信息识别的文本。
[0111]
例如，待识别文本为新闻发布之前需要进行文件识别的预构建的文本。
[0112]
具体的，待识别文本可以从指定服务器(例如聊天服务器)获取，也可以是随机从网站或应用程序中获取的，或者是通过语音识别技术转换得到的文本信息。
[0113]
所述文本处理单元，用于通过字符向量化方式和分词方式分别对所述待识别文本进行处理，得到字向量集合与词向量集合。
[0114]
详细地，本发明实施例中，所述通过字符向量化方式和分词方式分别对所述待识别文本进行处理，得到字向量集合与词向量集合，所述所述文本处理单元具体用于：
[0115]
利用预构建的语言模型对所述待识别文本进行字符提取和向量化处理，得到所述字向量集合；
[0116]
利用预构建的分词工具将所述待识别文本进行分词处理，得到所述词向量集合。
[0117]
本发明实施例中，所述字向量集合及所述词向量集合为待识别文本经过预构建的bert文本分析模型及jieba分词工具的处理得到的。
[0118]
例如，输入的待识别文本为“武汉市长江大桥”。通过所述bert文本分析模型，可以得到字向量集为【“武”，“汉”，“市”，
……
，“桥”】，再将文本“武汉市长江大桥”输入所述jieba分词工具，得到的词向量集合为【“武汉”，“武汉市”，“市长”，“长江
”……
】。
[0119]
所述文本结构图构建模块102，用于将所述字向量集合中各个字向量作为节点进行连接，将所述词向量集合中词向量作为字与字的连接的边，将所有的节点与边都连接至预构建的中继节点上，得到文本结构图。
[0120]
本发明实施例构建一节点作为中继节点，连接各个节点均连接至所述中继节点，得到所述样本文本结构图，使得任意不相连的节点都是彼此的二阶节点。
[0121]
详细地，本发明装置项中，所述将所述字向量集合中各个字向量作为节点进行连接，将所述词向量集合中词向量作为字与字的连接的边，将所有的节点与边都连接至预构建的中继节点上，得到文本结构图，所述文本结构图构建模块102具体用于：
[0122]
将所述字向量集合中多个字向量设置为节点，所述节点的初始值为所述节点对应的字向量；
[0123]
将所述词向量集合中各个词向量和组成各个词向量的字向量进行运算，通过运算
结果更新各个字向量对应的节点中的初始值。
[0124]
本发明实施例中，各个字或词的量化值，如【c1：“武”，c2：“汉”，c3：“市”，
……
，c7：“桥”】，【e12：“武汉”，e13：“武汉市”，e34：“市长”，e45“长江
”……
】，利用所述词向量集合对所述字向量集合进行向量运算，得到运算结果为【c1*(e12 e13)：“武”，c2*(e12 e13)：“汉”，c3*(e13 e34)：“市”，
……
】，并将【c1*(e12 e13)，c2*(e12 e13)，c3*(e13 e34)，
……
】赋值至各个节点中替换原来各个节点中的初始值。
[0125]
将所述字向量集合中组成各个词向量的字向量分别连接，将连接字向量的边的值设置为由相连接的字向量组成的词向量。
[0126]
本发明实施例中，利用边将各个边对应的节点进行连接，构建一个图。其中，节点的赋值为前述步骤2中运算得到的结果，边的赋值为对应的词向量。
[0127]
构建中继节点，将各个所述边及没有边连接的节点分别与所述中继节点进行连接，得到文本结构图。
[0128]
本发明实施例中，将各个没有组成词的字向量及每个词向量分别连接至所述中继节点，得到所述文本结构图，则所有的边和字节点都相连接，从而使得每个节点都是彼此的二级节点。
[0129]
所述文本分析模块103，用于利用预训练的文本识别模型对所述文本结构图进行分析，得到所述待识别文本中存在不良信息的得分值。
[0130]
本发明实施例中，所述文本识别模型是基于transform模型框架构建的多头注意力图神经网络模型，可以鉴别文本中是否含有不良信息，例如是否含有“黄反”内容。
[0131]
详细地，本发明实施例中，所述利用预训练的文本识别模型对所述文本结构图进行分析，得到所述待识别文本中存在不良信息的得分值，包括：
[0132]
对所述文本结构图进行特征提取，得到每个边或节点的特征值；
[0133]
对各个节点与连接各个所述节点的边的所述特征值进行加权运算，通过遍历所述文本结构图中每个节点，获取每个节点对于所述中继节点的相对关系向量；
[0134]
利用所述文本识别模型中的激活函数对所述相对关系向量进行不良信息识别，得到所述待识别文本中有不良信息的得分值。
[0135]
所述文本识别模型通过多头注意力机制对所述文本结构图中各个节点的向量进行向量运算，得到每个节点的与所述中继节点的相对关系向量。再将各个节点的所述相对关系向量导入包含多头图注意力神经网络中的全连接层进行网络激活，生成预设维数的向量结果，再将所述向量结果经过逻辑回归函数处理，得到1*2维的向量，即各个节点的不良信息类型及正常类别概率。
[0136]
详细地，本发明实施例中，所述利用预训练的文本识别模型对所述文本结构图进行分析之前，所述文本分析模块103还能用于：
[0137]
获取包含特征提取网络、多头注意力图神经网络的待训练文本识别模型；
[0138]
本发明实施例中在transform模型框架上依次连接所述全连接层、所述图注意力神经网络、所述样本文本结构图，得到待训练文本识别模型。其中所述图注意力神经网络中包含基于lstm门控的图更新过程，通过下述函数对所述节点及所述连线进行更新：
[0139]
[0140][0141][0142][0143][0144]
其中，表示预设窗口范围内邻接向量的拼接操作，例如，窗口大小预设为2。三个门控结构代表在第t轮迭代中控制全局特征向第i个字符表示的信息流动，从而调节词语的权值，缓解序列上边界模糊的问题。控制第i
‑
1个字符在t
‑
1轮迭代中的特征有多少被传入到第t轮迭代更新中的第i个字符中，控制第i个字符在t
‑
1轮迭代中的特征有多少被传入到第t轮迭代更新中的第i个字符中，控制t
‑
1轮迭代中聚合前后的第i
‑
1个字符，第i个字符有多少被传入到第t轮迭代更新中的第i个字符中。
[0145]
最终，所述图网络神经网络可以得到文本中每个字符的表示，即每个节点表示每个字，每个节点的值就是最终每个字符的表示。
[0146]
将预构建的训练样本集导入所述待训练文本识别模型中，利用所述特征提取网络对所述训练样本集进行特征提取，得到特征序列集及文本标签集；
[0147]
利用所述多头注意力图神经网络分析所述特征序列集，得到预测结果集；
[0148]
根据所述文本标签集，计算所述预测结果集的方差值，当所述方差值大于预设的第二阈值，调整所述待训练文本识别模型的内部参数，返回至步骤ii的操作，直至所述方差值小于所述第二阈值，得到所述预训练的文本识别模型。
[0149]
详细地，本发明实施例中，所述根据所述文本标签集，计算所述预测结果集的方差值，当所述方差值大于预设的第二阈值，调整所述待训练文本识别模型的内部参数，包括：
[0150]
将所述文本标签集及所述预测结果集映射至同一二维平面，计算所述文本标签集与所述预测结果集之间的方差值；
[0151]
当所述方差值大于所述第二阈值，判定所述方差值未收敛，利用所述方差值调整所述待训练文本识别模型中的回归函数。
[0152]
本发明实施例中，当所述评估结果小于所述预设阈值时，表明所述待训练文本识别模型训练完成，得到训练好的文本识别模型，即预训练的文本识别模型。
[0153]
所述结果判断模块104，用于判断所述得分值是否大于预设的第一阈值，当所述得分值大于所述第一阈值时，确定所述待识别文本中存在不良信息。
[0154]
详细地，本发明实施例中，所述判断所述得分值是否大于预设的第一阈值，当所述得分值大于所述第一阈值时，确定所述待识别文本中存在不良信息，所述结果判断模块104具体用于：
[0155]
对所述得分值进行归一化运算，得到归一值；
[0156]
当所述归一值大于所述第一阈值时，确定所述待识别文本中存在不良信息。
[0157]
进一步的，当所述归一值小于所述第一阈值时，确定所述待识别文本中不良信息
的概率较小，判定所述待识别文本中没有不良信息。
[0158]
具体的，本发明实施例中，利用所述文本识别模型对所述文章文本进行打分，通过对得分值进行划分，可以进一步判断待发布文本中是否有不良信息，增加检测结果准确性。
[0159]
本发明实施例中，通过归一化算法将得分值转变为0～1直接的归一值，使得所述文本识别模型的识别结果更清晰。
[0160]
本发明实施例通过对待识别文本进行预处理，获取字向量集合及词向量集合，基于所述字向量集合及词向量集合构建节点和边，得到文本结构图，并构建中继节点将节点与边进行连接，使得各个不相邻的节点都是彼此的二阶节点，构图更加灵活且无需使用庞大且固定格式的文本结构图，减少运算量；此外，利用预训练完成的文本识别模型，进一步对通过前述操作构建的文本结构图进行分析，从提高文本分析的效率，增加文本分析的灵活度和计算量。因此，本发明实施例可以增加文本分析的灵活度、减小文本分析的计算量。
[0161]
如图4所示，是本发明实现文本不良信息识别方法的电子设备的结构示意图。
[0162]
所述电子设备1可以包括处理器10、存储器11和总线，还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序，如文本不良信息识别程序12。
[0163]
其中，所述存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如：sd或dx存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元，例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备，例如电子设备1上配备的插接式移动硬盘、智能存储卡(smart media card，smc)、安全数字(secure digital，sd)卡、闪存卡(flash card)等。进一步地，所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据，例如文本不良信息识别程序12的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
[0164]
所述处理器10在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器(central processing unit，cpu)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(control unit)，利用各种接口和线路连接整个电子设备的各个部件，通过运行或执行存储在所述存储器11内的程序或者模块(例如执行文本不良信息识别程序等)，以及调用存储在所述存储器11内的数据，以执行电子设备1的各种功能和处理数据。
[0165]
所述总线可以是外设部件互连标准(peripheral component interconnect，简称pci)总线或扩展工业标准结构(extended industry standard architecture，简称eisa)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
[0166]
图4仅示出了具有部件的电子设备，本领域技术人员可以理解的是，图4示出的结构并不构成对所述电子设备1的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
[0167]
例如，尽管未示出，所述电子设备1还可以包括给各个部件供电的电源(比如电池)，优选地，电源可以通过电源管理装置与所述至少一个处理器10逻辑相连，从而通过电
源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、wi
‑
fi模块等，在此不再赘述。
[0168]
进一步地，所述电子设备1还可以包括网络接口，可选地，所述网络接口可以包括有线接口和/或无线接口(如wi
‑
fi接口、蓝牙接口等)，通常用于在该电子设备1与其他电子设备之间建立通信连接。
[0169]
可选地，该电子设备1还可以包括用户接口，用户接口可以是显示器(display)、输入单元(比如键盘(keyboard))，可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是led显示器、液晶显示器、触控式液晶显示器以及oled(organic light
‑
emitting diode，有机发光二极管)触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
[0170]
应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。
[0171]
所述电子设备1中的所述存储器11存储的文本不良信息识别程序12是多个计算机程序的组合，在所述处理器10中运行时，可以实现：
[0172]
获取待识别文本；
[0173]
通过字符向量化方式和分词方式分别对所述待识别文本进行处理，得到字向量集合与词向量集合；
[0174]
将所述字向量集合中各个字向量作为节点进行连接，将所述词向量集合中词向量作为字与字的连接的边，将所有的节点与边都连接至预构建的中继节点上，得到文本结构图；
[0175]
利用预训练的文本识别模型对所述文本结构图进行分析，得到所述待识别文本中存在不良信息的得分值；
[0176]
判断所述得分值是否大于预设的第一阈值，当所述得分值大于所述第一阈值时，确定所述待识别文本中存在不良信息。
[0177]
进一步地，所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。所述计算机可读存储介质可以是易失性的，也可以是非易失性的。例如，所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、u盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(rom，read
‑
only memory)。
[0178]
进一步地，所述计算机可用存储介质可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序等；存储数据区可存储根据区块链节点的使用所创建的数据等。
[0179]
本发明还提供一种计算机可读存储介质，所述可读存储介质存储有计算机程序，所述计算机程序在被电子设备的处理器所执行时，可以实现：
[0180]
获取待识别文本；
[0181]
通过字符向量化方式和分词方式分别对所述待识别文本进行处理，得到字向量集合与词向量集合；
[0182]
将所述字向量集合中各个字向量作为节点进行连接，将所述词向量集合中词向量作为字与字的连接的边，将所有的节点与边都连接至预构建的中继节点上，得到文本结构图；
[0183]
利用预训练的文本识别模型对所述文本结构图进行分析，得到所述待识别文本中存在不良信息的得分值；
[0184]
判断所述得分值是否大于预设的第一阈值，当所述得分值大于所述第一阈值时，确定所述待识别文本中存在不良信息。
[0185]
在本发明所提供的几个实施例中，应该理解到，所揭露的设备，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
[0186]
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
[0187]
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
[0188]
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。
[0189]
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图表记视为限制所涉及的权利要求。
[0190]
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
[0191]
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。
[0192]
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。