一种识别恶意语音信息的方法、装置、介质和设备

技术特征：
1.一种识别恶意语音信息的方法，其特征在于，所述方法包括：采集被监控群组的实时会话数据，并基于所述实时会话数据，绘制所述被监控群组的情绪曲线；按照参与会话人员将所述实时会话数据进行拆分，得到每一个所述参与会话人员的会话数据，基于各所述会话人员的会话数据，绘制所述会话人员的情绪曲线；当所述被监控群组中存在会话人员的情绪曲线与所述被监控群组的情绪曲线的偏差大于预设偏差值时，将所述会话人员作为重点监控人员；对所述重点监控人员的会话数据进行声纹特征识别，得到所述重点监控人员的声纹特征信息，并利用预置算法从所述重点监控人员的会话数据中抽取语料特征信息；根据预设安全规则，对所述重点监控人员的声纹特征信息和所述语料特征信息进行安全检查，确定所述重点监控人员的声纹特征信息和所述语料特征信息中是否包含恶意信息或恶意语气，其中所述预设安全规则中包括文字和语气中至少一种类型的规则。2.根据权利要求1所述的识别恶意语音信息的方法，其特征在于，所述基于所述实时会话数据，绘制所述被监控群组的情绪曲线，具体包括：按照所述实时会话数据的时间顺序，对所述实时会话数据进行语调识别，根据所述语调识别结果，确定所述实时会话数据中的情绪状态，所述情绪状态包括平静、高兴、难过、生气和害怕，根据所述情绪状态，按照所述实时会话数据的时间顺序绘制所述被监控群组的情绪曲线，其中分别设置所述情绪状态中的各个状态的预设值。3.根据权利要求2所述的识别恶意语音信息的方法，其特征在于，所述基于各所述会话人员的会话数据，绘制所述会话人员的情绪曲线，具体包括：按照所述实时会话数据的时间顺序，对所述会话人员的实时会话数据进行语调识别，根据所述语调识别结果，确定所述实时会话数据中的情绪状态，所述情绪状态包括平静、高兴、难过、生气和害怕，根据所述情绪状态，按照所述实时会话数据的时间顺序绘制所述会话人员的情绪曲线。4.根据权利要求3所述的识别恶意语音信息的方法，其特征在于，所述当所述被监控群组中存在会话人员的情绪曲线与所述被监控群组的情绪曲线的偏差大于预设偏差值时，将所述会话人员作为重点监控人员，具体包括：将所述被监控群组中存在会话人员的情绪曲线与所述被监控群组的情绪曲线进行偏差比较，得到时序偏差数据；判断所述时序偏差数据中是否有大于预设偏差值的偏差数据；若是，则将所述会话人员作为重点监控人员。5.根据权利要求4所述的识别恶意语音信息的方法，其特征在于，所述对所述重点监控人员的会话数据进行声纹特征识别，得到所述重点监控人员的声纹特征信息，并利用预置算法从所述重点监控人员的会话数据中抽取语料特征信息，具体包括：利用已建立的声纹模型对所述重点监控人员的会话数据进行声纹识别，得到所述重点监控人员的声纹特征信息；将所述重点监控人员的会话数据转换为文本信息，对所述文本信息进行分词，得到多
个词汇；将所述词汇分别作为已训练的词模型的输入，得到所述词汇对应的词嵌入特征，从而得到所述重点监控人员的语料特征信息。6.根据权利要求5所述的识别恶意语音信息的方法，其特征在于，所述根据预设安全规则，对所述重点监控人员的声纹特征信息和所述语料特征信息进行安全检查，确定所述重点监控人员的声纹特征信息和所述语料特征信息中是否包含恶意信息或恶意语气，具体包括：计算所述重点监控人员的声纹特征信息与所述预设安全规则中预警声纹特征信息之间的相似度，若所述相似度值大于预设相似度阈值，则所述重点监控人员的声纹特征信息中存在恶意语气；判断所述语料特征信息中是否存在所述预设安全规则中的恶意信息，若是，则所述语料特征信息中包括所述恶意信息。7.一种识别恶意语音信息的装置，其特征在于，所述装置包括：采集模块，用于采集被监控群组的实时会话数据；分析模块，用于基于所述实时会话数据，绘制所述被监控群组的情绪曲线；按照参与会话人员将所述实时会话数据进行拆分，得到每一个所述参与会话人员的会话数据，基于各所述会话人员的会话数据，绘制所述会话人员的情绪曲线；当所述被监控群组中存在会话人员的情绪曲线与所述被监控群组的情绪曲线的偏差大于预设偏差值时，将所述会话人员作为重点监控人员；判定模块，用于对所述重点监控人员的会话数据进行声纹特征识别，得到所述重点监控人员的声纹特征信息，并利用预置算法从所述重点监控人员的会话数据中抽取语料特征信息；根据预设安全规则，对所述重点监控人员的声纹特征信息和所述语料特征信息进行安全检查，确定所述重点监控人员的声纹特征信息和所述语料特征信息中是否包含恶意信息或恶意语气，其中所述预设安全规则中包括文字和语气中至少一种类型的规则。8.根据权利要求7所述的识别恶意语音信息的装置，其特征在于，所述分析模块，具体用于按照所述实时会话数据的时间顺序，对所述实时会话数据进行语调识别，根据所述语调识别结果，确定所述实时会话数据中的情绪状态，所述情绪状态包括平静、高兴、难过、生气和害怕，根据所述情绪状态，按照所述实时会话数据的时间顺序绘制所述被监控群组的情绪曲线，其中分别设置所述情绪状态中的各个状态的预设值。9.一种存储介质，其上存储有计算机指令，其特征在于，所述计算机指令运行时执行权利要求1至6任一项所述的方法的步骤。10.一种终端，包括存储器和处理器，所述存储器上存储有可在所述处理器上运行的计算机指令，其特征在于，所述处理器运行所述计算机指令时执行权利要求1至6任一项所述的方法的步骤。

技术总结
本发明涉及一种识别恶意语音信息的方法，包括采集被监控群组的实时会话数据，当被监控群组中存在会话人员的情绪曲线与被监控群组的情绪曲线的偏差大于预设偏差值时，将会话人员作为重点监控人员；得到重点监控人员的声纹特征信息和语料特征信息；根据预设安全规则，对重点监控人员的声纹特征信息和语料特征信息进行安全检查，确定重点监控人员的声纹特征信息和语料特征信息中是否包含恶意信息或恶意语气。本发明实现了对微信群中的语音信息进行恶意信息的识别，以及对利用微信群进行恐吓威胁等行为的识别，保护了微信群的安全。本发明还涉及一种识别恶意语音信息的装置、一种存储介质和设备。储介质和设备。储介质和设备。


技术研发人员：吴昌明 管彦杰
受保护的技术使用者：中国人民公安大学
技术研发日：2022.01.28
技术公布日：2022/5/17