一种基于BERT模型的移动通信网络故障智能识别方法、装置、存储介质和系统

摘要: 本发明涉及移动网络通信,具体涉及一种基于bert模型的移动通信网络故障智能识别方法、装置、存储介质和系统。背景技术:1、在移动通信网络的实际应用中,面临的挑战之...
一种基于BERT模型的移动通信网络故障智能识别方法、装置、存储介质和系统

本发明涉及移动网络通信,具体涉及一种基于bert模型的移动通信网络故障智能识别方法、装置、存储介质和系统。

背景技术:

1、在移动通信网络的实际应用中,面临的挑战之一便是网络故障的准确识别与快速处理。各种故障的快速出现会对网络服务的关键性能指标造成显著影响,从而降低用户体验,譬如,基站退服、远端射频单元(rru)退服、小区退服等故障类型。现有相关技术中,多采用传统或者监督学习的方式来解决该问题。通过网络故障记录的kpi以及对应的故障原因形成的数据集来训练各分类器模型,以后通过分类器模型来完成故障诊断。而常见的故障诊断模型有基于支持向量机、基于随机森林或串联神经网络的故障诊断模型等。然而,在实际故障诊断中,标记由故障原因的kpi数据难以获取,使得利用监督学习来构造故障分析与诊断模型的过程难以实施,且最终得到的诊断模型效果不佳。

2、现有技术通过多种方法应对移动通信网络故障的检测与诊断,其中包括传统的监测手段以及基于数据驱动的机器学习技术。在传统方面,依靠对网络的监视和历史数据分析来预测和识别故障。而机器学习技术则是通过收集网络故障时产生的kpi数据及其对应的故障原因,进一步构建数据集。这些数据集用于监督学习方法,以训练出能够进行故障诊断的分离器模型。在这一领域内,最为常见的故障诊断模型包括基于支持向量机、随机森林等机器学习算法。然而,这些方法通常面临获取准确标记数据困难、实时性差等问题,这些挑战使得监督学习的实施变得更为复杂,并可能影响最终诊断模型的效能。

3、为了克服现有方法的不足并优化故障诊断流程,已有一些专利提出了创新的故障诊断方法及装置。专利申请号cn202110898063.3公开了一种移动通信网络的智能诊断方法及装置,该技术属于互联网信息安全技术领域。此发明的亮点在于运用智能化的手段,优化移动通讯网络故障的检测流程:首先获取移动通信网络的关键性能指标数据,并对关键性能指标数据进行预处理,以生成训练样本和测试样本。然后构建以初级网络的获胜神经元位置为次级网络的输入,形成串联神经网络模型;接着采取粒子群算法对该网络初始权值和节点阈值进行优化,完成模型训练。最后,将测试样本投入训练完毕的模型,实施移动通信网络的故障诊断。该方案的优点在于能有效降低产生训练样本的成本,缩短神经网络模型建立的周期,同时提升故障诊断的实时性和准确性。

4、专利申请号cn202011039870.1,公开了一种基于移动通信数据的移动通信网络故障定位方法及系统。该方法通过对移动通信网络建立移动通信网络模型,并结合移动通信网络模型中基于故障模拟方法对所述故障告警信息深入分析,从而锁定发出所述故障告警信息的节点。根据发出所述故障告警信息的节点,对移动通信网络故障进行定位。本发明通过建立移动通信网络模型,并基于故障模拟的方法,可以快速和精准的定位出故障发生的位置,为后期运维人员提供精确的操作依据,提高故障定位的效率和精确度。

5、现有的移动通信网络故障识别方法主要存在以下几点问题:

6、(1).现有移动通信网络故障数据量呈指数级增长,人工标注数据不仅耗时而且质量低下,且受到主观判断的影响较大。

7、由于缺乏高效的移动通信网络故障识别方法,现有的解决方案在处理规模庞大及复杂的网络故障数据时,往往无法保证实时性和准确性,性能不佳。这增加了网络安全事件被诊断和处理的难度,意味着现有方法不能满足广泛的移动通信网络故障检测需求。因此,这些方法不仅造成了大量的人力和物力成本,还可能无法达到预期的效果。在高强度工作下,还可能难以有效地应对潜在移动通信网络故障异常进行实时发现并开展有效地应对措施。

8、(2).现有移动通信网络故障呈现出分类繁多且复杂的特性,给移动通信网络故障检测和安全巡检管理带来了挑战,面对移动通信网络故障特征表示多元性和复杂性规则,缺乏系统化的移动通信网络故障异常智能分类识别手段和方法。

9、移动通信网络故障表现出种类繁多和数量巨大的特征,这使得运营商和管理团队必须同时应对各种潜在的威胁。这些安全风险涵盖了移动通信网络故障的多样性和海量数据等方面。每一种移动通信网络故障异常都可能对网络安全服务产生不同程度的影响,因此需要进行仔细的甄别和有效的管理。

10、然而,移动通信网络故障不仅存在单独的异常,还涉及数量众多的关联异常,这增加了移动通信网络故障识别的复杂性和难度。为了有效应对这一挑战,迫切需要运用先进的知识发现和人工智能技术,构建智能识别系统,以实时监测并识别潜在的移动通信网络故障异常风险。这样的系统将有助于提高运营商和管理团队对网络安全的响应能力,确保网络在面对多样化和复杂化的安全威胁时能够迅速做出相应的应对措施。

技术实现思路

1、本发明的目的是提供一种基于bert模型的移动通信网络故障智能识别方法、装置、存储介质和系统,通过智能识别网络场景下各类潜在移动通信网络故障信息的基础数据,解决背景技术中问题。

2、本发明首先建立了移动通信网络故障特征的表示和分类规则。随后,根据实地收集的各类移动通信网络故障基础数据,构建了一个全面而丰富的训练数据集。最后,设计了基于bert-ft循环神经网络智能算法,以自编码语言建模作为预训练目标来增强其对复杂上下文信息的理解能力,并构建了智能识别模型。借助这一模型,能够有效地对现有实时场景下的移动通信网络故障数据进行智能分类与识别,从而输出全面、准确和客观的各类移动通信网络故障异常信息。本发明方法不仅提高了对移动网络故障的准确分类能力,而且为更有效地处理大规模移动网络故障数据提供了可行的解决方案。

3、为了达到上述目的,本发明提供了一种基于bert模型的移动通信网络故障智能识别方法,包括:

4、步骤1.建立网络故障特征表示以及分类规则库,构建相应训练数据集,利用数据集对bert-ft模型进行训练;

5、步骤2.利用bert-ft模型对移动通信网络故障数据进行识别,提取关键信息输出识别结果;

6、步骤3. 利用前端呈现识别结果。

7、进一步的,步骤1规则库以制式为基础,将告警信息进行分类,提取各类特征信息,通过定义分词函数tokenize来对输入的移动通信网络故障字符串进行分词处理,以特殊符号为分割标准,实现分词。

8、进一步的,步骤1中bert-ft模型训练:

9、设置训练的参数,开始循环训练,将优化器清零,输入模型得到lgit,将得到的logit和真实的标签做一个损失函数计算,然后再进行反向传播,最后更新优化器参数,开始学习率的调度,计算总的损失值和准确率,进行验证集验证,根据每一次验证集上的准确率的对比情况来保存最好的结果,在模型优化过程中,模型会将这些预测结果与真实标签进行比较,并通过反向传播和优化算法来不断调整模型参数,至得到最佳模型,并保存参数。

10、进一步的,步骤1中构建训练数据集包括:

11、(1).数据集预处理:

12、读取标准格式文件打包为examples对象,将examples对象转换成features;

13、(2).网络超参数设定:开始时,选择warmup预热学习率,待模型稳定后,选择预先设置的学习率进行训练,得到最优的网络超参数和模型;

14、(3).长信息处理:

15、采用head+tail截断方式对长信息进行处理。

16、进一步的,步骤2还包括将bert-ft未识别的一同通信网络故障数据反馈至前端进一步进行确认。

17、进一步的,确认有效,则完善分类规则,不断完善训练集,提升模型的识别能力。

18、进一步的,确认无效,后端服务器向前端反馈无法识别或者识别结果异常,并重新执行网络故障特征检测。

19、根据本技术的再一方面,提供一种基于bert模型的移动通信网络故障智能识别装置,包括前端用户模块,获取并反馈上传待识别移动通信网络故障信息;

20、分析与处理模块,利用预先训练好的bert-ft模型对上传的待识别移动通信网络故障信息进行识别处理,并将识别后的结果反馈给前端用户模块。

21、根据本技术的再一方面,提供一种计算机可读存储介质,所述计算机可读存储介质包括存储的程序,其中,在所述程序运行时控制所述计算机可读存储介质所在设备执行上述基于bert模型的移动通信网络故障智能识别方法的步骤。

22、根据本技术的再一方面,提供一种网络故障识别系统,包括处理器和存储器,储存器内存储有计算机程序,当处理器执行计算机程序时,执行上述基于bert模型的移动通信网络故障智能识别方法的步骤。

23、本发明的有益效果:

24、1.本发明解决了现有的移动通信网络故障异常识别主要依赖于人工统计特征手段进行特定分析并记录导致低效且不准确等问题。

25、2.本发明提出的移动通信网络故障异常智能识别手段和方法,系统化的建立了移动通信网络故障特征表示分类规则,并给出了相应识别模型,能够快速而准确地识别现有移动通信网络故障存在的各类异常风险,相对于传统的手动特征识别或现有智能分析手段,具备更全面、更系统和更高效的特点。

26、3.本发明阐明了具体的实施方法原理和呈现方式,可有效为实现智能化、便捷化的网络故障识别提供具体方法。