短信内容多级审核与智能敏感词过滤方法及系统与流程

本发明涉及短信内容安全，尤其涉及短信内容多级审核与智能敏感词过滤方法及系统。

背景技术：

1、短信内容审核是保障移动通信安全和防范垃圾信息的重要环节。现有常规审核做法以敏感词库为基础，通过关键词精确匹配和正则表达式规则对短信文本进行扫描，命中规则的内容被拦截或标记。为提升覆盖面，部分系统引入基于机器学习的文本分类模型，利用大量已标注短信训练分类器，对短信进行风险概率预测，再由人工审核人员对疑似内容进行复核。这类方法在部署时相对简单，能够处理明确包含敏感词汇的短信，也是当前多数短信服务平台采用的常规技术路线。随着通信网络的发展，短信内容形式日益多样，审核系统需要面对越来越多的规避手段，传统方法的局限性逐渐显现。

2、常规做法基于关键词和正则的匹配方式难以应对发送者刻意构造的变异文本，例如在敏感词之间插入特殊符号、使用同音字或近义字替代、将汉字拆分为偏旁部首等，这些变形方式会使规则匹配失效，导致风险短信绕过审核。固定规则和分类模型缺乏对语义上下文的理解，判断依据主要是局部词汇特征，容易将包含歧义或调侃语气的正常短信误判为风险，也会漏掉那些通过语义暗示表达风险内容的短信。常规审核策略对所有发送者采用同样的判定标准，未考虑发送者的历史信誉差异，使得大量低风险用户被重复审核，而高风险用户未能获得足够的监控力度，审核资源的分配效率较低。一些系统虽然引入人工复核机制，但人工审核效率受限于文本量，难以持续应对大规模短信流，进一步降低了审核的及时性和准确性。

技术实现思路

1、本发明实施例提供短信内容多级审核与智能敏感词过滤方法及系统，能够解决现有技术中的问题。

2、本发明实施例的第一方面，提供短信内容多级审核与智能敏感词过滤方法，包括：

3、对待审核短信进行多模态变形识别,得到语义重构文本;

4、基于所述语义重构文本的语义密度分布特征和短信发送者的历史信誉权重,构建审核决策树；

5、计算所述语义重构文本中各语义单元的风险传播系数,在所述审核决策树中为每个语义单元匹配对应的决策节点,沿所述审核决策树的分支路径动态确定当前语义单元对应的审核级别,生成所述待审核短信的审核路径;

6、按照所述审核路径执行相应的审核操作,输出所述语义单元的局部风险标签和可信度量值,遍历所述审核决策树的所有决策节点后汇总得到全局审核结果;

7、当所述全局审核结果存在风险时,构建所述语义重构文本的语义向量空间表示,生成多个对抗性扰动向量,沿所述对抗性扰动向量方向进行梯度探测,识别导致所述决策节点的判定结果发生突变的临界语义边界;

8、将位于所述临界语义边界的语义单元在保持所述语义重构文本主题向量方向不变的约束下,通过语义向量空间中的最近邻搜索确定合规替换词并替换,得到合规化短信内容。

9、对待审核短信进行多模态变形识别,得到语义重构文本，包括：

10、将每个字符的笔画连接关系映射为拓扑图结构，通过计算所述待审核短信中目标字符的所述拓扑图结构与标准字符库中各标准字符的所述拓扑图结构之间的同构相似度，识别通过笔画变形、部件拆分或符号替代形成的字形变形字符，将所述字形变形字符还原为对应的字形还原标准字符；

11、提取每个字符的声母特征、韵母特征及声调特征，构建音韵特征向量，通过计算所述待审核短信中的目标字符的所述音韵特征向量与标准字符库中各标准字符的所述音韵特征向量之间的距离度量值，识别通过谐音替换或拼音混用形成的音韵变形字符，将所述音韵变形字符还原为对应的音韵还原标准字符；

12、基于所述字形还原标准字符和所述音韵还原标准字符组合形成还原后的文本，对所述还原后的文本进行语义场迁移分析，提取所述还原后的文本中各词汇单元的语义场归属标识，识别语义场发生异常迁移的词汇单元，通过语义场回溯机制将语义场发生迁移的词汇单元还原为原始语义场中的标准词汇单元，得到所述语义重构文本。

13、基于所述语义重构文本的语义密度分布特征和短信发送者的历史信誉权重,构建审核决策树，包括：

14、对所述语义重构文本进行语义单元分割，计算语义单元内的关键语义成分数量与语义单元总长度的比值，得到每个语义单元的语义密度值，将所有语义单元的语义密度值按照位置顺序排列形成语义密度分布序列；

15、对所述语义密度分布序列进行分布模式识别，提取所述语义密度分布序列的峰值位置、波动幅度及梯度变化率，组合形成语义密度分布特征；

16、获取短信发送者的历史发送记录，统计所述历史发送记录中违规短信数量与总发送短信数量的比例，根据比例所处的数值区间确定对应的信誉衰减系数，基于所述信誉衰减系数确定短信发送者的历史信誉权重；

17、将所述语义密度分布特征作为内容风险决策维度，将所述历史信誉权重作为发送者信誉决策维度，在所述内容风险决策维度和所述发送者信誉决策维度构成的决策空间中设置多个决策分割面，每个决策分割面将所述决策空间划分为不同的决策区域，每个决策区域对应不同的审核级别配置，将所述决策分割面及所述决策区域的映射关系构建为审核决策树。

18、计算所述语义重构文本中各语义单元的风险传播系数,在所述审核决策树中为每个语义单元匹配对应的决策节点,沿所述审核决策树的分支路径动态确定当前语义单元对应的审核级别,生成所述待审核短信的审核路径，包括：

19、对所述语义重构文本中的各语义单元进行依存关系解析，识别每个语义单元与其他语义单元之间的语法依存边和语义依存边并统计依存边连接数量，依据所述依存边连接数量计算语义单元的依存关联度；

20、在预设的滑动窗口范围内统计每个语义单元与风险语义单元的共同出现频次，基于所述共同出现频次计算语义单元的风险共现强度；

21、将所述依存关联度和所述风险共现强度进行加权融合，得到每个语义单元的风险传播系数；

22、将每个语义单元的所述语义密度分布特征和所述风险传播系数作为决策输入特征，在所述审核决策树中为每个语义单元匹配对应的决策节点；

23、获取所述决策节点所在决策区域对应的审核级别配置，解析为审核级别序列和审核粒度参数；

24、按照各语义单元的位置顺序，将各语义单元对应的审核级别序列和审核粒度参数依次串联，形成所述待审核短信的审核路径。

25、按照所述审核路径执行相应的审核操作,输出所述语义单元的局部风险标签和可信度量值,遍历所述审核决策树的所有决策节点后汇总得到全局审核结果，包括：

26、按照所述审核路径中各语义单元的位置顺序，依次获取每个语义单元对应的决策节点和审核级别序列；

27、在每个决策节点处，根据所述审核级别序列确定当前语义单元需要执行的审核操作类型，对所述语义单元的文本内容进行风险特征提取，将提取的风险特征与预设的风险特征模板进行匹配计算，基于匹配结果生成所述语义单元的局部风险标签；

28、对所述局部风险标签进行置信度评估，统计生成所述局部风险标签过程中匹配到的风险特征数量和匹配强度，基于所述风险特征数量和所述匹配强度计算所述局部风险标签的可信度量值；

29、将所述局部风险标签和所述可信度量值与所述语义单元的位置信息关联存储，形成所述语义单元的审核记录；

30、遍历所述审核决策树的所有决策节点，收集所有语义单元的审核记录；

31、对收集的所有审核记录中的局部风险标签进行聚合分析，基于所述局部风险标签的分布模式和所述可信度量值的统计特征，确定所述待审核短信的整体风险等级和风险类型，生成所述全局审核结果。

32、构建所述语义重构文本的语义向量空间表示,生成多个对抗性扰动向量,沿所述对抗性扰动向量方向进行梯度探测,识别导致所述决策节点的判定结果发生突变的临界语义边界，包括：

33、对所述语义重构文本中的各语义单元进行向量化编码，将各语义单元的向量表示映射到统一的语义向量空间中，基于各语义单元之间的语义关联关系构建所述语义重构文本的所述语义向量空间表示；

34、在所述语义向量空间中选取多个扰动方向，在每个扰动方向上生成扰动幅度递增的扰动向量序列，将所述扰动向量序列作为对抗性扰动向量；

35、将所述对抗性扰动向量叠加到所述语义向量空间表示上，得到扰动后的语义向量空间表示；

36、将所述扰动后的语义向量空间表示输入所述审核决策树，获取所述审核决策树中各决策节点的判定结果；

37、沿所述对抗性扰动向量的方向逐步增加扰动幅度，实时监测所述决策节点的判定结果变化，当所述判定结果从非风险状态转变为风险状态或从风险状态转变为非风险状态时，记录发生状态转变时的扰动幅度和扰动方向；

38、基于记录的所述扰动幅度和所述扰动方向，在所述语义向量空间中确定导致所述判定结果发生突变的临界语义边界。

39、将位于所述临界语义边界的语义单元在保持所述语义重构文本主题向量方向不变的约束下,通过语义向量空间中的最近邻搜索确定合规替换词并替换,得到合规化短信内容，包括：

40、从所述语义重构文本中提取位于所述临界语义边界的语义单元，标记所述语义单元为待替换语义单元；

41、将所述语义重构文本中所有语义单元的向量表示进行加权聚合，计算所述语义重构文本的主题向量，确定所述主题向量在所述语义向量空间中的方向作为主题约束方向；

42、对所述待替换语义单元的向量表示进行分解，将所述待替换语义单元的向量表示分解为沿所述主题约束方向的分量和垂直于所述主题约束方向的分量；

43、在所述语义向量空间中以所述待替换语义单元的向量表示为中心进行最近邻搜索，筛选出与所述待替换语义单元的向量表示距离小于预设距离阈值的候选替换词向量，计算各候选替换词向量沿所述主题约束方向的投影分量与所述待替换语义单元沿所述主题约束方向的分量之间的偏差值；

44、筛选所述偏差值小于预设偏差阈值的候选替换词向量对应的候选替换词，作为合规替换词；

45、将所述待替换语义单元替换为所述合规替换词，更新所述语义重构文本；

46、对更新后的语义重构文本进行文本还原，得到合规化短信内容。

47、本发明实施例的第二方面，提供一种短信内容多级审核与智能敏感词过滤系统，包括：

48、多模态识单元，用于对待审核短信进行多模态变形识别,得到语义重构文本；

49、语义重构单元，用于基于所述语义重构文本的语义密度分布特征和短信发送者的历史信誉权重,构建审核决策树；

50、决策树构单元，用于计算所述语义重构文本中各语义单元的风险传播系数,在所述审核决策树中为每个语义单元匹配对应的决策节点,沿所述审核决策树的分支路径动态确定当前语义单元对应的审核级别,生成所述待审核短信的审核路径；

51、风险传播单元，用于按照所述审核路径执行相应的审核操作,输出所述语义单元的局部风险标签和可信度量值,遍历所述审核决策树的所有决策节点后汇总得到全局审核结果；

52、审核执行单元，用于当所述全局审核结果存在风险时,构建所述语义重构文本的语义向量空间表示,生成多个对抗性扰动向量,沿所述对抗性扰动向量方向进行梯度探测,识别导致所述决策节点的判定结果发生突变的临界语义边界；

53、临界语义单元，用于将位于所述临界语义边界的语义单元在保持所述语义重构文本主题向量方向不变的约束下,通过语义向量空间中的最近邻搜索确定合规替换词并替换,得到合规化短信内容。

54、本发明实施例的第三方面，提供一种电子设备，包括：

55、处理器；

56、用于存储处理器可执行指令的存储器；

57、其中，所述处理器被配置为调用所述存储器存储的指令，以执行前述所述的方法。

58、本发明实施例的第四方面，提供一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现前述所述的方法。

59、本技术的有益效果如下：

60、多模态变形识别对短信内容进行深度语义重构，能够有效破解谐音、拆字、组合符号等变形规避手段，还原出真实语义信息。基于语义密度分布特征与发信人历史信誉权重构建审核决策树，将内容自身风险属性与行为画像相融合，使决策路径具备个性化适应能力，显著提升高风险内容捕捉率，同时降低对正常用户的干扰。

61、风险传播系数与决策节点匹配机制沿分支路径动态确定审核级别，使审核过程由静态规则匹配转变为动态路径推理，局部风险标签与可信度量值逐级汇总，能够精准刻画风险在短信中的分布与传播链路，避免孤立判断导致的漏检或误检。即使风险语义被分散隐藏在长文本中，也能通过多节点协同分析有效识别。

62、当全局结果存在风险时，通过语义向量空间中的对抗性扰动与梯度探测，准确定位使审核判定发生突变的临界语义边界，将临界语义单元替换为合规词，并在替换过程中保持主题向量方向不变，确保改写后的短信不偏离原意且语义自然流畅，极大降低审核误伤率，在保证安全性的同时提升合规化内容的可用性与用户体验，实现安全过滤与信息表达的平衡。