动态违禁词与安全词检测系统的制作方法

本发明涉及数据安全与内容检测，更具体地说，本发明涉及动态违禁词与安全词检测系统。

背景技术：

1、随着企业数字化转型的深入，数据资产日益多元化，涵盖知识文档、ai训练语料、业务表单及api接口数据等。在数据流转与共享过程中，对违禁词（如敏感政治词汇、违规营销用语）与安全词（如核心技术术语、企业机密标识）的检测成为保障数据安全、满足合规要求的关键环节。

2、目前行业内主流的数据安全词检测方案存在明显缺陷：

3、规则静态固化：传统系统多采用静态规则库，规则更新依赖技术人员手动修改配置文件并重启系统，无法快速响应政策法规和业务场景的动态变化，导致检测覆盖率低、响应滞后。

4、系统适配性弱：现有检测工具常为特定系统（如单一的知识管理平台）定制，当检测对象切换至语料数据或业务表单时，需重新部署或修改检测模块，多系统部署成本高，兼容性差。

5、配置门槛高：规则配置依赖编码，非安全运维的业务人员无法直接参与规则迭代，限制了规则调整的灵活性和效率。

6、权限管控粗放：检测流程与权限鉴权割裂，系统仅能识别违禁词，但无法有效管控数据访问权限，易出现“检测通过但权限越权”的数据泄露风险。且权限管控粒度多停留在文档或表级别，无法实现对身份证号、核心技术参数等核心敏感字段的精准防护。

7、因此，亟需一种能够实现“智能调度、动态适配、精细管控”的数据安全检测系统，以解决现有技术的不足。

技术实现思路

1、为了克服现有技术的上述缺陷，本发明的实施例提供动态违禁词与安全词检测系统，以解决上述背景技术中提出的问题。

2、为实现上述目的，本发明提供如下技术方案：

3、多智能体调度引擎模块：用于接收数据检测任务，识别任务中的数据类型与业务场景，并根据预设的“数据类型－业务场景－智能体”映射关系，动态调度一个或多个专项检测智能体对数据进行并发检测；所述专项检测智能体包括针对不同数据格式和检测逻辑封装的专用检测单元；

4、系统切换自适应匹配模块，包括标准化适配接口层和规则自适应单元；所述标准化适配接口层用于与不同的外部数据源系统（如知识管理平台、数据中台、ai语料平台等）对接，并解析其数据格式；所述规则自适应单元用于根据当前对接的外部数据源系统的类型，从动态规则库中自动加载并应用对应的规则子集；

5、动态规则库可视化编辑模块，提供可视化操作界面，供用户对存储有违禁词和/或安全词的动态规则库进行在线增、删、改、查操作，并记录每次规则变更的版本信息；

6、多级鉴权模块，与企业身份认证系统（如iam）集成，用于在数据检测任务发起前、执行中和完成后，分别执行身份鉴权、任务鉴权和结果鉴权，实现检测流程与权限验证的联动；

7、字段级数据权限管控模块，用于识别数据中的字段并标注其敏感等级，根据预设的“用户角色－字段等级－操作权限”映射关系，结合所述多级鉴权模块的验证结果，对命中安全词的敏感字段执行字段级的访问控制或脱敏处理。

8、优选的，所述多智能体调度引擎模块中，当检测任务进入系统后，调度引擎首先对任务数据进行智能解析，通过分析数据文件的格式特征、元数据信息以及任务发起方携带的业务标签，自动识别出当前任务的数据类型，判断其是pdf/word格式的知识文档、ai训练语料库中的对话数据、结构化业务表单，还是通过api接口实时传输的数据流；同时结合任务发起部门、目标系统以及共享范围等信息，综合判定其业务场景属于内部流转、跨部门协作还是对外共享发布；

9、基于预设的“数据类型－业务场景－智能体”多维映射关系表，调度引擎动态匹配最优的检测智能体组合：例如对于一份包含内嵌表单的pdf技术文档且属于对外共享场景，引擎将同时调度文档检测智能体负责解析pdf中的图文内容并进行语义级违禁词识别，以及表单检测智能体负责提取内嵌表单中的结构化字段并进行敏感数据精准匹配；对于ai语料训练任务且属于内部使用场景，则调度语料检测智能体结合大语言模型进行上下文关联分析与隐性违规表述识别。

10、优选的，所述系统切换自适应匹配模块中，标准化适配接口层采用微内核架构设计，内置了包括企业级数据交互主流协议的适配器内核，包括支持restful api调用的http/https适配器、用于直接连接关系型数据库的jdbc适配器、兼容传统文件传输场景的ftp/sftp适配器，以及针对大数据平台的hdfs适配器和消息队列的kafka适配器；基于此接口层，当系统需要对接一个新的数据源时，例如企业的知识管理平台，仅需通过可视化配置界面填写该平台的api端点、认证方式和数据拉取策略，接口层即可自动调用对应的http适配器建立连接，无需编写任何代码；针对每个对接的系统，模块动态加载对应的数据解析适配器，即为一组预置或可定制的解析插件，能够深入理解不同系统的数据组织逻辑：对于知识管理平台，解析适配器会自动调用其api获取文档的二进制流、元数据标签和版本信息；对于数据中台，适配器会通过jdbc逆向解析表结构（schema），提取字段名、字段类型以及库表之间的关联关系；对于ai语料平台，适配器则能够识别对话格式、文本段落划分以及标注信息，准确提取出待检测的语料内容；通过协议适配和格式解析的双层机制，标准化适配接口层将来自不同源头、格式各异的数据统一转化为系统内部标准的数据对象，供后续检测流程调用。

11、优选的，所述动态规则库可视化编辑模块中，在基础规则配置层面，界面提供了简洁明了的词条管理功能区，安全运维人员可以通过点击“新增词条”按钮，在弹出的表单中输入具体的违禁词或安全词，例如“核心技术参数”或《数据安全法》相关条款术语。在输入词条的同时，界面提供匹配模式选项，即精确匹配适用于身份证号、银行卡号等固定格式的敏感数据；模糊匹配适用于同义词、变形词或带干扰字符的违规表述；语义匹配则调用后台内置的nlp引擎，适用于识别具有相似语境但字面不同的隐性违规内容；

12、针对每个词条，运维人员通过滑动条或单选按钮配置其风险等级（高/中/低），不同等级对应不同的处置策略，即高风险词直接拦截访问、中风险词触发人工审核流程、低风险词仅记录日志用于审计；在关联规则配置层面，模块提供了可视化的逻辑编排画布，用户通过拖拽的方式将多个词条节点连接起来，并设置“与”“或”“非”等逻辑关系，例如创建一条规则规定“当同时命中内部代码和未公开版本号时，触发高风险告警”；分级规则管理则允许用户按照业务场景对词库进行分类管理，例如建立“金融合规”“技术机密”“个人隐私”等多个规则集，每个规则集下包含对应的词条和处置策略，便于在不同业务场景下快速应用。

13、优选的，所述多级鉴权模块中，多级鉴权模块中，采用插件化架构设计，通过标准协议接口与企业现有的身份认证与授权管理系统深度集成，既兼容支持ldap、oauth2.0、saml2.0等主流认证协议，也可通过定制开发对接各类国产化身份认证平台， 确保在企业现有it架构中无缝嵌入；

14、在身份鉴权层面，当用户发起数据访问或检测任务请求时，多级鉴权模块首先拦截请求并调用企业iam接 口，对用户身份的真实性进行验证，同时获取其完整的属性信息，包括所属组织部门、岗位角色、职级以及临时授权的安全标签；这一过程不仅仅是简单的用户名和密码校验，而是构建起一个多维度的用户身份向量空间；设用户的身份特征可表示为向量：

15、

16、其中，org表示组织编码，role表示角色集合，level表示安全等级，tags表示动态标签集合；

17、模块根据预设的访问控制矩阵判断用户是否具备基础的系统访问权限，若identity与矩阵中的任一许可规则匹配，则身份鉴权通过，进入下一阶段。

18、优选的，所述字段级数据权限管控模块中，在架构上由敏感字段智能识别引擎、字段－角色权限映射矩阵以及动态脱敏执行器三部分构成，协同实现对敏感数据的精准化、自动化管控； 敏感字段智能识别引擎采用双轨制识别策略，将用户主动标注与系统自动识别相结合，构建覆盖全面、动态更新的敏感字段清单；在手动标注层面，模块提供可视化的数据资产梳理界面，数据管理员像操作电子表格一样浏览各类数据源的表结构，通过简单的勾选和等级设定操作，对字段进行敏感等级标注，将身份证号、银行账号、核心技术参数等标记为“核心字段”，将客户手机号、家庭住址、订单金额等标记为重要字段，将商品名称、公开政策条款等标记为“普通字段”；

19、在自动识别层面，模块与表单检测智能体形成联动闭环：当表单检测智能体在扫描过程中发现某个未标注字段中包含符合敏感数据模式的内容，例如连续18位数字疑似身份证号、特定格式的技术代码疑似核心技术参数，引擎会触发自动识别算法，计算该字段的敏感置信度。设字段的敏感置信度基于其内容特征向量与预训练敏感模式库的匹配度计算：

20、

21、其中，为特征提取函数，为权重矩阵，为偏置项，为sigmoid函数将结果映射至[0,1]区间；当超过预设阈值时，引擎自动建议将该宇段标记为相应敏感等级，并推送至数据管理员确认，形成“检测发现-智能建议-人工确认”的闭环优化机制； 设用户角色集合为，字段等级集合为核心，重要，普通，操作权限集合为无权限，脱敏查看，明文查看，编辑；映射矩阵定义了一个从到的映射函数。

22、本发明的技术效果和优点：

23、本发明实现了检测规则的动态化与智能化，系统能根据数据源和业务场景自动切换检测策略与规则集，显著提升了检测的准确性与适应性；构建了身份－任务－结果三级鉴权联动机制，将权限管控贯穿于检测全流程，有效杜绝了权限滥用和越权访问；达成了字段级的敏感数据管控，通过智能识别与精细化脱敏，在保障数据可用性的同时最大程度降低了敏感信息泄露风险。