一种基于深度学习的权限感知RAG安全生成方法及系统与流程
本技术涉及人工智能与信息安全,具体而言,涉及一种基于深度学习的权限感知rag安全生成方法及系统。
背景技术:
1、在现有的基于深度学习的检索增强生成(rag)架构中,为了实现具备权限感知的安全内容生成,通常在检索阶段同时计算用户请求与文档片段的语义相似度以及权限匹配度,并利用一组在系统初始化时预先设定并固化的融合权重,将这两个维度加权求和得到最终的检索排序分数,随后根据该分数截取文档片段拼接后送入生成模型进行推理合成。这种常规处理方式在处理权限边界明确且语义需求单一的典型请求时,能够较为均衡地兼顾召回内容的完整性与安全性。
2、然而,在企业知识库或政务信息库等实际应用中,用户经常会提交需要跨密级知识整合作答的复杂请求。在这种跨密级拼合场景下,语义与权限双目标融合权重的固化失配问题便会暴露出来。具体而言,该融合权重作为检索评分算法内部的核心逻辑控制点,一旦固化便无法感知当前请求对高权限关键知识的实际语义依赖程度与用户自身权限不足之间的动态冲突。当以固定权重处理此类请求时,若语义相似度权重占比较高,高密级文档会因语义高度相关而获得不合理的高分,从而将用户无权查看的内部参数带入检索结果集,导致生成模型在未察觉权限边界的情况下自然地将内部参数组织到回答中造成越权泄露;反之,若权限匹配度权重占比较高,高密级文档会被过度压制,检索结果仅保留低权限的公开说明,导致生成模型只能用残缺信息拼凑出表面通顺但缺失关键参数的误导性回答。现有常规方式之所以难以规避该问题,是因为固化的权重参数无法依据不同请求之间的权限边界差异和语义整合需求进行自适应调整,导致系统在量化完整性与安全性矛盾时出现结构性偏差,进而使安全生成结果陷入越权泄露或完整性严重受损的具体偏差。
技术实现思路
1、为了解决现有技术的不足,本技术提供一种基于深度学习的权限感知rag安全生成方法及系统,能够解决现有rag架构中因语义与权限融合权重固化,导致在跨密级知识整合作答场景下无法动态平衡安全性与完整性,从而引发越权泄露或回答缺失关键信息的技术问题。
2、第一方面,本技术提供一种基于深度学习的权限感知rag安全生成方法,包括:
3、获取目标请求、根据目标请求召回的候选文本片段集合、各候选文本片段对应的权限级别以及当前用户授权凭证;
4、对目标请求进行特征提取,将目标请求拆分为若干关键语义单元,分别计算各候选文本片段对各关键语义单元的支撑度得分,生成支撑度量化矩阵;
5、根据支撑度量化矩阵,确定各候选文档片段的语义角色标签,将各候选文本片段对应的权限级别与当前用户授权凭证进行比对,确定各候选文本片段的权限放行状态;
6、基于各候选文档片段的语义角色标签和权限放行状态定位越权冲突片段和安全可用片段,并标记关键知识缺口;
7、对越权冲突片段执行物理隔离处理,并针对知识缺口提取特征描述以构建受限生成约束信息,组装包括安全可用片段和受限生成约束信息的检索输出结果包;
8、将检索输出结果包输入文本合成单元,使文本合成单元基于安全可用片段进行内容合成,并根据受限生成约束信息对缺失内容进行受限处理,生成符合当前用户授权凭证的权限边界的目标回答。
9、可选地,获取目标请求、根据目标请求召回的候选文本片段集合、各候选文本片段对应的权限级别以及当前用户授权凭证的步骤包括:
10、通过前端交互网关捕获用户发起的自然语言目标请求作为目标请求;
11、根据目标请求从向量搜索引擎获取基于粗粒度匹配召回的多个候选文本片段,组合成候选文本片段集合;
12、从元数据管理单元中同步获取每个候选文本片段对应的密级标签作为该候选文本片段对应的权限级别,密级标签按照安全级别从低到高具有严格偏序关系;
13、读取当前用户被允许访问的最高密级作为当前用户授权凭证。
14、可选地,对目标请求进行特征提取的步骤包括:
15、调用深度学习语言模型编码器对目标请求的词汇索引序列进行处理,通过词嵌入转化为稠密向量表示并叠加位置编码,生成稠密向量表示序列;
16、对稠密向量表示序列进行多层自注意力机制的非线性变换,生成包含句法和语义特征的深层隐藏状态向量序列;
17、通过依赖关系识别子网络对深层隐藏状态向量序列进行处理,识别目标请求中构成回答所需的核心实体、限定条件和期望参数对应的词元位置;
18、为目标请求的词汇索引序列中的每个词元输出依赖权重分数,依赖权重分数表示词元在构成完整回答时的语义必要性强度;
19、生成带有依赖权重分数的深层隐藏状态张量,深层隐藏状态张量包含各词元的深层隐藏状态向量及对应的依赖权重分数。
20、可选地,将目标请求拆分为若干关键语义单元的步骤包括:
21、基于深层隐藏状态张量,截取依赖权重分数超过预设基准值的词元片段并聚合为关键语义单元;
22、对于每个关键语义单元,将该关键语义单元内所有词元的深层隐藏状态向量进行加权平均,生成该关键语义单元的稠密向量;
23、计算每个关键语义单元的全局重要性权重,全局重要性权重为该关键语义单元内所有词元的依赖权重分数的总和除以目标请求中所有词元的依赖权重分数的总和;
24、将全部关键语义单元的稠密向量和全局重要性权重组织为关键语义单元向量集合。
25、可选地,分别计算各候选文本片段对各关键语义单元的支撑度得分,生成支撑度量化矩阵的步骤包括:
26、调用深度学习语言模型编码器将各候选文本片段转化为文档特征张量;
27、以关键语义单元向量集合中的各稠密向量作为查询张量,以各候选文本片段的文档特征张量作为键张量和值张量构建交叉注意力网络;
28、通过计算交叉注意力网络中各个词元特征向量的点积,得到注意力得分矩阵;
29、对注意力得分矩阵的每一行进行归一化处理,生成注意力分布;
30、遍历各候选文本片段和各关键语义单元,对于当前被遍历到的候选文本片段和关键语义单元,将注意力分布与该候选文本片段的文档特征张量相乘并求和,得到该候选文本片段针对该关键语义单元的上下文聚合向量;
31、计算上下文聚合向量与该关键语义单元向量之间的相似度,将相似度乘以该关键语义单元的全局重要性权重,得到该候选文本片段对该关键语义单元的支撑度得分;
32、将全部候选文本片段对各关键语义单元的支撑度得分组织为支撑度量化矩阵。
33、可选地,根据支撑度量化矩阵,确定各候选文档片段的语义角色标签的步骤包括:
34、逐行遍历支撑度量化矩阵,若候选文本片段对至少一个关键语义单元的支撑度得分超过预设的关键支撑阈值,则将该候选文本片段的语义角色标签确定为关键支撑片段;
35、若候选文本片段对全部关键语义单元的支撑度得分均低于预设的普通补充阈值,则将该候选文本片段的语义角色标签确定为无关片段并剔除;
36、将未被标记为关键支撑片段且未被剔除的候选文本片段的语义角色标签确定为普通补充片段。
37、可选地,将各候选文本片段对应的权限级别与当前用户授权凭证进行比对,确定各候选文本片段的权限放行状态的步骤包括:
38、基于各候选文本片段对应的权限级别提取各候选文本片段的密级标签整数值;
39、基于当前用户授权凭证提取对应的最高授权密级整数值;
40、遍历被标记为关键支撑片段或普通补充片段的每个候选文本片段,比较该候选文本片段的密级标签整数值与最高授权密级整数值;
41、若该候选文本片段的密级标签整数值小于或等于最高授权密级整数值,则将该候选文本片段的权限放行状态确定为放行状态,否则确定为阻断状态。
42、可选地,基于各候选文档片段的语义角色标签和权限放行状态定位越权冲突片段和安全可用片段,并标记关键知识缺口的步骤包括:
43、将各候选文本片段的语义角色标签和权限放行状态组织为冲突判定矩阵;
44、针对冲突判定矩阵中权限放行状态为阻断状态的候选文本片段,若该候选文本片段为关键支撑片段,则将该候选文本片段定位为越权冲突片段,若该越权冲突片段为对应的关键语义单元中唯一的关键支撑片段,则将该关键语义单元标记为关键知识缺口;
45、把冲突判定矩阵中权限放行状态为放行状态的候选文本片段定位为安全可用片段。
46、可选地,将检索输出结果包输入文本合成单元,使文本合成单元基于安全可用片段进行内容合成,并根据受限生成约束信息对缺失内容进行受限处理,生成符合当前用户授权凭证的权限边界的目标回答的步骤包括:
47、将检索输出结果包输入基于自回归架构的文本合成单元,使文本合成单元基于安全可用片段进行内容合成,并将受限生成约束信息作为最高优先级的系统指令注入到自注意力机制的上下文中,与目标请求结合,进行逐词元的自回归解码;
48、在自回归解码中,针对被标记为关键知识缺口的关键语义单元,根据当前用户授权凭证的权限边界改变在输出词表上的概率分布,压制输出具体参数内容的概率并提升输出权限限制声明的概率,输出包括权限阻断解释的目标回答。
49、第二方面,本技术还公开了一种基于深度学习的权限感知rag安全生成系统,包括:
50、获取模块,用于获取目标请求、根据目标请求召回的候选文本片段集合、各候选文本片段对应的权限级别以及当前用户授权凭证;
51、支撑度量化模块,用于对目标请求进行特征提取,将目标请求拆分为若干关键语义单元,分别计算各候选文本片段对各关键语义单元的支撑度得分,生成支撑度量化矩阵;
52、角色与权限判定模块,用于根据支撑度量化矩阵,确定各候选文档片段的语义角色标签,将各候选文本片段对应的权限级别与当前用户授权凭证进行比对,确定各候选文本片段的权限放行状态;
53、冲突定位模块,用于基于各候选文档片段的语义角色标签和权限放行状态定位越权冲突片段和安全可用片段,并标记关键知识缺口;
54、隔离与约束构建模块,用于对越权冲突片段执行物理隔离处理,并针对知识缺口提取特征描述以构建受限生成约束信息,组装包括安全可用片段和受限生成约束信息的检索输出结果包;
55、受限回答生成模块,用于将检索输出结果包输入文本合成单元,使文本合成单元基于安全可用片段进行内容合成,并根据受限生成约束信息对缺失内容进行受限处理,生成符合当前用户授权凭证的权限边界的目标回答。
56、本技术通过引入关键语义单元的支撑度量化机制,实现了对检索内容与用户请求语义依赖程度的动态评估,并结合权限比对结果,能够精准识别跨密级知识整合中的越权冲突与知识缺口。相较于现有技术中固化的融合权重,本技术能够根据不同请求的语义需求自适应调整检索与生成策略,在确保用户无法获取越权信息的前提下,通过受限生成约束信息引导模型生成合规的权限阻断解释,从而在保障信息安全的同时,最大程度提升了生成回答的完整性与逻辑合理性,有效解决了跨密级场景下的越权泄露与信息误导问题。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com