一种数据权限动态管控方法及系统

本公开涉及计算机，尤其涉及一种数据权限动态管控方法及系统。

背景技术：

1、当前，基于大语言模型的人工智能代理（artificial intelligence agent，aiagent）在智能客服、知识问答、任务自动化等场景中被广泛部署。ai agent在执行用户指令时，通常需要实时访问多种内部数据资源，例如用户档案、业务数据库或历史对话记录。为保障数据安全，传统权限管控方法多采用基于角色的访问控制（role-based accesscontrol，rbac）或预先定义的静态策略，即根据用户的固定角色或请求中的显式字段进行“允许/拒绝”式授权。然而，在大语言模型驱动的多轮交互环境下，用户可通过连续的自然语言对话间接改变ai agent的上下文行为，使得静态权限策略无法感知交互序列中的意图演化，也难以有效防御提示词注入等新型攻击手段。

2、现有技术中，通常采用引入差分隐私机制来保护数据查询结果，即通过向输出中添加服从拉普拉斯或高斯分布的噪声，使得攻击者无法从单次或多次查询中准确推断某条具体记录的存在。然而，传统差分隐私通常设定固定的隐私预算，该预算会在多次连续查询中被逐步消耗。当攻击者采用层层逼近敏感数据的提问策略时，无法动态识别这种时序性的意图收敛特征，导致预算在看似合规的多轮交互中被快速耗尽，最终失去噪声保护，敏感数据仍有被重构的风险。此外，传统的边缘授权缓存是基于精确哈希，但由于自然语言表达的多样性，极细微的语序调整即会导致哈希失效，从而导致授权命中率低、延迟高。

3、因此，有必要提供一种新的技术方案来改善上述方案中存在的一个或者多个问题。

4、需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

技术实现思路

1、本公开实施例的目的在于提供一种数据权限动态管控方法及系统，可有效规避复杂交互环境下的敏感数据泄露风险，同时兼顾安全性与授权实时性。

2、根据本公开实施例的第一方面，提供一种数据权限动态管控方法，包括：

3、接收用户输入的交互指令，对交互指令进行特征提取，得到意图特征向量；

4、计算所述意图特征向量与边缘节点存储的授权特征之间的汉明距离，并将所述汉明距离和预设语义阈值进行匹配，生成意图一致性判断结果；

5、若所述意图一致性判断结果为一致性判断通过，则向用户输出原始数据，否则基于所述意图特征向量构建时序矩阵，并通过计算所述时序矩阵中相邻轮次意图特征向量的余弦相似度，生成意图收敛趋势值；

6、基于所述意图收敛趋势值和静态安全指标计算综合风险评分，所述静态安全指标包括用户资信风险度、环境安全风险度、目标数据敏感度和基础意图风险度；

7、根据所述综合风险评分更新所述边缘节点的缓存时长和当前隐私预算，并生成用于向用户输出的安全数据。

8、本公开的一示例性实施例中，所述对交互指令进行特征提取，得到意图特征向量，包括：

9、对所述交互指令进行预处理，得到词元序列，并将所述词元序列输入第一检测单元和第二检测单元；

10、所述第一检测单元利用预设正则库对所述词元序列进行静态匹配，以生成风险提示标签；

11、所述第二检测单元将所述词元序列映射为多维语义向量，并计算所述多维语义向量与预设攻击向量库中各攻击向量的相似度，得到最高风险偏离度；

12、计算所述多维语义向量与预设意图质心集合中各意图质心之间的相似度序列，并利用所述相似度序列生成意图概率分布向量；

13、将所述意图概率分布向量、所述风险提示标签、所述最高风险偏离度拼接，得到所述意图特征向量。

14、本公开的一示例性实施例中，所述计算所述意图特征向量与边缘节点存储的授权特征之间的汉明距离，并将所述汉明距离和预设语义阈值进行匹配，生成意图一致性判断结果，包括：

15、利用随机投影矩阵对所述意图特征向量进行投影操作，生成二进制哈希指纹序列；

16、将所述二进制哈希指纹序列与指纹缓存池中的授权指纹进行异或位运算，得到所述意图特征向量与授权特征之间的汉明距离，所述授权特征为存储于指纹缓存池中的授权指纹；

17、若所述汉明距离大于所述预设语义阈值时，所述意图一致性判断结果为一致性判断未通过，否则所述意图一致性判断结果为一致性判断通过。

18、本公开的一示例性实施例中，所述通过计算所述时序矩阵中相邻轮次意图特征向量的余弦相似度，生成意图收敛趋势值，包括：

19、计算所述时序矩阵中相邻轮次意图特征向量的余弦相似度，得到偏移序列；

20、对所述偏移序列进行一阶差分运算，得到一阶差分序列；

21、将所述一阶差分序列输入至预设映射函数，生成意图收敛趋势值。

22、本公开的一示例性实施例中，所述将所述一阶差分序列输入至预设映射函数，生成意图收敛趋势值的步骤中，所述意图收敛趋势值为：

23、（1）

24、其中，表示意图收敛趋势值，(·)表示预设映射函数，表示灵敏度调节系数，△si表示一阶差分序列中第i位的一阶差分值。

25、本公开的一示例性实施例中，所述基于所述意图收敛趋势值和静态安全指标计算综合风险评分，包括：

26、基于所述意图收敛趋势值和静态安全指标计算加权风险值：

27、（2）

28、其中，z表示加权风险值，表示第一权重系数，表示用户资信风险度，表示第二权重系数，表示环境安全风险度，表示第三权重系数，表示目标数据敏感度，表示第四权重系数，表示基础意图风险度，表示第五权重系数，表示意图收敛趋势值，表示基准偏置项；

29、利用激活函数对所述加权风险值进行映射处理，得到所述综合风险评分：

30、（3）

31、其中，risk_score表示综合风险评分，z表示加权风险值。

32、本公开的一示例性实施例中，所述根据所述综合风险评分更新所述边缘节点的缓存时长和当前隐私预算，并生成用于向用户输出的安全数据，包括：

33、当所述综合风险评分大于预设高位阈值时，根据预设业务边界概率分布和预设噪声生成所述安全数据；

34、当所述综合风险评分小于等于预设低位阈值时，将当前隐私预设设置为预设基础隐私预算，并根据预设基础隐私预算对所述原始数据进行加噪处理，生成所述安全数据；

35、当所述综合风险评分大于预设低位阈值，且小于等于预设高位阈值时，根据意图收敛趋势值和预设基础隐私预算确定当前隐私预算，并基于当前隐私预算和全局敏感度对原始数据进行加噪处理，生成所述安全数据。

36、本公开的一示例性实施例中，所述根据意图收敛趋势值和预设基础隐私预算确定当前隐私预算，并基于当前隐私预算和全局敏感度对原始数据进行加噪处理，生成所述安全数据的步骤中，所述当前隐私预算的计算公式为：

37、（4）

38、其中，表示当前隐私预算，表示预设基础隐私预算，θ表示偏置系数，α表示惩罚因子，表示意图收敛趋势值；

39、所述安全数据为：

40、（5）

41、其中，表示安全数据，表示原始数据，表示全局敏感度，lap(·)表示拉普拉斯噪声注入，表示当前隐私预算。

42、本公开的一示例性实施例中，所述根据所述综合风险评分所述边缘节点的缓存时长，包括：

43、当所述综合风险评分小于预设高位阈值时，根据所述综合风险评分和预设基础缓存时长设置所述边缘节点的缓存时长为：

44、（6）

45、其中，表示边缘节点的缓存时长，表示预设基础缓存时长，表示综合风险评分，α表示衰减惩罚系数；

46、当所述综合风险评分大于等于预设高位阈值时，设置所述边缘节点的缓存时长为零。

47、根据本公开实施例的第二方面，提供一种数据权限动态管控系统，包括：

48、第一处理模块，用于接收用户输入的交互指令，对交互指令进行特征提取，得到意图特征向量；

49、第二处理模块，用于计算所述意图特征向量与边缘节点存储的授权特征之间的汉明距离，并将所述汉明距离和预设语义阈值进行匹配，生成意图一致性判断结果；

50、第三处理模块，用于若所述意图一致性判断结果为一致性判断通过，则向用户输出原始数据，否则基于所述意图特征向量构建时序矩阵，并通过计算所述时序矩阵中相邻轮次意图特征向量的余弦相似度，以生成意图收敛趋势值；

51、第四处理模块，用于基于所述意图收敛趋势值和静态安全指标计算综合风险评分，所述静态安全指标包括用户资信风险度、环境安全风险度、目标数据敏感度和基础意图风险度；

52、第五处理模块，用于根据所述综合风险评分更新所述边缘节点的缓存时长和当前隐私预算，并生成用于向用户输出的安全数据。

53、本公开提供的技术方案可以包括以下有益效果：

54、本公开的实施例中，在基于交互指令提取到意图特征向量的基础上，通过引入意图一致性判断，能够对用户的意图进行有效检测，从而在意图一致性判断通过，即安全环境下及时响应用户，确保授权实时性；同时在意图一致性判断不通过，即存在安全风险的环境下，本技术进一步基于包含多轮交互的时序矩阵生成能够体现隐蔽攻击风险的意图收敛趋势值，并结合意图收敛趋势值以及用户资信风险度、环境安全风险度、目标数据敏感度和基础意图风险度多个指标来确定综合风险评分，这可以保证在面临用户层层逼近敏感数据的提问方式时，能够通过综合风险评分的大小来准确反映当前用户想要窃取敏感数据的程度，从而根据综合风险评分针对性地调控数据缓存时间和隐私预算，以实现向潜在攻击用户输出隐私预算加工后的安全数据，这有效规避了复杂交互环境下的敏感数据泄露风险，同时也兼顾了安全性与授权实时性。

55、应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。