一种面向人工智能智能体调用链的数据访问管控方法及装置与流程

本技术涉及计算机数据安全与人工智能，尤其涉及一种面向人工智能智能体调用链的数据访问管控方法、装置及存储介质。

背景技术：

1、以大语言模型为核心的人工智能智能体具备自主规划并调用外部工具、检索文档和查询数据库以完成复杂任务的能力。与传统固定程序或人类操作员不同，人工智能智能体的数据访问路径在运行时由模型自主规划并动态生成，难以事先枚举。现有的数据访问控制技术主要包括基于角色或属性的访问控制机制，其在任务开始前执行一次性授权并对后续每次请求独立执行权限校验。然而，该按次独立鉴权方式无法识别人工智能智能体在单次任务执行过程中通过多次逐次合法的调用而累加式扩大数据访问范围的行为，亦无法检测对同一数据主体跨多次调用汇集形成过度画像的累计型敏感暴露问题，导致数据最小化原则缺乏运行时强制落地手段。

技术实现思路

1、针对现有技术中按次独立鉴权方式无法识别人工智能智能体在单次任务内通过多次逐次合法调用累加式扩大访问范围以及对同一数据主体形成累计型过度暴露的不足，本技术提供了一种面向人工智能智能体调用链的数据访问管控方法、装置及存储介质。该方法通过在智能体与数据源之间设置运行时治理中间层，对智能体调用链中的每次数据访问执行实时敏感度评估和累计暴露度量，并在度量满足干预条件时执行分级干预处置，能够在不阻断正常任务执行的前提下约束累加式过度访问并实现数据最小化。具体地，本技术提供了以下技术方案：

2、本技术提供了一种面向人工智能智能体调用链的数据访问管控方法，包括：

3、响应于人工智能智能体在执行单次任务过程中发起的数据访问调用，拦截所述数据访问调用，并将所述数据访问调用绑定至与所述单次任务对应的任务会话上下文，其中，所述任务会话上下文记录所述单次任务的调用者身份和任务目标；

4、对所述数据访问调用的返回结果执行实时敏感度评估，所述实时敏感度评估包括：对所述返回结果进行敏感度量化评分以获得敏感度分值，以及从所述返回结果中识别所涉及的数据主体；

5、基于所述敏感度分值在所述任务会话上下文中更新累计敏感暴露度量，所述累计敏感暴露度量包括对所述单次任务内全部数据访问调用的敏感度分值进行累加的总量累计值，以及针对同一数据主体跨数据访问调用汇集的敏感维度集合的数据主体级累计；

6、当所述敏感度分值或所述累计敏感暴露度量满足预设干预条件时，对所述数据访问调用执行运行时干预处置，所述运行时干预处置包括脱敏降级、访问范围收敛或熔断中的至少一种。

7、可选地，所述实时敏感度评估还包括基于所述任务目标对所述数据访问调用执行必要性评估，所述必要性评估通过将所述数据访问调用的语义描述与所述任务目标的语义描述进行相关性度量获得必要性分值；当所述必要性分值低于预设必要性阈值时，将所述数据访问调用标记为弱相关调用。

8、可选地，所述相关性度量包括：

9、分别对所述数据访问调用的语义描述和所述任务目标的语义描述进行向量编码以获得对应的语义嵌入向量，并基于两个所述语义嵌入向量之间的余弦相似度确定所述必要性分值；

10、其中，所述向量编码采用经预训练的语义表示模型执行，所述语义表示模型以文本对的语义匹配任务为训练目标，基于对比学习损失函数在标注语料上进行微调训练获得。

11、可选地，对标记为弱相关调用的所述数据访问调用执行访问范围收敛，所述访问范围收敛包括：将所述数据访问调用的返回结果从原始明细数据降级为布尔判定结论或摘要性统计结果。

12、可选地，所述数据主体级累计包括：

13、在所述任务会话上下文中为每一个识别到的数据主体维护一个敏感维度集合，每次所述数据访问调用返回涉及该数据主体的数据时，将所述返回结果所对应的数据类别添加至所述敏感维度集合；

14、当同一数据主体的所述敏感维度集合满足过度画像判定条件时，判定为累计越界，其中，所述过度画像判定条件包括所述敏感维度集合中汇集的维度类别数量达到预设类别阈值且包含预设的特殊类别。

15、可选地，所述运行时干预处置为多级递进机制，按所述敏感度分值和所述累计敏感暴露度量的严重程度依次包括：

16、放行、脱敏降级、访问范围收敛、二次鉴权和熔断；其中，所述放行对应所述敏感度分值低于第一阈值且必要性分值高于第二阈值的情形，所述脱敏降级对应所述敏感度分值处于所述第一阈值与第三阈值之间的情形，所述熔断对应所述敏感度分值高于所述第三阈值或所述总量累计值达到预设敏感预算上限的情形。

17、可选地，所述预设干预条件中的阈值依据所述智能体的类型和所述单次任务的类型进行差异化配置，并且随所述单次任务中已执行的数据访问调用次数的增加而动态收紧所述干预条件的触发阈值。

18、可选地，所述敏感度量化评分通过敏感度评分模型对所述返回结果执行分类评分获得，所述敏感度评分模型的训练过程包括：

19、构建训练样本集，所述训练样本集中每个样本包括一条数据访问返回结果文本及其对应的敏感度等级标注；

20、以所述训练样本集为输入，采用预训练语言模型作为编码器提取所述返回结果文本的语义特征向量，在所述编码器之上添加分类层，以交叉熵损失函数为优化目标对所述编码器和所述分类层的参数进行迭代更新直至收敛；

21、将收敛后的模型参数固定得到所述敏感度评分模型。

22、可选地，所述运行时干预处置为二分机制，包括放行和熔断两个级别；其中，当所述敏感度分值低于预设单次熔断阈值且所述总量累计值低于预设敏感预算上限时执行放行，否则执行熔断。

23、可选地，所述累计敏感暴露度量仅包括所述总量累计值，所述预设干预条件的判定不包括过度画像判定条件，所述运行时干预处置的触发基于所述敏感度分值和所述总量累计值进行判定。

24、本技术还提供了一种面向人工智能智能体调用链的数据访问管控装置，包括：

25、调用链拦截模块，用于响应于人工智能智能体在执行单次任务过程中发起的数据访问调用，拦截所述数据访问调用，并将所述数据访问调用绑定至与所述单次任务对应的任务会话上下文；

26、实时敏感度评估模块，用于对所述数据访问调用的返回结果执行实时敏感度评估，获得敏感度分值并识别所涉及的数据主体；

27、累计度量模块，用于基于所述敏感度分值在所述任务会话上下文中更新累计敏感暴露度量，所述累计敏感暴露度量包括总量累计值和数据主体级累计；

28、分级干预模块，用于当所述敏感度分值或所述累计敏感暴露度量满足预设干预条件时，对所述数据访问调用执行运行时干预处置。

29、本技术还提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现上述面向人工智能智能体调用链的数据访问管控方法。

30、本技术实施例提供的技术方案具有以下有益效果：通过将人工智能智能体单次任务中的多次数据访问调用绑定至统一的任务会话上下文并在该上下文中维护累计敏感暴露度量，使得运行时治理中间层能够识别按次独立鉴权所无法发现的累计型越界行为；通过在任务会话维度和数据主体维度分别执行累计度量，能够检测逐次合法但跨调用汇集形成过度画像的累计型敏感暴露；通过多级递进的运行时干预机制，在维持任务可完成性的前提下约束数据访问范围，实现数据最小化原则在智能体运行时的技术落地。