一种基于智能体认知流图的数据安全动态裁决方法及计算机程序与流程

本发明涉及ai智能体数据安全，具体涉及一种基于智能体认知流图的数据安全动态裁决方法及计算机程序。

背景技术：

1、智能体（ai agent）以大语言模型（llm）为认知核心，集成任务规划、记忆存储、逻辑推理、工具调用四大能力模块，能够接收用户复杂自然语言目标，自主拆解多步骤任务、读取历史记忆、生成思维推理链、调用数据库 / api / 邮件等外部工具，持续迭代执行直至完成任务的自主 ai 系统。

2、智能体的运行包括以下步骤：规划：拆解复杂目标，生成分层执行步骤（对应任务步骤分解感知器）。

3、记忆：存储会话历史、知识库、向量检索信息，支撑后续推理（对应记忆上下文感知器）。

4、推理：基于记忆与数据形成 cot 思维链，推导结论、识别敏感实体（对应推理链抽取感知器）。

5、执行：调用各类工具、外部接口完成数据查询、文件导出、邮件发送等操作（对应工具调用意图感知器）。

6、目前，智能体在运行过程中，可隐藏拼接多步数据形成隐性业务意图，即其可将目标信息，隐藏在多步骤中，从而完成如信息的窃取等隐性功能。传统安全网关仅拦截单次工具请求，无法感知智能体全局认知意图，难以防范多步拼接式数据泄露。

7、因此，亟须一种针对智能体的安全策略，以解决上述问题至少之一。

技术实现思路

1、为缓解或解决上述问题中的至少一个方面或者至少一点，提出本发明。本发明的一种基于智能体认知流图的数据安全动态裁决方法，包括如下步骤：

2、s1：认知流解析：拦截智能体与外部环境的会话交互信息，通过任务分解感知器、推理链抽取感知器、记忆上下文感知器和工具意图感知器对上述交互信息进行结构化解析，生成结构化行为单元；

3、s2：认知流图构建：以会话id为唯一标识，将结构化行为单元作为节点，将业务时序关系与语义依赖关系作为连接节点之间的边，构建认知流图；

4、s3：动态裁决步骤：当智能体发起数据访问请求时，请求被暂停，执行动态裁决，其中，执行动态裁决包括：

5、s31：获取当前会话对应的认知流图；

6、s32：调取行业知识库和/或会话记忆上下文，对认知流图的相关节点进行知识补充与属性完善；

7、s33：基于完善后的认知流图，提取任务意图、工具意图、推理深度多维安全特征，对各特征进行量化赋值，形成标准化特征向量；

8、s34：将所述特征向量输入预先训练完成的安全裁决模型，输出当前数据访问请求对应的风险等级与裁决结论；

9、s35：依据所述裁决结论执行对应的数据安全管控动作。

10、优选的，步骤s35还包括：结合智能体当前任务步骤，生成最小化实体字段白名单以及对应噪声脱敏参数；

11、签发带有数字签名的数据访问权杖，用于后续数据访问权限校验与合规执行。

12、优选的，步骤s35中还包括：采用渐进式数据释放策略：针对多步骤组合任务，不一次性开放全量数据权限，仅对当前执行步骤匹配最小必需的实体字段权限；采取分步授权、逐级管控，防范分步拼接、推理泄密、数据外传的组合式数据泄漏风险。

13、优选的，所述任务分解感知器采用规则前置分流+轻量模型精解析的双层架构，且配置流式增量解析机制。

14、优选的，所述规则前置分流层内置高频任务规则库，以json结构存储意图类型、触发关键词集、步骤模板，通过关键词匹配、句式模板匹配直接生成结构化步骤，覆盖标准化简单任务场景；

15、所述轻量模型精解析层针对规则层未命中的复杂多步任务，调用经指令微调的4bit量化轻量级开源大模型，通过专用提示词与约束解码机制，强制模型输出符合预设json schema的结构化内容；

16、所述流式增量解析机制以完整语义句为切分单位，以句号、问号、感叹号、预设连接词为语义切分锚点，分段实时输出解析结果，端到端解析延迟控制在100ms以内。

17、优选的，所述任务分解感知器还通过sentence-bert语义嵌入模型计算各步骤目标描述的向量余弦相似度，对相似度高于0.7阈值的步骤自动建立依赖关系，补全任务隐性执行逻辑，最终输出结构化步骤节点列表。

18、优选的，所述s1步骤中，所述推理链抽取感知器以大模型输出的cot思维链文本、智能体内部reasoning字段为输入，采用模式匹配结合语义分类的方式解析推理链路。

19、优选的，首先通过正则规则、依存句法分析识别预设推理连接词，划分推理文本片段；未匹配的文本送入轻量级transformer分类器，将句子类型划分为前提、推理、结论三类；

20、同时对推理节点文本执行命名实体识别，关联对应任务步骤实体，构建含trace_id、节点类型、文本内容、敏感实体的结构化推理链路，还原完整逻辑递进关系。

21、优选的，所述s1步骤中，所述记忆上下文感知器采用代理拦截+语义压缩+角色标注+相关性计算四层架构；

22、所述代理拦截层通过面向切面编程hook注入智能体记忆模块客户端，无侵入拦截向量数据库、会话记忆、知识库的全部读写与检索请求，捕获查询向量、top-k检索结果、集合名称、分区键元数据；

23、所述语义压缩层采用60m参数级别的bart-small轻量级摘要模型，生成记忆内容单句核心摘要，仅持久化摘要数据，降低存储开销并规避二次泄漏风险；

24、所述角色标注层通过微调后的tinybert/distilbert四分类器，将记忆内容划分为事实陈述、历史决策、用户偏好、政策规定四类语义角色，匹配差异化裁决权重；

25、所述相关性计算层通过查询向量与返回结果向量的余弦相似度判定访问合法性，相似度低于0.5阈值则判定为异常记忆访问，触发风险预警。

26、优选的，所述s1步骤中，所述工具调用意图感知器采用元数据增强、参数语义解析和上下文意图补全三级识别机制。

27、优选的，所述元数据增强层要求接入网关的工具预先注册json格式元数据，所述元数据包含工具名称、功能描述、业务分类、基础敏感等级、风险标签和敏感参数，未注册工具调用默认标记高风险并告警；

28、所述参数语义解析层结构化解析工具各类入参，提取接收地址、数据范围和查询条件，识别外部域名和第三方接口等高危参数并自动上调敏感等级；

29、所述上下文意图补全层将工具调用行为与顶层任务目标和任务步骤语义关联，细化真实业务意图，输出带置信度的标准化风险标签，所述标准化风险标签包括外部传输、批量导出、敏感查询、数据修改和越权执行。

30、另外本发明还提供一种计算机程序，所述计算机程序用于执行前述任一项所述的裁决方法。

31、本发明通过四类专用感知器，分别对应智能体规划、记忆、推理、执行四大核心认知环节，以无侵入方式解析完整会话交互流，精准识别传统网关无法感知的隐性风险，包括：多步数据拼接泄露、推理式敏感信息外泄、记忆投毒攻击、越权工具调用等组合式安全威胁。本发明打破了传统方案仅拦截单次工具请求、无法识别全局业务意图的认知盲区，从认知决策源头阻断分步窃取与隐蔽外传等新型数据安全风险。

32、本发明采用规则前置分流与轻量模型精解析的双层解析架构，可覆盖80%以上标准化简单任务场景，同时依托微调轻量化大模型解决复杂多步任务解析难题。配合流式增量解析机制，端到端解析延迟控制在100ms以内，可在智能体任务执行前完成意图预判，实现事前主动防护而非事后被动处置。此外，通过语义相似度算法自动补全任务隐性依赖关系，真实还原智能体完整执行逻辑。

33、本发明依托时序与语义双维度构建结构化认知流图，结合行业知识库及会话记忆上下文完善节点特征，通过多维量化特征向量与裁决模型实现智能化风险分级判定。采用步骤级最小权限渐进式释放策略，动态生成字段白名单、聚合精度、差分隐私噪声、查询行数等差异化脱敏与管控参数，仅开放当前任务步骤所必需的数据权限，在杜绝敏感数据泄露的同时，最大限度保障智能体正常业务执行能力。

34、本发明整体架构基于网关代理拦截实现，无需修改智能体内部代码，可适配langchain、autogpt等主流智能体框架及各类向量数据库与工具接口。同时，通过语义摘要压缩技术将记忆存储开销降低90%以上，规避原始记忆全量存储带来的二次泄漏风险，具有部署成本低、适配场景广的显著优势。

35、本发明通过会话唯一标识构建增量更新认知流图，完整涵盖任务、推理、记忆、工具行为节点及其因果关联与时序关联边，优选的，并通过sha-256哈希生成全局唯一图指纹。结合防篡改jwt数据访问权杖，完成全流程权限校验与行为留痕，实现智能体认知行为的可建模、可溯源、可审计，全面满足企业数据安全合规管控要求。