一种智能体运行轨迹审计方法及系统与流程

本申请涉及信息，具体涉及一种智能体运行轨迹审计方法及系统。

背景技术：

1、在人工智能软件治理与信息安全技术领域中，针对基于大语言模型的智能体运行轨迹的审计，通常依赖传统的应用日志记录、通用分布式追踪技术（例如基于opentelemetry的span传播）以及执行前依据规则进行阻断的策略拦截机制。

2、相较于传统应用软件，智能体的决策路径具有非确定性、语义依赖性强、外部副作用分散等特点，导致审计面临以下问题：

3、第一，多源运行事件缺少统一关联与因果链。各类日志分属不同系统，事后难以还原完整决策链。

4、第二，发布基线与运行轨迹缺乏自动比对。运行期实际轨迹是否与发布基线一致，缺少自动化“基线—轨迹”diff机制，违规行为常需事后人工翻查，时效性差。

5、第三，审计记录难以证明未被篡改。分散存储的日志易被误删或篡改，且哈希链等防篡改手段常与基线比对、偏离标注相互独立，难以在同一视图内同时验证记录完整性与行为合规性。

6、第四，跨会话分散异常难以发现。单会话内不显著的异常行为需结合多会话窗口化聚合才能识别，而单点日志检索或单trace告警难以支撑此类跨会话关联分析。

7、第五，调查过程缺少基线与实际轨迹的对照。展示原始span或对话片段，调查人员难以在同一决策时间线上对照事件发生时刻生效的基线规则与实际行为及偏离标注，给合规复盘带来较大困难。

技术实现思路

1、本说明书多个实施例描述了一种智能体运行轨迹审计方法及系统。

2、第一方面，本说明书实施例提供了一种智能体运行轨迹审计方法，包括步骤：

3、在智能体运行时，采集至少一类运行事件，并为同一智能体运行实例生成全局关联标识，将同一用户任务或同一会话窗口内的所有运行事件绑定所述全局关联标识；

4、将异构格式的所述运行事件转换为符合预设schema的标准审计事件，获得标准审计事件序列；

5、获取与所述智能体的实例及当前使用的策略上下文版本号相对应的基线描述信息，将所述标准审计事件序列与所述基线描述信息进行匹配，输出比对结果及分类型偏离项；

6、按时间顺序将所述标准审计事件、所述比对结果中的偏离项及完整性校验值一并写入审计存储区；

7、响应审计查询请求，根据所述全局关联标识从所述审计存储区检索并回传标准审计事件序列及关联的偏离项。

8、第二方面，本说明书实施例提供了一种智能体运行轨迹审计系统，包括：

9、采集模块，在智能体运行时，采集至少一类运行事件，并为同一智能体运行实例生成全局关联标识，将同一用户任务或同一会话窗口内的所有运行事件绑定所述全局关联标识；

10、转换模块，将异构格式的所述运行事件转换为符合预设schema的标准审计事件，获得标准审计事件序列；

11、匹配模块，获取与所述智能体的实例及当前使用的策略上下文版本号相对应的基线描述信息，将所述标准审计事件序列与所述基线描述信息进行匹配，输出比对结果及分类型偏离项；

12、存储模块，按时间顺序将所述标准审计事件、所述比对结果中的偏离项及完整性校验值一并写入审计存储区；

13、审计模块，响应审计查询请求，根据所述全局关联标识从所述审计存储区检索并回传标准审计事件序列及关联的偏离项。

14、第三方面，本说明书实施例提供了电子设备，包括处理器以及存储器；

15、所述处理器与所述存储器相连；

16、所述存储器，用于存储可执行程序代码；

17、所述处理器通过读取所述存储器中存储的可执行程序代码来运行与所述可执行程序代码对应的程序，以用于执行上述任一方面所述的方法。

18、第四方面，本说明书实施例提供了计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任一方面所述的方法。

19、第五方面，本说明书实施例提供了计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述任一方面所述的方法。

20、本说明书一些实施例提供的技术方案带来的有益效果至少包括：

21、在本说明书多个实施例中，提供的智能体运行轨迹审计方法及系统，通过全局关联标识、带前驱引用的标准审计事件schema以及决策时间线回放，将分散在多系统中的异构运行记录串联为可还原的“推理->工具->反馈”完整决策链，解决了智能体多源事件缺乏因果关联的问题，降低事后调查与监管举证的拼接成本。

22、通过基线比对模块将运行期实际轨迹与发布制品版本对应的基线描述信息进行自动匹配，并输出分类型偏离项，使偏离行为在运行期或批处理阶段即可被定位，弥补了执行前拦截方案无法提供完整事后diff的不足。

23、关联分析模块在预设时间窗口内对多个全局关联标识对应的标准审计事件进行聚合，能够识别单会话内不显著但跨实例重复出现的风险模式并输出告警，且支持由告警一键下钻至对应决策时间线视图，将分散在噪声中的攻击信号还原为可验证的因果链。

24、本说明书多个实施例的其他特点和优点将会在下面的具体实施方式、附图中进一步揭示。

1.一种智能体运行轨迹审计方法，其特征在于，包括步骤：

2.根据权利要求1所述的一种智能体运行轨迹审计方法，其特征在于，

3.根据权利要求1所述的一种智能体运行轨迹审计方法，其特征在于，

4.根据权利要求1所述的一种智能体运行轨迹审计方法，其特征在于，

5.根据权利要求1所述的一种智能体运行轨迹审计方法，其特征在于，

6.根据权利要求5所述的一种智能体运行轨迹审计方法，其特征在于，

7.根据权利要求1所述的一种智能体运行轨迹审计方法，其特征在于，

8.一种智能体运行轨迹审计系统，其特征在于，包括：

9.一种电子设备，其特征在于，包括处理器以及存储器；

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-7任一项所述的方法。