智能体操作的审计方法、装置、电子设备、介质及产品与流程

摘要: 本公开涉及数据处理,尤其涉及智能体、操作审计或网络安全,具体而言,本公开涉及一种智能体操作的审计方法、装置、电子设备、介质及产品。背景技术:1、随着基于大语言模...
智能体操作的审计方法、装置、电子设备、介质及产品与流程

本公开涉及数据处理,尤其涉及智能体、操作审计或网络安全,具体而言,本公开涉及一种智能体操作的审计方法、装置、电子设备、介质及产品。

背景技术:

1、随着基于大语言模型的智能体的广泛应用,智能体在执行环境中自主执行代码、操作文件、调用外部接口等行为日益普遍。

2、在一些特定场景下,特别是对操作可追溯性和行为合规性有较高要求的场景中,需要对智能体在执行环境中的每一步操作进行审计,以便形成完整、可核查的执行记录。

3、在此背景下,如何提高智能体操作审计结果的可靠性,成为了一个重要的技术问题。

技术实现思路

1、本公开为了解决上述缺陷中的至少一项,提供了一种智能体操作的审计方法、装置、电子设备、介质及产品。

2、根据本公开的第一方面,提供了一种智能体操作的审计方法,该方法包括:

3、获取智能体对目标任务的执行过程所对应的链式数据结构,链式数据结构包括依次排列的多个节点,除起始节点以外的各节点分别与执行过程中各操作事件对应,除起始节点外,各节点的值为基于相应操作事件的事件信息、相应操作事件完成后智能体的第一执行环境的第一环境状态信息以及前一节点的值计算的信息摘要;

4、响应于审计请求,对链式数据结构进行完整性校验,得到第一子审计结果;

5、响应于第一子审计结果为校验通过,基于链式数据结构进行对第一执行环境的环境状态验证,得到第二子审计结果。

6、根据本公开的第二方面,提供了一种智能体操作的审计装置,该装置包括:

7、链式数据结构获取模块,用于获取智能体对目标任务的执行过程所对应的链式数据结构,链式数据结构包括依次排列的多个节点,除起始节点以外的各节点分别与执行过程中各操作事件对应,除起始节点外,各节点的值为基于相应操作事件的事件信息、相应操作事件完成后智能体的第一执行环境的第一环境状态信息以及前一节点的值计算的信息摘要;

8、完整性校验模块,用于响应于审计请求,对链式数据结构进行完整性校验,得到第一子审计结果;

9、环境状态校验模块,用于响应于第一子审计结果为校验通过,基于链式数据结构进行对第一执行环境的环境状态验证,得到第二子审计结果。

10、根据本公开的第三方面,提供了一种电子设备,该电子设备包括:

11、至少一个处理器;以及

12、与上述至少一个处理器通信连接的存储器;其中,

13、存储器存储有可被上述至少一个处理器执行的指令,指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行上述智能体操作的审计方法。

14、根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,该计算机指令用于使计算机执行上述智能体操作的审计方法。

15、根据本公开的第五方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现上述智能体操作的审计方法。

16、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

1.一种智能体操作的审计方法,包括:

2.根据权利要求1所述的方法,其中,所述基于所述链式数据结构进行对所述第一执行环境的环境状态验证,包括:

3.根据权利要求2所述的方法,还包括:

4.根据权利要求2或3所述的方法,其中,所述起始节点的值为基于所述目标任务执行前所述第一执行环境的初始环境状态信息以及所述目标任务的任务信息计算的信息摘要;

5.根据权利要求1-4中任一项所述的方法,其中,所述链式数据结构还包括终止节点,所述终止节点是响应于所述目标任务的终止事件生成的,所述终止节点的值为基于所述第一执行环境的最终环境状态信息以及任务终止标识计算的信息摘要。

6.根据权利要求1-5中任一项所述的方法,其中,所述第一环境状态信息包括以下至少一项:

7.根据权利要求6所述的方法,其中,所述文件系统的信息包括文件系统哈希树,所述方法还包括:

8.根据权利要求1-7中任一项所述的方法,其中,所述对所述链式数据结构进行完整性校验,得到第一子审计结果,包括:

9.根据权利要求8所述的方法,还包括:

10.根据权利要求1-9中任一项所述的方法,还包括:

11.根据权利要求1-10中任一项所述的方法,还包括:

12.根据权利要求11所述的方法,其中,所述利用大语言模型,基于所述第一子审计结果,或者基于所述第一子审计结果与所述第二子审计结果,并基于所述链式数据结构,生成审计报告,包括:

13.根据权利要求12所述的方法,其中,所述审计报告包括以下至少一项内容:

14.一种智能体操作的审计装置,包括:

15.一种电子设备,包括:

16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-13中任一项所述的方法。

17.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-13中任一项所述的方法。