基于智能体的安全校验方法、装置、设备和介质与流程

本申请涉及但不限于人工智能，尤其涉及一种基于智能体的安全校验方法、装置、设备和介质。

背景技术：

1、在金融风控领域，随着人工智能技术的快速发展，智能体已被广泛应用于智能客服、信贷审批、反欺诈调查等核心业务场景。这些ai系统通过与大语言模型的深度结合，能够高效处理复杂的金融案件查询、风险评估与报告生成等任务，显著提升了业务处理效率。然而，金融行业作为强监管、高安全要求的特殊领域，其业务系统直接面向海量用户，且存储着大量敏感的客户信息、交易数据及核心风控规则。

2、因此对ai系统的安全防护提出了极高要求。如何有效防范针对智能体的恶意攻击，如提示词注入、规则探测、敏感信息窃取等，已成为金融机构亟需解决的关键技术难题。

技术实现思路

1、有鉴于此，本申请实施例至少提供一种基于智能体的安全校验方法、装置、设备和介质。

2、本申请实施例的技术方案是这样实现的：

3、一方面，本申请实施例提供一种基于智能体的安全校验方法，所述方法包括：

4、将接收到的用户查询输入至安全分类智能体，通过所述安全分类智能体的级联检测机制对所述用户查询进行安全性检测，得到安全判定结果；

5、根据所述安全判定结果，在所述用户查询为不安全查询的情况下，执行预设的拦截响应并记录安全事件日志，在所述用户查询为安全查询的情况下，执行将所述用户查询转发至业务处理智能体；

6、通过所述业务处理智能体执行金融案件校验逻辑得到业务响应；

7、将所述业务响应输入至输出审查智能体，通过所述输出审查智能体对所述业务响应进行敏感性检查和合规性检查，得到输出审查结果；

8、根据所述输出审查结果，在所述输出审查结果为通过的情况下，输出所述业务响应，在所述输出审查结果为未通过的情况下，将所述业务响应替换为预设的安全响应后输出，并将所有安全事件记录至审计日志模块。

9、另一方面，本申请实施例提供一种基于智能体的安全校验装置，所述方法包括：

10、处理模块，用于将接收到的用户查询输入至安全分类智能体，通过所述安全分类智能体的级联检测机制对所述用户查询进行安全性检测，得到安全判定结果；

11、根据所述安全判定结果，在所述用户查询为不安全查询的情况下，执行预设的拦截响应并记录安全事件日志，在所述用户查询为安全查询的情况下，执行将所述用户查询转发至业务处理智能体；

12、通过所述业务处理智能体执行金融案件校验逻辑得到业务响应；

13、输出模块，用于将所述业务响应输入至输出审查智能体，通过所述输出审查智能体对所述业务响应进行敏感性检查和合规性检查，得到输出审查结果；

14、根据所述输出审查结果，在所述输出审查结果为通过的情况下，输出所述业务响应，在所述输出审查结果为未通过的情况下，将所述业务响应替换为预设的安全响应后输出，并将所有安全事件记录至审计日志模块。

15、再一方面，本申请实施例提供一种计算机设备，包括存储器和处理器，所述存储器存储有可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述基于智能体的安全校验方法中的部分或全部步骤。

16、又一方面，本申请实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述基于智能体的安全校验方法中的部分或全部步骤。

17、又一方面，本申请实施例提供一种计算机程序，包括计算机可读代码，当所述计算机可读代码在计算机设备中运行时，所述计算机设备中的处理器执行用于实现上述基于智能体的安全校验方法中的部分或全部步骤。

18、又一方面，本申请实施例提供一种计算机程序产品，所述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，所述计算机程序被计算机读取并执行时，实现上述基于智能体的安全校验方法中的部分或全部步骤。

19、本申请实施例通过构建安全分类智能体、业务处理智能体和输出审查智能体的多智能体协同架构并执行级联检测、安全检查、业务处理、输出审查及审计日志记录的全流程步骤，从输入到输出对金融案件校验过程进行全方位、多层次安全防护，提升了攻击拦截率、降低误报率并满足金融场景实时性、合规性和可溯源要求。

20、应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，而非限制本申请的技术方案。

1.一种基于智能体的安全校验方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述通过所述安全分类智能体的级联检测机制对所述用户查询进行安全性检测，包括：

3.根据权利要求1所述方法，其特征在于，所述执行预设的拦截响应并记录安全事件日志，包括：

4.根据权利要求1所述的方法，其特征在于，所述通过所述业务处理智能体执行金融案件校验逻辑得到业务响应，包括：

5.根据权利要求1所述的方法，其特征在于，所述通过所述输出审查智能体对所述业务响应进行敏感性检查和合规性检查，得到输出审查结果，包括：

6.根据权利要求1所述的方法，其特征在于，所述将所有安全事件记录至审计日志模块，包括：

7.根据权利要求4所述的方法，其特征在于，所述方法还包括：

8.一种基于智能体的安全校验装置，其特征在于，所述装置包括：

9.一种计算机设备，包括存储器和处理器，所述存储器存储有可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1至7中任一项所述基于智能体的安全校验方法中的步骤。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现权利要求1至7中任一项所述基于智能体的安全校验方法中的步骤。