通信风险识别方法、装置、电子设备及存储介质与流程

摘要: 本公开涉及人工智能,特别涉及自然语言处理、智能体、大模型、信息安全以及知识图谱等领域,尤其涉及通信风险识别方法、装置、电子设备及存储介质。背景技术:1、随着多智...
通信风险识别方法、装置、电子设备及存储介质与流程

本公开涉及人工智能,特别涉及自然语言处理、智能体、大模型、信息安全以及知识图谱等领域,尤其涉及通信风险识别方法、装置、电子设备及存储介质。

背景技术:

1、随着多智能体(multi-agent)协作系统在企业级应用中的快速普及,智能体之间的通信安全问题日益成为制约系统可信部署的关键瓶颈。在金融交易、企业运营、智能运维等业务场景中,多个具备自主决策能力的智能体可通过消息交互完成复杂任务。为提升通信安全,需要对智能体发出的通信消息进行风险识别。传统的识别方式多为基于关键词的过滤方式,如通过预定义的敏感词库,对智能体间的通信消息进行实时匹配过滤。但这种方式的准确性通常较差,如攻击者只需更换措辞即可轻易绕过识别。

技术实现思路

1、本公开提供了通信风险识别方法、装置、电子设备及存储介质。

2、一种通信风险识别方法,包括:

3、获取目标智能体发出的通信消息,所述目标智能体为多智能体协作系统中的任一智能体;

4、获取所述通信消息对应的意图描述信息,根据所述意图描述信息确定出所述目标智能体在最近预定时长内的意图演化路径;

5、根据所述意图演化路径确定出所述通信消息的风险评估结果,根据所述风险评估结果确定出所述通信消息是否为风险消息。

6、一种通信风险识别装置,包括:消息获取模块、意图处理模块以及风险识别模块;

7、所述消息获取模块,用于获取目标智能体发出的通信消息,所述目标智能体为多智能体协作系统中的任一智能体;

8、所述意图处理模块,用于获取所述通信消息对应的意图描述信息,根据所述意图描述信息确定出所述目标智能体在最近预定时长内的意图演化路径;

9、所述风险识别模块,用于根据所述意图演化路径确定出所述通信消息的风险评估结果,根据所述风险评估结果确定出所述通信消息是否为风险消息。

10、一种电子设备,包括:

11、至少一个处理器;以及

12、与所述至少一个处理器通信连接的存储器;其中,

13、所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如以上所述的方法。

14、一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使计算机执行如以上所述的方法。

15、一种计算机程序产品,包括计算机程序/指令,所述计算机程序/指令被处理器执行时实现如以上所述的方法。

16、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其他特征将通过以下的说明书而变得容易理解。

1.一种通信风险识别方法,包括:

2.根据权利要求1所述的方法,其中,所述获取所述通信消息对应的意图描述信息包括:

3.根据权利要求2所述的方法,还包括:

4.根据权利要求2所述的方法,其中,所述根据所述通信消息和所述意图分类结果确定出所述意图描述信息包括:

5.根据权利要求3所述的方法,其中,所述根据所述意图描述信息确定出所述目标智能体在最近预定时长内的意图演化路径包括:

6.根据权利要求5所述的方法,其中,所述根据所述意图描述信息、所述意图分类结果和所述意图本体树,确定出所述通信消息对应的意图路径包括:

7.根据权利要求1所述的方法,其中,所述根据所述意图演化路径确定出所述通信消息的风险评估结果包括:

8.根据权利要求7所述的方法,其中,所述直接根据所述意图演化路径确定出所述风险评估结果包括:

9.根据权利要求7所述的方法,其中,所述根据所述联合意图链确定出所述风险评估结果包括:

10.根据权利要求1所述的方法,其中,

11.根据权利要求10所述的方法,还包括:

12.一种通信风险识别装置,包括:消息获取模块、意图处理模块以及风险识别模块;

13.一种电子设备,包括:

14.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使计算机执行权利要求1-11中任一项所述的方法。

15.一种计算机程序产品,包括计算机程序/指令,所述计算机程序/指令被处理器执行时实现权利要求1-11中任一项所述的方法。