智能体自主任务执行场景下的安全控制方法、装置及设备与流程
本公开涉及信息安全,特别是涉及智能体自主任务执行场景下的安全控制方法、装置及设备。
背景技术:
1、随着大语言模型和智能体(agent)技术的发展,人工智能系统逐渐由传统的问答模式向具备自主任务规划、任务拆解、工具调用和多agent协同能力的自主任务执行模式演进。在智能体系统中,一个复杂任务通常需要由多个智能体协同完成,并在任务执行过程中动态调用数据库查询、文件处理、代码执行以及外部网络服务等不同类型的mcp(modelcontext protocol,模型上下文协议)工具,由此形成包含智能体、工具和数据对象的动态调用链及信息传播链。
2、为保障信息系统安全,现有系统通常采用三员分立的安全管理机制以及基于角色的访问控制(role-based access control,rbac)模型进行权限管理。其中,三员分立机制将系统管理、安全保密管理和安全审计职责分别分配给系统管理员、安全保密管理员和安全审计员,通过职责分离实现不同管理权限之间的相互制约。rbac模型则建立用户、角色、权限和资源之间的映射关系,将具体操作权限配置给不同角色,并根据用户所属角色及其对应权限集合判断用户是否能够访问相应资源或执行相应操作。在具有较高安全要求的应用场景中,还可以为用户、数据资源或系统对象设置相应的安全属性或安全级别,并依据主体与客体之间的安全属性关系进行访问控制。
3、上述两种安全管理机制主要以用户身份、固定角色、预先配置的权限以及单次资源访问请求作为安全控制依据,能够满足传统用户和业务流程相对固定的信息系统的权限管理需求。然而在智能体自主执行任务的场景下,实际的安全控制需求可能会随着任务的执行而动态改变,导致这两种安全管理机制难以满足相应场景下的安全控制需求。
技术实现思路
1、本公开的目的在于提供一种智能体自主任务执行场景下的安全控制方法、装置及设备,以实现面向任务上下文的动态安全控制。具体技术方案如下:
2、第一方面,本公开提供了一种智能体自主任务执行场景下的安全控制方法,包括:获取待执行的任务,由智能体自主执行该任务;响应于任务执行过程中产生的待执行行为事件,基于预设的安全状态影响因素,更新智能体的当前有效安全密级;其中,安全状态影响因素包括如下一项或多项:智能体的基础安全密级,任务的安全密级,当前访问的数据对象的安全密级,当前调用的mcp工具的安全密级,智能体的历史行为风险;若当前待执行行为事件满足预设的风险触发条件,针对当前待执行行为事件进行干预处理;风险触发条件至少包括密级匹配性条件,密级匹配性条件包括:数据对象将流入的智能体的当前有效安全密级低于数据对象的安全密级,或,数据对象将流入的mcp工具的安全密级低于数据对象的安全密级;若当前待执行行为事件不满足风险触发条件,放行当前待执行行为事件。
3、第二方面,本公开提供了一种智能体自主任务执行场景下的安全控制装置,包括:任务获取模块,用于获取待执行的任务,由智能体自主执行该任务;动态安全密级确定模块,用于响应于任务执行过程中产生的待执行行为事件,基于预设的安全状态影响因素,更新智能体的当前有效安全密级;其中,安全状态影响因素包括如下一项或多项:智能体的基础安全密级,任务的安全密级,当前访问的数据对象的安全密级,当前调用的mcp工具的安全密级,智能体的历史行为风险;所述历史行为风险为基于所述智能体已完成的各历史行为事件确定的风险累积值;安全策略执行模块,用于若当前待执行行为事件满足预设的风险触发条件,针对当前待执行行为事件进行干预处理;若当前待执行行为事件不满足所述风险触发条件,放行当前待执行行为事件;风险触发条件至少包括密级匹配性条件,密级匹配性条件包括:数据对象将流入的智能体的当前有效安全密级低于数据对象的安全密级,或,数据对象将流入的mcp工具的安全密级低于数据对象的安全密级。
4、本公开还提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;存储器,用于存放计算机程序;处理器,用于执行存储器上所存放的程序时,实现上述第一方面的智能体自主任务执行场景下的安全控制方法。
5、本公开的有益效果:
6、本公开实施例提供的智能体自主任务执行场景下的安全控制方法、装置及设备,通过将智能体的基础安全密级、任务的安全密级、当前访问的数据对象的安全密级、当前调用的mcp工具的安全密级与智能体的历史行为风险中的一项或多项作为影响智能体安全状态的安全状态影响因素,并在自主任务执行的过程中根据相应的安全状态影响因素实时更新智能体的当前有效安全密级,使得智能体的安全密级可随着任务执行过程动态调整。从而在对智能体的有效安全密级与数据对象的安全密级进行比对,以确定是否对当前待执行行为事件进行干预处理时,所依据的当前有效安全密级能够更准确地反映出智能体在当前任务执行阶段的实际安全状态;也就能够在面临当前待执行行为事件时,更为准确、灵活地作出与当前任务上下文相适应的安全控制决策,从而有助于在确保信息安全的同时尽可能保障任务的自主顺利执行。
7、当然,实施本公开的任一产品或方法并不一定需要同时达到以上所述的所有优点。
1.一种智能体自主任务执行场景下的安全控制方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求2所述的方法,其特征在于,所述风险因子还包括密级差异风险、跨安全域风险、工具安全风险与权限偏离风险中的一项或多项;
4.根据权利要求2或3所述的方法,其特征在于,在放行所述当前待执行行为事件或对所述当前待执行行为事件进行干预处理之后,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,所述若当前待执行行为事件满足预设的风险触发条件,针对当前待执行行为事件进行干预处理,包括:
6.根据权利要求1所述的方法,其特征在于,所述风险触发条件还包括权限匹配性条件,所述权限匹配性条件包括:当前待执行行为事件超出所述任务授权的行为范围;所述若当前待执行行为事件满足预设的风险触发条件,针对当前待执行行为事件进行干预处理,包括:
7.根据权利要求1所述的方法,其特征在于,所述风险触发条件还包括:数据对象将流入的安全域不在所述数据对象允许流入的安全域范围之内。
8.根据权利要求1所述的方法,其特征在于,所述待执行行为事件包括如下各事件中的一种或多种:任务创建、任务委派、数据访问、数据写入、数据传递、mcp工具调用、智能体间通信、跨安全域访问、权限变更。
9.一种智能体自主任务执行场景下的安全控制装置,其特征在于,包括:
10.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com