智能体行为控制方法、电子设备及存储介质与流程

摘要: 本技术涉及智能体控制,尤其是一种智能体行为控制方法、电子设备及存储介质。背景技术:1、现有智能体行为控制方案通常集中在角色权限、接口鉴权、动作白名单、调用频控或...
智能体行为控制方法、电子设备及存储介质与流程

本技术涉及智能体控制,尤其是一种智能体行为控制方法、电子设备及存储介质。

背景技术:

1、现有智能体行为控制方案通常集中在角色权限、接口鉴权、动作白名单、调用频控或者人工审批等环节。这类方案能够在一定程度上限制智能体调用工具的范围,但面对机器人/iot 等物理环境强相关场景时仍然存在明显不足。对于同一条控制指令,例如“打开阀门”、“启动机器人”、“读取摄像头”或“调用远程设备接口”,在不同地理区域、不同设备状态、不同网络边界和不同现场风险条件下,可能具有完全不同的安全含义,仅依靠静态策略规则难以准确判断当前动作是否应被放行,影响智能体行为控制的精度。

技术实现思路

1、本技术的目的是提供一种智能体行为控制方法、电子设备及存储介质,能够提高在复杂物理环境下的智能体行为控制精度。

2、本技术实施例提供一种智能体行为控制方法,包括:

3、响应于接收到的智能体行为请求,生成相应的行为请求对象;所述行为请求对象包含动作类型信息、动作风险信息、资源类型信息、参数类型信息、执行终端信息和目标资源信息;

4、获取与所述动作类型信息和所述资源类型信息匹配的策略规则集合;

5、获取与所述执行终端信息和所述目标资源信息相关的环境边界参数,并根据所述环境边界参数,生成环境边界快照;

6、根据所述策略规则集合、所述动作风险信息和所述参数类型信息,对所述行为请求对象和所述环境边界快照进行联合约束判定,得到约束判定结果;

7、根据所述约束判定结果,控制相应的执行终端执行相应的动作。

8、在一些实施例中,所述获取与所述动作类型信息和所述资源类型信息匹配的策略规则集合,包括:

9、根据所述动作类型信息,选出覆盖所述动作类型信息的第一策略规则;

10、根据所述资源类型信息,从所述第一策略规则中选取适用范围覆盖所述资源类型信息的第二策略规则;

11、根据所述第二策略规则的优先级,对所述第二策略规则进行排序,并根据排序结果生成所述策略规则集合。

12、在一些实施例中,所述获取与所述执行终端信息和所述目标资源信息相关的环境边界参数,包括:

13、根据所述执行终端信息,确定所述执行终端的设备地址和可采集参数类型;

14、根据所述目标资源信息,确定目标资源的资源位置信息和关联传感器;

15、根据所述设备地址、所述可采集参数类型、所述资源位置信息和所述关联传感器,获取与所述执行终端和所述目标资源相关的环境边界参数;

16、对所述环境边界参数进行归一化处理,并添加时间戳。

17、在一些实施例中,所述根据所述策略规则集合、所述动作风险信息和所述参数类型信息,对所述行为请求对象和所述环境边界快照进行联合约束判定,包括:

18、判断所述行为请求对象是否命中所述策略规则集合中的拒绝执行条件;

19、若命中,生成表征拒绝的约束判定结果;

20、若未命中,根据所述动作风险信息和所述参数类型信息进行权重配置,得到多个风险维度权重,并根据所述风险维度权重,对所述环境边界快照进行多维度边界判定,得到所述约束判定结果。

21、在一些实施例中,所述根据所述判定维度权重,对所述环境边界快照进行多维度边界判定,包括:

22、对所述环境边界快照中的地理边界参数、设备边界参数、网络边界参数、时间边界参数和风险边界参数进行归一化映射,得到地理风险、设备风险、网络风险、时间窗口风险和现场危险信号风险;

23、根据所述策略规则集合中策略规则的审计等级,确定策略风险;

24、根据所述判定维度权重,对所述策略风险、所述地理风险、所述设备风险、所述网络风险、所述时间窗口风险和所述现场危险信号风险进行加权求和,计算综合风险分数;

25、根据所述综合风险分数,得到所述约束判定结果。

26、在一些实施例中,所述根据所述约束判定结果,控制相应的执行终端执行相应的动作,包括:

27、在所述约束判定结果为放行时,控制所述执行终端信息对应的执行终端执行所述动作类型信息对应的动作;

28、在所述约束判定结果为替代时,根据边界失败原因和所述动作类型信息生成替代动作,并控制所述替代动作对应的执行终端执行所述替代动作;

29、在所述约束判定结果为拒绝时,终止执行所述智能体行为请求。

30、在一些实施例中,所述根据边界失败原因和所述动作类型信息生成替代动作,并控制所述替代动作对应的执行终端执行所述替代动作,包括:

31、根据所述动作类型信息,确定任务目标;

32、根据所述边界失败原因,确定不满足的边界条件;

33、根据所述任务目标和所述不满足的边界条件,从预置的替代动作映射关系中选取与所述动作类型对应的替代动作;

34、根据所述替代动作对应的执行终端和替代资源,获取与所述替代动作对应的环境边界参数,生成替代动作环境边界快照;

35、获取与所述替代动作匹配的策略规则集合;

36、根据与所述替代动作匹配的策略规则集合,对所述替代动作和所述替代动作环境边界快照进行联合约束判定,得到二次判定结果;

37、在所述二次判定结果为放行时,控制所述替代动作对应的执行终端执行所述替代动作。

38、在一些实施例中,所述行为请求对象还包括动作预期效果信息,所述智能体行为控制方法,还包括:

39、获取所述执行终端执行相应的动作后的执行反馈信息;

40、将所述执行反馈信息与所述动作预期效果信息进行比对,得到验证信息;

41、将所述行为请求对象、所述联合约束判定过程中被触发的策略规则、所述环境边界快照、所述约束判定结果、所述执行反馈信息和所述验证信息关联存储,生成行为控制记录。

42、本技术实施例还提供一种电子设备,所述电子设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述的智能体行为控制方法。

43、本技术实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述的智能体行为控制方法。

44、本技术的有益效果:在接收到智能体行为请求时,生成包含动作类型信息、动作风险信息、资源类型信息、参数类型信息、执行终端信息和目标资源信息的行为请求对象,提供全面的行为请求上下文,然后获取与动作类型信息和资源类型信息匹配的策略规则集,以及获取与执行终端信息和目标资源信息相关的环境边界参数,并根据环境边界参数生成环境边界快照,动态感知实时物理环境,进而根据策略规则集合、动作风险信息和参数类型信息,对行为请求对象和环境边界快照进行联合约束判定,得到约束判定结果,根据约束判定结果,控制相应的执行终端执行相应的动作,实现多维度、动态的决策机制。由此,在获取智能体行为请求中全面的行为请求上下文之后,通过联合约束判定机制整合策略规则与动态环境边界参数,实现对智能体行为的多维度实时评估,能够根据实时环境边界参数动态调整行为控制判定,提高在复杂物理环境下的智能体行为控制精度。