一种Skill权限控制方法、装置、电子设备及介质与流程
本技术属于人工智能安全与访问控制,涉及一种skill权限控制方法、装置、电子设备及介质。
背景技术:
1、随着大模型智能体由对话式问答逐步发展为任务执行型系统,智能体需要在获得授权的情况下调用外部工具、插件或skill完成跨系统操作。现有权限控制方案通常采用静态工具列表、统一服务账号、人工配置的api key、oauth授权、acl、rbac、abac或oauthscope等机制,并在工具或插件层设置静态白名单、在代码执行环境中配置沙箱、在提示词中加入安全规则,以对账号、应用、工具或运行环境形成访问边界。同时,skill可通过插件市场、内部平台或第三方仓库发布和分发,其权限需求通常记载于自然语言说明、配置字段或示例命令中,工具调用过程则通过调用日志记录对应的执行结果。
2、然而,现有权限机制通常以账号级、应用级或工具级权限为基础,难以针对单次任务、具体skill版本及当前调用上下文动态形成差异化权限边界,因而难以满足同一skill在不同任务下仅获得不同权限子集的要求;同时,在skill加载前,系统难以验证skill声明权限与代码包、依赖指纹、发布者身份及运行时调用行为之间的一致性,版本升级、依赖变更或权限扩张还可能引发供应链风险。由于skill的权限需求分散在不同形式的数据中,系统难以准确识别当前任务所需的工具权限、文件权限、网络权限和密钥权限,统一授予全部能力容易扩大越权调用和数据泄漏风险;普通沙箱主要约束代码或进程行为,难以限制自然语言skill对模型产生的诱导;现有调用日志又往往缺少任务来源、skill来源、权限约束、调用参数、确认信息、敏感数据标签及拦截原因之间的关联,导致权限控制过程难以按任务动态裁剪、持续约束和完整回放。
3、此外,大模型智能体基于自然语言动态规划任务并选择skill,若仅在skill已经进入模型可调用范围后执行权限检查,仍可能使与当前任务无关的高风险skill进入模型规划空间;而即使已经形成任务态授权结果,若运行时仅验证能力令牌本身是否有效,而不校验实际调用所对应的任务、实际调用skill、当前权限合约版本及任务态权限集合是否仍与授权形成时一致,也可能出现跨任务复用、skill替换或权限合约版本变化后继续使用原授权结果的问题。
技术实现思路
1、本技术提供一种skill权限控制方法、装置、电子设备及介质,用于解决现有技术中面向大模型智能体的skill权限通常以账号、应用或工具为单位静态授予,难以结合单次任务语义、skill权限合约和实时上下文动态形成任务态权限边界,并难以保证授权形成状态与运行时实际调用状态持续一致的问题。
2、第一方面,本技术提供一种skill权限控制方法,包括:
3、获取任务请求数据,对所述任务请求数据执行语义解析,生成任务意图数据和权限预边界,并利用所述任务意图数据和所述权限预边界执行skill加载预拦截和候选skill召回,获得候选skill;
4、读取所述候选skill的权限合约,对所述权限合约执行可信校验,获得通过可信校验的候选skill,并基于所述任务意图数据从通过可信校验的候选skill中确定目标skill,提取所述目标skill的声明权限数据;
5、对所述任务意图数据执行权限映射,生成任务权限数据,并获取权限约束数据;
6、对所述权限预边界、所述声明权限数据、所述任务权限数据和所述权限约束数据执行基于权限原子的权限求解,生成任务态执行权限原子集合;
7、获取所述任务请求数据对应的任务标识、所述目标skill对应的skill标识和权限合约摘要,以及任务执行约束数据;将所述任务态执行权限原子集合、所述任务标识、所述skill标识、所述权限合约摘要和所述任务执行约束数据进行关联封装,生成任务态权限上下文;并对所述任务态权限上下文执行签名封装,生成能力令牌;
8、获取所述目标skill的调用请求,对所述调用请求执行权限原子化处理,生成待执行权限原子;对所述能力令牌执行令牌校验,并将所述待执行权限原子与所述任务态执行权限原子集合进行权限范围比较,根据令牌校验结果和权限范围比较结果,生成资源访问请求或调用阻断数据。
9、在第一方面的一种实现方式中,所述获取任务请求数据,对所述任务请求数据执行语义解析,生成任务意图数据和权限预边界,并利用所述任务意图数据和所述权限预边界执行skill加载预拦截和候选skill召回,获得候选skill,包括:
10、获取与所述任务请求数据关联的上下文数据;
11、利用受限语义模型对所述任务请求数据和所述上下文数据执行结构化语义解析,提取意图类别、候选动作、候选资源和任务限制数据中的至少一种,生成所述任务意图数据、语义风险数据和所述权限预边界;
12、获取skill加载控制数据,对所述任务意图数据、所述语义风险数据、所述权限预边界和所述skill加载控制数据执行匹配,生成允许skill范围;
13、在所述允许skill范围内执行候选skill召回,获得所述候选skill。
14、在第一方面的一种实现方式中,所述读取所述候选skill的权限合约,对所述权限合约执行可信校验,获得通过可信校验的候选skill,并基于所述任务意图数据从通过可信校验的候选skill中确定目标skill,提取所述目标skill的声明权限数据,包括:
15、读取所述候选skill的权限合约及对应的可信验证数据;
16、利用所述可信验证数据,对所述权限合约执行合约结构校验、身份可信性校验、内容完整性校验和运行兼容性校验,并校验候选skill的声明能力与声明权限的一致性,获得通过可信校验的候选skill;根据所述任务意图数据与通过可信校验的候选skill的能力信息之间的匹配结果,从所述通过可信校验的候选skill中确定目标skill;
17、解析所述目标skill的权限合约,并将解析获得的权限声明转换为权限原子集合,生成所述声明权限数据。
18、在第一方面的一种实现方式中,所述对所述任务意图数据执行权限映射,生成任务权限数据,并获取权限约束数据,包括:
19、从所述任务意图数据中提取任务动作数据、任务资源数据和任务限制数据;
20、利用预设动作映射规则对所述任务动作数据执行标准化映射,生成标准操作类型,并利用预设资源解析规则对所述任务资源数据执行资源解析,生成资源类型和资源选择器;
21、对所述任务限制数据执行权限限制转换,生成数据范围、参数约束和时间窗口数据;
22、将所述标准操作类型、所述资源类型、所述资源选择器、所述数据范围、所述参数约束和所述时间窗口数据组合为权限原子,并由所述权限原子组成所述任务权限数据;
23、获取组织策略允许权限数据、实时上下文约束数据和显式禁止权限数据,组合生成所述权限约束数据。
24、在第一方面的一种实现方式中,所述对所述权限预边界、所述声明权限数据、所述任务权限数据和所述权限约束数据执行基于权限原子的权限求解,生成任务态执行权限原子集合,包括:
25、对所述权限预边界、所述声明权限数据、所述任务权限数据和所述权限约束数据执行权限原子归一化;
26、对经权限原子归一化的所述权限预边界、所述声明权限数据、所述任务权限数据以及所述权限约束数据中的组织策略允许权限数据和实时上下文约束数据执行权限原子求交,生成候选权限原子集合;
27、利用所述权限约束数据中的显式禁止权限数据对所述候选权限原子集合执行权限过滤,生成所述任务态执行权限原子集合。
28、在第一方面的一种实现方式中,所述任务态权限上下文和所述能力令牌的生成,包括:
29、获取所述任务请求数据对应的任务标识和所述任务执行约束数据,并读取所述目标skill对应的skill标识和权限合约摘要;
30、将所述任务态执行权限原子集合、所述任务标识、所述skill标识、所述权限合约摘要和所述任务执行约束数据进行关联封装,生成任务态权限上下文;
31、对所述任务态执行权限原子集合执行摘要计算,生成任务态执行权限原子集合摘要;
32、将所述任务标识、所述skill标识、所述权限合约摘要、所述任务态执行权限原子集合摘要和所述任务执行约束数据写入令牌载荷;
33、对所述令牌载荷执行签名封装处理,生成所述能力令牌,并建立所述能力令牌与所述任务态权限上下文之间的绑定关系。
34、在第一方面的一种实现方式中,所述生成资源访问请求或调用阻断数据,包括:
35、拦截所述目标skill的调用请求,对所述调用请求执行权限原子化处理,生成所述待执行权限原子;
36、对所述能力令牌执行有效性校验和绑定关系校验,生成令牌校验结果;
37、将所述待执行权限原子与所述任务态执行权限原子集合进行权限范围比较,生成权限范围比较结果;
38、响应于所述令牌校验结果表征校验通过,且所述权限范围比较结果表征所述待执行权限原子的权限范围未超出所述任务态执行权限原子集合限定的权限范围,生成所述资源访问请求;
39、响应于所述令牌校验结果表征校验未通过,或者所述权限范围比较结果表征所述待执行权限原子的权限范围超出所述任务态执行权限原子集合限定的权限范围,生成所述调用阻断数据。
40、第二方面,本技术提供一种skill权限控制装置。所述装置包括:
41、语义解析模块,用于获取任务请求数据,对所述任务请求数据执行语义解析,生成任务意图数据和权限预边界,并利用所述任务意图数据和所述权限预边界执行skill加载预拦截和候选skill召回,获得候选skill;
42、可信校验模块,用于读取所述候选skill的权限合约,对所述权限合约执行可信校验,获得通过可信校验的候选skill,并基于所述任务意图数据从通过可信校验的候选skill中确定目标skill,提取所述目标skill的声明权限数据;
43、映射模块,用于对所述任务意图数据执行权限映射,生成任务权限数据,并获取权限约束数据;
44、求解模块,用于对所述权限预边界、所述声明权限数据、所述任务权限数据和所述权限约束数据执行基于权限原子的权限求解,生成任务态执行权限原子集合;
45、令牌签发模块,用于获取所述任务请求数据对应的任务标识、所述目标skill对应的skill标识和权限合约摘要,以及任务执行约束数据;将所述任务态执行权限原子集合、所述任务标识、所述skill标识、所述权限合约摘要和所述任务执行约束数据进行关联封装,生成任务态权限上下文;并对所述任务态权限上下文执行签名封装,生成能力令牌;
46、运行时控制模块,用于获取所述目标skill的调用请求,对所述调用请求执行权限原子化处理,生成待执行权限原子;对所述能力令牌执行令牌校验,并将所述待执行权限原子与所述任务态执行权限原子集合进行权限范围比较,根据令牌校验结果和权限范围比较结果,生成资源访问请求或调用阻断数据。
47、第三方面,本技术提供一种电子设备。所述电子设备包括:存储器,用于存储计算机程序;处理器,所述处理器用于执行所述存储器存储的计算机程序,以使所述电子设备执行如第一方面中任一项所述的skill权限控制方法。
48、第四方面,本技术提供一种计算机可读存储介质。所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现第一方面中任一项所述的skill权限控制方法。
49、如上所述,本技术所述的一种skill权限控制方法、装置、电子设备及介质,具有以下有益效果:
50、通过对任务请求数据执行结构化语义解析,生成任务意图数据和权限预边界,并基于任务意图数据和权限预边界在候选skill召回之前实施skill加载预拦截,使进入后续处理流程的skill范围受到当前任务语义及权限边界的预先限制,从而减少与当前任务无关或者明显超出当前任务需求的skill被召回、加载和调用的情况,实现skill权限控制时点由调用阶段向召回及加载阶段前移;
51、通过对候选skill的权限合约执行可信校验,获得通过可信校验的候选skill,并进一步基于任务意图数据与候选skill能力信息之间的匹配结果确定目标skill,将候选skill是否可信与候选skill是否满足当前任务需求进行分离处理,使目标skill的确定同时受到可信准入条件和任务能力匹配条件的约束,降低权限声明异常、不可信skill或者与当前任务不匹配的skill进入后续权限生成和执行流程的可能;
52、通过将任务意图数据映射为由权限原子构成的任务权限数据,并将所述任务权限数据、权限预边界、目标skill的声明权限数据以及组织策略允许权限和实时上下文约束统一转换至可比较的权限原子空间进行权限求解,使最终形成的任务态执行权限原子集合同时受到任务实际需求、语义权限边界、目标skill声明权限和外部权限约束的共同限制,从而使同一skill能够针对不同任务动态形成不同的可执行权限范围,减少直接向skill授予超出当前任务实际需要权限的情况;
53、通过将所述任务态执行权限原子集合与任务标识、skill标识和权限合约摘要进行关联,并基于关联结果生成任务态权限上下文并签发能力令牌,使任务态授权结果与生成该授权结果时对应的任务、目标skill及权限合约版本建立绑定关系,从而降低任务态权限被跨任务复用、被其他skill冒用或者在skill权限合约发生变化后继续沿用原授权结果的风险;
54、在目标skill发起调用时,通过对调用请求执行权限原子化处理,生成待执行权限原子;对能力令牌执行有效性校验和绑定关系校验,生成令牌校验结果;将待执行权限原子与任务态执行权限原子集合进行权限范围比较,生成权限范围比较结果;响应于令牌校验结果表征校验通过,且权限范围比较结果表征待执行权限原子的权限范围未超出任务态执行权限原子集合限定的权限范围,生成所述资源访问请求;响应于令牌校验结果表征校验未通过,或者权限范围比较结果表征待执行权限原子的权限范围超出所述任务态执行权限原子集合限定的权限范围,生成所述调用阻断数据,使语义解析阶段形成的权限边界、skill权限合约约束以及任务态权限求解结果能够持续作用于真实资源访问过程,由此实现从skill召回、可信准入、任务态权限生成、能力令牌签发到运行时资源访问的连续权限控制,提高大模型智能体skill调用过程的细粒度、动态性和一致性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com