一种基于向量化压缩的AgentSkills保护方法及系统

摘要: 本发明涉及人工智能和大语言模型agent,具体而言,涉及一种基于向量化压缩的agentskills保护方法及系统。背景技术:1、随着大语言模型agent技术的发...
一种基于向量化压缩的AgentSkills保护方法及系统

本发明涉及人工智能和大语言模型agent,具体而言,涉及一种基于向量化压缩的agent skills保护方法及系统。

背景技术:

1、随着大语言模型agent技术的发展,越来越多可复用任务能力被封装为agentskills,agent skills通常包括任务触发条件、执行步骤、工具调用协议、参数约束、输出格式、校验逻辑和异常恢复策略等内容,是agent系统完成特定任务的重要知识资产。

2、现有agent skills在部署和分发时,多以明文提示词、配置文件、流程脚本或技能文档形式提供给运行端或用户端。该方式虽然便于llm直接读取和执行,但完整技能文本会暴露在上下文、日志、缓存或接收方文件系统中,容易被复制、泄露、改写、二次分发或逆向还原,难以满足技能提供方对agent skills防泄漏和知识产权保护的需求。

3、对于上述问题,现有加密存储、访问控制或权限校验方式只能在存储和传输阶段降低风险,仍需要在运行时将技能明文交给agent框架或llm读取;一旦运行环境、调用链路或日志系统存在泄露点,技能核心流程和工具编排规则仍可能被恢复。此外,长技能文本在每次推理时重复进入上下文,也会增加输入资源占用并影响多技能协同场景下的运行效率。

4、现有通用文本压缩、提示词摘要或向量检索方式主要面向语义信息压缩,难以稳定保留agent skills中的条件分支、工具参数、步骤依赖、格式约束和错误恢复逻辑;若直接替代完整技能文本,容易导致llm输出偏离技能要求,无法兼顾防泄漏、可执行性和推理效率。

5、因此,需要一种基于向量化压缩的agent skills保护方法及系统,将agent skill中的可执行规则压缩为可注入llm的技能向量,并通过离线注入配置选择和在线中间层注入,使llm在不反复暴露完整技能明文的情况下获得相应技能约束,从而实现技能防泄漏部署和低上下文开销运行。

技术实现思路

1、鉴于此,本发明提出了一种基于向量化压缩的agent skills保护方法及系统,解决现有技术在降低技能上下文开销时难以保持程序化技能流程逻辑、工具协议和条件依赖,以及训练反向传播路径长、显存占用高和固定注入配置无法适配不同技能复杂度的问题。

2、为实现上述目的,本发明提出以下技术方案:

3、一种基于向量化压缩的agent skills保护方法,包括如下步骤:

4、步骤1:基于多个程序化技能样本训练通用技能向量生成器,所述程序化技能样本包括用于指示大语言模型何时调用能力、如何执行工作流、如何调用工具以及如何满足使用约束的自然语言技能文本;

5、步骤2:在正常使用阶段获取待压缩的agent技能内容,并调用所述通用技能向量生成器对所述程序化技能内容进行向量化表示生成,得到与目标大语言模型中间层调用过程相匹配的技能向量,并确定包括注入层、技能向量长度和融合方式的候选注入配置;

6、步骤3:配置所述技能向量的注入策略,使目标大语言模型在所述注入层之前的前若干层不接收、不读取所述技能向量,并在到达所述注入层时将所述技能向量注入模型隐藏状态;

7、步骤4:在部署前对每个程序化技能和目标大语言模型执行离线注入配置选择,生成诊断问题,基于完整技能文本生成参考答案,在不同候选注入配置下基于技能向量生成候选答案,并根据候选答案相对于参考答案的保真度评分选择满足阈值且计算代价较低的目标注入配置;

8、步骤5:在线推理时,根据用户查询或技能路由结果匹配对应技能向量,使用户查询先经过所述注入层之前的前若干层,再在所述注入层融合技能向量并生成符合所述程序化技能的响应;

9、步骤6:当程序化技能内容发生更新时,调用所述通用技能向量生成器重新生成对应技能向量,并在更新幅度或保真度评分不满足预设条件时重新执行离线注入配置选择或增量更新所述通用技能向量生成器。

10、进一步地,所述程序化技能内容至少包括技能名称、技能描述、技能正文和元数据中的一种或多种,且所述步骤1中优先对技能正文进行保护,所述技能正文包括工作流步骤、工具描述、工具参数、触发条件、禁止条件、输出格式和错误处理规则中的一种或多种。

11、进一步地,所述步骤2中的技能向量由所述通用技能向量生成器生成,用于替代完整技能文本进入目标大语言模型的在线上下文,并至少保留程序化技能中的步骤顺序、触发条件、工具参数、输出约束和错误处理规则。

12、进一步地,对于包含多个程序化技能的用户请求,分别获取或生成各程序化技能的技能向量,并在所述注入层通过拼接、加权求和、门控选择或分组条件调制方式融合各技能向量。

13、进一步地,所述步骤1中的通用技能向量生成器通过技能结构重构任务、流程问答任务和真实技能任务对齐任务进行训练;所述技能结构重构任务以技能向量作为中间层条件信号重构技能正文中的工作流步骤、触发条件、工具参数、输出格式和错误处理规则,使技能向量保留技能核心执行信息;所述流程问答任务以程序性文档、问题和答案构造弱监督数据,使技能向量对目标大语言模型可用;所述真实技能任务对齐任务基于真实技能生成技能相关问题和监督答案,并引入工具调用模拟和多技能组合训练。

14、进一步地,所述工具调用模拟包括生成包含中间状态、动作和观察的交替轨迹,并基于工具模式、用户问题和部分轨迹模拟工具观察;所述多技能组合训练包括将复杂技能拆分为多个自包含子技能,分别由所述通用技能向量生成器生成各子技能的技能向量并在指定注入层进行融合,从而训练目标大语言模型在多个子技能共同作用下保持技能逻辑。

15、进一步地,所述步骤4中的离线注入配置选择满足:

16、

17、其中,s为程序化技能,c为候选注入配置,为技能s对应的候选注入配置集合,所述候选注入配置包括注入层、技能向量长度、技能向量维度和融合方式中的一种或多种,为候选注入配置c对应的保真度评分,为保真度阈值,为候选注入配置对应的计算代价。

18、进一步地,当程序化技能内容发生更新时,调用所述通用技能向量生成器重新生成对应技能向量,并在更新幅度超过预设条件或保真度评分低于阈值时重新执行离线注入配置选择或增量更新所述通用技能向量生成器。

19、本发明进一步提出一种基于向量化压缩的agent skills保护系统,包括:

20、技能获取模块:用于获取待压缩的agent技能内容;

21、通用技能向量生成器模块:用于将程序化技能内容转换为与目标大语言模型中间层相匹配的技能向量;

22、训练对齐模块:用于基于技能结构重构任务、流程问答任务和真实技能任务对齐任务,对所述通用技能向量生成器模块和注入融合参数进行训练;

23、注入配置选择模块:用于基于诊断问题、参考答案、候选答案和保真度评分,为每个程序化技能和目标大语言模型选择满足阈值的注入层、技能向量长度、技能向量维度和融合方式;

24、注入控制模块:用于在在线推理时根据用户请求确定待调用的程序化技能,加载与所述程序化技能及目标大语言模型对应的技能向量和目标注入配置,使目标大语言模型在指定注入层之前仅处理用户输入或任务输入、不接收且不读取所述技能向量,并在到达指定注入层时将所述技能向量注入模型隐藏状态,以生成符合程序化技能约束的响应。

25、进一步地,所述系统还包括技能更新模块,所述技能更新模块用于在程序化技能内容变化后重新生成技能向量并根据变化程度选择是否重新执行离线注入配置选择,使更新后的程序化技能在无需在线重复暴露完整明文的情况下被目标大语言模型调用。

26、与现有技术相比,本发明的有益效果在于,

27、本发明将程序化技能由在线明文文本转换为目标模型指定中间层可使用的技能向量,减少在线调用时完整技能文本的重复加载,降低上下文开销和技能明文暴露。

28、本发明通过技能结构重构、流程问答和真实技能任务对齐,使技能向量不仅保留事实信息,还保留条件、步骤、工具参数和约束之间的程序化依赖,从而提高中间层注入后技能的可执行性。

29、本发明使技能向量在模型前若干层不作为输入参与计算,并在指定注入层后参与计算,训练时可减少注入层之前的激活保存和反向传播路径,从而降低显存占用。

30、本发明支持选择不同注入层、向量长度和融合方式,适合社区技能、企业内部技能库和多模型部署场景。