一种搭载分层Hook向量干预的大模型陪伴共情文本生成方法、系统、装置及设备与流程

摘要: 本发明涉及大语言模型推理干预与自然语言生成,特别是涉及一种搭载分层hook向量干预的大模型陪伴共情文本生成方法、系统、装置及设备。背景技术:1、当前面向陪伴式机...
一种搭载分层Hook向量干预的大模型陪伴共情文本生成方法、系统、装置及设备与流程

本发明涉及大语言模型推理干预与自然语言生成,特别是涉及一种搭载分层hook向量干预的大模型陪伴共情文本生成方法、系统、装置及设备。

背景技术:

1、当前面向陪伴式机器人的大语言模型共情生成技术,主要分为四类成熟实现路线:

2、提示词约束方案通过在模型系统提示词内写入共情、安抚类指令,依托基座模型原生指令遵循能力输出共情回复,无额外隐层干预逻辑。

3、独立情感分类器搭配回复模板方案为增设bert等外置粗粒度情感分类模型识别用户情绪,分类结果匹配预设固定共情模板生成回应;情感识别与文本生成相互独立,无法将识别置信度融入生成过程。

4、监督微调/人类反馈强化学习方案采用人工标注共情对话样本完成sft微调,或通过rlhf优化模型共情表达偏好,依靠模型权重改动实现共情效果。

5、规则情绪映射模板方案为人工维护情绪与固定话术的映射规则表,通过简单规则匹配输出标准化共情语句。

6、现有各类共情生成方案,要么依赖表层提示、后置过滤,无法深度调控模型生成过程;要么依赖重训练、外置分类器,部署成本高、在线可调性差;同时普遍存在情感识别粒度不足、无法联动长期陪伴记忆、混合架构引导失效、生成过程缺少实时情感护栏等多重缺陷,难以兼顾细粒度共情精准度、长期陪伴自适应、推理轻量化、生成安全性四大核心需求,无法适配陪伴式机器人长期、高频、个性化的交互使用场景。

技术实现思路

1、为解决上述技术问题,本发明提供如下技术方案:

2、一种搭载分层hook向量干预的大模型陪伴共情文本生成方法,包括:离线预构建感知向量集合与引导向量集合;在线推理阶段获取基座大语言模型隐状态、对话历史、长期记忆条目及记忆强度、人设配置数据;定义n类细粒度情感,分别采用覆盖多样表达的泛化样本与情感强度更高的典型样本,经均值差分与l2归一化生成感知向量集合与引导向量集合;在目标解码层挂载感知hook读取残差流聚合隐状态,通过单次矩阵乘并行投影计算全部细粒度情感得分,输出top-k情感结果,运算与模型前向传播复用算力;依据感知top-k结果、人设配置与当前对话状态经共情映射规则确定目标共情情感,结合对话激活的长期记忆强度对基础引导系数进行调制,生成动态引导系数,使共情力度随长期陪伴记忆自适应增减;在同时覆盖全注意力层与非全注意力层的连续解码层区间挂载引导hook,按层加权注入目标共情引导向量,配套逐层尺度归一化与相对范数约束,形成接力式引导以解决混合注意力架构的干预信号稀释;生成阶段逐token复用感知向量集合做实时情感投影,命中不当情感阈值时按优先级触发本token重采样、本句生成回退、引导增强叠加负方向注入三档处置策略;将感知、决策、引导、监测四阶段整合为一次前向传播内的闭环流程,最终输出共情回复文本与逐token情感监测序列。

3、一种搭载分层hook向量干预的大模型陪伴共情文本生成系统,系统用于执行可执行指令来执行上述搭载分层hook向量干预的大模型陪伴共情文本生成方法。

4、一种搭载分层hook向量干预的大模型陪伴共情文本生成装置,其特征在于,所述装置用于执行可执行指令来执行上述搭载分层hook向量干预的大模型陪伴共情文本生成方法。

5、其有益效果在于:构建离线向量制备与在线闭环推理的两阶段技术体系。离线定义百余类细粒度情感,采用差异化采样策略分工构建感知向量集合与引导向量集合:前者覆盖多样表达以优化识别泛化性,后者选取高强度典型样本以强化生成驱动力。在线推理阶段,在基座模型目标解码层挂载感知hook,读取残差流聚合隐状态,通过单次矩阵乘并行完成全类别细粒度情感识别;结合感知结果、人设配置与长期记忆强度,经共情映射与记忆调制生成动态引导系数;在覆盖全注意力与非全注意力层的连续解码层区间接力注入共情向量,配套逐层约束抵御信号稀释;生成阶段逐token复用感知向量做情感监测,命中不当情感阈值触发三级分级处置。全流程嵌入模型单次前向传播,形成感知、决策、引导、监测的完整闭环。

6、本申请有效破解现有方案共情粒度粗、引导易失效、无法联动长期记忆、生成缺安全防护的痛点。共情强度与类型可在推理端动态调节,无需重训模型;记忆联动机制使共情力度随陪伴深度自适应,契合长期陪伴属性;token级前置拦截规避不当情感输出,交互体验更安全;非侵入式hook部署兼容任意基座大语言模型,全流程边际算力开销可忽略,兼顾识别精准度、风格可控性与部署轻量化优势。

1.一种搭载分层hook向量干预的大模型陪伴共情文本生成方法,其特征在于,包括:

2.根据权利要求1所述的搭载分层hook向量干预的大模型陪伴共情文本生成方法,其特征在于,在目标解码层挂载感知hook读取残差流聚合隐状态,通过单次矩阵乘并行投影计算全部细粒度情感得分,输出top-k情感结果,运算与模型前向传播复用算力,包括:

3.根据权利要求1所述的搭载分层hook向量干预的大模型陪伴共情文本生成方法,其特征在于,依据感知top-k结果、人设配置与当前对话状态经共情映射规则确定目标共情情感,结合对话激活的长期记忆强度对基础引导系数进行调制,生成动态引导系数,使共情力度随长期陪伴记忆自适应增减,包括:

4.根据权利要求1所述的搭载分层hook向量干预的大模型陪伴共情文本生成方法,其特征在于,在同时覆盖全注意力层与非全注意力层的连续解码层区间挂载引导hook,按层加权注入目标共情引导向量,配套逐层尺度归一化与相对范数约束,形成接力式引导以解决混合注意力架构的干预信号稀释,包括:

5.根据权利要求4所述的搭载分层hook向量干预的大模型陪伴共情文本生成方法,其特征在于,生成阶段逐token复用感知向量集合做实时情感投影,命中不当情感阈值时按优先级触发本token重采样、本句生成回退、引导增强叠加负方向注入三档处置策略,包括:

6.一种搭载分层hook向量干预的大模型陪伴共情文本生成系统,其特征在于,所述系统用于执行可执行指令来执行权利要求1~5中任意一项所述的搭载分层hook向量干预的大模型陪伴共情文本生成方法。

7.一种搭载分层hook向量干预的大模型陪伴共情文本生成装置,其特征在于,所述装置用于执行可执行指令来执行权利要求1~5中任意一项所述的搭载分层hook向量干预的大模型陪伴共情文本生成方法。

8.一种电子设备,其特征在于,包括:第一处理器;以及存储器,用于存储所述第一处理器的可执行指令;其中,所述第一处理器配置为经由执行所述可执行指令来执行权利要求1~5中任意一项所述的搭载分层hook向量干预的大模型陪伴共情文本生成方法。

9.一种计算设备,该设备包括用于存储计算机程序指令的存储器和用于执行计算机程序指令的处理器,其中,当该计算机程序指令被该处理器执行时,触发所述设备执行权利要求1~5中任一项所述的搭载分层hook向量干预的大模型陪伴共情文本生成方法。