基于反例边界集合的大语言模型多轮对话上下文压缩方法与流程
本发明属于自然语言处理,具体涉及一种基于反例边界集合的大语言模型多轮对话上下文压缩方法。
背景技术:
1、随着大语言模型技术的快速发展,基于大语言模型的多轮对话系统已在智能客服、电商导购、智能助手等众多场景中得到广泛应用。在多轮对话过程中,为保持对话的连贯性与上下文一致性,通常需要将用户与模型之间的完整历史对话作为上下文输入模型,使模型能够基于历史信息理解用户意图并生成相应回复。
2、然而,随着对话轮次的不断增加,历史上下文所包含的token数量持续增长,导致每次模型调用时均需将完整历史对话反复输入。这一方面显著增加了api调用的token消耗,直接推高了服务成本;另一方面,过长的上下文输入增大了模型的处理负担,导致响应延迟增加,并可能超出模型预设的上下文窗口限制,引发信息截断或对话中断。此外,历史对话中往往包含大量已废弃的推荐方案、重复讨论内容以及过程性交互信息,这些冗余内容被反复输入模型,造成了不必要的token浪费。
3、为解决上述问题,现有技术通常采用摘要压缩或相关性筛选等方式对历史上下文进行压缩处理。摘要压缩方法通过对历史对话进行提炼总结,生成一段简短的摘要文本以替代完整对话记录;相关性筛选方法则基于当前用户输入与历史对话内容的相关性,筛选出与当前问题相关度较高的历史内容作为上下文输入。
4、上述现有方法虽然在一定程度上减少了上下文长度,但其核心关注点在于保留用户"想要什么"或与当前问题表面相似的内容,而对于用户在历史对话中明确表达过的否定、排除或纠正信息则缺乏有效识别与保留机制。具体而言,用户在一轮或多轮对话中针对模型推荐内容所表达的"不要某类方案""排除某类对象"或"纠正某类错误方向"等否定信息,虽然不一定与当前问题的字面表述直接相关,却直接限定了模型在后续生成中"不能再输出什么"的边界约束。现有摘要压缩方法在提炼过程中容易将此类否定信息作为次要内容丢弃;现有相关性筛选方法则因否定信息与当前正向查询的表面相关性较低而难以将其纳入筛选结果。
5、由此导致的技术缺陷主要包括:第一,不压缩完整历史上下文会造成token消耗高、调用成本高、响应延迟大的问题;第二,现有摘要压缩方法容易丢失用户的否定项、排除项和纠错项;第三,现有相关性筛选方法难以保留"不能再推荐什么"的生成边界信息;第四,模型在压缩后的上下文中因缺乏否定约束而可能重复输出用户已明确否定的方案,进而造成重复交互和额外的token消耗,严重影响多轮对话的用户体验与系统效率。
6、因此,亟需一种能够在压缩大语言模型多轮对话上下文长度的同时,有效保留用户否定、排除及纠错信息,并防止模型重复生成用户已否定内容的技术方案。
技术实现思路
1、本发明提供了基于反例边界集合的大语言模型多轮对话上下文压缩方法解决上述提到的技术问题,具体采用如下的技术方案:
2、一种基于反例边界集合的大语言模型多轮对话上下文压缩方法,包含以下步骤:
3、获取用户与大语言模型之间的多轮历史对话;
4、从所述历史对话中识别用户当前正向目标;
5、从所述历史对话中识别否定项、排除项和纠错项,抽取被否定对象及否定原因,生成反例边界项;
6、计算每个反例边界项的保留价值,将满足保留条件的反例边界项组成反例边界集合;
7、将所述当前正向目标与所述反例边界集合组合,生成压缩上下文;
8、将所述压缩上下文和当前用户输入提供给所述大语言模型,生成候选回复;
9、检测所述候选回复是否命中所述反例边界集合,若未命中则输出,若命中则控制所述大语言模型重新生成或局部修正。
10、进一步地,所述反例边界项至少包括:被否定对象、否定原因、生效范围以及处理方式;其中,所述被否定对象根据所述用户否定项、排除项和纠错项抽取得到,所述否定原因根据用户对被否定对象的说明抽取得到,所述生效范围为所述多轮历史对话对应的当前任务,所述处理方式包括禁止推荐、不得作为主推荐对象或不得推荐明显超预算对象中的至少一种。
11、进一步地,所述保留价值的计算方式如下:
12、对于第i个反例边界项,计算保留价值:
13、
14、
15、
16、其中ai为用户否定强度,bi为重复否定强度,ci为压缩风险收益值,w1、w2、w3、w4、w5、w6为权重参数,当vi ≥ θ时,判定满足保留条件,其中θ为预设保留阈值。
17、进一步地,所述用户否定强度ai的计算方式为:
18、
19、其中si为否定表达强度,根据用户否定表达的类型确定,qi为否定信息完整度,根据被否定对象和否定原因的完整程度确定,α为否定表达强度调节参数,β为否定信息完整度调节参数。
20、进一步地,所述重复否定强度bi的计算方式为:
21、
22、其中ni表示用户在所述多轮历史对话中否定该对象或同类对象的累计次数,λ为重复否定增长系数;当用户多次否定同类对象时,所述系统将该同类否定归并为同一反例边界项并累计所述ni,使得所述重复否定强度bi随否定次数增加而增大并趋于饱和。
23、进一步地,所述基于反例边界集合的大语言模型多轮对话上下文压缩方法还包括:
24、根据用户在后续对话中的反馈动态更新所述反例边界集合;
25、当用户继续否定某类对象时,将该对象对应的反例边界项的否定次数ni增加δn,并重新计算所述重复否定强度bi和所述保留价值vi,其中更新后的否定次数:
26、
27、更新后的重复否定强度:
28、
29、更新后的保留价值:
30、。
31、进一步地,所述动态更新还包括:
32、根据所述否定次数的增加调整所述命中阈值μ,其中更新后的命中阈值:
33、
34、η为阈值调整系数,随着用户反复否定同类内容的次数增加,所述命中阈值降低,使得后续对同类内容的检测更加严格。
35、进一步地,所述压缩风险收益值ci的计算方式为:
36、
37、其中,ri为遗漏风险,表示不保留该反例边界项时模型再次生成该类内容的概率,gi为token压缩收益,
38、
39、其中,traw,i为与该反例相关的原始历史内容token数,te,i为压缩成反例边界项后的token数,δ为压缩敏感系数,ε为极小正数。
40、进一步地,所述检测候选回复是否命中反例边界项包括:
41、计算所述候选回复y对第i个反例边界项ei的命中分值m(y,ei),当m(y,ei) ≥ μ时,判定命中该反例边界项,其中μ为命中阈值;若命中,则向所述大语言模型发送包含命中反例边界项信息的修正指令,控制所述大语言模型基于所述修正指令重新生成候选回复或进行局部修正。
42、进一步地,所述命中分值m(y,ei)的计算方式为:
43、
44、
45、其中oi为反例边界项中的被否定对象,sim(y,oi)为候选回复与被否定对象之间的语义相似度,k(y,ei)为候选回复对反例关键词或相似表达的命中程度,p为语义相似度权重,khit为候选回复命中的反例关键词数量,ktotal为该反例边界项包含的关键词总数。
46、本发明的有益之处在于所提供的基于反例边界集合的大语言模型多轮对话上下文压缩方法,通过以"当前正向目标+反例边界集合"替代完整历史对话上下文,显著减少了每次调用大语言模型时的token输入量,从而降低了调用成本并缩短了响应延迟。同时,该方案专门识别并结构化保留用户在历史对话中表达的否定项、排除项和纠错项,克服了现有摘要压缩或相关性筛选方法容易丢失用户否定信息的技术缺陷,并借助输出前的反例边界命中检测机制,有效防止模型在压缩上下文后仍然重复生成用户已明确否定的内容,减少了无效交互与额外token消耗,提升了多轮对话的整体效率与用户体验。
47、本发明的有益之处还在于所提供的基于反例边界集合的大语言模型多轮对话上下文压缩方法,通过在保留价值计算中引入用户否定强度、重复否定强度与压缩风险收益值之间的两两交互项,并采用sigmoid函数进行归一化处理,使得反例边界项的筛选能够准确反映多维度指标之间的耦合增强效应,避免了仅依据单一指标进行评估所带来的片面性。sigmoid归一化确保了保留价值始终处于有界范围内,防止因交互项数值过大而导致分值异常放大,从而在压缩上下文长度受限的前提下,精准筛选并保留对用户意图约束最强、最具保留价值的历史否定信息,提高了反例边界集合的质量与稳定性。
48、本发明的有益之处还在于所提供的基于反例边界集合的大语言模型多轮对话上下文压缩方法,通过在模型生成候选回复后增设反例边界命中检测与修正机制,将用户历史否定约束的作用环节从输入侧延伸至输出侧,形成了对模型生成行为的双层校验体系。当候选回复命中反例边界时,系统通过向模型反馈具体命中信息以触发重新生成或局部修正,能够在不依赖用户再次手动纠错的情况下主动拦截并纠正错误输出,显著降低了模型重复推荐用户已否定内容的概率,减少了因模型输出不符合期望而导致的反复交互,有效保障了压缩上下文场景下模型回复的准确性与用户满意度。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com