面向保险对话的流式输出安全清洗与无感重试方法及系统与流程
本发明涉及自然语言处理与对话系统安全,尤其涉及一种面向保险对话的流式输出安全清洗与无感重试方法及系统。
背景技术:
1、随着大型语言模型在保险销售对话机器人中的广泛应用,为提升用户交互体验与销售转化率,系统普遍采用流式传输方式将模型生成的回复实时、逐块推送至客户端,使用户即时感知响应过程。然而,大型语言模型在流式生成过程中输出内容具有不可预测性,可能意外包含内部指令、控制逻辑或系统元数据等敏感片段,例如对话系统标记语言控制标记、内部函数调用指令及特定格式元数据。上述内容若直接暴露于终端客户,将引发严重的信息泄露与合规风险,包括系统内部决策逻辑或未授权报价指令的外泄。
2、现有技术中,针对模型输出内容的清洗主要采用后处理方案,即在模型生成完整回复后,对全量文本进行正则匹配或模式检测,滤除敏感内容后再发送至客户端。该方案在非流式场景下尚可适用,但无法满足流式传输的实时性要求,因流式传输要求每个输出块生成后即刻推送,后处理将造成显著响应延迟,直接破坏流式体验。另一种做法是在检测到敏感内容时直接中断流式传输,向用户返回错误提示或要求重新发起对话。该方式虽可避免敏感信息泄露,但会导致对话生硬中断,用户面对不完整句子或错误信息,对话流畅性受到严重损害,在保险销售这类高转化率要求的场景下,极易造成客户流失。
3、综上所述,现有技术缺乏一种既能实时阻断流式输出中的敏感内容泄露,又能保障对话连续性、维持用户无感知体验的安全清洗与降级重试机制。因此,亟需提供一种技术方案解决上述问题。
技术实现思路
1、为解决上述技术问题,本发明提供了一种面向保险对话的流式输出安全清洗与无感重试方法及系统。
2、第一方面,本发明提供一种面向保险对话的流式输出安全清洗与无感重试方法,该方法的技术方案如下:
3、接收大型语言模型在保险对话过程中流式生成的输出块,将所述输出块缓存至临时缓存区,并记录已推送指针,所述已推送指针指示所述临时缓存区中已向客户端推送的文本边界;
4、对每个新接收的输出块,运行有限状态自动机逐字符扫描所述输出块中的字符序列,检测所述字符序列是否匹配预定义敏感标记库中的任一敏感标记;
5、当在任一输出块中检测到所述敏感标记时,向所述大型语言模型发送流式生成中止信号,清空所述临时缓存区中位于所述已推送指针之后的所有缓存内容,并触发非流式重试任务,且不向所述客户端发送流式中断错误提示;
6、执行所述非流式重试任务,使用当前保险对话的完整上下文信息重新调用所述大型语言模型,以非流式生成模式获取完整回复文本;
7、使用所述预定义敏感标记库对所述完整回复文本进行全量安全校验,当所述全量安全校验通过时,通过单次服务器发送事件将所述完整回复文本推送至所述客户端。
8、本发明的一种面向保险对话的流式输出安全清洗与无感重试方法的有益效果如下:
9、本发明的方法通过在流式传输过程中引入临时缓存区与已推送指针,结合有限状态自动机对输出块进行逐字符实时扫描,在检测到敏感标记时即时中止流式生成并清空未推送缓存,同时触发基于完整对话上下文的非流式重试任务,避免向客户端发送流式中断错误提示,解决了现有后处理方案无法满足流式实时性要求、以及直接中断传输导致对话生硬与客户流失的问题,实现了流式输出中敏感内容的实时阻断与无感知安全降级,提升了保险对话场景的响应安全性与用户体验连续性,降低了敏感信息泄露与合规风险。
10、在上述方案的基础上,本发明的一种面向保险对话的流式输出安全清洗与无感重试方法还可以做如下改进。
11、在一种可选的方式中,所述有限状态自动机包含正常状态、潜在标记起始状态、标记内容扫描状态和标记结束判定状态;
12、在所述正常状态下,当当前字符为敏感标记的起始字符时转入所述潜在标记起始状态;
13、在所述潜在标记起始状态下,当后续字符序列匹配所述敏感标记的完整前缀时转入所述标记内容扫描状态;
14、在所述标记内容扫描状态下,当扫描至标记的结束字符时转入所述标记结束判定状态;
15、在所述标记结束判定状态下,将完整扫描到的标记字符串与所述预定义敏感标记库进行匹配。
16、采用上述可选方式的有益效果为:进一步通过正常状态、潜在标记起始状态、标记内容扫描状态及标记结束判定状态的分级流转,对输出块进行逐字符渐进扫描,在匹配完整前缀后进入深度扫描,于结束字符处完成标记判定,从而提升敏感标记检测的精确度并减少误触发。
17、在一种可选的方式中,所述预定义敏感标记库包含内部指令标记、函数调用标记和系统角色切换标记;
18、所述内部指令标记包括dsml控制标记和系统内部约定的特殊分隔符;
19、所述函数调用标记包括函数调用前缀;
20、所述系统角色切换标记包括xml标签格式的系统角色标记。
21、采用上述可选方式的有益效果为:进一步将预定义敏感标记库细化为内部指令标记、函数调用标记与角色切换标记三类,分别覆盖dsml控制标记、函数调用前缀及xml标签格式的角色标记,使安全清洗机制能够精准识别保险对话场景下不同形式的敏感信息泄露风险。
22、在一种可选的方式中,当在任一输出块中检测到所述敏感标记时,还包括:
23、向客户端发送服务器发送事件协议的进度事件,所述进度事件包含处理中状态信息,所述进度事件表征所述非流式重试任务正在执行中。
24、采用上述可选方式的有益效果为:进一步在检测到敏感标记并中止流式生成后,向客户端推送包含处理中状态信息的服务器发送事件进度事件,使用户在重试期间持续感知后台处理进程,避免因流式中断产生对话停滞的负面体验。
25、在一种可选的方式中,使用所述预定义敏感标记库对所述完整回复文本进行全量安全校验的步骤,包括:
26、使用所述预定义敏感标记库对所述完整回复文本进行正则匹配;
27、对所述完整回复文本进行敏感关键词黑名单过滤,检测所述完整回复文本中是否包含内部函数名、系统指令关键词或未授权报价数字模式;
28、对所述完整回复文本进行格式完整性校验,检测所述完整回复文本中是否包含未闭合的标签或异常格式。
29、采用上述可选方式的有益效果为:进一步对非流式重试获取的完整回复文本执行正则匹配、敏感关键词黑名单过滤及格式完整性校验三重安全校验,分别排查内部函数名、内部指令关键词、未授权报价数字模式及未闭合标签等风险点,提升安全校验的全面性。
30、在一种可选的方式中,还包括:
31、当所述全量安全校验未通过时,从预设的合规话术库中选取通用安全回复作为最终回复,并通过单次服务器发送事件将所述完整回复文本推送至所述客户端。
32、采用上述可选方式的有益效果为:进一步在全量安全校验未通过时,从预设合规话术库中选取通用安全回复替代问题回复,并通过单次服务器发送事件一次性推送至客户端,以标准化安全话术兜底异常场景,防止风险内容触达终端用户。
33、在一种可选的方式中,执行所述非流式重试任务的步骤,包括:
34、在原有系统提示词的基础上动态追加重试约束指令,所述重试约束指令用于约束所述大型语言模型重新生成不包含敏感标记的纯文本回复;
35、将所述已推送指针之前的安全文本作为辅助参考信息注入所述非流式重试任务的上下文。
36、采用上述可选方式的有益效果为:进一步在非流式重试阶段向原有提示词动态追加重试约束指令,约束大型语言模型生成不含敏感标记的纯文本回复,同时将已推送指针之前的安全文本注入上下文作为辅助参考,保障重试回复与前序内容的连贯性。
37、第二方面,本发明提供一种面向保险对话的流式输出安全清洗与无感重试系统,该系统的技术方案如下:
38、处理模块,用于接收大型语言模型在保险对话过程中流式生成的输出块,将所述输出块缓存至临时缓存区,并记录已推送指针,所述已推送指针指示所述临时缓存区中已向客户端推送的文本边界;
39、检测模块,用于对每个新接收的输出块,运行有限状态自动机逐字符扫描所述输出块中的字符序列,检测所述字符序列是否匹配预定义敏感标记库中的任一敏感标记;
40、运行模块,用于当在任一输出块中检测到所述敏感标记时,向所述大型语言模型发送流式生成中止信号,清空所述临时缓存区中位于所述已推送指针之后的所有缓存内容,并触发非流式重试任务,且不向所述客户端发送流式中断错误提示;
41、生成模块,用于执行所述非流式重试任务,使用当前保险对话的完整上下文信息重新调用所述大型语言模型,以非流式生成模式获取完整回复文本;
42、校验模块,用于使用所述预定义敏感标记库对所述完整回复文本进行全量安全校验,当所述全量安全校验通过时,通过单次服务器发送事件将所述完整回复文本推送至所述客户端。
43、本发明的一种面向保险对话的流式输出安全清洗与无感重试系统的有益效果如下:
44、本发明的系统通过在流式传输过程中引入临时缓存区与已推送指针,结合有限状态自动机对输出块进行逐字符实时扫描,在检测到敏感标记时即时中止流式生成并清空未推送缓存,同时触发基于完整对话上下文的非流式重试任务,避免向客户端发送流式中断错误提示,解决了现有后处理方案无法满足流式实时性要求、以及直接中断传输导致对话生硬与客户流失的问题,实现了流式输出中敏感内容的实时阻断与无感知安全降级,提升了保险对话场景的响应安全性与用户体验连续性,降低了敏感信息泄露与合规风险。
45、第三方面,本发明的一种电子设备的技术方案如下:
46、包括存储器、处理器及存储在所述存储器上并在所述处理器上运行的程序,所述处理器执行所述程序时实现如本发明的面向保险对话的流式输出安全清洗与无感重试方法的步骤。
47、第四方面,本发明提供的一种计算机可读存储介质的技术方案如下:
48、计算机可读存储介质中存储有指令,当计算机可读存储介质读取所述指令时,使所述计算机可读存储介质执行如本发明的面向保险对话的流式输出安全清洗与无感重试方法的步骤。
49、上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com