基于权限验证的回答生成方法及电子设备与流程

摘要: 本申请涉及计算机,尤其涉及一种基于权限验证的回答生成方法及电子设备。背景技术:1、近年来,大语言模型在企业内部问答、运维辅助及知识库检索等场景中得到广泛应用,企...
基于权限验证的回答生成方法及电子设备与流程

本申请涉及计算机,尤其涉及一种基于权限验证的回答生成方法及电子设备。

背景技术:

1、近年来,大语言模型在企业内部问答、运维辅助及知识库检索等场景中得到广泛应用,企业通常将制度文档、项目资料、运维手册、工单记录、业务系统接口等接入大语言模型系统以提升信息获取效率。

2、现有企业问答系统普遍采用检索增强生成方式,即根据用户问题从知识库或业务系统中检索相关知识片段,并将检索结果输入大语言模型生成回答。为避免用户访问无权限内容,现有方案通常在检索阶段引入权限过滤机制,按照用户角色或文档密级等条件筛选可访问的数据。也就是说,权限控制主要发生在检索阶段或模型输入之前,仅用于控制哪些文档或数据片段可以被输入大语言模型中。

3、然而,大语言模型在生成回答时可能会对多个片段进行归纳、推断或重组,使得输出内容中包含若干独立的事实单元(例如具体数值、时间信息或操作建议等)。由于现有权限过滤方案仅在检索阶段控制权限,难以保证输出中的每个实单元均在用户合法权限范围内有据可依,存在信息泄露和安全风险。

技术实现思路

1、本申请提供一种基于权限验证的回答生成方法及电子设备,能够改善现有方案存在的技术问题。

2、第一方面,本申请提供一种基于权限验证的回答生成方法,包括:

3、获取当前用户的用户交互信息和权限约束信息;所述权限约束信息用于表征所述当前用户在至少一个业务系统中的数据访问权限;根据所述用户交互信息进行检索,获得初始检索结果;根据所述权限约束信息对所述初始检索结果进行权限筛选,获得候选证据集合;根据所述用户交互信息、所述权限约束信息和所述候选证据集合生成候选回答;对所述候选回答中的事实单元进行事实验证,基于验证结果生成目标回答;其中,所述事实验证用于将所述候选回答拆解为多个事实单元,以验证所述候选证据集合中是否存在每个所述事实单元分别对应的证据片段。

4、第二方面,本申请提供一种基于权限验证的回答生成装置,所述装置包括:

5、信息获取模块,用于获取当前用户的用户交互信息和权限约束信息;所述权限约束信息用于表征所述当前用户在至少一个业务系统中的数据访问权限;

6、权限筛选模块,用于根据所述用户交互信息进行检索,获得初始检索结果;根据所述权限约束信息对所述初始检索结果进行权限筛选,获得候选证据集合;

7、候选回答生成模块,用于根据所述用户交互信息、所述权限约束信息和所述候选证据集合生成候选回答;

8、目标回答生成模块,用于对所述候选回答中的事实单元进行事实验证,基于验证结果生成目标回答;其中,所述事实验证用于将所述候选回答拆解为多个事实单元,以验证所述候选证据集合中是否存在每个所述事实单元分别对应的证据片段。

9、第三方面,本申请还提供了一种电子设备,所述电子设备包括:

10、至少一个处理器;以及与所述至少一个处理器通信连接的存储器;

11、其中,所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本申请任一实施例所述的基于权限验证的回答生成方法。

12、第四方面,本申请还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本申请任一实施例所述的基于权限验证的回答生成方法。

13、第五方面,本申请还提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现本申请任一实施例所述的基于权限验证的回答生成方法。

14、本申请实施例提供的基于权限验证的回答生成方案,通过获取用户交互信息和权限约束信息,在检索阶段即依据权限约束对初始检索结果进行筛选,确保了候选证据集合中的每个片段均在用户的合法权限范围内。在此基础上,本申请进一步对生成的候选回答中的事实单元进行事实验证,将候选回答拆解为多个可独立验证的事实单元,并逐一验证候选证据集合中是否存在每个事实单元所对应的证据片段。通过本实施例提供的方案,能够有效追踪候选回答中每一个事实单元的证据来源,确保输出内容中的每一项事实均在用户合法权限范围内。解决了现有方案仅在检索阶段控制权限,而无法保障生成内容中每个事实单元均在用户合法权限范围内的技术问题。显著降低了因大语言模型归纳、推断或重组时导致的信息泄露和安全风险,取到了提升企业级问答系统的可信度和合规性的有益效果。

15、需要说明的是,上述计算机指令可以全部或者部分存储在计算机可读存储介质上。其中,计算机可读存储介质可以与基于权限验证的回答生成装置的处理器封装在一起,也可以与基于权限验证的回答生成装置的处理器单独封装,本申请对此不做限定。

16、本申请中第二方面、第三方面、第四方面以及第五方面的描述,可以参考第一方面的详细描述;并且,第二方面、第三方面、第四方面以及第五方面的描述的有益效果,可以参考第一方面的有益效果分析,此处不再赘述。

17、应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其他特征将通过以下的说明书而变得容易理解。

18、可以理解的是,在使用本申请各实施例公开的技术方案之前,均应当依据相关法律法规通过恰当的方式对本申请所涉及个人信息的类型、使用范围以及使用场景等告知用户并获得用户的授权。

1.一种基于权限验证的回答生成方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述用户交互信息至少包括用户问题和会话上下文;

3.根据权利要求1所述的方法,其特征在于,所述根据所述权限约束信息对所述初始检索结果进行权限筛选,获得候选证据集合,包括:

4.根据权利要求1所述的方法,其特征在于,所述权限约束信息至少包括真实用户权限;

5.根据权利要求4所述的方法,其特征在于,至少一个反事实权限包括:第一反事实权限、第二反事实权限和第三反事实权限;其中,所述第一反事实权限的权限等级高于所述真实用户权限的权限等级,所述第二反事实权限的权限等级低于所述真实用户权限的权限等级,所述第三反事实权限的权限等级和所述真实用户权限的权限等级相同,且所述第三反事实权限的权限范围与所述真实用户权限的权限范围不同;

6.根据权利要求4所述的方法,其特征在于,每类所述权限证据集合包括至少一个目标证据片段,一个目标证据片段对应一个证据指纹;在一个所述事实单元被至少一个目标证据片段支持时,一个所述事实单元对应一个证据指纹集;其中,所述目标证据片段是从所述候选证据集合中确定的与所述事实单元对应的证据片段;

7.根据权利要求4所述的方法,其特征在于,所述对各所述事实单元进行事实验证,获得所述验证结果,包括:

8.根据权利要求4所述的方法,其特征在于,所述验证结果包括所述事实单元在各权限等级下的证据支持程度和所述事实单元的风险类别;

9.根据权利要求8所述的方法,其特征在于,所述确定所述事实单元的安全类别,包括:

10.根据权利要求8所述的方法,其特征在于,所述根据各所述事实单元分别对应的安全类别及对应的降级处理方式,执行安全降级处理,生成所述目标回答,包括:

11.一种电子设备,其特征在于,所述电子设备包括: