一种动态大语言模型适配方法、装置、介质及设备与流程
本技术涉及人工智能领域,尤其涉及一种动态大语言模型适配方法、装置、介质及设备。
背景技术:
1、llm(大语言模型)在自然语言处理领域取得了显著进展。例如,gpt-4和llama等大语言模型在多个领域取得了巨大成功,并逐步应用于金融、医疗和教育等特定领域。然而,不同大语言模型有各自的专长领域,例如,文心一言4.0专长领域为中文政企场景与医疗健康领域;deepseek-r1专长领域为stem领域(数学/代码优化);claude3专长领域为法律领域与长文本处理领域。
2、现有大语言模型对话系统存在以下技术问题:
3、现有大语言模型采用静态模型匹配,一般通过关键词(如“法律”“金融”)匹配触发预定义模型调用。例如,当检测到“合同”关键词时,调用专长领域包括法律领域的大语言模型。静态模型匹配无法根据用户的行业、地域、知识背景动态选择适配的专长领域的大语言模型,导致专业领域响应精度不足;
4、现有大语言模型的参数固化,通用参数配置(如temperature、top-p)难以满足不同场景需求(如法律严谨性vs创意发散性);
5、当用户提交不同领域的问题时,可能需要用户手动切换不同模型界面,导致交互割裂,操作效率低且意图理解连续性受损。
技术实现思路
1、为克服相关技术中存在的问题,本技术提供一种动态大语言模型适配方法、装置、介质及设备。
2、根据本技术的第一方面,提供一种动态大语言模型适配方法,包括:
3、由统一聊天界面接收用户的输入信息,所述输入信息包括文本和/或文件;
4、对所述输入信息进行处理,获取输入信息中的关键词或文件的类型;
5、获取用户的静态特征和动态特征,对所述用户的静态特征和动态特征进行融合,得到用户画像向量;
6、当所述关键词或文件的类型满足某个预设条件时,为所述用户适配所述预设条件对应的领域相关的大语言模型;
7、当所述关键词或文件的类型不满足任一预设条件时,计算用户画像向量与各个大语言模型的训练集的离散度,为所述用户适配所述离散度最小的大语言模型。
8、在本技术的一些实施例中,基于前述方案,所述对所述输入信息进行处理包括:
9、文本清洗、文件解析、字符识别中的一种或多种操作。
10、在本技术的一些实施例中,基于前述方案,所述获取用户的静态特征和动态特征,对所述用户的静态特征和动态特征进行融合,得到用户画像向量包括:
11、提取用户的行业信息和地域信息,向量化生成静态特征;
12、对用户的对话历史及上传的文件进行动态行为建模,向量化生成动态特征;
13、将所述动态特征和静态特征进行融合,融合为高维向量;
14、对所述高维向量进行降维处理,降维成指定维度的用户画像向量。
15、在本技术的一些实施例中,基于前述方案,动态大语言模型适配方法还包括:
16、向适配的大语言模型发送请求,所述请求包括用户输入信息和大语言模型的参数;
17、使用适配的大语言模型输出结果,对所述用户进行响应;
18、接收所述用户的反馈结果,以使系统根据所述反馈结果优化大语言模型的模型的参数。
19、在本技术的一些实施例中,基于前述方案,动态大语言模型适配方法,还包括:
20、根据所述输出结果的置信度,对适配的大语言模型的参数进行动态优化。
21、在本技术的一些实施例中,基于前述方案,所述对适配的大语言模型的参数进行动态优化包括:
22、当所述置信度大于等于第一预设阈值时,根据所述大语言模型所属的技术领域,调整对应的参数。
23、在本技术的一些实施例中,基于前述方案,所述对适配的大语言模型的参数进行动态优化还包括:
24、当所述置信度小于第二预设阈值时,请求人工审核。
25、在本技术的一些实施例中,基于前述方案,在所述对所述输入信息进行处理后,还包括:
26、检测所述输入信息的语言类型,调用对应的语言处理管道。
27、根据本技术的另一方面,提供一种动态大语言模型适配装置,包括:
28、接收模块,用于由统一聊天界面接收用户的输入信息,所述输入信息包括文本和/或文件;
29、处理模块,用于对所述输入信息进行处理,获取输入信息中的关键词或文件的类型;
30、画像模块,用于获取用户的静态特征和动态特征,对所述用户的静态特征和动态特征进行融合,得到用户画像向量;
31、适配模块,用于当所述关键词或文件的类型满足某个预设条件时,为所述用户适配所述预设条件对应的领域相关的大语言模型;当所述关键词或文件的类型不满足任一预设条件时,计算用户画像向量与各个大语言模型的训练集的离散度,为所述用户适配所述离散度最小的大语言模型。
32、在本技术的一些实施例中,基于前述方案,所述画像模块还用于:
33、提取用户的行业信息和地域信息,向量化生成静态特征;
34、对用户的对话历史及上传的文件进行动态行为建模,向量化生成动态特征;
35、将所述动态特征和静态特征进行融合,融合为高维向量;
36、对所述高维向量进行降维处理,降维成指定维度的用户画像向量。
37、在本技术的一些实施例中,基于前述方案,动态大语言模型适配装置还包括:
38、输出模块,用于使用适配的大语言模型输出结果,对所述用户进行响应;
39、优化模块,用于接收所述用户的反馈结果,以使系统根据所述反馈结果优化大语言模型的模型参数。
40、在本技术的一些实施例中,基于前述方案,优化模块还用于根据所述输出结果的置信度,对适配的大语言模型的参数进行动态优化。
41、在本技术的一些实施例中,基于前述方案,所述优化模块还用于当所述置信度大于等于第一预设阈值时,根据所述大语言模型所属的技术领域,调整对应的参数;当所述置信度小于第二预设阈值时,请求人工审核。
42、根据本技术的另一方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被执行时实现动态大语言模型适配方法的步骤。
43、根据本技术的另一方面,提供一种计算机设备,包括处理器、存储器和存储于所述存储器上的计算机程序,所述处理器执行所述计算机程序时实现动态大语言模型适配方法的步骤。
44、本技术通过由统一聊天界面接收用户的输入信息,输入信息包括文本和/或文件;对输入信息进行处理,获取输入信息中的关键词或文件的类型;获取用户的静态特征和动态特征,对用户的静态特征和动态特征进行融合,得到用户画像向量;当关键词或文件的类型满足某个预设条件时,为用户适配预设条件对应的领域相关的大语言模型;当关键词或文件的类型不满足任一预设条件时,计算用户画像向量与各个大语言模型的训练集的离散度,为用户适配离散度最小的大语言模型。可以实现用户在调用不同大语言模型时,不需要手动切换不同模型的界面,有助于提高操作效率并提高意图理解的连续性,使输出结果更符合预期;可以根据用户的行业、地域、知识背景等动态选择适配的大语言模型,提高专业领域的响应精度,提高输出结果的准确性。
45、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本技术。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com