基于大语言模型的内容生成方法、装置和电子设备与流程
本发明涉及人工智能与自然语言处理,尤其是涉及一种基于大语言模型的内容生成方法、装置和电子设备。
背景技术:
1、随着大语言模型在个性化服务领域的广泛应用,系统通常通过预设的提示词模板和用户画像来驱动模型生成定制化内容。
2、然而,现有技术方案多采用静态流水线架构,存在显著的技术缺陷:一方面,提示词模板一旦设定便长期固化,无法自动识别并剔除对输出质量无实质贡献的冗余变量,随着业务迭代,模板日益臃肿,不仅增加了推理时的token开销,还引入了噪声干扰模型的注意力机制;另一方面,各次服务请求被视为独立任务,生成的内容缺乏结构化的语义索引,导致跨场景、跨时间的历史经验无法被有效检索与复用,形成了严重的信息孤岛,使得系统难以实现持续的知识积累与服务进化。
3、综上,传统的内容生成方法存在提示词模板冗余导致推理效率低下以及服务间信息孤立导致知识无法复用的技术问题。
技术实现思路
1、有鉴于此,本发明的目的在于提供一种基于大语言模型的内容生成方法、装置和电子设备,以缓解传统的内容生成方法因提示词模板冗余导致推理效率低下以及服务间信息孤立导致知识无法复用的技术问题。
2、第一方面,本发明提供了一种基于大语言模型的内容生成方法,包括:
3、获取目标请求以及对应的初始提示词模板,所述初始提示词模板包含多个变量;
4、获取与所述目标请求对应的用户画像,所述用户画像基于用户画像题库生成;
5、基于历史生成记录,评估所述多个变量对模型输出的影响程度,并基于所述影响程度更新所述初始提示词模板,得到目标提示词模板;
6、基于所述目标提示词模板、所述目标请求和所述用户画像,通过大语言模型生成目标内容;
7、在生成所述目标内容的过程中,同步生成包含语义特征向量的结构化元数据;
8、基于所述语义特征向量从历史数据库中检索匹配的历史记录,并将所述历史记录对应的历史上下文注入内容生成流程。
9、进一步地,基于所述历史生成记录,评估所述多个变量对模型输出的影响程度,包括:
10、针对所述多个变量中的目标变量,生成移除所述目标变量的消融提示词;
11、获取基于完整提示词生成的完整输出,以及基于所述消融提示词生成的消融输出,所述完整提示词为包含所有所述多个变量的提示词;
12、基于所述完整输出与所述消融输出之间的差异度,确定所述目标变量的重要性评分;
13、基于各个所述变量的重要性评分,确定所述多个变量对模型输出的影响程度。
14、进一步地,基于所述完整输出与所述消融输出之间的差异度,确定所述目标变量的重要性评分,包括:
15、将所述完整输出和所述消融输出分别转换为句向量,并计算所述完整输出的句向量与所述消融输出的句向量之间的余弦相似度;
16、将所述余弦相似度与预设数值的差值,作为所述目标变量的重要性评分;
17、基于所述影响程度更新所述初始提示词模板,得到目标提示词模板,包括:
18、将所述重要性评分低于预设阈值的变量确定为冗余变量,从所述初始提示词模板中剔除所述冗余变量,生成更新后的提示词模板;
19、对所述更新后的提示词模板执行结构一致性、语义相似度和关键值差异容忍度校验,在校验通过的情况下,将所述更新后的提示词模板作为所述目标提示词模板。
20、进一步地,所述结构化元数据包含通用描述字段以及表征决策特征的业务特征向量;
21、基于所述语义特征向量从历史数据库中检索匹配的历史记录,包括:
22、基于所述业务特征向量,计算所述目标请求与所述历史数据库中各候选记录的向量相似度;
23、基于所述通用描述字段,计算所述目标请求与各所述候选记录的元数据相似度;
24、基于所述向量相似度和所述元数据相似度,计算各所述候选记录的综合得分;
25、将所述综合得分满足预设条件的候选记录,确定为所述匹配的历史记录。
26、进一步地,基于所述业务特征向量,计算所述目标请求与所述历史数据库中各候选记录的向量相似度,包括:
27、在不限定服务类型的统一向量空间中,基于所述业务特征向量进行跨服务检索,计算所述向量相似度;
28、将所述历史记录对应的历史上下文注入内容生成流程,包括:
29、提取所述历史记录与所述目标请求之间的字段级变更内容;
30、基于所述字段级变更内容以及所述历史记录的核心结论摘要,构建差异化分析提示词;
31、将所述差异化分析提示词输入所述大语言模型,生成包含差异化分析的目标内容。
32、进一步地,所述方法还包括:
33、计算所述用户画像题库中各题目的区分度指标;
34、识别所述区分度指标低于预设区分度阈值的失效题目;
35、基于所述大语言模型,生成与所述失效题目对应的替换题目,并对所述替换题目进行测试验证;
36、在所述测试验证通过的情况下,使用所述替换题目更新所述用户画像题库。
37、进一步地,计算所述用户画像题库中各题目的区分度指标,包括:
38、计算各题目的鉴别指数和点二列相关系数,其中,所述鉴别指数基于高分组和低分组中选择特定选项的人数差值与分组人数的比值确定,所述点二列相关系数基于选择不同选项的用户在维度上的平均分差值、总分标准差以及选择特定选项的比例确定;
39、所述方法还包括:
40、基于所述区分度指标,通过预设的权重更新规则动态调整各题目的权重,所述权重更新规则配置为:当题目的区分度指标高于预设区分度阈值时增加该题目的权重,当题目的区分度指标低于预设区分度阈值时减小该题目的权重,并将权重限制在预设的上下限范围内;
41、基于更新后的权重重新计算用户的加权得分分布,并基于所述加权得分分布更新人格类型的分级映射阈值,以基于所述分级映射阈值对所述用户画像进行校准更新。
42、进一步地,通过大语言模型生成目标内容之后,所述方法还包括:
43、对所述目标内容对应的结构化输出执行语义校验;
44、在所述语义校验失败的情况下,触发提示词优化重生成流程,或切换至备用推理模型重新生成所述目标内容;
45、若重试后仍校验失败,则对非关键字段执行降级填充处理,所述降级填充处理包括使用历史均值、中位数或默认安全值进行填充。
46、第二方面,本发明还提供了一种基于大语言模型的内容生成装置,包括:
47、第一获取单元,用于获取目标请求以及对应的初始提示词模板,所述初始提示词模板包含多个变量;
48、第二获取单元,用于获取与所述目标请求对应的用户画像,所述用户画像基于用户画像题库生成;
49、评估和更新单元,用于基于历史生成记录,评估所述多个变量对模型输出的影响程度,并基于所述影响程度更新所述初始提示词模板,得到目标提示词模板;
50、生成单元,用于基于所述目标提示词模板、所述目标请求和所述用户画像,通过大语言模型生成目标内容;
51、同步生成单元,用于在生成所述目标内容的过程中,同步生成包含语义特征向量的结构化元数据;
52、检索和注入单元,用于基于所述语义特征向量从历史数据库中检索匹配的历史记录,并将所述历史记录对应的历史上下文注入内容生成流程。
53、第三方面,本发明还提供了一种电子设备,包括存储器、处理器,所述存储器中存储有可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现第一方面所述方法。
54、本发明提供的一种基于大语言模型的内容生成方法,包括:获取目标请求以及对应的初始提示词模板,初始提示词模板包含多个变量;获取与目标请求对应的用户画像,用户画像基于用户画像题库生成;基于历史生成记录,评估多个变量对模型输出的影响程度,并基于影响程度更新初始提示词模板,得到目标提示词模板;基于目标提示词模板、目标请求和用户画像,通过大语言模型生成目标内容;在生成目标内容的过程中,同步生成包含语义特征向量的结构化元数据;基于语义特征向量从历史数据库中检索匹配的历史记录,并将历史记录对应的历史上下文注入内容生成流程。通过上述描述可知,本发明的基于大语言模型的内容生成方法中,通过基于历史生成记录,评估变量影响程度并动态更新提示词模板,能够自动剔除对输出质量无实质贡献的冗余变量,有效精简了提示词结构,从而降低了推理时的token开销并减少了噪声对模型注意力的干扰,显著提升了内容生成的效率与精准度;同时,通过在生成过程中同步构建包含语义特征向量的结构化元数据,打破了服务请求间的信息孤岛,使得跨场景、跨时间的历史经验能够被精准检索并作为上下文注入当前生成流程,实现了系统对历史知识的有效复用与持续进化,从而保障了生成内容的连贯性与深度。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com