用于大型语言模型的提示管理的制作方法

摘要: 背景技术:1、一般来讲,计算装置和通信网络可用于交换数据或信息。在常见的应用中,计算装置可经由通信网络从另一计算装置请求内容。例如,对计算装置具有访问权的客户端...
用于大型语言模型的提示管理的制作方法

背景技术:

1、一般来讲,计算装置和通信网络可用于交换数据或信息。在常见的应用中,计算装置可经由通信网络从另一计算装置请求内容。例如,对计算装置具有访问权的客户端可利用软件应用来经由网络(例如,互联网)从服务器计算装置请求内容。在此类实施方案中,客户端的计算装置可被称为客户端计算装置,并且服务器计算装置可被称为内容提供商。

2、在一些应用中,网络服务提供商可实例化各种基于网络的服务,所述基于网络的服务可处理针对数据的客户端请求。例如,与查询处理或问答助手(例如,聊天机器人)相关的网络服务可与基于网络的服务相对应,所述基于网络的服务与人类交互以提供信息(例如,关于基于网络的服务的信息、如何使用基于网络的服务等)。

技术实现思路

1.一种用于管理被大型语言模型(llm)利用的提示的计算装置,所述计算装置包括:

2.如权利要求1所述的计算装置,其中所述多个输出基于所述多个输出中的每个输出对所述功能的适当响应来进行过滤,以基于对应输出来形成训练提示子集。

3.如权利要求1所述的计算装置,其中对每个训练提示和对应输出对进行标记包括所述处理器进一步执行指令以:

4.如权利要求1所述的计算装置,其中所述分类器模型被表示为双向编码器。

5.一种计算机实现的方法,所述计算机实现的方法包括:

6.如权利要求5所述的计算机实现的方法,其中所述分类器模型基于表征的训练提示集合和对应llm输出对来进行训练,其中所述训练提示集合和对应llm输出对通过以下来表征:

7.如权利要求6所述的计算机实现的方法,其中所述分数与二元分数相对应。

8.如权利要求6所述的计算机实现的方法,其中所述分类器模型从所述llm输出集合中标识幻觉内容。

9.如权利要求5所述的计算机实现的方法,其中所述一个或多个目标提示各自包括术语,其中所述术语选自潜在术语池。

10.如权利要求5所述的计算机实现的方法,其中所述一个或多个目标提示是固定数量的提示或随机选择数量的提示。

11.如权利要求5所述的计算机实现的方法,所述计算机实现的方法还包括:

12.如权利要求5所述的计算机实现的方法,其中表征所述目标提示子集的所述输出与针对每个目标提示的数值相对应,所述数值指示与对应目标提示相关联的准确度水平。

13.如权利要求5所述的计算机实现的方法,其中所述标识的功能包括表征文本转录的说话者的语气。

14.如权利要求5所述的计算机实现的方法,其中基于所述排序来选择所述一个或多个目标提示作为针对所述标识的功能的所述默认提示包括根据所述排序的预先确定的阈值来选择所述一个或多个目标提示。

15.如权利要求5所述的计算机实现的方法,所述计算机实现的方法还包括:使得经由所述llm生成与所述默认提示相对应的输出集合,其中使得经由所述llm生成包括将数据输入到所述llm中,其中所述数据包括以下中的一者或多者:所述默认提示、简档数据、音频数据或地理位置数据。