大语言模型的训练方法及计算机设备与流程
本技术涉及数据处理,尤其涉及一种大语言模型的训练方法及计算机设备。
背景技术:
1、大语言模型是一类使用深度学习技术训练的人工智能模型,它利用大量的通用文本数据进行训练,以便学习语言的模式和结构。由于大语言模型强大的文本处理能力,将通用大语言模型应用到特定领域,例如在交通领域中交通状况判断的应用、在金融领域中风险识别的应用以及在医药领域开展新型药物结构探索的应用等。然而,在将通用大语言模型应用到特定领域的过程中,通常会遇到一些问题,例如特定领域知识的专业化程度较高导致通用大语言模型无法轻易理解相关信息,特定领域数据集相对稀缺导致无法支持通用大语言模型的训练,不同领域信息之间存在较大差距导致适用于新领域时都需要重新训练模型。
技术实现思路
1、本技术的目的在于提供一种大语言模型的训练方法,能够将高度概括的领域知识与大语言模型深度结合,从而提高大语言模型在特定领域中生成结果的准确性。
2、第一方面,本技术提供了一种大语言模型的训练方法,该方法包括:
3、构建目标领域的指令文本;
4、获取目标领域的数据集,对数据集进行规则类型挖掘得到规则集合,对规则集合进行语义提取得到对应的规则表征集合;
5、获取指令文本与规则表征集合中匹配的若干个规则表征;
6、通过门控机制,基于若干个规则表征提取与指令文本匹配的知识,生成与指令文本对应的回复文本。
7、可选的,对数据集进行规则类型挖掘得到规则集合,包括:
8、对数据集中的每一个数据进行信息提取,得到每一个数据所对应的多个关键特征;
9、确定每一个数据所对应的目标任务,以每一个数据的多个关键特征和对应的目标任务作为训练样本,构建得到训练数据集;
10、基于训练数据集中的关键特征和目标任务,利用规则挖掘算法和规则指标对训练数据集进行规则挖掘,得到规则集合,其中,规则指标包括规则长度、覆盖率和准确率。
11、可选的,基于训练数据集中的关键特征和目标任务,利用规则挖掘算法和规则指标对训练数据集进行规则挖掘,得到规则集合,包括:
12、设置规则指标的阈值,规则指标的阈值包括规则长度阈值、覆盖率阈值和准确率阈值;
13、对训练数据集执行规则挖掘的迭代步骤,每一次迭代包括:基于每一个训练样本中的各个关键特征、关键特征之间的关联以及目标任务,采用贪心策略生成一个包含多个判定条件和结论的当前规则,计算当前规则的规则指标,若当前规则的规则指标满足规则指标的阈值,将当前规则加入规则集合;
14、从训练数据集中删除被所述当前规则所覆盖的训练样本,得到剩余的训练数据集,以剩余的训练数据集执行下一次的迭代,直至满足迭代的终止条件,停止迭代,得到规则集合。
15、可选的,以每一个数据的多个关键特征和对应的目标任务作为训练样本,构建得到训练数据集,包括:
16、从所述训练数据集选取多个少数样本,以所述多个少数样本构建少数样本集;
17、利用合成少数类过采样方法对少数样本集生成合成样本集,以合成样本集和训练样本构建得到训练数据集,其中,合成样本集的生成包括:
18、针对少数样本集中每一个少数样本,计算少数样本的每一个关键特征与训练样本中对应的关键特征之间的第一相似度,基于各个关键特征的第一相似度和高尔距离确定少数样本与训练样本之间的第二相似度,在少数样本与各个训练样本之间的各个第二相似度中,选择第二相似度较高的q个训练样本作为q个最近邻样本,其中,第一相似度的计算的方式与关键特征的类型相关,关键特征的类型包括数值类特征、类别类特征和文本类特征;
19、针对每一个最近邻样本,基于最近邻样本的各个关键特征和最近邻样本所对应的少数样本的各个关键特征,计算得到合成样本的各个关键特征,基于所生成的各个合成样本构建得到合成样本集,其中,合成样本的各个关键特征的计算方式与关键特征的类型相关。
20、可选的,基于最近邻样本的各个关键特征和最近邻样本所对应的少数样本的各个关键特征,计算得到合成样本的各个关键特征,包括:
21、将最近邻样本的关键特征用第一关键特征表示,最近邻样本所对应的少数样本的关键特征用第二关键特征表示;
22、若最近邻样本的关键特征的类型为数值类特征,基于第一关键特征、第一关键特征与第二关键特征之间的差值、差值的权重,计算得到合成样本的关键特征;
23、若最近邻样本的关键特征的类型为类别类特征,以q个最近邻样本所属类别最多的类别作为合成样本的关键特征;
24、若最近邻样本的关键特征的类型为文本类特征,根据第一关键特征的词频-逆文档频率和对应的权重系数、第二关键特征的词频-逆文档频率和对应的权重系数,计算得到的词频-逆文档频率作为合成样本的关键特征。
25、可选的,构建目标领域的指令文本,包括:
26、根据目标领域、专有词汇解释、目标任务、目标任务中的关键词、目标领域的关键词,构建指令文本。
27、可选的,获取指令文本与规则表征集合中匹配的若干个规则表征,包括:
28、通过语言模型编码器对指令文本进行语义提取,得到指令文本对应的指令表征;
29、通过规则编码器对规则集合进行语义提取,得到对应的规则表征集合;
30、将指令表征和规则表征集合输入到多层感知机mlp,确定指令文本与规则表征集合中每一个规则表征的语义相似度,确定语义相似度最高的k个规则表征。
31、可选的,大语言模型包括词嵌入层和多个级联的transformer层,transformer层包括多头注意力层、归一化层、门控层和前馈层,其中,通过门控机制,基于若干个规则表征提取与指令文本匹配的知识,生成与指令文本对应的回复文本,包括:
32、获取指令文本的每一个token;
33、针对每一个token,将token输入所述词嵌入层进行编码得到对应的嵌入向量,添加相应的位置编码,将嵌入向量和位置编码输入多个级联的transformer层进行前向编码;
34、针对每一个transformer层,将嵌入向量经过多头注意力层和归一化层处理,得到词表征向量;将若干个规则表征和词表征向量输入门控层,计算每一个规则表征与词表征向量之间的规则权重,基于每一个规则表征和对应的规则权重确定融合后的规则表征;将词表征向量和融合后的规则表征输入前馈层,得到token对应的指令表征;
35、基于各个token所对应的指令表征和位置编码进行解码,确定指令文本对应的回复文本。
36、可选的,计算每一个规则表征与词表征向量之间的规则权重,基于每一个规则表征和对应的规则权重确定融合后的规则表征,包括:
37、基于每一个规则表征的权重矩阵和偏置向量、词表征向量确定该规则表征所对应的线性变换函数,其中,权重矩阵和偏置向量基于训练获取;
38、根据每一个规则表征所对应的线性变换函数,计算该规则表征与所述词表征向量之间的规则权重;
39、基于每一个规则表征和对应的规则权重,得到各个加权后的规则表征,将各个加权后的规则表征进行累加,得到融合后的规则表征。
40、第二方面,本技术提供了一种计算机设备,包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现如上所述的大语言模型的训练方法的步骤。
41、本技术通过对目标领域的数据集进行规则挖掘,抽取数据集中隐藏的领域知识,以能够获取具有高度概括性的领域知识,通过门控机制将高度概括性的领域知识注入到大语言模型中,将领域知识与大语言模型进行深度结合,该领域知识可以辅助大语言模型生成更准确的预测结果,减少了通用大语言模型在特定领域的幻觉问题,提高了大语言模型生成结果的准确性。该技术方案可以应用到不同的现实场景中,例如交通领域的道路交通状况识别、金融领域的风险识别等,具有较强的迁移性和易复用性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com