大模型训练方法、装置、设备、存储介质及产品与流程

摘要: 本技术涉及内容风控,尤其涉及一种大模型训练方法、装置、设备、存储介质及产品。背景技术:1、目前,随着互联网内容平台的发展,用户发布的文本、评论、帖子、商品描述、...
大模型训练方法、装置、设备、存储介质及产品与流程

本技术涉及内容风控,尤其涉及一种大模型训练方法、装置、设备、存储介质及产品。

背景技术:

1、目前,随着互联网内容平台的发展,用户发布的文本、评论、帖子、商品描述、直播字幕及私信等内容数量持续增长,平台需要及时识别其中可能存在的违法违规、恶意营销、不良信息等风险内容。

2、相关内容风控方案通常基于关键词规则识别违规内容,识别效果依赖人工维护的规则库。当违规内容通过谐音、拆字、拼音缩写、符号插入、隐喻表达、上下文指代等方式进行变形时,固定规则难以准确识别。同时,关键词规则容易将正常讨论、新闻引用、风险教育等内容误判为违规内容。

技术实现思路

1、本技术的主要目的在于提供一种大模型训练方法、装置、设备、存储介质及产品,旨在解决相关内容风控方案无法识别采用变形表达的风险内容,且容易将包含风险词汇但实际正常的内容误判为违规内容的技术问题。

2、为实现上述目的,本技术提供一种大模型训练方法,所述大模型训练方法包括:

3、生成与可信风险样本表达形式不同,但风险语义相同的扩充样本;

4、生成与所述可信风险样本风险词汇相似,但不包括风险语义的对抗性负样本;

5、基于所述扩充样本和/或所述对抗性负样本对待训练大模型进行训练,获得目标大模型,所述目标大模型用于对待审核内容进行风险识别。

6、可选地,所述基于所述扩充样本和/或所述对抗性负样本对待训练大模型进行训练,获得目标大模型,包括:

7、对所述可信风险样本和扩展样本集进行质量评分,所述扩展样本集包括所述扩充样本和/或所述对抗性负样本;

8、根据质量评分结果选取待挖掘样本,并从所述待挖掘样本中挖掘边界案例样本;

9、基于所述可信风险样本、所述扩展样本集以及所述边界案例样本对待训练大模型进行分阶段微调,获得目标大模型。

10、可选地,所述基于所述可信风险样本、所述扩展样本集以及所述边界案例样本对待训练大模型进行分阶段微调,获得目标大模型,包括:

11、基于所述可信风险样本对待训练大模型进行基础微调,获得微调后大模型;

12、基于所述扩展样本集对所述微调后大模型进行强化训练,获得强化后大模型;

13、基于所述边界案例样本对所述强化后大模型进行强化微调,获得目标大模型。

14、可选地,所述从所述待挖掘样本中挖掘边界案例样本,包括:

15、通过预设风险识别模型对所述待挖掘样本进行预测,获得预测结果;

16、基于所述预测结果从所述待挖掘样本中挖掘疑难样本与边界样本,获得边界案例样本。

17、可选地,所述生成与可信风险样本表达形式不同,但风险语义相同的扩充样本,包括:

18、确定可信风险样本对应的风险类别和关键风险语义;

19、以所述风险类别和所述关键风险语义为约束条件,对所述可信风险样本进行文本增强处理,获得与可信风险样本表达形式不同的候选扩充样本;

20、对所述候选扩充样本进行风险语义一致性校验,将风险语义与所述可信风险样本一致的候选扩充样本确定为扩充样本。

21、可选地,所述生成与所述可信风险样本风险词汇相似,但不包括风险语义的对抗性负样本,包括:

22、提取所述可信风险样本中的风险词汇;

23、基于所述风险词汇生成包含所述风险词汇的候选文本;

24、对所述候选文本进行风险语义判定,将不包含风险语义的候选文本确定为对抗性负样本。

25、可选地,所述生成与可信风险样本表达形式不同,但风险语义相同的扩充样本之前,还包括:

26、构建内容风险标签体系,并从至少一个数据源中获取原始内容样本;

27、以所述内容风险标签体系为分类标准对所述原始内容样本进行标准化处理,获得可信风险样本。

28、可选地,所述以所述内容风险标签体系为分类标准对所述原始内容样本进行标准化处理,获得可信风险样本,包括:

29、以所述内容风险标签体系为分类标准对所述原始内容样本进行标准化处理,获得标准化样本集;

30、基于所述标准化样本集生成标注提示词;

31、将所述标注提示词输入预设大语言模型,获得所述预设大语言模型输出的可信风险样本。

32、可选地,所述基于所述标准化样本集生成标注提示词之前,还包括:

33、获取所述标准化样本集中缺少风险标签的样本;

34、基于多源审核信息生成所述样本的弱监督标签,获得目标样本集;

35、相应地,所述基于所述标准化样本集生成标注提示词,包括:基于所述目标样本集生成标注提示词。

36、可选地,所述基于所述扩充样本和/或所述对抗性负样本对待训练大模型进行训练,获得目标大模型之后,还包括:

37、响应于待审核内容,以内容风险标签体系为分类标准对所述待审核内容进行标准化处理,获得标准化待审核内容;

38、将所述标准化待审核内容输入所述目标大模型,通过所述目标大模型对所述待审核内容进行内容审核,获得内容审核结果。

39、可选地,所述将所述标准化待审核内容输入所述目标大模型,通过所述目标大模型对所述待审核内容进行内容审核,获得内容审核结果,包括:

40、将所述标准化待审核内容输入所述目标大模型,通过所述目标大模型对所述待审核内容进行内容审核,获得大模型结果;

41、将所述待审核内容输入预设关键词规则引擎和预设辅助模型,获得规则结果和辅助模型结果;

42、基于所述大模型结果、所述规则结果以及所述辅助模型结果生成内容审核结果。

43、可选地,所述基于所述大模型结果、所述规则结果以及所述辅助模型结果生成内容审核结果之后,还包括:

44、记录所述内容审核结果对应的模型预测结果、人工审核结果、最终处置结果以及用户申诉结果;

45、若所述人工审核结果与所述模型预测结果不一致,则将对应的待审核内容确定为误判样本,并将所述误判样本写入反馈样本库,所述误判样本关联有误判类型;

46、基于所述反馈样本库周期性统计各风险类别的识别效果指标;

47、若目标风险类别的识别效果指标低于预设阈值或出现新的风险表达,则从所述反馈样本库中选取所述目标风险类别对应的误判样本,基于所述误判样本重新进行样本扩充和模型微调。

48、此外,为实现上述目的,本技术还提出一种大模型训练装置,所述大模型训练装置包括:

49、扩充样本生成模块,用于生成与可信风险样本表达形式不同,但风险语义相同的扩充样本;

50、对抗样本生成模块,用于生成与所述可信风险样本风险词汇相似,但不包括风险语义的对抗性负样本;

51、大模型训练模块,用于基于所述扩充样本和/或所述对抗性负样本对待训练大模型进行训练,获得目标大模型,所述目标大模型用于对待审核内容进行风险识别。

52、可选地,所述大模型训练模块,还用于对所述可信风险样本和扩展样本集进行质量评分,所述扩展样本集包括所述扩充样本和/或所述对抗性负样本;根据质量评分结果选取待挖掘样本,并从所述待挖掘样本中挖掘边界案例样本;基于所述可信风险样本、所述扩展样本集以及所述边界案例样本对待训练大模型进行分阶段微调,获得目标大模型。

53、可选地,所述大模型训练模块,还用于基于所述可信风险样本对待训练大模型进行基础微调,获得微调后大模型;基于所述扩展样本集对所述微调后大模型进行强化训练,获得强化后大模型;基于所述边界案例样本对所述强化后大模型进行强化微调,获得目标大模型。

54、可选地,所述大模型训练模块,还用于通过预设风险识别模型对所述待挖掘样本进行预测,获得预测结果;基于所述预测结果从所述待挖掘样本中挖掘疑难样本与边界样本,获得边界案例样本。

55、可选地,所述扩充样本生成模块,还用于确定可信风险样本对应的风险类别和关键风险语义;以所述风险类别和所述关键风险语义为约束条件,对所述可信风险样本进行文本增强处理,获得与可信风险样本表达形式不同的候选扩充样本;对所述候选扩充样本进行风险语义一致性校验,将风险语义与所述可信风险样本一致的候选扩充样本确定为扩充样本。

56、此外,为实现上述目的,本技术还提出一种大模型训练设备,所述大模型训练设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的大模型训练程序,所述大模型训练程序配置为实现如上文所述的大模型训练方法。

57、此外,为实现上述目的,本技术还提出一种存储介质,所述存储介质上存储有大模型训练程序,所述大模型训练程序被处理器执行时实现如上文所述的大模型训练方法。

58、此外,为实现上述目的,本技术还提供一种计算机程序产品,所述计算机程序产品包括大模型训练程序,所述大模型训练程序被处理器执行时实现如上文所述的大模型训练方法。

59、本技术提出的一个或多个技术方案,至少具有以下技术效果:

60、在本技术中,公开了生成与可信风险样本表达形式不同,但风险语义相同的扩充样本,生成与可信风险样本风险词汇相似,但不包括风险语义的对抗性负样本,基于扩充样本和/或对抗性负样本对待训练大模型进行训练,获得目标大模型,目标大模型用于对待审核内容进行风险识别;本技术通过扩充样本生成手段和对抗性负样本生成手段共同构建多样化训练样本,并基于多样化训练样本对待训练大模型进行训练,从而使目标大模型既能够识别采用变形表达的风险内容,又能够结合上下文语义区分包含风险词汇但实际正常的内容,进而能够提高大模型对复杂违规内容和新型风险表达的识别准确率,同时降低因仅依赖关键词判断导致的内容误判率。