针对视觉语言模型生成文本的偏见处理方法、系统、终端及介质

本技术涉及人工智能，尤其涉及的是一种针对视觉语言模型生成文本的偏见处理方法、系统、终端及介质。

背景技术：

1、视觉语言模型能够联合处理图像、文本及任务指令，在视觉问答、图像描述、内容审核等场景中生成自然语言响应。与仅处理文本的语言模型不同，视觉语言模型需同时判断图像证据与文本陈述之间的支持、弱化或矛盾关系，其输出偏见不仅来源于语言训练数据中的刻板印象，还可能来源于视觉捷径、跨模态关联偏差以及对文本中偏见性前提的盲从。实际应用中，视觉语言模型输出的响应文本可能存在群体过度概括、伪科学论证、贬损表达及事实失真等偏见问题，严重影响生成内容的公平性和可靠性，因此需要对视觉语言模型的输出文本进行偏见检测和纠正。

2、现有技术中，对视觉语言模型输出偏见的处理主要依赖对模型进行重新训练、参数微调或结构改进，例如在训练数据中增加去偏样本或在模型结构中引入对抗学习模块。现有技术的问题在于，上述方法需要重新训练模型并更新模型参数，计算资源消耗大、处理时间长，不利于提高偏见处理效率。

3、因此，相关技术还有待改进和发展。

技术实现思路

1、本技术的主要目的在于提供一种针对视觉语言模型生成文本的偏见处理方法、系统、终端及介质，旨在解决相关技术中对视觉语言模型输出偏见的处理主要依赖对模型进行重新训练、参数微调或结构改进，需要重新训练模型并更新模型参数，计算资源消耗大、处理时间长，不利于提高偏见处理效率的技术问题。

2、为了实现上述目的，本技术第一方面提供一种针对视觉语言模型生成文本的偏见处理方法，其中，上述方法包括：

3、获取多模态输入样本，其中，上述多模态输入样本包括待处理图像，以及上述待处理图像关联的文本内容和任务指令；

4、将上述多模态输入样本输入视觉语言模型，获得上述视觉语言模型输出的响应文本；

5、分别对上述待处理图像和上述文本内容进行编码，获得视觉特征向量和文本特征向量，根据上述视觉特征向量和上述文本特征向量确定跨模态证据一致性，其中，上述跨模态证据一致性用于表征上述待处理图像与上述文本内容之间的语义匹配程度；

6、对上述响应文本进行偏见特征统计，获得上述响应文本对应的偏见特征，其中，上述偏见特征是用于表征所述响应文本中目标语言模式的数量统计指标，上述目标语言模式包括与偏见相关的语言模式和用于规避偏见的语言模式；

7、根据上述偏见特征分别确定上述响应文本在多个预设偏见评价维度对应的评价得分，根据上述跨模态证据一致性、上述偏见特征和各上述预设偏见评价维度对应的评价得分，确定上述响应文本对应的总体偏见风险值；

8、若上述总体偏见风险值和/或上述评价得分不满足预设的偏见处理迭代终止条件，则根据上述多个预设偏见评价维度中的低分维度生成偏见抑制引导指令，将上述偏见抑制引导指令和上述多模态输入样本输入上述视觉语言模型以获得偏见抑制的响应文本，并返回执行上述对上述响应文本进行偏见特征统计，获得上述响应文本对应的偏见特征的步骤，直至满足上述预设的偏见处理迭代终止条件时，从生成的所有响应文本中确定偏见抑制的目标响应文本。

9、可选地，上述根据上述视觉特征向量和上述文本特征向量确定跨模态证据一致性，包括：

10、计算上述视觉特征向量与上述文本特征向量之间的余弦相似度，将上述余弦相似度作为上述跨模态证据一致性。

11、可选地，上述与偏见相关的语言模式包括过度概括、伪科学和贬损，上述用于规避偏见的语言模式包括质疑、个体证据和事实依据；

12、上述对上述响应文本进行偏见特征统计，获得上述响应文本对应的偏见特征，包括：

13、通过规则匹配和语义分类对上述响应文本进行偏见特征统计，获得上述响应文本对应的偏见特征，其中，上述偏见特征包括过度概括数量、伪科学数量、贬损数量、质疑数量、个体证据数量和事实依据数量。

14、可选地，上述多个预设偏见评价维度包括群体公平性维度、个体公平性维度、偏见程度维度、表达规范性维度和事实规范性维度；

15、上述根据上述偏见特征分别确定上述响应文本在多个预设偏见评价维度对应的评价得分，包括：

16、根据上述过度概括数量和上述质疑数量确定上述群体公平性维度对应的评价得分；

17、根据上述过度概括数量、上述伪科学数量和上述个体证据数量确定上述个体公平性维度对应的评价得分；

18、根据上述伪科学数量和上述质疑数量确定上述偏见程度维度对应的评价得分；

19、根据上述贬损数量和上述伪科学数量确定上述表达规范性维度对应的评价得分；

20、根据上述伪科学数量、上述事实依据数量和上述质疑数量确定上述事实规范性维度对应的评价得分。

21、可选地，上述根据上述跨模态证据一致性、上述偏见特征和各上述预设偏见评价维度对应的评价得分，确定上述响应文本对应的总体偏见风险值，包括：

22、根据上述偏见特征确定上述响应文本的偏见等级；

23、根据各上述预设偏见评价维度对应的评价得分进行加权求和，获得总体公平性得分，根据上述总体公平性得分确定总体公平性偏离度，上述总体公平性偏离度与上述总体公平性得分负相关；

24、根据上述跨模态证据一致性确定跨模态内容偏离度，上述跨模态内容偏离度与上述跨模态证据一致性负相关；

25、通过预设的语义分类器，确定上述响应文本对应的内容安全风险概率；

26、对上述偏见等级、上述总体公平性偏离度、上述跨模态内容偏离度和上述内容安全风险概率进行加权求和，获得上述总体偏见风险值。

27、可选地，上述从生成的所有响应文本中确定偏见抑制的目标响应文本，包括：

28、针对生成的每一响应文本，获取上述响应文本与上述待处理图像之间的图像证据相关性，上述响应文本与上述任务指令之间的任务相关性，以及上述响应文本对应的语义完整性得分、总体公平性得分和内容安全风险概率；

29、根据上述响应文本对应的图像证据相关性、任务相关性、语义完整性得分、总体公平性得分和内容安全风险概率，确定上述响应文本对应的综合效用值；

30、将综合效用值最高的响应文本作为偏见抑制的目标响应文本。

31、可选地，上述预设的偏见处理迭代终止条件包括：

32、上述总体偏见风险值不大于预设风险阈值，且各上述预设偏见评价维度对应的评价得分均不小于对应的预设评价阈值；

33、或者，当前迭代次数达到预设的最大迭代次数。

34、本技术第二方面提供一种针对视觉语言模型生成文本的偏见处理系统，其中，上述系统包括：

35、数据获取模块，用于获取多模态输入样本，其中，上述多模态输入样本包括待处理图像，以及上述待处理图像关联的文本内容和任务指令；

36、数据处理模块，用于将上述多模态输入样本输入视觉语言模型，获得上述视觉语言模型输出的响应文本；

37、跨模态证据一致性确定模块，用于分别对上述待处理图像和上述文本内容进行编码，获得视觉特征向量和文本特征向量，根据上述视觉特征向量和上述文本特征向量确定跨模态证据一致性，其中，上述跨模态证据一致性用于表征上述待处理图像与上述文本内容之间的语义匹配程度；

38、偏见特征统计模块，用于对上述响应文本进行偏见特征统计，获得上述响应文本对应的偏见特征，其中，上述偏见特征是用于表征所述响应文本中目标语言模式的数量统计指标，上述目标语言模式包括与偏见相关的语言模式和用于规避偏见的语言模式；

39、总体偏见风险值确定模块，用于根据上述偏见特征分别确定上述响应文本在多个预设偏见评价维度对应的评价得分，根据上述跨模态证据一致性、上述偏见特征和各上述预设偏见评价维度对应的评价得分，确定上述响应文本对应的总体偏见风险值；

40、迭代控制模块，用于若上述总体偏见风险值和/或上述评价得分不满足预设的偏见处理迭代终止条件，则根据上述多个预设偏见评价维度中的低分维度生成偏见抑制引导指令，将上述偏见抑制引导指令和上述多模态输入样本输入上述视觉语言模型以获得偏见抑制的响应文本，并返回触发上述偏见特征统计模块执行上述对上述响应文本进行偏见特征统计，获得上述响应文本对应的偏见特征的步骤，直至满足上述预设的偏见处理迭代终止条件时，从生成的所有响应文本中确定偏见抑制的目标响应文本。

41、本技术第三方面提供一种终端，上述终端包括存储器、处理器以及存储在上述存储器上并可在上述处理器上运行的计算机程序，上述计算机程序被上述处理器执行时实现上述任意一项针对视觉语言模型生成文本的偏见处理方法的步骤。

42、本技术第四方面提供一种计算机可读存储介质，上述计算机可读存储介质上存储有计算机程序，上述计算机程序被处理器执行时实现上述任意一项针对视觉语言模型生成文本的偏见处理方法的步骤。

43、由上可见，本技术方案中，提供一种针对视觉语言模型生成文本的偏见处理方法，上述方法包括：获取多模态输入样本，其中，上述多模态输入样本包括待处理图像，以及上述待处理图像关联的文本内容和任务指令；将上述多模态输入样本输入视觉语言模型，获得上述视觉语言模型输出的响应文本；分别对上述待处理图像和上述文本内容进行编码，获得视觉特征向量和文本特征向量，根据上述视觉特征向量和上述文本特征向量确定跨模态证据一致性，其中，上述跨模态证据一致性用于表征上述待处理图像与上述文本内容之间的语义匹配程度；对上述响应文本进行偏见特征统计，获得上述响应文本对应的偏见特征，其中，上述偏见特征是用于表征所述响应文本中目标语言模式的数量统计指标，上述目标语言模式包括与偏见相关的语言模式和用于规避偏见的语言模式；根据上述偏见特征分别确定上述响应文本在多个预设偏见评价维度对应的评价得分，根据上述跨模态证据一致性、上述偏见特征和各上述预设偏见评价维度对应的评价得分，确定上述响应文本对应的总体偏见风险值；若上述总体偏见风险值和/或上述评价得分不满足预设的偏见处理迭代终止条件，则根据上述多个预设偏见评价维度中的低分维度生成偏见抑制引导指令，将上述偏见抑制引导指令和上述多模态输入样本输入上述视觉语言模型以获得偏见抑制的响应文本，并返回执行上述对上述响应文本进行偏见特征统计，获得上述响应文本对应的偏见特征的步骤，直至满足上述预设的偏见处理迭代终止条件时，从生成的所有响应文本中确定偏见抑制的目标响应文本。

44、如此，本技术方案在进行针对视觉语言模型生成文本的偏见处理时，并非依赖重新训练模型、参数微调或结构改进的传统方式，而是在获取多模态输入样本并输入视觉语言模型获得响应文本后，分别对待处理图像和文本内容进行编码获得视觉特征向量和文本特征向量以确定跨模态证据一致性，并对响应文本进行偏见特征统计以确定多个预设偏见评价维度对应的评价得分，进而确定总体偏见风险值；当不满足迭代终止条件时，根据低分维度生成偏见抑制引导指令并重新输入模型以获得偏见抑制的响应文本，直至满足终止条件后从所有响应文本中确定目标响应文本。该过程中，无需更新视觉语言模型的任何内部参数，也无需对模型进行重新训练或结构改进，通过推理阶段动态生成偏见抑制引导指令即可实现对偏见响应的检测和抑制，有效克服了传统方法计算资源消耗大、处理时间长的问题，有利于提高偏见处理效率。同时，通过引入跨模态证据一致性判断和多个预设偏见评价维度的联合检测，能够在区分不同偏见类型的基础上精准定位偏见的来源维度并针对性生成引导指令，进一步提升了偏见抑制的准确性和效率，并通过检测、纠偏和迭代复检的闭环机制，持续优化响应文本的公平性和事实可靠性。