在不灾难性忘记的情况下从预训练机器学习模型中遗忘数据的制作方法
背景技术:
1、本公开涉及机器学习(ml)模型,并且更具体地,涉及从ml模型中遗忘(unlearn)目标样本。
2、随着人工智能领域的进步,已经开发了各种类型的机器学习(ml)模型,这些模型已经在从图像识别到自然语言处理到药物发现的各种应用中展示了显著的成功。使用训练数据集来训练此类ml模型以识别输入数据中的模式或执行特定任务。一旦被训练,训练过的ml模型就被部署在现实场景中以执行其预期的任务。
3、在一些实例中,训练数据集可以包括一些可能给部署ml模型的组织带来声誉损失以及财务损失的训练样本(或实例)。这样的训练样本可以包括受版权保护的内容、错误标记的训练示例、不当个人身份信息(opii)、有偏见的训练示例等。此外,随着数据隐私和安全法规(诸如,通用数据保护条例(gdpr)和健康保险流通与责任法案(hippa))的实施,用户可以请求删除与他们相关联的数据(诸如电子邮件地址),这些数据可能是用于训练ml模型的训练数据集的一部分。因此,需要更新ml模型以移除所有可能导致组织遭受财务、声誉或其他任何损失的训练样本。
4、可用于管理这种更新请求的当前解决方案通常包括在数据清理之后从头开始重新训练ml模型。该过程可能是昂贵的、繁琐的和耗时的。因此,需要一种系统,该系统可以快速、经济且以不太繁琐的方式更新ml模型。
技术实现思路
1、根据本公开的一个实施例,描述了一种用于在不灾难性忘记补充样本的情况下从预训练机器学习模型中遗忘目标样本的计算机实现的方法。该计算机实现的方法包括由计算机检索要由预训练ml模型遗忘的一组目标样本。该组目标样本是从数据源检索的。该计算机实现的方法还包括由计算机检索与检索到的该组目标样本中的每个目标样本相关联的一组补充样本。该计算机实现的方法还包括由计算机针对该组目标样本中的每个目标样本计算第一惊讶分数(surprise score)。该计算机实现的方法还包括由计算机针对该组目标样本中的每个目标样本计算第一惊讶分数。该计算机实现的方法还包括由计算机基于针对该组目标样本中的每个目标样本的第一惊讶分数以及针对与该组目标样本中的每个目标样本相关联的该组补充样本中的每一个的第二惊讶分数来确定第一损失函数。该计算机实现的方法还包括由计算机基于针对该组补充样本中的每一个的第二惊讶分数来确定第二损失函数。该计算机实现的方法还包括由计算机基于第一损失函数和第二损失函数来更新预训练ml模型。
2、根据本公开的一个或多个实施例,描述了一种用于在不灾难性忘记补充样本的情况下从预训练机器学习模型中遗忘目标样本的系统。该系统执行一种用于从机器学习模型中遗忘目标样本的方法。该方法包括:检索要由预训练机器学习(ml)模型遗忘的一组目标样本。该组目标样本是从数据源检索的。该方法还包括检索与检索到的该组目标样本中的每个目标样本相关联的一组补充样本。该方法还包括针对该组目标样本中的每个目标样本计算第一惊讶分数。该方法还包括针对与该组目标样本中的每个目标样本相关联的检索到的该组补充样本中的每一个计算第二惊讶分数。该方法还包括基于针对该组目标样本中的每个目标样本的第一惊讶分数以及针对与该组目标样本中的每个目标样本相关联的该组补充样本中的每一个的第二惊讶分数来确定第一损失函数。该方法还包括基于针对该组补充样本中的每一个的第二惊讶分数来确定第二损失函数。该方法还包括基于第一损失函数和第二损失函数来更新预训练ml模型。
3、根据本公开的一个或多个实施例,描述了一种用于通过预训练机器学习(ml)模型遗忘一组目标样本中的第一目标样本的计算机程序产品。该计算机程序产品包括具有与其体现的程序指令的计算机可读存储介质,该程序指令能由系统执行以使所述系统检索要由预训练ml模型遗忘的一组目标样本中的第一目标样本。第一目标样本是从数据源检索的。该程序指令还包括检索与第一目标样本相关联的第一组补充样本。该程序指令还包括针对第一目标样本计算目标惊讶分数。该程序指令还包括计算与和第一目标样本相关联的所检索的第一组补充样本中的每一个相关联的补充惊讶分数。该程序指令还包括基于针对第一目标样本的目标惊讶分数以及针对该组补充样本中的每一个的补充惊讶分数来确定第一损失函数。该程序指令还包括基于该组补充样本中的每一个的补充惊讶分数来确定第二损失函数。该程序指令还包括基于第一损失函数、第二损失函数和第一超参数来确定统一损失函数,以及基于统一损失函数来更新预训练ml模型。预训练ml模型被更新一组轮次中的至少一个轮次,并且该组轮次的计数对应于与预训练ml模型的训练相关联的第二超参数。
4、通过本公开的技术实现了附加的技术特征和益处。在本文中详细描述了本公开的实施例和各方面并且被认为是要求保护的主题的一部分。为了更好地理解,参考具体描述和附图。
1.一种用于通过预训练机器学习(ml)模型遗忘样本的计算机实现的方法,所述计算机实现的方法包括:
2.根据权利要求1所述的计算机实现的方法,其中第一惊讶分数指示与训练数据集被用于训练预训练ml模型相比,在将目标样本作为输入提供给预训练ml模型时,预训练ml模型的行为中的惊讶。
3.根据权利要求1所述的计算机实现的方法,其中从预训练ml模型中遗忘该组目标样本对应于从预训练ml模型的知识库中移除该组目标样本的每个目标样本。
4.根据权利要求1所述的计算机实现的方法,还包括:
5.根据权利要求1所述的计算机实现的方法,其中该组补充样本从数据源被检索,并且其中数据源包括用于训练预训练ml模型的训练数据集。
6.根据权利要求1所述的计算机实现的方法,其中对于该组目标样本中的每个目标样本的第一惊讶分数是基于该组目标样本中的至少一个目标样本的模态计算的。
7.根据权利要求6所述的计算机实现的方法,其中该组目标样本中的每个目标样本的模态是单模态,并且其中针对目标样本的第一惊讶分数的计算对应于以下项中的至少一个:预训练ml模型在相应目标样本上的损失的计算或者预训练ml模型在相应目标样本上的困惑度的计算。
8.根据权利要求6所述的计算机实现的方法,其中该组目标样本中的每个目标样本的模态是多模态,并且其中针对目标样本的第一惊讶分数的计算对应于相应目标样本在第一模态中的至少第一部分与相应目标样本在第二模态中的第二部分的点积的计算。
9.根据权利要求1所述的计算机实现的方法,还包括:
10.根据权利要求1所述的计算机实现的方法,还包括:
11.根据权利要求1所述的计算机实现的方法,还包括:
12.根据权利要求1所述的计算机实现的方法,其中预训练ml模型被训练一组轮次中的至少一个轮次,并且其中该组轮次的计数对应于与预训练ml模型的训练相关联的第二超参数。
13.根据权利要求1所述的计算机实现的方法,其中第一损失函数对应于间隔排序损失函数或softmax损失函数中的一个,并且其中第二损失函数对应于正则化损失函数。
14.一种系统,包括:
15.根据权利要求14所述的系统,其中第一惊讶分数指示与训练数据集被用于训练预训练ml模型相比,在将目标样本作为输入提供给预训练ml模型时预训练ml模型的行为中的惊讶。
16.根据权利要求14所述的系统,其中从预训练ml模型中遗忘该组目标样本对应于从预训练ml模型的知识库中移除该组目标样本的每个目标样本。
17.根据权利要求14所述的系统,其中该组目标样本中的每个目标样本的模态是单模态,并且其中针对目标样本的第一惊讶分数的计算对应于以下项中的至少一个:预训练ml模型在相应目标样本上的损失的计算或者预训练ml模型在相应目标样本上的困惑度的计算。
18.根据权利要求14所述的系统,其中该组目标样本中的每个目标样本的模态是多模态,并且其中针对目标样本的第一惊讶分数的计算对应于相应目标样本在第一模态中的至少第一部分与相应目标样本在第二模态中的第二部分的点积的计算。
19.根据权利要求14所述的系统,其中处理器组还被配置为:
20.一种用于通过预训练机器学习(ml)模型遗忘一组目标样本中的第一目标样本的计算机程序产品,该计算机程序产品包括具有与其体现的程序指令的计算机可读存储介质,该程序指令能由系统执行以使所述系统,包括:
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com