系统、方法和程序与流程

技术特征：
1.一种管理通过机器学习生成的第一模型的系统，所述系统包括：置换单元，其用于在作为由所述第一模型使用包括第一输入值的输入而获得的预测结果的第一预测结果满足预定条件时，利用第二输入值来置换所述输入中包括的所述第一输入值；保存单元，其用于保存作为由所述第一模型使用通过置换获得的输入而获得的预测结果的第二预测结果；接收单元，其用于接收对所述第二预测结果的反馈；以及生成单元，其用于基于接收到的所述反馈，通过使用由所述第二预测结果和包括所述第一输入值的输入形成的学习数据进行机器学习，来生成第二模型。2.根据权利要求1所述的系统，所述系统还包括：确定单元，其用于确定由所述第二模型使用验证输入而获得的预测结果是否满足所述预定条件。3.根据权利要求2所述的系统，所述系统还包括：替换单元，其用于在所述确定单元确定由所述第二模型使用验证输入而获得的预测结果不满足所述预定条件时，利用所述第二模型来替换所述第一模型。4.根据权利要求1至3中的任一项所述的系统，所述系统还包括：生成单元，其用于基于由所述第二预测结果和包括所述第一输入值的输入形成的学习数据来生成学习数据以生成所述第二模型，在所述学习数据中，输入的至少一些值交叠，其中，所述生成单元通过使用由所述第二预测结果和包括所述第一输入值的输入形成的学习数据，以及由所述生成单元生成的学习数据进行机器学习，来生成所述第二模型。5.根据权利要求1至4中的任一项所述的系统，其中，所述预定条件是，在由所述第一模型使用包括所述第一输入值的输入而获得的预测结果与由所述第一模型使用包括所述第二输入值的输入而获得的预测结果之间存在偏差时满足的条件。6.根据权利要求5所述的系统，其中，由所述第一模型使用包括所述第一输入值的输入而预测的预测结果是预定预测结果的次数相对于由所述第一模型使用包括所述第一输入值的输入而预测的总预测数量的比率，被设置为第一比率，其中，由所述第一模型使用包括所述第二输入值的输入而预测的预测结果是所述预定预测结果的次数相对于由所述第一模型使用包括所述第二输入值的输入而预测的总预测数量的比率，被设置为第二比率，并且其中，所述预定条件是根据所述第一比率相对于所述第二比率的比率的条件。7.一种在管理通过机器学习生成的第一模型的系统中进行的方法，所述方法包括：置换过程，在作为由所述第一模型使用包括第一输入值的输入而获得的预测结果的第一预测结果满足预定条件时，利用第二输入值置换所述输入中包括的所述第一输入值；保存过程，保存作为由所述第一模型使用通过置换获得的输入而获得的预测结果的第二预测结果；接收过程，接收对所述第二预测结果的反馈；以及生成过程，基于接收到的所述反馈，通过使用由所述第二预测结果和包括所述第一输入值的输入形成的学习数据进行机器学习，来生成第二模型。
8.一种程序，其使计算机用作根据权利要求1至6中的任一项所述的系统的各单元。

技术总结
校正学习模型的偏差并保证公平性。一种管理通过机器学习创建的第一模型的系统，该系统包括：置换单元，其在作为由所述第一模型使用包括第一输入值的输入进行预测的结果的预测结果的第一预测结果满足预定条件时，利用第二输入值置换所述输入中包括的所述第一输入值；存储单元，其存储作为由所述第一模型使用置换后的输入进行预测的结果的预测结果的第二预测结果；接收单元，其接收对所述第二预测结果的反馈；以及创建单元，其根据接收到的所述反馈，通过使用包括所述第二预测结果和包括所述第一输入值的输入的学习数据进行机器学习，来创建第二模型。创建第二模型。创建第二模型。


技术研发人员：佐藤铁也
受保护的技术使用者：佳能株式会社
技术研发日：2020.05.19
技术公布日：2022/2/18