用于用户可理解的可解释学习模型的方法、系统和设备与流程

技术特征：
1.一种用于构造可解释用户输出的方法，该方法包括：接收特征集的输入数据，用于在由原始分类器的多个层构成的神经网络(nn)处处理，其中原始分类器已被冻结有权重集；确定语义函数以用语义类别对数据样本分类；确定神经网络内原始分类器的多个层中的每一层的语义准确率水平，其中原始分类器是训练模型；针对所确定的语义类别的训练样本，计算具有多个层的层节点的平均激活的代表性向量，用于通过计算测试集中的样本与每个语义类别的可用层的距离进行评估；为每一层和多个语义类别中的每个语义类别计算多个测试样本，其在每一层中彼此最接近，以指定具有最高分数的层，该最高分数表示所处理的测试样本集中的每个测试样本中的最佳语义；通过类别分支将多个层中的指定层扩展到所述nn，以提取语义内容的语义数据样本，并且在nn的扩展中扩展可解释分类器，以定义由nn确定的多个语义类别；训练nn的可解释分类器的连接集，以基于多个语义类别中的至少一个语义类别来以与每个输出解释相关的准确率度量计算输出解释集；以及由训练的可解释分类器针对每个语义类别基于提取的语义数据样本比较每个输出解释的准确率度量，以生成用户可理解格式的输出解释。2.根据权利要求1所述的方法，还包括：计算多个解释作为输出；以及计算构成的解释的反事实解释，其中指定层是最佳语义内容层。3.根据权利要求2所述的方法，还包括：配置具有多个层的可解释分类器，其中每一层配置有权重集；用与最佳语义内容层相关的定义的语义类别集标记可解释分类器的提取的输入数据样本；针对可解释分类器的多个层中的每一层计算激活质心；以及基于激活质心，计算可解释分类器的具有最大语义准确率的层。4.根据权利要求3所述的方法，还包括：基于语义函数以及可选地重新定义的语义函数为所述语义类别集中的每个语义类别计算最大语义准确率。5.根据权利要求4所述的方法，还包括：通过运行通过原始分类器的每一层的输入数据样本以观察每一层所包含的节点的激活数量，基于所述一定量的计算出的语义准确率，指定原始分类器的多个层中的至少一层；对于每个语义类别，确定针对每个样本的节点层的每个节点激活与针对训练集中的所有数据样本的对应节点层中的节点激活的平均之间的距离集；对每个连续的输入数据样本重复确定步骤，直到在每一层中为每个接收到的输入数据样本和每个语义类别计算每一层的节点的平均向量值；在原始分类器的多个层的每一层中，保留每个节点的平均向量值；在多个层的每一层中，对向量中的节点的平均进行评分，其中节点的平均配置为向量；为数据集中的所有数据样本所接收的多个层中的每一层的向量值分数集求和，其中每
一层中的带分数的向量值用于确定具有最大值的层；以及将多个层中具有最大值的层指定为最佳语义内容层。6.根据权利要求1所述的方法，其中，所述神经网络包括卷积神经网络(cnn)，并且所述神经网络包括cnn的扩展。7.根据权利要求6所述的方法，还包括：通过扩展原始分类器，针对驾驶舒适性通过nn的扩展来扩展可解释分类器，以经由指定层提取语义内容以预测与车辆动力学和车辆控制的特征集相对应的语义类别。8.根据权利要求7所述的方法，还包括：在冻结原始分类器的权重集的同时，针对驾驶舒适性训练可解释分类器的nn扩展的连接集；以及向nn扩展的输出添加解释器，以与提取的语义内容的数据样本相关。9.根据权利要求6所述的方法，还包括：通过扩展原始分类器针对轨迹预测扩展可解释分类器，以经由指定层提取语义内容以预测与包括卷积社交池化的样本数据的语义特征集相关的语义类别。10.一种用于构造可解释用户输出的系统，该系统包括：处理器，其配置为接收输入数据以在由原始分类器的多个层构成的神经网络处处理特征集，其中原始分类器已被冻结有与输入数据的特征有关的权重集；处理器配置为确定语义函数以用语义类别对数据样本分类，并且确定神经网络内原始分类器的多个层中的每一层的语义准确率水平，其中原始分类器是训练模型；处理器配置为计算具有多个层中的每一层的节点的平均激活的代表性向量，用于训练语义类别的样本集，以通过计算由样本集构成的测试集中的每个样本与语义类别集中的每个语义类别的多个层中的可用层的距离来评估；处理器配置成为多个层中的每一层和每个语义类别计算多个测试样本，其在多个层中的每一层中彼此最接近，以指定多个层中具有最高分数的层，该最高分数表示每个测试样本中的最佳语义，其中指定层是最佳语义内容层；处理器配置为通过类别分支将最佳语义内容层扩展到神经网络，以从原始分类器的语义内容中提取语义数据样本集到神经网络，并用扩展来扩展神经网络的可解释分类器，以定义多个语义类别；处理器配置为训练神经网络的可解释分类器的新连接集，以基于多个语义类别中的至少一个语义类别来以与每个输出解释相关的准确率度量计算由解释构成的输出解释集；以及处理器配置为由训练的可解释分类器针对多个语义类别中的每个语义类别基于提取的语义数据样本比较每个输出解释的准确率度量，并且生成用户可理解格式的输出解释。

技术总结
用于构建可解释用户输出的方法、系统和设备，通过原始分类器的多层神经网络接收输入特征数据；确定语义函数以用语义类别标记数据样本；确定神经网络内原始分类器的每一层的语义准确率；根据语义准确率比较的结果对每一层进行比较；根据一定量的计算出的语义准确率指定层；通过类别分支将指定层扩展到神经网络，以从语义内容提取语义数据样本，以训练可解释分类器的新连接集，以针对多个语义类别中的每个语义类别的与每个输出解释相关的准确率度量计算输出解释集，并比较每个输出解释的准确率度量，以生成用户可理解格式的输出解释。以生成用户可理解格式的输出解释。以生成用户可理解格式的输出解释。


技术研发人员：C.V.戈德曼-申哈尔 M.巴尔塔克斯
受保护的技术使用者：通用汽车环球科技运作有限责任公司
技术研发日：2021.05.14
技术公布日：2022/2/28