对神经网络中节点进行染色的方法及装置与流程

技术特征：
1.一种对神经网络中节点进行染色的方法，其特征在于，包括以下步骤：获取训练数据，并对所述训练数据进行预处理；通过预设的特征提取网络提取预处理后的训练数据对应的特征，并通过话的分类网络对所述特征进行分类，输出所述分类对应的类别向量；将所述特征提取网络和所述分类网络的节点参数按照顺序存储于预先建立的节点存储区；遍历所述节点存储区的节点信息，并对节点进行标签分类，并对各类别的节点进行染色操作。2.根据权利要求1所述的方法，其特征在于，对所述训练数据进行预处理，包括：获取所述训练数据中的图片，根据标注信息在图片中不同位置的物体标注出类型，将每张图片的预处理结果存储在向量中。3.根据权利要求2所述的方法，其特征在于，所述向量表示为：[(x
i
,y
i
),x
′
i
]＝[(x
i
,y
i
),(x
i1
,x
i2
,...,x
ij
)]，其中，x
i
代表图片的原始信息，y代表对图片的分类，代表图片中某一物体标注框的坐标信息，y
ij
代表这个标注框的类别信息，i代表第i张图片，j代表图片中第j个物体，k代表标注框的第k个顶点。4.根据权利要求1所述的方法，其特征在于，所述对节点进行标签分类，并对各类别的节点进行染色操作，包括：对于所述特征提取网络中的卷积核，将每个卷积核与图片的原始信息进行卷积操作，并将卷积结果最大的区域作为节点的作用区域；判断所述作用区域属于的标签框，将所述标签框的类别标签作为所述卷积核的标签类别；将标签类别为图片分类的节点的值进行等比放大或缩小，确定分类结果为所述图片分类的数据在经过染色后的分类准确率的变化。5.根据权利要求1
‑
4任一项所述的方法，其特征在于，在对各类别的节点进行染色操作之后，还包括：获取待测试数据，将所述待测试数据输入至神经网络；确定所述神经网络中节点的分类准确率的变化；根据所述分类准确率的变化对所述节点进行操作，所述操作包括保留节点或者删除节点。6.根据权利要求5所述的方法，其特征在于，根据所述分类准确率的变化对所述节点进行操作，包括：若所述节点的分类准确率的变化为分类准确率提高或者不变，则保留所述节点；否则，从所述神经网络中删除所述节点。7.一种对神经网络中节点进行染色的装置，其特征在于，包括：第一获取模块，用于获取训练数据，并对所述训练数据进行预处理；处理模块，用于通过预设的特征提取网络提取预处理后的训练数据对应的特征，并通过话的分类网络对所述特征进行分类，输出所述分类对应的类别向量；
存储模块，用于将所述特征提取网络和所述分类网络的节点参数按照顺序存储于预先建立的节点存储区；染色模块，用于遍历所述节点存储区的节点信息，并对节点进行标签分类，并对各类别的节点进行染色操作。8.根据权利要求7所述的装置，其特征在于，所述染色模块，还用于：对于所述特征提取网络中的卷积核，将每个卷积核与图片的原始信息进行卷积操作，并将卷积结果最大的区域作为节点的作用区域；判断所述作用区域属于的标签框，将所述标签框的类别标签作为所述卷积核的标签类别；将标签类别为图片分类的节点的值进行等比放大或缩小，确定分类结果为所述图片分类的数据在经过染色后的分类准确率的变化。9.根据权利要求7
‑
8任一项所述的装置，其特征在于，还包括：第二获取模块，用于获取待测试数据，将所述待测试数据输入至神经网络；确定模块，用于确定所述神经网络中节点的分类准确率的变化；操作模块，用于根据所述分类准确率的变化对所述节点进行操作，所述操作包括保留节点或者删除节点。10.根据权利要求9所述的装置，其特征在于，所述操作模块，还用于：若所述节点的分类准确率的变化为分类准确率提高或者不变，则保留所述节点；否则，从所述神经网络中删除所述节点。

技术总结
本发明提出一种对神经网络中节点进行染色的方法及装置，其中，方法包括：获取训练数据，并对所述训练数据进行预处理；通过预设的特征提取网络提取预处理后的训练数据对应的特征，并通过话的分类网络对所述特征进行分类，输出所述分类对应的类别向量；将所述特征提取网络和所述分类网络的节点参数按照顺序存储于预先建立的节点存储区；遍历所述节点存储区的节点信息，并对节点进行标签分类，并对各类别的节点进行染色操作。该方法通过对完成训练的深度神经网络模型进行染色，实现对神经网络中节点作用的研究，解决现有技术中深度神经网络中各个节点的可解释性问题。经网络中各个节点的可解释性问题。经网络中各个节点的可解释性问题。


技术研发人员：郭雨晨 戴琼海 丁贵广
受保护的技术使用者：清华大学
技术研发日：2021.09.08
技术公布日：2021/12/13