一种深度学习的梯度重要性可视化展示方法、设备及介质与流程

本技术涉及数据处理，尤其涉及一种深度学习的梯度重要性可视化展示方法、设备及介质。

背景技术：

1、随着深度学习模型在医疗诊断、文本分析等领域的广泛应用，模型决策的可解释性变得至关重要。梯度重要性分析方法作为主流的可解释性技术之一，通过计算输入特征对模型输出的梯度来评估特征重要性，为模型决策提供解释依据。

2、但在实际应用过程中，现有的梯度重要性可视化方案面临显著技术挑战：

3、梯度值尺度不一致问题突出。不同模型、不同样本计算得到的梯度重要性分数存在数量级差异，数值范围波动巨大，从负值到正值分布广泛。传统单一标准化方法难以有效处理这种跨样本、跨模型的尺度不一致性，导致生成的可视化结果缺乏可比性，严重影响解释效果的一致性。

4、正负贡献信息处理能力不足。梯度重要性中的正值代表正向贡献（支持证据），负值代表负向贡献（反对证据），这一符号信息对完整理解模型决策机制至关重要。然而，现有标准化方法大多忽略符号敏感性，或采用简单绝对值处理，导致重要的方向信息丢失。

5、自适应场景适配能力欠缺。不同的可解释性应用场景对可视化需求各异，例如，有的只需要快速定位关键区域，有的则需要深入分析决策逻辑。因此，缺乏针对不同场景的适配机制，难以在简洁性与完整性之间取得平衡。

技术实现思路

1、为了解决上述问题，本技术提出了一种深度学习的梯度重要性可视化展示方法，包括：

2、获取目标深度学习模型针对输入数据计算得到的原始梯度重要性数据；

3、根据预设的模式选择策略，从包括第一处理模式和第二处理模式的双模式归一化架构中确定目标处理模式；所述第一处理模式用于消除所述原始梯度重要性数据中的正负符号差异；所述第二处理模式用于保留所述原始梯度重要性数据中的正负符号信息，以区分正向支持和负向反对；

4、若所述目标处理模式为第一处理模式，则对所述原始梯度重要性数据进行基于绝对值的归一化处理，生成映射至第一数值区间的第一标准化数据；

5、若所述目标处理模式为第二处理模式，则对所述原始梯度重要性数据进行保持符号信息的归一化处理，生成映射至第二数值区间的第二标准化数据；

6、将所述第一标准化数据或所述第二标准化数据，按照处理模式预设的配色策略进行可视化展示。

7、一个示例中，所述对所述原始梯度重要性数据进行基于绝对值的归一化处理，生成映射至第一数值区间的第一标准化数据，具体包括：

8、计算所述原始梯度重要性数据中每个元素的绝对值；

9、对所述每个元素的绝对值进行min-max归一化，得到处于第一数值区间的第一标准化数据。

10、一个示例中，所述对所述原始梯度重要性数据进行保持符号信息的归一化处理，生成映射至第二数值区间的第二标准化数据，具体包括：

11、确定所述原始梯度重要性数据中所有元素绝对值的最大值，作为归一化基准；

12、将所述原始梯度重要性数据中的每个元素除以所述归一化基准，得到处于第二数值区间的所述第二标准化数据，所述第二数值区间以零值为中心对称。

13、一个示例中，根据预设的模式选择策略，从包括第一处理模式和第二处理模式的双模式归一化架构中确定目标处理模式，具体包括：

14、获取所述目标深度模型针对所述输入数据的预测置信度；

15、根据所述预测置信度与输入数据类型，确定所述第一处理模式或所述第二处理模式为目标处理模式；

16、或，

17、基于接收到的用户指令进行选择，以指定所述第一处理模式或所述第二处理模式为目标处理模式。

18、一个示例中，根据所述预测置信度与输入数据类型，确定所述第一处理模式或所述第二处理模式为目标处理模式，具体包括：

19、若所述输入数据类型为非自然文本，判断是否存在用户配置的置信度；

20、若存在，将用户配置的置信度与所述预设阈值进行比较，根据对比结果确定目标处理模式；

21、若所述输入数据类型为自然语言文本或不存在用户配置的置信度，将所述预测置信度与预设阈值进行对比，根据对比结果确定目标处理模式。

22、一个示例中，将所述预测置信度与预设阈值进行对比，根据对比结果确定目标处理模式，具体包括：

23、在所述预测置信度高于预设阈值时，确定第二处理模式为目标处理模式；

24、在所述预测置信度低于或等于预设阈值时，确定第一处理模式为目标处理模式。

25、一个示例中，所述将所述第一标准化数据或所述第二标准化数据，按照处理模式预设的配色策略进行可视化展示，具体包括：

26、对所述第一标准化数据进行颜色映射，以采用单一色系的渐进色进行可视化展示；数值越大，颜色饱和度或亮度越高；

27、对所述第二标准化数据进行颜色映射，以采用双色系进行可视化展示；正值映射至第一色系的渐进色，负值映射至区别于所述第一色系的第二色系的渐进色，且数值的绝对值越大，对应颜色的饱和度或亮度越高。

28、一个示例中，将所述第二标准化数据，按照处理模式预设的配色策略进行可视化展示之后，所述方法还包括：

29、响应于用户在可视化界面上对目标区域的选择操作，获取所述目标区域对应的原始梯度重要性数据及所包括的正负贡献分布信息；

30、根据所述正负贡献分布信息，生成并展示所述目标区域的贡献构成分析视图；所述贡献构成分析视图以预设形式叠加显示于可视化界面中。

31、另一方面，本技术实施例提供了一种深度学习的梯度重要性可视化展示设备，包括：至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述任一项所述的一种深度学习的梯度重要性可视化展示方法。

32、另一方面，本技术实施例提供了一种深度学习的梯度重要性可视化展示非易失性计算机存储介质，存储有计算机可执行指令，所述计算机可执行指令能够执行上述任一项所述的一种深度学习的梯度重要性可视化展示方法。

33、本技术实施例采用的上述至少一个技术方案能够达到以下有益效果：

34、对梯度数据进行归一化，使得产生的梯度重要性能够在同一尺度上进行比较。因此，通过精确的数学标准化处理和颜色映射策略，有效解决了梯度重要性尺度不一致问题。

35、第一处理模式旨在忽略梯度的方向（正负），仅关注大小所反映的重要性强度。对于快速重要性定位场景采取第一处理模式，实现了高效可视化。第二处理模式要求在归一化过程中同时保留数值的大小（强度）和符号（方向），

36、通过完整保留正负贡献信息，使模型决策逻辑更加透明，大幅提升了可解释性的准确性和深度，为模型优化提供明确方向，降低模型调试成本和提高开发效率。

37、基于智能模式选择机制，自动适应不同应用场景的特殊需求。提供第一处理模式（单边贡献）和第二处理模式（正负贡献区分）两种处理模式，显著提升了梯度重要性可视化的灵活性和适用性。两种模式既可独立使用，也可协同配合，弥补了在场景适应性方面的不足。