用于固态驱动器的可划分神经网络的制作方法

技术特征：
1.一种用于生成神经网络推断模型的方法，所述方法包括：接收指示神经网络推断模型的架构的输入，所述架构包括多个参数；接收指示针对每个参数的多个不同类别的输入；生成具有多个独立分类核心部分(iccp)的初始神经网络推断模型，每个iccp对应于每个参数的类别中的一个类别并且包括输入神经元、输出神经元和耦接到所述输入神经元和所述输出神经元的隐藏神经元，所述初始神经网络推断模型具有包括加权值的行和列的加权矩阵，每行上的第一多个加权值具有非零值，并且每行上的第二多个加权值具有零值，每个iccp具有与其他iccp相同的结构，并且响应于所述零值，特定iccp的所述输入神经元、所述输出神经元或所述隐藏神经元都没有被有效地耦接到任何所述其他iccp的所述输入神经元、所述输出神经元或所述隐藏神经元中的任一者；接收多个数据记录，每个数据记录包括一个或多个参数值；通过划分所接收的数据记录来创建训练数据集、验证数据集和测试数据集；通过以下方式训练所述初始神经网络推断模型：选择类别；从所述训练数据集中选择具有对应于所选择的类别的参数值的数据记录；使用所选择的训练数据记录在对应于所选择的类别的神经元上执行反向传播算法；重复所述选择数据记录和所述执行反向传播算法，直到所述训练数据集中对应于所述选择的类别的所有数据记录已经被处理；继续所述选择类别、所述选择数据记录、所述执行反向传播算法和所述重复，直到所有类别已经被处理；以及存储所述神经网络推断模型的配置文件。2.根据权利要求1所述的方法，进一步包括：使用所述验证数据集执行验证并使用所述测试数据集执行测试，所述存储包括存储经训练、经验证和测试的神经网络推断模型。3.根据权利要求2所述的方法，进一步包括：在所述执行验证和测试之后，执行浮点转换以生成所述配置文件。4.根据权利要求2所述的方法，进一步其中所述存储进一步包括：将所述配置文件存储在集成电路设备上，其中所述参数与所述集成电路设备的操作相关，并且每个输出神经元生成与所述集成电路设备的所述操作相关的变量的估计值。5.根据权利要求2所述的方法，进一步包括：其中每个iccp对应于单个类别的字线值、单个类别的块值、单个类别的保留时间值、单个类别的读取干扰值和指示闪存存储器设备的寿命中的时段的单个值，并且其中每个iccp的第一输入神经元被配置为接收字线值，每个iccp的第二输入神经元被配置为接收块值，每个iccp的第三输入神经元被配置为接收保留时间值，每个iccp的第四输入神经元被配置为接收读取干扰值，并且每个iccp的第五输入神经元被配置为接收编程/擦除值。6.根据权利要求2所述的方法，其中所述训练数据集、所述验证数据集和所述测试数据集中的每一者包括闪存存储器设备表征测试结果，所述闪存存储器设备表征测试结果指示在不同阈值电压漂移偏移值处执行的读取中的错误的数量。7.根据权利要求1所述的方法，其中每个iccp的所述输出神经元被配置为生成输出值，
所述输出值指示阈值电压漂移读取错误曲线的系数。8.根据权利要求1所述的方法，其中每个iccp的所述输出神经元被配置为生成输出值，所述输出值指示在特定阈值电压漂移偏移(tvso)值处的阈值电压漂移读取错误(tvs-re)曲线的错误的数量。9.根据权利要求1所述的方法，其中所述执行反向传播算法进一步包括：将所述第一多个加权值中的不对应于所述选择的类别的所有加权值暂时存储在数据存储器中；将所述第一多个加权值中的不对应于所述选择的类别的所有加权值设置为零；执行所述反向传播算法；以及将所述第一多个加权值中的不对应于所述选择的类别的加权值中的每个加权值恢复为其对应的暂时存储值。10.根据权利要求1所述的方法，其中在iccp的每个输出神经元处生成的所述输出能够由数学方程表示，所述数学方程包括对应于所述iccp的每个输入神经元的变量、加权值和偏差值，并且其中每个特定iccp的所述输出神经元与所述其他iccp的所述输出神经元求解相同的方程，使得不同核心部分的所述输出之间的唯一差异是所述特定核心部分的不同加权值和偏差值的结果。11.一种用于执行推断操作的方法，包括：将神经网络推断模型的配置文件存储在集成电路设备上，所述神经网络推断模型包括多个独立分类核心部分(iccp)，每个iccp对应于针对所述神经网络推断模型的每个参数的多个类别中的一个类别并且包括输入神经元、输出神经元和耦接到所述输入神经元和所述输出神经元的隐藏神经元，所述神经网络推断模型具有包括加权值的行和列的加权矩阵，每行上的第一多个加权值具有非零值，并且每行上的第二多个加权值具有零值，每个iccp具有与其他iccp相同数量的输入神经元、相同数量的隐藏神经元、相同数量的输出神经元以及输入神经元、隐藏神经元和输出神经元之间的相同连接，并且响应于所述加权矩阵的零值，特定iccp的所述输入神经元、所述输出神经元或所述隐藏神经元都没有被有效地耦接到任何其他iccp的所述输入神经元、所述输出神经元或所述隐藏神经元中的任一者；将所述神经网络推断模型的所述配置文件加载到所述集成电路设备的神经网络引擎中以形成神经网络推断核心；监测所述集成电路设备的所述操作以识别对应于所述参数中的每个参数的使用值；使用所述使用值作为到所述iccp中的每个iccp的输入在所述神经网络推断模型核心上执行单个神经网络操作，以在每个iccp的所述输出神经元处生成指示对一个或多个变量的估计的输出值；识别对应于输入使用值的所述iccp的所述输出值；发送所识别到的输出值作为输出。12.根据权利要求11所述的方法，进一步包括通过以下方式生成所述神经网络推断模型：接收指示神经网络推断模型的架构的输入，所述架构包括多个参数；接收指示针对每个参数的多个不同类别的输入；生成具有所述多个iccp的初始神经网络推断模型；
接收包含数据记录的数据集，每个数据记录包括一个或多个参数值；通过划分所接收的数据记录来创建训练数据集、验证数据集和测试数据集；通过以下方式训练所述初始神经网络推断模型：选择类别；从所述训练数据集中选择具有对应于所选择的类别的参数值的数据记录；使用所选择的训练数据记录在对应于所选择的类别的神经元上执行反向传播算法；重复所述选择数据记录和所述执行反向传播算法，直到所述训练数据集中对应于所选择的类别的所有数据记录已经被处理；以及继续所述选择类别、所述选择数据记录、所述执行反向传播算法和所述重复，直到所有类别已经被处理。13.根据权利要求11所述的方法，进一步包括：其中每个iccp对应于单个类别的字线值、单个类别的块值、单个类别的保留时间值、单个类别的读取干扰值和指示闪存存储器设备的寿命中的时段的单个类别，其中每个iccp的第一输入神经元被配置为接收字线值，每个iccp的第二输入神经元被配置为接收块值，每个iccp的第三输入神经元被配置为接收保留时间值，每个iccp的第四输入神经元被配置为接收读取干扰值，并且每个iccp的第五输入神经元被配置为接收编程/擦除值。14.根据权利要求13所述的方法，其中每个iccp的所述输出神经元被配置为生成输出值，所述输出值指示阈值电压漂移读取错误曲线的系数。15.根据权利要求13所述的方法，其中所述多个iccp中的每个iccp包括一个或多个输出神经元，所述一个或多个输出神经元被配置为生成输出值，所述输出值指示在特定阈值电压漂移偏移(tvso)值处的阈值电压漂移读取错误(tvs-re)曲线的错误的数量。16.根据权利要求11所述的方法，其中在iccp的每个输出神经元处生成的所述输出能够由数学方程表示，所述数学方程包括对应于所述iccp的每个输入神经元的变量、加权值和偏差值，并且其中每个特定iccp的所述输出神经元与所述其他iccp的所述输出神经元求解相同的方程，使得不同iccp的所述输出之间的唯一差异是所述特定iccp的不同加权值和偏差值的结果。17.一种集成电路设备，包括：操作电路，所述操作电路用于执行一个或多个操作并生成与所述一个或多个操作相关的值；数据存储器，所述数据存储器被配置用于存储多核心神经网络推断(mcnni)模型，所述mcnni模型包括多个独立分类核心部分(iccp)，每个iccp对应于针对所述mcnni模型中的每个参数的多个类别中的一个类别并且包括输入神经元、输出神经元和耦接到所述输入神经元和所述输出神经元的隐藏神经元，每个iccp具有与其他iccp相同数量的输入神经元、相同数量的隐藏神经元、相同数量的输出神经元以及输入神经元、隐藏神经元和输出神经元之间的相同连接，所述神经网络推断模型具有包括加权值的行和列的加权矩阵，每行上的第一多个加权值具有非零值，并且每行上的第二多个加权值具有零值，并且响应于所述加权矩阵的所述零值，特定iccp的所述输入神经元、所述输出神经元或所述隐藏神经元都没有被耦接到任何所述其他iccp的所述输入神经元、所述输出神经元或所述隐藏神经元中的
任一者；以及神经网络引擎，所述神经网络引擎被耦接到所述数据存储器，其中所述集成电路设备被配置为识别对应于所述集成电路设备的所述操作的使用值；其中所述集成电路设备被配置为将所述mcnni模型加载到所述神经网络引擎中以形成mcnni核心；其中所述神经网络引擎被配置为使用所述使用值作为到单个神经网络操作的输入来执行所述mcnni核心的所述单个神经网络操作，以针对每个iccp在对应于由所述特定iccp核心表示的所述类别的每个输出神经元处生成输出值；并且其中所述集成电路设备包括选择电路，所述选择电路被配置用于识别对应于输入到所述单个神经网络操作中的所述使用值的所述mcnni核心，所述选择电路进一步被配置为：向所述集成电路设备的一个或多个其他电路发送由选择的mcnni核心的所述输出神经元生成的所述输出值。18.根据权利要求17所述的集成电路设备，其中所述集成电路设备包括闪存控制器，其中每个iccp对应于单个类别的字线值、单个类别的块值、单个类别的保留时间值、单个类别的读取干扰值和指示闪存存储器设备的寿命中的时段的单个类别并且其中每个iccp的第一输入神经元被配置为接收字线值，每个iccp的第二输入神经元被配置为接收块值，每个iccp的第三输入神经元被配置为接收保留时间值，每个iccp的第四输入神经元被配置为接收读取干扰值，并且每个iccp的第五输入神经元被配置为接收编程/擦除值。19.根据权利要求17所述的集成电路设备，其中所述集成电路设备包括闪存控制器，并且其中所述多个iccp中的每个iccp包括一个或多个输出神经元，所述一个或多个输出神经元被配置为生成输出值，所述输出值指示在特定阈值电压漂移偏移(tvso)值处的阈值电压漂移读取错误(tvs-re)曲线的错误的数量。20.根据权利要求17所述的集成电路设备，其中所述集成电路设备包括闪存控制器，并且其中在iccp的每个输出神经元处生成的输出可由数学方程表示，所述数学方程包括对应于所述iccp的每个输入神经元的变量、加权值和偏差值，并且其中每个特定iccp的所述输出神经元与所述其他iccp的所述输出神经元求解相同的方程，使得不同iccp的所述输出之间的唯一差异是所述特定iccp的不同加权值和偏差值的结果。

技术总结
本发明公开了一种方法，该方法包括：存储具有独立分类核心部分(ICCP)的多核心神经网络推断(MCNNI)模型的配置文件。每个ICCP对应于针对每个参数的多个类别中的一个类别。该MCNNI模型的加权矩阵的每行上的第一多个加权值具有非零值，并且每行上的第二多个加权值具有零值。该配置文件被加载到神经网络引擎中。监测集成电路设备的操作以识别对应于参数中的每个参数的使用值。使用该使用值作为输入来执行单个神经网络操作，以在每个ICCP的输出神经元处生成指示对一个或多个变量的估计的输出值。识别对应于输入使用值的该ICCP的该输出值并将其作为输出进行发送。值并将其作为输出进行发送。值并将其作为输出进行发送。


技术研发人员：L
受保护的技术使用者：微芯片技术股份有限公司
技术研发日：2021.01.15
技术公布日：2023/2/23