神经网络存算芯片多通道读写时序偏差自适应校正方法
本发明涉及人工智能芯片,尤其是涉及一种神经网络存算芯片多通道读写时序偏差自适应校正方法。
背景技术:
1、随着大语言模型与边缘计算技术的演进,存算一体芯片因其极高的数据吞吐量成为神经网络加速的核心器件。在分布式多宏架构的存算一体芯片执行高并发矩阵运算时,保障多通道数据到达全局累加器的时间一致性是芯片正常运行的基础条件。
2、现有技术在处理多通道读写时序偏差时,通常仅针对单一的静态布线阻容延迟进行固定补偿。然而,在真实的多宏混合精度推理场景中,多通道的时序偏差是一个复杂的多维耦合问题:首先,各存算宏物理位置不同导致了固有的空间走线延迟差异;其次,不同网络层动态切换计算精度会导致模数转换器的量化周期发生阶跃性突变;更为致命的是,由于神经网络输入激活特征图具有极强的空间稀疏性变化,数据翻转密度高的区域会产生极大的瞬态放电电流,进而引发严重的局部瞬态电压降。供电电压的骤降会导致晶体管驱动能力下降,在底层物理层面诱发不可预测的次级动态延迟。
3、现有的校正方法无法解析由物理空间坐标、任务动态精度以及数据翻转密度这三维要素叠加引发的复合时序错乱。为了避免数据碰撞与采样错误,现有芯片只能被迫采用极其保守的全局降频妥协方案,预留出最差情况的时间裕量,这导致存算一体芯片的实际运行频率远低于设计指标,算力遭到严重浪费。因此,本领域亟需一种能够全面感知上述多维要素并进行自适应校正的读写时序补偿方法。
技术实现思路
1、为解决上述技术问题,本发明提供了一种神经网络存算芯片多通道读写时序偏差自适应校正方法,包括如下步骤:
2、s1、获取阵列中各个存算宏的物理坐标、当前网络层下发的动态精度指令,以及所述各个存算宏内各个读写通道的数据翻转密度矩阵;
3、s2、基于所述物理坐标与所述动态精度指令进行计算,生成所述各个存算宏的宏级静态时基预测值;
4、s3、通过预设阻抗映射逻辑将所述数据翻转密度矩阵转换为通道放电特征,并将所述通道放电特征映射为所述各个读写通道的次级偏置延迟预测值;
5、s4、将所述各个存算宏的所述宏级静态时基预测值,与对应的所述各个读写通道的所述次级偏置延迟预测值进行叠加,生成当前周期的多维联合到达时间预测矩阵;
6、s5、根据所述多维联合到达时间预测矩阵中各个所述读写通道的时间偏差,生成复合相位动态补偿指令,并将所述复合相位动态补偿指令下发至对应的本地补偿电路,以调节数据输出时序。
7、进一步地,步骤s1具体包括:
8、s11、在输入激活特征图输入所述阵列的过程中,拦截数据总线上的各个激活向量比特流;
9、s12、通过加法树电路统计所述各个读写通道对应的汉明重量纯量值;
10、s13、按照物理映射标识符将所有的所述汉明重量纯量值重组为二维数字阵列,生成所述数据翻转密度矩阵。
11、进一步地,步骤s2具体包括:
12、s21、提取当前存算宏与全局累加器的中心坐标的差值绝对值,计算得到空间曼哈顿距离;
13、s22、解析所述动态精度指令,提取目标量化位宽数值;
14、s23、将所述空间曼哈顿距离和所述目标量化位宽数值输入至关联公式中,所述关联公式为:;其中,为所述宏级静态时基预测值,为所述空间曼哈顿距离,为所述目标量化位宽数值,为单位走线延迟系数,为翻转周期常数,输出得到所述宏级静态时基预测值。
15、进一步地,步骤s3具体包括:
16、s31、将所述数据翻转密度矩阵中的元素乘以放电常数生成放电电流矩阵作为所述通道放电特征,并将所述放电电流矩阵乘以等效电阻,计算得到局部节点瞬态压降;
17、s32、将所述局部节点瞬态压降、供电电压以及阈值电压输入至敏感度公式中,所述敏感度公式为:;其中,为所述次级偏置延迟预测值,为工艺灵敏度系数,为所述局部节点瞬态压降,为供电电压,为阈值电压,输出得到所述次级偏置延迟预测值。
18、5.根据权利要求1所述的神经网络存算芯片多通道读写时序偏差自适应校正方法,其特征在于,步骤s4具体包括:
19、s41、提取上一周期中各个所述读写通道的残留电压,当所述残留电压大于基线阈值时,将其转换为历史时间惩罚值;
20、s42、将所述宏级静态时基预测值、对应的所述次级偏置延迟预测值以及所述历史时间惩罚值相加,重组生成所述多维联合到达时间预测矩阵。
21、进一步地,步骤s5中,根据所述多维联合到达时间预测矩阵中各个所述读写通道的时间偏差,生成复合相位动态补偿指令,包括:
22、s51、在所述多维联合到达时间预测矩阵中提取最大的时间数值作为基准,计算其余各个所述读写通道与所述基准的总相位超前量;
23、s52、将所述总相位超前量除以系统时钟周期时长并取整,生成粗粒度补偿指令;
24、s53、将所述总相位超前量对所述系统时钟周期时长取模,生成细粒度补偿指令;
25、s54、将所述粗粒度补偿指令与所述细粒度补偿指令拼接为所述复合相位动态补偿指令。
26、进一步地,步骤s5中,将所述复合相位动态补偿指令下发至对应的本地补偿电路,以调节数据输出时序,包括:
27、s55、通过总线接口下发所述复合相位动态补偿指令,分离出所述粗粒度补偿指令与所述细粒度补偿指令;
28、s56、将所述粗粒度补偿指令发送至缓冲队列控制器以执行数字延迟挂起;
29、s57、将所述细粒度补偿指令发送至数模转换偏置电路,改变压控延迟线使能信号的触发时间,以执行模拟相位偏置。
30、进一步地,步骤s1之前,还包括前馈隐蔽步骤:
31、s101、监听指令分发队列,提前拦截所述动态精度指令,并将基于所述物理坐标与所述动态精度指令计算所述宏级静态时基预测值的任务调度至前置处理单元提前运行;
32、s102、在所述输入激活特征图进入所述阵列到抵达对应读写通道的数据传输窗口内,完成所述数据翻转密度矩阵的采集与所述次级偏置延迟预测值的计算,生成所述复合相位动态补偿指令并锁存至所述本地补偿电路中。
33、进一步地,步骤s4中,生成当前周期的多维联合到达时间预测矩阵之后,还包括老化修正步骤:
34、s43、在系统闲置时,测量各个所述读写通道的实际翻转延迟,将其减去出厂延迟得到衰退绝对量;
35、s44、将所述衰退绝对量结合运行时长拟合生成老化漂移常数,并将所述老化漂移常数累加至所述多维联合到达时间预测矩阵中。
36、进一步地,步骤s5中,所述生成复合相位动态补偿指令之后,还包括安全阻断步骤:
37、s501、计算当前频率下所述阵列中累加器流水线的数据锁存窗口时间;
38、s502、判断所述各个读写通道的时间偏差是否大于所述数据锁存窗口时间,当大于时,生成时序越界标志位并触发系统中断,挂起数据流水线。
39、采用上述技术方案,本发明具有如下有益效果:
40、1、本发明通过综合获取芯片底层的物理坐标、编译器下发的动态精度指令以及实时输入的数据翻转密度矩阵,打破了传统时钟校正仅依赖单一静态反馈的局限;
41、2、本发明利用算法模型分别推演出代表架构属性的宏级静态时基预测值,以及代表数据拥挤干扰的次级偏置延迟预测值,并将二者叠加生成多维联合到达时间预测矩阵,实现了物理分布、任务配置与动态数据特征三维解耦与融合预测;
42、3、本发明基于高精度的预测矩阵下发复合相位动态补偿指令,能够在不降低系统全局时钟频率的前提下,精准消除由局部瞬态压降和空间错位引发的复合时间偏差,确保海量多通道数据在同一绝对时刻完美对齐汇聚,大幅提升了神经网络存算一体芯片的极限运行频率与计算可靠性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com