一种面向VCSEL光计算加速器的神经网络硬件映射方法
本发明属于光电异构计算技术及人工智能芯片架构交叉,具体涉及一种面向垂直腔面发射激光器(vcsel)光计算加速器中,基于强化学习算法实现跨体系结构层次的神经网络硬件映射方法。
背景技术:
1、近年来,以卷积神经网络(cnn)和大语言模型(transformer)为代表的人工智能(ai)技术取得了突破性进展。随着模型参数量与特征图规模呈指数级增长,算力需求达到了前所未有的高度。然而,在传统的冯·诺依曼体系结构下,计算单元与存储单元在物理空间上处于分离状态,这导致绝大部分的时间和能耗都被浪费在处理器与存储芯片之间的数据频繁搬运中,引发了严重的“存储墙”与“通信墙”瓶颈。
2、为了突破传统半导体工艺的摩尔定律限制,基于新型光计算范式的光电异构加速器成为当前体系结构研究的前沿方向。光计算利用光子作为信息载体,具有超高带宽、极低时延以及天然的波分/空分复用并行特性,能够在光波传播过程中以极低的能耗完成大规模矩阵乘加运算。其中,垂直腔面发射激光器(vcsel)等物理器件凭借其易于实现高密度二维阵列化、调制速率快、功耗低等物理特性,成为了构建新型片上光计算加速器的核心光源器件。现有的采用光计算方法的光学计算核(optic core)可作为全局统一的光电线性算子加速单元,负责计算神经网络中所有的线性算子,无论是具有特定模型存储特性的静态权重线性计算,还是由运行时生成的全动态张量线性计算。
3、在面向复杂大语言模型(如gpt系列)推理时,计算图中不仅包含庞大的线性矩阵运算(如),还引入了大量的非线性特殊函数算子(如自注意力机制中的softmax运算)。现有硬件架构通常无法在单一的光学计算核内高效且统一地处理线性矩阵运算与非线性特殊函数运算,于是硬件设计通常引入特殊函数单元(sfu)作为专用的非线性硬件单元,专用于执行神经网络中所有的非线性算子和特殊复合函数(包括但不限于softmax运算、layernorm归一化、激活函数等)。sfu内部集成大容量电子级缓存以暂存中间特征,并配备专用的数字计算单元。
4、大语言模型的庞大张量维度使得现有阵列规模难以完全承载一整个层的线性计算,因而将模型内部的线性算子进行切分并映射到芯片中的不同的线性光学计算核中是必要的。然而将成百上千个神经网络算子节点映射到片上二维多核网络中是一个典型的np-hard问题。现有的启发式摆放算法或几何曲线遍历(如z-curve)难以有效感知光计算阵列内部的光源并行度限制以及片上网络的实时路由拥塞,极易导致严重的数据阻塞,从而抵消了光计算带来的高带宽红利。因此,如何设计一种能够统一处理动静态算子,并通过全局算法优化多核调度的光电异构硬件映射方案,是当前亟待解决的关键技术难题。
技术实现思路
1、为了解决上述技术问题,在外部建立单核映射机制后,本发明提供了一种面向vcsel光计算加速器的神经网络硬件映射方法,专门用于解决海量神经网络算子节点在片上网络(network-on-chip,简称noc)上的全局放置(placement)寻优问题。本发明通过在多核间引入蒙特卡洛树搜索(mcts)强化学习算法进行全局最优的计算图摆放与算子映射,从根本上降低了片上网络的通信延迟与拥塞。
2、本发明的技术方案如下:
3、一种面向vcsel光计算加速器的神经网络硬件映射方法,其特征在于,包括步骤:
4、s1,设计空间公式化;
5、s1.1,输入模型解析;
6、获取输入神经网络模型,并将其解析为原始计算,其中,为原始算子节点集合,为算子节点之间的数据依赖边集合,每个原始算子节点表示神经网络中的一个算子,每条有向边表示算子节点与算子节点之间的数据依赖关系及数据通信量;
7、s1.2,算子分类与待映射节点生成;
8、根据算子类型对原始算子节点进行分类,将线性矩阵乘加算子标记为适合由光学计算核执行的算子,将非线性算子和特殊复合函数算子标记为适合由特殊函数单元sfu执行的算子;
9、对于线性矩阵乘加算子,调用外部单核映射机制,根据vcsel光计算核的阵列规模、光源并行度、输入输出缓存容量以及算子矩阵维度,将线性矩阵乘加算子切分为一个或多个线性计算节点,节点集合记为;对于非线性算子和特殊复合函数算子,将其确定为特殊函数单元sfu执行节点,节点集合记为;构建待映射节点集合;同时,根据原始计算图中的数据依赖关系和线性算子切分关系,将原始计算图更新为待映射计算图,其中表示待映射节点之间的数据依赖关系及相应数据通信量;
10、s1.3,硬件槽位定义;
11、定义片上二维网格拓扑的硬件槽位集合,每个硬件槽位对应一个noc所在物理位置,并作为光学计算核槽位或特殊函数单元sfu槽位;
12、s1.4,搜索空间定义;
13、在确定待映射计算图和硬件槽位集合后,按照如下两阶段顺序构建蒙特卡洛树的搜索空间:
14、第一阶段,针对特殊函数单元sfu执行节点集合,从硬件槽位集合中选取一个或多个硬件槽位作为特殊函数单元sfu所在位置,形成sfu候选物理布局;每一种sfu候选物理布局对应蒙特卡洛树根节点下的一个候选动作,全部sfu候选物理布局构成动作集合;
15、第二阶段,在选定一个sfu候选物理布局后,将该sfu候选物理布局作为后续映射约束,并按照待映射计算图的拓扑顺序依次处理线性计算节点集合中的各线性计算节点,对于集合中的第个线性计算节点,确定其可行动作集合,所述即为当前未被特殊函数单元sfu占用且满足资源容量约束、数据依赖约束和光学计算核容量约束的光学计算核物理槽位集合;
16、s2,基于蒙特卡洛树搜索强化学习方法的搜索与寻优步骤;
17、s2.1,初始化搜索空间;
18、将初始未映射状态作为蒙特卡洛树的根节点,该初始未映射状态包括硬件槽位集合、待映射计算图、特殊函数单元sfu候选布局动作集合、线性计算节点可行动作集合以及各待映射节点之间的数据依赖关系及相应数据通信量;
19、将蒙特卡洛树的第一层设置为sfu布局搜索层,第一层中的每一个子节点表示一种完整的sfu候选物理布局;将蒙特卡洛树第二层及更深层设置为线性计算节点映射搜索层,每向下扩展一层,表示将一个线性计算节点映射到一个满足约束的光学计算核物理槽位;
20、蒙特卡洛树中的状态节点记为,动作记为,状态下的可行动作集合记为;初始化蒙特卡洛树中各状态-动作分支的访问次数和累计回报值;
21、在蒙特卡洛树基础上采用滑动窗口限制搜索深度,从当前根状态开始,仅保留后续层候选决策进行局部竞争,该滑动窗口的顶部被初始化在蒙特卡洛树的根节点;
22、初始化完成后,进入步骤s2.2,开始一轮蒙特卡洛树搜索与寻优迭代;
23、s2.2,选择阶段;
24、自当前根节点开始,沿蒙特卡洛树向下执行状态选择,在任一状态节点下,确定当前状态的可行动作集合:若当前状态位于蒙特卡洛树第一层,则为sfu候选布局动作集合;若当前状态位于蒙特卡洛树第层(),则为当前待映射线性计算节点的可行光学计算核物理槽位集合,,为状态节点下第层计算节点映射到的物理槽位;
25、利用树信赖上限公式对状态下的可行动作进行估值,并选择具有最大树信赖上限值的动作分支继续下探;若选择过程到达的节点仍位于当前滑动窗口内部,且该节点存在尚未展开的可行动作,则进入步骤s2.3执行扩展;若选择过程已经到达当前滑动窗口底部,或者到达不能继续展开的叶子节点,则进入步骤s2.4执行并行模拟与仿真评估;
26、s2.3,带滑动窗口限制的扩展阶段;
27、设置深度为的滑动窗口,将当前阶段的蒙特卡洛树扩展限制在该滑动窗口内部,当状态选择过程到达滑动窗口内的叶子节点且该路径尚未形成完整映射方案时,根据预设分支因子,从当前状态的可行动作集合中选择至多个候选动作生成子节点;
28、完成节点扩展后,进入步骤s2.4;
29、s2.4,并行模拟与仿真评估阶段;
30、当选择过程抵达当前滑动窗口底部,或抵达未拓展的叶子节点时,启动个并行模拟线程;每个并行模拟线程在当前部分映射状态的基础上,将剩余未映射节点补全到硬件槽位中,以形成一个完整映射快照;
31、根据完整映射快照和待映射计算图,构造片上数据流图;所述片上数据流图包括数据发送节点、数据接收节点、数据包大小、通信方向、路由路径、节点间依赖关系以及流水启动和阻塞关系;
32、将所述完整映射快照和片上数据流图输入周期级架构仿真器,周期级架构仿真器模拟该完整映射策略下的计算执行、片上数据传输、路由器转发、网络拥塞和流水阻塞,并输出端到端推理总时钟周期数以及各路由器拥塞阻塞周期数,根据仿真输出构建回报值;
33、完成个并行模拟线程的仿真评估并得到对应的回报值,进入步骤s2.5;
34、s2.5,回报反向传播阶段;
35、在获取个并行模拟线程产生的回报值后,将所述回报值沿本轮搜索所经过的决策路径自底向上反向传播;
36、完成回报反向传播后,判断当前滑动窗口内已经执行的蒙特卡洛树搜索迭代次数是否达到预设次数,若尚未达到,则返回步骤s2.2,从当前根节点重新开始下一轮选择、扩展、模拟、仿真和回传;若已经达到,则进入步骤s2.6,执行窗口滑动与循环判断;
37、s2.6,窗口滑动与循环判断;
38、在当前滑动窗口内完成轮蒙特卡洛树搜索迭代后,选择当前滑动窗口顶部具有最高蒙特卡洛树估计价值的子节点,将该子节点所代表的部分映射状态作为新的根状态;该操作表示当前窗口顶部的一层映射决策已经被选定,后续搜索将在该部分映射状态的基础上继续进行;
39、随后,将滑动窗口沿待映射计算图的拓扑顺序向下平移一个层级,使新的窗口覆盖尚未完成映射的后续节点;
40、完成窗口滑动后,判断是否满足预设终止条件,若尚未满足终止条件,则返回步骤s2.2,在新的根状态和新的滑动窗口内继续执行下一轮蒙特卡洛树搜索循环;若已经满足预设终止条件,则进入步骤s2.7输出映射结果;
41、s2.7,映射输出;
42、在搜索结束后,选择蒙特卡洛树中估计价值最高的完整映射路径作为输出结果。
43、进一步,所述步骤s2.2中,所述利用树信赖上限公式对状态下的可行动作进行估值,使树信赖上限值最大的动作记为,即:
44、
45、式中,代表在当前状态状态下采取动作后累计获得的性能回报值,代表该特定状态-动作分支在历史迭代中被探索和采样的总次数,为当前父树节点的总访问次数,为显式引入的探索平衡常量。
46、进一步,所述步骤s2.3中,所述候选动作根据资源容量约束、数据依赖关系、通信距离、历史拥塞反馈或随机采样策略确定。
47、进一步,所述步骤s2.4中,所述完整映射快照包括特殊函数单元sfu物理布局、各线性计算节点到光学计算核物理槽位的映射关系(),以及待映射计算图中各数据依赖边在片上网络中的通信关系;在补全剩余未映射节点时,采用启发式摆放策略、随机采样策略、通信距离优先策略、资源容量优先策略或历史低拥塞路径优先策略。
48、进一步,所述步骤s2.4中,所述回报值计算公式为:
49、
50、式中,表示完整映射方案下完成模型端到端推理的总时钟周期数,表示第个noc路由器发生的拥塞阻塞周期数,为基础增益系数,为延迟权重系数,为拥塞惩罚系数,routers为片上网络上的路由器集合。
51、进一步,所述步骤s2.5,对于决策路径上的每一个状态-动作分支,按照如下方式更新访问次数和累计回报值:
52、
53、
54、更新后的和用于后续树信赖上限公式计算。
55、进一步,所述步骤s2.6中,所述预设终止条件包括:达到最大搜索迭代次数、达到最大仿真次数、滑动窗口遍历完全部待映射节点,或连续多轮搜索得到的映射方案回报值变化小于预设阈值。
56、进一步,所述步骤s2.7的输出结果,包括:选定的特殊函数单元sfu的物理布局、选定的线性计算节点到光学计算核物理槽位的映射关系、节点间数据流路径以及对应的端到端推理时延和片上网络拥塞评估结果。
57、本发明的有益效果如下:
58、本发明在软件层面在多核间引入蒙特卡洛树搜索(mcts)强化学习算法进行全局最优的计算图摆放,从根本上降低了片上网络的通信延迟与拥塞。其中蒙特卡洛树搜索方法中引入了滑动窗口和并行模拟技术,有效减少了传统搜索方法所需的大量寻优时间消耗。本发明在mcts中也引入树信赖上限选择机制,使搜索过程能够在已知高回报映射路径和未充分探索的候选路径之间进行平衡,从而降低陷入局部最优布局的概率。同时本发明通过反向传播机制,将周期级仿真得到的回报值反馈至本轮搜索经过的sfu布局动作和线性计算节点槽位动作,使后续结果逐渐偏向于更优布局。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com