面向神经形态硬件的脉冲神经网络组合式映射方法及系统与流程
本发明主要涉及到类脑计算与脉冲神经网络(spiking neural network, snn),特指一种面向神经形态硬件的脉冲神经网络组合式映射方法及系统。
背景技术:
1、脉冲神经网络因其事件驱动的计算特性、稀疏的神经元通信模式和超低的硬件运行功耗,已成为神经形态计算领域的核心计算模型。然而,要将训练完成的脉冲神经网络高效部署到神经形态硬件上,面临一个关键的技术挑战—“映射问题”。
2、神经形态硬件通常由多个神经突触核构成,这些核通过片上网络(noc)相互连接。映射问题本质上是一个典型的带约束多目标优化问题,其主要优化目标包括:最小化神经元之间的通信代价以降低推理延迟和能耗;均衡各硬件核的计算负载以提高整体吞吐率;支持网络拓扑的动态更新以适应在线学习需求;支持多用户多任务并发以实现性能隔离;以及容忍纳米级硬件中的永久/瞬态故障以提升系统可靠性。
3、现有传统脉冲神经网络映射方法仍然存在一些技术不足之处:
4、1、单一目标优化的局限性:现有方法多着眼于单一优化目标。例如,spinemap等通信优化方法聚焦于最小化脉冲信号的传输距离,却往往导致各核负载严重不均,部分核过载而部分核闲置;而dfsynthesizer等吞吐率优化方法仅关注计算吞吐率,却牺牲了核间通信的空间局部性,增加了数据交换开销。
5、2、缺乏动态适应能力:在需要在线学习的场景下,脉冲神经网络的突触连接会持续变化(如基于stdp的突触可塑性)。静态映射无法响应这种动态演化,导致映射方案在短短数个训练周期后即失效。
6、3、不支持多租户与容错部署:在多脉冲神经网络并发执行时,现有方案要么将各网络独立映射后简单共存于同一硬件上,导致核间通信严重串扰;要么根本不感知硬件中的纳米级永久/瞬态故障,造成部署失败。
7、4、缺乏理论保障机制:现有启发式方法未给出多目标同时优化的理论下界、不可能性结果及组合性能保证,设计者无法预知映射方案的近似最优程度。
8、因此,亟需一种能够根据不同部署场景自适应选择或组合专用映射策略,并具有理论可证明性能保证的映射框架。
技术实现思路
1、本发明要解决的技术问题就在于:针对现有技术存在的技术问题,本发明提供一种原理简单、开销小、适用范围广、鲁棒性好的面向神经形态硬件的脉冲神经网络组合式映射方法及系统。
2、为解决上述技术问题,本发明采用以下技术方案:
3、一种面向神经形态硬件的脉冲神经网络组合式映射方法,其包括:
4、步骤s1:输入分析阶段;用来完成snn模型与硬件资源的标准化建模,输出三元特征向量;所述三元特征向量包括拓扑动态性、并行度及硬件可靠性;
5、步骤s2:场景识别阶段;用来区分五类基础场景及复合混合场景,输出策略组合方案;
6、步骤s3:策略选择阶段;用来调度单策略、多策略的协同执行,配置折衷超参,控制多目标权衡比例,实现多策略低干扰组合,保证组合后性能退化可控;
7、步骤s4:映射生成阶段;用来输出合规、性能可量化的硬件部署映射方案,生成满足全部硬件约束、具备理论性能保证的映射结果。
8、作为本发明的进一步改进:所述步骤s1包括:
9、接收脉冲神经网络的有向图 g=(v,e)和硬件拓扑描述;
10、读取硬件 noc参数:k×k二维网格、单核神经元/突触容量上限、故障核集合;
11、提取网络特征:前馈、并行分支、动态演化、任务数量及硬件故障率。
12、作为本发明的进一步改进:所述步骤s2包括:
13、基于三元特征向量遍历决策树;
14、自动匹配当前部署场景:静态前馈、并行分支、动态演化、多租户、故障硬件、复合场景;
15、输出单策略、多策略组合指令。
16、作为本发明的进一步改进:所述步骤s3包括:
17、依据决策树叶子节点加载对应专用子策略;
18、复合场景执行策略组合调度规则;
19、配置策略超参数:平衡因子ε、冗余副本数r、性能退化阈值δ;
20、输出神经元到物理核的完整映射 m: v→c,确保所有硬件容量约束均被满足。
21、作为本发明的进一步改进:所述步骤s4包括:
22、执行选定子策略/组合策略,生成神经元到物理核映射 m:v→c;
23、校验所有硬件容量约束、故障核规避、分区隔离约束;
24、输出完整映射表、通信代价/负载均衡量化指标、理论近似比评估结果。
25、作为本发明的进一步改进:所述单策略包括:
26、面向静态前馈网络的通信优化映射lynxdag,针对具有明确分层结构的前馈网络,采用分层贪心放置算法;该算法按层顺序遍历网络,连续层优先分配到相邻的物理核上或同一核上,以最小化跨层通信在noc上的曼哈顿传输距离;
27、面向并行分支网络的负载均衡映射lynxbalance,通过平衡图划分将神经元分成若干簇,每个簇的目标负载设置为 total_neurons/簇数,通过平衡因子ε调控通信代价与负载均衡之间的折衷比例;
28、面向演化拓扑的增量重映射lynxdynamic,通过检测脉冲神经网络在运行期间的拓扑变化包括神经元的新增/删除、突触连接的增强/抑制等),仅对受影响区域进行局部重映射,而不是对整个网络进行全局重映射;
29、面向多租户共存的资源划分与性能隔离lynxmulti,当多个脉冲神经网络共享同一硬件资源时,按照各脉冲神经网络的资源需求比例初步划分物理核集合,然后采用kernighan-lin精细化划分算法以最小化跨分区通信干扰;
30、面向不可靠硬件的容错映射lynxfault,通过识别网络中的关键神经元,为每个关键神经元分配r个冗余副本,分别放置到不同的健康核上;非关键神经元采用单核分配但避开故障核。
31、作为本发明的进一步改进:基于所述单策略形成组合的多策略,包括:面向并行分支网络的负载均衡映射lynxbalance 与面向不可靠硬件的容错映射lynxfault组合,在负载均衡的同时实现容错;首先使用面向并行分支网络的负载均衡映射lynxbalance进行负载均衡映射,然后对关键神经元分配冗余副本,确保容错性不破坏原有的负载均衡效果。
32、作为本发明的进一步改进:基于所述单策略形成组合的多策略,包括:面向静态前馈网络的通信优化映射lynxdag 与面向演化拓扑的增量重映射lynxdynamic组合,实现通信优化映射的增量更新;初始映射使用面向静态前馈网络的通信优化映射lynxdag生成,随后拓扑发生变化时使用面向演化拓扑的增量重映射lynxdynamic进行局部增量更新,保持通信效率的同时降低重映射代价。
33、作为本发明的进一步改进:基于所述单策略形成组合的多策略,包括:面向多租户共存的资源划分与性能隔离lynxmulti 与面向静态前馈网络的通信优化映射lynxdag组合,实现多租户下的通信局部性优化;先使用面向多租户共存的资源划分与性能隔离lynxmulti进行资源划分,然后在各分区内部使用面向静态前馈网络的通信优化映射lynxdag进行通信优化映射,实现隔离性和通信效率的双重保障。
34、本发明进一步提供一种面向神经形态硬件的脉冲神经网络组合式映射系统,包括处理器和存储单元,所述存储单元内存储有用来执行上述任意一项方法的计算机程序。
35、与现有技术相比,本发明的优点在于:
36、1、本发明的面向神经形态硬件的脉冲神经网络组合式映射方法及系统,原理简单、开销小、适用范围广、鲁棒性好,本发明是一种将脉冲神经网络模型部署到神经形态硬件(如truenorth、loihi等)上的组合式映射方法,及其在各应用场景下的策略实现与组合运用机制。同时涉及片上网络(network-on-chip, noc)中多目标优化映射的硬件-软件协同设计。
37、2、本发明的面向神经形态硬件的脉冲神经网络组合式映射方法及系统,是针对现有脉冲神经网络映射方法在通信代价最小化、负载均衡最大化、动态拓扑更新适应性、多租户并发隔离性和硬件容错鲁棒性等冲突目标之间无法有效兼顾的技术缺陷做出的创新设计。本发明是一种模块化的、场景自适应的组合式映射框架(命名为lynx),使设计者能够根据具体部署场景(如静态推理、并行计算、在线学习、多租户并发、不可靠硬件运行)灵活选择或组合专用映射策略;在理论上保证组合映射的近似最优性(给出组合性能退化上界);能够保持接近线性的时间复杂度以适应大规模脉冲神经网络部署需求。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com