一种隐蔽配对辅助分割推理方法、装置和设备
本发明涉及边缘计算,具体来说涉及一种隐蔽配对辅助分割推理方法、装置和设备。
背景技术:
1、随着移动终端、摄像设备、机器人及车载终端等资源受限设备对实时感知与决策任务的需求不断增加,深度神经网络模型在资源受限设备上的本地推理容易受到计算吞吐量和可用能量的限制。分割推理通过将深度神经网络划分为前缀网络和后缀网络,由源设备执行前缀计算并将中间特征发送至具有空闲算力的辅助设备,再由辅助设备执行后缀计算,从而利用邻近设备的计算资源。但是,不同候选切分点对应的源侧计算量、辅助侧计算量以及中间特征负载不同,不同辅助设备的计算能力、能量状态以及与源设备之间的设备到设备通信链路质量也存在差异。因此,当切分点、辅助设备及传输参数分别确定时,可能出现源设备或辅助设备能耗超出可用能量、可靠传输所需发射功率过高以及端到端推理时延超过截止时间等情况;在多个源设备同时请求协作推理时,还需要避免多个源设备重复占用同一辅助设备。
2、另一方面,在部分对推理活动存在隐蔽需求的应用场景中,监听设备即使无法获取或解析中间特征,也可能通过无线资源单元占用情况、接收功率以及接收观测统计量判断推理活动是否发生。因此,仅针对计算时延、通信时延或能耗进行分割推理调度,难以同时满足推理任务的时延、能耗、可靠传输以及无线活动隐蔽性要求。现有隐蔽通信方案通常将待传输负载视为预先确定的通信数据,未充分考虑深度神经网络切分位置会同时改变计算负载和中间特征负载的特点,也未将网络切分点、辅助设备配对、传输时长、发射功率与多个源设备共享的周期级隐蔽约束进行统一关联。
3、进一步地,上述变量同时包含设备配对、网络切分点等离散变量以及传输时长、发射功率等连续变量。若直接对不同设备组合、切分点及连续传输参数进行联合枚举或交替优化,随着源设备数量、辅助设备数量及候选切分点数量增加,在线求解复杂度会迅速提高,难以在较短调度周期内获得满足全部约束的可执行方案。因此,有必要提供一种能够将切分点、设备配对、合法传输条件以及监听侧隐蔽约束进行统一处理,并将局部连续传输参数转化为可比较的匹配边代价,再通过全局匹配和结构化时延搜索获得协作分割推理调度方案的方法。
技术实现思路
1、本发明的目的在于提供一种隐蔽配对辅助分割推理方法、装置和设备,通过将源设备与空闲辅助设备的一对一匹配、深度神经网络切分点、可靠传输时长及发射功率统一纳入同一调度过程,并利用切分点对应的计算负载和中间特征负载构建分割感知的保守kullback-leibler散度边代价,再通过最小代价匹配处理多个源设备之间的辅助设备竞争关系,最后以调度周期聚合隐蔽预算作为外层二分搜索的可行性判据,从而避免逐链路独立分配隐蔽预算造成的预算利用不足,并将原本耦合的离散匹配、切分选择和连续传输参数优化转化为局部候选筛选、边代价构造、全局匹配及一维时延搜索,降低在线联合求解复杂度,同时兼顾推理时延、设备能耗、可靠传输和无线活动隐蔽约束,实现协作分割推理调度结果的闭环确定。
2、为达到上述目的,本发明提供如下技术方案:
3、第一方面,本发明提供了一种隐蔽配对辅助分割推理方法,该方法包括:
4、获取一个调度周期内的源设备集合、空闲辅助设备集合、深度神经网络切分剖面、设备到设备链路状态以及源设备至监听设备的保守信道增益上界;
5、根据源设备集合与空闲辅助设备集合建立一对一候选匹配关系,并确定最大归一化时延的搜索区间;
6、针对搜索区间内的当前最大归一化时延试探值,遍历源设备、辅助设备和候选切分点的组合,根据候选切分点对应的源侧计算时延和辅助侧计算时延确定最长可用传输时长,并根据候选切分点对应的中间特征负载、设备到设备链路状态以及可靠传输约束确定最小发射功率;
7、基于最小发射功率、最长可用传输时长以及源设备和辅助设备的能耗约束,对源设备、辅助设备和候选切分点的组合进行局部可行性筛选,并根据通过筛选的组合在保守信道增益上界下对应的隐蔽代价构建分割感知边代价;
8、针对每一源设备与辅助设备的候选匹配关系,根据对应候选切分点的分割感知边代价确定匹配边代价,并基于匹配边代价求解覆盖全部源设备的一对一最小代价匹配;
9、将一对一最小代价匹配对应的匹配总代价与调度周期的聚合隐蔽预算进行比较,以确定当前最大归一化时延试探值是否可行,并根据可行性判定结果更新搜索区间,直至搜索区间满足预设停止条件;
10、根据搜索得到的最大可行归一化时延确定设备匹配、候选切分点、传输时长和发射功率,并按照设备匹配和候选切分点执行协作分割推理。
11、第二方面,本发明还提供了一种隐蔽配对辅助分割推理装置,该装置包括:
12、数据获取模块,用于获取一个调度周期内的源设备集合、空闲辅助设备集合、深度神经网络切分剖面、设备到设备链路状态以及源设备至监听设备的保守信道增益上界;
13、关系建立模块,用于根据源设备集合与空闲辅助设备集合建立一对一候选匹配关系,并确定最大归一化时延的搜索区间;
14、功率确定模块,用于针对搜索区间内的当前最大归一化时延试探值,遍历源设备、辅助设备和候选切分点的组合,根据候选切分点对应的源侧计算时延和辅助侧计算时延确定最长可用传输时长,并根据候选切分点对应的中间特征负载、设备到设备链路状态以及可靠传输约束确定最小发射功率;
15、局部筛选模块,用于基于最小发射功率、最长可用传输时长以及源设备和辅助设备的能耗约束,对源设备、辅助设备和候选切分点的组合进行局部可行性筛选,并根据通过筛选的组合在保守信道增益上界下对应的隐蔽代价构建分割感知边代价;
16、匹配求解模块,用于针对每一源设备与辅助设备的候选匹配关系,根据对应候选切分点的分割感知边代价确定匹配边代价,并基于匹配边代价求解覆盖全部源设备的一对一最小代价匹配;
17、可行判定模块,用于将一对一最小代价匹配对应的匹配总代价与调度周期的聚合隐蔽预算进行比较,以确定当前最大归一化时延试探值是否可行,并根据可行性判定结果更新搜索区间,直至搜索区间满足预设停止条件;
18、分割推理模块,用于根据搜索得到的最大可行归一化时延确定设备匹配、候选切分点、传输时长和发射功率,并按照设备匹配和候选切分点执行协作分割推理。
19、第三方面,本发明还提供了一种电子设备,包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时实现第一方面提供的隐蔽配对辅助分割推理方法。
20、第四方面,本发明还提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现第一方面提供的隐蔽配对辅助分割推理方法。
21、第五方面,本发明还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现第一方面提供的隐蔽配对辅助分割推理方法。
22、本发明的有益效果在于:通过将源设备与空闲辅助设备的一对一匹配、深度神经网络切分点、可靠传输时长及发射功率统一纳入同一调度过程,并利用切分点对应的计算负载和中间特征负载构建分割感知的保守kullback-leibler散度边代价,再通过最小代价匹配处理多个源设备之间的辅助设备竞争关系,最后以调度周期聚合隐蔽预算作为外层二分搜索的可行性判据,从而避免逐链路独立分配隐蔽预算造成的预算利用不足,并将原本耦合的离散匹配、切分选择和连续传输参数优化转化为局部候选筛选、边代价构造、全局匹配及一维时延搜索,降低在线联合求解复杂度,同时兼顾推理时延、设备能耗、可靠传输和无线活动隐蔽约束,实现协作分割推理调度结果的闭环确定。
23、上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,并可依照说明书的内容予以实施,以下以本发明的较佳实施例并配合附图详细说明如后。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com