基于任务适配联合训练与直通估计的网络能力在线演化方法及系统
本发明属于网络通信,涉及边缘计算和人工智能交叉技术,具体涉及基于任务适配联合训练与直通估计的网络能力在线演化方法及系统。
背景技术:
1、现有算力网络通常由集中式控制器收集节点资源状态并计算转发路径。当节点数量增加且负载、链路状态高频变化时,细粒度状态同步会产生较大控制开销,并使控制器根据过期状态作出路径选择。此外,在每一中间路由节点部署深度神经网络会增加推理时延、存储占用和参数同步负担,难以满足高并发边缘业务的数据面处理要求。
2、将深度学习用于路由选择还面临离散端口选择不可导的问题。数据面必须选定一个端口,通常采用argmax操作;该操作相对于端口匹配分数的梯度几乎处处为零,导致出口执行节点产生的时延、丢包和物理执行误差不能通过常规反向传播更新上游路由参数。此外,离线训练得到的请求表示和能力表示可能不适配目标网络拓扑及具体业务,部署后还会受到节点下线、链路拥塞和执行环境变化的影响。
3、因此,亟需设计一种既不要求中间转发节点部署深度网络,又能在具体网络上完成请求—能力对齐,并通过真实物理反馈持续修正本地能力矩阵的技术方案。
技术实现思路
1、本发明提出了基于任务适配联合训练与直通估计的网络能力在线演化方法及系统,旨在解决请求向量与能力向量空间不一致、离散路由选择阻断梯度、离线模型难以适应实时网络环境以及中间转发节点深度推理开销过大的问题。
2、为达到上述目的,本发明的技术方案如下:
3、基于任务适配联合训练与直通估计的网络能力在线演化方法,包括如下步骤:
4、步骤1,获取由入口节点生成的业务请求向量以及由出口执行节点生成的能力向量;
5、步骤2,按照候选输出端口建立中间转发节点的本地能力嵌入矩阵;
6、步骤3,构建联合损失并进行任务适配联合训练,在训练阶段,中间转发节点计算业务请求向量与本地能力嵌入矩阵的匹配分数,根据匹配分数和温度系数计算软路由概率,并根据所述软路由概率产生仅选择一个候选输出端口的硬路由向量;
7、步骤4,出口执行节点完成业务执行后,反馈物理损失;演化控制模块生成本地能力嵌入矩阵的更新量,并将更新量下发至对应的中间转发节点,中间转发节点接收更新量后执行矩阵加减写入本地能力嵌入矩阵。
8、进一步的,入口节点在业务流建立时生成一次业务请求向量并按业务流标识符flowid缓存。
9、进一步的,所述步骤2具体包括如下过程:
10、第n个中间转发节点通过下式得到与候选输出端口p关联的汇总能力向量:
11、,
12、并将各候选输出端口的汇总能力向量按行排列形成本地能力嵌入矩阵。
13、进一步的,所述步骤3中,通过下式构建联合损失:
14、,
15、其中,为业务语义识别损失,为请求—能力匹配损失,为物理损失,为不确定度校准损失,至为非负权重。
16、进一步的,所述步骤3中,匹配分数通过下式计算:
17、,
18、其中,为本地能力嵌入矩阵,q为业务请求向量。
19、进一步的,所述步骤3中,软路由概率通过下式计算:
20、,
21、其中,为端口p的软路由概率,exp(·)表示自然指数函数,表示第n个中间转发节点的第j个候选输出端口的匹配分数,表示为第j个候选输出端口独立采样的gumbel随机噪声,为第p个候选输出端口独立采样的gumbel随机噪声,为第n个中间转发节点针对候选输出端口p的匹配分数,τ为温度系数;
22、硬路由向量通过下式计算:
23、,
24、其中,onehot(·)表示将所选端口索引转换为p维独热向量。
25、进一步的,所述步骤3中,训练或演化阶段中,前向计算结果等于硬路由向量,反向梯度等于软路由概率相对于匹配分数的梯度。
26、进一步的,所述步骤4中,演化控制模块根据中间转发节点转发时的记录和出口执行节点反馈的物理损失计算本地能力嵌入矩阵的更新量。
27、进一步的,当达到重新搜索条件时,提高温度系数以重新计算软路由概率并进入端口选择;当所述物理损失恢复至预设稳定范围时,按照退火函数降低温度系数并恢复确定性端口选择。
28、本发明还提供了基于任务适配联合训练与直通估计的网络能力在线演化系统,用于实现基于任务适配联合训练与直通估计的网络能力在线演化方法,包括:入口节点、至少一个中间转发节点、至少一个出口执行节点和演化控制模块;入口节点用于生成业务请求向量;出口执行节点用于生成能力向量、执行业务并产生物理反馈;中间转发节点用于保存本地能力嵌入矩阵、执行点积匹配和唯一输出端口转发;演化控制模块用于执行任务适配联合训练、计算矩阵更新量并通过控制面向中间转发节点下发所述矩阵更新量。
29、本发明的有益效果为:
30、1.本发明通过任务适配使业务请求表示与目标网络中的可达能力表示处于统一向量空间,提高路径匹配的可解释性和稳定性。
31、2.本发明系统架构中中间转发节点无需部署深度网络,数据面仅执行矩阵乘加和最大值比较,降低推理和参数同步开销。
32、3.本发明采用前向硬决策、反向软梯度的直通估计,在保持唯一物理转发路径的同时为离散路由建立代理梯度。
33、4.本发明将网络传输状态和终端物理执行误差纳入物理损失,使能力嵌入矩阵可随真实环境变化进行小步在线演化。
34、5.本发明通过矩阵版本、步长限制、性能监测及回滚机制抑制在线更新振荡,保证业务转发连续性。
35、6.本发明在保持数据面轻量确定性转发的同时,使网络路由能力能够根据真实物理反馈持续适配。
1.基于任务适配联合训练与直通估计的网络能力在线演化方法,其特征在于,包括如下步骤:
2.根据权利要求1所述的基于任务适配联合训练与直通估计的网络能力在线演化方法,其特征在于,入口节点在业务流建立时生成一次业务请求向量并按业务流标识符flowid缓存。
3.根据权利要求1所述的基于任务适配联合训练与直通估计的网络能力在线演化方法,其特征在于,所述步骤2具体包括如下过程:
4.根据权利要求1所述的基于任务适配联合训练与直通估计的网络能力在线演化方法,其特征在于,所述步骤3中,通过下式构建联合损失:
5.根据权利要求1所述的基于任务适配联合训练与直通估计的网络能力在线演化方法,其特征在于,所述步骤3中,匹配分数通过下式计算:
6.根据权利要求1所述的基于任务适配联合训练与直通估计的网络能力在线演化方法,其特征在于,所述步骤3中,软路由概率通过下式计算:
7.根据权利要求6所述的基于任务适配联合训练与直通估计的网络能力在线演化方法,其特征在于,所述步骤3中,训练或演化阶段中,前向计算结果等于硬路由向量,反向梯度等于软路由概率相对于匹配分数的梯度。
8.根据权利要求1所述的基于任务适配联合训练与直通估计的网络能力在线演化方法,其特征在于,所述步骤4中,演化控制模块根据中间转发节点转发时的记录和出口执行节点反馈的物理损失计算本地能力嵌入矩阵的更新量。
9.根据权利要求6所述的基于任务适配联合训练与直通估计的网络能力在线演化方法,其特征在于,当达到重新搜索条件时,提高温度系数以重新计算软路由概率并进入端口选择;当所述物理损失恢复至预设稳定范围时,按照退火函数降低温度系数并恢复确定性端口选择。
10.基于任务适配联合训练与直通估计的网络能力在线演化系统,其特征在于,用于实现权利要求1-9中任意一项所述的基于任务适配联合训练与直通估计的网络能力在线演化方法,包括:入口节点、至少一个中间转发节点、至少一个出口执行节点和演化控制模块;入口节点用于生成业务请求向量;出口执行节点用于生成能力向量、执行业务并产生物理反馈;中间转发节点用于保存本地能力嵌入矩阵、执行点积匹配和唯一输出端口转发;演化控制模块用于执行任务适配联合训练、计算矩阵更新量并通过控制面向中间转发节点下发所述矩阵更新量。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com