基于时间常数的资源调配方法、装置、设备及存储介质与流程

摘要: 本技术涉及具身智能与机器人控制,尤其涉及一种基于时间常数的资源调配方法、装置、设备及存储介质。背景技术:1、具身智能控制设备是部署于物理环境中并能够与环境进行实...
基于时间常数的资源调配方法、装置、设备及存储介质与流程

本技术涉及具身智能与机器人控制,尤其涉及一种基于时间常数的资源调配方法、装置、设备及存储介质。

背景技术:

1、具身智能控制设备是部署于物理环境中并能够与环境进行实时交互的智能体,例如工业机器人、人形机器人、无人车等。该类设备可以再其内部运行包含感知、认知、决策、执行等功能层级的具身智能控制系统,以实现对环境的理解、自身状态的估计、动作的规划与执行。具身智能系统各环节处理耗时之和构成系统的全链路延迟,该全链路延迟可以直接影响设备的实时性与任务执行质量。

2、目前,对系统延迟的测量主要有两类方式。一类是在系统输入侧和输出侧分别设置记录点,通过计算输出与输入的时间差得到端到端总延迟,但这种方式只能获得整体延迟数值,无法定位瓶颈的具体位置。另一类是在开发阶段对各功能模块分别进行独立的基准测试,记录各模块在标准输入下的处理耗时作为参考,但这种方式获得的延迟数据是静态的,而系统在实际运行中面临的是动态变化的工作负载和输入数据,静态数据无法反映各环节处理耗时的实时变化。

3、因此,如何在系统实际运行过程中实时获取各环节的延迟数据,并据此识别当前限制整体性能的瓶颈环节,是当前具身智能控制领域亟待解决的技术问题。

技术实现思路

1、本技术提供一种基于时间常数的资源调配方法、装置、设备及存储介质,旨在解决具身智能系统运行过程中全链路各环节时间常数无法实时精确测量、瓶颈环节无法自动识别、计算资源调度与实际瓶颈脱节的技术问题。

2、第一方面,提供一种基于时间常数的资源调配方法,应用于具身智能控制设备,所述方法包括:在所述具身智能控制设备各处理层级的输入输出边界部署时间戳探针;根据相邻探针的时间戳差值计算每个处理层级的时间常数,得到时间常数谱系向量,并基于滑动窗口更新所述谱系向量的统计数据;根据所述统计数据对所述各处理层级进行瓶颈判定处理,识别当前限制性能的瓶颈层级;对所述瓶颈层级执行资源倾斜调配,并在所述瓶颈层级转移后恢复资源均衡状态。

3、通过在各处理层级的输入输出边界部署时间戳探针,并根据相邻探针的时间戳差值计算每个处理层级的时间常数,可以使全链路各环节的时间常数成为可独立观测的量,将延迟测量的信息粒度从系统级提升到环节级;通过基于滑动窗口更新的统计数据进行瓶颈判定并对瓶颈层级执行资源倾斜调配,可以使计算资源始终投向当前限制系统性能的最慢环节;通过瓶颈层级转移后恢复资源均衡状态,可以避免资源在非瓶颈层级上的过度集中,从而提高具身智能控制设备的资源利用率。

4、结合第一方面,在一种可能的实现方式中,所述处理层级包括:感知层、认知层、决策层、执行层;所述在所述具身智能控制设备各处理层级的输入输出边界部署时间戳探针,包括:在所述感知层输入端部署第一时间戳探针,用于在原始数据输入时记录第一时间戳;在所述感知层输出端与所述认知层输入端之间部署第二时间戳探针,用于在感知结果产生时记录第二时间戳;在所述认知层输出端与所述决策层输入端之间部署第三时间戳探针,用于在认知结果产生时记录第三时间戳;在所述决策层输出端与所述执行层输入端之间部署第四时间戳探针,用于在决策结果产生时记录第四时间戳;在所述执行层输出端部署第五时间戳探针,用于在执行结果产生时记录第五时间戳;其中,每个时间戳探针从全局同步时钟读取当前时刻,将时间戳附着于数据包后向后传递。

5、通过在四个处理层级的五个输入输出边界部署时间戳探针,并使各探针从全局同步时钟读取当前时刻,可以保证各探针时间戳基于同一时钟基准,相邻探针时间戳求差即可得到对应环节的实时延迟,测量结果精确可靠。

6、结合第一方面,在一种可能的实现方式中,所述时间常数谱系向量包括感知层时间常数、感知层至认知层的跨层通信时间常数、认知层时间常数、认知层至决策层的跨层通信时间常数、决策层时间常数、决策层至执行层的跨层通信时间常数、执行层时间常数;所述滑动窗口用于保留预设数量的操作周期的所述时间常数谱系向量;所述统计数据包括均值、标准差和峰值。

7、通过将各环节时间常数与各跨层通信时间常数统一组织为谱系向量,并基于滑动窗口计算均值、标准差和峰值三项统计特征,可以使统计数据始终反映系统最近的实际运行状态,其中均值反映典型延迟水平,标准差反映延迟波动程度,峰值反映最坏情况延迟,为瓶颈判定提供多维度的判据基础。

8、结合第一方面,在一种可能的实现方式中,所述根据所述统计数据对所述各处理层级进行瓶颈判定处理,识别当前限制性能的瓶颈层级,包括:将每个层级的当前平均时间常数与预设的延迟容限阈值进行比较,将超过所述延迟容限阈值的层级标记为绝对延迟瓶颈候选;计算每个层级时间常数在全链路总延迟中所占比例,将占比超过预设比例阈值的层级标记为相对占比瓶颈候选;将当前滑动窗口内各层级时间常数的趋势方向与前序窗口进行对比,将连续若干周期呈递增趋势的层级标记为趋势漂移瓶颈候选;将所述绝对延迟瓶颈候选、所述相对占比瓶颈候选、所述趋势漂移瓶颈候选取并集,按严重程度从高到低进行排序,将排名首位的确定为当前限制性能的瓶颈层级。

9、通过绝对延迟判定、相对占比判定和趋势漂移判定三个层次的并行判定并取并集,可以分别捕获已突破容限的显性瓶颈、未达容限但消耗大部分延迟预算的隐性瓶颈、以及正在形成中的潜在瓶颈,使瓶颈检测的全面性和前瞻性显著优于单一阈值判定方法。

10、结合第一方面,在一种可能的实现方式中,所述对所述瓶颈层级执行资源倾斜调配,并在所述瓶颈层级转移后恢复资源均衡状态,包括:从非瓶颈层级调配计算资源,以对所述瓶颈层级完成资源倾斜调配;所述资源倾斜调配,包括:增加所述瓶颈层级的可用显存配额、提升所述瓶颈层级计算线程的调度优先级、将非瓶颈层级的预测任务延后执行中的任一项或多项;当判定所述瓶颈层级转移至其他层级时,将倾斜分配的计算资源恢复至均衡状态。

11、通过从非瓶颈层级向瓶颈层级调配计算资源,并以增加显存配额、提升调度优先级、延后非瓶颈层级预测任务等方式实现快速倾斜调配,可以在单个操作周期内快速缓解瓶颈层级的资源压力;通过在瓶颈层级转移后恢复资源均衡状态,可以避免资源在非瓶颈层级上的长期过度集中,形成瓶颈在哪里、资源就调往哪里的动态跟随机制。

12、结合第一方面,在一种可能的实现方式中,所述方法还包括:当同一层级连续多个操作周期被判定为所述瓶颈层级时,触发深度优化配置处理,所述深度优化配置处理包括:降低所述瓶颈层级的推理精度档位、减小批处理尺寸、将所述瓶颈层级的计算任务迁移至性能更高的计算单元。

13、通过在同一层级连续多个操作周期被判定为瓶颈时触发深度优化配置处理,可以在快速倾斜调配无法消除瓶颈的情况下,通过降低推理精度档位换取推理速度、减小批处理尺寸降低等待延迟、迁移至性能更高的计算单元等更深层的配置调整,从根本上缓解顽固性瓶颈,避免系统长期处于资源倾斜的非均衡状态。

14、结合第一方面,在一种可能的实现方式中,所述方法还包括:对历史时间常数谱系数据执行关联分析处理,监测各层级的时间常数之间的耦合程度;当检测到至少两个层级的时间常数呈现此消彼长的模式时,判定所述至少两个层级存在资源耦合关系,将存在耦合关系的层级标记为联合调度单元;当所述联合调度单元中任一层级被判定为瓶颈时,同时对所述联合调度单元中的至少两个层级执行资源调配。

15、通过对历史时间常数谱系数据执行关联分析,可以自动发现各环节时间常数之间此消彼长的资源耦合关系,将存在耦合关系的层级标记为联合调度单元并在任一层级成为瓶颈时同时调配,可以避免优化一个层级后另一层级性能恶化的跷跷板效应;且耦合关系的识别完全基于运行数据自动完成,无需人工预定义,系统配置变更后可自动更新耦合关系图谱。

16、第二方面,提供一种基于时间常数的资源调配装置,应用于具身智能控制设备,所述装置包括:部署模块,用于在所述具身智能控制设备各处理层级的输入输出边界部署时间戳探针;计算模块,用于根据相邻探针的时间戳差值计算每个处理层级的时间常数,得到时间常数谱系向量,并基于滑动窗口更新所述谱系向量的统计数据;识别模块,用于根据所述统计数据对所述各处理层级进行瓶颈判定处理,识别当前限制性能的瓶颈层级;调配模块,用于对所述瓶颈层级执行资源倾斜调配,并在所述瓶颈层级转移后恢复资源均衡状态。

17、第三方面,提供一种具身智能控制设备,包括处理器、存储器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面任一项所述的方法。

18、第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面任一项所述的方法。

19、实施本技术能够实现如下有益效果:通过在各处理层级的输入输出边界部署时间戳探针,并根据相邻探针的时间戳差值计算每个处理层级的时间常数,可以使全链路各环节的时间常数成为可独立观测的量,将延迟测量的信息粒度从系统级提升到环节级;通过基于滑动窗口更新的统计数据进行瓶颈判定并对瓶颈层级执行资源倾斜调配,可以使计算资源始终投向当前限制系统性能的最慢环节;通过瓶颈层级转移后恢复资源均衡状态,可以避免资源在非瓶颈层级上的过度集中,从而提高具身智能控制设备的资源利用率。