针对机器人大语言模型的运动学自适应端边协同推理方法与流程

摘要: 本发明属于大数据边缘计算,具体涉及针对机器人大语言模型的运动学自适应端边协同推理方法。背景技术:1、随着大语言模型的发展,其在具身智能中的集成赋予了机器人处理开...
针对机器人大语言模型的运动学自适应端边协同推理方法与流程

本发明属于大数据边缘计算,具体涉及针对机器人大语言模型的运动学自适应端边协同推理方法。

背景技术:

1、随着大语言模型的发展,其在具身智能中的集成赋予了机器人处理开放世界复杂任务的泛化推理能力。然而,移动机器人受限于车载计算能力和电池能源等,难以满足庞大参数量模型的实时本地执行需求。为缓解端侧算力不足,通常考虑将计算密集型推理任务卸载至边缘云端服务器的mec方案。然而,这引入了对时变蜂窝网络的依赖。随机的无线网络延迟,还尤其是长尾延迟,还对高移动性机器人构成了严重的安全威胁,数百毫秒的网络抖动就可能产生显著的位置漂移,导致系统生成过时的控制指令并引发灾难性的物理碰撞。

2、现有的深度强化学习任务卸载方案大多是风险中性的,以最大化预期平均回报为目标。这种基于平均值的策略无法有效捕捉无线信道固有的任意不确定性和多峰分布特性,在面对长尾网络延迟时极易做出表现良好但偶尔发生灾难性故障的次优决策。同时,现有的模型级联方案往往忽略了生成式大模型自身输出的固有语义不确定性,且未能充分结合机器人的物理运动状态。

3、综上,当前在移动机器人中部署大模型面临着端侧算力受限与边缘卸载伴随物理碰撞风险等问题。现有的边缘计算协同机制通常将网络通信状态、模型内在的语义不确定性与机器人的物理运动学相割裂,缺乏对长尾网络延迟风险的主动防御能力。因此,目前技术中仍缺乏一种能够综合考虑机器人物理运动状态、动态评估语义置信度,并能有效规避网络不确定性风险的安全端边协同推理框架。

技术实现思路

1、为解决上述背景技术中提出的问题,本发明提供针对机器人大语言模型的运动学自适应端边协同推理方法,以解决现有技术端侧算力受限、边缘卸载伴随物理碰撞风险、缺乏对长尾网络延迟风险的主动防御能力、缺乏能有效规避网络不确定性风险的安全端边协同推理框架的问题。

2、为实现上述目的,本发明提供如下技术方案:

3、针对机器人大语言模型的运动学自适应端边协同推理方法,包括以下步骤:

4、a1:获取目标机器人的观测数据与自然语言指令,构建当前时刻的时空状态输入;观测数据包括机器人的物理运动状态、系统资源状态、动态网络环境特征;

5、a2:基于动态网络环境特征,结合预先设定的最大安全允许漂移和最大可容忍故障概率,执行运动学自适应的安全动作空间约束;

6、a3:将自然语言指令输入至机器人预部署的小语言模型,执行本地预推理,并基于输出序列的词元概率量化生成语义置信度得分;

7、a4:结合安全动作空间约束与语义置信度得分开展卸载判定;判定不满足卸载条件时,端侧设备执行本地slm推理,直接采用本地推理结果作为最终控制响应指令;判定满足卸载条件时,端侧基于本地推理上下文与机器人物理运动状态构建增强提示并发送至边缘侧,由边缘大模型执行深度推理,以边缘推理结果替代本地低置信度输出作为最终控制响应指令。

8、优选的,运动学自适应端边协同推理方法还包括a5,a5具体为:

9、基于多个历史时刻的时空状态输入构成的历史序列数据,采用分类深度q网络执行离线强化学习训练,优化风险敏感的任务卸载策略,直至分类深度q网络模型策略收敛,收敛后的分类深度q网络模型在线部署,接收实时生成的时空状态输入,输出最优卸载动作参考值,配合a2的安全可行动作集、a4的置信度条件共同完成任务卸载与否的决策判定。

10、与现有技术相比,本发明将传统的纯本地执行或无差别的云端卸载模式转变为包含语义评估、安全约束与动态协同的综合模式,通过端侧小语言模型充当语义压缩器来达到评估与预处理的目的,由动力学与分布式算法进行抗风险调度,最后按需请求云端大模型算力。其技术性优点在于:

11、1、结合网络延迟分布与最大状态漂移计算动态速度阈值,在机器人高速运动等临界条件下强制本地执行,消除碰撞风险。

12、2、利用端侧小语言模型输出词元的概率分布量化语义置信度,并以此为依据动态决定是否将任务卸载至云端大模型,有效规避网络不确定性风险。

13、3、采用分类深度q网络,将状态-动作对映射为回报的离散概率分布,显式捕捉并规避网络长尾延迟风险。

14、4、在触发卸载时,将端侧生成的上下文或草稿推理链与原始指令进行拼接,构建增强提示发送至边缘端,降低云端算力开销。

1.针对机器人大语言模型的运动学自适应端边协同推理方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的针对机器人大语言模型的运动学自适应端边协同推理方法,其特征在于,a1中,目标机器人通过交互接口接收用户的自然语言操作指令,并利用内置传感器及系统监控单元实时获取当前的单次系统观测数据,将单次系统观测数据与自然语言指令整合为时空状态输入。

3.根据权利要求1所述的针对机器人大语言模型的运动学自适应端边协同推理方法,其特征在于,a2中,定义状态漂移为机器人在推理期间移动的距离,要求网络卸载带来的状态漂移以不低于1−的概率保持在最大安全允许漂移内;再基于动态网络环境特征中的网络延迟统计数据计算得到网络延迟分布的逆累积分布函数,推导出动态的临界速度阈值,具体表达为:

4.根据权利要求3所述的针对机器人大语言模型的运动学自适应端边协同推理方法,其特征在于,a2中,根据动态临界速度阈值与机器人物理运动状态中的机器人瞬时速度 ,定义运动学自适应的可行操作集以限制卸载决策,具体表达为:

5.根据权利要求4所述的针对机器人大语言模型的运动学自适应端边协同推理方法,其特征在于,a3中,先获取端侧小语言模型输出的词元级条件概率,再采用经过序列长度归一化的对数概率计算语义置信度得分,具体表达为:

6.根据权利要求5所述的针对机器人大语言模型的运动学自适应端边协同推理方法,其特征在于,a4中,根据安全动作空间约束与语义置信度得分共同设置卸载触发规则,以下两个条件全部成立才启动任务卸载与端边协同,任意一条不成立则全程本地推理:

7.根据权利要求1所述的针对机器人大语言模型的运动学自适应端边协同推理方法,其特征在于,a4中的增强提示具体表达为:

8.根据权利要求1所述的针对机器人大语言模型的运动学自适应端边协同推理方法,其特征在于,运动学自适应端边协同推理方法还包括a5,a5具体为:

9.根据权利要求8所述的针对机器人大语言模型的运动学自适应端边协同推理方法,其特征在于,a5中,先采用帧堆叠机制将所述时空状态输入的k个连续历史观测向量连接构建强化学习时空状态输入,再使用分布价值函数替代传统期望价值函数,将状态-动作对映射为回报的离散概率分布,然后使用固定支撑集上的n个原子近似该离散概率分布,其中为第i个原子的取值,最终构造分布式贝尔曼更新目标,具体表达为:

10.根据权利要求9所述的针对机器人大语言模型的运动学自适应端边协同推理方法,其特征在于,a5中,计算网络预测分布与投影目标分布之间的kullback-leibler散度作为总损失函数l(θ)进行网络参数优化,具体表达为: