一种分布式人机界面AI协同处理方法、系统、设备及介质与流程

摘要: 本技术涉及分布式系统控制,尤其涉及一种分布式人机界面ai协同处理方法、系统、设备及介质。背景技术:1、随着工业自动化与边缘计算技术的发展,分布式系统中的人机界面...
一种分布式人机界面AI协同处理方法、系统、设备及介质与流程

本技术涉及分布式系统控制,尤其涉及一种分布式人机界面ai协同处理方法、系统、设备及介质。

背景技术:

1、随着工业自动化与边缘计算技术的发展,分布式系统中的人机界面终端部署规模逐渐增加,设备之间的网络互联程度不断加深。如何对各台人机界面终端的运行状态与人工智能推理任务进行数据采集、传输与处理,已成为维持系统稳定运行、满足业务计算需求的重要环节。

2、现有技术中,人机界面(human machine interface,hmi)终端的人工智能(artificial intelligence,ai)计算任务通常通过基于本地独立运算或固定中心节点运算的系统架构实现。例如,当终端获取到处理数据并发起推理请求时,由终端本地的硬件处理器直接执行数据计算,或者将目标处理数据传输至预设的云端服务器进行统一计算。然而,现有技术在实际应用中基于本地独立运算或固定中心节点集中运算的方法,对于在多终端并发请求增多或局部设备计算资源受限环境下的数据处理场景,存在单台计算设备负载饱和导致任务响应超时或系统整体数据处理停滞的风险。

技术实现思路

1、有鉴于此,本技术提供一种分布式人机界面ai协同处理方法、系统、设备及介质,以解决上述问题。

2、第一方面,提供了一种分布式人机界面ai协同处理方法,该方法包括:

3、按设定周期采样本地当前负载率,并向本地所在的通信网络广播包含本地网络地址和本地当前负载率的本地广播信息,通信网络包含多个运行有人机界面的节点;

4、当本地当前负载率与上一采样周期的本地负载率的差值绝对值超过预设变化阈值时,独立于设定周期地广播一次内容格式与本地广播信息相同的本地广播信息;

5、监听通信网络中其他节点作为候选节点发送的候选广播信息,根据候选广播信息更新本地维护的、包含候选节点的网络地址和当前负载率的节点负载状态表;

6、当获取到人机交互数据并发起人工智能推理请求时,若本地当前负载率小于预设负载阈值,则调用预设的深度神经网络模型对人机交互数据进行推理计算,得到推理结果;

7、或者,若本地当前负载率大于或等于预设负载阈值,则根据节点负载状态表选取目标候选节点作为协同节点,将人机交互数据发送至协同节点,并接收协同节点返回的推理结果;

8、基于推理结果,按照预设的推理结果与界面交互操作的对应关系,执行相应的界面交互操作。

9、以上技术方案,通过结合周期性广播与基于负载变化阈值的突发广播(即独立广播)机制更新节点负载状态表,并在发起ai推理请求时依据本地当前负载率与预设负载阈值的比对结果,选择直接调用本地模型处理或将数据分发至状态表中负载率最低的远端候选节点,实现了人机交互推理任务在分布式网络节点间的动态调度。

10、可选的,向本地所在的通信网络广播包含本地网络地址和本地当前负载率的本地广播信息,具体包括:

11、获取本地在预设数量个采样周期内的本地负载率序列;

12、根据本地负载率序列中各采样周期的本地负载率与对应采样时刻,采用最小二乘拟合计算本地负载随时间变化的负载变化斜率;

13、提取本地当前时刻的发送时间戳;

14、将本地网络地址、本地当前负载率、负载变化斜率以及发送时间戳共同封装为本地广播信息;

15、向通信网络广播封装后的本地广播信息,本地广播信息用于表征本地在后续时刻的预测负载率。

16、以上技术方案,通过获取预设数量个采样周期内的历史本地负载率序列,采用最小二乘拟合算法计算出负载变化斜率,并将该斜率与本地当前时刻的发送时间戳共同封装进本地广播信息中,为网络中的接收节点提供了计算本地算力消耗变化趋势以及报文生成时效性的底层参数。

17、可选的,当本地当前负载率与上一采样周期的本地负载率的差值绝对值超过预设变化阈值时,独立于设定周期地广播一次内容格式与本地广播信息相同的本地广播信息,具体包括:

18、计算本地当前负载率与上一采样周期的本地负载率的差值绝对值,得到本地负载波动量;

19、当本地负载波动量超过预设变化阈值时,读取本地记录的上一次独立广播时刻;

20、计算本地当前时刻与上一次独立广播时刻的时间间隔,得到距上次广播时长;

21、当距上次广播时长小于预设抑制窗口时长时,放弃本次独立广播,并将本地负载波动量累加至待释放波动量,得到更新后的待释放波动量;

22、若更新后的待释放波动量超过预设累积阈值,则向通信网络广播本地广播信息,将上一次独立广播时刻更新为本地当前时刻,并将更新后的待释放波动量清零;

23、当距上次广播时长大于或等于预设抑制窗口时长时,向通信网络广播本地广播信息,将上一次独立广播时刻更新为本地当前时刻,并将待释放波动量清零。

24、以上技术方案,通过在触发独立广播时引入预设抑制窗口时长与波动量累积阈值,对处于抑制窗口期内的高频负载波动进行拦截与波动量累加,仅在距上次广播时长满足条件或累积波动量越限时才执行物理广播与变量清零动作,控制了节点在负载剧烈波动状态下向通信网络发送报文的频率。

25、可选的,节点负载状态表还包含候选节点的负载变化斜率和接收时刻;根据候选广播信息更新本地维护的、包含候选节点的网络地址和当前负载率的节点负载状态表,具体包括:

26、从接收到的候选广播信息中解析出发送节点的网络地址、解析出的当前负载率、解析出的负载变化斜率和解析出的发送时间戳,并记录接收到候选广播信息的接收时刻;

27、计算接收时刻与解析出的发送时间戳的差值,得到广播传播时延;

28、将广播传播时延与解析出的负载变化斜率的乘积作为负载补偿量,与解析出的当前负载率相加,得到发送节点在接收时刻的补偿后负载率;

29、在节点负载状态表中查找与发送节点的网络地址一致的记录项,得到查找结果;

30、当查找结果为存在一致的记录项时,将一致的记录项中的当前负载率更新为补偿后负载率,将一致的记录项中的负载变化斜率更新为解析出的负载变化斜率,并将一致的记录项中的接收时刻更新为记录的接收时刻;

31、当查找结果为不存在一致的记录项时,在节点负载状态表中新增包含发送节点的网络地址、补偿后负载率、解析出的负载变化斜率和记录的接收时刻的记录项;

32、遍历节点负载状态表,将各个记录项的接收时刻与本地当前时刻的差值超过预设有效时长的记录项删除,得到更新后的节点负载状态表。

33、以上技术方案,通过解析候选广播信息中的发送时间戳与负载变化斜率,计算出报文在网络中的传播时延,并将此时延与斜率相乘得出负载补偿量,进而对解析出的当前负载率进行修正,使得存入本地状态表中的补偿后负载率对消了广播传播时延产生的数据误差,并利用遍历机制删除了超时失效的节点记录。

34、可选的,根据节点负载状态表选取目标候选节点作为协同节点,具体包括:

35、从更新后的节点负载状态表中读取各候选节点的补偿后负载率、解析出的负载变化斜率和接收时刻;

36、针对每个候选节点,计算本地当前时刻与候选节点的接收时刻的差值,得到候选节点的时间驻留量;

37、将候选节点的时间驻留量与候选节点的解析出的负载变化斜率相乘,得到候选节点的实时负载补偿量;

38、将候选节点的实时负载补偿量与候选节点的补偿后负载率相加,得到候选节点在本地当前时刻的实时预测负载率;

39、获取本地与各候选节点之间的通信往返时延;

40、将候选节点的实时预测负载率与第一预设代价权重的乘积,和候选节点的通信往返时延与第二预设代价权重的乘积相加,得到候选节点的综合评估负载率;

41、将各候选节点的综合评估负载率按照升序进行排列,得到负载排序序列;

42、将负载排序序列中位于首位的候选节点确定为目标候选节点。

43、以上技术方案,通过计算本地发起请求时刻与状态表中记录的接收时刻之间的时间差,结合各节点的负载变化斜率进行二次外推得出实时预测负载率,再将其与本地至该候选节点的通信往返时延分别乘以对应权重并求和,生成了兼顾远端节点算力余量与网络通信链路状态的综合排序依据。

44、可选的,将负载排序序列中位于首位的候选节点确定为目标候选节点,具体包括:

45、向负载排序序列中位于首位的候选节点发送携带本地待卸载计算量的协同预约请求,并启动预约计时器;

46、当预约计时器超时前接收到候选节点返回的接受响应时,将候选节点确定为目标候选节点;

47、当接收到候选节点返回的拒绝响应时,从负载排序序列中删除候选节点,并向负载排序序列中新的首位候选节点重新发送协同预约请求;

48、当预约计时器超时且未接收到任何响应时,在预设随机退避区间内生成随机退避时长;

49、在经过随机退避时长后,重新读取更新后的节点负载状态表并重新计算各个候选节点的综合评估负载率,得到新的负载排序序列,并向新的负载排序序列中位于首位的候选节点重新发送协同预约请求。

50、以上技术方案,通过向首位候选节点发送协同预约请求并依据接受或拒绝响应确定协同节点,并在超时未响应时触发预设随机区间的退避时长,随后重新拉取状态表计算排序,在多节点并发向同一低负载节点卸载任务引发冲突时,强制各节点错开重试时间并重新分配路由。

51、可选的,将人机交互数据发送至协同节点,并接收协同节点返回的推理结果,具体包括:

52、将人机交互数据发送至协同节点,并启动结果等待计时器;

53、当结果等待计时器超时前接收到协同节点返回的推理结果时,将接收到的推理结果确定为人机交互数据对应的推理结果;

54、当结果等待计时器超时且未接收到推理结果时,判断本地当前负载率是否小于预设降级阈值,得到判断结果;

55、当判断结果为本地当前负载率小于预设降级阈值时,调用预设的深度神经网络模型对人机交互数据进行推理计算,将计算得到的结果作为推理结果;

56、当判断结果为本地当前负载率大于或等于预设降级阈值,且负载排序序列中存在除协同节点外的其他候选节点时,从负载排序序列中提取次优的候选节点作为新的协同节点,将人机交互数据发送至新的协同节点,并接收新的协同节点返回的推理结果。

57、以上技术方案,通过在投递人机交互数据后启动结果等待计时器,在发生超时未返回结果的情况下二次评估本地当前负载率,并根据比对结果执行本地深度神经网络模型强制接管计算,或按照既有负载排序序列顺延选取次优候选节点进行任务重传,为分布式推理环节配置了超时分流重试逻辑。

58、第二方面,提供了一种分布式人机界面ai协同处理系统,系统包括:

59、周期广播模块,用于按设定周期采样本地当前负载率,并向本地所在的通信网络广播包含本地网络地址和本地当前负载率的本地广播信息,通信网络包含多个运行有人机界面的节点;

60、独立广播模块,用于当本地当前负载率与上一采样周期的本地负载率的差值绝对值超过预设变化阈值时,独立于设定周期地广播一次内容格式与本地广播信息相同的本地广播信息;

61、状态更新模块,用于监听通信网络中其他节点作为候选节点发送的候选广播信息,根据候选广播信息更新本地维护的、包含候选节点的网络地址和当前负载率的节点负载状态表;

62、推理协同模块,用于当获取到人机交互数据并发起人工智能推理请求时,若本地当前负载率小于预设负载阈值,则调用预设的深度神经网络模型对人机交互数据进行推理计算,得到推理结果;或者,若本地当前负载率大于或等于预设负载阈值,则根据节点负载状态表选取目标候选节点作为协同节点,将人机交互数据发送至协同节点,并接收协同节点返回的推理结果;

63、交互执行模块,用于基于推理结果,按照预设的推理结果与界面交互操作的对应关系,执行相应的界面交互操作。

64、第三方面,提供了一种电子设备,包括处理器、存储器、用户接口以及网络接口,所述存储器用于存储指令,所述用户接口和所述网络接口均用于与其他设备通信,所述处理器用于执行所述存储器中存储的指令,以使所述电子设备执行如上述任意一项所述的方法。

65、第四方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有指令,当所述指令被执行时,执行如上述任意一项所述的方法。

66、综上所述,实施本技术提供的一个或多个技术方案,至少具有如下技术效果或优点:

67、通过结合周期性广播与基于负载变化阈值的突发广播机制,使各节点获取并维护通信网络内其他节点的负载状态;在发起人工智能推理请求时,依据本地当前负载率与预设负载阈值的比对结果,选择本地推理或将数据卸载至综合评估负载率最低的候选节点处理;并通过广播信息的时延补偿、协同预约的随机退避及推理超时的重路由处理,实现人机交互推理任务在分布式网络节点间的动态调度,降低单台设备负载饱和导致任务响应超时或数据处理停滞的风险。