一种可信状态发布与回滚方法、装置及介质

摘要: 本发明涉及可信状态发布与回滚,具体而言,涉及一种可信状态发布与回滚方法、装置及介质。背景技术:1、现有自回归流式生成系统在产生文本、代码或代理动作时,通常将已生...
一种可信状态发布与回滚方法、装置及介质

本发明涉及可信状态发布与回滚,具体而言,涉及一种可信状态发布与回滚方法、装置及介质。

背景技术:

1、现有自回归流式生成系统在产生文本、代码或代理动作时,通常将已生成内容对应的内部计算状态(例如transformer模型的key/value缓存、循环神经网络的隐藏状态、状态空间模型缓存、代理工作记忆、检索会话及工具执行状态)保存在可读状态空间中供后续生成步骤复用。事实验证器通常在完整答案生成后统一核验,或在局部步骤结束后给出接受或拒绝结论,其判定结果仅影响最终输出文本是否被采纳,而不直接控制未验证候选内容及其关联内部生成状态是否被后续正式前向计算所读取。

2、由于候选内容与对应的key/value缓存增量在验证完成前已被写入同一可读状态空间,即使验证器后续判定该单元错误并拒绝输出,其内部状态污染仍会继续进入后续注意力计算、检索查询、实体消歧、工具选择和任务规划,仅删除最终显示文本或重新发送提示词无法消除内部状态污染,也无法将生成状态缓存、随机数生成器状态、解码参数、检索游标和工具调用会话恢复至上一可信边界。现有检查点、缓存截断、推测解码回退和任务取消技术通常服务于显存管理、吞吐优化或候选token不匹配等目的,未将事实验证状态失败规定为推测执行状态恢复的触发条件,也未规定恢复后的状态必须与上一事实可信检查点一致,导致生成系统在事实校验失败时无法保证后续生成建立在可信前缀之上。

3、针对上述的问题,目前尚未提出有效的解决方案。

技术实现思路

1、本发明实施例提供了一种可信状态发布与回滚方法、装置及介质,以至少解决现有流式生成系统中事实校验结论与内部生成状态缺乏原子性绑定,导致未验证候选内容及其生成状态增量在验证完成前即可被后续正式前向计算读取,且验证失败后无法将推测生成执行状态恢复至上一可信检查点的技术问题。

2、根据本发明实施例的一个方面,为了实现上述目的,根据本发明的一个方面,提供了一种可信状态发布与回滚方法,包括以下步骤:

3、响应于请求执行纪元开始,通过原子读取活动可信版本描述符指针得到请求级描述符快照,基于请求级描述符快照共同确定内容上下文读取位置和生成状态缓存读取位置;

4、基于父可信版本描述符创建未验证分支,在检测到可验证边界时冻结候选对象,对冻结候选对象执行事实验证并获得事实验证状态,当事实验证状态满足可信发布条件时,通过活动可信版本描述符指针的单一原子操作发布不可变可信版本描述符;

5、当事实验证状态不满足可信发布条件或单一原子操作失败时,不发布不可变可信版本描述符,并使推测生成执行状态恢复至父可信版本描述符对应的可信状态检查点。

6、进一步地,获得请求级描述符快照,包括:

7、采用具有获取语义的原子加载操作读取活动可信版本描述符指针,得到请求级描述符快照;创建请求快照记录,其中,请求快照记录包括请求标识、请求级可信版本标识、请求执行纪元标识、快照令牌、读者保护标记及图形处理器批次标识。

8、进一步地,冻结候选对象,包括:

9、将未验证分支的状态由写入状态变更为冻结中状态,拒绝新的内容和生成状态增量追加;

10、等待已获得写入权限的计算任务完成,并记录关联图形处理器事件;

11、在分支版本保护下读取冻结字段封装为不可变冻结快照记录,并基于不可变冻结快照记录的规范序列化字节计算候选内容哈希和冻结对象哈希。

12、进一步地,使推测生成执行状态恢复至父可信版本描述符对应的可信状态检查点,包括:

13、校验上一可信状态检查点的状态版本和可信状态哈希,并确认活动可信版本描述符指针仍指向父可信版本描述符;

14、将推测生成工作进程的上下文状态置为恢复中状态,停止为未验证分支接收新任务;

15、等待已提交到图形处理器的批次对应的事件完成;

16、达到安全点后,构建引用父可信版本描述符和上一可信状态检查点的本地执行上下文,替换旧上下文;

17、将未验证生成状态增量标记为不可发布并进行资源回收;

18、恢复随机数生成器状态、解码参数、检索游标和工具调用意图状态;

19、拒绝携带错误绑定信息的迟到结果,并将失败原因写入审计记录。

20、进一步地,通过活动可信版本描述符指针的单一原子操作发布不可变可信版本描述符,包括:

21、当事实验证状态满足可信发布条件且绑定核验通过时,分别固化并持久化候选内容状态、生成状态缓存状态和预备检查点;

22、构建并持久化引用已固化对象的不可变可信版本描述符;执行比较并交换操作,以父可信版本描述符的指针为期望值,以不可变可信版本描述符的指针为新值,更新活动可信版本描述符指针。

23、进一步地,比较并交换操作采用释放语义,原子读取采用获取语义;在分布式部署中,元数据服务提供线性一致的条件写入与读取,且描述符及其引用对象的持久化完成先于活动指针更新。

24、进一步地,在未验证分支中保存当前流式生成内容和关联生成状态增量,包括:

25、基于父可信版本描述符创建未验证分支,其中,未验证分支包括会话标识、父可信版本描述符标识、可验证单元标识和尝试标识,同一会话内不复用尝试标识;

26、将当前流式生成内容和关联生成状态增量写入未验证分支对应的专用增量区。

27、进一步地,还包括:

28、在活动可信版本描述符指针从父可信版本描述符切换后,在外部退役队列创建退役记录;

29、读者保护机制包括引用计数、基于代际的回收、风险指针、读者租约和图形处理器事件确认中的一种或多种;

30、采用两种以上读者保护机制时,在全部适用静止条件均满足后,回收旧可信版本描述符的独占资源。

31、根据本发明其中一实施例,还提供了一种可信状态发布与回滚装置,包括以下步骤:

32、确定模块,用于响应于请求执行纪元开始,通过原子读取活动可信版本描述符指针得到请求级描述符快照,基于请求级描述符快照共同确定内容上下文读取位置和生成状态缓存读取位置;

33、验证模块,用于基于父可信版本描述符创建未验证分支,在检测到可验证边界时冻结候选对象,对冻结候选对象执行事实验证并获得事实验证状态,当事实验证状态满足可信发布条件时,通过活动可信版本描述符指针的单一原子操作发布不可变可信版本描述符;

34、恢复模块,用于当事实验证状态不满足可信发布条件或单一原子操作失败时,不发布不可变可信版本描述符,并使推测生成执行状态恢复至父可信版本描述符对应的可信状态检查点。

35、根据本发明实施例的另一方面,还提供了一种计算机可读存储介质,计算机可读存储介质包括存储的可执行程序,其中,在可执行程序运行时控制计算机可读存储介质所在设备执行本发明各个实施例中的方法。

36、在本发明实施例中,通过全姿域分支与谱系域分支的双域协同建模,实现了人体整体结构表达与父子关节相对偏移表达的显式解耦,能够同时增强全局姿态一致性与局部关节细节建模能力;通过帧级自权协融机制,可针对不同时间帧的动作状态、观测质量和分支可靠性动态分配贡献比例,避免固定融合策略造成的信息偏置;通过预测层协融与特征层协融的双层统合设计,既提升最终输出的自适应性,又保留中间特征的互补优势;通过零初始化残差精修头及残差缩放设计,在保证训练稳定性的基础上进一步细化三维姿态回归结果。实验表明,本发明在公开数据集上取得了优于现有方法的姿态估计精度,有效提升了三维人体姿态估计在复杂动作和遮挡场景下的准确性与鲁棒性,进而解决了现有技术中深度学习目标检测方法在复杂工业场景下因深层网络丢失细粒度边缘特征导致轮廓感知模糊、因固定阶数建模导致复杂姿态形状失真及遮挡场景下几何截断漏检的技术问题。