一种基于灵敏度缓存与向量化分桶的非线性方程组流式实时求解方法及系统与流程
本发明涉及数值求解,特别地涉及一种基于灵敏度缓存与向量化分桶的非线性方程组流式实时求解方法及系统。
背景技术:
1、在大规模流式数据的实时处理场景中,存在一类常见的计算任务:根据当前实时观测到的结果数据(例如传感器读数、监测指标、市场数据等),结合预先建立的模型结构和已知的部分模型参数,反向推算出使该模型输出能够与观测结果相吻合的某个或某几个未知参数。
2、现有技术通常对每轮流式数据执行独立全量迭代,依托上周期收敛解热启动加速收敛,并通过分布式集群承载数万级批量目标对象的求解任务。随着数据推送间隔压缩至毫秒级,现有方案暴露三大瓶颈:一是全量迭代包含雅可比矩阵构造、矩阵求逆等高开销运算,求解时延无法匹配高频实时工况;二是流式数据多为维度微变更新,现有方案未对灵敏度矩阵等中间状态跨周期缓存复用,冗余计算量大、资源利用率低;三是仅依赖分布式横向扩容,未针对求解特征优化单机向量化、哈希分桶与内存布局,单机算力释放受限,节点通信开销进一步加剧时延。
3、综上,现有技术难以同时满足高精度、低时延与高算力利用率要求。因此,亟需一种能够在保证求解精度的前提下,显著降低单次求解计算延迟、显著减少冗余计算、充分发挥单机算力的流式非线性方程实时反向求解方法。
技术实现思路
1、有鉴于此,本发明提出一种基于灵敏度缓存与向量化分桶的非线性方程组流式实时求解方法及系统,能够实现在保证求解精度的前提下,显著降低单次求解计算延迟、显著减少冗余计算并充分发挥单机算力。
2、为实现上述目的,本发明提供如下技术方案:
3、一种基于灵敏度缓存与向量化分桶的非线性方程组流式实时求解方法,包括:
4、采集当期批次每一个目标对象的原始输入数据,对所述原始输入数据进行归一化处理,得到每一个目标对象的当期输入向量,调取每一个目标对象上一周期的历史输入向量,通过向量差值运算得到当期输入向量相对于历史输入向量的变化向量;
5、基于预设稀疏微变阈值和自适应阈值将每一个目标对象划分至对应的求解通道,所述求解通道包括稀疏灵敏度免检验路径、增量外推验证路径和全量求解路径,并输出对应的隐含参数估计值或迭代初始猜测值;
6、对分流至全量求解路径和增量外推验证路径校验不通过的目标对象,以预先构建的近似函数表或迭代初始猜测值为热启动起点,执行有限步数的牛顿校正迭代,待迭代收敛后预计算灵敏度矩阵并完成缓存;
7、汇总当期批次每一个目标对象的求解结果和求解残差,基于所述求解结果和求解残差统计增量路径下所有目标对象的平均后验误差,基于所述平均后验误差自动调整自适应阈值,按照所述目标对象所属的求解通道差异化更新历史状态四元组,搭建跨周期自适应反馈链路;
8、对当期批次每一个目标对象执行参数相似性感知哈希分桶、状态四元组导向的内存布局变换和路径感知向量化双流并行调度,将全量求解任务高效映射至硬件执行单元。
9、在上述技术方案的基础上,本发明还可以做如下改进:
10、可选地,所述通过向量差值运算得到当期输入向量相对于历史输入向量的变化向量,包括:
11、通过公式(1)计算变化向量;
12、 公式(1);
13、式中,为变化向量,为当期输入向量,为历史输入向量,i为第i个目标对象,t为当前计算周期,t-1为上一历史计算周期。
14、可选地,所述基于预设稀疏微变阈值和自适应阈值将每一个目标对象划分至对应的求解通道,包括:
15、当变化向量满足稀疏度约束,且满足幅度约束,将每一个目标对象划分至稀疏灵敏度免检验路径;
16、计算设备识别输入变化向量中非零维度集合,仅从缓存灵敏度矩阵中读取列,执行稀疏加权向量加法:
17、通过公式(2)计算隐含参数估计值;
18、 公式(2);
19、式中,为隐含参数估计值,为第i个单元上一周期隐含参数估计值,为变化向量,为第j维输入变量对隐含参数的一阶偏导,当目标对象划分至稀疏灵敏度免检验路径时,输出隐含参数估计值。
20、可选地,所述所述基于预设稀疏微变阈值和自适应阈值将每一个目标对象划分至对应的求解通道,包括:
21、当变化向量的范数满足,且不满足稀疏灵敏度免检验路径的触发条件时,将每一个目标对象划分至增量外推验证路径;
22、计算设备利用缓存灵敏度矩阵执行完整矩阵向量乘法:
23、通过公式(3)计算迭代初始猜测值;
24、公式(3);
25、式中,为迭代初始猜测值,当目标对象划分至增量外推验证路径时,输出迭代初始猜测值。
26、可选地,所述所述基于预设稀疏微变阈值和自适应阈值将每一个目标对象划分至对应的求解通道,包括:
27、当,或目标对象不存在有效历史状态时,将每一个目标对象划分至全量求解路径。
28、可选地,所述以预先构建的近似函数表或迭代初始猜测值为热启动起点,执行有限步数的牛顿校正迭代,包括:
29、以初始猜测值为起点,计算设备执行至多步牛顿校正迭代:
30、通过公式(4)计算全新隐含参数;
31、 公式(4);
32、式中,为经过一轮牛顿修正后更新得到的全新隐含参数,为当前隐含参数估计值,为函数f对参数p的一阶偏导数,为目标输出值;
33、每步完成后计算当前残差,若残差满足精度容忍则提前终止迭代,无需执行至上限步,以避免不必要的计算开销;
34、迭代收敛至后,计算设备利用最终迭代步已计算的jacobian逆矩阵及数值微分,计算并缓存灵敏度矩阵:
35、通过公式(5)计算灵敏度矩阵;
36、 公式(5);
37、式中,为灵敏度矩阵,为jacobian逆矩阵,为数值微分。
38、可选地,所述基于所述平均后验误差自动调整自适应阈值,包括:
39、计算设备将平均残差与预设上界和预设下界比较,执行自适应阈值更新:
40、若,则当前自适应阈值过于保守,增量有效域估计偏小,计算设备扩大,允许更多目标对象在下一周期走增量外推验证路径;
41、若,表明误差积累超出可接受范围,增量有效域估计偏大,计算设备收缩,同时将本期残差超限对象标记为下一期强制全量求解,确保求解精度不因连续走增量路径而逐渐劣化;
42、若,阈值维持不变。
43、一种基于灵敏度缓存与向量化分桶的非线性方程组流式实时求解系统,包括:
44、预处理模块,用于采集当期批次每一个目标对象的原始输入数据,对所述原始输入数据进行归一化处理,得到每一个目标对象的当期输入向量,调取每一个目标对象上一周期的历史输入向量,通过向量差值运算得到当期输入向量相对于历史输入向量的变化向量;
45、分通道分流判定模块,用于基于预设稀疏微变阈值和自适应阈值将每一个目标对象划分至对应的求解通道,所述求解通道包括稀疏灵敏度免检验路径、增量外推验证路径和全量求解路径,并输出对应的隐含参数估计值或迭代初始猜测值;
46、迭代求解模块,用于对分流至全量求解路径和增量外推验证路径校验不通过的目标对象,以预先构建的近似函数表或迭代初始猜测值为热启动起点,执行有限步数的牛顿校正迭代,待迭代收敛后预计算灵敏度矩阵并完成缓存;
47、自适应反馈模块,用于汇总当期批次每一个目标对象的求解结果和求解残差,基于所述求解结果和求解残差统计增量路径下所有目标对象的平均后验误差,基于所述平均后验误差自动调整自适应阈值,按照所述目标对象所属的求解通道差异化更新历史状态四元组,搭建跨周期自适应反馈链路;
48、硬件并行调度模块,用于对当期批次每一个目标对象执行参数相似性感知哈希分桶、状态四元组导向的内存布局变换和路径感知向量化双流并行调度,将全量求解任务高效映射至硬件执行单元。
49、一种电子设备,包括存储器、处理器及存储在存储器上并在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如所述方法的步骤。
50、一种非暂态计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现所述方法的步骤。
51、本发明具有如下优点:
52、本发明基于变化向量完成目标对象差异化路径分流,构建三级求解通道,对稀疏微变样本直接复用灵敏度信息输出结果,大幅减少全量牛顿迭代次数与雅可比矩阵求逆等高开销运算,有效降低流式求解端到端时延,适配毫秒级高频数据处理需求。本发明在迭代收敛后缓存灵敏度矩阵,结合跨周期自适应反馈链路动态调整阈值,差异化更新历史状态四元组,实现中间状态高效复用,消除大量冗余浮点运算与内存读写开销,显著提升计算资源利用率。同时,本发明通过参数相似性哈希分桶、状态导向内存布局变换及路径感知向量化双流调度,降低硬件线程分叉与访存损耗,充分释放cpu、gpu向量化并行算力。各技术特征相互耦合形成协同增效作用,在保证求解精度可控的前提下,大幅提升批量非线性方程组流式求解的实时性与吞吐能力。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com