一种特征向量的时序数据库prefetch方法与流程
本发明涉及数据预取,尤其涉及一种特征向量的时序数据库prefetch方法。
背景技术:
1、数据预取技术领域主要涉及在计算机系统处理数据之前提前将所需数据从常规存储介质加载到读取速度较快的缓存中的一系列技术操作,涵盖缓存管理策略与存储层级架构优化以及访问模式分析机制,主要目的作用在于弥补处理单元计算速度与内存读取速度之间的差异从而缩减系统的等待延迟,广泛应用于大型计算中心与云计算平台以及大规模数据库管理等行业。其中,在分散控制系统中,查询时序数据是可以有效的分析机组运行状态、查询机组运行故障原因的有效手段。在将ai与分散控制系统结合后,大模型需要调用比以往更多的时序数据用来进行预测、分析、控制,导致在实际运行中,加入了ai大模型的机组,时序数据库的负载会比普通的机组的负荷高很多,如何保证在不影响运行的情况下更实时的、稳定的获取机组运行数据,是时序数据库的关键技术。
2、传统的时序数据库数据预取(prefetch)技术,虽然能够通过提前将所需数据加载到缓存中来弥补处理单元计算速度与内存读取速度之间的差异并缩减系统的等待延迟,但是,在ai大模型与分散控制系统深度结合导致时序数据调用需求激增的高负载情况下,存在由于采用基于历史访问频率的静态预取策略而无法适应场景波动特性,以及因盲目预取导致占用系统过多内存进而严重影响系统正常运行的问题。
技术实现思路
1、本发明的目的是解决现有技术中存在的缺点,而提出的一种特征向量的时序数据库prefetch方法。
2、为了实现上述目的,本发明采用了如下技术方案:一种特征向量的时序数据库prefetch方法,包括以下步骤:
3、s1:获取目标测点的业务类型、写入周期、访问请求量、请求均值、命中率、访问次数及报警状态,基于所述业务类型和写入周期构建测点静态特征,基于所述访问请求量、请求均值、命中率、访问次数和报警状态构建测点动态特征,拼接所述测点静态特征和测点动态特征,生成初始特征向量;
4、s2:对所述初始特征向量进行映射处理生成标准特征向量集合,从所述标准特征向量集合中筛选被请求数据关联的前序特征向量并配置初始回归系数,根据所述前序特征向量和初始回归系数进行加权评估,生成预加载优先级次序;
5、s3:根据所述预加载优先级次序执行数据预取构建预测请求分布状态,同步采集实际请求分布状态,基于所述预测请求分布状态和实际请求分布状态,通过多元线性回归进行偏差提取,更新所述初始回归系数,生成目标回归系数;
6、s4:获取所述目标回归系数关联的连续请求时长、默认预加载时长、最大请求时长、实际请求点数和默认加载数,进行参数自适应调整,生成动态预加载参数;
7、s5:根据所述动态预加载参数和预加载优先级次序执行预加载处理,动态修正所述多元线性回归模型参数,生成特征向量时序数据库prefetch结果。
8、作为本发明的进一步方案,修正所述多元线性回归模型参数过程中,分析所述预测请求分布状态和所述实际请求分布状态并统计预取命中率,在所述预取命中率低于所述预设命中率阈值时进行修正。
9、作为本发明的进一步方案,所述预加载优先级次序具体指,对所述加权评估结果进行数值降序排列所得到的次序。
10、作为本发明的进一步方案,所述初始特征向量具体获取步骤为:
11、s111:获取目标测点业务类型标识和写入周期参量,执行编码转换与映射处理操作提取对应离散标量数据,整合多项离散标量数据空间排布序列合并构建属性序列参量,提取属性序列参量内部所属分布坐标数值集合,建立测点静态特征量;
12、s112:监测目标测点访问请求量、请求均值、历史命中率、访问次数以及报警状态标识,针对访问请求量以及请求均值各项参量执行极值归一化处理,提取各项标量对应百分比映射序列集合,构建测点动态特征量;
13、s113:基于所述测点静态特征量和所述测点动态特征量进行向量长度核对以及多维空间参量对齐,匹配所述测点静态特征量与所述测点动态特征量对应位置节点,同时采集时间戳序列提取对齐节点参量,拼接各项对齐节点参量所属特征维度数值分布序列,生成初始特征向量。
14、作为本发明的进一步方案,所述预加载优先级次序具体获取步骤为:
15、s211:基于所述初始特征向量进行数据层级概率映射和数值标准化分布处理,获取基础向量参量,针对基础向量参量内部各项特征分量进行结构组合排列和层级序列集结处理,提取集合指标,汇总集合指标所属所有节点分量序列,建立标准特征向量集合;
16、s212:针对所述标准特征向量集合,筛选被请求数据关联请求前序特征参量,获取基准特征对应基础配置权重数值,为请求前序特征参量配置基础配置权重数值作为先验经验系数配置项,结合先验经验系数配置项与请求前序特征参量集合,建立初始回归系数;
17、s213:基于所述标准特征向量集合内部提取请求前序特征参量和初始回归系数共同执行加权求和运算,输出评分量化数值进行全体数据降序排列重组,根据降序排列重组位置分配序列等级优先级大小,生成预加载优先级次序。
18、作为本发明的进一步方案,所述目标回归系数具体获取步骤为:
19、s311:基于所述预加载优先级次序对数据节点执行提前数据预取操作指令动作,统计提前数据预取操作指令动作对应各项基于请求序列频次分布信息,结合基于请求序列频次分布信息所在数值范围分布区间,构建对应预测请求分布状态量;
20、s312:采集时序数据库内部运行实际请求分布数据序列,针对所述预测请求分布状态量和实际请求分布数据序列执行多元线性回归拟合运算,提取拟合运算过程中对应预测残差数值分布差异情况,建立偏差梯度指标;
21、s313:基于所述初始回归系数与所述偏差梯度指标执行系数相互迭代更新运算动作,结合所述偏差梯度指标所在下降变化方向对所述初始回归系数内部数值大小进行反向传播以及调整赋值,提取循环停止后收敛系数变量数据,获取目标回归系数。
22、作为本发明的进一步方案,所述动态预加载参数具体获取步骤为:
23、s411:针对所述目标回归系数关联节点数据获取连续请求时长和默认预加载时长,对比连续请求时长和默认预加载时长两者数值差异,提取完全符合数值替换比较条件节点时长,合并建立参考请求时长值;
24、s412:采集数据访问历史查询最大请求时长,与所述参考请求时长值执行对应替换操作,提取替换操作后对应时间维度边界界限数据指标,整合获取调整预加载时长量;
25、s413:监测当前实际请求点数数据以及默认加载数,基于当前实际请求点数数据对默认加载数进行自适应倍数比例调整运算提取节点数量分配阈值,组合所述调整预加载时长量和所述节点数量分配阈值整体分布,构建动态预加载参数。
26、作为本发明的进一步方案,所述特征向量时序数据库prefetch结果具体获取步骤为:
27、s511:基于所述动态预加载参数和所述预加载优先级次序,对对应层级次序节点执行资源提前预加载处理操作指令,提取执行过程中内存存取记录日志数据序列信息进行合并整合,构建预加载处理状态量;
28、s512:针对所述预测请求分布状态量和实际请求分布数据,进行节点项重合比较运算,统计已经命中对应请求节点数据访问量总计占比百分比评估数值,获取预取命中率;
29、s513:获取预设命中率阈值,判断预取命中率与预设命中率阈值两者差值是否处于负向区间范围,若处于负向区间范围情况则修正多元线性回归运算配置权项参数值,集合修正配置参数时序执行参量,生成特征向量时序数据库prefetch结果。
30、与现有技术相比,本发明的优点和积极效果在于:
31、本发明中,通过综合提取目标测点的静态特征(如业务类型、写入周期)与动态运行特征(如访问请求量、命中率、报警状态等)构建多维特征向量,并利用多元线性回归算法对比预测请求分布与实际请求分布的偏差来动态更新回归系数,同时自适应调整预加载时长、加载数量等参数等技术手段,实现对时序数据预加载优先级的精准评估以及预取参数的动态修正,起到有效避免数据盲目预取、大幅降低无效内存占用、自适应复杂场景波动的作用,从而在不影响机组正常运行的前提下,保障高负荷状态下更加实时、稳定地获取机组运行数据。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com