一种数据预取系统及电子设备的制作方法
本技术涉及数据处理,尤其涉及一种数据预取系统及电子设备。
背景技术:
1、现有技术中,单一的数据预取算法无法适应复杂应用场景下不同类型的访存序列,导致预取性能不佳;而简单融合多种预取算法虽然能覆盖更多访存模式,但存在以下缺陷:第一,各预取模式独立维护存储表格,造成条目信息重复存储,带来冗余存储开销;第二,触发预取时并行查询所有预取模式但仅选用一个结果,造成大量无用查找开销和功耗浪费;第三,采用固定优先级或轮询的静态仲裁方式,无法根据应用负载动态调整,适应性差;第四,预取数据直接放入常规缓存,可能替换掉未来有效的数据,造成缓存污染,而独立设计隔离结构又会增加额外存储开销。
技术实现思路
1、有鉴于此,本技术实施例提供了一种数据预取系统及电子设备。
2、根据本技术第一方面,本技术实施例提供了一种数据预取系统,包括:处理器、一级缓存、二级缓存、三级缓存以及数据预取单元;二级缓存内设置用于存储预取数据的预取缓存,三级缓存内设置用于存储数据预取模式为时空模式的元数据的元数据单元,数据预取单元包括训练单元、预取模式单元及过滤监控单元;
3、训练单元用于获取到预取触发请求;基于预取触发请求,以及内置的训练表,内置的预取模式优先级信息,确定数据预取模式信息;将数据预取模式信息发送给预取模式单元;训练表包括多个预取模式对应的置信度信息;并在确定数据预取模式信息表征全局偏移模式或局部步幅模式时,基于预取触发请求,以及训练表生成数据预取请求,将数据预取请求发送至过滤监控单元;
4、预取模式单元用于基于数据预取模式信息,确定对应的预取模式子单元,基于预取模式子单元生成数据预取请求,将数据预取请求发送至过滤监控单元;
5、过滤监控单元用于接收数据预取请求,并基于内置的历史请求表确定数据预取请求未发生重复时,将数据预取请求发送至访存流水线,以使访存流水线执行数据预取请求,并将执行数据预取请求后得到的预取数据存储至二级缓存内的预取缓存内。
6、可选地,训练单元用于基于预取触发请求的指令存储地址为索引,查询到训练表中对应的条目;基于训练表中对应的条目中记载的上一地址、上上地址,以及预取触发请求中的触发地址,确定全局偏移地址、两个步幅,以及当前预取数据行为的是否跨区域信息;并基于内置的预取优先级信息,以及训练表中对应的条目中记载的时空模式置信度、区域步幅模式置信度、局部步幅模式置信度,以及训练表中全局偏移信息记载的全局偏移模式置信度,确定数据预取模式信息;将上一地址、触发地址、两个步幅、全局偏移地址、跨区域行为信息以及数据预取模式信息发送至预取模式单元。
7、可选地,训练单元还用于基于训练表中对应的条目中记载的本地时间戳及训练单元的全局时间戳,以及两个步幅,对训练表中对应的条目中的局部步幅模式置信度进行更新。
8、可选地,训练单元用于在确定全局时间戳与本地时间戳的差值未达到时间阈值时,将训练表中对应的条目中的局部步幅模式中与两个步幅中的之一相同的步幅对应的置信度进行加一处理;在确定全局时间戳与本地时间戳的差值达到时间阈值时,不对训练表中对应的条目中的局部步幅模式置信度进行更新。
9、可选地,训练单元还用于基于预取触发请求的指令存储地址为索引,未查询到训练表中对应的条目时,查询训练表中的全局偏移信息中的全局偏移模式置信度;若确定全局偏移模式置信度满足发射阈值条件,确定数据预取模式为全局偏移模式,得到数据预取模式信息;若确定全局偏移模式置信度不满足发射阈值条件,确定不进行数据预取。
10、可选地,训练单元还用于基于预取触发请求的指令存储地址为索引,查询训练表中的历史偏移信息中是否存在指令存储地址;
11、如果存在指令存储地址,则读取指令存储地址对应的步幅及置信度,或者时空模式置信度,填入至训练表的条目中。
12、可选地,训练单元还用于如果存在从训练表中被踢出的条目,则检查被踢出的条目中的局部步幅模式置信度,以及时空模式置信度;
13、若局部步幅模式置信度或时空模式置信度满足存储阈值,则将条目存储至历史偏移信息中。
14、可选地,预取模式单元包括通路选择器、全局偏移子单元、区域步幅子单元及时空模式子单元;
15、通路选择器用于将全局偏移地址发送至全局偏移子单元;将两个步幅及触发地址发送至区域步幅子单元,将上一地址、触发地址及是否跨区域信息发送至时空模式子单元;并基于数据预取模式信息确定数据预取模式为区域步幅模式时,向区域步幅子单元发送第一信号;确定数据预取模式为时空模式时,向时空模式子单元发送第二信号;
16、全局偏移子单元用于基于全局偏移地址对内置的偏移分数表中记录的多个步幅的分数进行更新,并基于更新的偏移分数表对训练单元内的训练表中的全局偏移信息进行更新;
17、区域步幅子单元用于在接收到第一信号时,若确定区域步幅表中存在与两个步幅中的至少之一相同的步幅,且相同的步幅的置信度大于发射阈值,基于相同的步幅及触发地址生成数据预取请求,并发送至过滤监控单元;
18、时空模式子单元用于在接收到第二信号时,若基于是否跨区域信息确定触发地址发生了跨页的情况,基于上一地址及内置的时间重用表,确定数据预取地址,时间重用表记录了上一次访问地址、下一次访问地址以及向后查找方向信息;若基于是否跨区域信息确定触发地址未发生跨页的请求,基于触发地址及内置的空间重用表确定数据预取地址,空间重用表记录了区域地址标识、区域地址是否被访问;并基于数据预取地址生成数据预取请求,并发送至过滤监控单元。
19、可选地,全局偏移子单元用于若确定偏移分数表中记录的多个步幅中存在与全局偏移地址相同的步幅,将与全局偏移地址相同的步幅对应的分数进行加一处理,以对偏移分数表中记录的多个步幅的分数进行更新。
20、可选地,全局偏移子单元用于在预设访问周期结束时,若确定更新后的偏移分数表中步幅的最大分数高于发射阈值,将最大分数对应的步幅及最大分数发送至训练单元,以使训练单元基于最大分数对应的步幅及最大分数,对全局偏移信息中记载的偏移值及全局偏移模式置信度进行更新。
21、可选地,全局偏移子单元还用于若确定偏移分数表中步幅的最小分数小于替换阈值,将内置的备选偏移列表中的最小偏移值替换最小分数对应的步幅。
22、可选地,全局偏移子单元还用于将偏移分数表中步幅对应的分数值进行清零操作。
23、可选地,区域步幅子单元还用于若确定区域步幅表中不存在与两个步幅中的至少之一相同的步幅,或相同的步幅的置信度不大于发射阈值,并且基于区域步幅表中的流预取标识确定上一次数据预取时的步幅为1,则基于上一次数据预取时的步幅以及触发地址生成流预取请求。
24、可选地,区域步幅子单元还用于基于两个步幅对内置的区域步幅表中记录的多个步幅对应的置信度进行更新,并基于更新后的区域步幅表对训练单元内的训练表中对应的条目中的区域步幅模式置信度进行更新。
25、可选地,区域步幅子单元用于若确定区域步幅表中存在与两个步幅中的之一相同的步幅,将相同的步幅对应的置信度进行加一处理;若确定区域步幅表中不存在与两个步幅中的之一相同的步幅,将区域步幅表中各步幅对应的置信度进行减一处理;并在确定区域步幅表中存在置信度低于替换阈值的步幅,将置信度低于替换阈值的步幅替换为两个步幅中的之一,以及将对应的置信度设置为初始值,以对区域步幅表中记录的多个步幅对应的置信度进行更新。
26、可选地,区域步幅子单元还用于在确定两个步幅中的之一对应的步幅为1时,将区域步幅表中的流预取标识设置为1;在确定两个步幅均不为1时,将区域步幅表中的流预取标识设置为0。
27、可选地,区域步幅子单元用于将更新后的区域步幅表中各步幅对应的置信度进行加权平均,得到新的区域步幅模式置信度,并将新的区域步幅模式置信度发送至训练单元,以使训练单元基于新的区域步幅模式置信度对训练表中对应的条目中的区域步幅模式置信度进行更新。
28、可选地,时空模式子单元还用于若时间重用表中不存在上一地址,空间重用表中不存在于触发地址对应的区域地址标识,将上一地址及触发地址发送至元数据单元进行分类存储。
29、可选地,时空模式子单元还用于若时间重用表中不存在上一地址,且元数据单元中存在上一地址,将元数据单元中与上一地址对应的条目发送至时空模式子单元,以对时间重用表进行更新;若空间重用表中不存在于触发地址对应的区域地址标识,且元数据单元中存在触发地址,将元数据单元中与触发地址对应的条目发送至时空模式子单元,以对空间重用表进行更新。
30、可选地,时空模式子单元包括尺寸调整子单元,尺寸调整西单元用于基于元数据单元反馈的是否查找到上一地址或是否查找到触发地址的消息,对元数据单元的尺寸进行调整。
31、可选地,时空模式子单元还用于基于上一地址、触发地址以及内置的历史样本表,确定时空模式置信度的更新值,并发送至训练单元,以对训练单元中对应的条目中的时空模式置信度进行更新。
32、可选地,过滤监控单元还用于基于内置的预取效果表记录每种来源的数据预取请求数量、有效请求数量以及整体的缓存缺失数量,基于数据预取请求数量、有效请求数量以及整体的缓存缺失数量确定数据预取准确率及覆盖率;基于准确率及覆盖率对时空模式子单元的预取度进行调整。
33、根据本技术第二方面,本技术提供了一种电子设备,包括:
34、如上述的数据预取系统。
35、本技术实施例提供的数据预取系统及电子设备,通过在训练单元的训练表内存储多个预取模式对应的置信度信息,从而可以避免多模式预取子单元间存储重复信息,并可在训练单元中展开一部分的预取模式获取,后续只需要传递有用信息,可以减少存储开销代价,降低模块间带宽需求,缓解复杂数据预取单元对成本的影响;并且通过训练单元基于预取模式优先级信息直接确定数据预取模式,从而可以避免由于并行查找所有预取模式但仅选用一个结果而造成大量无用查找开销和功耗浪费;并且复用一部分二级缓存空间作为专门存放预取数据的预取缓存,在避免预取数据污染正常缓存数据的基础上,减少了单独设计预取存放空间的复杂性和存储容量需求。
36、上述说明仅是本技术技术方案的概述,为了能够更清楚了解本技术的技术手段,而可依照说明书的内容予以实施,并且为了让本技术的上述和其它目的、特征和优点能够更明显易懂,以下特举本技术的具体实施方式。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com