用于对函数调用的基于硬件的记忆化的装置和方法与流程

技术特征：
1.一种装置，包括：微操作uop缓冲器电路，用于基于来自处理流水线的引退uop标识函数以用于记忆化，所述函数与多个uop的函数块相关联；记忆化引退缓冲器电路，用于生成所述函数的签名，所述签名包括所述函数的输入数据和输出数据以及所述函数块中的所述多个uop的有序序列；记忆化数据结构，用于将与所述函数相关联的所述签名存储在条目中；以及预测器电路，用于检测要由所述处理流水线执行的所述函数的实例，并且当与所述函数相关联的置信度水平高于阈值时响应性地将与所述实例相关联的uop的第一子集从执行排除，其中，数据依赖于所述实例的执行的一条或多条指令被提供来自所述记忆化数据结构的所述函数的所述输出数据。2.如权利要求1所述的装置，其中，所述uop缓冲器电路耦合至所述处理流水线的重排序缓冲器rob以存储所述引退uop。3.如权利要求2所述的装置，其中，所述rob与引退宽度相关联，并且所述uop缓冲器电路包括尺寸为所述rob的所述引退宽度的两倍的存储结构。4.如权利要求3所述的装置，其中，所述uop缓冲器电路用于在所述存储结构中跟踪调用uop的出现以标识所述函数以用于记忆化。5.如权利要求1-4中任一项所述的装置，其中，当所述函数包含系统调用或浮点计算时，所述函数被从记忆化排除。6.如权利要求1-4中任一项所述的装置，其中，所述实例的uop的第二子集保持在所述处理流水线中以供执行。7.如权利要求6所述的装置，其中，所述第二子集包括存储uop和/或全局加载uop。8.如权利要求1-4中任一项所述的装置，其中，所述预测器电路进一步用于在所述处理流水线中插入虚设uop以代替被从所述处理流水线排除的所述多个uop的所述第一子集，所述虚设uop能用于收集与所述实例相关联的输入值和输出值，所述输入值和所述输出值能用于验证对所述实例的记忆化。9.如权利要求8所述的装置，进一步包括验证电路，用于针对存储在所述记忆化数据结构中的所述函数的所述输入数据和所述输出数据来验证由所述虚设uop收集的所述输入值和所述输出值。10.如权利要求9所述的装置，其中，所述虚设uop包括记忆化数据结构标识符，用于定位所述记忆化数据结构中的所述条目。11.如权利要求9所述的装置，其中，响应于所述验证电路的肯定验证，所述虚设uop被从所述处理流水线移除，并且由所述预测器电路跟踪的所述实例的置信度水平被递增。12.如权利要求9所述的装置，其中，响应于所述验证电路的否定验证，所述函数的所述实例被重新插入所述处理流水线中以供执行。13.如权利要求1-4中任一项所述的装置，其中，所述函数的所述输入数据和所述输出数据包括由与所述函数相关联的所述函数块中的uop访问的寄存器和/或存储器位置。14.一种方法，包括：基于来自处理流水线的引退微操作uop标识函数以用于记忆化，所述函数与多个uop的
函数块相关联；生成所述函数的签名，所述签名包括所述函数的输入数据和输出数据以及所述函数块中的所述多个uop的有序序列；在记忆化数据结构中将与所述函数相关联的所述签名存储在条目中；以及检测要由所述处理流水线执行的所述函数的实例，并且当与所述函数相关联的置信度水平高于阈值时响应性地将与所述实例相关联的uop的第一子集从执行排除；以及向数据依赖于所述实例的执行的一条或多条指令提供来自所述记忆化数据结构的所述函数的所述输出数据。15.如权利要求14所述的方法，进一步包括将所述引退uop存储在耦合至所述处理流水线的重排序缓冲器rob的uop缓冲器中。16.如权利要求15所述的方法，其中，所述rob与引退宽度相关联，并且所述方法进一步包括将所述uop缓冲器的尺寸设置为所述rob的所述引退宽度的两倍。17.如权利要求15所述的方法，进一步包括在所述uop缓冲器中跟踪调用uop的出现以标识所述函数以用于记忆化。18.如权利要求14-17中任一项所述的方法，进一步包括当所述函数包含系统调用或浮点计算时将所述函数从记忆化排除。19.如权利要求14-17中任一项所述的方法，进一步包括使所述实例的uop的第二子集留在所述处理流水线中以供执行。20.如权利要求19所述的方法，其中，所述第二子集包括存储uop和/或全局加载uop。21.如权利要求14-17中任一项所述的方法，进一步包括在所述处理流水线中插入虚设uop以代替被从所述处理流水线排除的所述多个uop的所述第一子集，所述虚设uop能用于收集与所述实例相关联的输入值和输出值，所述输入值和所述输出值能用于验证对所述实例的记忆化。22.如权利要求21所述的方法，进一步包括针对存储在所述记忆化数据结构中的所述函数的所述输入数据和所述输出数据来验证由所述虚设uop收集的所述输入值和所述输出值。23.如权利要求22所述的方法，进一步包括使用所述虚设uop中的记忆化数据结构标识符来定位所述记忆化数据结构中的所述条目。24.如权利要求22所述的方法，进一步包括响应于肯定验证而从所述处理流水线移除所述虚设uop并且使所述实例的置信度水平递增。25.如权利要求22所述的方法，进一步包括响应于否定验证而将所述函数的所述实例重新插入所述处理流水线中以供执行。

技术总结
本申请公开了用于对函数调用的基于硬件的记忆化的装置和方法。本文描述了用于对重复函数调用进行记忆化的装置和方法。一种装置实施例包括：uop缓冲器电路，用于基于来自处理流水线的引退微操作(uop)标识函数以用于记忆化；记忆化引退电路，用于生成函数的签名，该签名包括函数的输入数据和输出数据；记忆化数据结构，用于存储签名；以及预测器电路，用于检测要由处理流水线执行的函数的实例，并且当与函数相关联的置信度水平高于阈值时响应性地将与实例相关联的uop的第一子集从执行排除。然后数据依赖于实例的执行的一条或多条指令被提供来自记忆化数据结构的函数的输出数据。提供来自记忆化数据结构的函数的输出数据。提供来自记忆化数据结构的函数的输出数据。


技术研发人员：N
受保护的技术使用者：英特尔公司
技术研发日：2021.11.24
技术公布日：2022/6/28