动态索引统一缓冲区对象访问的标量化的制作方法
【】本发明的实施例涉及图形处理单元(graphics processing unit,简称gpu)架构,更具体地说,涉及一种在统一内存中将动态索引转换为静态索引并进行标量化的方法。
背景技术
0、 背景技术:
1、图形处理单元(graphics processing unit,简称gpu)是一种专门设计用于加速计算机上图像和视频创建的电子电路。它本质上是中央处理单元(central processingunit,简称cpu)的协处理器,负责处理图形任务的繁重工作,而cpu则负责其他进程。gpu通过将部分图形处理从cpu中卸载来提高性能和图形质量。同时,gpu之所以如此重要,主要是因为它使游戏运行更高效,并通过更高分辨率的图形和改进的帧速率使游戏看起来更好。更具体地说,gpu可以渲染二维和三维图形、动画和视频,增强游戏、电影和其他应用中的视觉效果,支持图像编辑、视频编辑和三维建模等应用。由于其并行处理能力,gpu还可以用于非图形任务,如机器学习和科学计算。
2、gpu设计用于并行处理,这意味着它们可以同时处理许多较小的任务,这使得gpu在处理大量图形数据时比cpu快得多。gpu具有自己的专用内存。cpu将指令和数据发送到gpu,gpu执行这些指令并将结果发送回cpu。
3、着色器是一段代码或程序,在gpu上执行以在图像绘制到屏幕之前对其进行处理。着色器在渲染三维场景时计算适当的光、暗和颜色级别。此过程称为着色。着色器已经发展为在计算机图形、特效和视频后处理以及gpu上的通用计算中执行各种专门功能。因此,着色器执行速度或着色器性能对gpu至关重要。
4、内存访问指令在着色器性能中起着重要作用。常量缓冲区(constant buffer,简称cb)和统一缓冲区对象(uniform buffer object,简称ubo)是着色器常用的内存。着色器处理cb和ubo访问的效率在渲染图形中起着至关重要的作用。
5、着色器程序经常利用统一缓冲区的动态索引来访问数据结构,如数组和矩阵。动态索引发生在用于访问数组元素的索引在运行时而不是编译时确定时。这种编程模式提供了灵活性和代码简洁性,特别是在实现必须根据运行时条件访问不同数组元素的算法时。然而,这种灵活性在许多gpu架构上带来了显著的性能成本,因为动态索引通常需要从全局内存加载数据,而不是从更快、更节能的常量寄存器中加载。统一缓冲区的动态索引对gpu着色器性能优化提出了重大挑战。当着色器使用变量索引而不是常量索引访问统一缓冲区或常量缓冲区元素时,许多gpu架构无法直接将这些访问映射到其快速常量寄存器文件。这种限制的原因是常量寄存器通常在硬件指令集架构(instruction set architectures,简称isas)中使用静态索引寻址,支持动态寻址的能力有限或没有。因此,gpu编译器必须生成代码,在运行时从全局内存加载每个动态索引访问的数据,导致显著更高的延迟、增加的功耗和降低的着色器性能。在复杂的图形应用中,这种性能差距变得尤为突出,其中动态索引的统一缓冲区访问很常见,例如在遍历光源或场景参数数组的材质系统中。
6、当前的gpu架构采用各种方法来减轻动态索引的性能影响,但这些方法存在显著的局限性。一些架构支持基于硬件的地址寄存器,可以动态索引到常量寄存器,但当多个线程(或线程束)尝试同时使用不同的索引值时,这些通常需要复杂的锁定机制,可能导致串行化和性能下降。其他实现可能缓存频繁访问的统一数据,但缓存未命中仍会导致高延迟的内存访问。一些编译器尝试在索引范围较小且在编译时已知时展开包含动态索引的循环,但这种方法的适用性有限,并可能显著增加代码大小。这些限制突显了在着色器程序中处理统一缓冲区动态索引的更有效方法的需求,特别是随着现代图形应用的复杂性和性能要求不断增加。
技术实现思路
0、 技术实现要素:
1、一个实施例提供了一种在统一内存中将动态索引转换为静态索引并进行标量化的方法。该方法包括识别源代码中的多个数组索引,识别与多个数组索引相关联的多个动态索引指令,根据优先级列表对多个动态索引指令进行优先级排序,从多个动态索引指令中移除至少一个重复指令,根据优先级列表估算多个动态索引指令的分配大小,将一组动态索引指令转换为一组不含动态索引的静态索引指令,并将该组静态索引指令分配到统一内存。每个动态索引指令从统一内存加载。
2、在一个方面,该方法进一步包括根据优先级列表对多个动态索引指令进行优先级排序。
3、在一个方面,优先级列表将指令从高优先级到低优先级分类,包括:指令包括多个高开销内存加载;指令包括多个高延迟操作;指令从动态索引转换为多个静态索引;指令包括多个低延迟操作;以及指令是立即值。
4、在进一步的一个方面,该方法包括从多个动态索引指令中移除至少一个重复指令,其中至少一个重复指令指向与多个动态索引指令中的另一个动态索引指令相同的对象和/或值。
5、在一个方面,该方法包括估算多个动态索引指令的预分配大小,并根据统一内存的大小和预分配大小推导预算大小。
6、另一个实施例提供了一种将动态索引转换为静态索引并进行标量化的方法。该方法包括将动态索引指令转换为一组静态索引指令,将一组静态索引指令分配到统一内存,并且当另一个动态索引指令等待转换且统一内存有足够空间进行转换时,将另一个动态索引指令转换为另一组静态索引指令。动态索引指令从统一内存加载。静态索引指令组包括不含动态索引的静态索引。
7、另一个实施例提供了一种用于将动态索引转换为带标量化的静态索引的装置。该装置包括存储器和与该存储器耦合的处理器。处理器配置为识别源代码中的多个数组索引,识别与多个数组索引相关联的多个动态索引指令,其中每个动态索引指令从统一内存加载,根据优先级列表对多个动态索引指令进行优先级排序,从多个动态索引指令中移除至少一个重复指令,根据优先级列表估算多个动态索引指令的分配大小,将一组动态索引指令转换为一组不含动态索引的静态索引指令,并将该组静态索引指令分配到统一内存。
8、另一个实施例提供了一种用于将动态索引转换为带标量化的静态索引的装置。该装置包括存储器和与该存储器耦合的处理器。处理器配置为将动态索引指令转换为一组静态索引指令,其中动态索引指令从统一内存加载,将一组静态索引指令分配到统一内存,并且当另一个动态索引指令等待转换且统一内存有足够空间进行转换时,将另一个动态索引指令转换为另一组静态索引指令。静态索引指令组包括不含动态索引的静态索引。
9、为了实现上述及相关目的,某些实施例包括以下特征,这些特征在权利要求中详细描述并特别指出。以下描述和附图详细阐述了实施例的某些说明性方面。然而,这些方面仅表明了实施例的原则可能被采用的几种方式中的一部分,且本公开旨在包括所有这些方面及其等效物。本发明的这些及其他目标在阅读以下详细描述的优选实施例后对于本领域普通技术人员将显而易见,该优选实施例在各个图和附图中进行了说明。
1.一种将动态索引转换为静态索引并进行标量化的方法,包括:
2.如权利要求1所述的方法,进一步包括解析源代码。
3.如权利要求1所述的方法,进一步包括生成汇编代码和/或目标代码。
4.如权利要求1所述的方法,其中至少一个重复指令指向与多个动态索引指令中的另一个动态索引指令相同的对象和/或值。
5.如权利要求1所述的方法,其中优先级列表从高优先级到低优先级列出,并包括:
6.如权利要求1所述的方法,进一步包括:
7.如权利要求6所述的方法,进一步包括:
8.如权利要求7所述的方法,其中至少一个重复指令指向与一组静态索引指令中的静态索引指令相同的对象和/或值。
9.如权利要求1所述的方法,其中统一内存包括配置为存储预加载统一缓冲区值的常量寄存器文件。
10.如权利要求1所述的方法,其中转换一组动态索引指令包括根据所访问的数据结构类型应用不同的转换策略,其中数据结构类型包括至少以下之一:
11.如权利要求1所述的方法,其中估算分配大小包括:
12.一种将动态索引转换为静态索引并进行标量化的方法,包括:
13.如权利要求12所述的方法,进一步包括如果另一个动态索引指令优先级低且统一内存没有足够空间进行转换,则将另一个动态索引指令分配到统一内存。
14.如权利要求12所述的方法,进一步包括如果另一个动态索引指令是重复指令,则移除另一个动态索引指令。
15.如权利要求14所述的方法,其中重复指令指向与动态索引指令相同的对象和/或值。
16.如权利要求12所述的方法,进一步包括解析源代码。
17.如权利要求16所述的方法,进一步包括:
18.如权利要求12所述的方法,其中将该动态索引指令转换为该组静态索引指令包括:生成目标寄存器的初始值;生成多个条件选择指令,其中每个条件选择指令将索引值与特定常量进行比较,并根据该比较结果有选择地加载相应的预加载值;并将该多个条件选择指令按顺序排列,以评估该动态索引域内的所有可能索引值。
19.一种用于将动态索引转换为带标量化的静态索引的装置,包括:存储器;以及与该存储器耦合的处理器,配置为:识别源代码中的多个数组索引;识别与该多个数组索引相关联的多个动态索引指令,其中每个动态索引指令从统一存储器加载;根据优先级列表对该多个动态索引指令进行优先级排序;从该多个动态索引指令中移除至少一个重复指令;根据该优先级列表估算该多个动态索引指令的分配大小;将一组动态索引指令转换为一组不含动态索引的静态索引指令;并将该组静态索引指令分配到该统一存储器。
20.一种用于将动态索引转换为带标量化的静态索引的装置,包括:存储器;以及与该存储器耦合的处理器,配置为:将动态索引指令转换为一组静态索引指令,其中该动态索引指令从统一存储器加载,该组静态索引指令包括不含动态索引的静态索引;将该组静态索引指令分配到该统一存储器;并且当另一个动态索引指令等待转换且该统一存储器有足够空间用于转换该另一个动态索引指令时,将该另一个动态索引指令转换为另一组静态索引指令。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com