控制参数的数模转换方法、装置、设备及介质
本公开实施例涉及模拟集成电路,更具体地,涉及一种控制参数的数模转换方法、装置、设备及介质。
背景技术:
1、深度学习技术在计算机视觉、自然语言处理、自动驾驶等领域的广泛应用,推动了模拟域计算架构的快速发展。在模拟域计算架构中,模数转换器(analog-to-digitalconverter,adc)作为连接模拟计算阵列与数字处理单元的必要接口,承担着将模拟计算结果转换为数字量的功能。在神经网络推理过程中,非线性激活函数是不可缺少的组成部分,相关技术通常采用先通过标准adc完成线性量化、再在数字域单独计算激活函数输出值的串行方案。
2、然而,上述串行方案存在端到端推理延时较高的问题:adc完成全部量化输出后才能启动激活函数计算,两个步骤之间存在串行数据依赖;学术界提出的非线性斜坡型adc方案虽能将非线性函数映射嵌入转换过程,但其所需存储资源随量化精度呈指数级增长,在较高精度场景下难以工程实现,且该方案仅支持定义域内严格单调的非线性函数,对高斯误差线性单元(gaussian error linear unit,gelu)、swish等非单调激活函数不适用。因此,如何在模拟信号量化过程中高效地同步完成非线性函数映射,是亟待解决的技术需求。
技术实现思路
1、本公开实施例的一个目的是提供一种提供一种控制参数的数模转换方法及装置的技术方案,以解决现有方案中存储资源需求随量化精度呈指数增长、不支持非单调非线性函数映射、以及量化过程与非线性函数计算之间存在串行数据依赖导致转换延时高的技术问题。
2、根据本公开的第一方面,提供了一种控制参数的数模转换方法,该方法包括:
3、接收用户输出表征非线性函数的控制参数集合;
4、根据对所述控制参数集合进行非线性运算所得到的数字域结果,构建二分节点参数集合;
5、将所述二分节点参数集合存储至预置的存储空间中,并对所述二分节点参数集合中各二分节点参数按照各自对应的二分节点分配存储地址;
6、提取所述存储空间中位于各存储地址的所述各二分节点参数,并将预置的模数转换装置输入的各输入参数与各自对应的所述各二分节点参数进行比较,并得到比较结果;
7、根据所述比较结果,生成用于作为模拟域计算模型的非线性输入参数。
8、可选地,所述模数转换装置输入的各输入参数为输入电压;所述将预置的模数转换装置输入的各输入参数与各自对应的所述各二分节点参数进行比较,并得到比较结果,包括:
9、将所述各二分节点参数输入至预置的数模转换装置中,得到各参考电压;
10、将各所述输入电压与各自对应的所述参考电压进行比较,得到比较结果。
11、可选地,所述各输入参数包括目标输入参数,所述根据所述比较结果,生成用于作为模拟域计算模型的非线性输入参数,包括:
12、若所述目标输入参数小于所述目标二分节点参数,所述比较结果置一;
13、否则,所述比较结果置零;
14、根据所有的输入参数的比较结果,得到作为模拟域计算模型的非线性输入参数;其中,所述所有的输入参数包括所述目标输入参数。
15、可选地,在所述控制参数集合对应两个单调子区间时,所述确定所述控制参数集合所映射的二分节点参数集合,包括:
16、对所述控制参数集合归一化处理,得到置于第一数值区间内的第一控制参数集合以及置于第二数值区间内的第二控制参数集合;其中,所述第一数值区间的下限值为0且上限值为所述两个单调子区间中的目标拐点值,所述第二数值区间的上限值为1且下限值为所述目标拐点值;
17、确定所述第一控制参数集合和所述第二控制参数集合各自映射的二分节点参数集合。
18、可选地,所述得到比较结果之后,所述方法还包括:
19、根据所述控制参数集合归一化处理所产生的第一缩放倍数,得到对应的第一扩大倍数;
20、将所述比较结果以所述第一扩大倍数进行扩大处理,得到扩大后的所述比较结果。
21、可选地,在所述控制参数集合对应两个单调子区间以上时,确定所述控制参数集合所映射的二分节点参数集合;
22、将所述控制参数集合设置为线性叠加的在目标系数下的目标参数项,并确定所述在目标系数下的目标参数项的分段区间;
23、确定在各所述分段区间所对应的区间范围以及在所述区间范围内线性叠加的所述在目标系数下的目标参数项,以作为二分节点参数集合。
24、可选地,所述得到比较结果之后,所述方法还包括:
25、根据所述控制参数集合归一化处理所产生的第二缩放倍数,得到对应的第二扩大倍数;
26、将所述比较结果以所述第二扩大倍数进行扩大处理,得到扩大后的所述比较结果。
27、根据本公开的第二方面,提供了一种控制参数的数模转换装置,该装置包括:
28、接收模块,用于接收用户输出表征非线性函数的控制参数集合;
29、确定模块,用于根据对所述控制参数集合进行非线性运算所得到的数字域结果,构建二分节点参数集合;
30、分配模块,用于将所述二分节点参数集合存储至预置的存储空间中,并对所述二分节点参数集合中各二分节点参数按照各自对应的二分节点分配存储地址;
31、提取模块,用于提取所述存储空间中位于各存储地址的所述各二分节点参数,并将预置的模数转换装置输入的各输入参数与各自对应的所述各二分节点参数进行比较,并得到比较结果;
32、生成模块,用于根据所述比较结果,生成用于作为模拟域计算模型的非线性输入参数。
33、根据本公开实施例的第三方面,还提供了一种电子设备,包括存储器和处理器,所述存储器用于存储计算机程序;所述处理器用于执行所述计算机程序,以实现根据本公开第一方面所述的方法。
34、根据本公开实施例的第四方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储计算机程序,所述计算机程序在被处理器执行时实现根据本公开第一方面所述的方法。
35、本公开实施例通过将非线性函数对应的二分节点参数集合预存至存储空间并按二分节点分配存储地址,在模数转换装置的逐位迭代过程中直接读取对应二分节点参数生成参考电压进行比较,使模数转换器的逐位判决结果直接等价于非线性函数的量化输出,将非线性函数计算过程嵌入模数转换的逐位迭代时序,消除传统串行方案中的数据依赖,降低端到端推理延时,适配低功耗ai推理场景。
36、通过以下参照附图对本公开的示例性实施例的详细描述,本公开实施例的其它特征及其优点将会变得清楚。
1.一种控制参数的数模转换方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述模数转换装置输入的各输入参数为输入电压;所述将预置的模数转换装置输入的各输入参数与各自对应的所述各二分节点参数进行比较,并得到比较结果,包括:
3.根据权利要求1或2所述的方法,其特征在于,所述各输入参数包括目标输入参数,所述根据所述比较结果,生成用于作为模拟域计算模型的非线性输入参数,包括:
4.根据权利要求1所述的方法,其特征在于,在所述控制参数集合对应两个单调子区间时,所述确定所述控制参数集合所映射的二分节点参数集合,包括:
5.根据权利要求4所述的方法,其特征在于,所述得到比较结果之后,所述方法还包括:
6.根据权利要求1所述的方法,其特征在于,在所述控制参数集合对应两个单调子区间以上时,确定所述控制参数集合所映射的二分节点参数集合;
7.根据权利要求6所述的方法,其特征在于,所述得到比较结果之后,所述方法还包括:
8.一种控制参数的数模转换装置,其特征在于,包括:
9.一种电子设备,其特征在于,包括存储器和处理器,所述存储器用于存储计算机程序;所述处理器用于执行所述计算机程序,以实现根据权利要求1-7中任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com