计算电路、方法、装置、芯片及电子设备与流程
本申请属于数据处理,具体涉及一种计算电路、方法、装置、芯片、及电子设备。
背景技术:
1、目前,分段线性近似(piecewise linear,pwl)可以将激活函数离散为若干线性段,且每个线性段可以对应一个斜率信息和一个截距信息。相关技术中,分段线性计算单元需要针对激活函数的整个定义域(即同时包括正半轴和负半轴)进行分段,得到分段线性参数集(即分段得到的每个线性段和每个线性段对应的斜率信息和截距信息),并将该分段线性参数集存储在芯片中,以使分段线性计算单元可以加载任意激活函数的分段线性参数集,切换为不同激活函数的近似器。
2、但是,由于上述技术中存在分段线性计算单元存储的参数量过大的问题,使得分段线性计算单元的尺寸较大,因此导致芯片的尺寸较大,影响芯片的部署。
技术实现思路
1、本申请实施例的目的是提供一种计算电路、方法、装置、芯片及电子设备,能够解决芯片的尺寸较大,影响芯片的部署的问题。
2、第一方面,本申请实施例提供了一种计算电路,该计算电路包括:输入处理单元,用于确定输入自变量的自变量绝对值,并根据自变量绝对值确定映射自变量,该映射自变量属于单一符号的目标区间;分段线性近似单元,与输入处理单元连接,用于根据映射自变量和目标激活函数对应的分段线性参数集输出映射分段线性近似值,该分段线性参数集所配置的定义域为目标区间;重构补偿单元,与分段线性近似单元连接,用于根据目标激活函数对应的重构补偿配置参数集,对映射分段线性近似值进行重构补偿,输出目标激活函数在输入自变量下的函数值。
3、第二方面,本申请实施例提供了一种芯片,该芯片包括如第一方面中的计算电路。
4、第三方面,本申请实施例提供一种计算方法,应用于如第一方面的计算电路,该方法包括:通过计算电路的输入处理单元,确定输入自变量的自变量绝对值,并根据自变量绝对值确定映射自变量,该映射自变量属于单一符号的目标区间;并通过计算电路的分段线性近似单元,根据映射自变量和目标激活函数对应的分段线性参数集输出映射分段线性近似值,该分段线性参数集所配置的定义域为目标区间;且通过计算电路的重构补偿单元,根据目标激活函数对应的重构补偿配置参数集,对映射分段线性近似值进行重构补偿,输出目标激活函数在输入自变量下的函数值。
5、第四方面,本申请实施例提供一种计算装置,该计算装置包括:处理模块,用于确定输入自变量的自变量绝对值,并根据自变量绝对值确定映射自变量,该映射自变量属于单一符号的目标区间;并根据映射自变量和目标激活函数对应的分段线性参数集输出映射分段线性近似值,该分段线性参数集所配置的定义域为目标区间;且根据目标激活函数对应的重构补偿配置参数集,对映射分段线性近似值进行重构补偿,输出目标激活函数在输入自变量下的函数值。
6、第五方面,本申请实施例提供了一种电子设备,该电子设备包括如第一方面的计算电路,或包括如第二方面的芯片。
7、第六方面,本申请实施例提供了一种可读存储介质,该可读存储介质上存储程序或指令,该程序或指令被处理器执行时实现如第三方面的方法的步骤。
8、第七方面,本申请实施例提供一种计算机程序产品,该程序产品被存储在存储介质中,该程序产品被至少一个处理器执行以实现如第三方面的方法的步骤。
9、第八方面,本申请实施例提供一种芯片,该芯片包括处理器和通信接口,该通信接口和处理器耦合,该处理器用于运行程序或指令,实现如第三方面的方法的步骤。
10、在本申请实施例中,计算电路可以包括输入处理单元、分段线性近似单元和重构补偿单元,该分段线性近似单元与输入处理单元连接,该重构补偿单元与该分段线性近似单元连接,其中,该输入处理单元用于确定输入自变量的自变量绝对值,并根据自变量绝对值确定映射自变量,该映射自变量属于单一符号的目标区间,该分段线性近似单元用于根据映射自变量和目标激活函数对应的分段线性参数集输出映射分段线性近似值,该分段线性参数集所配置的定义域为目标区间,该重构补偿单元用于根据目标激活函数对应的重构补偿配置参数集,对映射分段线性近似值进行重构补偿,输出目标激活函数在输入自变量下的函数值。由于输入处理单元可以确定输入自变量的自变量绝对值,并根据自变量绝对值确定映射自变量,以将属于任意符号的区域的输入自变量映射为属于单一符号的目标区间,而不是直接使用属于包括正符号和负符号的区间的输入自变量,这样分段线性近似单元可以根据该映射自变量和目标激活函数对应的分段线性参数集(该分段线性参数集所配置的定义域为单一符号的目标区间)输出映射分段线性近似值,而在所配置的定义域为单一符号的目标区间的情况下该分段线性参数集的参数量,小于在所配置的定义域包括正符号和负符号的目标区间的情况下该分段线性参数集的参数量,也就是说,分段线性近似单元可以根据映射自变量和参数量较小的分段线性参数集输出映射分段线性近似值,而且重构补偿单元可以根据目标激活函数对应的重构补偿配置参数集,对映射分段线性近似值进行重构补偿,输出目标激活函数在输入自变量下的函数值,即重构补偿单元可以输出准确的函数值,因此,可以在确保输出的函数值的准确性的同时,减少计算所使用的分段线性参数集的参数量,从而可以减少计算电路存储的参数量,可以降低计算电路的尺寸,进而可以降低包含该计算电路的芯片的尺寸,如此,便于芯片的部署。
1.一种计算电路,其特征在于,包括:
2.根据权利要求1所述的计算电路,其特征在于,所述计算电路还包括:
3.根据权利要求1或2所述的计算电路,其特征在于,所述分段线性参数集包括至少一组参数,每组参数包括分段线性区间信息、斜率信息和截距信息,所述分段线性区间信息用于指示所述目标区间内的分段子区间;
4.根据权利要求1或2所述的计算电路,其特征在于,所述目标激活函数对应的重构补偿配置参数集包括符号配置位、补偿配置位以及补偿参数;
5.根据权利要求4所述的计算电路,其特征在于,所述输入处理单元,还用于从所述输入自变量中获取符号信息;
6.根据权利要求4所述的计算电路,其特征在于,所述relu补偿器包括:
7.一种芯片,其特征在于,包括如权利要求1至6中任一项所述的计算电路。
8.一种计算方法,其特征在于,应用于如权利要求1至6中任一项所述的计算电路,所述方法包括:
9.根据权利要求8所述的方法,其特征在于,在所述通过所述计算电路的分段线性近似单元,根据所述映射自变量和目标激活函数对应的分段线性参数集输出映射分段线性近似值之前,所述方法还包括:
10.根据权利要求9所述的方法,其特征在于,在所述通过所述计算电路的寄存器组,向所述分段线性近似单元提供至少一个激活函数中的所述目标激活函数对应的分段线性参数集之前,所述方法还包括:
11.根据权利要求8至10中任一项所述的方法,其特征在于,所述分段线性参数集包括至少一组参数,每组参数包括分段线性区间信息、斜率信息和截距信息,所述分段线性区间信息用于指示所述目标区间内的分段子区间;
12.根据权利要求8至10中任一项所述的方法,其特征在于,所述目标激活函数对应的重构补偿配置参数集包括符号配置位、补偿配置位以及补偿参数;
13.根据权利要求12所述的方法,其特征在于,在所述通过所述重构补偿单元的条件取反器,根据所述符号配置位,对所述映射分段线性近似值进行重构,输出第一中间结果之前,所述方法还包括:
14.根据权利要求13所述的方法,其特征在于,所述根据符号取反后的所述符号信息和所述映射分段线性近似值,输出所述第一中间结果,包括:
15.根据权利要求12所述的方法,其特征在于,所述通过所述重构补偿单元的relu补偿器,根据所述补偿配置位,对所述第一中间结果进行补偿,输出第二中间结果,包括:
16.一种计算装置,其特征在于,包括:
17.一种电子设备,其特征在于,包括如权利要求1至6中任一项所述的计算电路,或包括如权利要求7所述的芯片。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com