一种多对象超维向量概率分解方法、装置及系统

摘要: 本发明属于神经符号计算、超维计算及存内计算,具体涉及一种多对象超维向量概率分解方法、装置及系统。背景技术:1、神经符号人工智能通过结合神经网络的感知能力和符号系...
一种多对象超维向量概率分解方法、装置及系统

本发明属于神经符号计算、超维计算及存内计算,具体涉及一种多对象超维向量概率分解方法、装置及系统。

背景技术:

1、神经符号人工智能通过结合神经网络的感知能力和符号系统的推理能力,能够在结构化认知、组合推理和可解释智能等场景中展现优于纯数据驱动方法的性能。超维计算利用高维超维向量表示符号、关系及组合语义信息,并通过绑定、叠加、解绑定及相似度计算实现推理,因此被认为是适配神经符号计算的重要实现范式。

2、在现有超维推理任务中,越来越多的应用场景需要同时处理多个对象及其层级属性信息。例如,在结构化视觉推理任务中,单幅图像中往往同时存在多个对象,每个对象又具有类别、位置、颜色、大小、类型或更深层级的属性关系。为描述这类复杂关系,已有技术提出了面向多对象、多子类层级结构的超维表示模型,能够在超维空间中对多个对象及其属性组合进行统一编码。

3、然而,在多个对象被叠加到同一查询超维向量之后,超维项之间会产生明显的叠加噪声,导致分解过程容易受到“超叠加灾难”和相同项重复出现问题的影响。随着对象数量增加、类别数量增加或层级深度增加,候选项之间的可分离性下降,传统分解方法的准确率和效率均会明显下降。

4、现有分解方法通常采用基于固定阈值的候选项判断或基于穷举组合的搜索策略。一方面,固定阈值在不同任务规模、不同类别数及不同对象数条件下往往需要重新调整,适应性较差;另一方面,穷举组合或大量迭代相似度搜索会引入较高时延和能耗,对于多对象复合超维向量尤其如此。

5、此外,现有超维分解算法在硬件实现上通常部署于冯·诺依曼架构中,需要频繁在存储器和处理单元之间搬移超维向量数据。由于解绑定和相似度计算涉及大量乘加或等效乘加操作,该类实现方式面临显著的存储墙问题。在神经符号系统中,即便前端感知模型已输出查询超维向量,后续分解阶段仍会消耗大量访存和计算资源,导致整体系统能效受限。

6、因此,如何提出一种既能提升多对象复合超维向量分解准确率,又能降低固定阈值依赖,并进一步适配低功耗硬件执行的分解方法和实现结构,成为本领域亟待解决的技术问题。

技术实现思路

1、为了弥补现有技术的不足,本发明旨在提供一种多对象超维向量概率分解方法、装置及系统,能够降低多对象超维向量分解过程对固定阈值调节和高精度数值恢复的依赖,提高复杂超维表示的分解准确率、分解效率及硬件能效。

2、为实现上述目的,本发明可采用以下具体技术方案:

3、第一目的在于,提供一种多对象超维向量概率分解方法,包括以下步骤:

4、步骤1、获取待分解的查询超维向量,所述查询超维向量用于表征多个对象对应的复合语义信息;

5、步骤2、针对待分解类别,对所述查询超维向量执行解绑定处理,以获得所述待分解类别下各候选超维项对应的相似度结果;

6、步骤3、基于所述相似度结果执行候选项选择,其中,第一轮分解时,采用确定性选择,从第二轮分解开始,将所述相似度结果映射为候选概率分布,并基于所述候选概率分布选择目标候选项;

7、步骤4、将已选择的目标候选项替代对应的类别标签,对剩余类别继续执行解绑定处理和候选项选择,以得到同一对象下多个类别对应的分解结果;

8、步骤5、根据同一对象下多个类别对应的分解结果重构单对象超维向量,并将所述单对象超维向量从当前查询超维向量中消去,得到残差向量;

9、步骤6、对所述残差向量重复执行解绑定、候选项选择、对象重构和残差更新,直至所述残差向量满足预设终止条件。

10、进一步地,所述查询超维向量表征的对象包含类别、子类别或多层级属性信息,所述方法按照由高层级到低层级的顺序执行候选项选择,并在上层级分解结果基础上收缩下层级搜索范围。

11、进一步地,所述步骤3中,候选概率分布由候选超维项的相似度结果经归一化映射、竞争映射或激活映射得到。

12、进一步地,所述步骤4中,在后续分解阶段,利用已选择的目标候选项替代对应类别标签,包括:

13、对已完成分解的类别,使用对应目标候选项的超维向量参与后续类别的解绑定运算;

14、对尚未完成分解的类别,继续使用对应类别标签的超维向量参与解绑定运算。

15、进一步地,所述步骤6中,所述预设终止条件包括以下至少之一:

16、残差向量的元素绝对值和低于预设残差阈值;

17、残差向量与噪声参考向量的相似度满足噪声判定条件;

18、分解得到的对象数量达到预设上限;

19、当所述残差向量在达到对象数量上限后仍不满足终止条件时,恢复初始查询超维向量,并重新执行步骤2-步骤6的解绑定、候选项选择、对象重构和残差更新过程中的至少一轮基于候选概率分布的迭代分解,以实现自动纠错。

20、进一步地,相似度计算通过铁电存内计算结构执行,所述铁电存内计算结构包括:

21、多个三值存储单元,每个所述三值存储单元包含第一铁电晶体管和第二铁电晶体管,所述第一铁电晶体管与所述第二铁电晶体管通过不同阈值状态组合分别存储正值权重、负值权重或零值权重;

22、输入驱动电路,用于向多个所述三值存储单元输入查询超维向量对应的有符号输入;

23、正向累加路径和负向累加路径,用于分别累加正乘积结果和负乘积结果;

24、差分感测电路,用于根据所述正向累加路径和负向累加路径的输出获得候选超维项的相似度结果。

25、进一步地,所述三值存储单元为2fefet-4t结构,多个存储单元构成阵列,且多列存储单元之间共享部分开关晶体管;所述输入驱动电路以按位分时方式输入整数型超维向量,使所述铁电存内计算结构能够对多对象叠加后的非截断超维向量执行有符号分阶段相似度计算。

26、进一步地,所述铁电存内计算结构还包括概率选择外围电路,所述概率选择外围电路包括:

27、竞争网络,用于增强候选项差异;

28、随机信号生成电路,用于产生随机比较门限;

29、比较选择电路,用于根据候选项输出与随机比较门限的比较结果确定目标候选项。

30、第二目的在于,提供一种多对象超维向量概率分解装置,用于执行上述的多对象超维向量概率分解方法,包括:

31、查询向量获取模块,用于获取待分解的查询超维向量;

32、解绑定模块,用于针对待分解类别对所述查询超维向量执行解绑定处理;

33、相似度计算模块,用于计算候选超维项与解绑定结果之间的相似度结果;

34、概率选择模块,用于在初始分解阶段执行确定性选择,并在后续分解阶段将所述相似度结果映射为候选概率分布后选择目标候选项;

35、对象重构模块,用于根据多个类别对应的分解结果重构单对象超维向量;

36、残差更新模块,用于将所述单对象超维向量从当前查询超维向量中消去,形成残差向量;

37、终止判断模块,用于判断是否满足预设终止条件。

38、第三目的在于,提供一种多对象超维向量概率分解系统,包括:感知前端、上述的一种多对象超维向量概率分解装置、铁电存内计算结构,所述感知前端用于输出查询超维向量,输出的查询超维向量来源于结构化视觉推理任务中的图像样本;所述多对象神经符号推理装置用于执行概率式超维向量分解;所述铁电存内计算结构用于执行解绑定相关的相似度计算以及候选项概率选择。

39、与现有技术相比,本发明有以下优点:

40、(1)本发明通过将相似度结果映射为候选概率分布,并执行概率式候选选择,降低了分解过程对固定阈值的强依赖; 通过已分解项替代类别标签的逐类收缩机制,减少了后续搜索空间,提升了分解效率; 通过对象重构与残差消去,形成自动纠错式迭代分解流程,提高了多对象复杂场景下的分解准确率。

41、(2)本发明通过铁电存内计算结构执行有符号三值相似度计算,降低了数据搬移开销和高精度数值恢复需求;利用查询超维向量的稀疏特征,实现了更低的功耗和更高的硬件执行效率。

42、(3)本发明适用于结构化视觉推理、神经符号推理及边缘智能推理等场景,具有良好的通用性和扩展性。