一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

模型转换方法、处理芯片以及电子设备与流程

2022-02-22 23:45:44 来源:中国专利 TAG:


1.本发明涉及计算机技术领域,具体涉及一种模型转换方法、处理芯片以及电子设备。


背景技术:

2.脉冲神经网络(spiking neural network,简称snn)近年来以其低功耗和更接近人脑的特点吸引了学术界和产业界的关注。在脉冲神经网络中,轴突是接收脉冲的单元,神经元是发送脉冲的单元,一个神经元通过树突连接到多个轴突,树突和轴突的连接点称为突触。轴突接收到脉冲后,所有和这一轴突有突触连接的树突会收到脉冲,进而影响到树突下游神经元。神经元将来自多个轴突的脉冲相加并与之前的膜电压累加,如果数值超过阈值,就向下游发送一个脉冲。脉冲神经网络内传播的是1比特的脉冲,脉冲的激活频率比较低,并且只需要加减法运算,没有乘法运算,算力消耗和功耗都较深度神经网络更低。
3.第二代人工神经网络(artificial neural network,简称ann)发展早已非常成熟,但是ann人工神经网络纯数字编码信息的方式造成许多ann模型,如卷积神经网络(cnn)、循环神经网络(rnn)等模型在转换成snn模型后存在较大的精度损失,预测准确度不及原始模型的问题。
4.与第二代人工神经网络相比,传统的机器学习方法在工业数据分析中起到至关重要的作用。在机器学习方法中,随机森林模型通过并行集成多个决策树模型可对高维特征输入样本进行学习,产生泛化性较强的分类器,十分适合工业数据噪声大以及标签极不均衡的异常检测场景。然而,若想要将随机森林模型转换为脉冲神经网络模型,以减少运行随机森林模型的算力消耗与功耗,则同样会存在精度损失的问题。


技术实现要素:

5.本发明的目的是提供了一种模型转换方法、处理芯片以及电子设备,实现了决策树到脉冲神经网络的等价转换,进而能够将包含多个决策树的随机森林模型转换为脉冲神经网络,通过脉冲神经网络实现随机森林模型的样本分类功能,基本无精度损失,并且分类过程中基于脉冲进行计算,降低了算力消耗与功耗,并且拥有较好的硬件兼容性。
6.为实现上述目的,本发明提供了一种模型转换方法,包括:获取决策树的分支节点信息与叶节点信息,分支节点信息包括多个分支节点与各分支节点的决策条件,叶节点信息包括多个叶节点与各所述叶节点所属的样本类型;基于所述决策树的输入样本、输出样本类型、所述分支节点信息以及所述叶节点信息,构建与所述决策树对应的脉冲神经网络的结构;基于各所述分支节点的决策条件与各所述叶节点所属的样本类型,设置所述脉冲神经网络中相邻层之间的权重分布。
7.本发明还提供了一种样本分类方法,包括:将待分类样本分别输入到随机森林模型中的各决策树对应的脉冲神经网络,得到各所述脉冲神经网络输出的所述待分类样本的参考样本类型;其中,每个所述决策树由上述模型转换方法转换为脉冲神经网络;基于多个
所述脉冲神经网络输出的所述参考样本类型,得到所述待分类样本的决策类型。
8.本发明还提供了一种处理芯片,用于执行上述的模型转换方法,和/或样本分类方法。
9.本发明还提供了一种电子设备,包括:至少一个处理芯片;以及,与所述至少一个处理芯片通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理芯片执行的指令,所述指令被所述至少一个处理芯片执行,以使所述至少一个处理芯片能够执行如上述的模型转换方法,和/或样本分类方法。
10.本发明实施例中,在将决策树转换为脉冲神经网络时,先遍历决策树,获取决策树包含的分支节点与叶节点,以及各分支节点的决策条件与各所述叶节点所属的样本类型,随后基于所述决策树的输入样本、输出样本类型、所述分支节点信息以及所述叶节点信息,构建与所述决策树对应的脉冲神经网络的结构,继而再基于各所述分支节点的决策条件与各所述叶节点所属的样本类型,设置所述脉冲神经网络中相邻层之间的权重分布;至此实现了决策树到脉冲神经网络的等价转换,进而能够将包含多个决策树的随机森林模型转换为脉冲神经网络,通过脉冲神经网络实现随机森林模型的样本分类功能,基本无精度损失,并且分类过程中基于脉冲进行计算,降低了算力消耗与功耗,并且拥有较好的硬件兼容性。
11.在一个实施例中,计算每个所述表格对中包含的两个所述表格之间相同类型的数据列之间的相似度,包括:对于各所述表格对中的每个表格,分别对所述表格中各文本类型的文本数据列进行分词得到多个词汇,并统计各所述文本数据列中的每个词汇的频次;基于各所述表格对包含的两个所述表格的所述文本数据列中词汇的频次,得到各所述表格对中的两个所述表格之间的所述文本数据列之间的相似度。
12.在一个实施例中,所述基于所述决策树的输入样本、输出样本类型、所述分支节点信息以及所述叶节点信息,构建与所述决策树对应的脉冲神经网络的结构,包括:根据所述决策树的输入样本所包含的特征,构建所述脉冲神经网络的输入层的输入神经元;根据所述决策树包括的分支节点与各所述分支节点的决策条件,构建所述脉冲神经网络的共轭层的共轭神经元;根据所述决策树包括的叶节点,构建所述脉冲神经网络的决策层的决策神经元;根据所述决策树的输出样本类型,构建所述脉冲神经网络的输出层的输出神经元。
13.在一个实施例中,所述基于各所述分支节点的决策条件与各所述叶节点所属的样本类型,设置所述脉冲神经网络中相邻层之间的权重分布,包括:基于各所述分支节点的决策条件,设置所述输入层与所述共轭层之间的权重分布;基于各所述叶节点的决策路径,设置所述共轭层与所述决策层之间的权重分布;基于各所述叶节点所述的样本类型,设置所述决策层与所述输出层之间的权重分布。
14.在一个实施例中,基于各所述分支节点的决策条件,设置所述输入层与所述共轭层之间的权重分布,包括:对于所述输入层的每个输入神经元,基于与所述输入神经元连接的所述共轭神经元对应的所述分支节点的决策条件的决策阈值,设置所述输入神经元与所述共轭神经元之间的连接权重。
15.在一个实施例中,基于各所述叶节点的决策路径,设置所述共轭层与所述决策层之间的权重分布,包括:对于所述共轭层的每对共轭神经元,获取决策路径包括所述共轭神经元对应的所述分支节点的决策条件的目标决策神经元;基于各所述共轭神经元对应的所述分支节点的决策条件,设置各所述共轭神经元与对应的所述目标决策神经元之间的连接
权重。
16.在一个实施例中,所述基于与所述输入神经元连接的所述共轭神经元对应的所述分支节点的决策条件的决策阈值,设置所述输入神经元与所述共轭神经元之间的连接权重,包括:设置所述输入神经元与所述共轭神经元中的正神经元之间的连接权重为与所述输入神经元连接的所述共轭神经元对应的所述分支节点的决策条件的决策阈值的倒数;设置所述输入神经元与所述共轭神经元中的负神经元之间的连接权重为与所述输入神经元连接的所述共轭神经元对应的所述分支节点的决策条件的决策阈值的倒数的相反数。
17.在一个实施例中,所述基于各所述共轭神经元对应的所述分支节点的决策条件,设置各所述共轭神经元与对应的所述目标决策神经元之间的连接权重,包括:对于所述共轭层的每对共轭神经元,若所述共轭神经元对应的所述分支节点的决策条件为输入样本的特征大于决策阈值,设置所述共轭神经元中的正神经元与所述目标决策神经元之间的连接权重为1、所述共轭神经元中的正神经元与所述目标决策神经元之间的连接权重为0;若所述共轭神经元对应的所述分支节点的决策条件为输入样本的特征小于或等于决策阈值,设置所述共轭神经元中的正神经元与所述目标决策神经元之间的连接权重为0、所述共轭神经元中的正神经元与所述目标决策神经元之间的连接权重为1。
18.在一个实施例中,所述基于各所述叶节点所述的样本类型,设置所述决策层与所述输出层之间的权重分布,包括:对于所述输出层的每个输出神经元,获取属于所述输出神经元对应的样本类型的目标叶节点的总数,并将所述总数的倒数作为所述输出神经元与各所述目标叶节点对应的决策神经元之间的连接权重。
19.在一个实施例中,所述根据所述决策树包括的分支节点与各所述分支节点的决策条件,构建所述脉冲神经网络的共轭层的共轭神经元,包括:设置每个所述分支节点对应的共轭神经元;对于每个所述分支节点,根据所述分支节点的决策条件,设置与所述分支节点对应的共轭神经元包括的正神经元的激发条件与负神经元的激发条件。
附图说明
20.图1是根据本发明第一实施例中的模型转换方法的具体流程图;
21.图2是图1中的模型转换方法的步骤102的具体流程图;
22.图3是根据本发明第一实施例中的一个决策树的示意图;
23.图4是图3中的决策树转换得到脉冲神经网络的结构示意图;
24.图5是根据本发明第二实施例中的模型转换方法的具体流程图;
25.图6是图5中的模型转换方法的子步骤2032的具体流程图;
26.图7是根据本发明第三实施例中的样本分类方法的示意图。
具体实施方式
27.以下将结合附图对本发明的各实施例进行详细说明,以便更清楚理解本发明的目的、特点和优点。应理解的是,附图所示的实施例并不是对本发明范围的限制,而只是为了说明本发明技术方案的实质精神。
28.在下文的描述中,出于说明各种公开的实施例的目的阐述了某些具体细节以提供对各种公开实施例的透彻理解。但是,相关领域技术人员将认识到可在无这些具体细节中
的一个或多个细节的情况来实践实施例。在其它情形下,与本技术相关联的熟知的装置、结构和技术可能并未详细地示出或描述从而避免不必要地混淆实施例的描述。
29.除非语境有其它需要,在整个说明书和权利要求中,词语“包括”和其变型,诸如“包含”和“具有”应被理解为开放的、包含的含义,即应解释为“包括,但不限于”。
30.在整个说明书中对“一个实施例”或“一实施例”的提及表示结合实施例所描述的特定特点、结构或特征包括于至少一个实施例中。因此,在整个说明书的各个位置“在一个实施例中”或“在一实施例”中的出现无需全都指相同实施例。另外,特定特点、结构或特征可在一个或多个实施例中以任何方式组合。
31.如该说明书和所附权利要求中所用的单数形式“一”和
“”
包括复数指代物,除非文中清楚地另外规定。应当指出的是术语“或”通常以其包括“或/和”的含义使用,除非文中清楚地另外规定。
32.在以下描述中,为了清楚展示本发明的结构及工作方式,将借助诸多方向性词语进行描述,但是应当将“前”、“后”、“左”、“右”、“外”、“内”、“向外”、“向内”、“上”、“下”等词语理解为方便用语,而不应当理解为限定性词语。
33.本发明第一实施方式涉及一种模型转换方法,应用于电子设备中的处理芯片,电子设备例如为手机、平板电脑、笔记本电脑、台式主机等。处理芯片可以执行本实施例中的模型转换方法将随机森林模型中的决策树模型转换为脉冲神经网络模型。其中,随机森林模型的基本单元为决策树,每个随机森林模型包括多个决策树,每个决策树相当于一个决策树,能够对输入样本进行分类得到一个分类结果,分类结果表示了该输入样本的样本类型;本实施例中的模型转换方法能够将随机森林模型中的多个决策树分别转换为脉冲神经网络。
34.本实施方式的模型转换方法的具体流程如图1所示。
35.步骤101,获取决策树的分支节点信息与叶节点信息,分支节点信息包括多个分支节点与各分支节点的决策条件,叶节点信息包括多个叶节点与各叶节点所属的样本类型。
36.具体而言,对于待转换的决策树,其所包含的节点可以分为两类,分别为分支节点和叶节点,每个分支节点有对应的决策条件;在对该决策树进行遍历后,获取决策树的所包含的所有的分支节点与叶节点,并得到每个分支节点的决策条件以及各叶节点所属的样本类型。举例来说,对于包括q个分支节点和t个叶节点的决策树(q、t均为大于或等于1的整数),能够得到该决策树所包含的q个分支节点sn={l1,l2,

,lq},每个分支节点有对应的决策条件,得到q个决策条件con={c1,c2,

,cq},同时得到该决策树对应的t个叶节点ln={r1,r2,

,r
t
},以及每个叶节点所属的样本类型。另外,还会同时获取各叶节点的决策路径,决策路径表示判定样本属于该叶节点时经过的决策条件;对于第t个叶节点r
t
来说,其决策路径dp
t
=(cp
t1
,cp
t2


,cp
tm
)。
37.其中,决策树的每个叶节点所属的样本类型,可以通过训练数据集测试得到,训练数据集包括n个样本类型已知的训练样本(n为大于1的整数),训练数据集d={xi,i=1、2、

、n},将n个训练样本分别输入到决策树中,能够得到各训练样本所属的叶节点,对于每个叶节点,基于该叶节点包括的训练样本中各种样本类型的训练样本的占比,选取占比最多的样本类型作为该叶节点所属的样本类型。
38.步骤102,基于决策树的输入样本、输出样本类型、分支节点信息以及叶节点信息,
构建与决策树对应的脉冲神经网络的结构。
39.在一个例子中,请参考图2,步骤102包括以下子步骤:
40.子步骤1021,根据决策树的输入样本所包含的特征,构建脉冲神经网络的输入层的输入神经元。
41.具体而言,基于脉冲神经网络的神经元模型原理以及决策树的结构,构建的决策树对应的脉冲神经网络的结构包括:输入层、共轭层、决策层以及输出层。脉冲神经网络的输入层对应于决策树的输入样本,输入层中包括的输入神经元的数量与输入样本中所包含的特征的数量相等且一一对应,即针对输入样本中的每个特征分别设置对应的输入神经元。举例来说,输入样本xi包括m个特征(m为大于或等于1的正整数),输入样本xi=(x1,x2,

,xm),此时构建的输入层包括的输入神经元的数量为m个,且m个输入神经元与m个特征一一对应。
42.子步骤1022,根据决策树包括的分支节点与各分支节点的决策条件,构建脉冲神经网络的共轭层的共轭神经元。
43.具体而言,脉冲神经网络的共轭层对应于决策树的分支节点,每个分支节点对应于共轭层的一对共轭神经元,共轭神经元包括正神经元n 与负神经元n-;在设置每个分支节点对应的共轭神经元后,基于该分支节点的决策条件设置与分支节点对应的共轭神经元包括的正神经元的激发条件与负神经元的激发条件。举例来说,对于第i个分支节点li,若该分支节点的决策条件为ci:xi≤value
cond,i
,则可以设置该分支节点对应的共轭神经元中的正神经元与负神经元的激活条件为:
[0044][0045]
其中,v
threshold
表示共轭神经元中的正神经元的电压阈值,v
threshol
的电压阈值。
[0046]
另外,共轭神经元的正神经元与负神经元的初始电压v0以及重置电压v
reset
为:
[0047][0048]
在构建了脉冲神经网络的共轭层所有的共轭神经元之后,同时还会基于各分支节点的决策条件,设置输入层的输入神经元与共轭层的共轭神经元之间的连接关系;举例来说,若第i个分支节点li的决策条件为ci:xi≤value
cond,i
,则将特征xi对应的输入神经元与该分支节点对应的共轭神经元的正神经元与负神经元分别连接。
[0049]
第i个分支节点li的决策条件为ci:xi≤value
cond,i
,在共轭层中第i个分支节点li对应共轭神经元的正神经元与负神经元的输出脉冲为:当xi>value
cond,i
时,正神经元的输出脉冲“1”、负神经元的输出脉冲“0”,当xi≤value
cond,i
时,正神经元的输出脉冲“0”、负神经元的输出脉冲“1”。
[0050]
子步骤1023,根据决策树包括的叶节点,构建脉冲神经网络的决策层的决策神经
元。
[0051]
具体而言,脉冲神经网络的决策层对应于决策树的叶节点,每个叶节点对应于决策层的一个决策神经元,即决策神经元的数量与叶节点的数量相同,且一一对应;举例来说,决策树包括t个叶节点ln={r1,r2,

,r
t
},则构建的决策层包括t个决策神经元,t个决策神经元与t个叶节点一一对应。
[0052]
在构建了脉冲神经网络的决策层所有的决策神经元后,同时还会基于各叶节点的决策路径,确定出共轭层的共轭神经元与决策层的决策神经元之间的连接关系;即若某个共轭层对应的分支节点的决策条件在叶节点的决策路径上,则将该共轭层的正神经元与负神经元分别与叶节点对应的决策神经元连接。
[0053]
子步骤1024,根据决策树的输出样本类型,构建脉冲神经网络的输出层的输出神经元。
[0054]
具体而言,脉冲神经网络的输出层对应于决策树输出的样本类型,输出层中包括的输出神经元的数量与输出的样本类型的数量相等且一一对应,即针对每种样本类型分别设置对应的输出神经元。举例来说,决策树中包括p个样本类型,则可以表示为cl=(cl1,cl2,

,cl
p
),此时构建的输出层中输出神经元的数量为p个,且p个输出神经元与p个样本类型一一对应。其中,决策层的决策神经元与输出层的输出神经元可以均采用基于lif(leakyintegrate-and-fire)神经元模型,其动力学方程表示为dv/dt,其中v表示神经元电压,t表示时间。
[0055]
在构建了脉冲神经网络的输出层所有的输出神经元后,基于各叶节点所属的样本类型,设置决策层的决策神经元与输出层的输出神经元之间的连接关系,即对于决策层的每个决策神经元,获取该决策神经元对应的叶节点所属的样本类型,然后该决策神经元连接到该样本类型对应的输出神经元。
[0056]
步骤103,基于各分支节点的决策条件与各叶节点所属的样本类型,设置脉冲神经网络中相邻层之间的权重分布。
[0057]
具体而言,在构建出决策树所对应的脉冲神经网络的结构后,在结合各分支节点的决策条件与各叶节点所属的样本类型,设置输入层与共轭层、共轭层与决策层以及决策层与输出层之间的权重分布;至此完成了决策树到脉冲神经网络的转换。
[0058]
下面以图3中的决策树为例对本实施例的模型转换方法进行说明。
[0059]
遍历该决策树,决策树的包括13个节点,分别为数字标号0至12,13个节点中包括6个分支节点,分别为节点0、节点2、节点3、节点5、节点8、节点9,将6个分支节点按照数字大小依次排列,并表示为sn6={l1,l2,

,l6},6个分支节点对应的6个决策条件表示为con6={c1,c2,

,c6};13个节点中包括7个叶节点,分别为节点1、节点4、节点6、节点7、节点10、节点11、节点12,将7个叶节点按照数字大小依次排列,并表示为ln7={r1,r2,

,r7}。决策树的输入样本包括4个特征,输入样本xi=(x1,x2,x3,x4),输出的样本类型包括3种,则可以表示为cl=(cl1,cl2,cl3),叶节点r1∈cl1、叶节点r2∈cl2、叶节点r3∈cl2、叶节点r4∈cl3、叶节点r5∈cl3、叶节点r6∈cl3、叶节点r7∈cl1。
[0060]
输入样本中特征的数量为4,构建的脉冲神经网络的输入层的输入神经元的数量为4,4个输入神经元与4个特征一一对应,4个输入神经元分别表示为x1、x2、x3、x4。
[0061]
决策树包括6个分支节点sn6={l1,l2,

,l6},构建的共轭层包括6对共轭神经元,分别与6个分支节点一一对应,在共轭神经元中正神经元用于处理决策条件不满足的情况、负神经元用于处理决策条件满足的情况,举例来说:分支节点l1的决策条件为c1:x3≤2.45,则分支节点l1对应的共轭神经元中正神经元用于处理x3大于2.45的情况,负神经元用于处理x3小于等于2.45的情况;分支节点l2至l5对应的共轭神经元的设置方式与分支节点l1类似,在此不再赘述。在构建了各分支节点对应的共轭神经元后,基于各分支节点的决策条件所需输入的特征,将共轭神经元与输入神经元进行连接,以分支节点l1为例,分支节点l1的决策条件为c1:x3≤2.45,则将输入节点x3分别连接到共轭神经元的正神经元与负神经元分支节点l2至l6与输入神经元的连接关系的设置方式与分支节点l1类似,在此不再赘述。
[0062]
决策树包括7个叶节点ln7={r1,r2,

,r7},构建的决策层包括7个决策神经元,分别与7个叶节点一一对应,7个决策神经元分别为k1至k7。在构建了各叶节点对应的决策神经元后,基于各叶节点的决策路径,确定出共轭层的共轭神经元与决策层的决策神经元之间的连接关系;举例来说,叶节点r1的决策路径dp1=(c1),则将分支节点l1对应的共轭神经元的正神经元与负神经元分别连接到叶节点r1对应的决策神经元k1;叶节点r2至r7与共轭神经元的连接关系的设置方式与叶节点r1类似,在此不再赘述。
[0063]
决策树包括3种样本类型cl=(cl1,cl2,cl3),构建的输出层包括3个输出神经元,分别与3个样本类型的一一对应,3个输出神经元分别为cl1至cl3。在构建了脉冲神经网络的输出层的3个输出神经元后,基于各叶节点所属的样本类型,设置决策层的决策神经元与输出层的输出神经元之间的连接关系。举例来说,叶节点r1∈cl1,则将叶节点r1对应的决策神经元k1连接到输出神经元cl1。
[0064]
在基于上述过程构建出的决策树对应的脉冲神经网络的结构如图4所示,随后进一步结合各分支节点的决策条件与各叶节点所属的样本类型,设置输入层与共轭层、共轭层与决策层以及决策层与输出层之间的权重分布;至此完成了决策树到脉冲神经网络的转换。
[0065]
本实施例提供了一种模型转换方法,在将决策树转换为脉冲神经网络时,先遍历决策树,获取决策树包含的分支节点与叶节点,以及各分支节点的决策条件与各叶节点所属的样本类型,随后基于决策树的输入样本、输出样本类型、分支节点信息以及叶节点信息,构建与决策树对应的脉冲神经网络的结构,继而再基于各分支节点的决策条件与各叶节点所属的样本类型,设置脉冲神经网络中相邻层之间的权重分布;至此实现了决策树到脉冲神经网络的等价转换,进而能够将包含多个决策树的随机森林模型转换为脉冲神经网络,通过脉冲神经网络实现随机森林模型的样本分类功能,基本无精度损失,并且分类过程中基于脉冲进行计算,降低了算力消耗与功耗,并且拥有较好的硬件兼容性。
[0066]
本发明的第二实施例涉及一种模型转换方法,本实施方式相对于第一实施方式而言:本实施例提供了基于各分支节点的决策条件与各叶节点所属的样本类型,设置脉冲神经网络中相邻层之间的权重分布的一种具体实现方式。
[0067]
本实施例的模型转换方法的具体流程如图5所示。
[0068]
步骤201,获取决策树的分支节点信息与叶节点信息,分支节点信息包括多个分支
节点与各分支节点的决策条件,叶节点信息包括多个叶节点与各叶节点所属的样本类型。与第一实施例的步骤101大致相同,在此不再赘述。
[0069]
步骤202,基于决策树的输入样本、输出样本类型、分支节点信息以及叶节点信息,构建与决策树对应的脉冲神经网络的结构。与第一实施例的步骤102大致相同,在此不再赘述。
[0070]
步骤203,包括以下子步骤:
[0071]
子步骤2031,基于各分支节点的决策条件,设置输入层与共轭层之间的权重分布。
[0072]
具体而言,对于输入层的每个输入神经元,基于与输入神经元连接的共轭神经元对应的分支节点的决策条件的决策阈值,设置输入神经元与共轭神经元之间的连接权重。
[0073]
本实施例中,设置输入神经元与共轭神经元中的正神经元之间的连接权重为与输入神经元连接的共轭神经元对应的分支节点的决策条件的决策阈值的倒数,设置输入神经元与共轭神经元中的负神经元之间的连接权重为与输入神经元连接的共轭神经元对应的分支节点的决策条件的决策阈值的倒数的相反数。以任一输入神经元为例,该输入神经元连接到第i个分支节点li,若该分支节点li的决策条件为ci:xi≤value
cond,i
,则可以设置输入神经元与分支节点对应li的共轭神经元中正神经元的连接权重负神经元的连接权重分别为:
[0074][0075][0076]
举例来说,以图4中的相互连接的输入神经元x3与共轭神经元为例,输入神经元x3与正神经元之间的连接权重为1/2.45,输入神经元x3与负神经元之间的连接权重为-1/2.45。
[0077]
子步骤2032,基于各叶节点的决策路径,设置共轭层与决策层之间的权重分布。
[0078]
在一个例子中,请参考图6,子步骤2032包括以下子步骤:
[0079]
子步骤20321,对于共轭层的每对共轭神经元,获取决策路径包括共轭神经元对应的分支节点的决策条件的目标决策神经元。
[0080]
子步骤20322,基于各共轭神经元对应的分支节点的决策条件,设置各共轭神经元与对应的目标决策神经元之间的连接权重。
[0081]
具体而言,对于第t个叶节点r
t
来说,其决策路径dp
t
=(cp
t1
,cp
t2


,cp
tm
),叶节点r
t
对应的决策神经元为k
t
,决策条件为cp
t1
、cp
t2


、以及cp
tm
的m个分支节点所对应的m个共轭神经元以决策神经元k
t
为目标决策神经元。
[0082]
在确定了各共轭神经元对应的目标决策神经元后,对于每对共轭神经元,基于该共轭神经元对应的分支节点的决策条件,设置该共轭神经元与对应的各目标决策神经元之间的连接权重;具体的,对于共轭层的每对共轭神经元,若共轭神经元对应的分支节点的决策条件为输入样本的特征大于决策阈值,设置共轭神经元中的正神经元与目标决策神经元之间的连接权重为1、共轭神经元中的正神经元与目标决策神经元之间的连接权重为0;若
共轭神经元对应的分支节点的决策条件为输入样本的特征小于或等于决策阈值,设置共轭神经元中的正神经元与目标决策神经元之间的连接权重为0、共轭神经元中的正神经元与目标决策神经元之间的连接权重为1。
[0083]
以第q个分支节点lq为例,该分支节点的决策条件为cq:xq≤value
cond,q
,分支节点lq为对应的共轭神经元包括正神经元与负神经元该共轭神经元的目标决策神经元为叶节点r
t
对应的决策神经元kt。在共轭神经元中正神经元用于处理决策条件不满足的情况、负神经元用于处理决策条件满足的情况,若目标决策神经元k
t
对应的叶节点的决策路径中决策条件为xq≤value
cond,q
,则正神经元与目标决策神经元为k
t
之间的连接权重为0、负神经元与目标决策神经元为k
t
之间的连接权重为1。若目标决策神经元为k
t
对应的叶节点的决策路径中决策条件为xq>value
cond,q
,则正神经元与目标决策神经元为k
t
之间的连接权重为1、负神经元与目标决策神经元为kt之间的连接权重为0。以图4中的共轭神经元(正神经元与负神经元)为例,该共轭神经元对应的分支节点l1的决策条件为c1:x3≤2.45,则正神经元与决策神经元k1之间的连接权重为0(图中以虚线表示连接权重为0);负神经元与决策神经元k1之间的连接权重为1(图4中是实线表示连接权重为1)。
[0084]
子步骤2033,基于各叶节点的样本类型,设置决策层与输出层之间的权重分布。
[0085]
具体而言,对于输出层的每个输出神经元,获取属于输出神经元对应的样本类型的目标叶节点的总数,并将总数的倒数作为输出神经元与各目标叶节点对应的决策神经元之间的连接权重。
[0086]
以图4中样本类型cl1对应的输出神经元cl1为例,其中,叶节点r1∈cl1、叶节点r7∈cl1,由此设置叶节点r1对应的决策神经元k1与输出神经元cl1的连接权重为1/2、设置叶节点r7对应的决策神经元k7与输出神经元cl1的连接权重为1/2,当决策神经元k1与决策神经元k7被同时激活时,决策神经元k1输出脉冲“1”乘以权重1/2后输入到输出神经元cl1、决策神经元k7输出脉冲“1”乘以权重1/2后输入到输出神经元cl1,此时输出神经元cl1被激活。
[0087]
举例来说,以输入样本(3,0,3,2)输入到图4的脉冲神经网络为例,其中x3=3>2.45、x3=3<4.85、x1=3>2.85、x1=3<6.05、x4=2>1.7、x4=2>1.65,此时负神经元输出脉冲“1”至决策神经元k2、k5、k6、k7,负神经元输出脉冲“1”至决策神经元k5、k6、k7,正神经元输出脉冲“1”至决策神经元k4,正神经元输出脉冲“1”至决策神经元k6、k7,负神经元输出脉冲“1”至决策神经元k5,此时决策神经元k4、k5、k6分别输出脉冲“1”至输出神经元cl3,输出神经元cl3被激活,输入样本(3,0,3,2)所属的类别为cl3。同时,结合图3的决策树,可以得知输入样本(3,0,3,2)分类到叶节点r4,叶节点r4∈cl3,即决策树的分类结果与脉冲神经网络的分类结果相同。
[0088]
本发明的第三实施例涉及一种样本分类方法,应用于电子设备中的处理芯片,电子设备例如为手机、平板电脑、笔记本电脑、台式主机等。处理芯片可以执行本实施例中的
样本分类方法利用由随机森林模型转换得到的脉冲神经网络对待分类样本进行分类。其中随机森林模型的基本单元为决策树,每个随机森林模型包括多个决策树,每个决策树相当于一个决策树,能够对输入样本进行分类得到一个分类结果,分类结果表示了该输入样本的样本类型。
[0089]
本实施例的样本分类方法的具体流程如图7所示。
[0090]
步骤301,将待分类样本分别输入到随机森林模型中的各决策树对应的脉冲神经网络,得到各脉冲神经网络输出的待分类样本的参考样本类型;其中,每个决策树由第一实施例或第二实施例模型转换方法转换为脉冲神经网络。
[0091]
具体而言,电子设备中预设了随机森林模型中的各决策树对应的脉冲神经网络,对于随机森林模型的每个决策树,可以利用第一实施例或第二实施例中的模型转换方法,将决策树模型转换为脉冲神经网络,由此能够得到多个决策树对应的多个脉冲神经网络。举例来说,若随机森林模型包括v个决策树,rf={dt1,dt2,

,dtv},从而能够得到v个脉冲神经网络。
[0092]
对于每个待分类样本,将该样本分别输入到各决策树对应的脉冲神经网络,每个脉冲神经网络均输出一个该待分类样本的分类结果,分类结果中包括该分类样本对应的参考样本类型。由上,随机森林模型包括v个决策树,则将待分类样本分别输入到v个脉冲神经网络后,能够得到待分类样本的v个参考样本类型。
[0093]
其中,对于每个决策树对应的脉冲神经网络,将待分类样本输入到脉冲神经网络后输出的第一个样本类型,作为待分类样本的参考样本类型。基于脉冲神经网络的特性,会有持续的脉冲输入到脉冲神经网络中,可能会出现多个输出神经元被激活的情况;对于每个脉冲神经网络,以待分类样本被输入到脉冲神经网络时,第一个被激活的输出神经元对应的样本类型,作为待分类样本的参考样本类型。
[0094]
步骤302,基于多个脉冲神经网络输出的参考样本类型,得到待分类样本的决策类型。
[0095]
具体而言,对于每个决策树对应的脉冲神经网络,将待分类样本输入到脉冲神经网络后输出的第一个样本类型,作为待分类样本的参考样本类型。对于待分类样本a,得到了待分类样本a的v个参考样本类型,参考样本类型集合res
x
=[cl
dt1
,cl
dt2
,cl
dt3
,

,cl
dtv
],从参考样本类型集合res
x
选取样本类型的众数作为待分类样本最终的决策类型。
[0096]
本实施例提供了应用上述的模型转换方法的样本分类方法,随机森林模型中的各决策树基于模型转换方法转换为了脉冲神经网络,在对待分类样本进行分类时,将待分类样本分别输入到随机森林模型中的各决策树对应的脉冲神经网络,得到各脉冲神经网络输出的待分类样本的参考样本类型,随后再基于多个脉冲神经网络输出的参考样本类型,得到待分类样本的决策类型,通过脉冲神经网络实现随机森林模型的样本分类功能,基本无精度损失,并且分类过程中基于脉冲进行计算,降低了算力消耗与功耗,并且拥有较好的硬件兼容性。
[0097]
本发明的第四实施例涉及一种处理芯片,应用于电子设备,电子设备例如为手机、平板电脑、笔记本电脑、台式主机等。处理芯片用于执行第一或第二实施例中的模型转换方法,和/或第三实施例中的样本分类方法。
[0098]
本发明的第五实施例涉及一种电子设备,电子设备例如为手机、平板电脑、笔记本
电脑、台式主机等。电子设备包括至少一个处理器;以及,与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行第一或第二实施例中的模型转换方法,和/或第三实施例中的样本分类方法。
[0099]
其中,存储器和处理器采用总线方式连接,总线可以包括任意数量的互联的总线和桥,总线将一个或多个处理器和存储器的各种电路连接在一起。总线还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其他电路连接在一起,这些都是本领域所公知的,因此,本文不再对其进行进一步描述。总线接口在总线和收发机之间提供接口。收发机可以是一个元件,也可以是多个元件,比如多个接收器和发送器,提供用于在传输介质上与各种其他装置通信的单元。经处理器处理的数据通过天线在无线介质上进行传输,进一步,天线还接收数据并将数据传送给处理器。
[0100]
处理器负责管理总线和通常的处理,还可以提供各种功能,包括定时,外围接口,电压调节、电源管理以及其他控制功能。而存储器可以被用于存储处理器在执行操作时所使用的数据。
[0101]
本发明第六实施方式涉及一种计算机可读存储介质,存储有计算机程序。计算机程序被处理器执行时实现上述方法实施例。
[0102]
以上已详细描述了本发明的较佳实施例,但应理解到,若需要,能修改实施例的方面来采用各种专利、申请和出版物的方面、特征和构思来提供另外的实施例。
[0103]
考虑到上文的详细描述,能对实施例做出这些和其它变化。一般而言,在权利要求中,所用的术语不应被认为限制在说明书和权利要求中公开的具体实施例,而是应被理解为包括所有可能的实施例连同这些权利要求所享有的全部等同范围。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献