具有前向学习和元学习功能的类脑视觉神经网络的制作方法

1.本发明涉及类脑视觉算法和脉冲神经网络领域，更具体的说是涉及一种具有前向学习和元学习功能的类脑视觉神经网络。


背景技术：

2.现有的深度学习视觉算法存在如下问题：
3.1，缺乏对视觉特征的位置的显式编码，不易于灵活地描述特征间的位置构成关系，进而不利于编码和识别丰富而精确的形状、轮廓，以及描述对象间的形位关系；
4.2，依赖误差反传与梯度下降的端到端训练范式，涉及大量偏微分运算过程，训练成本较高，也较难突破冯诺依曼体系结构；
5.3，缺乏对多种信息从多种维度进行组合、抽象的机制，不易形成多种信息维度与信息抽象程度的信息通道；
6.4，只有正向神经通路，缺乏反向神经通路，无法支持自上而下的信息处理过程；
7.5，不具备前向学习功能，不易快速记住所见过的输入图片或视频流，也导致训练所需数据多、训练周期长。
8.生物脑的视觉神经系统为设计类脑视觉神经网络提供了绝佳的参考蓝本。
9.根据生物视觉神经系统的神经环路与工作原理，类脑视觉神经网络应至少包括隐式位置编码(implicit position encoding)和显式位置编码(explicit position encoding)两种位置编码方式。所述隐式位置编码为，通过从图片到各层神经元逐级对应联接，使各层编码特征的神经元具有对应的感受野，而不是使用专门的神经环路来编码位置信息，这种方式不够灵活，不能将各视觉特征以任意位置灵活地组合，也不能针对位置信息进行信息组合、抽象、加工，识别的泛化能力弱。所述显式位置编码为，使用专门的神经环路来编码位置信息，能将各视觉特征以任意位置灵活地组合，还能针对位置信息进行信息组合、抽象、加工，能够编码更丰富的形位关系，识别的泛化能力强，也能够对具有强形位关系约束的情况进行准确识别。
10.生物视觉神经系统还具有自下而上和自上而下的双向神经通路，具有启动效应，能够帮助视觉搜索过程。类脑视觉神经网络也应借鉴这种特点。
11.生物视觉神经系统以可塑性机制为核心，具有强化学习、前向学习和元学习等多种学习范式。类脑视觉神经网络若采用具有生物合理性的可塑性机制，则可以摆脱误差反传与梯度下降的训练范式，避免大量偏微分运算过程，有望突破冯诺依曼体系结构，更适于部署于固件或神经拟态芯片；此外，类脑视觉神经网络还应具有前向学习和元学习功能，快速学习和编码所见过的图片或视频流的视觉特征，进行信息抽象，找到各对象间的共性表征，使泛化能力更好，减少训练所需数据，缩短训练周期。


技术实现要素：

12.有鉴于此，本发明提供了一种具有前向学习和元学习功能的类脑视觉神经网络，
从而有效解决了上述问题。
13.为了实现上述目的，本发明采用如下技术方案：
14.一种具有前向学习和元学习功能的类脑视觉神经网络，包括：若干个初级特征编码模块、若干个复合特征编码模块；
15.各模块分别包括多个神经元；
16.所述神经元包括初级特征编码神经元、具象特征编码神经元、抽象特征编码神经元；
17.所述初级特征编码模块包括多个所述初级特征编码神经元，编码初级视觉特征信息；
18.所述复合特征编码模块包括具象特征编码单元、抽象特征编码单元；
19.所述具象特征编码单元包括多个所述具象特征编码神经元，编码具象视觉特征信息；
20.所述抽象特征编码单元包括多个所述抽象特征编码神经元，编码抽象视觉特征信息；
21.在表述中，若神经元a与神经元b之间形成单向联接，即表示a->b的单向联接；若神经元a与神经元b之间形成双向联接，即表示a<->b(或a->b与a<-b)的双向联接；
22.若神经元a与神经元b之间具有a->b的单向联接，则称神经元a为神经元b的直接上游神经元，称神经元b为神经元a的直接下游神经元；若神经元a与神经元b之间具有a<->b的双向联接，则称神经元a与神经元b互为直接上游神经元、直接下游神经元；
23.若神经元a与神经元b之间不具有联接，但二者间通过若干个其它神经元构成联接通路，如a->c->
…-
>d->b，则称神经元a为神经元b的间接上游神经元，称神经元b为神经元a的间接下游神经元，称神经元d为神经元b的直接上游神经元；
24.所述兴奋型联接为：当该兴奋型联接的上游神经元发放时，通过该兴奋型联接向下游神经元提供非负值输入；
25.所述抑制型联接为：当该抑制型联接的上游神经元发放时，通过该抑制型联接向下游神经元提供非正值输入；
26.若干个所述初级特征编码神经元分别与其它若干个所述初级特征编码神经元形成单向或双向兴奋型/抑制型联接；
27.若干个所述初级特征编码神经元分别与位于至少一个所述复合特征编码模块的若干个所述具象特征编码神经元或若干个所述抽象特征编码神经元形成单向或双向兴奋型/抑制型联接；
28.位于同一个所述复合特征编码模块中的若干个所述具象特征编码神经元分别与位于同一个所述复合特征编码模块中的若干个所述抽象特征编码神经元形成单向或双向兴奋型/抑制型联接；
29.若干个所述复合特征编码模块中的若干个所述具象特征编码神经元、所述抽象特征编码神经元分别与其它若干个所述复合特征编码模块的若干个所述具象特征编码神经元、所述抽象特征编码神经元形成单向或双向兴奋型/抑制型联接；
30.所述神经网络通过所述神经元的发放来缓存与编码信息，通过所述神经元之间的联接来编码、存储、传递信息；
31.输入图片或视频流，将每帧图片的若干个像素的若干个像素值分别乘以权重输入至若干个所述初级特征编码神经元，以使若干个所述初级特征编码神经元激活；
32.对于若干个所述神经元，计算其膜电位以确定是否发放，如发放则使其各个下游神经元累计膜电位，进而确定是否发放，从而使发放在所述神经网络中传播；上游神经元与下游神经元之间的联接的权重为常值，或通过突触可塑性过程动态调整；
33.所述神经网络的工作过程包括：前向记忆过程、记忆触发过程、信息聚合过程、定向信息聚合过程、信息转写过程、记忆遗忘过程、记忆自巩固过程、信息成分调整过程、强化学习过程、新颖度信号调制过程、监督学习过程；
34.所述突触可塑性过程包括单极性上游发放依赖突触可塑性过程、单极性下游发放依赖突触可塑性过程、单极性上下游发放依赖突触可塑性过程、单极性上游脉冲依赖突触可塑性过程、单极性下游脉冲依赖突触可塑性过程、单极性脉冲时间依赖突触可塑性过程、非对称双极性脉冲时间依赖突触可塑性过程、对称双极性脉冲时间依赖突触可塑性过程；
35.将若干个所述神经元映射至对应的标签作为输出。
36.在本发明的一种实施例中，所述神经网络的若干个神经元采用脉冲神经元或非脉冲神经元。
附图说明
37.为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
38.图1为本发明提供的一种具有前向学习和元学习功能的类脑视觉神经网络的整体框图；
39.图2为本发明实施例中一种具有前向学习和元学习功能的类脑视觉神经网络的复合特征编码模块中输入侧注意力调控单元与输出侧注意力调控单元示意图；
40.图3为本发明实施例中一种具有前向学习和元学习功能的类脑视觉神经网络的复合特征编码模块中位置编码单元示意图；
41.图4为本发明实施例中一种具有前向学习和元学习功能的类脑视觉神经网络的输入侧注意力调控单元与具象特征编码单元与抽象特征编码单元拓扑示意图；
42.图5为本发明实施例中一种具有前向学习和元学习功能的类脑视觉神经网络的输入侧注意力调控单元与具象特征编码单元与抽象特征编码单元与输出侧注意力调控单元拓扑示意图；
43.图6为本发明实施例中一种具有前向学习和元学习功能的类脑视觉神经网络的对应子空间的位置编码神经元拓扑示意图；
44.图7为本发明实施例中一种具有前向学习和元学习功能的类脑视觉神经网络的对应区域的位置编码神经元拓扑示意图；
45.图8为本发明实施例中一种具有前向学习和元学习功能的类脑视觉神经网络的感受野投射关系示意图；
46.图9为本发明实施例中一种具有前向学习和元学习功能的类脑视觉神经网络的正
向神经通路和反向神经通路示意图；
47.图10为本发明实施例中一种具有前向学习和元学习功能的类脑视觉神经网络的中央-周围拓扑结构示意图。
具体实施方式
48.下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
49.参见附图1，本发明实施例公开了一种具有前向学习和元学习功能的类脑视觉神经网络，包括：若干个(如1至2个)初级特征编码模块1、若干个(如3至3000个)复合特征编码模块2；
50.各模块分别包括多个神经元；
51.所述神经元包括初级特征编码神经元10、具象特征编码神经元210、抽象特征编码神经元220。
52.所述初级特征编码模块1包括多个(如200万个)所述初级特征编码神经元10，编码初级视觉特征信息。
53.所述复合特征编码模块2包括具象特征编码单元21、抽象特征编码单元22。
54.所述具象特征编码单元21包括多个(如10万个)所述具象特征编码神经元210，编码具象视觉特征信息。
55.所述抽象特征编码单元22包括多个(如10万个)所述抽象特征编码神经元220，编码抽象视觉特征信息。
56.在表述中，若神经元a与神经元b之间形成单向联接，即表示a->b的单向联接；若神经元a与神经元b之间形成双向联接，即表示a<->b(或a->b与a<-b)的双向联接；
57.若神经元a与神经元b之间具有a->b的单向联接，则称神经元a为神经元b的直接上游神经元，称神经元b为神经元a的直接下游神经元；若神经元a与神经元b之间具有a<->b的双向联接，则称神经元a与神经元b互为直接上游神经元、直接下游神经元；
58.若神经元a与神经元b之间不具有联接，但二者间通过若干个其它神经元构成联接通路，如a->c->
…-
>d->b，则称神经元a为神经元b的间接上游神经元，称神经元b为神经元a的间接下游神经元，称神经元d为神经元b的直接上游神经元。
59.所述兴奋型联接为：当该兴奋型联接的上游神经元发放时，通过该兴奋型联接向下游神经元提供非负值输入。
60.所述抑制型联接为：当该抑制型联接的上游神经元发放时，通过该抑制型联接向下游神经元提供非正值输入。
61.若干个(如1万个)所述初级特征编码神经元10分别与其它若干个(如1-20个)所述初级特征编码神经元10形成单向或双向兴奋型/抑制型联接。
62.若干个(如50万至100万个)所述初级特征编码神经元10分别与位于至少一个(如2个)所述复合特征编码模块2的若干个(如10至1000个)所述具象特征编码神经元210或若干个(如10-1000个)所述抽象特征编码神经元220形成单向或双向兴奋型/抑制型联接。
63.位于同一个所述复合特征编码模块2中的若干个(如5万个)所述具象特征编码神经元210分别与位于同一个所述复合特征编码模块2中的若干个(如5000个)所述抽象特征编码神经元220形成单向或双向兴奋型/抑制型联接。
64.若干个(如3至3000个)所述复合特征编码模块2中的若干个(如5万个)所述具象特征编码神经元210、所述抽象特征编码神经元220分别与其它若干个(如1至300个)所述复合特征编码模块2的若干个(如2000个)所述具象特征编码神经元210、所述抽象特征编码神经元220形成单向或双向兴奋型/抑制型联接。
65.所述神经网络通过所述神经元的发放来缓存与编码信息，通过所述神经元之间的联接来编码、存储、传递信息。
66.输入图片或视频流，将每帧图片的各个像素的r、g、b像素值分别乘以权重输入至若干个(如2-30个)所述初级特征编码神经元10，以使若干个所述初级特征编码神经元10激活。
67.对于若干个所述神经元，计算其膜电位以确定是否发放，如发放则使其各个下游神经元累计膜电位，进而确定是否发放，从而使发放在所述神经网络中传播；上游神经元与下游神经元之间的联接的权重为常值，或通过突触可塑性过程动态调整。
68.所述神经网络的工作过程包括：前向记忆过程、记忆触发过程、信息聚合过程、定向信息聚合过程、信息转写过程、记忆遗忘过程、记忆自巩固过程、信息成分调整过程、强化学习过程、新颖度信号调制过程、监督学习过程。
69.所述突触可塑性过程包括单极性上游发放依赖突触可塑性过程、单极性下游发放依赖突触可塑性过程、单极性上下游发放依赖突触可塑性过程、单极性上游脉冲依赖突触可塑性过程、单极性下游脉冲依赖突触可塑性过程、单极性脉冲时间依赖突触可塑性过程、非对称双极性脉冲时间依赖突触可塑性过程、对称双极性脉冲时间依赖突触可塑性过程。
70.将若干个所述神经元映射至对应的标签作为输出。例如将所述高级信息通道的10万个抽象特征编码神经元220映射至对应的标签作为输出。
71.在本实施例中，所述神经网络的若干个神经元采用脉冲神经元或非脉冲神经元。
72.本实施例中，全部初级特征编码神经元10、具象特征编码神经元210、抽象特征编码神经元220、中间神经元采用脉冲神经元。
73.例如，一种脉冲神经元的实现方式为采用漏积分脉冲神经元(lif neuron model)；一种非脉冲神经元的实现方式为采用深度神经网络中的人工神经元(例如采用relu激活函数)。
74.在本实施例中，所述神经网络的若干个神经元为自激发神经元；所述自激发神经元包括有条件自激发神经元和无条件自激发神经元；
75.所述有条件自激发神经元若在第一预设时间区间没有被外部输入激发，则根据概率p自激发；
76.所述无条件自激发神经元在没有外部输入的情况下膜电位自动逐渐累加，当膜电位达到阈值时该无条件自激发神经元激发，并使膜电位恢复至静息电位以重新进行累加过程。
77.在本实施例中，一种无条件自激发神经元的实现方式为：
78.步骤m1：膜电位vm＝vm vc；
79.步骤m2：对全部输入加权求和并叠加到vm；
80.步骤m3：若vm>＝threshold则该无条件自激发神经元激发，并令vm＝vrest；
81.重复步骤m1至m3；
82.所述vm为膜电位，vc为累加常量，vrest为静息电位，threshold为阈值；
83.例如，令vc＝5mv，vrest＝-70mv，threshold＝-25mv。
84.在本实施例中，所述有条件自激发神经元若在第一预设时间区间(例如配置为10分钟)没有被外部输入激发，则根据概率p自激发；
85.所述有条件自激发神经元记录下面的任一种或任几种信息：
86.1)距上一次激发的时间间隔、
87.2)最近平均发放率、
88.3)最近激发的持续时间、
89.4)总激发次数、
90.5)最近各输入联接的突触可塑性过程执行总次数、
91.6)最近各输出联接的突触可塑性过程执行总次数、
92.7)最近各输入联接的权重总改变量、
93.8)最近各输出联接的权重总改变量。
94.在本实施例中，所述概率p的计算规则包括下面的任一种或任几种：
95.1)p与距上一次激发的时间间隔成正相关、
96.2)p与最近平均发放率成正相关、
97.3)p与最近激发的持续时间成正相关、
98.4)p与总激发次数成正相关、
99.5)p与最近各输入联接的突触可塑性过程执行总次数成正相关、
100.6)p与最近各输出联接的突触可塑性过程执行总次数成正相关、
101.7)p与最近各输入联接的权重总改变量成正相关、
102.8)p与最近各输出联接的权重总改变量成正相关、
103.9)p与所有输入联接的权重平均值成正相关、
104.10)p与所有输入联接的权重总模长成正相关、
105.11)p与所有输入联接的总数量成正相关、
106.12)p与所有输出联接的总数量成正相关。
107.在本实施例中，令p＝min(1,a*tinterval^2 b*fr c*nin_plasticity bias)；式中：a、b、c为系数，tinterval为距上一次激发的时间间隔，fr为最近平均发放率，nin_plasticity为最近各输入联接的突触可塑性过程执行总次数，bias为偏置量。
108.在本实施例中，所述有条件自激发神经元在自激发时的激活强度或发放率fs的计算规则包括下面的任一种或任几种：
109.1)fs＝fsd，fsd为默认激发频率、
110.2)fs与距上一次激发的时间间隔成负相关、
111.3)fs与最近平均发放率成正相关、
112.4)fs与最近激发的持续时间成正相关、
113.5)fs与总激发次数成正相关、
114.6)fs与最近各输入联接的突触可塑性过程执行总次数成正相关、
115.7)fs与最近各输出联接的突触可塑性过程执行总次数成正相关、
116.8)fs与最近各输入联接的权重总改变量成正相关、
117.9)fs与最近各输出联接的权重总改变量成正相关、
118.10)fs与所有输入联接的权重平均值成正相关、
119.11)fs与所有输入联接的权重总模长成正相关、
120.12)fs与所有输入联接的总数量成正相关、
121.13)fs与所有输出联接的总数量成正相关；
122.若所述有条件自激发神经元为脉冲神经元，p为当前发放一系列脉冲的概率，若发放则发放率为fs，若不发放则发放率为0；
123.若所述有条件自激发神经元为非脉冲神经元，p为当前激发的概率，若激活则激活强度为fs，若不激活则激活强度为0。
124.在本实施例中，50万至100万个所述初级特征编码神经元10、1千万个所述具象特征编码神经元210、1千万个所述抽象特征编码神经元220、1百万个所述输入侧注意力调控神经元230采用所述有条件自激发神经元；50万至100万个所述初级特征编码神经元10采用无条件自激发神经元。
125.在本实施例中，各个神经元、各个联接(包括神经元-神经元联接、突触-突触联接)可以采用向量或矩阵的表征方式，所述神经网络的运算即表现为向量或矩阵运算；例如，将各个神经元、各个联接中同类的参数(如：神经元的发放率、联接的权重)平铺为向量或矩阵，所述神经网络的信号传播可表现为神经元的发放率向量与联接的权重向量点乘运算(即对输入加权求和)。
126.在另一种实施例中，各个神经元、各个联接(包括神经元-神经元联接、突触-突触联接)还可以采用对象化的实现；例如，将它们分别实现为一个对象(面向对象编程中的object)，所述神经网络的运算即表现为对象的调用和对象间的信息传递。
127.在另一种实施例中，所述神经网络还可以采用固件(例如fpga)或asic(例如神经拟态芯片)的实现方式。
128.在另一种实施例中，所述神经网络的若干个联接可以用卷积运算替代；例如，各初级特征编码神经元10与各具象特征编码神经元210之间的全部联接可以采用卷积运算替代，同样可以产生具有一至多种感受野的信号投射关系。所述感受野的投射关系可参见附图8。
129.参见附图2、3、4、5，在一种进一步改进的实施例中，所述复合特征编码模块2还可以包括输入侧注意力调控单元、输出侧注意力调控单元；
130.所述神经元还包括输入侧注意力调控神经元230、输出侧注意力调控神经元240；
131.所述输入侧注意力调控单元包括若干个(如10万个)所述输入侧注意力调控神经元230；
132.所述输出侧注意力调控单元包括若干个(如10万个)所述输出侧注意力调控神经元240。
133.若干个(如5万个)所述输入侧注意力调控神经元230可分别接受若干个(如10至1万个)所述初级特征编码神经元10的单向或双向兴奋型/抑制型联接。
134.各所述输入侧注意力调控神经元230分别与所在复合特征编码模块2的若干个(如1个至1千个)所述具象特征编码神经元210/抽象特征编码神经元220形成单向或双向兴奋型联接。
135.各所述输入侧注意力调控神经元230分别接受来自其它复合特征编码模块2的若干个(如10至1万个)所述具象特征编码神经元210/抽象特征编码神经元220/输出侧注意力调控神经元240的单向或双向兴奋型联接。
136.各所述输入侧注意力调控神经元230还可以分别与其它若干个(如1千个)所述输入侧注意力调控神经元230形成单向或双向兴奋型联接。
137.各所述输出侧注意力调控神经元240分别与位于其它复合特征编码模块2的若干个(如1千至1万个)所述具象特征编码神经元210/抽象特征编码神经元220/输入侧注意力调控神经元230形成单向或双向兴奋型联接。
138.各所述输出侧注意力调控神经元240分别接受来自所在复合特征编码模块2的若干个(如1个至1千个)所述具象特征编码神经元210/抽象特征编码神经元220的单向或双向兴奋型联接。
139.各所述输出侧注意力调控神经元240还可以分别与其它若干个(如1千个)所述输出侧注意力调控神经元240形成单向或双向兴奋型联接。
140.各所述输入侧注意力调控神经元230可以具有一个输入侧注意力控制端31；各所述输出侧注意力调控神经元240可以具有一个输出侧注意力控制端32。
141.所述神经网络的工作过程还包括主动注意力过程、自动注意力过程。
142.所述主动注意力过程为：通过所述输入侧注意力控制端31处施加的注意力控制信号的强弱(幅值可以为正、负、0)来调节各所述输入侧注意力调控神经元230的激活强度或发放率或脉冲发放相位，进而控制进入相应具象特征编码单元21、抽象特征编码单元22的信息，以及调节各项信息成分的大小和比例；或者，通过所述输出侧注意力控制端32处施加的注意力控制信号的强弱(幅值可以为正、负、0)来调节各所述输出侧注意力调控神经元240的激活强度或发放率或脉冲发放相位，进而控制从相应具象特征编码单元21、抽象特征编码单元22输出的信息，以及调节各项信息成分的大小和比例。
143.所述自动注意力过程为：若干连接至所述输入侧注意力调控神经元230的神经元激活时，使这些输入侧注意力调控神经元230更易于激活，从而使相关的信息成分更易于输入至相应具象特征编码单元21、抽象特征编码单元22；或者，若干连接至所述输出侧注意力调控神经元240的神经元激活时，使这些输出侧注意力调控神经元240更易于激活，从而使相关的信息成分更易于从相应具象特征编码单元21、抽象特征编码单元22输出。
144.在一种进一步改进的实施例中，所述神经网络包括一至多种信息通道；
145.所述神经网络的工作过程还包括信息通道自动形成过程。
146.所述信息通道自动形成过程为：通过进行所述前向记忆过程、记忆触发过程、信息聚合过程、定向信息聚合过程、信息转写过程、记忆遗忘过程、记忆自巩固过程、信息成分调整过程、主动注意力过程、自动注意力过程中的任一种或任几种，调整各所述神经元间的联接关系与权重，使所述神经网络形成一至多种信息通道，每种信息通道编码一至多种信息成分；各所述信息通道间可以存在交叉。
147.还可以通过预设初始联接关系、初始参数(如联接权重、所述神经元的阈值、所述
神经元的初始膜电位、所述神经元的初始时间常数)使所述神经网络形成一至多种信息通道，每种信息通道编码一至多种预设信息成分。
148.在本实施例中，所述信息通道包括初级信息通道；
149.所述初级信息通道为：全部所述初级特征编码神经元10及其联接构成所述初级信息通道。
150.所述初级信息通道包括初级对比度信息通道、初级朝向信息通道、初级边缘信息通道、初级色块信息通道。
151.参见附图10，所述初级对比度信息通道为：选择输入图像中若干个相邻近的像素作为中央区域像素，选择中央区域像素的周围的若干个像素作为周围区域像素，将各所述中央区域像素、所述周围区域像素的若干个像素值分别乘以权重输入至若干个所述初级特征编码神经元10，即形成中央-周围拓扑结构，这些初级特征编码神经元10及其联接构成一至多种初级对比度信息通道。
152.在所述初级信息通道中，选择一至多种像素个数、覆盖画面空间的位置、面积的相邻的像素，将这些像素的一至多种像素值分别乘以一至多种权重，还可以构成具有一至多种感受野的若干个初级朝向信息通道、初级边缘信息通道、初级色块信息通道或它们的综合。
153.例如，将1个所述中央区域像素的r、g、b像素值分别乘以负权重(如-2)、负权重(如-2)、正权重(如 4)输入至若干个(如1-2个)所述初级特征编码神经元10；将左上方(如1个)和右下方(如1个)的所述周围区域像素的r、g、b像素值分别乘以负权重(如-2)、负权重(如-2)、正权重(如 4)，将上方(如1个)、下方(如1个)、左方(如1个)、右方(如1个)、右上方(如1个)、左下方(如1个)的所述周围区域像素的r、g、b像素值分别乘以正权重(如 2)、正权重(如 2)、负权重(如-4)输入至这些初级特征编码神经元10，这些初级特征编码神经元10及其联接构成具有蓝黄对比度和由左上至右下45
°
朝向敏感的具有3x3感受野的信息通道。
154.例如，在15x15的像素区域中，各像素的r、g、b值分别乘以负权重、负权重、正权重，输入至若干个(如1-2个)所述初级特征编码神经元10，这些初级特征编码神经元10及其联接构成对蓝色敏感的色块信息通道。
155.所述初级对比度信息通道包括明暗对比度信息通道、暗明对比度信息通道、红绿对比度信息通道、绿红对比度信息通道、黄蓝对比度信息通道、蓝黄对比度信息通道。
156.所述明暗对比度信息通道为：将各(如9个)所述中央区域像素的r、g、b像素值分别乘以正权重(如 1)输入至若干个(如1至10个)所述初级特征编码神经元10，将各(如72个)所述周围区域像素的r、g、b像素值分别乘以负权重(如-1)输入至这些初级特征编码神经元10，这些初级特征编码神经元10及其联接构成明暗对比度信息通道。
157.所述暗明对比度信息通道为：将各(如9个)所述中央区域像素的r、g、b像素值分别乘以负权重(如-1)输入至若干个(如1至10个)所述初级特征编码神经元10，将各(如72个)所述周围区域像素的r、g、b像素值分别乘以正权重(如 1)输入至这些初级特征编码神经元10，这些初级特征编码神经元10及其联接构成暗明对比度信息通道。
158.参见附图10，所述红绿对比度信息通道为：将各(如4个)所述中央区域像素的r、g、b像素值分别乘以正权重(如 2)、负权重(如-2)、正权重(如 1)输入至若干个(如1至10个)所述初级特征编码神经元10，将各(如32个)所述周围区域像素的r、g、b像素值分别乘以负
权重(如-2)、正权重(如 2)、正权重(如 1)输入至这些初级特征编码神经元10，这些初级特征编码神经元10及其联接构成红绿对比度信息通道。
159.所述绿红对比度信息通道为：将各(如4个)所述中央区域像素的r、g、b像素值分别乘以负权重(如-2)、正权重(如 2)、正权重(如 1)输入至若干个(如1至10个)所述初级特征编码神经元10，将各(如32个)所述周围区域像素的r、g、b像素值分别乘以正权重(如 2)、负权重(如-2)、正权重(如 1)输入至这些初级特征编码神经元10，这些初级特征编码神经元10及其联接构成绿红对比度信息通道。
160.所述黄蓝对比度信息通道为：将各(如4个)所述中央区域像素的r、g、b像素值分别乘以正权重(如 2)、正权重(如 2)、负权重(如-4)输入至若干个(如1至10个)所述初级特征编码神经元10，将各(如32个)所述周围区域像素的r、g、b像素值分别乘以负权重(如-2)、负权重(如-2)、正权重(如 4)输入至这些初级特征编码神经元10，这些初级特征编码神经元10及其联接构成黄蓝对比度信息通道。
161.所述蓝黄对比度信息通道为：将各(如4个)所述中央区域像素的r、g、b像素值分别乘以负权重(如-2)、负权重(如-2)、正权重(如 4)输入至若干个(如1至10个)所述初级特征编码神经元10，将各(如32个)所述周围区域像素的r、g、b像素值分别乘以正权重(如 2)、正权重(如 2)、负权重(如-4)输入至这些初级特征编码神经元10，这些初级特征编码神经元10及其联接构成蓝黄对比度信息通道。
162.具体地，所述初级视觉特征信息包括明暗对比度信息、暗明对比度信息、红绿对比度信息、绿红对比度信息、黄蓝对比度信息、蓝黄对比度信息、初级边缘信息、初级朝向信息、感受野信息、色块信息。
163.在一种进一步改进的实施例中，所述初级信息通道还包括初级光流信息通道；
164.所述初级光流信息通道为：对输入图像中各像素分别计算光流，得到光流运动的方向值与速率值，将不同方向值、速率值进行组合，并分别乘以权重输入至若干个(如1至10个)所述初级特征编码神经元10，这些初级特征编码神经元10及其联接构成初级光流信息通道；
165.所述初级视觉特征信息还包括光流信息。
166.参见附图3、附图6、附图7，在一种进一步改进的实施例中，所述复合特征编码模块2还可以包括若干个(如1至10个)位置编码单元25；
167.所述神经元还包括位置编码神经元250；
168.所述位置编码单元25包括若干个(如1千至1万个)所述位置编码神经元250，编码(视觉特征相对于画面空间或相对于其它视觉特征的)位置信息。
169.每个所述位置编码单元25分别对应画面空间中的若干个子空间，各子空间可以存在交集。
170.每个所述位置编码神经元250分别对应其所在位置编码单元25对应的各子空间中位置相对应的各区域，并接受感受野为这些区域的若干(如1个至1万个)所述神经元(如初级特征编码神经元10)的单向或双向兴奋型联接；感受野的投射关系可参见附图8。
171.若干个(如各个)所述位置编码神经元250分别与其它对应相同区域的所述位置编码神经元250形成单向或双向兴奋型联接。
172.若干个(如1千至5万个)所述位置编码神经元250还可以分别与位于其所在复合特
征编码模块2的若干个(如1至1千个)所述输入侧注意力调控神经元230/输出侧注意力调控神经元240/具象特征编码神经元210/抽象特征编码神经元220形成单向或双向兴奋型联接。
173.若干个(如1千至5万个)所述位置编码神经元250还可以分别与位于其它复合特征编码模块2的若干个(如1至1千个)所述输入侧注意力调控神经元230/具象特征编码神经元210/抽象特征编码神经元220形成单向或双向兴奋型联接。
174.例如，在附图6中，所述位置编码神经元250a、250b、250c、250d分别对应画面空间中的一些子空间/区域，它们所对应的子空间/区域互相之间存在交集；所述位置编码神经元250a、250b、250c、250d分别与所述位置编码神经元250e、250f、250g、250h对应相同的区域，它们之间分别形成双向兴奋型联接。
175.再如，在附图7中，所述位置编码神经元250y接受四个子空间中位置相对应的各区域的初级特征编码神经元10e、10f等的兴奋型联接。
176.在一种进一步改进的实施例中，所述信息通道还包括中级信息通道；
177.所述中级信息通道包括中级位置信息通道；
178.所述中级位置信息通道为：通过所述信息通道自动形成过程，或通过预设初始联接关系、初始参数，使若干个(如1至10个)所述复合特征编码模块2中的全部所述输入侧注意力调控神经元230/输出侧注意力调控神经元240/具象特征编码神经元210/抽象特征编码神经元220的部分或全部输入联接的总权重中来自所述位置编码神经元250以及编码了位置信息的神经元的联接总权重的比例达到或超过第一预设比例(如配置为30％)，并使来自所述位置编码神经元250以及编码了位置信息的神经元的各联接权重以多种比例组合，以使这些输入侧注意力调控神经元230/输出侧注意力调控神经元240/具象特征编码神经元210/抽象特征编码神经元220分别具有一至多种感受野、分别编码一至多种位置信息，与所述位置编码神经元250共同构成所述中级位置信息通道。
179.由于所述中级位置信息通道中包括编码视觉特征的位置信息的神经元，即采用了显式位置编码方式。
180.在本实施例中，所述中级信息通道还包括中级视觉特征信息通道；
181.所述中级视觉特征信息通道为：通过所述信息通道自动形成过程，或通过预设初始联接关系、初始参数，使若干个(如10个至2000个)所述复合特征编码模块2中的若干个(如全部的80％)所述输入侧注意力调控神经元230/输出侧注意力调控神经元240/具象特征编码神经元210/抽象特征编码神经元220的部分或全部输入联接的总权重中来自所述初级信息通道的神经元的联接总权重的比例达到或超过第二预设比例(如配置为60％)，并使来自所述初级信息通道、中级信息通道的对应画面空间中各个区域、位置的各神经元的各联接权重以多种比例组合，以使这些输入侧注意力调控神经元230/输出侧注意力调控神经元240/具象特征编码神经元210/抽象特征编码神经元220分别具有一至多种感受野、分别编码一至多种中级视觉特征信息，共同构成所述中级视觉特征信息通道。
182.具体地，所述中级视觉特征信息包括复合颜色对比度信息、复合明暗对比度信息、复合朝向信息、复合边缘信息、面积信息、运动信息。
183.例如，选择1至10个所述复合特征编码模块2，令其中80％所述输入侧注意力调控神经元230/输出侧注意力调控神经元240/具象特征编码神经元210/抽象特征编码神经元
220分别接受来自两个初级朝向信息通道的各神经元的单向兴奋型联接，则这些复合特征编码模块2的神经元编码了由这两个初级朝向信息通道编码的初级朝向信息(一个是水平向右方向，另一个是左上至右下10
°
的方向，感受野皆为9x9)的综合，也即综合朝向信息(从水平向右到左上至右下10
°
的方向区间，感受野为9x9)。
184.由于所述中级视觉特征信息通道的神经元直接接受来自所述初级信息通道的神经元的联接，通过这些联接关系对应画面空间中的各个区域、位置，形成感受野，即采用了隐式位置编码方式。
185.在本实施例中，所述信息通道还包括高级信息通道；
186.所述高级信息通道为：通过所述信息通道自动形成过程，或通过预设初始联接关系、初始参数，使若干个(如10个至2000个)所述复合特征编码模块2中的若干个(如全部的80％)所述输入侧注意力调控神经元230/输出侧注意力调控神经元240/具象特征编码神经元210/抽象特征编码神经元220的部分或全部输入联接的总权重中来自所述中级信息通道的神经元的联接总权重的比例达到或超过第三预设比例(如配置为40％)，并使来自所述初级信息通道、中级信息通道、高级信息通道的对应画面空间中各个区域、位置的各神经元的各联接权重以多种比例组合，以使这些输入侧注意力调控神经元230/输出侧注意力调控神经元240/具象特征编码神经元210/抽象特征编码神经元220分别具有一至多种感受野、分别编码一至多种高级视觉特征信息，共同构成所述高级信息通道。
187.具体地，所述高级视觉特征信息包括轮廓信息、纹理信息、明亮度信息、透明度信息、形位信息、复合运动信息、对象化信息。
188.所述对象化信息即所识别的对象(可以是实例，也可以是类别)，各对象可分别具有命名，例如“苹果”、“香蕉”、“汽车”。
189.例如，选择1至10个所述复合特征编码模块2，令其中80％所述输入侧注意力调控神经元230/输出侧注意力调控神经元240/具象特征编码神经元210/抽象特征编码神经元220分别接受来自多个中级信息通道的各神经元的单向兴奋型联接，这些中级信息通道编码了复合边缘信息、位置信息，则这些复合特征编码模块2的神经元编码了形位信息。
190.在本实施例中，所述神经网络、其模块或单元的一种基本工作过程为：分别在(某个或某些模块或子模块中的)若干备选神经元中选择若干起振神经元、源神经元、靶神经元，并使若干个所述起振神经元产生发放分布并保持激活预设的时间或运算周期，令参与该工作过程的若干神经元之间的联接通过所述突触可塑性过程调整权重。
191.所述发放分布为：若干个所述神经元分别产生相同或不同的激活强度、发放率、脉冲相位；
192.例如，神经元a、神经元b、神经元c分别产生幅值为2、5、9的激活强度，或者分别产生0.4hz、50hz、20hz的发放率，或者分别产生100ms、300ms、150ms的脉冲相位。
193.在若干个备选神经元中选择起振神经元、源神经元或靶神经元的过程包括下面的任一种或任几种：选择部分或全部输入联接的权重总模长最小的前kf1个神经元，选择部分或全部输出联接的权重总模长最小的前kf2个神经元，选择部分或全部输入联接的权重总模长最大的前kf3个神经元，选择部分或全部输出联接的权重总模长最大的前kf4个神经元，选择激活强度或发放率最大或最先开始发放的前kf5个神经元，选择激活强度或发放率最小或最晚开始发放(含不发放)的前kf6个神经元，选择距上一次发放时间最久的前kf7个
神经元，选择距上一次发放时间最近的前kf8个神经元，选择距上一次输入联接或输出联接进行突触可塑性过程时间最久的前kf9个神经元，以及，选择距上一次输入联接或输出联接进行突触可塑性过程时间最近的前kf10个神经元。
194.使若干个所述神经元产生发放分布并保持激活预设周期(例如200ms至2s)的方式可以为输入样本(图片或视频流)、直接令所述神经网络中的若干个神经元激活、由所述神经网络中的若干个神经元自激发、由所述神经网络中的若干个神经元的既有激活状态在所述神经网络中传播，以使若干个所述神经元(例如所述起振神经元)激活。
195.参见附图9，在本实施例中，所述神经网络包括正向神经通路和反向神经通路；
196.所述正向神经通路和反向神经通路分别为：将若干个所述初级特征编码模块1/复合特征编码模块2以第一预设次序级联，将由其中的若干个所述神经元以顺着所述第一预设次序级联构成的神经通路作为所述正向神经通路，将由其中的若干个所述神经元以逆着所述第一预设次序级联构成的神经通路作为所述反向神经通路。
197.具体地，所述第一预设次序为初级信息通道、中级信息通道、高级信息通道；所述正向神经通路为由若干初级信息通道、中级信息通道、高级信息通道的神经元通过自下而上级联(即顺着第一预设次序)的神经通路，主要参与识别外部输入信息(图片或视频流)和所述前向学习过程；所述反向神经通路为由若干高级信息通道、中级信息通道、初级信息通道的神经元通过自上而下级联(即逆着第一预设次序)的神经通路，主要参与模式补全过程、定向启动过程、联想过程或想象过程。
198.在每个初级特征编码模块1/复合特征编码模块2中，其构成正向神经通路的若干神经元可以分别与其构成反向神经通路的若干神经元形成单向或双向兴奋型/抑制型联接。
199.在本实施例中，所述神经网络的工作过程还包括定向启动过程；
200.所述定向启动过程包括正向启动过程、反向启动过程。
201.所述正向启动过程为：
202.步骤o1:选择正向神经通路中的若干神经元作为起振神经元；
203.步骤o2:使各个所述起振神经元产生发放分布并保持激活第三预设周期tfprime；
204.步骤o3:所述反向神经通路中接受所述起振神经元的兴奋型联接的若干所述神经元收到非负值输入以更易于激活；
205.步骤o4:所述反向神经通路中接受所述起振神经元的抑制型联接的若干所述神经元收到非正值输入以更难于激活。
206.所述反向启动过程为：
207.步骤n1:选择反向神经通路中的若干神经元作为起振神经元；
208.步骤n2:使各个所述起振神经元产生发放分布并保持激活第十预设周期tbprime；
209.步骤n3:所述正向神经通路中接受所述起振神经元的兴奋型联接的若干所述神经元收到非负值输入以更易于激活；
210.步骤n4:所述正向神经通路中接受所述起振神经元的抑制型联接的若干所述神经元收到非正值输入以更难于激活。
211.例如，tfprime、tbprime配置为5秒。
212.所述定向启动过程可用于视觉搜索，在进行视觉搜索时，使所述反向神经通路中
编码了所搜索信息成分的若干所述神经元作为起振神经元并产生表征所搜索信息成分的发放分布并保持激活第十预设周期tbprime(如配置为5秒)，所述正向神经通路中编码了所搜索信息成分的若干所述神经元更易于激活，而没有编码所搜索信息成分的若干所述神经元受到抑制，当外部输入信息(图片或视频流)中出现所搜索的信息成分时更易于被识别，不相关的信息成分被过滤掉。
213.参见附图9，例如，所述神经网络可以配置为采用初级特征编码模块1a、复合特征编码模块2a、复合特征编码模块2b、复合特征编码模块2c构成；这四个模块分别包含初级特征编码神经元10a、10b、10c，具象特征编码神经元210a、210b、210c，具象特征编码神经元210d、210e、210f，具象特征编码神经元210g、210h、210i。
214.所述第一预设次序可以配置为初级特征编码模块1a、复合特征编码模块2a、复合特征编码模块2b、复合特征编码模块2c的顺序；初级特征编码神经元10a、具象特征编码神经元210a、具象特征编码神经元210d、具象特征编码神经元210g顺着所述第一预设次序通过单向兴奋型联接级联，构成正向神经通路a；初级特征编码神经元10b、具象特征编码神经元210b、具象特征编码神经元210e、具象特征编码神经元210h顺着所述第一预设次序通过单向兴奋型联接级联，构成正向神经通路b；初级特征编码神经元10c、具象特征编码神经元210c、具象特征编码神经元210f、具象特征编码神经元210i逆着所述第一预设次序通过单向兴奋型联接级联，构成反向神经通路c。
215.初级特征编码神经元10c分别与初级特征编码神经元10a、10b形成双向兴奋型联接和双向抑制型联接。
216.具象特征编码神经元210c分别与具象特征编码神经元210a、210b形成双向兴奋型联接和双向抑制型联接。
217.具象特征编码神经元210f分别与具象特征编码神经元210d、210e形成双向兴奋型联接和双向抑制型联接。
218.具象特征编码神经元210i分别与具象特征编码神经元210g、210h形成双向兴奋型联接和双向抑制型联接。
219.从而，反向神经通路c促进正向神经通路a，抑制正向神经通路b。
220.在本实施例中，所述神经元还包括中间神经元；
221.所述初级特征编码模块1、复合特征编码模块2分别包括若干(如1千至1万个)所述中间神经元，若干所述中间神经元分别与相应模块中对应的若干(如1个至1万个)神经元形成单向抑制型连接，各所述模块中的相应若干神经元分别与若干(如1个至1万个)对应的所述中间神经元形成单向兴奋型连接。
222.在本实施例中，各所述模块中的相应二至多组神经元通过所述中间神经元形成组间竞争(侧抑制作用)，当施加输入时，相竞争的各组所述神经元产生不同的整体激活强度(或发放率)，通过所述中间神经元的侧抑制作用使整体激活强度(或发放率)强者更强、弱者更弱，或使先开始发放的所述神经元(组)抑制后发放的所述神经元(组)形成时间差，保证各组所述神经元的信息编码独立且互相解耦、自动分组，可使所述记忆触发过程中输入信息能够触发与之相关度最高的记忆信息，亦可使参与所述定向信息聚合过程中的各神经元可根据响应(激活强度或发放率大小，或发放时间先后)自动分组为所述ga1、ga2、ga3、ga4。
223.在本实施例中，所述神经元还包括差动信息解耦神经元，所述神经网络的工作过程还包括差动信息解耦过程；
224.所述差动信息解耦过程为：
225.选择若干个所述输入侧注意力调控神经元230/输出侧注意力调控神经元240/具象特征编码神经元210/抽象特征编码神经元220作为靶神经元；
226.选择若干个与所述靶神经元具有单向/双向兴奋型联接的神经元作为具象信息源神经元；
227.选择其它若干个与所述靶神经元具有单向/双向兴奋型联接的神经元作为抽象信息源神经元；
228.每个所述具象信息源神经元可以有若干个与之匹配的所述差动信息解耦神经元；每个所述具象信息源神经元与匹配的各个所述差动信息解耦神经元分别形成单向兴奋型联接；所述差动信息解耦神经元分别与所述靶神经元形成单向抑制型联接或与所述信息源神经元输入至所述靶神经元的联接形成单向抑制型突触-突触联接，使该具象信息源神经元输入至所述靶神经元的信号受到匹配的差动信息解耦神经元的抑制型调节；所述抽象信息源神经元与所述差动信息解耦神经元形成单向兴奋型联接；
229.每个所述差动信息解耦神经元可以有一个解耦控制信号输入端；通过调节解耦控制信号输入端上施加的信号大小(可以是正、负、0)来调节信息解耦程度。
230.所述具象信息源神经元/抽象信息源神经元与匹配的所述差动信息解耦神经元之间的单向兴奋型联接的权重为常值，或通过所述突触可塑性过程动态调整。
231.在本实施例中，所述突触-突触联接的一种方案为，联接sconn1接受其它若干个联接(记为sconn2)的输入，当联接sconn1的上游神经元发放时，联接sconn1传递给下游神经元的值为联接sconn1的权重叠加上各个联接sconn2的输入值。
232.在本实施例中，选择某个复合特征编码模块2进行所述前向学习过程，选择其中一组所述输入侧注意力调控神经元230作为起振神经元，选择其中一组所述具象特征编码神经元210作为靶神经元；当输入新颖的样本(图片或视频流)时，多个所述靶神经元被激活并通过所述前向学习过程将样本中的视觉特征信息编码为具象特征信息(记忆信息的一种，也即各对象的原始特征信息成分)并存储。
233.然后，令该复合特征编码模块2进行所述定向信息聚合过程，选择与之前同一组输入侧注意力调控神经元230作为起振神经元，选择与之前同一组具象特征编码神经元210作为源神经元、选择其中一组所述抽象特征编码神经元220作为靶神经元；在完成一至多次所述定向信息聚合过程后，所述具象特征信息被聚合为抽象特征信息(记忆信息的一种，也即各对象间的共性特征信息成分)，并通过多个所述靶神经元编码与存储。
234.再然后，令该复合特征编码模块2进行所述差动信息解耦过程，选择与之前同一组具象特征编码神经元210作为所述具象信息源神经元，选择与之前同一组抽象特征编码神经元220作为所述抽象信息源神经元，选择该复合特征编码模块2的多个所述输出侧注意力调控神经元240作为靶神经元；当再次输入相同的样本时，激活了多个所述具象信息源神经元，触发了其编码的具象特征信息，也同时激活了多个所述抽象信息源神经元，触发了其编码的抽象特征信息；这些抽象信息源神经元激活所述差动信息解耦神经元，进而抑制了这些具象信息源神经元输入至各靶神经元的信号，从而使抽象特征信息代替原来的具象特征
信息输入至各靶神经元，也即最终通过该复合特征编码模块2输出至其它复合特征编码模块2的信息为抽象特征信息。
235.再然后，可令该复合特征编码模块2进行所述信息成分调整过程，选择与之前同一组输入侧注意力调控神经元230作为起振神经元，选择与之前同一组具象特征编码神经元210作为靶神经元，令所述kb1取较小的数值(例如1)，在完成一至多次所述信息成分调整过程后，各所述靶神经元的特征信息变为差异特征信息(记忆信息的一种，也即表征各对象间的差异的信息成分)；此时，这些具象特征编码神经元210输出至所述输出侧注意力调控神经元240的信号即不再受所述差动信息解耦神经元的抑制，能够传至下游神经网络。
236.整个过程可执行一至多次，使具象特征信息逐步抽象为抽象特征信息，并保留了差异特征信息，形成更稀疏的编码，节省了编码和信号传输带宽，也使所述神经网络的表征的泛化能力更好(因为形成了抽象特征信息)，还能在形成更高级的表征过程中不丢失细节(因为保留了差异特征信息)。
237.在本实施例中，所述前向学习过程为：
238.步骤a1:选择若干个所述神经元作为起振神经元；
239.步骤a2:选择若干个所述神经元作为靶神经元；
240.步骤a3:各个激活的所述起振神经元分别与若干个所述靶神经元的单向兴奋型联接通过所述突触可塑性过程调整权重；
241.步骤a4:每个激活的所述靶神经元可分别与若干个其它所述靶神经元建立单向或双向兴奋型联接，也可以与自己建立自循环兴奋型联接，这些联接通过所述突触可塑性过程调整权重；
242.在每个所述靶神经元的各输入/输出联接通过所述突触可塑性过程调整权重时，可以将部分或全部输入或输出联接的权重进行规范化，也可以不作规范化。
243.在本实施例中，在所述前向学习过程中，选择1万个所述输入侧注意力调控神经元230作为起振神经元，可以选择1万个所述具象特征编码神经元210/抽象特征编码神经元220作为靶神经元。
244.所述前向学习过程可以将当前输入图片/视频流中各对象的视觉特征信息快速编码并存储在所述初级特征编码模块1/具象特征编码单元21/抽象特征编码单元22中，便于再次见到相同或类似对象时快速识别，以及为所述信息聚合过程/定向信息聚合过程/信息成分调整过程提供加工素材，找到多个相似对象的聚类中心(也即共性特征)以及差异化特征，是元学习的基础。
245.在本实施例中，所述记忆触发过程为：输入信息(图片或视频流)、或直接令所述神经网络中的若干个所述神经元激活、或由所述神经网络中的若干个所述神经元自激发、或由所述神经网络中的若干个所述神经元的既有激活状态在所述神经网络中传播，在第二预设周期(如1s)内若导致目标区域中的若干个所述神经元发放，则将所述目标区域的各个发放的神经元的表征并可以连同其激活强度或发放率作为所述记忆触发过程的结果；
246.所述目标区域可以为所述神经网络中的任一个子网络(如某个所述复合特征编码模块2的全部抽象特征编码神经元220)。
247.在本实施例中，所述记忆触发过程可以体现为对输入信息(图片或视频流)的识别过程，并可以将所述目标区域的各个发放的神经元通过若干个读出层神经元映射至若干个
标签作为识别结果；所述目标区域的每个神经元与若干个所述读出层神经元形成单向兴奋型或抑制型联接；每个读出层神经元对应一个标签，其激活强度或发放率越高，或者开始发放得越早，则输入信息与其对应标签的相关度越高，反之亦然；例如，各所述标签可为“苹果”、“汽车”、“草原”等等。
248.在本实施例中，所述信息聚合过程为：
249.步骤g1:选择若干个所述神经元作为起振神经元；
250.步骤g2:选择若干个所述神经元作为源神经元；
251.步骤g3:选择若干个所述神经元作为靶神经元；
252.步骤g4:使各个所述起振神经元产生发放分布并保持激活第八预设周期tk；
253.步骤g5:在所述第八预设周期tk中，令各个激活的起振神经元与若干个所述靶神经元之间的单向或双向兴奋型/抑制型联接通过所述突触可塑性过程调整权重；
254.步骤g6:在所述第八预设周期tk中，令各个激活的源神经元与若干个所述靶神经元之间的单向或双向兴奋型/抑制型联接通过所述突触可塑性过程调整权重；
255.步骤g7:每执行步骤g1至步骤g6过程一遍记为一次迭代，执行一至多次迭代；
256.将若干个所述靶神经元映射至对应的标签作为所述信息聚合过程的结果。
257.例如，在所述信息聚合过程中，所述第八预设周期tk配置为100ms至2秒，选择任一个所述复合特征编码模块2的1万个所述输入侧注意力调控神经元230作为起振神经元，选择该复合特征编码模块2的1万个所述具象特征编码神经元210作为源神经元，选择该复合特征编码模块2的1万个所述抽象特征编码神经元220作为靶神经元。
258.在本实施例中，所述定向信息聚合过程为：
259.步骤h1:选择若干个所述神经元作为起振神经元；
260.步骤h2:选择若干个所述神经元作为源神经元；
261.步骤h3:选择若干个所述神经元作为靶神经元；
262.步骤h4:使各个所述起振神经元产生发放分布并保持激活第九预设周期ta；
263.步骤h5:在所述第九预设周期ta中，激活了ma1个所述源神经元，以及激活了ma2个所述靶神经元；
264.步骤h6:在所述第九预设周期ta中，激活强度最高或发放率最大或最先开始发放的前ka1个源神经元记为ga1，其余ma1-ka1个激活的源神经元记为ga2；
265.步骤h7:在所述第九预设周期ta中，激活强度最高或发放率最大或最先开始发放的前ka2个靶神经元记为ga3，其余ma2-ka2个激活的靶神经元记为ga4；
266.步骤h8:在所述第九预设周期ta中，所述ga1中各源神经元分别与所述ga3中若干个靶神经元的单向或双向兴奋型/抑制型联接进行一至多次突触权重增强过程；
267.步骤h9:在所述第九预设周期ta中，所述ga1中各源神经元分别与所述ga4中若干个靶神经元的单向或双向兴奋型/抑制型联接进行一至多次突触权重减弱过程；
268.步骤h10:在所述第九预设周期ta中，所述ga2中各源神经元分别与所述ga3中若干个靶神经元的单向或双向兴奋型/抑制型联接可以进行或不进行一至多次突触权重减弱过程；
269.步骤h11:在所述第九预设周期ta中，所述ga2中各源神经元分别与所述ga4中若干个靶神经元的单向或双向兴奋型/抑制型联接可以进行或不进行一至多次突触权重增强过
程；
270.步骤h12:在所述第九预设周期ta中，激活的各个起振神经元分别与所述ga3中若干个靶神经元的单向或双向兴奋型/抑制型联接进行一至多次突触权重增强过程；
271.步骤h13:在所述第九预设周期ta中，激活的各个起振神经元分别与所述ga4中若干个靶神经元的单向或双向兴奋型/抑制型联接进行一至多次突触权重减弱过程；
272.步骤h14:每执行步骤h1至步骤h13过程一遍记为一次迭代，执行一至多次迭代；
273.在所述步骤h8至步骤h13过程中，在执行一至多次突触权重增强过程或突触权重减弱过程后，可以对各所述源神经元或靶神经元的部分或全部输入或输出联接的权重规范化，也可以不作规范化；
274.所述突触权重增强过程可采用所述单极性上下游发放依赖突触增强过程、或所述单极性脉冲时间依赖突触增强过程；
275.所述突触权重减弱过程可采用所述单极性上下游发放依赖突触减弱过程、或所述单极性脉冲时间依赖突触减弱过程；
276.所述突触权重增强过程和所述突触权重减弱过程还分别可以采用所述非对称双极性脉冲时间依赖突触可塑性过程、或所述对称双极性脉冲时间依赖突触可塑性过程；
277.可将各所述靶神经元的表征作为对各所述源神经元的表征的所述定向信息聚合过程的结果，映射至对应的标签作为输出；
278.所述ma1、ma2为正整数，ka1为不超过ma1的正整数，ka2为不超过ma2的正整数。
279.例如，在所述定向信息聚合过程中，令ma1＝100，ma2＝10，ka1＝3，ka2＝2，所述第九预设周期ta＝200ms至2s，选择任一个所述复合特征编码模块2的1万个所述输入侧注意力调控神经元230作为起振神经元，选择该复合特征编码模块2的1万个所述具象特征编码神经元210作为源神经元，选择该复合特征编码模块2的1万个所述抽象特征编码神经元220作为靶神经元。
280.每个所述靶神经元即表征了连接至其的各个所述源神经元的表征的抽象、同位或具象表征；某个所述源神经元联向各个所述靶神经元的联接权重表征了该源神经元的表征与各个所述靶神经元的表征的相关度，权重越大，相关度越大，反之亦然。
281.例如，当所述定向信息聚合过程体现为定向信息抽象过程时，所述源神经元表征具象信息(如：子类或实例)，而所述靶神经元表征抽象信息(如父类)；每个所述靶神经元即表征了连接至其的各个所述源神经元的聚类中心(前者表征了后者中的共性信息成分)；某个所述源神经元联向各个所述靶神经元的联接权重表征了该源神经元与各个所述靶神经元表征的信息(即聚类中心)的相关度(或表征的距离)，权重越大则相关度越高(也即表征的距离越近)；该定向信息抽象过程，也即聚类过程，也即元学习过程；
282.若将当前的靶神经元作为新的源神经元，并选择另一组所述神经元作为新的靶神经元，执行所述定向信息聚合过程，如此迭代，则可不断形成更高层次的抽象信息表征。
283.在本实施例中，所述信息转写过程为：
284.步骤f1:选择若干个所述神经元作为起振神经元；
285.步骤f2:选择所述起振神经元的若干个直接下游神经元或间接下游神经元作为源神经元；
286.步骤f3:选择所述起振神经元的若干个直接下游神经元或间接下游神经元作为靶
神经元；
287.步骤f4:令各个所述起振神经元产生发放分布并保持激活第七预设周期tj；
288.步骤f5:在所述第七预设周期tj中，激活了若干个所述源神经元；
289.步骤f6:在所述第七预设周期tj中，若某起振神经元为某靶神经元的直接上游神经元，则令二者之间的单向或双向兴奋型/抑制型联接通过所述突触可塑性过程调整权重，若某起振神经元为某靶神经元的间接上游神经元，则令二者间的联接通路中该靶神经元的直接上游神经元与该靶神经元之间的单向或双向兴奋型/抑制型联接通过所述突触可塑性过程调整权重；
290.步骤f7:在所述第七预设周期tj中，各所述靶神经元可分别与若干个其它所述靶神经元建立联接，并可通过所述突触可塑性过程调整权重；
291.步骤f8:在所述第七预设周期tj中，若某源神经元与某靶神经元之间具有单向或双向兴奋型联接，则可通过所述突触可塑性过程调整权重。
292.例如，在所述信息转写过程中，所述第七预设周期tj配置为20ms至500ms，选择任一个所述复合特征编码模块2的1万个所述输入侧注意力调控神经元230作为起振神经元，选择该复合特征编码模块2的1万个所述具象特征编码神经元210作为源神经元，选择该复合特征编码模块2的1万个所述抽象特征编码神经元220作为靶神经元。
293.在所述信息转写过程中，各个激活的源神经元的部分或全部输入联接权重表征的信息被近似地耦合进各个所述靶神经元的部分或全部输入联接权重中，也即信息由前者转写入后者；所述“近似地耦合”，是因为被转写的信息成分还耦合了各个所述起振神经元的发放分布，以及所述起振神经元与激活的各所述源神经元之间的联接通路、所述起振神经元与所述靶神经元之间的联接通路中各神经元的联接与发放情况的影响。
294.具体地，在所述信息转写过程中，若一些激活的起振神经元分别为某些激活的源神经元以及某些靶神经元的直接上游神经元，那么这些起振神经元与这些源神经元之间的联接权重就会被接近等比例地叠加到这些起振神经元与这些靶神经元的联接权重中，最终使后者趋近于前者；反之，若一些激活的起振神经元分别为某些激活的源神经元或某些靶神经元的间接上游神经元，那么这些起振神经元与这些靶神经元的联接权重最终还会包含起振神经元与激活的源神经元之间的联接通路、所述起振神经元与所述靶神经元之间的联接通路中各神经元的联接与发放情况的影响。
295.在本实施例中，所述记忆遗忘过程包括上游发放依赖记忆遗忘过程、下游发放依赖记忆遗忘过程及上下游发放依赖记忆遗忘过程；
296.所述上游发放依赖记忆遗忘过程为：对于某个联接，若其上游神经元持续在第四预设周期(如20分钟至24小时)内未发放，则权重绝对值减少，减少量记为dwdecay1；
297.所述下游发放依赖记忆遗忘过程为：对于某个联接，若其下游神经元持续在第五预设周期(如20分钟至24小时)内未发放，则权重绝对值减少，减少量记为dwdecay2；
298.所述上下游发放依赖记忆遗忘过程为：对于某个联接，若持续在第六预设周期(如20分钟至24小时)内其上、下游神经元未发生同步发放，则权重绝对值减少，减少量记为dwdecay3。
299.所述同步发放为：当所涉及联接的下游神经元激发时，并且距当前或过去的最近一次上游神经元激发的时间间隔不超过第四预设时间区间te1，或者当所涉及联接的上游
神经元激发时，并且距当前或过去的最近一次下游神经元激发的时间间隔不超过第五预设时间区间te2。
300.例如，令所述第四预设时间区间te1＝30ms，所述第五预设时间区间te2＝20ms；
301.在所述记忆遗忘过程中，若某个联接具有指定的权重的绝对值下限，则权重的绝对值到达该下限就不再减少，或将该联接裁剪掉。
302.在本实施例中，所述dwdecay1、dwdecay2、dwdecay3分别与所涉及联接的权重成正比，例如dwdecay1＝kdecay1*weight，dwdecay2＝kdecay2*weight，dwdecay1＝kdecay3*weight；令kdecay1＝kdecay2＝kdecay3＝0.01，weight为联接权重。
303.在本实施例中，所述记忆自巩固过程为：某个所述神经元自激发时，该神经元的部分或全部输入联接的权重通过所述单极性下游发放依赖突触增强过程、单极性下游脉冲依赖突触增强过程进行调整，该神经元的部分或全部输出联接的权重通过所述单极性上游发放依赖突触增强过程、单极性上游脉冲依赖突触增强过程进行调整。
304.所述记忆自巩固过程有助于使一些所述神经元的编码得以近似保真地保持，避免遗忘。
305.在本实施例中，所述信息成分调整过程为：
306.步骤i1:选择若干个所述神经元作为起振神经元；
307.步骤i2:选择所述起振神经元的若干个直接下游神经元或间接下游神经元作为靶神经元；
308.步骤i3:令各个所述起振神经元产生发放分布，并使其在第一预设周期tb内保持激活；
309.步骤i4:在第一预设周期tb中，激活了mb1个所述靶神经元，其中激活强度最高或发放率最大或最先开始发放的前kb1个靶神经元记为gb1，其余mb1-kb1个激活的靶神经元记为gb2；
310.步骤i5:若某起振神经元为所述gb1中的某靶神经元的直接上游神经元，则令二者之间的单向或双向联接进行一至多次突触权重增强过程，若某起振神经元为所述gb1中的某靶神经元的间接上游神经元，则令二者间的联接通路中该靶神经元的直接上游神经元与该靶神经元之间的单向或双向联接进行一至多次突触权重增强过程；
311.步骤i6:若某起振神经元为所述gb2中的某靶神经元的直接上游神经元，则令二者之间的单向或双向联接进行一至多次突触权重减弱过程，若某起振神经元为所述gb2中的某靶神经元的间接上游神经元，则令二者间的联接通路中该靶神经元的直接上游神经元与该靶神经元之间的单向或双向联接进行一至多次突触权重减弱过程；
312.步骤i7:每执行步骤i1至步骤i6过程一遍记为一次迭代，执行一至多次迭代；
313.在步骤i5、步骤i6过程中，在执行一至多次突触权重增强过程或突触权重减弱过程后，对各所述靶神经元的部分或全部输入联接的权重规范化，也可以不作规范化；
314.可将若干个所述靶神经元映射至对应的标签作为所述信息成分调整过程的结果；
315.所述突触权重增强过程可采用所述单极性上下游发放依赖突触增强过程、或所述单极性脉冲时间依赖突触增强过程；
316.所述突触权重减弱过程可采用所述单极性上下游发放依赖突触减弱过程、或所述单极性脉冲时间依赖突触减弱过程；
317.所述突触权重增强过程和所述突触权重减弱过程还分别可以采用所述非对称双极性脉冲时间依赖突触可塑性过程、或所述对称双极性脉冲时间依赖突触可塑性过程。
318.当所述kb1取较小的数值(例如1)时，只有激活强度最高或发放率最大或最先开始发放的所述靶神经元发生所述突触权重增强过程，也即一定程度上叠加了当前各所述起振神经元的发放所表征的信息成分，使该靶神经元巩固了其既有表征；而其它所述靶神经元都发生所述突触权重减弱过程，也即一定程度上减去(解耦)了当前各所述起振神经元的发放所表征的信息成分；因此，执行多次迭代，每次迭代使各所述起振神经元产生不同的发放分布，可令各个所述靶神经元的表征相互间解耦；如再进一步执行多次迭代，加强解耦，各个所述靶神经元的表征即变为表征空间中一组相对独立的基。
319.同理，当所述kb1取较大的数值(例如8)时，执行多次迭代，每次迭代使各所述起振神经元产生不同的发放分布，可令多个所述靶神经元表征的信息成分在一定程度上互相叠加，如再进一步执行多次迭代，可令多个所述靶神经元的表征互相接近。
320.因此，调整所述kb1即可调整各所述靶神经元所表征的信息组分。
321.例如，在所述信息成分调整过程中，所述第一预设周期tb配置为100ms至500ms，选择任一个所述复合特征编码模块2的1万个所述输入侧注意力调控神经元230作为起振神经元，选择该复合特征编码模块2的1万个所述具象特征编码神经元210作为靶神经元。
322.在本实施例中，所述强化学习过程为：当若干个所述联接收到强化信号时，在第二预设时间区间中，这些联接的权重发生改变，或这些联接在所述记忆遗忘过程的权重减少量发生改变，或这些联接在所述突触可塑性过程中的权重增加量/权重减少量发生改变；或者，
323.当若干个所述神经元收到强化信号时，在第三预设时间区间(例如，从接收到强化信号开始的30秒内)中，这些神经元收到正值或负值输入，或者这些神经元的部分或全部输入联接或输出联接的权重发生改变，或这些联接在所述记忆遗忘过程的权重减少量发生改变，或这些联接在所述突触可塑性过程中的权重增加量/权重减少量发生改变。
324.在本实施例中，所述强化信号在所述神经网络没有输入信息时为常值；在所述监督学习过程中，若所述记忆触发过程的结果为正确，则所述强化信号上升，若所述记忆触发过程的结果为错误，则所述强化信号下降。
325.例如，所述强化信号的常值为0，若进行所述监督学习过程，所述记忆触发过程的结果为正确，所述强化信号升至 10，若干个具象特征编码神经元210之间的双向兴奋型联接收到了所述强化信号( 10)，在所述第二预设时间区间中(从接收到所述强化信号开始的30秒内)，这些联接如果进行所述对称双极性脉冲时间依赖突触可塑性过程，所述dwltp6在其原值基础上加10。
326.在本实施例中，所述新颖度信号调制过程为：当若干个所述神经元收到所述新颖度信号时，在第六预设时间区间(例如，从接收到所述新颖度信号开始的30秒内)中，这些神经元收到正值或负值输入，或者这些神经元的部分或全部输入联接或输出联接的权重发生改变，或这些联接在所述记忆遗忘过程的权重减少量发生改变，或这些联接在所述突触可塑性过程中的权重增加量/权重减少量发生改变。
327.在本实施例中，所述新颖度信号在所述神经网络没有输入信息时为常值或随时间逐渐减弱；所述新颖度信号在所述神经网络有输入信息时与所述记忆触发过程中的目标区
域的各神经元的激活强度或发放率成负相关。
328.例如，在没有输入信息时，新颖度信号为常值 50；施加输入信息(图片或视频流)，若这些输入信息没有触发具有足够相关度的记忆信息(例如，目标区域的神经元在输入当前图片的最高激活强度仅为输入已形成记忆编码的图片时的最高激活强度的10％，则相关度仅为10％)，则新颖度信号从常值 50升至 90；
329.当构成所述正向神经通路的若干个所述神经元收到 90的新颖度信号时，这些神经元在第六预设时间区间收到正值输入(如 40)；
330.当构成所述反向神经通路的若干个所述神经元收到 90的新颖度信号时，这些神经元在第六预设时间区间收到负值输入(如-40)；
331.当输入信息保持不变，并进行所述前向学习过程后，若目标区域的神经元的最高激活强度为90％，则新颖度信号从 90降至 10；
332.当构成所述正向神经通路的若干个所述神经元收到 10的新颖度信号时，这些神经元在第六预设时间区间收到负值输入(如-40)；
333.当构成所述反向神经通路的若干个所述神经元收到 10的新颖度信号时，这些神经元在第六预设时间区间收到正值输入(如 40)；
334.因此，当足够新颖的外部输入信息出现时，所述新颖度信号会使正向神经通路的神经元收到正值输入(兴奋性增强)从而更易于激活，而使反向神经通路的神经元收到负值输入(兴奋性减弱)从而更难于激活，进而使所述神经网络优先通过自下而上的正向神经通路注意、识别、学习当前的新颖的外部输入信息；反之，当外部输入信息不够新颖时，所述新颖度信号会使正向神经通路的神经元收到负值输入(兴奋性减弱)并更难于激活，而使反向神经通路的神经元收到正值输入(兴奋性增强)并更易于激活，从而使所述神经网络优先通过自上而下的反向神经通路触发既有记忆信息，或进行模式补全过程、联想过程或想象过程。
335.在本实施例中，所述监督学习过程为：
336.步骤r1：给定目标区域中各神经元的正面发放分布范围，还可以给定目标区域中各神经元的负面发放分布范围，执行步骤r2；
337.步骤r2：进行所述记忆触发过程，若所述目标区域中各神经元的实际发放分布不符合所述正面发放分布范围也不符合所述负面发放分布范围，则视为所述目标区域各神经元没有编码相关记忆信息，执行步骤r3；若所述目标区域中各神经元的实际发放分布符合正面发放分布范围，则视为所述记忆触发过程的结果为正确，结束本次监督学习过程；若所述目标区域中各神经元的实际发放分布符合负面发放分布范围，则视为所述记忆触发过程的结果为错误，执行步骤r3；
338.步骤r3：进行所述新颖度信号调制过程、强化学习过程、主动注意力过程、自动注意力过程、定向启动过程、前向学习过程、信息聚合过程、定向信息聚合过程、信息成分调整过程、信息转写过程、差动信息解耦过程中的任一种或任几种，以使所述目标区域各神经元编码相关记忆信息，执行步骤r1；
339.所述监督学习过程还可以为：
340.步骤q1：给定正面标签范围，还可以给定负面标签范围，执行步骤q2；
341.步骤q2：进行所述记忆触发过程，将所述目标区域中各神经元的实际发放分布映
射至对应标签，若对应标签不符合所述正面标签范围也不符合所述负面标签范围，则视为所述目标区域各神经元没有编码相关记忆信息，执行步骤q3；若对应标签符合正面标签范围，则视为所述记忆触发过程的结果为正确，结束本次监督学习过程；若对应标签符合负面标签范围，则视为所述记忆触发过程的结果为错误，执行步骤q3；
342.步骤q3：进行所述新颖度信号调制过程、强化学习过程、主动注意力过程、自动注意力过程、定向启动过程、前向学习过程、信息聚合过程、定向信息聚合过程、信息成分调整过程、信息转写过程、差动信息解耦过程中的任一种或任几种，以使所述目标区域各神经元编码相关记忆信息，执行步骤q1。
343.在本实施例中，所述单极性上游发放依赖突触可塑性过程包括单极性上游发放依赖突触增强过程和单极性上游发放依赖突触减弱过程；
344.所述单极性上游发放依赖突触增强过程为：当所涉及联接的上游神经元的激活强度或发放率不为零时，则该联接权重的绝对值增加，该增加量记为dwltp1u；
345.所述单极性上游发放依赖突触减弱过程为：当所涉及联接的上游神经元的激活强度或发放率不为零时，则该联接权重的绝对值减少，该减少量记为dwltd1u；
346.所述dwltp1u、dwltd1u为非负值。
347.在本实施例中，所述单极性上游发放依赖突触可塑性过程中的dwltp1u、dwltd1u的取值包括下面的任一种或任几种：
348.所述dwltp1u、dwltd1u为非负值，分别与所涉及联接的上游神经元的激活强度或发放率成正比；或者，
349.所述dwltp1u、dwltd1u为非负值，分别与所涉及联接的上游神经元的激活强度或发放率、以及所涉及联接的权重成正比。
350.例如，令dwltp1u＝0.01*fru1，dwltd1u＝0.01*fru1，fru1为上游神经元的发放率。
351.在本实施例中，所述单极性下游发放依赖突触可塑性过程包括单极性下游发放依赖突触增强过程和单极性下游发放依赖突触减弱过程；
352.所述单极性下游发放依赖突触增强过程为：当所涉及联接的下游神经元的激活强度或发放率不为零时，则该联接权重的绝对值增加，该增加量记为dwltp1d；
353.所述单极性下游发放依赖突触减弱过程为：当所涉及联接的下游神经元的激活强度或发放率不为零时，则该联接权重的绝对值减少，该减少量记为dwltd1d；
354.所述dwltp1d、dwltd1d为非负值。
355.在本实施例中，所述单极性下游发放依赖突触可塑性过程中的dwltp1d、dwltd1d的取值包括下面的任一种或任几种：
356.所述dwltp1d、dwltd1d为非负值，分别与所涉及联接的下游神经元的激活强度或发放率成正比；或者，
357.所述dwltp1d、dwltd1d为非负值，分别与所涉及联接的下游神经元的激活强度或发放率、以及所涉及联接的权重成正比。
358.例如，令dwltp1d＝0.01*frd1，dwltd1d＝0.01*frd1，frd1为下游神经元的发放率。
359.在本实施例中，所述单极性上下游发放依赖突触可塑性过程包括单极性上下游发
放依赖突触增强过程和单极性上下游发放依赖突触减弱过程；
360.所述单极性上下游发放依赖突触增强过程为：当所涉及联接的上游神经元和下游神经元的激活强度或发放率不为零时，则该联接权重的绝对值增加，该增加量记为dwltp2；
361.所述单极性上下游发放依赖突触减弱过程为：当所涉及联接的上游神经元和下游神经元的激活强度或发放率不为零时，则该联接权重的绝对值减少，该减少量记为dwltd2；
362.所述dwltp2、dwltd2为非负值。
363.在本实施例中，所述单极性上下游发放依赖突触可塑性过程中的dwltp2、dwltd2的取值包括下面的任一种或任几种：
364.所述dwltp2、dwltd2为非负值，分别与所涉及联接的上游神经元的激活强度或发放率、以及下游神经元的激活强度或发放率成正比；或者，
365.所述dwltp2、dwltd2为非负值，分别与所涉及联接的上游神经元的激活强度或发放率、下游神经元的激活强度或发放率、以及所涉及联接的权重成正比。
366.例如，令dwltp2＝0.01*fru2*frd2，dwltd2＝0.01*fru2*frd2，fru2、frd2分别为上、下游神经元的发放率。
367.在本实施例中，所述单极性上游脉冲依赖突触可塑性过程包括单极性上游脉冲依赖突触增强过程和单极性上游脉冲依赖突触减弱过程；
368.所述单极性上游脉冲依赖突触增强过程为：当所涉及联接的上游神经元激发时，则该联接权重的绝对值增加，该增加量记为dwltp3u；
369.所述单极性上游脉冲依赖突触减弱过程为：当所涉及联接的上游神经元激发时，则该联接权重的绝对值减少，该减少量记为dwltd3u；
370.所述dwltp3u、dwltd3u为非负值。
371.在本实施例中，所述单极性上游脉冲依赖突触可塑性过程中的dwltp3u、dwltd3u的取值包括下面的任一种或任几种：
372.所述dwltp3u、dwltd3u采用非负值常量；或者，
373.所述dwltp3u、dwltd3u为非负值，分别与所涉及联接的权重成正比。
374.例如，令dwltp3u＝0.01*weight，dwltd3u＝0.01*weight，weight为联接权重。
375.在本实施例中，所述单极性下游脉冲依赖突触可塑性过程包括单极性下游脉冲依赖突触增强过程和单极性下游脉冲依赖突触减弱过程；
376.所述单极性下游脉冲依赖突触增强过程为：当所涉及联接的下游神经元激发时，则该联接权重的绝对值增加，该增加量记为dwltp3d；
377.所述单极性下游脉冲依赖突触减弱过程为：当所涉及联接的下游神经元激发时，则该联接权重的绝对值减少，该减少量记为dwltd3d；
378.所述dwltp3d、dwltd3d为非负值。
379.在本实施例中，所述单极性下游脉冲依赖突触可塑性过程的dwltp3d、dwltd3d的取值包括下面的任一种或任几种：
380.所述dwltp3d、dwltd3d采用非负值常量；或者，
381.所述dwltp3d、dwltd3d为非负值，分别与所涉及联接的权重成正比。
382.例如，令dwltp3d＝0.01*weight，dwltd3d＝0.01*weight，weight为联接权重。
383.在本实施例中，所述单极性脉冲时间依赖突触可塑性过程包括单极性脉冲时间依
赖突触增强过程和单极性脉冲时间依赖突触减弱过程；
384.所述单极性脉冲时间依赖突触增强过程为：当所涉及联接的下游神经元激发时，并且距当前或过去的最近一次上游神经元激发的时间间隔不超过tg1，或者当所涉及联接的上游神经元激发时，并且距当前或过去的最近一次下游神经元激发的时间间隔不超过tg2，则该联接权重的绝对值增加，该增加量记为dwltp4；
385.所述单极性脉冲时间依赖突触减弱过程为：当所涉及联接的下游神经元激发时，并且距当前或过去的最近一次上游神经元激发的时间间隔不超过tg3，或者当所涉及联接的上游神经元激发时，并且距当前或过去的最近一次下游神经元激发的时间间隔不超过tg4，则该联接权重的绝对值减少，该减少量记为dwltd4；
386.所述dwltp4、dwltd4、tg1、tg2、tg3、tg4均为非负值。例如，将tg1、tg2、tg3、tg4设为200ms。
387.在本实施例中，所述单极性脉冲时间依赖突触可塑性过程中的dwltp4、dwltd4的取值包括下面的任一种或任几种：
388.所述dwltp4、dwltd4采用非负值常量；或者，
389.所述dwltp4、dwltd4为非负值，分别与所涉及联接的权重成正比。
390.例如，令dwltp4＝kltp4*weight c1，dwltd4＝kltd4*weight c2；式中，kltp4＝0.01，为突触增强过程比例系数，kltd4＝0.01，为突触减弱过程比例系数，c1、c2为常量，设为0.001。
391.在本实施例中，所述非对称双极性脉冲时间依赖突触可塑性过程为：
392.当所涉及联接的下游神经元激发时，若距当前或过去的最近一次上游神经元激发的时间间隔不超过th1，则该联接权重的绝对值增加，该增加量记为dwltp5；若距当前或过去的最近一次上游神经元激发的时间间隔超过th1但不超过th2，则该联接权重的绝对值减少，该减少量记为dwltd5；或者，
393.当所涉及联接的上游神经元激发时，若距当前或过去的最近一次下游神经元激发的时间间隔不超过th3，则该联接权重的绝对值增加，该增加量记为dwltp5；若距当前或过去的最近一次下游神经元激发的时间间隔超过th3但不超过th4，则该联接权重的绝对值减少，该减少量记为dwltd5；
394.所述th1、th3、dwltp5、dwltd5为非负值，th2为大于th1的值，th4为大于th3的值；例如，令th1＝th3＝150ms，th2＝th4＝200ms。
395.在本实施例中，所述非对称双极性脉冲时间依赖突触可塑性过程中的dwltp5、dwltd5的取值包括下面的任一种或任几种：
396.所述dwltp5、dwltd5采用非负值常量；或者，
397.所述dwltp5、dwltd5为非负值，分别与所涉及联接的权重成正比，例如，令dwltp5＝kltp5*weight，dwltd5＝kltd5*weight，如令kltp5＝0.01，kltd5＝0.01；或者，
398.所述dwltp5、dwltd5为非负值，dwltp5与下游神经元和上游神经元发放的时间间隔成负相关，当时间间隔为0时dwltp5达到指定最大值dwltpmax5，当时间间隔为th1时dwltp5为0；dwltd5与下游神经元和上游神经元发放的时间间隔成负相关，当时间间隔为th1时dwltd5达到指定最大值dwltdmax5，当时间间隔为th2时dwltd5为0；例如，令dwltpmax5＝0.1，dwltdmax5＝0.1，令dwltp5＝-dwltpmax5/th1*deltat1 dwltpmax5，令
dwltd5＝-dwltdmax5/(th2-th1)*deltat1 dwltdmax5*th2/(th2-th1)，deltat1为下游神经元和上游神经元发放的时间间隔(即下游神经元发放的时刻减去上游神经元发放的时刻)。
399.在本实施例中，所述对称双极性脉冲时间依赖突触可塑性过程为：
400.当所涉及联接的下游神经元激发时，若距当前或过去的最近一次上游神经元激发的时间间隔不超过ti1，则该联接权重的绝对值增加，该增加量记为dwltp6；
401.当所涉及联接的上游神经元激发时，若距过去的最近一次下游神经元激发的时间间隔不超过ti2，则该联接权重的绝对值减少，该减少量记为dwltd6；
402.所述ti1、ti2、dwltp6、dwltd6为非负值；例如，令ti1＝200ms，ti2＝200ms。
403.在本实施例中，所述对称双极性脉冲时间依赖突触可塑性过程中的dwltp6、dwltd6的取值包括下面的任一种或任几种：
404.所述dwltp6、dwltd6采用非负值常量；或者，
405.所述dwltp6、dwltd6为非负值，分别与所涉及联接的权重成正比；例如，令dwltp6＝kltp6*weight，dwltd6＝kltd6*weight；或者，
406.所述dwltp6、dwltd6为非负值，dwltp6与下游神经元和上游神经元发放的时间间隔成负相关，具体地，当时间间隔为0时dwltp6达到指定最大值dwltpmax6，当时间间隔为ti1时dwltp6为0；dwltd6与上游神经元和下游神经元发放的时间间隔成负相关，当时间间隔为趋于0时dwltd6达到指定最大值dwltdmax6，当时间间隔为ti2时dwltd6为0；例如，令dwltpmax6＝0.1，dwltdmax6＝0.1，令dwltp6＝-dwltpmax6/deltat2 dwltpmax6，dwltd6＝-dwltdmax6/deltat3 dwltdmax6，deltat2为下游神经元和上游神经元发放的时间间隔，deltat3为上游神经元和下游神经元发放的时间间隔。
407.本发明的有益效果为：本发明公开提供了一种具有前向学习和元学习功能的类脑视觉神经网络，包括初级特征编码模块、复合特征编码模块，包括主动、自动注意力机制，具有显式编码视觉特征的位置信息的神经环路，具有正向、反向神经通路，支持上、下双向信息处理过程，采用多种具有生物合理性的可塑性过程，能够进行前向学习，将输入图像或视频流中的视觉表征信息快速编码为记忆信息，并进行信息抽象和信息成分调制过程以获得各对象间的共性特征信息、差异性特征信息，形成多种信息维度与信息抽象程度的信息通道，提升泛化能力的同时保留细节信息，还支持强化学习、监督学习、新颖度信号调制过程，不依赖误差反传与梯度下降的端到端训练范式，突破了现有深度学习理论体系的瓶颈，为神经拟态芯片的设计与应用提供了基础。
408.本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
409.对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。