基于DNA支点介导链置换反应技术的非线性神经网络

基于dna支点介导链置换反应技术的非线性神经网络
技术领域
1.本发明涉及生物计算及人工智能领域，涉及一种基于dna支点介导链置换反应技术的非线性神经网络。


背景技术：

2.近年来，半导体器件的尺寸已经达到了几纳米级别，但由于物理限制，集成电路在不久的将来将无法按照摩尔定律继续发展下去。正是在这样的背景下，具有更小微观尺寸的计算机成为计算需求的主要对象。目前，人工智能实现的主要平台为电子计算机，因此，人工智能的发展必然受到了电子计算机自身性能发展的限制。电子计算机采用线性的数据放置模式和串行的信息处理方式，而这种信息存储和处理方式会限制计算机的运算速度，而生物计算机由于生化反应本身的优势，可实现信息的并行处理和运算，对于解决大规模np问题具有巨大优势。
3.半合成生物学作为一种新的半导体技术，由于dna或rna具有出色的信息存储和处理能力，可能会引导一种全新的存储和计算模式。dna由四种核苷酸a、t、g、c组成，它们将dna转化为具有复杂结构的多种dna链。在无生物酶的催化作用下，在室温下即可触发dna链置换反应。dna支点介导的链置换反应的动力学性质严格遵循watson
–
crick碱基配对原理，因此其动力学行为是可预测和可控的，并具有高度的可编程性和级联性，可实现多种复杂功能，如逻辑计算、模拟计算、生物传感器和分子步行器等。dna链置换反应可以忠实地模拟任何抽象化学反应网络的动力学构造具有计算功能的逻辑门和运算模块，并实现分布式计算，成为实现生物计算机的重要基底。
4.人工智能通过对神经元之间信息传递方式的生物特性的模拟，实现人脑的推理、判断及归类等功能，与电子器件相比，dna计算则是利用分子器件自身的生物特性实现人脑的部分功能，因此，利用dna计算的方法实现人工智能的方法可能更接近人脑的学习本质，也更有可能实现真正的人脑功能。


技术实现要素：

5.本发明设计了基于dna支点介导链置换反应技术的非线性神经网络，该神经网络具有类似于bp神经网络的框架结构，利用dna链置换反应的可编译性，构造了多个带有荧光标记的反应模块，并将多个反应模块级联成网络的输入层、隐藏层和输出层，进而搭建完整的神经网络，实现标准二次型函数的学习功能。
6.第一部分：基于理想化反应的非线性神经网络的设计
7.基于dna支点介导链置换反应技术的非线性神经网络，描述如下形式：
[0008][0009]
[0010][0011][0012][0013][0014][0015][0016][0017][0018][0019][0020][0021]
其中n＝1,2,
…
,l；j＝1,2,
…
,m；xi、yj、w
in
和v
nj
为信号参与物，xi和yj的浓度表征输入数据，w
in
和v
nj
的浓度代表输入层和隐藏层部分的权值；ks,s＝1,
…
,14为反应速率。如图2所示，非线性神经网络由输入层、隐藏层和输出层三部分组成，其中反应(1)、(2)、(9)和(11)构成了输入层，反应(3)、(4)、(5)、(6)、(10)和(12)构成了隐藏层，反应(7)、(8)和(13)构成了输出层。
[0022]
根据理想化反应(1)-(13)，in、i
′
n、i
″
n和的微分方程为：
[0023][0024]
当in、i
′
n、i
″
n和达到反应平衡时，有
[0025][0026]
可得到如下方程组(15):
[0027][0028]
其中y＝ψ(*)代表激活函数，由于二次函数的右半只满足激活函数的要求，而且易于被dna链置换反应实现，因此本发明中激活函数选取为二次函数y＝x2的右半部分。
[0029]
第二部分：非线性神经网络的dna实现
[0030]
反应方程(1)-(13)由不同的反应模块构成，其中方程(1)和(5)属于催化反应模块1；方程(1)和(5)属于催化反应模块1；方程(2)、(4)、(6)和(8)属于降解反应模块；方程(9)和(10)属于调节反应模块1；方程(11)-(13)属于催化反应模块2。上述反应模块可由如下的dna链置换反应实现：
[0031]
(i)催化反应模块1：
[0032]
催化反应模块1的理想化反应方程为：它可由如下dna链置换反应得到：
[0033][0034]
其中ii被催化，xi为信号dna链，wi为权值报告链ai、pai、pci和pdi为辅助dna链，且辅助dna链的初始浓度为cm，并满足cm≥[xi]0,[wi]0,[ii]0，[*]0表示*的初始浓度。反应速率qi和ki满足qi≤qm，ki＝qi，qm表示最大反应速率。
[0035]
(ii)催化反应模块2：
[0036]
催化反应模块2的理想化反应方程为：它可由如下dna链置换反应得到：
[0037][0038]
其中ii被催化，xi为信号dna链，gai,ei,fi,gdi,gei,ji及ki为辅助dna链，且辅助dna链的初始浓度为cm，并满足cm≥[yi]0,[ii]0；反应速率qi满足qi≤qm，ki＝qi。
[0039]
(iii)降解反应模块：
[0040]
降解反应模块2的理想化反应方程为：它可由如下dna链置换反应得到：
[0041][0042]
其中ii被降解，fai,ci,fci及fdi为辅助dna链，且辅助dna链的初始浓度为cm，并满足cm≥[yi]0,[ii]0；反应速率qi满足qi≤qm，ki＝qi。
[0043]
(iv)调节反应模块1：
[0044]
调节反应模块1的理想化反应方程为：它可由如下dna链置换反应得到：
[0045][0046]
其中wi的浓度被调节,eai及ebi为信号dna链，且它们之间的浓度满足[wi]0＜＜[ebi]0和[eai]0＜＜[ebi]0；反应速率满足kai＝qai和kbi＝qbi。
[0047]
(v)调节反应模块2：
[0048]
调节反应模块2的理想化反应方程为：它可由如下dna链置换反应得到：
[0049][0050]
其中yi的浓度被调节,lai及lbi为信号dna链，且它们之间的浓度满足[yi]0,[lai]0＜＜[lbi]0；反应速率满足kxi＝qxi和kyi＝qyi。
[0051]
第三部分：线性神经网络的训练
[0052]
本发明利用非线性神经网络学习标准二次型函数本发明利用非线性神经网络学习标准二次型函数其中权值wi及输入xi(i＝1,2,
…
,n)皆为实数，由于权值和输入的数值由dna链的浓度表示，因此wi,xi≥0。
[0053]
(1)训练数据的归一化处理
[0054]
神经网络的训练由多轮训练构成，一轮训练由k组训练数据组成，打乱训练数据组，得到另一轮训练数据。第一轮训练数据由xi＝[xi(1,1),xi(2,1),
…
,xi(k,1)]表示，则可按如下方法进行数据归一化：
[0055][0056]
中
[0057][0058]
xi(k,l)表示第l次训练的第k组数据的第i个数据，其中k＝1,2,
…
,k，l＝1,2,
…
,λ，ρ＞0为调节参数，及为神经网络的输入信号dna链的初始浓度设定。
[0059]
(2)神经网络的训练评估
[0060]
在第l次训练中，定义相对误差e
l
(k)如下：
[0061][0062]
其中
[0063][0064]
及表示经过第l次训练以后，得到的输入层和隐藏层的权值。
[0065]
为评估本次训练结果，定义平均相对误差如下：
[0066][0067]
进过多次训练以后，当平均相对误差达到目标值以后，则停止训练。
[0068]
表1 dna链的浓度和反应速率的设定。
[0069][0070]
表2非线性神经网络的结构，及各部分所对应的理想化反应和dna实现。
[0071]
[0072]
[0073][0074]
本发明的有益效果：
[0075]
在以往的基于dna计算的神经网络设计中，权值的设定需要电子计算机的参与或已知的数据库来完成，网络本身并不能实现权值的更新和计算，只是实现了某种神经网络的功能。本发明利用dna链置换反应网络本身的动力学特征及自适应特点，而且不依赖某种算法，实现权值的更新及神经网络的学习功能。
附图说明
[0076]
图1本发明的流程图。
[0077]
图2非线性神经网络的框架图。
[0078]
图3催化反应模块1的主要dna链置换反应。
[0079]
图4催化反应模块2的主要dna链置换反应。
[0080]
图5降解反应模块的主要dna链置换反应。
[0081]
图6调节反应模块1的dna链置换反应。
[0082]
图7调节反应模块2的dna链置换反应。
[0083]
图8数据链ii、xi、wi、ai和pdi的dna编码。
[0084]
图9数据链yi、ki、gai和gei的dna编码。
[0085]
图10数据链fai和fdi的dna编码。
[0086]
图11数据链eai和lai的dna编码。
[0087]
图12权值的更新轨迹。
[0088]
图13平均相对误差随训练次数的演化。
[0089]
图14在不同轮训练中需要的总训练次数。
[0090]
图15相对误差随测试数据的演化。
具体实施方式
[0091]
本发明的实施是在以本发明技术方案为前提下进行实施的，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述实施例。
[0092]
详细步骤如下:
[0093]
一、基于理想化反应的非线性神经网络的设计
[0094]
本发明提出的非线性神经网络的理想化化学反应网络可描述成如下形式：
[0095]
[0096][0097][0098][0099][0100][0101][0102][0103][0104][0105][0106][0107][0108]
其中n＝1,2,
…
,l；j＝1,2,
…
,m；xi、yj、w
in
和v
nj
为信号参与物，xi和yj的浓度表征输入数据，w
in
和v
nj
的浓度代表输入层和隐藏层部分的权值；ks,s＝1,
…
,14为反应速率。如图2所示，非线性神经网络由输入层、隐藏层和输出层三部分组成，其中反应(1)、(2)、(9)和(11)构成了输入层，反应(3)、(4)、(5)、(6)、(10)和(12)构成了隐藏层，反应(7)、(8)和(13)构成了输出层。
[0109]
根据理想化反应(1)-(13)，in、i
′
n、i
″
n和的微分方程为：
[0110][0111]
当in、i
′
n、i
″
n和达到反应平衡时，有
[0112][0113]
可得到如下方程组(15):
[0114][0115]
其中y＝ψ(*)代表激活函数，由于二次函数的右半只满足激活函数的要求，而且易于被dna链置换反应实现，因此本发明中激活函数选取为二次函数y＝x2的右半部分。
[0116]
二、数据链及反应模块的设计
[0117]
(i)催化反应模块1：
[0118]
催化反应模块1的理想化反应方程为：它可由如下dna链置换反应得到：
[0119][0120]
其中ii被催化，xi为信号dna链，wi为权值报告链ai、pai、pci和pdi为辅助dna链，且辅助dna链的初始浓度为cm，并满足cm≥[xi]0,[wi]0,[ii]0，[*]0表示*的初始浓度。反应速率qi和ki满足qi≤qm，ki＝qi，qm表示最大反应速率。数据链ii、xi、wi、ai和pdi的dna编码如图8所示，催化反应模块1的主要dna链置换反应过程如图3所示。
[0121]
(ii)催化反应模块2：
[0122]
催化反应模块2的理想化反应方程为：它可由如下dna链置换反应得到：
[0123][0124]
其中ii被催化，yi为信号dna链，gai,ei,fi,gdi,gei,ji及ki为辅助dna链，且辅助dna链的初始浓度为cm，并满足cm≥[yi]0,[ii]0；反应速率qi满足qi≤qm，ki＝qi。数据链yi、ki、gai和gei的dna编码如图9所示，催化反应模块2的主要dna链置换反应过程如图4所示。
[0125]
(iii)降解反应模块：
[0126]
降解反应模块的理想化反应方程为：它可由如下dna链置换反应得到：
[0127][0128]
其中ii被降解，fai,ci,fci及fdi为辅助dna链，且辅助dna链的初始浓度为cm，并满足cm≥[yi]0,[ii]0；反应速率qi满足qi≤qm，ki＝qi。数据链fai和fdi的dna编码如图10所示，
降解反应模块的主要dna链置换反应过程如图5所示。
[0129]
(iv)调节反应模块1：
[0130]
调节反应模块1的理想化反应方程为：它可由如下dna链置换反应得到：
[0131][0132]
其中wi的浓度被调节,eai及ebi为信号dna链，且它们之间的浓度满足[wi]0＜＜[ebi]0和[eai]0＜＜[ebi]0；反应速率满足kai＝qai和kbi＝qbi。数据链eai的dna编码如图11(a)所示，降解反应模块的主要dna链置换反应过程如图6所示。
[0133]
(v)调节反应模块2：
[0134]
调节反应模块2的理想化反应方程为：它可由如下dna链置换反应得到：
[0135][0136]
其中yi的浓度被调节,lai及lbi为信号dna链，且它们之间的浓度满足[yi]0,[lai]0＜＜[lbi]0；反应速率满足kxi＝qxi和kyi＝qyi。数据链lai的dna编码如图11(b)所示，降解反应模块的主要dna链置换反应过程如图7所示。
[0137]
反应方程(1)-(13)由不同的反应模块构成，其中方程(1)和(5)属于催化反应模块1；方程(1)和(5)属于催化反应模块1；方程(2)、(4)、(6)和(8)属于降解反应模块；方程(9)和(10)属于调节反应模块1；方程(11)-(13)属于催化反应模块2.
[0138]
三、非线性神经网络的训练与测试
[0139]
本发明利用非线性神经网络学习标准二次型函数本发明利用非线性神经网络学习标准二次型函数其中权值wi及输入xi(i＝1,2,
…
,n)皆为实数，由于权值和输入的数值由dna链的浓度表示，因此wi,xi≥0。
[0140]
(1)训练数据的归一化处理
[0141]
神经网络的训练由多轮训练构成，完成一次训练目标称为一轮训练，其中一轮训练包含多次训练，一次训练由k组训练数据组成，随机打乱训练数据组，得到另一次或另一轮训练数据。某一轮训练的第一次训练数据由xi＝[xi(1,1),xi(2,1),
…
,xi(k,1)]表示，则可按如下方法进行数据归一化：
[0142][0143]
其中
[0144][0145]
xi(k,l)表示第l次训练的第k组数据的第i个数据，其中k＝1,2,
…
,k，l＝1,2,
…
,λ，ρ＞0为调节参数，及为神经网络的输入信号dna链的初始浓度设定。
[0146]
(2)神经网络的训练评估
[0147]
在第l次训练中，定义相对误差e
l
(k)如下：
[0148][0149]
其中
[0150][0151]
及表示经过第l次训练以后，得到的输入层和隐藏层的权值。
[0152]
为评估本次训练结果，定义平均相对误差如下：
[0153][0154]
进过多次训练以后，当平均相对误差达到目标值以后，则停止训练。
[0155]
以3个输入节点的非线性神经网络为例，说明基于dna链置换反应的神经网络的训练和评估：
[0156]
测试的原始数据为x1＝[0.23,0.26,0.29,
…
,2.30]、x2＝[0.31,0.32,0.33,
…
,1.00]和x3＝[0.23,0.26,0.29,
…
,2.30]共70组数据，ρ的取值为ρ＝2。dna链的初始浓度及反应速率的初始设定如表1所示。图12表示在30轮训练中，权值的更新轨迹。
[0157]
如图13所示，在30轮训练中，经过前30次训练，平均相对误差均高于目标值5％，但经过31次训练以后，部分轮训练的平均相对误差达到目标值，在经过43次训练以后，所有轮训练的平均相对误差均达到或低于目标值，即实现了训练目标。
[0158]
图14展示了30轮训练中，为达到训练目标所需要的总训练次数，显然训练次数集中在30次至40次。
[0159]
(3)神经网络的测试
[0160]
为使测试数据和训练数据落在相同的范围，训练数据需要经过公式(24)所示的归一化处理：
[0161]
[0162]
其中
[0163][0164]
x
′i(k)表示第k组数据中的第i个数据，测试数据由x
′i＝[x
′i(1),x
′i(2),
…
,x
′i(k
′
)]表示，共k
′
组测试数据，每次测试所用的数据相同，但所用的权值更新不同，即第p次测试用的是第p轮训练以后得到的权值更新，显然测试的次数与训练的轮数是相同的。
[0165]
定义测试相对误差为：
[0166][0167]
其中
[0168][0169]e′k(p)表示第p次测试中的第k组数据的相对误差，w
in
(p)和v
n1
(p)为对应的第p轮训练以后得到的权值更新结果。
[0170]
仍以3个输入节点的非线性神经网络为例，说明基于dna链置换反应的神经网络的测试结果：
[0171]
选取原始测试数据为x
′1＝[0.5,0.7,0.9,
…
,6.5]、x
′2＝[0.25,0.30,0.35,
…
,1.70]和x
′3＝[0.4,0.7,1.0,
…
,9.1]，共30组测试数据，如图15所示，在30次测试中，除第一组测试数据以后，其余29组数据的相对误差的均值都在误差允许范围内，表明基于dna链置换反应的神经网络具有较好的测试结果。