算术装置和乘法累加系统的制作方法

1.本技术涉及可以应用于使用模拟方法的乘法累加运算的算术装置和乘法累加系统。


背景技术：

2.常规上，已经开发了用于执行乘法累加运算的技术。乘法累加运算是将多个输入值中的每一个乘以权重并将乘法结果彼此相加的运算，用于例如，通过神经网络等识别图像、语音等的处理。
3.例如，专利文献1描述了其中以模拟方式来执行乘法累加处理的模拟电路。在该模拟电路中，设置与多个电信号中的每一个相对应的权重。此外，根据相应的电信号和权重分别地输出电荷，并适当地将输出电荷累积在电容器中。表示乘法累加结果的待计算值是基于其中累积电荷的电容器的电压来计算的。因此，与例如数字处理(专利文献1的说明书的第[0003]、[0049]至[0053]、[0062]段、图3等)相比，能够降低乘法累加运算所需的功耗。
[0004]
引用列表
[0005]
专利文献
[0006]
专利文献1：wo 2018/034163


技术实现要素：

[0007]
发明要解决的技术问题
[0008]
使用这样的模拟型电路有望实现神经网络等的低功耗，并且期望提供简化电路配置并实现高速算术运算处理的技术。
[0009]
鉴于上述情况，本技术的目的是提供一种算术装置和乘法累加系统，通过该算术装置和乘法累加系统可以简化电路配置，并且可以实现高速算术运算处理。
[0010]
问题的解决方案
[0011]
为了实现上述目的，根据本技术的实施例的算术装置包括多个输入线对和一个或多个乘法累加设备。
[0012]
对应于输入值的信号对在预定的输入周期内输入到多个输入线对中的每一个中。
[0013]
一个或多个乘法累加设备中的每一个包括多个乘法单元、累加单元、充电单元和输出单元。
[0014]
多个乘法单元分别连接到多个输入线对中的至少一些输入线对，并且能够生成正权重电荷和负权重电荷中的每一个，正权重电荷对应于通过将输入到乘法单元连接到的输入线对中的信号对的一个信号的信号值乘以正权重值而获得的正权重乘积值，负权重电荷对应于通过将另一个信号的信号值乘以负权重值而获得的负权重乘积值。
[0015]
累加单元能够累加由多个乘法单元中的每一个生成的正权重电荷和负权重电荷。
[0016]
充电单元在输入周期之后对其中累积了与乘积值相对应的电荷的累加单元进行充电。
[0017]
在充电单元开始充电之后，输出单元使用预定阈值对由累加单元保持的电压执行阈值确定，从而输出表示正权重乘积值之和的正乘法累加信号和表示负权重乘积值之和的负乘法累加信号。
[0018]
此外，在一个或多个乘法累加设备中，在公共的充电模式下执行由充电单元进行的充电，并且将公共阈值设置为预定阈值。
[0019]
在该算术装置中，在一个或多个乘法累加设备中，通过将对应于输入值的信号对的各个信号值乘以正负权重值来生成正权重电荷和负权重电荷，并且被累积在累加单元中。累加单元由充电单元充电，并且通过使用预定阈值对其电压执行阈值确定，从而输出正和负乘法累加信号。因此，可以省略用于将算术运算结果积分到一个信号中的电路等。此外，在一个或多个乘法累加设备中，在公共的充电模式下执行由充电单元进行的充电，并且在阈值确定中使用公共阈值。因此，各个乘法累加设备的算术运算可以适当地在相同的定时处执行。结果，可以简化电路配置，并且可以实现高速算术运算处理。
[0020]
公共的充电模式可以包括根据公共时间常数进行充电。
[0021]
公共的充电模式可以包括基于正权重值的总和值和负权重值的绝对值的总和值的最大总和值进行充电，最大总和值在一个或多个乘法累加设备中是最大的，正权重值和负权重值被设置在多个乘法单元中。
[0022]
公共的充电模式可以根据最大总和值按照时间常数对累加单元进行充电。
[0023]
多个输入线对可以供应在输入周期之后进入导通状态的充电信号。在这种情况下，充电单元可以通过基于充电信号累积由多个乘法单元生成的电荷来对累加单元充电。
[0024]
充电单元可以包括用于充电的电阻器和经由用于充电的电阻器连接到累加单元并供应在输入周期之后进入导通状态的充电信号的充电线。
[0025]
用于充电的电阻器可以被设置为具有根据最大总和值的电阻值。
[0026]
多个输入线对可以在输入周期之后进入关断状态。在这种情况下，充电单元可以通过基于充电信号累积由用于充电的电阻器生成的电荷来对累加单元进行充电。
[0027]
公共阈值可以基于最大总和值来设置。
[0028]
公共阈值可以基于表示在累加单元经由具有根据最大总和值的电阻值的电阻器充电的情况下累加单元的电压随时间的变化的电压曲线来设置。
[0029]
对于多个乘法单元中的每一个，正权重值和负权重值的绝对值可以被设置为相同的值。
[0030]
正权重值和负权重值的绝对值可以固定为相同的值。
[0031]
正权重值和负权重值的绝对值可以被设置为彼此不同的多个值中的任何一个。
[0032]
一个或多个乘法累加设备可以是并联连接到多个输入线对的多个乘法累加设备。
[0033]
在乘法累加设备中，可以将正权重值的总和值和负权重值的绝对值的总和值设置为彼此相等的公共总和值。在这种情况下，多个乘法累加设备可以包括被设置为相同的值的公共总和值。
[0034]
在乘法累加设备中，正权重值的总和值和负权重值的绝对值的总和值可以被设置为彼此相等的公共总和值。在这种情况下，多个乘法累加设备可以包括乘法累加设备，该乘法累加设备包括彼此不同的公共总和值。
[0035]
输入值可以由正值和负值之和来表示。在这种情况下，信号对可以包括具有作为
信号值的正值的正信号和具有作为信号值的负值的绝对值的负信号。此外，多个乘法单元可以包括第一乘法单元或第二乘法单元中的至少一个，第一乘法单元通过将正信号的信号值乘以正权重值来生成正权重电荷，并且通过将负信号的信号值乘以负权重值来生成负权重电荷；第二乘法单元通过将负信号的信号值乘以正权重值来生成正权重电荷，并且通过将正信号的信号值乘以负权重值来生成负权重电荷。
[0036]
多个输入线对可以各自包括输入正信号的正输入线和输入负信号的负输入线。在这种情况下，一个或多个乘法累加设备可以包括正电荷输出线和负电荷输出线。此外，第一乘法单元可以包括：连接在正输入线和正电荷输出线之间的电阻器和连接在负输入线和负电荷输出线之间的电阻器，该电阻器定义正权重值，并且将正权重电荷输出到正电荷输出线；连接在负输入线和负电荷输出线之间的电阻器，该电阻器定义负权重值，并且将负权重电荷输出到负电荷输出线。此外，第二乘法单元可以包括：连接在负输入线和正电荷输出线之间的电阻器，该电阻器定义正权重值，并且将正权重电荷输出到正电荷输出线；连接在正输入线和负电荷输出线之间的电阻器，该电阻器定义负权重值，并且将负权重电荷输出到负电荷输出线。
[0037]
累加单元可以包括连接到正电荷输出线并累积正权重电荷的正电荷累加单元和连接到负电荷输出线并累积负权重电荷的负电荷累加单元。在这种情况下，充电单元可以对正电荷累加单元和负电荷累加单元中的每一个充电。此外，输出单元可以使用公共阈值对正电荷累加单元执行阈值确定，从而输出正乘法累加信号，并且使用公共阈值对负电荷累加单元执行阈值确定，从而输出负乘法累加信号。
[0038]
根据本技术的实施例的乘法累加系统包括多条输入线、多个模拟电路和网络电路。
[0039]
多个模拟电路各自包括多个乘法单元、累加单元、充电单元和输出单元。
[0040]
网络电路通过连接多个模拟电路来配置。
[0041]
此外，在多个模拟电路中，在公共的充电模式下执行由充电单元进行的充电，并且将公共阈值设置为预定阈值。
附图说明
[0042]
【图1】是示出了根据本技术的实施例的算术装置的配置示例的示意图。
[0043]
【图2】是示出了要输入到模拟电路中的信号对的示例的示意图。
[0044]
【图3】是示出了算术装置的具体配置示例的示意图。
[0045]
【图4】是示出了神经元电路的配置示例的示意图。
[0046]
【图5】是示出了根据本实施例的模拟电路的示例的示意性电路图。
[0047]
【图6】是示出了信号对的示例的示意图。
[0048]
【图7】是示出了突触电路的配置示例的示意性电路图。
[0049]
【图8】是用于描述图5所示的模拟电路的乘法累加信号的计算示例的图。
[0050]
【图9】是示出了正负乘法累加信号的示例的示意图。
[0051]
【图10】是示出了在层的模拟电路之间的连接示例的示意图。
[0052]
【图11】是示出了由电容器保持的电压随时间变化的示例的示意图。
[0053]
【图12】是示出了算术装置的配置示例的电路图。
[0054]
【图13】是示出了算术装置的配置示例的电路图。
[0055]
【图14】是示出了算术装置的配置示例的电路图。
[0056]
【图15】是示出了算术装置的配置示例的电路图。
具体实施方式
[0057]
以下，将参照附图描述根据本技术的实施例。
[0058]
[算术装置的配置]
[0059]
图1是示出了根据本技术的实施例的算术装置的配置示例的示意图。算术装置100是模拟型算术装置，执行包括乘法累加运算的预定算术处理。通过使用算术装置100，例如，可以根据诸如神经网络的数学模型来执行算术处理。
[0060]
算术装置100包括多条信号线1、多个输入单元2和多个模拟电路3。信号线1中的每一条是传输预定类型的电信号的线。例如，通过使用诸如脉冲定时和脉冲宽度的模拟量来表示信号值的模拟信号被作为电信号来使用。其中传输电信号的方向在图1中通过箭头示意性地示出。
[0061]
如图1所示，信号线1包括正信号线1a和负信号线1b。正信号线1a中的每一条和负信号线1b中的每一条被成对布线并作为一对信号线1被使用。在下面的描述中，将由正信号线1a和负信号线1b构成的一对信号线1描述为信号线对p1。在图1中应当注意，正信号线1a是连接到作为白圆的连接点的信号线1，负信号线1b是连接到作为黑圆的连接点的信号线1。
[0062]
信号线对p1传输对应于输入值(或输出值)的信号对。信号对是分别输入到正信号线1a和负信号线1b中的一对电信号。这对电信号的每个信号值表示输入值。即，可以说信号线对p1起到传输输入值的传输路径的作用。
[0063]
输入值x由正值x

和负值x
‑
之和来表示。这里，正值x

是0或更大的实数(x

≥0)。此外，负值x
‑
是0或更小的实数(x
‑
≤0)。因此，输入值x由x＝x

x
‑
表示为正值x

和负值x
‑
之和。这里，在使用负值x
‑
的绝对值的情况下，输入值x由x＝x

‑
|x
‑
|表示为正值x

和负值x
‑
的绝对值之间的差值。因此，输入值x可以使用两个正实数之间的差值来表示。
[0064]
在该实施例中，信号对包括正信号和负信号。正信号是具有正值x

作为信号值的电信号，并且被输入到正信号线1a中。负信号是具有负值x
‑
的绝对值|x
‑
|作为信号值的电信号，并且被输入到负信号线1b中。因此，包括在信号对中的正信号和负信号都成为表示正实数的电信号。
[0065]
如上所述，在该实施例中，由信号对表示的输入值x是被输入到正信号线1a的正信号的信号值(正值x

)与被输入到负信号线1b的负信号的信号值(负值x
‑
)之间的差值。换言之，生成正信号和负信号(信号对)，使得从正信号的信号值减去负信号的信号值所获得的值为输入值x。稍后将参考图2来详细描述信号对的具体波形等。
[0066]
如图1所示，多个信号线对p1连接到一个模拟电路3。向模拟电路3传输信号对的信号线对p1是输入信号线对(输入信号线对)，信号对被输入到输入信号线对，用于连接信号线对p1的模拟电路3。此外，传输从模拟电路3输出的信号对的信号线对p1是输出信号线对(输出信号线对)，信号对从输出信号线对被输出，用于连接信号线对p1的模拟电路3。在该实施例中，输入信号线对与输入线对相对应。
[0067]
多个输入单元2各自生成与输入数据4的值(输入值x)相对应的信号对。输入数据4是例如要使用由算术装置100实现的神经网络等来处理的数据。因此，也可以说，与输入数据4相对应的多个电信号的各个信号值是对算术装置100的输入值。此外，也可以说信号对是输入对。
[0068]
例如，将要由算术装置100处理的诸如图像数据、音频数据和统计数据的任意数据用作输入数据4。例如，在将图像数据用作输入数据4的情况下，生成与作为信号值的图像数据的每个像素的像素值(rgb值、亮度值等)相对应的信号对。此外，可以根据输入数据4的类型和由算术装置100执行的处理的内容，适当地生成与输入数据4相对应的信号对。
[0069]
模拟电路3是基于多个输入信号对执行乘法累加运算的模拟型电路。乘法累加运算是例如将通过多个输入值乘以对应于输入值的权重值而获得的多个乘积值相加的运算。因此，也可以说乘法累加运算是计算乘积值之和的处理(下文中，称为乘法累加结果)。在该实施例中，模拟电路3对应于乘法累加设备。
[0070]
如图1所示，多个输入信号线对连接到一个模拟电路3，并向其提供多个信号对。多个输入信号线对和模拟电路3构成根据该实施例的乘法累加运算电路。此外，从每个输入信号线对输入多个信号对，因此由乘法累加运算电路(模拟电路3)执行根据该实施例的乘法累加方法。
[0071]
在下文中，假设输入到一个模拟电路3中的信号对(输入信号线对)的总数是n，在这种情况下，连接到模拟电路3的输入信号线的总数是2
×
n，应当注意，输入到每个模拟电路3中的信号对的数量n是根据例如算术处理的模型、精度等对每个电路适当地设置的。
[0072]
在模拟电路3中，例如，计算w
i
*x
i
，w
i
*x
i
是由从第i个输入信号线对输入的信号对表示的输入值x
i
与对应于该输入值x
i
的权重值w
i
的乘积值。在这里，i表示等于或小于n的自然数(i＝1,2,...,n)。
[0073]
在使用信号对的乘法累加运算中，将输入到正信号线1a的正信号的信号值(正值x
i
)和输入到负信号线1a的负信号的信号值(负值x
i
‑
)中的每一个乘以相应的权重值，并确定两个乘积值。两个乘积值可以用于表示输入值x
i
和权重值w
i
的乘积值w
i
*x
i
。以下，将详细描述这一点。
[0074]
对于每个信号对(输入信号线对)执行乘积值w
i
*x
i
的运算，并且计算n个乘积值。通过将n个乘积值w
i
*x
i
相加而获得的值被计算为乘法累加结果(n个乘积值的和)。因此，由一个模拟电路3计算的乘法累加结果由下列表达式来表示。
[0075]
[公式1]
[0076][0077]
权重值w
i
例如被设置在
‑
α≤w
i
≤ α的范围内。这里，α表示任意的实数值。因此，权重值w
i
可以包括正权重值w
i
、负权重值w
i
、零权重值w
i
等。通过如上所述将权重值w
i
设置为在预定范围内，可以避免乘法累加结果发散的情况。
[0078]
此外，例如，可以对其中设置权重值w
i
的范围进行归一化。在这种情况下，权重值w
i
被设置为在
‑
1≤w
i
≤1的范围内。因此，例如，可以调整乘法累加结果的最大值、最小值等，并且能够用期望的精度来执行乘法累加运算。
[0079]
在神经网络等中，可以使用被称为二进制连接的方法，该方法将权重值w
i
设置为 α或
‑
α。二进制连接被用于各种领域，诸如使用深度神经网络(多层神经网络)的图像识别。二进制连接的使用可以简化权重值w
i
的设置，而不会劣化识别精度等。在二进制连接中，正权重值和负权重值的绝对值固定为相同的值。
[0080]
如上所述，在二进制连接中，权重值w
i
被二进制化为二进制值(
±
α)。因此，例如，通过将权重值w
i
改变为正或负，可以容易地设置期望的权重值w
i
。或者，可以对二进制化的权重值w
i
进行归一化，并且可以将权重值w
i
设置为
±
1。
[0081]
此外，权重值w
i
可以是多值的。在这种情况下，通过从多个离散权重值候选中进行选择来设置权重值w
i
。权重值候选的示例包括(
‑
3、
‑
2、
‑
1、0、1、2、3)和(1、2、5、10)。此外，可以使用标准化的权重值候选(
‑
1、
‑
0.5、0、0.5、1)等。从这些权重值候选中选择一个值，并将其设置为权重值w
i
。权重值候选的数量、设置候选值的方法等不受限制。通过对权重值w
i
进行多值化，可以构造例如，具有高通用性的神经网络等。
[0082]
此外，权重值w
i
的设置范围、设置值等不受限制，并且例如可以适当地设置，使得实现期望的处理精度。
[0083]
在表达式(公式1)中示出的输入值x
i
是例如从输入单元2输出的输入数据4的值和从模拟电路3输出的乘法累加结果的值。因此，也可以说，输入单元2和模拟电路3用作用于输出输入值x
i
的信号源。
[0084]
如图1所示，在该实施例中，从一个信号源(输入单元2、模拟电路3)经由信号线对p1输出与输入值x
i
相对应的一对电信号(信号对)。即，相同的信号对被输入到连接到一个信号源的输出侧的每个信号线对p1中。此外，一个信号源和从信号源输出的电信号被输入到其中的模拟电路3通过一个信号线对p1(输入信号线对)彼此连接。
[0085]
因此，例如，m个输入信号线对连接到模拟电路3，该模拟电路3连接到图1所示的算术装置100中的m个信号源。在这种情况下，输入到模拟电路3的信号对的总数n为n＝m。应当注意，输入到模拟电路3的电信号的总数，即，连接到输入侧的信号线1的总数为2
×
m。
[0086]
如图1所示，算术装置100具有层结构，其中多个模拟电路3设置在多个层的每一层中。通过配置模拟电路3的层结构，例如构造多层感知器(mlp)型神经网络等。在每一层中设置的模拟电路的数量、层的数量等被适当地设计，使得例如可以执行期望的处理。在下文中，在第j层中设置的模拟电路3的数量可以被称为n
j
。
[0087]
例如，由n个输入单元2生成的n个信号对被输入到设置在第一级的层(最低层)中的每个模拟电路3中。第一级的模拟电路3计算与输入数据的输入值x
i
相关的乘法累加结果，并且在非线性转换处理之后将计算的乘法累加结果输出到在下一层(第二级)中设置的模拟电路3。
[0088]
表示在第一级中计算的各个乘法累加结果的n1个信号对被输入到设置在第二层(上层)中的各个模拟电路3中。因此，从第二级的模拟电路3来看，在第一级中计算的各个乘法累加结果的非线性转换处理结果是信号对的输入值x
i
。第二级的模拟电路3计算从第一级输出的输入值x
i
的乘法累加结果，并将计算的乘法累加结果输出到上层的模拟电路3。
[0089]
以这种方式，在算术装置100中，在上层中的模拟电路3的乘法累加结果是基于由在下层中的模拟电路3计算的乘法累加结果来计算的。这样的处理被执行多次，并且处理结果从被包括在顶层(图1中的第三级的层)中的模拟电路3输出。因此，例如，可以执行诸如基
于通过对猫进行成像而获得的图像数据(输入数据4)来确定对象是猫的图像识别的处理。
[0090]
如上所述，通过适当地连接多个模拟电路3，可以配置期望的网络电路。网络电路用作数据流处理系统，该数据流处理系统通过例如使信号通过其中来执行算术处理。在网络电路中，可以通过适当地设置例如权重值(突触连接)来实现各种处理功能。利用该网络电路，构造根据该实施例的乘法累加系统。
[0091]
应当注意的是，将模拟电路3彼此连接的方法等不受限制，并且，例如，多个模拟电路3可以适当地彼此连接，从而可以执行期望的处理。例如，即使在模拟电路3彼此连接以配置不同于层结构的另一结构的情况下，也可以应用本技术。
[0092]
在上面的描述中，已经描述了其中在下层中计算的乘法累加结果按原样输入到上层的配置。本技术不限于此，并且例如，可以对乘法累加结果执行转换处理等。例如，在神经网络模型中，执行例如通过使用激活函数对每个模拟电路3的乘法累加结果执行非线性转换并将转换结果输入到上层的处理。
[0093]
在算术装置100中，使用例如对信号对使用激活函数执行非线性转换的功能电路5等。功能电路5是例如设置在下层和上层之间的电路，并且其对输入信号对的输入值x
i
(各个电信号的信号值)进行适当地转换，并根据转换结果输出信号对。例如，为每条信号线1提供功能电路5。根据例如在算术装置100中实现的数学模型，适当地设置功能电路5的数量、功能电路5的布置等。
[0094]
例如，relu函数(斜坡函数)等被用作激活函数。relu函数例如在由信号对表示的输入值x
i
为0或更大的情况下按原样输出信号对。否则，relu函数输出对应于0的信号对(其信号值为0的电信号对)。例如，实现relu函数的功能电路5被适当地连接到信号线对p1中的每一个。因此，能够实现算术装置100的处理。
[0095]
图2是示出了输入到模拟电路中的信号对的示例的示意图。如图2a和b所示，示意性地示出了表示一对电信号(信号对)的波形的图。在图2a(图2b)中，上图表示输入到正信号线1a中的电信号(正信号in

)的波形。此外，下图表示输入到负信号线1b的电信号(负信号in
‑
)的波形。图的横轴指示时间轴，纵轴指示电信号的电压。
[0096]
在图2中，示出了尖峰定时方法(下文中称为tact方法)的电信号的示例性波形。tact方法是例如通过使用脉冲的上升定时来表示信号值的方法。例如，通过使用预定定时作为参考，在与信号值相对应的定时处输入脉冲。
[0097]
每个电信号在预定的输入周期t内输入到模拟电路3，信号值由在该输入周期t内的脉冲的输入定时来表示。与输入周期t的开始同时输入的脉冲表示最大信号值。与输入周期t的结束同时输入的脉冲表示最小信号值。
[0098]
也可以说，信号值由从脉冲的输入定时到输入周期t的结束定时的持续时间来表示。例如，从脉冲的输入定时到输入周期t的结束定时的持续时间等于输入周期t的脉冲表示最大的信号值。从脉冲的输入定时到输入周期t的结束定时的持续时间为0的脉冲表示最小的信号值。
[0099]
如图2a所示，第i个信号对包括正信号in
i
和负信号in
i
‑
。在tact方法中，正信号in
i
是在与作为其信号值的正值x
i
相对应的定时处输入脉冲的电信号。此外，负信号in
i
‑
是在与作为其信号值的负值x
i
‑
的绝对值|x
i
‑
|相对应的定时处输入脉冲的电信号。
[0100]
信号对的输入值x
i
由正值x
i
与负值x
i
‑
的绝对值|x
i
‑
|之间的差值来表示。因此，输
入值x
i
是从正信号in
i
的脉冲的输入定时减去负信号in
i
‑
的脉冲的输入定时而获得的值。如上所述，在根据tact方法的信号对中，输入值x
i
由输入到正信号线1a和负信号线1b的脉冲的输入定时之间的差值来表示。
[0101]
应当注意的是，在图2a中，根据tact方法，将上升到与输入值相对应的定时并保持导通电平直到获得乘法累加结果的连续脉冲信号用作电信号(正信号和负信号)。本技术不限于此，并且根据tact方法，具有预定脉冲宽度的矩形脉冲等可以被用作电信号。
[0102]
在使用根据tact方法的电信号的情况下，可以执行使用根据tact方法的模拟电路3的时间轴模拟乘法累加运算。
[0103]
根据脉宽调制(pwm)方法的电信号的示例性波形在图2b中示出。pwm方法是例如通过使用脉冲波形的脉冲宽度来表示信号值的方法。即，在pwm方法中，电信号的脉冲宽度是与信号值相对应的长度。通常，较长的脉冲宽度表示较大的信号值。
[0104]
此外，电信号在预定的输入周期t内输入到模拟电路3中。更具体地，各个电信号输入到模拟电路3中，使得电信号的脉冲波形落在输入周期t内。因此，电信号的脉冲宽度的最大值与输入周期t类似。应当注意，只要脉冲波形落在输入周期t内，输入各个脉冲波形(电信号)的定时等不受限制。
[0105]
在pwm方法中，例如可以通过使用脉冲宽度τ与输入周期t之间的占空比r(＝τ/t)对信号值进行归一化。即，表示为归一化的信号值＝占空比r。应当注意，用于使信号值与脉冲宽度τ相对应的方法等不受限制，并且例如，可以适当地设置表示信号值的脉冲宽度τ，使得运算处理等能够以期望的精度进行。
[0106]
如图2b所示，在pwm方法中，正信号in
i
是具有与作为其信号值的正值x
i
相对应的脉冲宽度的电信号。此外，负信号in
i
‑
是具有与作为其信号值的负值x
i
‑
的绝对值|x
i
‑
|相对应的脉冲宽度的电信号。应当注意，输入正信号in
i
和负信号in
i
‑
的定时可能彼此偏离。
[0107]
此外，信号对的输入值x
i
是从负信号in
i
‑
的脉冲宽度减去正信号in
i
的脉冲宽度而获得的值。因此，在根据pwm方法的信号对中，输入值x
i
由输入到正信号线1a和负信号线1b的电信号(正信号in
i
和负信号in
i
‑
)的脉冲宽度之间的差值来表示。
[0108]
在使用根据pwm方法的电信号的情况下，可以执行使用根据pwm方法的模拟电路3的时间轴模拟乘法累加运算。
[0109]
如图2a和b所示，可以将相对于输入周期t的导通持续时间与输入值相对应的脉冲信号用作与输入值相对应的电信号。应当注意，在下文中将假设由每个电信号表示的信号值x
i
为0或更大以及1或更小的变量来进行描述。
[0110]
图3是示出了算术装置100的具体配置示例的示意图。图3是用于实现例如图1所示的算术装置100的电路的布置示例，并且示意性地示出了在算术装置100的一层中设置的多个模拟电路3。多个输入信号线对p6各自连接到每个模拟电路3。
[0111]
与输入值x
i
相对应的信号对在预定的输入周期t内被输入到多个输入信号线对p6中。例如，在输入周期t期间，根据参考图2描述的tact方法或pwm方法的信号对被输入到每一个输入信号线对p6中。
[0112]
每个输入信号线对p6具有正输入信号线6a和负输入信号线6b。正输入信号线6a是输入正信号的信号线1，负输入信号线6b是输入负信号的信号线。在该实施例中，正输入信号线6a对应于正输入线，负输入信号线6b对应于负输入线。
[0113]
每个模拟电路3包括一对输出线7、多个突触电路8和神经元电路9。如图3所示，一个模拟电路3被配置为在预定方向(图中为垂直方向)上延伸。在垂直方向上延伸的多个这样的模拟电路3在水平方向上并排布置，从而形成一层。以下，假设布置在图中最左侧的模拟电路3是第一模拟电路3。此外，其中模拟电路3延伸的方向有时被称为延伸方向。
[0114]
一对输出线7沿着延伸方向彼此间隔开。一对输出线7包括正电荷输出线7a和负电荷输出线7b。正电荷输出线7a和负电荷输出线7b中的每一个经由多个突触电路8连接到神经元电路9。
[0115]
多个突触电路8分别对应于多个输入信号线对p6来布置。一个输入信号线对p6连接到一个突触电路8。设置在一个模拟电路3中的突触电路8的数量例如被设置为等于或小于输入信号线对p6的数量。即，突触电路8不需要连接到所有的输入信号线对p6。
[0116]
以这种方式，多个突触电路8分别连接到多个输入信号线对p6中的至少一些。例如，通过使用安装在算术装置100上的数学模型、仿真等，适当地选择与突触电路8连接的输入信号线对p6(即，突触电路8的布置)。
[0117]
突触电路8计算由信号对表示的输入值x
i
与权重值w
i
的乘积值(w
i
*x
i
)。更具体地，乘积值(w
i
*x
i
)是通过将信号对中包括的正信号和负信号的每个信号值(正值x
i
和负值x
i
‑
的绝对值|x
i
‑
|)乘以相应的权重值来计算的。
[0118]
正权重值v
i
和负权重值v
i
‑
每个被设置到多个突触电路8。这里，正权重值v
i
是正实数(v
i
>0)。此外，负权重值v
i
‑
是负实数(v
i
‑
<0)。因此，可以说突触电路8是其中设置了正权重值v
i
和负权重值v
i
‑
的权重对。
[0119]
突触电路8计算被包括在信号对中的一个电信号的信号值与正权重值v
i
的乘积值。此外，突触电路8计算另一个电信号的信号值与负权重值v
i
‑
的乘积值。具体地，突触电路8生成与每个乘积值相对应的电荷(电流)。
[0120]
作为要与正权重值v
i
相乘的目标的电信号被适当地设置用于每个突触电路8。此外，不是被设置为正权重值v
i
的目标的电信号的电信号是要与负权重值v
i
‑
相乘的目标。在下面的描述中，正权重值v
i
的乘积值将被称为正权重乘积值，并且对应于正权重乘积值的电荷将被称为正权重电荷。此外，负权重值v
i
的乘积值将被称为负权重乘积值，并且对应于负权重乘积值的电荷将被称为负权重电荷。
[0121]
如上所述，突触电路8能够生成正权重电荷和负权重电荷，该正权重电荷对应于通过将输入到连接的输入信号线对p6中的信号对的一个信号的信号值乘以正权重值v
i
而获得的正权重乘积值，该负权重电荷对应于通过将另一个信号的信号值乘以负权重值v
i
‑
而获得的负权重乘积值。
[0122]
应当注意的是，在突触电路8中，无论权重值w
i
是正还是负，都输出具有相同符号的电荷(例如，正电荷)作为与乘积值相对应的电荷。即，正权重电荷和负权重电荷成为具有相同符号的电荷。因此，可以考虑在实际电路中，例如负权重值v
i
‑
的绝对值|vi
‑
|被乘以作为负权重值v
i
‑
。由于正负权重值可以以这种方式作为具有相同符号的值来处理，因此可以简化电路配置。
[0123]
在该实施例中，对于多个突触电路8中的每一个，正权重值v
i
和负权重值v
i
‑
的绝对值|vi
‑
|被设置为相同的值。具体地，正权重值v
i
和负权重值v
i
‑
的绝对值|vi
‑
|都被设置为与权重值w
i
的绝对值|w
i
|相同的值。即每个权重满足|w
i
|＝v
i
＝|v
i
‑
|的关系。在下文中，
权重值w
i
有时将被称为对权重值w
i
。
[0124]
在突触电路8中，将作为正值的对权重值w
i
或作为负值的对权重值w
i
‑
设置为对权重值w
i
。可以通过适当地将信号对(正信号和负信号)与权重对(正权重值)相关联来设置正对权重值w
i
和负对权重值w
i
‑
。在下文中，其中设置了正对权重值w
i
的突触电路8将被称为正突触电路8a，并且其中设置了负对权重值w
i
‑
的突触电路8将被称为负突触电路8b。
[0125]
正突触电路8a通过将正信号的信号值(x
i
)乘以正权重值v
i
来生成正权重电荷，并且通过将负信号的信号值(|x
i
‑
|)乘以负权重值|v
i
‑
|来生成负权重电荷。因此，正权重电荷和负权重电荷分别是与正权重乘积值(v
i
*x
i
)和负权重乘积值(|v
i
‑
|*|x
i
‑
|)相对应的电荷。
[0126]
在该示例中，正权重乘积值和负权重乘积值之间的差值δ

表示如下。
[0127]
δ

＝v
i
*x
i
‑
|v
i
‑
|*|x
i
‑
|＝|w
i
|(x
i
x
i
‑
)＝w
i
*x
i
[0128]
因此，差值δ

是正对权重值w
i
与输入值x
i
的乘积值w
i
*x
i
。即，在正突触电路8a中，乘积值w
i
*x
i
被计算为正权重电荷和负权重电荷之间的差值。在该实施例中，正突触电路8a对应于第一乘法单元。
[0129]
负突触电路8b通过将负信号的信号值(|x
i
‑
|)乘以正权重值v
i
来生成正权重电荷，并且通过将正信号的信号值(x
i
)乘以负权重电荷|v
i
‑
|来生成负权重值。因此，正权重电荷和负权重电荷分别是与正权重乘积值(|v
i
‑
|*x
i
)和负权重乘积值(v
i
*|x
i
‑
|)相对应的电荷。
[0130]
在该示例中，正权重乘积值和负权重乘积值之间的差值δ
‑
表示如下。
[0131]
δ
‑
＝|v
i
‑
|*x
i
‑
v
i
*|x
i
‑
|＝
‑
|w
i
|(x
i
x
i
‑
)＝w
i
‑
*x
i
[0132]
因此，差值δ
‑
是负对权重值w
i
‑
与输入值x
i
的乘积值w
i
‑
*x
i
。即，在负突触电路8b中，乘积值w
i
‑
*x
i
被计算为正权重电荷和负权重电荷之间的差值。在该实施例中，负突触电路8b对应于第二乘法单元。
[0133]
应当注意，与正权重乘积值相对应的正权重电荷被输出到正电荷输出线7a，并且与负权重乘积值相对应的负权重电荷被输出到负电荷输出线7b。以下，将详细描述突触电路8的具体配置。
[0134]
在该实施例中，一对输入信号线6(输入信号线对6p)和一对输出线7连接到单个突触电路8。即，将信号对输入到单个突触电路8中，并且根据对权重值w
i
的符号，将与基于每个电信号计算的乘积值相对应的电荷输出到输出线7a或7b中的任一个。因此，突触电路8是双输入双输出电路。
[0135]
在一个模拟电路3中，多个突触电路8沿着一对输出线7来布置。每个突触电路8与正电荷输出线7a(负电荷输出线7b)并联连接。以下，假设布置在最下游侧(与神经元电路9连接的侧)的突触电路8是第一突触电路8。
[0136]
如图3所示，多个输入信号线对6被布线为与多个模拟电路3中的每一个的一对输出线7相交。通常，每条输入信号线6被设置为与每条输出线7正交。即，算术装置100具有其中输入信号线6和输出线7相互交叉的交叉杆配置。利用交叉杆配置，模拟电路3等例如可以高密度集成。
[0137]
此外，在算术装置100中，包括在各个模拟电路3中的第j个突触电路8与第j个输入信号线对p6并联连接。因此，类似的信号对被输入到与相同的输入信号线对p6连接的突触
电路8中。因此，可以实现其中在下层中包括的一个信号源连接到在上层中包括的多个模拟电路3的配置。
[0138]
应当注意，在图3所示的示例中，包括在下层中的模拟电路3(前神经元)被示意性地示出为将信号对输入到每个输入信号线对p6中的信号源。本技术不限于此，例如，在将输入单元2用作信号源的情况下，也可以使用交叉杆配置。
[0139]
如上所述，在算术装置100中，多个模拟电路3与多个输入信号线对p6中的每一个并联连接。因此，例如，可以将信号对并行输入到每个模拟电路3(每个突触电路8)中，并且以高速实现算术处理。结果，能够表现出优异的运算性能。
[0140]
神经元电路9基于由突触电路8计算的乘积值，计算出表达式(公式1)所示的乘法累加结果。具体地，神经元电路9基于经由一对输出线7输入的电荷，输出表示乘法累加结果的电信号(乘法累加信号)。
[0141]
图4是示出了神经元电路9的配置示例的示意图。神经元电路9包括累加单元11和信号输出单元12。图4示出了连接到一对输出线7和一对输出信号线10(正输出信号线10a和负输出信号线10b)的双输入双输出神经元电路9。应当注意，在某些情况下，双输入单输出电路等可以被用作神经元电路9。
[0142]
累加单元11累积由多个突触电路8输出到一对输出线7的电荷。累加单元11包括两个电容器13a和13b。电容器13a连接在正电荷输出线7a和gnd之间。此外，电容器13b连接在负电荷输出线7b和gnd之间。应当注意，电容器13a和13b被设置为具有相同的电容。
[0143]
因此，从正电荷输出线7a流过的正权重电荷被累积在电容器13a中。此外，从负电荷输出线7b流过的负权重电荷被累积在电容器13b中。以这种方式，累加单元11能够累积由多个突触电路8中的每一个生成的正权重电荷和负权重电荷。在该实施例中，电容器13a对应于连接到正电荷输出线并累积正权重电荷的正电荷累加单元，电容器13b对应于连接到负电荷输出线并累积负权重电荷的负电荷累加单元。
[0144]
例如，在电信号的输入周期t结束的定时处，在电容器13a中累积的电荷是正权重电荷的总和，每个正权重电荷对应于设置在每个突触电路8中的正权重值v
i
的正权重乘积值。此外，在电容器13b中累积的电荷是负权重电荷的总和，负权重电荷对应于设置在每个突触电路8中的负权重值v
i
‑
的负权重乘积值。
[0145]
例如，在电容器13a中累积了正权重电荷的情况下，以gnd为基准的正电荷输出线7a的电位增加。因此，正电荷输出线7a的电位是取决于各自对应于正权重值v
i
的乘积值的正权重电荷的总和的值。应当注意，正电荷输出线7a的电位对应于由电容器13a保持的电压。
[0146]
类似地，在电容器13b中累积了负权重电荷的情况下，以gnd为基准的负电荷输出线7b的电位增加。因此，负电荷输出线7b的电位是取决于各自对应于负权重值v
i
‑
的乘积值的负权重电荷的总和的值。应当注意，负电荷输出线7b的电位对应于由电容器13b保持的电压。
[0147]
信号输出单元12输出表示基于在累加单元11中累积的电荷的乘积值(w
i
*x
i
)之和的乘法累加信号。在该实施例中，表示正权重乘积值之和的正乘法累加信号和表示负权重乘积值之和的负乘法累加信号各自作为表示乘积值(w
i
*x
i
)之和的乘法累加信号来输出。
[0148]
这里，设置在模拟电路3中的突触电路8的总数是n，此外，其中设置了正对权重值
w
i
的n个突触电路8的突触电路8(正权重对)的总数用n

来表示，并且其中设置了负对权重值w
i
‑
的突触电路8(负权重对)的总数用n
‑
来表示。因此，n＝n

n
‑
。在这种情况下，由表达式(公式1)表示的乘法累加结果可以写成如下。
[0149]
[公式2]
[0150][0151]
如上所述，在使用信号对的情况下，输入值x
i
被表示为正值x
i
与负值x
i
‑
的绝对值|x
i
‑
|之间的与(x
i
＝x
i
‑
|x
i
‑
|)的差值。因此，表达式(公式2)可以改写如下。
[0152]
[公式3]
[0153][0154]
如表达式(公式3)所示，乘法累加结果是从第一项减去第二项而获得的值。这里，第一项和第二项中的每一项是由大括号{}括起来的项。
[0155]
第一项是通过将由其中设置了正对权重值w
i
的突触电路8计算的正权重乘积值(w
i
*x
i
)和由其中设置了负对权重值w
i
‑
的突触电路8计算的正权重乘积值(|w
i
‑
|*|x
i
‑
|)加和的值。即，第一项是由所有突触电路8计算的正权重乘积值之和σ

。正权重乘积值的总和由在电容器13a中累积的正权重电荷之和来表示。
[0156]
第二项是通过将由其中设置了正对权重值w
i
的突触电路8计算的负权重乘积值(w
i
*|x
i
‑
|)和由其中设置了负对权重值w
i
‑
的突触电路8计算的负权重乘积值(|w
i
‑
|*x
i
)加和的值。即，第二项是由所有突触电路8计算的负权重乘积值之和σ
‑
。负权重乘积值的总和由在电容器13b中累积的负权重电荷之和来表示。
[0157]
以这种方式，总乘法累加结果可以计算为正权重乘积值之和σ

与负权重乘积值之和σ
‑
之间的差值。
[0158]
应当注意的是，表达式(公式3)的第一项(正权重乘积值之和σ

)不对应于n

个正对权重值w
i
的乘法累加结果，表达式(公式3)的第二项(负权重乘积值之和σ
‑
)不对应于n
‑
个负对权重值w
i
‑
的乘法累加结果。
[0159]
在图4所示的示例中，信号输出单元12通过参考在电容器13a中累积的电荷，计算表示正权重乘积值之和的正乘法累加信号，并且通过参考在电容器13b中累积的电荷，计算表示负权重乘积值之和的负乘法累加信号。
[0160]
在输入周期t结束的定时处，与正权重乘积值之和(负权重乘积值之和)相对应的电荷在电容器13a(13b)中累积。这同样适用于使用tact方法或pwm方法的情况。
[0161]
如稍后将描述的，在该实施例中，当输入周期t已经过去时，电容器13a和电容器13b被充电。例如，从各个突触电路输出的电荷(电流)被用于对电容器13a和13b中的每一个进行充电。在这种情况下，连接到多个输入信号线对p6的每个突触电路8起到充电单元15的作用，该充电单元15对其中在输入周期t之后累积了与乘积值相对应的电荷的累加单元11进行充电。应当注意，可以提供用于对电容器13a和13b中的每一个进行充电的专用布线(充电单元)等。
[0162]
例如，在输入周期t之后，充电单元15对电容器13a和电容器13b中的每一个进行充电。此时，通过使用比较器等来检测连接电容器13a或电容器13b的输出线的电位达到预定阈值电位的定时。
[0163]
例如，随着在充电的开始时累积更多的电荷，电位达到阈值电位的定时变得更早。因此，可以基于定时来表示在输入周期t期间累积的电荷(乘法累加结果)。信号输出单元12相对于电容器13a和13b中的每一个执行阈值确定，生成正乘法累加信号和负乘法累加信号中的每一个，并将其输出到一对输出信号线10。
[0164]
以这种方式，在充电单元15开始充电之后，信号输出单元使用在累加单元11中保持的电压上的预定阈值来执行阈值确定，从而输出表示正权重乘积值之和的正乘法累加信号和表示负权重乘积值之和的负乘法累加信号。在该实施例中，信号输出单元12对应于输出单元。
[0165]
图5是示出了根据该实施例的模拟电路3的示例的示意性电路图。模拟电路3被设置为在与多个输入信号线对p6正交的方向上延伸。即，在图5所示的示例中，采用了交叉杆配置。
[0166]
模拟电路3包括一对输出线(正电荷输出线7a和负电荷输出线7b)、多个突触电路8和神经元电路9。神经元电路9包括累加单元11和信号输出单元12。
[0167]
在图5所示的示例中，四个输入信号线对p6连接到模拟电路3。输入信号线对p6等的数量不受限制。每个信号对被输入到每个输入信号线对p6中。这些信号对包括其输入值x
i
为负的信号对或其输入值x
i
为正的信号对。即，正负输入值x
i
由每个信号对来传输。以下，将主要描述根据tact方法的一对信号。
[0168]
图6是示出了信号对的示例的示意图。图6a和图6b示意性地示出了每个表示根据tact方法的信号对的示例性波形的图。
[0169]
在模拟电路3中，输出周期t被设置在输入周期t之后。通常，输出周期t从输入周期t的结束定时开始。此外，输出周期t的持续时间被设置为等于输入周期t的持续时间。在下文中，输入周期t的开始定时将用t0来表示，输入周期t的结束定时将用t
n
来表示。此外，输出周期t的结束定时将用t
m
表示。应当注意，输入周期t的结束定时t
n
是输出周期t的开始定时。
[0170]
图6a是其输入值x
i
为正的信号对(正信号对)的示例。在输入值x
i
为正的情况下，作为正信号in
i
的信号值的正值x
i
大于作为负信号in
i
‑
的信号值的负值x
i
‑
的绝对值|x
i
‑
|。以下，假设在正信号对中，输入值x
i
可以为0。即，在正信号对中，x
i
≥|x
i
‑
|成立。
[0171]
在根据tact方法的正信号对中，在输入周期t中正信号in
i
的脉冲的输入定时(x
i
)早于负信号in
i
‑
的脉冲的输入定时(x
i
‑
)，因此，根据tact方法的正信号对被定义为其中正信号in
i
的输入定时≥负信号in
i
‑
的输入定时成立的信号对。
[0172]
图6b是其输入值x
i
为负的信号对(负信号对)的示例。在输入值x
i
为负的情况下，作为正信号in
i
的信号值的正值x
i
小于作为负信号in
i
‑
的信号值的负值x
i
‑
的绝对值|x
i
‑
|。即在负信号对中，x
i
<|x
i
‑
|成立。
[0173]
在根据tact方法的负信号对中，在输入周期t中，正信号in
i
的脉冲的输入定时(x
i
)慢于负信号in
i
‑
的脉冲的输入定时(|x
i
‑
|)，因此，根据tact方法的负信号对被定义为其中正信号in
i
的输入定时<负信号in
i
‑
的输入定时成立的信号对。
[0174]
在图5所示的示例中，正信号对从图的顶部被输入到第一和第三输入信号线对p6
中。此外，负信号对也被输入到第二和第四输入信号线对p6中。应当注意，输入正信号对和负信号对的输入信号线对p6例如在每次运算中根据输入数据而改变。
[0175]
此外，如图6a和图6b所示，在输入周期t结束之后，正负信号对也保持在导通状态。即，包括在信号对中的各个电信号也在输入周期t的结束定时t
n
之后维持预定的信号电压。该导通状态例如持续到输出周期t的结束定时t
m
。输出周期t具有与输入周期t相同的持续时间。
[0176]
每个电信号在输出周期t中进入导通状态，使得电荷(电流)经由突触电路8(电阻器17)被供应到一对输出线7。因此，累加单元11(电容器13a和电容器13b)在输出周期t期间被充电。
[0177]
应当注意，本技术不限于根据tact方法的信号，并且可以使用根据pwm方法的信号(参照图3中的2b)。在这种情况下，即使在输入电信号使得在输入周期t中输入具有相应的脉冲宽度的电信号，并且在输出周期t中所有输入信号线6保持在导通状态的情况下，也可以在输入周期t中累积与乘法累加结果相对应的电荷，并且此后可以对电容器13进行充电。
[0178]
回到图5，正电荷输出线7a与每个突触电路8连接，并且输出与通过将正信号或负信号的信号值乘以正权重值v
i
而获得的正权重乘积值相对应的正权重电荷。类似地，负电荷输出线7b与每个突触电路8连接，并且输出与通过将正信号或负信号的信号值乘以负权重值v
i
‑
的绝对值|vi
‑
|而获得的负权重乘积值相对应的负权重电荷。
[0179]
多个突触电路8被设置为分别与多个输入信号线对p6相关联。在图5所示的示例中，为四个输入信号线对p6提供四个突触电路8。
[0180]
每个突触电路8设置有两个电阻器17。两个电阻器17各自用作用于乘以权重值的权重。因此，突触电路8是将信号对乘以权重值的权重对。
[0181]
应当注意的是，图5示意性地示出了从每条输入信号线6导出的寄生电容和从每条输出线7导出的寄生电容，并且每个寄生电容是例如在每条布线与gnd等之间生成的电容。
[0182]
多个突触电路8包括正突触电路8a和负突触电路8b中的至少一个。因此，设置在一个模拟电路3中的突触电路8可以全部为正突触电路8a，或者可以全部为负突触电路8b。当然，可以配置包括正突触电路8a和负突触电路8b两者的模拟电路3。在图5所示的示例中，从顶部设置第一和第二正突触电路8a，并且从顶部设置第三和第四负突触电路8b。
[0183]
图7是示出了突触电路8的配置示例的示意性电路图。图7a和图7b示意性地示出了正突触电路8a和负突触电路8b的电路图。应当注意的是，图7中省略了寄生电容的图示。
[0184]
正突触电路8a是其中设置了正对权重值w
i
的突触电路8，并且是正权重对。如图7a所示，正突触电路8a包括第一电阻器17a和第二电阻器17b。
[0185]
第一电阻器17a连接在正输入信号线6a和正电荷输出线7a之间，定义正权重v
i
，并将正权重电荷输出到正电荷输出线7a。例如，输入到正输入信号线6a的正信号通过第一电阻器17a作为正权重电荷输出到正电荷输出线7a。第一电阻器17a用作生成正权重电荷的正权重。
[0186]
第二电阻器17b连接在负输入信号线6b和负电荷输出线7b之间，定义负权重v
i
‑
，并将负权重电荷输出到负电荷输出线7b。例如，输入到负输入信号线6b的负信号通过第一电阻器17b作为负权重电荷输出到负电荷输出线7b。第二电阻器17b用作生成正权重电荷的负权重。
[0187]
因此，为了将信号对的信号值x
i
乘以正对权重值w
i
，正输入信号线6a和正电荷输出线7a经由电阻器彼此连接，负输入信号线6b和负电荷输出线7b经由电阻器彼此连接。由此，可以说，在正突触电路8a(正权重对)中，正信号(正输入)对应于正权重，负信号(负输入)对应于负权重。
[0188]
负突触电路8b是其中设置了负对权重值w
i
‑
的突触电路8，并且是负权重对。如图7b所示，负突触电路8b包括第三电阻器17c和第四电阻器17d。
[0189]
第三电阻器17c连接在负输入信号线6b和正电荷输出线7a之间，定义正权重v
i
，并将正权重电荷输出到正电荷输出线7a。例如，输入到负输入信号线6b的负信号通过第三电阻器17c作为正权重电荷输出到正电荷输出线7a。第三电阻器17c用作生成正权重电荷的正权重。
[0190]
第四电阻器17d连接在正输入信号线6a和负电荷输出线7b之间，定义负权重v
i
‑
，并将负权重电荷输出到负电荷输出线7b。例如，输入到正输入信号线6a的正信号通过第四电阻器17d作为负权重电荷输出到负电荷输出线7b。第四电阻器17d用作生成正权重电荷的负权重。
[0191]
因此，为了将信号对的信号值x
i
乘以负对权重值w
i
‑
，负输入信号线6b和正电荷输出线7a经由电阻器彼此连接，正输入信号线6a和负电荷输出线7b经由电阻器彼此连接。由此，可以说，在负突触电路8b(负权重对)中，正信号(正输入)对应于负权重，负信号(负输入)对应于正权重。
[0192]
在该实施例中，在一个突触电路8中，用作正负权重的电阻器17被设置为具有相同的电导(或电阻值)。例如，根据在突触电路8中设置的对权重值w
i
的大小，适当地设置该公共电导。例如，在对电阻器17施加恒定电压的情况下，由电阻器17生成的电流(电荷)与电导成正比(与电阻值成反比)。因此，例如，电阻器17的电导被设置为与在电阻器17中设置的权重值成正比。
[0193]
因此，可以使正权重值和负权重值的大小相等，并且适当地执行乘法累加运算。应当注意，对于每个突触电路8，电阻值可以不同，也可以相同。
[0194]
例如，固定电阻器元件、可变电阻器元件、在亚阈值区域中操作的mos晶体管等用作电阻器17(17a至17d等)。例如，通过使用在亚阈值区域中操作的mos晶体管作为电阻器17，可以降低功耗。当然，可以使用另一个任意的电阻器。此外，电阻器17可以具有非线性特性，或者可以具有反向电流阻断功能。
[0195]
累加单元11累积通过每个突触电路8在输入周期t中生成的正权重电荷和负权重电荷中的每一个。因此，也可以说累加单元11执行正权重乘积值相加的运算和负权重乘积值相加的运算。累加单元11包括电容器13a和电容器13b。
[0196]
电容器13a连接在正电荷输出线7a和gnd之间。由每个突触电路8的正权重(第一电阻器17a或第三电阻器17c)生成的正权重电荷累积在电容器13a中。电容器13b连接在负电荷输出线7b和gnd之间。由每个突触电路8的负权重(第二电阻器17b或第四电阻器17d)生成的负权重电荷累积在电容器13b中。
[0197]
此外，当输入周期t结束并且输出周期t开始时，电容器13a和13b由充电单元15(多个突触电路8)充电。因此，通过电容器13a和13b中的每一个保持的电压在输出周期t期间连续地增加。
[0198]
信号输出单元12对充电的累加单元11(电容器13a和13b)的电压执行阈值确定，从而输出正乘法累加信号和负乘法累加信号中的每一个。在该实施例中，使用两个比较器20a和20b作为信号输出单元12。
[0199]
比较器20a检测由电容器13a保持的电压超过预定阈值θ1的定时。应当注意，由电容器13a保持的电压的大小由在电容器13a中累积的正权重电荷的总量和电荷量确定。
[0200]
比较器20b检测由电容器13b保持的电压超过预定阈值θ2的定时。应当注意，由电容器13b保持的电压的大小由在电容器13b中累积的负权重电荷的总量和电荷量确定。
[0201]
应当注意，在该实施例中，通过对电容器13a和13b中的每一个以公共阈值θ执行阈值确定来输出乘法累加信号。即，设置θ＝θ1＝θ2。
[0202]
此外，比较器20a和20b基于检测到的定时分别输出正乘法累加信号和负乘法累加信号。例如，生成在电容器的电压超过阈值的定时处进入导通状态然后保持导通状态的电信号。这样的电信号作为正乘法累加信号或负乘法累加信号输出。
[0203]
因此，比较器20a通过使用电容器13a上的公共阈值θ执行阈值确定来输出正乘法累加信号。此外，比较器20b通过使用电容器13b上的公共阈值θ执行阈值确定来输出负乘法累加信号。预定阈值θ将在后面详细描述。
[0204]
如图5所示，正突触电路8a的正权重(第一电阻器17a)和负突触电路8b的正权重(第三电阻器17c)并联连接到电容器13a。每个突触电路8的正权重构成正权重行18a。此外，正突触电路8a的负权重(第二电阻器17b)和负突触电路8b的负权重(第四电阻器17d)并联连接到电容器13b。每个突触电路8的负权重构成负权重行18b。此外，包括一个权重行18和电容器13的电路以及连接到权重行18的比较器20用作用于导出乘法累加结果的乘法累加导出装置。
[0205]
例如，假设在模拟电路3中设置n个突触电路8。在这种情况下，n个正权重(负权重)连接到电容器13a(电容器13b)作为正权重行18a(负权重行18b)。因此，在该配置中，与突触电路8(电阻器17)相同数量的权重被并联连接到每个电容器。
[0206]
此外，在每个突触电路8中，正权重值和负权重值(v
i
和|v
i
‑
|)的大小被设置为彼此相等。因此，包括在正权重行18a中的正权重值的总和值与包括在负权重行18b中的负权重值的总和值彼此相等。因此，输出正乘法累加信号的电路和输出负乘法累加信号的电路可以被认为是具有类似配置的电路。
[0207]
图8是用于描述图5所示的模拟电路3的乘法累加信号的计算示例的图。在该实施例中，基于在电容器13a中累积的正权重电荷输出正乘法累加信号，并且基于在电容器13b中累积的负权重电荷输出负乘法累加信号。
[0208]
如上所述，用于输出正负乘法累加信号的电路基本上是类似的电路。因此，正乘法累加信号(正权重电荷的乘法累加结果)的计算和负乘法累加信号(负权重电荷的乘法累加结果)的计算是相同的处理。图8示出了表示在一个权重行18(正权重行18a或负权重行18b)中的乘法累加信号的计算示例的图。
[0209]
以下，将参考图8来描述基于在电容器13中累积的电荷的乘法累加结果的计算方法(乘法累加方法)，而不区分正负值。应当注意，在某些情况下，正信号和负信号都将被称为输入信号，作为正信号和负信号的信号值(x
i
和|x
i
‑
|)都将被称为信号值y
i
，并且作为正权重和负权重的权重值(v
i
和|v
i
‑
|)都将被称为权重值v
i
。
[0210]“s
i
(t)”表示输入到第i个输入信号线对p6中的输入信号(tact信号)。“τ
i”表示从输入信号s
i
(t)的输入定时到输入周期t的结束定时t
n
的持续时间。此后，“τ
i”可以被称为输入信号s
i
(t)在输入周期t中的脉冲宽度。当“τ
i”变大时，输入信号t(t)是表示较大的信号值y
i
的信号。
[0211]“p
i
(t)”表示图5所示的每个突触电路8中的内部状态(电位)的变化量。“v
i”表示连接到一个权重行(正权重行或负权重行)的权重的权重值，并由图5所示的电阻器17的电阻值来定义。这里，假设对应于每个突触电路8的电位随时间线性增加。此时，电阻器17的电阻值例如，被设置为使得电位的梯度为“v
i”。
[0212]
例如，关于s1(t)，电位的梯度(权重值v1)与其他相比最小。因此，通过s1(t)每单位时间生成的电荷最小。另一方面，关于s2(t)，电位的梯度(权重值v2)与其他相比最大，并且每单位时间内生成的电荷最大。此外，s4(t)是其脉冲宽度τ4为0并且其信号值y
i
为0的信号。在这种情况下，信号线的电位从输入周期t结束的定时t
n
进入导通状态。因此，关于s4(t)，随着输出周期t的开始，开始充电，并且表示内部状态的电位根据权重值v4增加。
[0213]“α”表示电容器13在输入周期t之后的输出周期t中的电位上升的梯度，并且是电容器13的充电速度。在图8所示的示例中，每个突触电路8在输入周期t已经过去之后维持在导通电平，因此电容器13的电位以梯度“α”增加。应当注意，例如，当在输出周期t中通过另一布线对电容器13充电时，α是与充电速度相对应的值。θ表示用于由信号输出单元12(比较器20)执行的阈值确定的阈值。
[0214]“v
n
(t)”表示“p
i
(t)”的总和，并对应于在电容器13中累积的电荷的总量。“s
n
(t)”表示乘法累加信号(pwm信号)，该乘法累加信号表示乘法累加结果。“τ
n”表示要输出的乘法累加信号的脉冲宽度。具体地，“τ
n”表示对应于从通过电容器13保持的电压在输出周期t中超过阈值θ的定时到输出周期t的结束定时t
m
的持续时间的值。
[0215]
这里，如下列表达式所示，输入信号的信号值y
i
由在输入周期t中的输入信号s
i
(t)的脉冲宽度τ
i
对输入周期t的占空比r
i
(＝τ/t)给出。
[0216]
[公式4]
[0217][0218]
图5所示的突触电路8生成与将信号值y
i
乘以权重值v
i
而获得的乘积值相对应的电荷。具体地，电阻器17的电阻以恒定的梯度v
i
增加内部状态(电位)。
[0219]
每个突触电路8的内部电位在输入周期t的结束定时t
n
处的变化量pi(t
n
)由下列表达式给出。应当注意，输入信号s
i
(t)的高电平值被设置为1。
[0220]
[公式5]
[0221]
p
i
(t
n
)＝v
i
r
i
t＝v
i
y
i
t
[0222]
在电容器13中累积的电荷的总量v
n
(t
n
)是pi(t
n
)的总和，因此由下列表达式给出。
[0223]
[公式6]
[0224][0225]
在图5所示的示例中，在输入周期t的结束定时t
n
之后，所有输入信号进入导通状
态，并且在所有突触电路8中的内部状态(电位)以梯度v
i
增加。即，从连接到权重行的所有权重向电容器13输出电荷。此时电容器13的电压的梯度(充电速度α)等于各个“v
i”的总和。也就是说，充电速度α是在权重行中提供的所有权重值的总和。
[0226]
比较器对以充电速度α增加的电容器13的电压执行阈值确定。生成具有与从通过电容器13保持的电压在输出周期t中超过阈值θ的定时到输出周期t的结束定时t
m
的持续时间相对应的脉冲宽度τ
n
的乘法累加信号。
[0227]
假设乘法累加信号的脉冲宽度τ
n
与输出周期t的占空比为r
n
(＝τ
n
/t)，则r
n
由下列表达式给出。应当注意的是，阈值θ等于或大于电荷的总量v
n
(t
n
)。
[0228]
[公式7]
[0229][0230]
因此，通过将信号值y
i
乘以权重值v
i
而获得的每个乘积值(v
i
*y
i
)相加而获得的乘法累加结果由下列表达式给出。
[0231]
[公式8]
[0232][0233]
即，乘法累加结果是从αr
n
＝α
·
(τ
n
/t)中减去由充电速度α、阈值θ和输出周期t所定义的常数而获得的值。以这种方式，表示用于每个权重对的乘法累加结果的乘法累加信号可以基于在具有预定持续时间的输出周期t中由累加单元11保持的电压超过阈值θ的定时(脉冲宽度τ
n
)输出。
[0234]
在图5所示的示例中，对正权重行18a和负权重行18b中的每一个来计算表示在表达式(公式8)中示出的乘法累加结果的乘法累加信号。例如，比较器20a生成表示从正权重行18a输出的正权重电荷的乘法累加结果的正乘法累加信号s
n
(t)。此外，比较器20a生成表示从负权重行18b输出的负权重电荷的乘法累加结果的负乘法累加信号s
n
‑
(t)。
[0235]
图9是示出了正负乘法累加信号的示例的示意图。在下文中，负乘法累加信号s
n
(t)的脉冲宽度将由“τ
n ”表示，负乘法累加信号s
n
(t)的脉冲宽度将由“τ
n
‑”表示。此外，图9所示的“s
n
(t)”是表示包括在模拟电路3中的正负乘法累加信号的总乘法累加信号的示例性乘法累加信号。s
n
(t)的脉冲宽度用“τ
n”表示。
[0236]
通过将在正权重行18a中的乘积值(v
i
*y
i
)相加而获得的乘法累加结果是在正权重对和负权重对中提供的正权重的乘积值的总和。即，正权重行18a的乘法累加结果是使用表达式(公式3)描述的正权重乘积值之和σ

。因此，根据表达式(公式6)，在输入周期t的结束定时t
n
处，在电容器13a中累积的正权重电荷的总量v
n
(t
n
)由下列表达式给出。
[0237]
[公式9]
[0238][0239]
如表达式(公式9)所示，通过将构成n

个信号对的正信号(正输入x
i
)与构成在输
入周期t中的正权重对的正权重相关联，并将构成n
‑
n

＝n
‑
个信号对的负信号(负输入x
i
‑
)与构成在输入周期t中的负权重对的正权重相关联，来计算正权重乘积值之和σ

。
[0240]
通过将在负权重行18b中的乘积值(v
i
*y
i
)相加而获得的乘法累加结果是在正权重对和负权重对中提供的负权重的乘积值的总和。即，负权重行18b的乘法累加结果是通过使用表达式(公式3)描述的负权重乘积值之和σ
‑
。因此，根据表达式(公式6)，在输入周期t的结束定时t
n
处，在电容器13b中累积的负权重电荷的总量v
n
‑
(t
n
)由下列表达式给出。
[0241]
[公式10]
[0242][0243]
如表达式(公式10)所示，通过将构成n

个信号对的负信号(负输入x
i
‑
)与构成在输入周期t中的正权重对的正权重相关联，并将构成n
‑
个信号对的正信号(正输入x
i
)与构成在输入周期t中的负权重对的正权重相关联，来计算负权重乘积值之和σ
‑
。
[0244]
假设正乘法累加信号s
n
(t)的占空比由r
n
(＝τ
n
/t)表示，并且设置在正权重行18a中的权重值(v
i
)的总和由w

表示。在这种情况下，由正权重行18a计算的乘法累加结果(正权重乘积值之和σ

)由下列表达式给出。应当注意的是，假设阈值θ等于或大于正权重电荷的总量v
n
(t
n
)。
[0245]
[公式11]
[0246][0247]
假设负乘法累加信号s
n
‑
(t)的占空比由r
n
‑
(＝τ
n
‑
/t)表示，并且设置在负权重行18b中的权重值(v
i
‑
)的总和由w
‑
表示。在这种情况下，由负权重行18b计算的乘法累加结果(负权重乘积值之和σ
‑
)由下列表达式给出。应当注意的是，阈值θ等于或大于负权重电荷的总量v
n
‑
(t
n
)，并且与表达式(公式11)所示的θ是相同的值。
[0248]
[公式12]
[0249][0250]
如上所述，在通过使用权重对来配置的模拟电路3中，设置到正权重行18a和负权重行18b的权重值(w

和w
‑
)的总和彼此相等。在下文中，将在每个权重行中设置的权重值的总和值用w表示。因此，在该实施例中，在模拟电路3中将正权重值v
i
的总和值w

与负权重值v
i
‑
的绝对值|vi
‑
|的总和值w
‑
设置为相同的公共总和值w。权重值的总和值w(公共总和值)等于通过将正对权重w
i
之和与负对权重w
i
‑
之和相加而获得的值，如下所示。
[0251]
[公式13]
[0252][0253]
此外，总乘法累加结果由正权重乘积值之和σ

与负权重乘积值之和σ
‑
之间的差值
来表示，如表达式(公式3)所示。因此，使用表达式(公式11)、表达式(公式12)和表达式(公式13)，通过下列表达式给出总乘法累加结果。
[0254]
[公式14]
[0255][0256]
即，通过权重值的总和值w、正乘法累加信号s
n
(t)的脉冲宽度τ
n
、负乘法累加信号s
n
‑
(t)的脉冲宽度τ
n
‑
和输出周期t来获得总乘法累加结果。以这种方式，可以基于由比较器20a检测的定时和由比较器20b检测的定时容易地计算乘法累加结果。
[0257]
因此，模拟电路3基于模拟信号计算，基于正负电信号对和正负权重对来确定的n个乘积值的“和”。因此，例如，无论输入值x
i
和权重值w
i
是正还是负，都可以适当地执行乘法累加运算。
[0258]
此外，在模拟电路3中，分别生成正乘法累加信号s
n
(t)和负乘法累加信号s
n
‑
(t)。即，生成具有作为信号值的脉冲宽度τ
n
和脉冲宽度τ
n
‑
的一对电信号(信号对)。因此，由该信号对表示的输入值x
i
等于与总乘法累加结果相对应的脉冲宽度τ
n
。因此，模拟电路3是将总乘法累加结果作为信号对输出的电路。
[0259]
应当注意，也可以输出表示总乘法累加结果的单个电信号，而不是信号对。例如，生成总乘法累加信号s
n
(t)，该总乘法累加信号s
n
(t)具有脉冲宽度τ
n
与脉冲宽度τ
n
‑
之间的差值，作为脉冲宽度τ
n
。这样的乘法累加信号s
n
(t)可以通过使用诸如and电路和not电路的逻辑电路容易地配置。例如，在算术装置100中，将总乘法累加信号s
n
(t)用作最上层(末级)的输出。
[0260]
图10是示出了在层的模拟电路3之间的连接示例的示意图。在图10中，示意性地示出了设置在第一层中的模拟电路3a和设置在第二层中的模拟电路3b。应当注意的是，第二层是第一层之后的一层。
[0261]
例如，在输入周期t中，多个信号对被输入到第一层的模拟电路3a中。模拟电路3a在输出周期t期间生成正乘法累加信号s
n
和负乘法累加信号s
n
‑
中的每一个。正乘法累加信号s
n
和负乘法累加信号s
n
‑
是表示模拟电路3a的总乘法累加结果的信号对。
[0262]
在该实施例中，在第一层中生成的信号对(s
n
和s
n
‑
)被用作第二层的输入信号。即，该信号对被用作到模拟电路3b的突触电路8中的任意一个的输入。例如，模拟电路3a的比较器20a和20b的输出(正输出信号线10a和负输出信号线10b)分别连接到模拟电路3b的任一输入信号线对p6的正输入信号线6a和负输入信号线6b。
[0263]
如图10所示，在第一层中生成的信号对(s
n
和s
n
‑
)是在输入周期t中输入到第二层中的信号对。即，在第一层中的输出周期t是在第二层中的输入周期t。应当注意，可以采用其中s
n
和s
n
‑
被存储在模拟存储器等中并且在第二层中的运算时间被延迟的配置。
[0264]
如上所述，在其中将信号对(s
n
和s
n
‑
)作为乘法累加信号输出的配置中，可以将该信号对按原样用作下一级的输入。因此，例如，不需要正乘法累加信号s
n
(t)和负乘法累加信号s
n
‑
(t)之间的差值(总乘法累加信号)，并且可以充分简化电路配置。此外，由于不需要用于计算差值的电路，因此可以降低算术装置100的功耗。因此，能够实现极功耗的低算术装置100。
[0265]
以下，将描述当对电容器13充电时的充电单元15的充电模式。
[0266]
在该实施例中，在一个或多个模拟电路3中，在公共的充电模式下执行充电单元15的充电，并且将公共阈值θ设置为预定阈值θ。这里，一个或多个模拟电路3是连接到公共输入信号线对p6的模拟电路3，并且是例如构成一层的模拟电路3。
[0267]
在一个或多个模拟电路3中的电容器13的充电是基于公共时间常数来执行的。即，公共的充电模式包括基于在一个或多个模拟电路3中的公共时间常数的充电。因此，可以根据例如类似的充电曲线对每个电容器13充电。此外，公共电荷信号等被用于该充电。换言之，可以说在一个或多个模拟电路3中执行使用类似充电方法的充电。
[0268]
此外，使用公共阈值θ对在公共的充电模式下充电的每个电容器13的电压执行阈值确定。因此，在算术装置100中，基于公共阈值θ确定在公共的充电模式下充电的电容器13的电压。因此，可以从每个模拟电路3输出适当的乘法累加结果(正负乘法累加信号等)。
[0269]
在该实施例中，公共的充电模式包括基于在多个突触电路8中设置的正权重值v
i
的总和值w

和负权重值v
i
‑
的绝对值|vi
‑
|的总和值w
‑
的最大总和值进行充电，该最大总和值在一个或多个模拟电路3中是最大的。例如，基于在每个模拟电路3中的权重值v
i
的总和值w的最大值来设置公共充电参数等，并且在公共的充电模式下对每个电容器13充电。
[0270]
此外，公共阈值θ是基于最大总和值设置的。因此，在算术装置100中，基于在一个或多个模拟电路3中的最大总和值来设置计算乘法累加结果所需的参数(充电参数、阈值θ等)。
[0271]
例如，如图3所示，在算术装置100中，多个模拟电路3连接到公共输入信号线对p6。在这种情况下，在这些模拟电路3中最大的权重值v
i
的总和值w(w

或w
‑
)是最大总和值。
[0272]
此外，例如，算术装置100可以被配置为配备有单个模拟电路3的算术模块。在这种情况下，在模拟电路3中，正权重行18a的总和值w

与负权重行18b的总和值w
‑
中的较大一个是最大总和值。应当注意，如表达式(公式13)所示，上面已经描述了在一个模拟电路3中总和值(w

和w
‑
)彼此相等的情况。在这种情况下，w

和w
‑
都是最大总和值。
[0273]
在任何情况下，所有电容器13都基于在各个权重行18的权重值v
i
的总和值w中的最大总和值进行充电，并且根据基于最大总和值设置的阈值θ执行阈值确定。以下，将详细描述充电单元15的充电模式和公共阈值θ。此外，最大总和值将由w
max
表示。
[0274]
首先，考虑电容器13的电压变化。例如，在图8中，已经描述了假设电容器13的电压(到gnd的电位)由于供应到电容器13的电荷而线性增加的电容器13的电压变化。
[0275]
在实际电路中，当向电容器13供应电荷时，电容器13的电压根据电压曲线而变化。电压曲线是例如根据电容器13的电容c和连接到电容器13的电阻器的电阻值(或电导)的曲线。这里，电容c对应于例如在连接了电容器13的权重行18(每个突触电路8)中包括寄生电容等的组合电容。
[0276]
例如，假设电容器13在图5所示的模拟电路3中充电。多条输入信号线6经由电阻器17与电容器13并联连接。因此，电容器13在其中多个电阻器17并联连接的状态下累积电荷。当输入从时间t＝0到每条输入信号线6进入导通状态的电信号时，电容器13的电压曲线v(t)由下列表达式表示。
[0277]
[公式15]
[0278][0279]
这里，v
in
表示一个常数，它是电压的收敛值，并且通常是表示输入信号的导通状态的电压值(脉冲高度)。t0是电压曲线的时间常数，并且是电压v(t)达到收敛值v
in
的约63％的时间。表达式(公式15)是如下所示的随着时间t的流逝而逐渐接近v
in
的函数。
[0280]
使用电容器13的组合电容c和并联连接到电容器13的电阻器17的组合电导w0来将时间常数t0表示为t0＝c/w0。组合电导w0是例如根据权重值v
i
的总和值w的值。因此，电容器13的电压根据权重值v
i
的总和值w而变化。应当注意，电压曲线是电容器13的充电曲线，并且t0是当对电容器13充电时的时间常数。
[0281]
图11是示出了由电容器13保持的电压随时间变化的示例的示意图。图的横轴指示时间，纵轴指示电容器13的电压v(t)。
[0282]
在图11中，表示在权重值v
i
的总和值w是最大总和值w
max
的情况下电容器13的电压变化的最大电压曲线v
max
(t)以实心灰色线示出。v
max
(t)是其中表达式(公式15)的时间常数为根据最大总和值w
max
的时间常数t
w
的曲线。例如，当连接到其总和值为w
max
的权重的电容器13以最大充电速度进行充电时，电容器13的电压根据最大电压曲线v
max
(t)而变化。
[0283]
可以说，根据v
max
(t)的电压变化是在其中具有根据最大总和值w
max
的电阻值(电导)的电阻器17连接到具有电容c的电容器13的电路中的电压变化。因此，最大电压曲线v
max
(t)是表示当电容器13经由具有根据最大总和值w
max
的电阻值的电阻器17充电时的电容器13的电压随时间变化的曲线。阈值θ是基于该最大电压曲线v
max
(t)来设置的。
[0284]
在该实施例中，阈值θ是基于在输入周期t中根据最大电压曲线v
max
(t)变化的电容器13的电压变化来设置的。该电压变化是例如，当电容器13从电容器13的电压为0的状态下以最大充电速度在输入周期t内充电时的电压v
max
(t)。通常，电压v
max
(t)被设置为阈值θ。因此，阈值θ表示如下。
[0285]
[公式16]
[0286][0287]
例如，假设在输入周期t中其脉冲宽度为最大的最大脉冲被输入到所有输入信号线6，即，电容器13从t＝0以最大充电速度进行充电。这是一种其中乘法累加结果为最大的状态。在这种情况下，如图11所示，电容器13的电压在输入周期t的结束定时t
n
(输出周期t的开始定时t
n
)处超过阈值θ。
[0288]
另一方面，假设在输入周期t中其脉冲宽度变为0的脉冲被输入到所有输入信号线6，即，电容器13从t＝t
n
以最大充电速度进行充电。这是一种其中乘法累加结果为最小的状态。在这种情况下，电容器13的电压在输出周期t的结束定时t
m
处超过阈值θ。
[0289]
以这种方式，在输出周期t的开始和结束处检测最大乘法累加结果和最小乘法累加结果。结果，可以在输出周期t中以高分辨率精确地计算乘法累加信号。即，可以通过基于输入周期t和最大总和值w
max
设置阈值θ来显示有利的效果。
[0290]
应当注意的是，阈值θ可以基于表达式(公式16)右侧的值来设置。例如，在计算乘法累加结果的最小值的频率(比率)低的情况下，阈值θ可以被设置为稍微大于表达式(公式16)的值。相反，在计算最大值的频率(比率)低等的情况下，阈值θ可以被设置为稍大。因此，
即使在存在电压噪声等的情况下，也可以适当地检测乘法累加结果。
[0291]
在实际运算中，可以想象，在输入周期t(参照图5)中，具有如下所示的各种脉冲宽度τ的输入信号被输入到各个电阻器17(权重)中。在图11中，示出那些脉冲宽度的分布的直方图被示意性地示出。
[0292]
在每个输入信号的脉冲宽度τ不是恒定的情况下，电容器13的电压不一定沿着与最大电压曲线v
max
(t)相对应的曲线上升。在这种情况下，电容器13在输入周期t中的电压例如根据每个输入信号(输入定时)的脉冲宽度τ(在图11中的黑色实线的图)而增加。
[0293]
此外，在输入周期t的结束定时t
n
之后，所有输入信号进入导通状态，并且例如从所有权重中供应电荷。即，电容器13以最大充电速度充电。因此，与输入信号的脉冲宽度等无关，电容器13在输出周期t中的电压沿着对应于v
max
(t)的曲线而增加。例如，电容器13在输出周期t中的电压由下列表达式表示。
[0294]
[公式17]
[0295][0296]
v
tn
是电容器13在输入周期t的结束定时t
n
处的电压，并且是根据在输入周期t中累积的电荷的总和(乘法累加结果)的电压。因此，表达式(公式17)表示当保持与乘法累加结果相对应的电压v
tn
的电容器13根据v
max
(t)充电时的电压变化。
[0297]
此外，v
tn
是通过将输入到各个权重中的输入信号的脉冲宽度τ的平均值代入到最大电压曲线v
max
(t)而获得的。即，由电容器13在输入周期t的结束定时t
n
处保持的电压是与在具有与脉冲宽度τ的平均值类似的宽度的脉冲被输入到所有权重的情况下的电压类似的电压。
[0298]
因此，电容器13的电压可以根据各个输入信号的最大总和值w
max
和脉冲宽度τ的平均值基于时间常数t
w
来确定。即，如图11所示，电容器13的电压可以被认为是从通过从输入周期t减去各个输入信号的脉冲宽度τ的平均值而获得的定时(直方图的中值)，沿着与最大电压曲线v
max
(t)相对应的曲线增加的电压。
[0299]
在该实施例中，充电单元15被配置为使得每个电容器13根据表达式(公式17)充电。即，在输出周期t中，各个电容器13的电压(充电)变化的时间常数都是根据最大总和值w
max
的时间常数t
w
。如上所述，由每个模拟电路3执行的公共的充电模式根据最大总和值w
max
根据时间常数t
w
对电容器13充电。
[0300]
根据表达式(公式17)增加的电压在输出周期t中超过阈值θ。超过阈值θ的定时被用于生成表示电容器13的乘法累加结果的乘法累加信号。如上所述，可以说，根据表达式(公式17)对电容器13充电并使用阈值θ执行阈值确定的处理是将用阈值θ归一化的电压v
tn
转换为用周期t归一化的电压(脉冲宽度)的处理。
[0301]
这里，考虑连接到其中权重值v
i
的总和值w小于最大总和值w
max
的权重行18的电容器13的电压变化。例如，假设具有连接到w<w
max
的权重行18的电容c的电容器13从输入周期t的开始以最大充电速度充电。在该示例中，电容器13的电压曲线v
′
(t)(图11中的灰色虚线)是电压变化小于最大电压曲线v
max
(t)的曲线。
[0302]
因此，在输入周期t的结束定时t
n
处w<w
max
的情况下，连接到权重行18的电容器13的电压的最大值v'(t)小于使用最大总和值w
max
设置的阈值θ(v
max
(t))。因此，在输入周期t
中，连接到电压w<w
max
的权重行18的电容器13的电压不超过阈值θ。
[0303]
此外，v'(t)可以简单地被认为是具有电容c的电容器13的电压。因此，例如，通过根据表达式(公式17)所示的曲线对保持v'(t)的电容器13充电并使用阈值θ执行阈值确定，可以将用阈值θ归一化的v'(t)转换为用周期t归一化的定时。
[0304]
即，在连接到其中设置了w
max
的权重行18的电容器13共有的充电模式下，对连接到w<w
max
的权重行18的电容器13进行处理，从而可以生成用相同的归一化参数来归一化的乘法累加信号。因此，可以精确地对齐由乘法累加信号表示的乘法累加值。
[0305]
应当注意，即使在w<w
max
的情况下，也可以根据表达式(公式17)对电容器13充电，并且使用阈值θ对电容器13的电压执行阈值确定。在这种情况下，不同于输入信号线6和电阻器17的电流源被用于对电容器13充电。这一点将在后面参考图13和图15等详细描述。
[0306]
通过以这种方式使用时间常数t
w
和基于最大总和值w
max
设置的阈值θ，可以在连接到公共输入信号线对p6的模拟电路3中包括的所有权重行18中适当地计算乘法累加结果。例如，由每个模拟电路3计算的乘法累加结果是用相同的归一化参数(阈值θ和输出周期t)归一化的值。
[0307]
因此，例如，可以将在一层中生成的多个乘法累加结果作为可以相互比较的值输出到下一层，并且可以实现高精度的模拟乘法累加运算。此外，例如，可以用单个布线向所有模拟电路3供应阈值θ，并且可以充分地简化电路配置。
[0308]
图12至图15是示出了算术装置的配置示例的电路图。图12至图15所示的算术装置200至500每个都包括了并联连接到多个输入信号线对p6中的每一个的多个模拟电路3。以下，将具体描述在彼此并联连接的多个模拟电路3中的权重对的配置。
[0309]
在图12所示的算术装置200中，设置二进制权重，并且每个模拟电路3设置有相同数量的突触电路8。
[0310]
二进制权重被配置为实现例如二进制连接，并且每个突触电路8的对权重值w
i
被设置为
±
w。在这种情况下，包括在正负权重对(正突触电路8a和负突触电路8b)中的正负权重都被设置为权重值w。即，正权重值v
i
和负权重值v
i
‑
的绝对值|vi
‑
|被固定为相同的值。因此，在算术装置200中的所有权重对中，v
i
＝|v
i
‑
|＝w成立。
[0311]
此外，在算术装置200中，在每个模拟电路3中包括的突触电路8(权重对)的数量被设置为相同的数量。即，算术装置200具有其中包括相同数量的权重对的模拟电路3与多个输入信号线对p6并联连接的配置。
[0312]
因此，在算术装置200中，正权重和负权重的权重值相等，并且在每个模拟电路3中包括的突触电路8的数量相等。因此，在算术装置200中的多个模拟电路3中，作为权重值v
i
的总和值w的公共总和值被设置为相同的值w。
[0313]
例如，在一个模拟电路3中设置的突触电路8的数量是n，在这种情况下，在每个模拟电路3中，总和值w

＝总和值w
‑
＝w＝n
×
w成立。因此，在算术装置200中，包括在正权重行18a和负权重行18b中的权重值v
i
的总和值w全部相等。所有权重行18a共有的权重值v
i
的总和值w是最大总和值w
max
。
[0314]
在图12所示的示例中，设置了四个输入信号线对p6和三个模拟电路3。此外，每个模拟电路3包括分别连接到四个输入信号线对p6的四个突触电路8。
[0315]
此外，在图12中，左模拟电路3由所有正突触电路8a构成。在中央模拟电路3中，正
突触电路8a从顶部被设置为第一和第二突触电路，负突触电路8b被设置为第三和第四突触电路。右模拟电路3由所有负突触电路8a构成。当然，模拟电路3的数量、突触电路8的数量、在突触电路8中设置的对权重的符号等不限于图12所示的示例。
[0316]
应当注意的是，在图12中，示意性地示出了输入到每个输入信号线对p6中的信号对的示例(正信号和负信号)和从每个模拟电路3输出的信号对的示例(正乘法累加信号和负乘法累加信号)。
[0317]
当输入周期t开始时，与表示输入值x
i
的正负值(x
i
和x
i
‑
)相对应的正信号和负信号(信号对)被输入到每个输入信号线对p6中。例如，从顶部输入到第一输入信号线对p6中的信号对被同时输入到左、右和中央模拟电路3的第一突触电路8中。类似地，输入到相应的输入信号线对p6中的信号对被同时输入到各个模拟电路3的突触电路8中。
[0318]
在正突触电路8a(正权重对)中，计算正信号与正权重的正权重乘积值，并计算负信号与负权重的负权重乘积值。此外，在负突触电路8a(负权重对)中，计算负信号与正权重的正权重乘积值，并计算正信号与负权重的负权重乘积值。与正乘积值相对应的正权重电荷被输出到正电荷输出线7a，与负乘积值相对应的负权重电荷被输出到负电荷输出线7b。
[0319]
结果，在输入周期t中，正权重电荷和负权重电荷在设置在每个模拟电路3中的电容器13a和13b中同时累积。在输入周期t的结束定处时t
n
处，完成与乘积值之和相对应的电荷的累积，并且电容器13的电压成为表示乘法累加结果的电压。此时，完成通过多个模拟电路3的乘法累加结果的计算(乘法累加运算处理)。
[0320]
如图12所示，在输出周期t期间也连续地维持导通状态的信号作为在算术装置200中的每个信号对(输入信号)。因此，可以在输出周期期间对每个电容器13充电。因此，在输出周期t中输入的信号(电压)起到用于对电容器13充电的公共电荷信号的作用。即，也可以说，多个输入信号线对p6供应在输入周期t之后进入导通状态的电荷信号。
[0321]
例如，每个输入信号线对p6的电压进入导通状态，使得电荷由设置在突触电路8中的正负权重(电阻器17)生成，并且分别通过正负输出线7累积在电容器13a和13b中。以这种方式，在算术装置200中，通过基于电荷信号累积由多个突触电路8生成的电荷来对电容器13充电。
[0322]
如上所述，在算术装置200中，包括在每个权重行18中的权重值v
i
的总和值w都是相等的值(最大总和值w
max
)。因此，在输出周期t中，每个电容器13的充电时间常数是取决于权重值v
i
的总和值w的时间常数t
w
。因此，在输出周期t期间，包括在算术装置200中的所有电容器13根据由表达式(公式17)表示的曲线被充电。
[0323]
此外，在输出周期t中，使用基于最大总和值w
max
设置的公共阈值θ对在输出周期t中的各个电容器13的电压执行阈值确定。公共阈值θ是使用表达式(公式16)设置的值。因此，在所有权重行18中，用阈值θ归一化的电容器13的电压被转换为用输出周期t归一化的定时。结果，可以同时生成多个可比的乘法累加信号。即，可以并行地执行多个乘法累加运算，并且可以实现高速运算处理。
[0324]
因此，在算术装置200中，在各个权重行18中的各个权重值v
i
的总和值w全部相等。在该示例中，各个电容器13可以通过从多对输入信号线p6供应的电荷信号根据相同的时间常数t
w
充电。换言之，由于权重值v
i
的总和值w都彼此相等，所以即使将输入信号线对p6用作电荷信号的源，电容器13也根据类似的电压曲线进行充电。
[0325]
因此，在算术装置200中，电容器13可以在使用用于输入信号对的布线时充电。此外，由于各个电容器13可以根据类似的时间常数t
w
充电，因此阈值θ可以共享。因此，例如，不需要提供用于对电容器13充电的专用布线、用于单独地供应阈值θ的布线等，并且可以充分简化电路配置。
[0326]
在图13所示的算术装置300中，设置二进制权重并且在每个模拟电路3中提供的突触电路8的数量不同。
[0327]
算术装置300包括多个输入信号线对p6、多个模拟电路3和充电电路40。如图13所示，在算术装置300中，为每个模拟电路3设置在模拟电路3中包括的突触电路8的数量。应当注意，每个突触电路8被设置为具有二进制权重，并且在所有突触电路8中v
i
＝|v
i
‑
|＝w成立。
[0328]
因此，在算术装置300中，正权重和负权重的权重值相等，并且在每个模拟电路3中包括的突触电路8的数量不同。因此，在算术装置300中，多个模拟电路3包括其中作为权重值v
i
的总和值w的公共总和值彼此不同的模拟电路3。
[0329]
例如，假设输入信号线对p6的数量用n表示，并且在每个模拟电路3中设置的突触电路3的最大数量用n表示，即，在突触电路3被设置与所有输入信号线对p6相关联的情况下，突触电路3的数量是最大的。因此，在包括n个突触电路3的模拟电路3中，总和值w

＝总和值w
‑
＝n
×
w。该n
×
w为最大总和值w
max
。
[0330]
此外，包括n'个突触电路3(n'<n)的模拟电路3是连接到n'个输入信号线对p6并且不连接其余(n
‑
n')个输入信号线对p6的电路。在该模拟电路3中，总和值w

＝总和值w
‑
＝n'
×
w成立。应当注意的是，总和值n'
×
w小于最大总和值w
max
(n'
×
w<w
max
)。因此，算术装置300包括其中设置了等于或小于最大总和值w
max
的总和值w的各种权重行18。
[0331]
在图13所示的示例中，提供了四个输入信号线对p6和三个模拟电路3。左模拟电路3由四个正突触电路8a构成。因此，左模拟电路3包括其中设置了最大总和值w
max
(＝4
×
w)的正权重行18a和负权重行18b。
[0332]
中央模拟电路3包括从顶部连接到第二输入信号线对p6的正突触电路8a和从顶部连接到第三和第四输入信号线对p6的负突触电路8b，并且权重值的总和值为3
×
w。右模拟电路3包括连接到第三和第四输入信号线对p6的负突触电路8b，并且权重值的总和值为2
×
w。应当注意，中央模拟电路3不连接到第一输入信号线对p6，并且右模拟电路3不连接到第一和第二输入信号线对p6。
[0333]
应当注意，算术装置300的配置不限于上述配置。例如，可以适当地设置在模拟电路3中包括的正突触电路8a和负突触电路8b的比率，以使得能够执行目标计算。即，可以根据需要来设置比率，以提供其中正突触电路8a为100％的配置与其中负突触电路8b为100％的配置。可替换地，在模拟电路3中包括的突触电路8的数量可以适当地设置在n或更小的范围内。当然，也可以任意地设置每个输入信号线对p6与突触电路8之间的相关性。
[0334]
充电电路40包括充电电阻器41和充电线42。在算术装置300中，充电电路40用作在输入周期t之后对累加单元进行充电的充电单元。
[0335]
充电电阻器41连接在每个模拟电路3的充电线42和输出线7之间。例如，在每个模拟电路3中设置了将正电荷输出线7a和负电荷输出线7b连接到充电线42的两个充电电阻器41。在图13所示的示例中，使用了被设置与三个模拟电路3的相应的输出线7相关联的六个
充电电阻器41。这些充电电阻器41被设置为具有相同的电阻值(电导)。
[0336]
充电电阻器41被设置为具有根据最大总和值w
max
的电阻值。典型地，充电电阻器41的电阻值被设置为用作以最大总和值w
max
作为权重值的单个电阻器。
[0337]
例如，如参照表达式(公式15)所述，总和值w是与在一个权重行18中包括的电阻器17的组合电导(组合电阻的倒数)相对应的值。因此，充电电阻器41的电阻值被设置为包括在权重行18中的电阻器17的组合电阻，其是例如最大总和值w
max
。因此，充电电阻器41可以被视为具有权重值w
max
的权重。
[0338]
充电线42是例如布置为与每个模拟电路3的输出线7正交的单条信号线。充电线42经由充电电阻器41连接到每条输出线7。因此，也可以说充电线42经由充电电阻器41连接到每个电容器13。
[0339]
如图13所示，在输入周期t的结束定时t
n
的同时，电荷信号被输入到充电线42中。该电荷信号是在输出周期t期间保持在导通状态的电信号。电荷信号的电压例如以与输入信号的电压(v
in
)相同的方式来设置。因此，充电线42供应在输入周期t之后进入导通状态的电荷信号。
[0340]
因此，在其中各个权重行中包括的权重的总和值w彼此不同的配置中，用于充电的充电线42与n个输入信号线对p6分开设置。即，供应与输入到各个权重行的n个电信号分开的电荷信号(附加信号)。此外，该电荷信号经由具有在算术装置300中的最大总和值w
max
作为权重值的充电电阻器41被施加到每个模拟电路3的电容器13。
[0341]
当输入周期t开始时，信号对经由多个输入信号线对p6输入到相应的突触电路8中。例如，信号对从第一至第四输入信号线对p6被输入到左模拟电路3。该信号对从第二至第四输入信号线对p6被输入到中央模拟电路3，并且该信号对从第三和第四输入信号线对p6被输入到右模拟电路3。
[0342]
在输入每个信号对的突触电路8中，生成正权重电荷和负权重电荷，并分别输出到正电荷输出线7a和负电荷输出线7b。结果，在输入周期t的结束定时t
n
处完成乘法累加运算，并且每个电容器13保持与乘法累加结果相对应的电压。应当注意的是，在输入周期t期间，不输入电荷信号，并且充电线42的电压为0。
[0343]
如图13所示，在算术装置300中，多个输入信号线对p6在输入周期t之后进入关断状态。即，当输入周期t结束时，要输入到每个输入信号线对p6中的信号对(输入信号)被切换到低电平。因此，使用在输入周期t期间以对应于信号值的时间变为高电平并在输出周期t期间变为低电平的输入信号。因此，在算术装置300中，输入信号线对p6在输出周期t中不供应电荷。
[0344]
另一方面，当输入周期t结束并且输出周期t开始时，电荷信号被输入到充电线42中，并且充电线42的电压变为高电平。因此，在输出周期t中，基于输入到充电线42中的电荷信号，由所有充电电阻器41来生成电荷(电流)。
[0345]
由各个充电电阻器41生成的电荷经由输出线7各自累积在相应的电容器13中。因此，在输出周期t开始的同时，开始所有电容器13的充电。因此，充电电路40通过基于电荷信号累积由充电电阻器41生成的电荷来对电容器13充电。
[0346]
如上所述，充电电阻器41可以被视为具有权重值w
max
的权重。因此，由充电电阻器41基于具有与输入信号相同电压的电荷信号生成的电荷等于例如当输入信号在导通状态
下被输入到设置了最大总和值w
max
的权重对的所有权重时生成的电荷。
[0347]
因此，由充电电路40充电的电容器13的电压根据表达式(公式17)而变化。例如，图13中的左模拟电路3、中央模拟电路3和右模拟电路3中包括的所有电容器13从其中保持与各个乘法累加结果相对应的电压的状态根据最大总和值w
max
根据时间常数t
w
充电。因此，通过设置充电电路40，可以根据相同的时间常数t
w
对所有电容器13充电，而不考虑设置为权重对的权重值v
i
的总和值w。
[0348]
此外，在输出周期t中，对在输出周期t中的电容器13的电压执行使用基于最大总和值w
max
设置的公共阈值θ的阈值确定。公共阈值θ是使用表达式(公式16)设置的值。因此，可以在所有权重行18中同时生成乘法累加信号，该信号用相同的归一化参数(阈值θ和输出周期t)来归一化，而不考虑总和值w。
[0349]
例如，假设在算术装置300中，基于小于最大总和值w
max
的总和值w'来设置阈值θ。在这种情况下，例如，在具有总和值w'的权重行18中计算的最大乘法累加结果(图11中的灰色虚线)可以在输出周期t中检测。另一方面，在具有最大总和值w
max
的权重行18中计算的最大乘法累加结果可以在输出周期t开始之前，即，在输入周期t中超过阈值θ。因此，很难在具有最大总和值w
max
的权重行18中适当地检测最大乘法累加结果。
[0350]
此外，假设在算术装置300中，在输出周期t中使用输入信号线对p6对各个电容器13充电。在该示例中，例如，在左模拟电路3中，电容器13以根据w
max
的时间常数充电。另一方面，由于中央模拟电路3未连接到第一输入信号线对p6，所以充电速度降低。此外，由于右模拟电路3未连接到第一和第二输入信号线对p6，充电速度进一步降低。因此，在使用输入信号线对p6的充电中，充电速度可以在各个模拟电路3之间变化。
[0351]
另一方面，由于在算术装置300中，基于最大总和值w
max
来设置公共阈值θ，所以电容器13的电压在输入周期t中不超过阈值θ。因此，可以适当地计算在连接到多个输入信号线对p6的所有模拟电路3中的乘法累加结果(正负乘法累加信号)。
[0352]
此外，在算术装置300中，电容器13在输出周期t中经由与输入信号线对p6分开添加的充电电路40充电。根据最大总和值w
max
以时间常数进行充电。因此，消除了充电速度的变化，并且因此可以容易地计算可比的乘法累加结果。
[0353]
如上所述，在各个模拟电路3(权重行18)的权重的总和值w不全部相等的情况下，定义作为权重的总和值w的最大值的最大总和值w
max
，并且指定充电时间常数t
w
和公共阈值θ。因此，即使在其中权重v
i
的总和值w彼此不同的配置下，也可以通过并联连接多个模拟电路3并同时执行多个乘法累加运算来计算适当的乘法累加结果。
[0354]
在图14所示的算术装置400中，设置多值权重，并且在各个模拟电路3中包括的权重行18中，权重值v
i
的总和值w都被设置为相同的值。
[0355]
在使用多值权重的情况下，每个突触电路8的对权重值w
i
被设置为多个权重值(候选权重值)中的任何一个。在下文中，候选权重值将由{u
j
}表示。候选权重值{u
j
}是权重值的一组候选值，例如，{u
j
}＝(
‑
1、
‑
0.5、0、0.5、1)。通过适当地从这些候选权重值u
j
中选择来设置对权重值w
i
。候选权重值的数量、特定值等不受限制。
[0356]
应当注意，在一个突触电路8中设置的正负权重值(v
i
和|v
i
‑
|)被设置为相同的值(候选权重值u
j
)。例如，在其中对权重值w
i
被设置为0.5的突触电路8中，正负权重值都被设置为0.5。因此，正权重值v
i
和负权重值v
i
‑
的绝对值|vi
‑
|被设置为彼此不同的多个值{u
j
}
中的任何一个。
[0357]
此外，在算术装置400中，在每个模拟电路3(权重行18)中包括的突触电路8(权重对)的数量被设置为相同的数量，并且权重值v
i
的总和值w被设置为相同的值。因此，在算术装置400的多个模拟电路3中，作为权重值v
i
的总和值w的公共总和值被设置为相同的值w。所有权重行18a共有的权重值v
i
的总和值w是最大总和值w
max
。
[0358]
在图14所示的示例中，提供了四个输入信号线对p6和三个模拟电路3。此外，每个模拟电路3设置有分别连接到四个输入信号线对p6的四个突触电路8。
[0359]
此外，在图14中，使用四种类型的候选权重值u
j
＝(u1、u2、u3、u4)。设置了u1、u2、u3和u4的各个电阻器17被示意性地示出，使得灰色按所述顺序变浅。此外，每个权重行18总是包括一个电阻器17，该电阻器17被设置为具有u1、u2、u3或u4作为正权重(负权重)。因此，权重值v
i
的总和值w为w＝w

＝w
‑
＝(u1 u2 u3 u4)＝w
max
。
[0360]
例如，在图12中，左模拟电路3由四个正突触电路8a构成，其中按顺序从顶部设置了权重值u1、u2、u3和u4。关于中央模拟电路3，设置具有权重值被设置为u3和u2的正突触电路8a作为从顶部开始的第一和第二电路，并且设置具有权重值被设置为u1和u4的负突触电路8b作为第三和第四电路。右模拟电路3由四个负突触电路8a构成，其中按顺序从顶部设置了权重值u1、u4、u3、u2。
[0361]
当输入周期t开始时，信号对经由多个输入信号线对p6被输入到相应的突触电路8，并且从相应的电阻器输出电荷。在输入周期t的结束定时t
n
处，完成与乘积值之和相对应的电荷的累积，并且电容器13的电压成为表示乘法累加结果的电压。
[0362]
在算术装置400中，在输出周期t期间也连续地维持导通状态的信号被用作每个信号对(输入信号)。即，通过多个输入信号线对p6供应在输入周期t之后进入导通状态的电荷信号。
[0363]
如上所述，在算术装置400中包括的每个权重行18中，权重值v
i
的总和值w被设置为相同的值(最大总和值w
max
)。因此，对每个电容器13充电时的时间常数t
w
是公共的。结果，在输出周期t期间，在算术装置400中包括的所有电容器13根据由表达式(公式17)表示的曲线被充电。
[0364]
对每个充电的电容器13执行使用基于最大总和值w
max
根据表达式(公式16)计算的公共阈值θ的阈值确定。因此，可以同时生成多个可比的乘法累加信号。因此，即使在使用多值权重的情况下，使每个权重行18的总和值w恒定，使得能够执行使用输入信号线对p6的充电，并且可以简化电路配置。此外，可以通过基于公共总和值w(w
max
)设置阈值θ来适当地计算乘法累加结果。
[0365]
在图15所示的算术装置500中，设置多值权重，并且使用其中权重值v
i
的总和值w彼此不同的模拟电路3(权重行18)。
[0366]
算术装置500包括多个输入信号线对p6、多个模拟电路3和充电电路40。针对每个模拟电路3来设置包括在每个模拟电路3(权重行18)中的突触电路8(权重对)的数量。此外，在每个突触电路8中，设置从候选权重值u
j
中适当地选择的权重值。因此，在算术装置500中，多个模拟电路3包括其中作为权重值v
i
的总和值w的公共总和值彼此不同的模拟电路3。
[0367]
由于在算术装置500中使用多值权重，因此权重值v
i
的总和值w被计算为在一个模拟电路3中包括的所有突触电路8(权重对)中设置的候选权重值u
j
的总和。因此，即使在突
触电路8的数量多的情况下，总和值w也不一定大，相反，即使在突触电路8的数量少的情况下，总和值w也可以大。在多个模拟电路3中最大的这种总和值w的总和值w是最大总和值w
max
。
[0368]
在图15所示的示例中，提供四个输入信号线对p6和三个模拟电路3。此外，四种候选权重值u
j
＝(u1、u2、u3、u4)被用作权重值。
[0369]
左模拟电路3包括正突触电路8a，其权重值从顶部起按顺序为u1、u2、u3、和u4。中央模拟电路3包括从顶部连接到第二输入信号线对p6并且其权重值为u2的正突触电路8a和从顶部连接到第三和第四输入信号线对p6并且其权重值为u1和u4的负突触电路8b。右模拟电路3包括负突触电路8b，该负突触电路8b连接到第三和第四输入信号线对p6，并且其权重值为u3和u2。在这些模拟电路3中，左模拟电路3的权重值的总和值w(＝u1 u2 u3 u4)是最大总和值w
max
。
[0370]
应当注意，算术装置500的配置不限于上述配置。例如，可以适当地设置包括在模拟电路3中的突触电路8的数量、正突触电路8a和负突触电路8b的比率、在每个突触电路8中设置的候选权重值等，以使得能够执行目标计算。此外，也可以任意地设置每个输入信号线对p6与突触电路8之间的相关性。
[0371]
充电电路40通过使用充电电阻器41和充电线42来配置(参照图13)。充电电阻器41被设置为具有根据最大总和值w
max
的电阻值。该充电电阻器41连接在每个模拟电路3的每条输出线7(正电荷输出线7a和7b)与充电线42之间。
[0372]
当输入周期t开始时，信号对经由多个输入信号线对p6输入到相应的突触电路8中，并且电荷从相应的电阻器输出。在输入周期t的结束定时t
n
处，完成与乘积值之和相对应的电荷的累积，并且电容器13的电压成为表示乘法累加结果的电压。应当注意，在算术装置500中，多个输入信号线对p6在输入周期t之后进入关断状态。
[0373]
当输入周期t结束并且输出周期t开始时，电荷信号被输入到充电线42中，并且充电线42的电压变为高电平。因此，在输出周期t中，基于输入到充电线42中的电荷信号，通过所有充电电阻器41生成电荷(电流)，使得每个电容器13被充电。由于充电电阻器41被设置为具有根据最大总和值w
max
的电阻值，所以由充电电路40充电的电容器13的电压根据表达式(公式17)变化。
[0374]
对每个充电的电容器13执行阈值确定，该阈值确定使用基于最大总和值w
max
根据表达式(公式16)计算的公共阈值θ。因此，可以同时生成多个可比的乘法累加信号。如上所述，即使在使用多值权重并且作为权重值v
i
的总和值w的公共总和值彼此不同的情况下，也可以通过使用充电电路40根据相同的时间常数t
w
对每个电容器13充电。此外，可以通过基于最大总和值w
max
设置阈值θ来适当地计算乘法累加结果。
[0375]
应当注意，在使用多值权重的情况下，即使在每个模拟电路3中设置的突触电路3的数量相同，也不一定提供其中权重值v
i
的总和值w相等的配置(图12中的配置)。即使在这种情况下，通过设置充电电路40并基于最大总和值w
max
设置充电时间常数和阈值，也可以容易地实现多个模拟电路3的并行化。
[0376]
另一方面，即使在每个模拟电路3中设置的突触电路3的数量不同的情况下，在使用多值权重的配置中，可以使在所有模拟电路3中的权重值v
i
的总和值w相同。在这样的配置中，例如可以不设置充电电路40，而直接从多个输入信号线对p6对电容器13充电。在这种
情况下，由于总和值w是相同的，所以可以在公共的充电模式下对每个电容器13充电。例如，可以采用这样的配置。
[0377]
如上所述，在根据本实施例的算术装置100至500中的一个或多个模拟电路3中，正权重电荷和负权重电荷通过将对应于输入值x
i
的信号对的各个信号值乘以正负权重值而生成，并在累加单元11中累积。累加单元11由充电单元15充电，并且通过使用预定阈值θ对该电压执行阈值确定，从而输出正负乘法累加信号。因此，可以省略用于将算术运算结果积分到一个信号中的电路等。此外，在一个或多个模拟电路3中，在公共的充电模式下执行由充电单元15进行的充电，并且将公共阈值θ用于阈值确定。因此，可以在相同的定时处适当地执行每个模拟电路3的运算。结果，可以简化电路配置，并且实现高速算术运算处理。
[0378]
生成表示正负乘法累加结果之间的差值的总乘法累加信号的方法可以设想为计算乘法累加结果的方法。在这种情况下，需要提供用于计算差值的逻辑电路等，并且电路配置可能复杂，功耗可能增加。此外，当计算正负乘法累加结果的输出时间之间的差值并输出该差值时，计算结果的精度可能以取决于用于计算该差值的电路的时间分辨率的性能的方式降低。此外，由于构成用于计算差值的电路的晶体管的运算变化和环境变化，最终乘法累加结果的精度可能会劣化。
[0379]
在该实施例中，从模拟电路3的乘法累加结果输出正负乘法累加信号。这些正负乘法累加信号可以按原样用作下一层的输入(信号对)。因此，用于从正负乘法累加信号生成最终乘法累加信号的差分电路变得不必要，并且因此可以简化电路配置。此外，由于没有设置差分电路，所以能够显著降低算术装置的功耗。
[0380]
此外，在该实施例中，在公共的充电模式下，在每个模拟电路3中执行用于读取正负乘法累加结果的充电处理，并且通过使用公共阈值θ来生成正负乘法累加信号。充电时间常数t
w
和阈值θ基于在模拟电路3中的最大总和值w
max
来设置。因此，例如可以从所有模拟电路3输出适当地归一化的正负乘法累加信号。
[0381]
通过如上所述使充电模式和阈值θ公共化，可以将其中使用“信号对”和“权重对”的模拟电路3与多个输入信号线对p6并联连接。结果，可以执行多个“乘法累加运算”的并行运算，即，一次相对于一个输入同时进行运算，并且可以实现根据模拟方法的高速运算和有效运算。
[0382]
例如，一种被称为多层感知器(mlp)的方法可能被用于深度学习的算法中。mlp可以具有例如完全连接的配置，并且不需要在前一级的乘法累加运算和后一级的乘法累加运算之间执行特殊处理等。因此，如果可以减少在乘法累加运算之后计算最终乘法累加信号(正负乘法累加结果之间的差值)的处理，则可以减少用于计算差值的电路等。在这种情况下，可以实现仅具有交叉杆布线结构和使用电阻器(电阻器元件)作为权重的比较器电路的mlp网络，而不提供不必要的电路，并且可以用极其简化的电路配置执行高速算术运算处理。
[0383]
<其他实施例>
[0384]
本技术不限于上述实施例，并且可以实现各种其它实施例。
[0385]
以上主要描述了构成权重对(突触电路)的正权重和负权重的权重值彼此相等的情况。本技术不限于此，并且模拟电路可以包括其中正权重和负权重被设置为彼此不同的权重值的突触电路。在这种情况下，正权重行的权重值的总和值并不总是等于负权重行的
权重值的总和值。
[0386]
同样利用这样的配置，例如，可以通过基于在连接到每个输入信号线对的每个权重行中的权重值的总和值的最大值(最大总和值)设置充电时间常数和阈值来计算在输出周期中所有模拟电路3中的乘法累加结果。因此，可以在多个层上无延迟地执行乘法累加运算。
[0387]
在上面的描述中，充电时间常数、阈值等是基于电容器的电压曲线设置的。设置充电时间常数、阈值等的方法不受限制。例如，通过如参考图8等描述的线性近似电容器的电压变化，可以根据梯度等设置充电时间常数(充电速率)、阈值等。因此，可以容易地计算每个参数。此外，用于充电的参数和阈值θ可以通过使用任何方法来设置。
[0388]
每个突触电路的寄生电容可以被用作累加单元。在这种情况下，每个突触电路的寄生电容起到电容器的作用。例如，算术装置被配置为使得寄生电容的组合电容在每个模拟电路中具有相同的值。同样在这种情况下，可以基于最大总和值和组合电容来设置时间常数和阈值，并且可以适当地输出正负乘法累加信号。
[0389]
还可以组合上述本技术的至少两个特征。换言之，在各个实施例中描述的各种特征可以被任意地组合，而不考虑实施例。此外，上面描述的各种效果不是限制性的，而是仅仅是说明性的，并且可以提供其它效果。
[0390]
在本公开中，“相同”、“相等”、“正交”等是包括“基本相同”、“基本相等”、“基本正交”等的概念。例如，还包括在参考“完全相同”、“完全相等”、“完全正交”等的预定范围(例如，
±
10％的范围)中包括的状态。
[0391]
应当注意的是，本技术还可以采取以下配置。
[0392]
(1)算术装置，包括：
[0393]
多个输入线对，在预定的输入周期内将对应于输入值的信号对输入到多个输入线对中的每一个；以及
[0394]
一个或多个乘法累加设备，每个设备包括
[0395]
多个乘法单元，该乘法单元分别连接到多个输入线对中的至少一些输入线对，并且能够生成正权重电荷和负权重电荷中的每一个，正权重电荷对应于通过将输入到乘法单元连接到的输入线对中的信号对的一个信号的信号值乘以正权重值而获得的正权重乘积值，负权重电荷对应于通过将另一个信号的信号值乘以负权重值而获得的负权重乘积值，
[0396]
累加单元，能够累积由多个乘法单元中的每一个生成的正权重电荷和负权重电荷，
[0397]
充电单元，对累加单元充电，其中在输入周期之后累积了对应于乘积值的电荷，以及
[0398]
输出单元，在由充电单元开始充电之后，使用预定阈值对由累加单元保持的电压执行阈值确定，从而输出表示正权重乘积值之和的正乘法累加信号和表示负权重乘积值之和的负乘法累加信号，其中
[0399]
在一个或多个乘法累加设备中，在公共的充电模式下执行由充电单元进行的充电，并且将公共阈值设置为预定阈值。
[0400]
(2)根据(1)所述的算术装置，其中
[0401]
公共的充电模式包括根据公共时间常数进行充电。
[0402]
(3)根据(1)或(2)所述的算术装置，其中
[0403]
公共的充电模式包括基于正权重值的总和值和负权重值的绝对值的总和值的最大总和值进行充电，最大总和值在一个或多个乘法累加设备中是最大的，正权重值和负权重值被设置在多个乘法单元中。
[0404]
(4)根据(3)所述的算术装置，其中
[0405]
公共的充电模式根据最大总和值按照时间常数对累加单元充电。
[0406]
(5)根据(4)所述的算术装置，其中
[0407]
多个输入线对供应在输入周期之后进入导通状态的充电信号，并且
[0408]
充电单元基于充电信号，通过累积由多个乘法单元生成的电荷来对累加单元充电。
[0409]
(6)根据(4)或(5)所述的算术装置，其中
[0410]
充电单元包括用于充电的电阻器和经由用于充电的电阻器连接到累加单元并供应在输入周期之后进入导通状态的充电信号的充电线。
[0411]
(7)根据(6)所述的算术装置，其中
[0412]
用于充电的电阻器被设置为具有根据最大总和值的电阻值。
[0413]
(8)根据(6)或(7)所述的算术装置，其中
[0414]
多个输入线对在输入周期之后进入关断状态，并且
[0415]
充电单元通过基于充电信号累积由用于充电的电阻器生成的电荷来对累加单元充电。
[0416]
(9)根据(3)至(8)中任一项所述的算术装置，其中
[0417]
公共阈值是基于最大总和值来设置的。
[0418]
(10)根据(3)至(9)中任一项所述的算术装置，其中
[0419]
公共阈值是基于电压曲线来设置的，该电压曲线表示在经由具有根据最大总和值的电阻值的电阻器对累加单元充电的情况下累加单元的电压随时间的变化。
[0420]
(11)根据(1)至(10)中任一项所述的算术装置，其中
[0421]
对于多个乘法单元中的每一个，正权重值和负权重值的绝对值被设置为相同的值。
[0422]
(12)根据(1)至(11)中任一项所述的算术装置，其中
[0423]
正权重值和负权重值的绝对值被固定为相同的值。
[0424]
(13)根据(1)至(12)中任一项所述的算术装置，其中
[0425]
正权重值和负权重值的绝对值被设置为彼此不同的多个值中的任何一个。
[0426]
(14)根据(1)至(13)中任一项所述的算术装置，其中
[0427]
一个或多个乘法累加设备是并联连接到多个输入线对的多个乘法累加设备。
[0428]
(15)根据(14)所述的算术装置，其中
[0429]
在乘法累加设备中将正权重值的总和值和负权重值的绝对值的总和值设置为彼此相等的公共总和值，并且
[0430]
多个乘法累加设备包括设置为相同的值的公共总和值。
[0431]
(16)根据(14)所述的算术装置，其中
[0432]
在乘法累加设备中将正权重值的总和值和负权重值的绝对值的总和值设置为彼
此相等的公共总和值，并且
[0433]
多个乘法累加设备包括乘法累加设备，该乘法累加设备包括彼此不同的公共总和值。
[0434]
(17)根据(1)至(16)中任一项所述的算术装置，其中
[0435]
输入值由正值与负值之和表示，
[0436]
信号对包括具有正值作为信号值的正信号和具有负值的绝对值作为信号值的负信号，并且
[0437]
多个乘法单元包括第一乘法单元或第二乘法单元中的至少一个，第一乘法单元通过将正信号的信号值乘以正权重值来生成正权重电荷，并且通过将负信号的信号值乘以负权重值来生成负权重电荷，第二乘法单元通过将负信号的信号值乘以正权重值来生成正权重电荷，并且通过将正信号的信号值乘以负权重值来生成负权重电荷。
[0438]
(18)根据(17)所述的算术装置，其中
[0439]
多个输入线对每一个都包括输入正信号的正输入线和输入负信号的负输入线，
[0440]
一个或多个乘法累加设备包括正电荷输出线和负电荷输出线，
[0441]
第一乘法单元包括连接在正输入线与正电荷输出线之间的电阻器，该电阻器定义正权重值，并且将正权重电荷输出到正电荷输出线，并且第一乘法单元包括连接在负输入线与负电荷输出线之间的电阻器，该电阻器定义负权重值，并将负权重电荷输出到负电荷输出线，并且
[0442]
第二乘法单元包括连接在负输入线和正电荷输出线之间的电阻器，该电阻器定义正权重值，并且将正权重电荷输出到正电荷输出线，并且第二乘法单元包括连接在正输入线和负电荷输出线之间的电阻器，该电阻器定义负权重值，并且将负权重电荷输出到负电荷输出线。
[0443]
(19)根据(18)所述的算术装置，其中
[0444]
累加单元包括连接到正电荷输出线并累积正权重电荷的正电荷累加单元和连接到负电荷输出线并累积负权重电荷的负电荷累加单元，
[0445]
充电单元对正电荷累加单元和负电荷累加单元中的每一个进行充电，并且
[0446]
输出单元使用公共阈值对正电荷累加单元执行阈值确定，从而输出正乘法累加信号，并且使用公共阈值对负电荷累加单元执行阈值确定，从而输出负乘法累加信号。
[0447]
(20)乘法累加系统，包括：
[0448]
多个输入线对，在预定的输入周期内将对应于输入值的信号对输入到多个输入线对的每一个中；
[0449]
多个模拟电路，每个模拟电路包括
[0450]
多个乘法单元，该乘法单元分别连接到多个输入线对中的至少一些输入线对，并且能够生成正权重电荷和负权重电荷中的每一个，正权重电荷对应于通过将输入到乘法单元连接到的输入线对中的信号对的一个信号的信号值乘以正权重值而获得的正权重乘积值，负权重电荷对应于通过将另一个信号的信号值乘以负权重值而获得的负权重乘积值，
[0451]
累加单元，能够累积由多个乘法单元中的每一个生成的正权重电荷和负权重电荷，
[0452]
充电单元，对累加单元充电，其中在输入周期之后累积了对应于乘积值的电荷，以
及
[0453]
输出单元，在由充电单元开始充电之后，使用预定阈值对由累加单元保持的电压执行阈值确定，从而输出表示正权重乘积值之和的正乘法累加信号和表示负权重乘积值之和的负乘法累加信号；以及
[0454]
通过连接多个模拟电路来配置的网络电路，其中
[0455]
在多个模拟电路中，在公共的充电模式下执行由充电单元进行的充电，并且将公共阈值设置为预定阈值。
[0456]
参考标志列表
[0457]
3、3a、3b 模拟电路
[0458]
p6 输入信号线对
[0459]
6a 正输入信号线
[0460]
6b 负输入信号线
[0461]
7 输出线
[0462]
7a 正电荷输出线
[0463]
7b 负电荷输出线
[0464]
8 突触电路
[0465]
8a 正突触电路
[0466]
8b 负突触电路
[0467]
11 累加单元
[0468]
12 信号输出单元
[0469]
13a 电容器
[0470]
13b 电容器
[0471]
15 充电单元
[0472]
17 电阻器
[0473]
17a 第一电阻器
[0474]
17b 第二电阻器
[0475]
17c 第三电阻器
[0476]
17d 第四电阻器
[0477]
40 充电电路
[0478]
41 用于充电的电阻器
[0479]
42 充电线
[0480]
100、200、300、400、500 算术装置。