电压控制装置

技术领域

本技术涉及电压控制装置。

背景技术

近年来，使用深度神经网络(DNN)的学习(深度学习)受到关注。用于学习的数据被存储在诸如神经网络的静态随机存取存储器(SRAM)的半导体存储元件中。在神经网络的学习中，半导体存储元件可以被存取数万次，因此大部分消耗的功率被半导体存储元件消耗。因此，需要减少这种功耗。

为了降低功耗，降低供应给神经网络的电源电压是有效的。在非专利文献1中，学习神经网络在到学习神经网络的SRAM的电源电压低，并且容易发生SRAM的错误的环境下学习。当该电源电压变为预定值或以下时，学习神经网络的错误率(Error Rate)增加。因此，非专利文献1的作者设置了错误率的阈值、可接受的错误率以及保持该可接受的错误率的最低电源电压(极限工作电压)。然后，限制工作电压为0.5V以下，正常电压为0.8V。在非专利文献1中描述了上述内容。

引文列表

非专利文献

非专利文献1：Lita Y,Boris M，“用于节能、保护隐私的卷积神经网络的近似SRAM(Approximate SRAM for Energy-Efficient,Privacy-Preserving ConvolutionalNeural Networks)”，IEEE,2017IEEE Computer Society Annual Symposium on VLSI(2017):689-694

发明内容

本发明要解决的问题

在非专利文献1中，使用了学习神经网络和推理神经网络。将学习神经网络学习得到的系数数据等存储在推理神经网络的SRAM中，并且由推理神经网络进行推理。因此，期望在学习时获得的极限工作电压也可以在推理时施加。

然而，学习时的过程、电压和温度(PVT)条件与推理时的PVT条件可能不同。因此，存在在学习时获得的极限工作电压不能原样施加到推理神经网络的问题。

因此，本技术的主要目的是通过提供自动设置极限工作电压的电压控制装置来降低功耗。

问题的解决方案

本技术提供了一种电压控制装置，包括第一神经网络、第二神经网络、推理结果判定单元和电压确定单元，其中第一神经网络具有基于已学习的信息进行推理的功能，第二神经网络具有基于未学习的信息进行推理的功能，推理结果判定单元具有将推理结果判定单元持有的正确答案值数据与第一神经网络的推理结果数据进行比较以获得确定结果数据的功能，并且电压确定单元具有如下功能，基于确定结果数据，在正确答案值数据和推理结果数据匹配的情况下输出低于供应给第一神经网络和第二神经网络的电压的电压信号，并且在正确答案值数据和推理结果数据不匹配的情况下输出高于供应给第一神经网络和第二神经网络的电压的电压信号。

第一神经网络可以是第二神经网络的部分组件或全部组件的副本。

第一神经网络可以包括第二神经网络的部分组件。

第一神经网络和第二神经网络中的每一个可以至少包括存储单元和多个处理元件。

电压确定单元可以至少包括电压差确定单元和电压差信号转换单元，电压差确定单元可以具有基于确定结果数据确定供应给第一神经网络的电压与变化后的电压之间的电压差，并且输出电压差信号的功能，并且电压差信号转换单元可以具有转换电压差信号并输出电压信号的功能。

电压确定单元可以基于确定结果数据和电压，在正确答案值数据和推理结果数据匹配并且供应给第一神经网络的电压高于预定值的情况下，输出低于供应给第一神经网络和第二神经网络的电压的电压信号。

电压控制装置还可以包括电压供应单元，其中该电压供应单元可以具有基于由该电压确定单元输出的电压信号向该第一神经网络和该第二神经网络供应电压的功能。

该电压供应单元可以包括至少一个DA转换器，并且该DA转换器可以具有将作为数字信号的电压信号转换为作为模拟信号的电压并且输出该电压的功能。

供应给第一神经网络的电压可以被定义为第一电源电压，供应给第二神经网络的电压可以被定义为第二电源电压，并且电压供应单元可以具有向第二神经网络供应高于第一电源电压的第二电源电压的功能。

在本技术中，供应给第一神经网络的最低电压被称为极限工作电压，在该最低电压下，第一神经网络的错误发生率在容许范围内。

附图说明

[图1]是根据本技术的电压控制装置的整体配置图。

[图2]是根据本技术的电压控制装置的整体配置图。

[图3]是根据本技术的电压控制装置的实施例。

[图4]是根据本技术的推理结果判定单元的流程图。

[图5]是根据本技术的电压确定单元的流程图。

[图6]是根据本技术的第一神经网络和推理结果判定单元的实施例。

[图7]是根据本技术的第一神经网络和推理结果判定单元的实施例。

[图8]是根据本技术的电压差确定单元的操作的示例。

[图9]是根据本技术的电压差确定单元的操作的示例。

[图10]是根据本技术的电压确定单元的流程图。

[图11]是根据本技术的电压控制装置的实施例。

[图12]是根据本技术的电压控制装置的实施例。

[图13]是根据本技术的电压差确定单元的操作的示例。

具体实施方式

在下文中，将参照附图描述用于实现本技术的合适模式。注意，下面描述的实施例示出了本技术的典型实施例，并且本技术的范围不限于这些实施例。注意，将按以下顺序描述本技术。

1.根据本技术的第一实施例(基本配置)

2.根据本技术的第二实施例(电压供应单元)

3.根据本技术的第三实施例(不同的电源电压)

1.根据本技术的第一实施例(基本配置)

图1示出了根据本技术的电压控制装置100的整体配置图。如图1所示，根据本技术的电压控制装置100包括第一神经网络110、第二神经网络120、推理结果判定单元130和电压确定单元140。

第一神经网络110和第二神经网络120具有推理输入数据是什么的功能。例如，在输入猫的图像数据的情况下，第一神经网络110和第二神经网络120推理该图像是否是猫的图像。除了图像之外，输入数据还可以是例如语音、符号、数字、字符、信号等。

第一神经网络110具有基于已学习的信息进行推理的功能。第二神经网络120具有基于未学习的信息进行推理的功能。

第一神经网络110是第二神经网络120的部分组件或全部组件的副本(复制品)。因此，第一神经网络110和第二神经网络120可以执行相同的操作。

推理结果判定单元130具有确定第一神经网络110的推理结果是正确还是不正确的功能，以获得确定结果数据。更具体地，推理结果判定单元130将推理结果判定单元130持有的正确答案值数据与第一神经网络110的推理结果数据进行比较，并输出确定结果数据。例如，在正确答案值数据是猫并且推理结果数据也是猫的情况下，确定结果数据具有正确答案值。

电压确定单元140具有基于由推理结果判定单元130输出的确定结果数据来确定供应给第一神经网络110和第二神经网络120的电压的功能。更具体地，在正确答案值数据和推理结果数据匹配的情况下，电压确定单元140具有输出低于供应给第一神经网络110和第二神经网络120的电压的电压信号的功能。另一方面，在正确答案值数据和推理结果数据不匹配的情况下，电压确定单元140具有输出高于供应给第一神经网络110和第二神经网络120的电压的电压信号的功能。

图2示出了根据本技术的电压控制装置100的另一个整体配置图。如图2所示，第一神经网络110可以包括第二神经网络120的部分组件。即，第一神经网络110可以同时作为第一神经网络110操作，并且在另一时间作为第二神经网络120的一部分操作。例如，当基于已学习的信息进行推理时，第一神经网络110可以作为第一神经网络110进行操作，而当基于未学习的信息进行推理时，第一神经网络110可以作为第二神经网络120的一部分进行操作。

为了降低第一神经网络110和第二神经网络120的功耗，降低供应给第一神经网络110和第二神经网络120的电压是有效的。因此，在推理结果数据与正确答案值数据匹配的情况下，电压确定单元140输出低于供应给第一神经网络110和第二神经网络120的电压的电压信号。

如上所述，第一神经网络110具有基于已学习的信息进行推理的功能。因此，第一神经网络110的推理结果数据与正确答案值数据通常匹配。在推理结果数据与正确答案值数据不匹配的情况下，意味着供应给第一神经网络110的电压低于极限工作电压V

因此，第一神经网络110和第二神经网络120在接近极限工作电压V

即，电压控制装置100能够自动地设置极限工作电压。

图3示出了实施根据本技术的电压控制装置100的实施例。如图3所示，根据本技术的电压控制装置100包括第一神经网络110、第二神经网络120、推理结果判定单元130和电压确定单元140。

第一神经网络110可以至少包括存储单元111和处理元件组112。处理元件组112包括多个处理元件。作为存储单元111，例如能够使用诸如SRAM的半导体存储元件。

与第一神经网络110类似，第二神经网络120可以至少包括存储单元121和处理元件组122。

推理结果判定单元130具有将推理结果判定单元130持有的正确答案值数据A

这里，图4示出了推理结果判定单元130的流程图。如图4所示，推理结果判定单元130将由推理结果判定单元130持有的正确答案值数据A

在正确答案值数据A

电压确定单元140基于确定结果标志F的值进行操作。图5示出了电压确定单元140的流程图。

如图5所示，在确定结果标志F中设置值“0”的情况下(S4：是)，电压确定单元140输出低于供应给神经网络110的电压V1的电压信号(S5)。

另一方面，在确定结果标志中设置值“1”的情况下(S4：否)，电压确定单元140输出高于供应给神经网络110的电压V1的电压信号(S6)。

随后，图6和图7示出了第一神经网络110和推理结果判定单元130的一个实施例。图6示出了在第一神经网络110可以正确推理的情况下的处理。图7示出了在第一神经网络110不能正确推理的情况下的处理。

首先，将参考图6描述在第一神经网络110可以正确推理的情况下的处理。如图6所示，图像数据G1被输入到第一神经网络110。在本例中，图像数据G1是猫的图像。

在第一神经网络110的推理结果数据中，图像数据G1为猫的概率为90％，图像数据G1为狗的概率为5％，图像数据G1为马的概率为2％，图像数据G1为鸟的概率为2％，图像数据G1为羊的概率为1％。

供应给第一神经网络110的电压V1高于极限工作电压V

包括在推理结果判定单元130中的二值化单元131将第一神经网络110的推理结果数据二值化为具有预定值(例如，50％作为阈值)的“0”或“1”。在推理结果数据中的概率高于50％的情况下，二值化单元131输出值“1”。在推理结果数据中的概率为50％或以下的情况下，二值化单元131输出值“0”。注意，阈值不必为50％。

在本实施例中，图像数据是猫的概率是90％，其高于阈值50％，因此二值化单元131将猫的项的值设置为“1”。对于其他项(狗、马、鸟和羊)，概率为50％或以下，因此二值化单元131将这些项的值设置为“0”。

由于图像数据是猫的图像数据，因此正确答案是猫。因此，在正确答案值数据A

随后，推理结果判定单元130中包括的正确答案比较单元132将推理结果数据与正确答案值数据A

由于通过上述处理将所有项的确定值设置为“1”，因此推理结果判定单元130将确定结果标志F中的值设置为“0”。

另一方面，将参考图7描述在第一神经网络110不能正确推理的情况下的处理。同样在图7所示的示例中，图像数据G1是猫的图像。

在第一神经网络110的推理结果数据中，图像数据为猫的概率为45％，图像数据为狗的概率为51％，图像数据为马的概率为1％，图像数据为鸟的概率为2％，图像数据为羊的概率为1％。

供应给第一神经网络110的电压V1低于极限工作电压V

在本实施例中，图像数据是狗的概率是51％，其高于阈值50％，从而二值化单元131将狗的项的值设置为“1”。对于其他项(猫、马、鸟和羊)，概率为50％或以下，因此二值化单元131将这些项的值设置为“0”。

随后，正确答案比较单元132将推理结果数据与正确答案值数据A

由于通过上述处理将设置了值“0”的确定值和设置了值“1”的确定值混合，因此推理结果判定单元130在确定结果标志F中设置值“1”。

后续的电压确定单元140基于该确定结果标志F操作。这里，返回到图3的描述，电压确定单元140至少包括如图3所示的电压差确定单元141和电压差信号转换单元142。

电压差确定单元141具有基于确定结果数据确定供应给第一神经网络110的电压与变化后的电压之间的电压差，并将电压差信号输出到电压差信号转换单元142的功能。

电压差确定单元141保持供应到第一神经网络的电源电压V1下降时的电压差与电源电压V1上升时的电压差之间的比例。电源电压V1下降时的电压差与电源电压V1上升时的电压差的比例可以是α:(1-α)。例如，α可以是大于0且小于0.5的值。

电压差信号转换单元142具有转换电压差信号并输出电压信号的功能。电压差信号转换单元142可以包括例如积分器。

将具体描述电压确定单元140的操作。首先，将参照图8描述包括在电压确定单元140中的电压差确定单元141的操作的示例。图8示出了到第一神经网络的电源电压V1、极限工作电压V

确定结果标志F的值由0和1表示。平坦的低值是0，而突出的高值是1。

当确定结果标志F的值为0时，电源电压V1降低。当电源电压V1逐渐降低并且电源电压V1在时间t1处达到极限工作电压V

此外，当电源电压V1再次逐渐降低并且电源电压V1在时间t2处达到极限工作电压V

在图8所示的实施例中，示出了α＝0.1的情况。因此，电源电压V1降低时的电压差与电源电压V1升高时的电压差的比为0.1：(1-0.1)＝0.1:0.9＝1:9。

另外，电源电压V1每(1-α)/α+1次升高一次。在该实施例中，由于α＝0.1，电源电压V1每(1-0.1)/0.1+1＝10次升高一次。

α值越小，电源电压V1升高的频率越小。另一方面，α值越大，电源电压V1升高越频繁。因此，改变α的值，从而可以调节电源电压V1升高的频率。

注意，当电源电压V1降低时的电压差与当电源电压升高时的电压差之间的比例不限于α:1-α，并且可以为例如α:1。

将参考图9描述电压差确定单元141的其他操作的示例。图9示出了至第一神经网络110的电源电压V1、极限工作电压V

当确定结果标志F的值为0时，电源电压V1逐渐降低，但是当电源电压V1在时间t3处接近极限工作电压V

图10示出了这种情况下的电压确定单元140的流程图。如图10所示，在正确答案值数据和推理结果数据匹配的情况下，在确定结果标志F中设置值“0”(S7：是)，并且供应给第一神经网络110的电压V1高于预定值(S8：是)，电压确定单元140输出低于供应给第一神经网络和第二神经网络的电压信号(S9)。

在确定结果标志F中设置值“0”(S7：是)，并且供应给第一神经网络110的电压V1是预定值或以下的情况下(S8：否)，电压确定单元140不改变电压信号。

在正确答案值数据和推理结果数据不匹配，并且在确定结果标志中设置值“1”的情况下(S7：否)，电压确定单元140输出高于供应给神经网络110的电压V1的电压信号(S10)。

接着，返回到图3的描述，将描述包括在电压确定单元140中的电压差信号转换单元142。电压差信号转换单元142具有转换从电压差确定单元141输出的电压差信号并输出电压信号的功能。

具体地，电压差信号转换单元142例如将从电压差确定单元141输出的电压差乘以μ。例如，μ可以是大于0且远小于1的值。

μ值越小，电源电压V1变化时的电势差越小。另一方面，μ值越大，电源电压V1变化时的电势差就越大。因此，改变μ的值，从而可以调节电源电压V1变化时的电势差。

2.根据本技术的第二实施例(电压供应单元)

图11示出了根据本技术的电压控制装置100的另一个实施例。注意，对于图11和图3的重叠部分将省略详细描述。

如图11所示，电压控制装置100还可以包括电压供应单元150。电压供应单元150具有基于电压确定单元140输出的电压信号向第一神经网络110和第二神经网络120供应电压的功能。

电压供应单元150可以包括至少一个DA转换器151。DA转换器151可以将数字信号转换为模拟信号。电压确定单元140输出的电压信号为数字信号。第一神经网络110和第二神经网络120的电源电压是模拟信号。因此，需要DA转换器151的转换处理。

电压供应单元150还可以包括缓冲器152。如果DA转换器151的输出电压原样供应给第一神经网络110等，则DA转换器151等上的负载高。因此，缓冲器152转换DA转换器151的输出电压，并将转换后的电压供应给第一神经网络110等。低压降线性调节器(LDO)或DC/DC转换器可用作例如缓冲器152。

3.根据本技术的第三实施例(不同的电源电压)

图12示出了另一个实施例，其中实施了根据本技术的电压控制装置100。注意，对于图12和图11的重叠部分将省略详细描述。

供应给第一神经网络110的电压被定义为第一电源电压V1。供应给第二神经网络120的电压被定义为第二电源电压V2。

电压差信号转换单元142具有转换由电压差确定单元141输出的电压差信号，并输出对应于第一电源电压V1的电压信号和对应于第二电源电压V2的电压信号的功能，对应于第二电源电压V2的电压信号高于对应于第一电源电压V1的电压信号。第一电源电压V1和第二电源电压V2之间的电压差ΔV取决于噪声的波动，但是例如可以是20mV或50mV。

电压供应单元150具有将第一电源电压V1供应到第一神经网络110和将高于第一电源电压V1的第二电源电压V2供应到第二神经网络120的功能。

将参照图13描述电压供应单元150的操作和包括在电压确定单元140中的电压差确定单元141的操作。图13示出了第一电源电压V1、第二电源电压V2、极限工作电压V

在时间t4处，当第一电源电压V1和第二电源电压V2逐渐降低并且第一电源电压V1达到极限工作电压V

此外，在时间t5处，当第一电源电压V1和第二电源电压V2再次逐渐降低并且第一电源电压V1达到极限工作电压V

第二电源电压V2略高于第一电源电压V1。因此，当第一电源电压V1达到极限工作电压V

注意，根据本技术的电压控制装置100控制电压的对象不限于神经网络。

注意，本说明书中描述的效果仅仅是示例而非限制，并且可以获得其他效果。

注意，本技术可以具有以下配置。

[1]一种电压控制装置，包括：

第一神经网络，

第二神经网络，

推理结果判定单元，以及

电压确定单元，其中

第一神经网络具有基于已学习的信息进行推理的功能，

第二神经网络具有基于未学习的信息进行推理的功能，

推理结果判定单元具有将推理结果判定单元持有的正确答案值数据与第一神经网络的推理结果数据进行比较以获得确定结果数据的功能，并且

电压确定单元具有如下功能：基于确定结果数据，在正确答案值数据与推理结果数据匹配的情况下输出低于供应给第一神经网络和第二神经网络的电压的电压信号，并且在正确答案值数据与推理结果数据不匹配的情况下输出高于供应给第一神经网络和第二神经网络的电压的电压信号。

[2]根据[1]所述的电压控制装置，其中第一神经网络是第二神经网络的部分组件或全部组件的副本。

[3]根据[1]或[2]所述的电压控制装置，其中第一神经网络包括第二神经网络的部件的部分组件。

[4]根据[1]至[3]中任一项所述的电压控制装置，其中第一神经网络和第二神经网络中的每一个至少包括存储单元和多个处理元件。

[5]根据[1]至[4]中任一项所述的电压控制装置，其中电压确定单元至少包括电压差确定单元和电压差信号转换单元，电压差确定单元具有基于确定结果数据确定供应给第一神经网络的电压与变化后的电压之间的电压差，并且输出电压差信号的功能，并且电压差信号转换单元具有转换电压差信号并输出电压信号的功能。

[6]根据[1]至[5]中任一项所述的电压控制装置，其中电压确定单元基于确定结果数据和电压，在正确答案值数据和推理结果数据匹配并且供应给第一神经网络的电压高于预定值的情况下，输出低于供应给第一神经网络和第二神经网络的电压的电压信号。

[7]根据[1]至[6]中任一项所述的电压控制装置，还包括电压供应单元，其中该电压供应单元具有基于由该电压确定单元输出的电压信号向该第一神经网络和该第二神经网络供应电压的功能。

[8]根据[7]所述的电压控制装置，其中电压供应单元包括至少一个DA转换器，并且该DA转换器具有将作为数字信号的电压信号转换为作为模拟信号的电压并且输出该电压的功能。

[9]根据[7]或[8]所述的电压控制装置，其中供应给第一神经网络的电压被定义为第一电源电压，供应给第二神经网络的电压被定义为第二电源电压，并且电压供应单元具有向第二神经网络供应高于第一电源电压的第二电源电压的功能。

附图标记列表

100 电压控制装置

110 第一神经网络

120 第二神经网络

130 推理结果判定单元

140 电压确定单元

141 电压差确定单元

142 电压差信号转换单元

150 电压供应单元

151 DA转换器

V1 第一电源电压

V2 第二电源电压

V

F 确定结果标志

T 时间

A