掌桥专利:专业的专利平台
掌桥专利
首页

技术领域

本申请涉及感知技术,具体地,涉及在大规模部署的分布式系统中利用神经网络感知外部事件。

背景技术

在申请号为202110957486.8的中国专利申请中提供了模拟信号路由器,在申请号为202110956226.9的中国专利申请中提供了跨芯片传输模拟信号的模拟信号路由器,在申请号为202110956246.6的中国专利申请中提供了R-SpiNNaker芯片,在申请号为202110957228.X的中国专利申请中提供了R-SpiNNaker系统,在申请号为202110956273.3的中国专利申请中提供了基于R-SpiNNaker系统构建脉冲神经网络,在申请号为202110964601.4的中国专利申请中提供了分布式电容传感器系统,在申请号为202110957229.4的中国专利申请中提供了一种分布式电容传感器系统。这些中国专利申请作为本申请的背景技术,本申请引用其全文,并将其全文合并于此。

分布式系统中包括多个基础硬件单元。本文中将用于同类感知系统以及本申请的多种实施例的基础硬件单元称为“基础感知单元”。基础感知单元是例如现有技术中的R-SpiNNaker芯片,或者其他形式的硬件单元。图1A-图1F给出了基础感知单元的多种例子。

图1A-图1F各自是基础感知单元的结构框图。

在图1A的例子中,基础感知单元包括神经单元与数字路由器。

神经单元包括多个神经元。在一个例子中,神经单元的神经元用于提供SNN(脉冲神经网络)神经元的功能。在又一个例子中,神经单元的神经元用于提供ANN(人工神经网络)神经元的功能。神经单元提供神经元的资源池,其中的神经元可被配置权重以及同其他神经元的连接关系。神经单元是例如处理器核、神经网络芯片或提供神经元资源的芯片。神经单元也可由CPU核中的线程或进程实现。各神经元也可由CPU核中的线程或进程实现。神经元的权重定义了神经元的输入与输出之间的关系。

神经单元同数字路由器耦合。从而神经单元的各个神经元通过数字路由器接收输入和/或传递输出。神经元的输入/输出以数据包形式通过数字路由器传输。数字路由器包括路由表,其描述了从一个神经元接收的数据包被路由到哪个或哪些神经元。

以SNN为例,SNN神经元接收神经脉冲(简称脉冲),并输出脉冲。用例如AER包代表脉冲。SNN神经元收到AER包代表收到脉冲,SNN神经元输出AER(Address-EventRepresentation,地址事件表示)包代表SNN神经元被激活并输出脉冲。SNN神经元从数字路由器接收AER包并向数字路由器输出AER包。用于模拟SNN神经元的计算模型属于现有技术,根据本申请的实施例也利用将来可能出现的SNN神经元模型。

多个SNN神经元组成SNN。在本说明书中,同神经单元相比,SNN具有指定的拓扑结构与有意义的功能,构成SNN的各SNN神经元具有指定的参数或权重。SNN是被创建的。通过配置或编程数字路由器,例如,更新数字路由器的路由表,来利用神经单元的神经元资源创建或调整SNN。从而神经单元的SNN神经元在不同时刻可用于构建不同的SNN。神经单元中也可同时存在多个SNN。在上面列出的现有技术上,将提供SNN神经元的神经单元称为SNN单元。

对于指定的应用或处理功能,SNN的拓扑结构与SNN神经元数量是已知的。例如,指定的功能是从电容传感器采集的电容值中识别用户手指所接近或触摸的多个按键之一。又例如,指定的功能是检测空间中出现异常的物体(例如,泥石流)。

SNN中的SNN神经元具有单向的连接关系。SNN中的SNN神经元接收零个、一个或多个SNN神经元发出的AER包,并向一个SNN神经元输出AER包。根据本申请的实施例,SNN的神经元的连接关系,由数字路由器维护的用于AER包的路由表体现。数字路由器的路由表记录了从一个神经元接收的AER包要被路由或转发到的神经元,或者网络端口。

SNN神经元的输入与输出均由数字路由器处理。物理上,SNN神经元的输出是提供给数字路由器的AER包,而数字路由器根据AER包中携带的产生该AER包的SNN神经元的地址确定要将其转发到的目的神经元。而SNN神经元根据其接收的来自一个或多个SNN神经元的AER包,根据自身的参数确定输出AER包的时机。

可以理解地,对于ANN,ANN神经元之间的连接关系也由数字路由器体现。

基础感知单元还包括多个网络端口。图1A的例子中,展示了4个网络端口(由虚线框矩形表示),数字路由器连接到这4个网络端口,以同其他基础感知单元交换数据包。

在图1B的例子中,基础感知单元包括本地神经单元、共享神经单元与数字路由器。本地神经单元与共享神经单元分别同数字路由器耦合。可选地,本地神经单元与共享神经单元彼此不直接连接。本地神经单元中的神经元需要向共享神经单元的神经元发送数据时,需要先将数据发送给数字路由器,数字路由器再根据路由表的信息,将数据转发给共享神经单元中的神经元。

本地神经单元的神经元仅用于构建本地神经网络,本地神经单元的神经元的输出仅被提供给本地神经单元的其他的神经元,或者仅在作为本地神经网络的输出的情况下本地神经单元的神经元的输出才被提供给其他神经单元或控制部件。本地神经网络的所有神经元都来自同一个基础感知单元的本地神经单元。

设置本地神经单元的目的有两个,第一是进行局部快速决策,例如本地神经单元所在的基础感知单元接触局部高温或局部压力超过高限阈值时,需要感知此类事件并做出底层决策;第二是进行局部底层特征参数提取,例如本地神经单元所在的基础感知单元对已接触或即将接触的外部物体局部材质识别类别,识别外部物体接近的速度、局部接触的三维力矢量、局部接触是否有震动、震动的幅度与频率、局部接触是否有滑动、滑动的方向与速度等。

本地神经单元的多个神经元可构建一个或多个神经网络,所构建的神经网络可进行模块化、标准化的独立学习训练,除其输出层外,本地神经单元的神经元对于共享神经单元或其他基础感知单元是不可见的。换句话说,本地神经单元的神经元中,除了作为神经网络的输出层的神经元外,其他神经元输出的数据不会被数字路由器转发到共享神经单元或其他基础感知单元。

共享神经单元的神经元仅被用于构建共享神经网络。共享神经网络的神经元可由多个基础感知单元各自的共享神经单元的神经元构成。从而一个基础感知单元的共享神经单元的神经元的输出可被提供给其他基础感知单元的共享神经单元的神经元。

在单一基础感知单元应用的场合,共享神经单元也可以通过数字路由器的路由表配置成本地SNN单元。

为了设计与编程模型的简洁,可选地,神经单元内的各神经元之间的数据传递也由数字路由器中转。

在图1C的例子中,基础感知单元包括计算单元、数字路由器与神经单元。计算单元耦合数字路由器。

计算单元用于生成外部提供给神经网络的神经元的输入数据。例如,计算单元将外部输入编码为AER包,并提供给数字路由器。数据路由器将接收的AER包转发给神经单元的一个或多个神经元。

图1D的例子中,同图1C相比,基础感知单元还包括传感器。传感器包括例如ADC(模拟数字转换器)、CDC(电容数字转换器)或其他类型的传感器,用于将从真实世界采集的信号转换为数字量并提供给计算单元。传感器还包括一个或多个模拟信号端口。模拟信号端口是例如基础感知单元的引脚。作为举例,CDC包括激励信号线端口(AEC)与互电容输入信号线端口(ACC)。CDC通过AEC与ACC测量互电容,以及通过ACC测量自电容。

传感器同计算单元耦合。传感器向计算单元提供数字值而无需通过数字路由器中转。计算单元例如将传感器提供的数字值编码为AER包并通过数字路由器转发到神经网络的神经元。

图1E的例子中,基础感知单元包括控制单元、计算单元、NOC、神经单元与可选的执行单元。由NOC(片上网络,Network on Chip)代替了数字路由器。计算单元、控制单元与神经单元通过NOC彼此耦合。可选地,执行单元在基础感知单元外部,基础感知单元的控制单元同执行单元耦合,并驱动执行单元产生动作。

执行单元是例如马达、开关等,使机械手做出例如缩手避让的动作。由CPU核执行软件来提供控制单元,或由无需运行软件的硬件电路实现控制单元。控制单元接收NOC或数字路由器转发的数据包。转发给控制单元的数据包是AER包或专用于控制单元的数据包。控制单元从接收的数据包提取要实施的动作并驱动执行单元。

图1F的例子中,同图1E相比,基础感知单元还包括多个传感器。图1F的例子中,神经单元又分为本地神经单元与共享神经单元。传感器的输出耦合到计算单元的输出。计算单元将传感器输出的数字量编码为神经网络的神经元可接受的形式(例如AER包),并通过NOC提供给本地神经单元和/或共享神经单元。

图2展示了基础感知单元提供本地神经网络的示意图。

基础感知单元的神经单元的多个神经元被配置为本地神经网络。通过配置多个神经元各自的权重与彼此之间的连接关系,构建本地神经网络。本地神经网络包括例如输入层、中间层与输出层,各层均由本地神经网络的神经元构成。将构成输入层的神经元称为输入层神经元,将构成输出层的神经元称为输出层神经元,将构成中间层的神经元称为中间层神经元。神经元之间的连接关系描述了一个神经元的输出被提供给另一神经元作为其输入。一个神经元的输出可作为多个神经元的输入。一个神经元的输入可来自多个神经元的输出。本地神经网络被训练来感知待感知对象或外部事件。

图3展示了通过基础感知单元感知待感知对象的示意图。

作为举例,待感知对象310具有较小的尺寸,而待感知对象320具有较大的尺寸。由于待感知对象310的尺寸同基础感知单元接近,基础感知单元能较好的识别待感知对象310。基础感知单元由于仅感知了待感知对象320的局部信息,而无法较好识别待感知对象320。

在中国专利申请201710980214.3中,提供了“磁共振前列腺灌注图像的智能诊断恶性肿瘤的方法”,其通过分开独立训练两个神经网络,第一层神经网络对前列腺灌注的定量参数进行训练,第二层神经网络对叠加了疑似病灶像素的二值图进行训练。

在中国专利申请201811220643.1中,提供了基于联合学习身份信息和情感信息的面部表情识别方法,利用人脸识别图像数据库独立训练面部身份信息网络支路,训练完毕后将最后的全连接层去掉,通过神经网络可以提取得到输入图像的身份特征向量;利用面部表情图像数据库训练面部表情信息网络支路,完毕后把全连接层去掉,通过神经网络可以提取得到输入图像的情感特征向量;将身份特征向量和情感特征向量串联在一起得到串联面部特征表达;将融合身份信息和面部信息的串联面部表达特征馈送给全连接层,后续训练仅使用面部表情图像数据库对合并网络进行联合学习和优化。

在从https://arxiv.org/abs/1312.4400可获得的学术论文“Network inNetwwork”中,将多种网络线性堆叠,并对堆叠后的网络整体进行训练。发明内容

需要提供包括多个基础感知单元的分布式系统来感知具有多种不同特征(例如不同尺寸、数量、材质、速度等)的待感知对象。

用于感知的分布式系统中存在这样的情况,一个传感器无法覆盖一个待感知对象,或一个待感知对象引起多个传感器响应,这时需要将多个传感器的输出信息综合起来,以获取关于待感知对象的多个层次信息。然而,对多个传感器的输出信息的综合处理存在挑战,传感器的数量、种类的变化以及待感知对象的多样性,进一步增加了复杂度。

为了应对上述一种或多种挑战,根据本申请的实施例提供了同类感知系统。同类感知系统包括多个基础感知单元,而多个同类感知系统可被大规模部署,以构成用于感知的分布式系统。从而同类感知系统所包括的基础感知单元的数量不必过大,以在复杂度和处理能力之间寻求适当的权衡。而且,同类感知系统所包括的多个基础感知单元彼此是相同的,以进一步便于大规模生产和部署。同类感知系统所包括的多个基础感知单元彼此相同,体现在多个基础感知单元彼此包括相同类型的传感器以及相同的硬件组成。

在用于感知的分布式系统中常有多种传感器,诸如获取电流、电容、力、温度等不同物理量的传感器。基础感知单元自身,可包括感知相同类型物理量的多个同类传感器,或者包括感知不同类型物理量的多个不同类传感器。即使基础感知单元包括了感知不同类型物理量的多个不同类传感器,属于同一同类感知系统的各个基础感知单元之间所包括的传感器类型彼此相同。例如,一个基础感知单元包括2个电容传感器与4个压力传感器,则其他基础感知单元同样包括2个电容传感器与4个压力传感器。可选地,同类传感器所获取的数据类型、尺寸等描述信息的类型相同。

属于同一同类感知系统的各个基础感知单元彼此包括相同类型的传感器,或者,同一同类感知系统的各个基础感知单元的传感器所感知的物理量的类型对应相同,降低了所采集数据的复杂度,也降低了综合处理这些基础感知单元的输出信息的复杂度,还使得应用于单一基础感知单元的数据处理方法可被通过复制而应用于其他基础感知单元,从而降低了开发与部署的复杂度。

根据本申请实施例的同类感知系统,还采用神经网络处理传感器获取的数据。这些经由同类传感器获取的数据作为对其处理的神经网络的输入信息,被相应的神经网络进行信息加工、识别、预测或控制等,对同类型传感器信息进行信息处理的神经网络其结构(各神经元的权重与神经网络的拓扑结构)也相同。从而进一步便于在多个基础感知单元上部署所训练的神经网络。

根据本申请实施例的同类感知系统,还通过神经网络处理各个基础感知单元的神经网络的输出,以综合处理各个基础感知单元的神经网络所感知的信息,以有利于识别多样性的待感知对象。即使待感知对象的例如尺寸远大于单个基础感知单元,通过综合多个基础感知单元各自感知的信息,来识别出待感知对象。

从而,根据本申请实施例的同类感知系统解决了用于感知的分布式系统的规模部署、规模生产问题。

在工作原理上,基础感知单元获取传感器提供的传感数据并做一定的加工,将获取的信息送入与传感器所在的基础感知单元的算力构成的神经网络的输入层,并经由该神经网络的输出层输出初步的识别、预测、分类结果等。同类感知系统中,各基础感知单元对应的该神经网络的架构、拓扑、权重初始信息等完全相同,这样做的目的是便于大型分布式感知系统的生产和部署,避免每个传感器对应的神经网络各自差异化训练和生产。

为了控制成本,单一基础感知单元的计算资源有限。在有些任务上需要更多的计算资源,例如,需要进行复杂的处理,或者综合多个基础感知单元的感知结果,各基础感知单元的神经网络的感知结果送给一个由这些基础感知单元共享的神经网络(将其称为共享神经网络)进行处理,这需要同类感知系统具有利用各个基础感知单元的计算资源以构建需要具有不同规模的神经网络的能力。

对于一个传感器或一个基础感知单元无法覆盖感知对象整体的情况,其对多个基础感知单元的传感器采集的信息采用多个独立、完整、相同的神经网络分别进行处理,每个这样的独立、完整、相同的神经网络称为一个节点,该节点输出待感知对象的局部计算结果,多个局部计算结果作为另外一个独立、完整的神经网络构成的节点的输入信息,这个接受多个节点输入的独立、完整的神经网络也构成一个节点,这个节点所需的算力资源也来自同类感知系统。

根据本申请的一方面,提供同类感知系统,包括一个或多个基础感知单元与共享神经网络;基础感知单元提供本地神经网络;所述一个或多个基础感知单元的本地神经网络的输出都耦合到所述共享神经网络的输入;所述共享神经网络的输出作为所述同类感知系统的输出;所述一个或多个基础感知单元的本地神经网络,各自包括独立的输入层与独立的输出层;以及所述共享神经网络包括独立的输入层与独立的输出层。

这种以同类感知系统构建分布式网络的方法具有以下优点:

1,解决单个传感器自带算力资源不足的问题;

2,解决单个传感器感知区域覆盖度不够的问题;

3,降低泛在分布式传感器网络中信息传输带宽和传感器网络的计算能耗问题。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1A是基础感知单元的结构框图。

图1B是又一种基础感知单元的结构框图。

图1C是又一种基础感知单元的结构框图。

图1D是又一种基础感知单元的结构框图。

图1E是又一种基础感知单元的结构框图。

图1F是又一种基础感知单元的结构框图。

图2展示了基础感知单元提供本地神经网络的示意图。

图3展示了通过基础感知单元感知待感知对象的示意图。

图4A展示了根据本申请实施例的同类感知系统的示意图。

图4B展示了根据本申请又一实施例的同类感知系统的示意图。

图5A展示了根据本申请实施例的同类感知系统的工作原理与数据流动方式。

图5B与图5C各自展示了根据本申请实施例的同类感知系统的本地神经网络与共享神经网络的连接方式。

图6A与6B分别展示了根据本申请实施例的同类感知系统处理待感知对象的示意图。

图7展示了根据本申请实施例的同类感知系统的工作原理。

图8展示了根据本申请又一实施例的同类感知系统处理待感知对象的示意图。

图9展示了根据本申请实施例的包括多个同类感知系统的分布式系统的示意图。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

图4A展示了根据本申请实施例的同类感知系统的示意图。

同类感知系统包括多个基础感知单元。每个基础感知单元包括本地神经单元与共享神经单元。本地神经单元的计算资源(神经元)用于构建本地神经网络。一个或多个基础感知单元的共享神经单元的计算资源用于构建共享神经网络。本地神经网络仅包括来自单一基础感知单元的本地神经单元的计算资源。共享神经网络可包括来自一个或多个基础感知单元的共享神经单元的计算资源。图4A的例子中,示出了基础感知单元包括一个本地神经单元与一个共享神经单元,可以理解地,基础感知单元可包括其他数量的本地神经单元/共享神经单元。

从而,基础感知单元具有由自身的本地神经单元的计算资源所构建的本地神经网络,将其称为基础感知单元的本地神经网络。基础感知单元的本地神经网络用于处理该基础感知单元自身的一个或多个传感器所采集的数据。

本地神经网络与共享神经网络各自是完整的神经网络,各自包括由自身独占的输入层、中间层与输出层,也称为独立的输入层、独立的中间层与独立的输出层。从而本地神经网络与共享神经网络各自可被独立训练。即使本地神经单元/共享神经网络各自的神经元构建了多个神经网络,属于一个神经网络的输入层/中间层/输出层的神经元不会再作为其他神经网络的神经元。一个神经网络的中间层/输出层,也不会服务于其他神经网络,不会处理或接收来自其他神经网络的神经元的输出。一个神经网络的输入层/中间层,也不会服务于其他神经网络,不会向其他神经网络的神经提供输出。

本地神经网络与共享神经网络各自可被独立训练的意义还在于,根据本申请实施例的各神经网络的输入/输出都有明确的物理意义。例如,本地神经网络的输入是来自传感器的数据或物理量,而其输出是对传感器数据的识别结果(例如出现某种物体),从而当本地神经网络的输出作为共享神经网络的输入时,共享神经网络的输入也有明确的物理意义,以及相应地,共享神经网络的输出也有明确的物理意义。各神经网络的输入与输出都有明确的物理意义,使得各神经网络可被独立训练,因为明确的物理意义是人工/机器可表达的,从而可以线下生成各神经网络的训练样本,而无需依赖于其他神经网络的输入。在图4A的例子中,对于共享神经网络,即使不存在本地神经网络,也能生成用于共享神经网络的训练数据,因为共享神经网络的输入与输出都具有明确的物理意义。现有技术中虽然也存在层次化的神经网络,但其后级神经网络的训练数据依赖于前级神经网络的输出,从而对各级神经网络需要联合训练,并导致训练过程的复杂度增加。

本地神经网络输出对对象的识别结果,而不是处理待感知对象得到的不具有明确物理意义的特征向量,这也是本申请的神经网络区别于现有技术的神经网络的重要特征。

根据本申请实施例的各神经网络彼此是独立且完整的神经网络。这意味着,本地神经网络410与本地神经网络420之间无需存在连接关系。从而即使本地神经网络410内部的各层神经元之间是全连接的,而本地神经网络410的输入层/中间层神经元,仅同本地神经网络410内部的神经元存在连接,而同本地神经网络420或其他神经网络的神经元不存在连接,本地神经网络410同其他神经网络的连接,仅存在于本地神经网络410的输出层神经元与其他神经网络的输入层神经元之间。通过消除分属不同神经网络的神经元之间的连接,极大降低了不同神经网络的神经元之间的连接数量(规模),使得实现大规模的分布式系统成为可能。从而,随着网络规模的增加,神经元之间的连接数量不会几何级数增长,使得网络中由神经元之间的信息传递引起的通信量都可承受。

作为对比,中国专利申请201710980214.3的方案中虽然也提及了独立训练两个神经网络,但其实质上是ResNet模型所提供的残差学习的实例。其第二层神经网络的输入包括残差学习所需要的原始输入x(前列腺二值图)与第一层神经网络的输出F(x)(疑似病灶像素),因而其第二层神经网络的训练并非独立的,而是依赖于第一层神经网络的输出以及原始输入,从而在没有第一层网络的输出的情况下,第二层神经网络无法进行训练。换句话说,对其两层神经网络的训练实质上是一起而非独立进行的。在本申请实施例中,各神经网络的训练可以不依赖于其他神经网路的输出即可完成,也不依赖于原始数据。具体地,对图4A中的共享神经网络的训练,可不依赖于传感器的传感数据,共享神经网络的训练样本可以不包括传感器的传感数据。另一方面,中国专利申请201710980214.3的方案中,对第一层神经网络对前列腺二值图进行处理,且仅对前列腺二值图进行处理,其输入的前列腺二值图相当于单一的传感器的传感数据,而本申请的本地神经网络处理多个/多种传感器的传感数据。本申请实施例的基础感知单元以及由基础感知单元提供资源形成神经网络,也同该现有技术有本质区别。

依然作为对比,中国专利申请201811220643.1的方案中,面部身份信息网络支路与面部表情信息网络支路被训练后去掉了全连接层,两个支路各自提供的输出是输入图像的身份特征向量与输入图像的情感特征向量(而非具有物理意义的结果),并将两种特征向量作为面部特征表达再提供给全连接层。由于其连个支路被去掉了全连接层,因而其不再是完整的神经网络。其将特征向量作为后续全连接层的输入。而神经网络输出的特征向量不同于根据本申请实施例的有明确物理意义的数据。具有明确的物理意义意味着其具有可被人理解且同所感知对象或事件关联的含义,从而可通过解析、枚举等方式生成,从而可以无需借助神经网络输出的方式来生成训练样本,进而实现对根据本申请实施例的神经网络的独立训练。中国专利申请201811220643.1的方案中,两个制度的神经网络是不完整的,其全连接层被去掉,并将两个神经网络内部的特征向量提供给另一个全连接层。而本申请的实施例中,各个神经网络都是完整的,各自是包含输入层、中间层(隐藏层)和输出层的独立完整神经网络,各神经网络的输入层/中间层/隐藏层仅为神经网络自身所用,而不会同其他神经网络共享或共用。

在图4A的例子中,示出的两个本地神经网络(410与420)是相同的,其具有相同的拓扑结构(相同的神经元数量、以及相同的神经元连接关系),以及其对应的神经元具有相同的权重。从而经训练的一个本地神经网络的参数可被应用于构建另一个本地神经网络,而无需为每个本地神经网络重复训练。

共享神经网络同本地神经网络的拓扑结构/权重可以相同或不同。在共享神经网络同本地神经网络不同时,共享神经网络需要被独立训练,或者通过独立的训练来获得共享神经网络所需的参数。

图4A的例子中,两个本地神经网络的输出都被提供给共享神经网络,并作为共享神经网络的输入。从而共享神经网络得以综合两个本地神经网络的处理结果,并输出自身的处理结果,作为例如图4A的同类感知系统对待感知对象的感知结果。

共享神经网络的各个神经元可以由两个基础感知单元的任何一个的共享神经单元提供。为了支持在两个共享感知单元各自的神经元之间通信以构建共享神经网络的神经元之间的连接,两个基础感知单元通过网络连接(未示出),从而一个神经元输出的数据或数据包通过网络被提供给另一个神经元。可选地,为了易于开发,即使属于相同基础感知单元的共享神经单元(和/或本地神经单元)的神经元之间,也通过网络连接。从而每个神经元具有在网络中的唯一标识(称为神经元地址)。例如,在神经元输出的数据包中携带源神经元地址与目的神经元地址,来分别表达发出该数据包的神经元与接收该数据包的神经元,基础感知单元的数字路由器依据神经元地址来完成从发出数据包的神经元(源神经元)到目的神经元(接收数据包的神经元)之间的数据包投递。

源神经元地址与目的神经元地址,也表达了本地/共享神经网络中,两个神经元的连接关系。训练好的本地/共享神经网络中的各神经元具有其所连接的神经元。本地或共享神经网络(统称为神经网络)内的所有神经元的连接关系,构成了神经网络的拓扑结构。

在根据本申请实施例的同类感知系统中,本地神经网络的仅输出层神经元同共享神经网络的神经元连接,本地神经网络的输入层/中间层神经元仅连接到该本地神经网络的神经元。以便于同类感知系统的开发与构建,也避免了本地神经网络的神经元发出的数据包被投递到其所属基础感知单元外部,从而限制了同类感知系统的网络中的数据量,也降低了在神经元之间数据包所传输的距离,以限制同类感知系统的功耗。

同类感知系统的各基础感知单元各自具有自身在世界空间中的物理位置。从而各自邻近或适于感知待感知对象的某个局部特征。从而各基础感知单元各自具有不同的物理位置,从而各自提供了对待感知对象的不同局部特征的识别。通过共享神经网络处理由各个本地神经网络提供的对待感知对象的局部特征的识别结果,促进共享神经网络得到待感知对象的整体识别结果,或相对于基础感知单元所感知的更全面的识别结果,从而有利于更准确的识别待感知对象。

可以理解地,同类感知系统可包括其他数量的基础感知单元,以适应例如不同尺寸的待感知对象。而同类感知系统的共享神经网络又屏蔽了具有不同数量基础感知单元的同类感知系统之间的差异,便于更上层以统一的方式处理多种或不同同类感知系统的感知结果。

各基础感知单元通过有线的点对点网络和/或无线网络彼此耦合。基础感知单元通过点对点接口或共享介质网络(例如,以太网或无线网络)互连,从而各基础感知单元都可为共享神经网络提供神经元。基础感知单元还为神经元之间的数据传输提供路由,以在网络中将来自一个基础感知单元的神经单元的神经元路由到该神经单元的其他神经元或其他基础感知单元的神经单元的神经元。现有技术中已经存在在神经元之间路由所传输数据的方式。

图4B展示了根据本申请又一实施例的同类感知系统的示意图。

在图4B的例子中,同类感知系统包括3个基础感知单元。每个基础感知单元包括自身的本地神经网络。3个基础感知单元各自的共享神经单元为同类感知系统的共享神经网络提供资源(神经元)。3个基础感知单元各自的本地神经网络的输出被提供给共享神经网络,作为共享神经网络的输入。共享神经网络的输出代表了同类感知系统对待感知对象的感知结果。

可选地,同类感知系统还作为预制件来提供,以便于部署。预制件具有指定的外形,占有一定的空间范围,并集成或容纳了例如图4B的同类感知系统的3个基础感知单元。从而在存在多个同类感知系统时,各同类感知系统的空间位置不重叠。属于同一个同类感知系统的各基础感知单元彼此邻近,其间的距离例如小于其基础感知单元到其他同类感知系统的基础感知单元之间的距离。可选地,预制件提供多个基础感知单元,这些基础感知单元可被配置来构成多个同类感知系统,从而这些同类感知系统的空间位置重叠。

图5A展示了根据本申请实施例的同类感知系统的工作原理与数据流动方式。

参看图5A,同类感知系统的每个基础感知单元包括例如一个本地神经网络与一个或多个传感器。基础感知单元的传感器获取(通过CDC、ADC等获取)的传感数据被提供给本地神经网络的输入层作为其输入进行处理。同类感知系统的各个基础感知单元的本地神经网络的处理结果又作为同类感知系统中的共享神经网络的输入层信息从而由共享神经网络进行进一步处理,并经由共享神经网络的输出层给出处理结果信息。其中共享神经网络是包含输入层、隐藏层、输出层的有一个独立、完整的神经网络。

可选地,传感器的输出经过处理后再提供给本地神经网络的输入层,以满足本地神经网络的输入格式或时机的需求。依然可选地,基础感知单元的计算单元对传感器的输出做处理。计算单元还通过例如基于先验知识的的数据处理方法处理传感器的输出,或者将传感器的输出直接馈入本地神经网络的输入层。

图5A展示了3个基础感知单元(对应3个本地神经网络)构成的同类感知系统。依然可选地,同类感知系统可包括其他数量的基础感知单元。

图5B与图5C各自展示了根据本申请实施例的同类感知系统的本地神经网络与共享神经网络的连接方式。

本地神经网络与共享神经网络各自包括完整、独立的输入层、中间层与输出层。本地神经网络输出层神经元的输出可经过进一步信息处理或者直接输出到对应的共享神经网络的输入层神经元,并作为其输入,其中每个本地神经网络与每个共享神经网络均包含完整的输入层、中间层(隐藏层)和输出层,并可被独立训练。本地神经网络的输入层神经元的输入来自其所属基础感知单元的一个或多个传感器或计算单元。本地神经网络的中间层或输出层神经元的输入来自本地神经网络的一个或多个神经元。共享神经网络的输入层神经元的输入来其所属同类感知系统的各个基础感知单元的本地神经网络的输出层神经元。共享神经网络的中间层或输出层神经元的输入来自共享神经网络的一个或多个神经元。由于共享神经网络的神经元可由其所属同类感知系统的任何基础感知单元的共享神经单元提供,因而,共享神经网络的神经元之间的数据传输可能发生在耦合各个基础感知单元的网络上。因而共享神经网络工作时,在网络上产生数据传输,消耗了网络带宽与能量。而本地神经网络的神经元之间的数据传输发生在基础感知单元内部,不在网络上产生数据量,不消耗网络带宽。属于某个本地神经网络的所有神经元都来自该本地神经网络所属的基础感知单元,而不会来自其所属同类感知系统的其他基础感知单元。从而某个基础感知单元的本地神经单元提供的神经元通常仅连接到该基础感知单元的本地神经单元的神经元,仅少数作为本地神经网络的输出层的神经元才可能连接到其他基础感知单元的共享神经单元的神经元,从而极大地限制了本地神经网络的神经元所连接的目的神经元的范围,从而目的神经元地址的取值空间较小,可以用较短的比特序列来表达,进而降低了数据路由器的开销。进一步地,还限制了本地神经网络的规模和复杂度,从而对本地神经网络的训练变得简单。

在用于感知的分布式系统中包括多个同类感知系统的情况,或者存在一个或多个基础感知单元不属于某同类感知系统的情况下,同类感知系统的共享神经网络的神经元仅来自该同类感知系统所包括的基础感知单元的共享神经单元,从而便于同类感知系统的复制与部署。

图5C给出了传感器的输出信息与本地神经网络的连接方式。在图5C的例子中,基础感知单元分别包括2个传感器。图5C的左下的本地神经网络所属的基础感知单元包括传感器1与传感器2,而右下的本地神经网络所属的基础感知单元包括传感器3与传感器4。作为举例,传感器1与传感器2,同传感器3与传感器4的类型对应相同(例如,传感器1与传感器3都是电容传感器,而传感器2与传感器4都是压力传感器)。从而图5C中的两个本地神经网络可具有相同的初始网络参数(神经元权重与网络拓扑结构)。通过在研发阶段训练单一的本地神经网络,而在生产或部署阶段将所训练的该神经网络的参数配置到同类感知系统的各个本地神经网络,使得各个本地神经网络都可工作。进一步地,各本地神经网络在工作中可能发生演进,使得各本地神经网络的参数不再相同。

在可选的实施方式中,同一个基础感知系统中本地神经网络的输入层信息不仅可以来自其自身传感器获取的环境信息,也可来自同类感知系统中的其他基础感知单元的传感器获取的数据。通过网络在同类感知系统的各基础感知单元之间路由或传输传感器获取的数据,和/或通过模拟路由器在各基础感知单元之间路由或传输要采集的模拟信号。在申请号为202110964601.4与202110957229.4的中国专利申请中提供了模拟信号路由器的例子。可以理解地,根据本申请的实施例,还可利用其他的现有或将来出现的模拟信号路由器。可选地,本地神经网络无需意识到传感器为其提供的输入来自其所属基础感知单元或其他基础感知单元。

图6A与6B分别展示了根据本申请实施例的同类感知系统处理待感知对象的示意图。

如图6A所示,同类感知系统包括4个基础感知单元。每个基础感知单元具有自己所在的位置,从而通过部署4个基础感知单元,使得同类感知单元能覆盖更大的面积或三维空间范围,进而通过不同位置的传感器采集待感知对象在不同位置或待感知对象的不同部分所产生的对物理量的影响。在图6A的例子中,待感知对象的尺寸较大,呈四角星形,并出现在4个基础感知单元所围成的矩形的内部。4个基础感知单元的传感器各自采集数据,并提供给各自的本地神经网络处理。4个基础感知单元的本地神经网络的处理结果提供给同类感知系统的共享神经网络,共享神经网络根据4个本地神经网络的输出产生自己的输出。由于单个基础感知单元的传感器邻近待感知对象的局部,从其采集的数据中一般无法识别该感知对象的全貌,而由本地神经网络输出对其局部特征的识别结果。共享神经网络依据4个本地神经网络各自识别的待感知对象的局部特征的识别结果,整体上识别该待感知对象。

在图6A的例子中,基础感知单元包括单一的神经单元。神经单元的部分资源被用来构建其所在基础感知单元的本地神经网络,而其他部分资源被用来构建同类感知系统的共享神经网络。

在图6B的例子中,基础感知单元包括本地神经单元与共享神经单元。本地神经网络的神经元仅由其所属基础感知单元的本地神经单元提供。共享神经网络所需的神经单元由4个基础感知单元的一个或多个基础感知单元的共享神经单元提供,共享神经网络构建所需的共享神经单元可不必来自感知到带感知对象的基础感知单元,也可以来自其它的基础感知单元。

图7展示了根据本申请实施例的同类感知系统的工作原理。

一个待感知对象的完整信息可划分为若干个部分(例如A、B、C、D……,各部分可相交或不相交)。各个部分可以是待感知对象物理的组成部分,如汽车的各个部件,人的手、脚、头、躯干等等。例如:A、B、C、D是卡车的四个轮子,E(未示出)是卡车底盘)。这些信息分别被一个或多个基础感知单元的传感器获取,各个基础感知单元的本地神经网络(独立完整的本地神经网络NA、NB、NC、ND……)对感知到的信息分别进行处理获得对各个部分的感知结果(例如A部分是否汽车轮子的判断、E部分是否车身底盘的判断等)。这些本地神经网络(NA、NB、NC、ND……)的感知结果又作为共享神经网络NS(包含输入层、隐藏层、输出层)的输入。共享神经网络NS对来自各个本地神经网络NA、NB、NC与ND的感知结果(输出)进行处理,得到待感知对象整体(A∪B∪C∪D∪……)的感知结果(例如通过A部分、B部分、C部分与D部分是否都是轮子、E部分是否是底盘的判断结果,给出待感知对象整体是否卡车的判断)。以图7为例,处理待感知对象的各部分(A、B、C、D)的各本地神经网络具有相同的初始参数,并作为单一的神经网络被训练,然后将具有相同参数(神经元权重/网络拓扑结构)的本地神经网络随基础感知单元分别部署在各个区域来得到本地神经网络(NA、NB、NC、ND……)。可选地,各个本地神经网络也不必相同,但每一个本地神经网络均可独立训练和实施推断(感知其邻近物体)。

由于A、B、C、D……各部分有明确的物理意义,例如,轮子、地盘、手,从而各本地神经网络可被独立训练来学习如何感知这些部分。进一步地,共享神经网络NS的感知目标(例如卡车、人)与来自各本地神经网络的输出(是车轮、是地盘或者是手等)也有明确的物理意义,从而共享神经网络也可被独立训练来学习如何感知待感知对象。可选地,对本地神经网络之一的训练结果(训练好的网络参数)可被复制到其他本地神经网络,以简化训练和部署过程。训练好的本地神经网络的网络参数可以不同于共享神经网络。

图8展示了根据本申请又一实施例的同类感知系统处理待感知对象的示意图。

图8给出了一种同类感知系统的构成方式。同图6B展示的同类感知系统的实施例相比,图8的同类感知系统的基础感知单元还包括多个(2个)传感器。以及除了同类感知系统所包括的4个基础感知单元,图8的例子中还包括不属于同类感知系统的基础感知单元(左下角的基础感知单元)。

图8的同类感知系统的基础感知单元中本地神经网络的输入信息可来自一个或多个基础感知单元的传感器,提供这些传感器的基础感知单元可以属于或不属于该同类感知系统。在一个例子中,构成同类感知系统的共享神经网络的神经元都来自属于该同类感知系统的基础感知单元的共享神经单元。可选地,构成共享神经网络的神经元的一部分或全部也可来自不属于该同类感知系统的其它基础感知单元的共享神经单元。

依然可选地,同类感知系统工作中,一些基础感知单元可能没有感知到待感知对象的信息,但这不影响这些基础感知单元的本地神经网络向同类感知系统的共享神经网络提供处理结果,也不影响这些基础感知单元的共享神经单元向共享神经网络提供神经元,甚至不影响这些基础感知单元的传感器或传感器的部分组件(例如电容极板)向其他基础感知单元的本地神经网络/传感器提供信息。

图9展示了根据本申请实施例的包括多个同类感知系统的分布式系统的示意图。

图9的用于感知的分布式系统的例子中,包括多个基础感知单元。图9中的多个基础感知单元在空间上构成阵列。当待感知对象出现在该分布式系统覆盖的范围内,待感知对象的位置和各基础感知单元的位置,对应了各基础感知单元的传感器采集的不同数据。一个或多个待感知对象处于该基础感知单元阵列的感知范围内,覆盖不同待感知对象的基础感知单元数量可以相同也可以不同。

该基础感知单元阵列中可包括多个相同或不同的同类感知系统。

图9中,左上角给出了由两个基础感知单元构成同类感知系统910的例子,即用两个基础感知单元构建同类感知系统来感知特定的待感知对象。图9中右中部分给出了由四个基础感知单元构成的同类感知系统920的例子。与同类感知系统910相比,同类感知系统920包括四个基础感知单元,并更加适合对较大尺寸的待感知对象进行感知。依次类推,由多个基础感知单元构成的阵列,可以根据待感知对象特征的不同,构建不同数量规模的同类感知系统。这些同类感知系统中每个基础感知单元都具有本地神经单元和共享神经单元,这些神经单元可用来构建基础感知单元的本地神经网络和所需要的共享神经网络。

以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。

技术分类

06120114692858