掌桥专利:专业的专利平台
掌桥专利
首页

脑电信号分类方法、装置、电子设备及介质

文献发布时间:2024-04-18 19:58:53


脑电信号分类方法、装置、电子设备及介质

技术领域

本公开涉及脑电信号处理技术领域,更具体地,涉及一种脑电信号分类方法、装置、电子设备及介质。

背景技术

脑机接口(brain-computer interface,BCI)是脑科学与信息科学交叉的新兴学科领域,通过大脑与外部设备之间直接建立通信和控制通道,实现脑与外部设备间的信息交换。运动想象(Motor Imagery,MI)是BCI的重要范式之一,通过想象运动产生动作意图而不输出实际动作行为,其激活的脑区及产生的脑电(Electroencephalogram,EEG)信号与实际运动产生的EEG信号具有一定类似性,在BCI研究中,EEG信号的特征提取与分类至关重要。

基于MI的BCI研究中,不同任务可诱发不同EEG脑活动规律,为多类运动想象的EEG信号进行分类奠定了神经电生理学基础。相关技术中,可以利用滑动窗捕获多段EEG信号,并对每个时间窗内的EEG信号进行特征提取,进而基于提取的特征对EEG信号进行分类。然而,传统的特征提取方法例如带通滤波、自回归、频域统计等方式选择的特征非常有限,且可能丢失部分EEG信号内的可用信息,从而影响分类结果。

发明内容

本公开实施例提供了一种脑电信号分类方法、装置、电子设备及介质。

根据本公开的第一方面,提供了一种脑电信号分类方法,所述方法包括:

获取待分类脑电信号;

通过训练后的脑电信号分类模型中的一对多滤波器组共空间模式网络和残差卷积神经网络并行对所述待分类脑电信号进行特征提取,通过所述一对多滤波器组共空间模式网络输出所述待分类脑电信号的第一特征信息,以及通过所述残差卷积神经网络输出所述待分类脑电信号的第二特征信息;

通过训练后的脑电信号分类模型中的动态图卷积神经网络和门控循环神经网络并行对所述第一特征信息和所述第二特征信息进行特征再学习,通过所述动态图卷积神经网络输出所述待分类脑电信号的第三特征信息,以及通过所述门控循环神经网络输出所述待分类脑电信号的第四特征信息;

通过训练后的脑电信号分类模型中的注意力网络对所述第三特征信息和所述第四特征信息同时进行特征融合,获得所述待分类脑电信号的目标特征信息;

通过训练后的脑电信号分类模型中的预测网络根据所述目标特征信息,获得所述待分类脑电信号的目标分类结果。

可选地,所述通过训练后的脑电信号分类模型中的注意力网络对所述第三特征信息和所述第四特征信息同时进行特征融合,获得所述待分类脑电信号的目标特征信息,包括:

通过所述注意力网络确定所述第三特征信息和所述第四特征信息各自对应的权重系数;

通过所述注意力网络根据所述第三特征信息对应的权重系数,对所述第三特征信息中的每一特征信息进行特征融合,以及根据第四特征信息对应的权重系数,对所述第四特征信息中的每一特征信息进行特征融合,获得所述待分类脑电信号的目标特征信息。

可选地,所述脑电信号分类模型的训练方式包括:

获取训练样本集;其中,所述训练样本集中每一训练样本包括脑电信号样本、所述脑电信号样本的样本类别标签;

通过待训练的脑电信号分类模型中的一对多滤波器组共空间模式网络和残差卷积神经网络并行对所述脑电信号样本进行特征提取,通过所述一对多滤波器组共空间模式网络输出所述脑电信号样本的第一样本特征信息,以及通过所述残差卷积神经网络输出所述脑电信号样本的第二样本特征信息;

通过待训练的脑电信号分类模型中的动态图卷积神经网络和门控循环神经网络并行对所述第一样本特征信息和所述第二样本特征信息进行特征再学习,通过所述动态图卷积神经网络输出所述脑电信号样本的第三样本特征信息,以及通过所述门控循环神经网络输出所述脑电信号样本的第四样本特征信息;

通过待训练的脑电信号分类模型中的注意力网络对所述第三样本特征信息和所述第四样本特征信息同时进行特征融合,获得所述脑电信号样本的目标样本特征信息;

通过待训练的脑电信号分类模型中的预测网络根据所述目标样本特征信息和所述样本类别标签,构建第一损失;

通过所述第一损失更新待训练的脑电信号分类模型的网络参数。

可选地,所述通过待训练的脑电信号分类模型中的预测网络根据所述目标样本特征信息和所述样本类别标签,构建第一损失,包括:

根据所述样本类别标签和所述脑电信号样本对应的标准化数据,构建第二损失;

根据待训练的脑电信号分类模型中的动态图卷积神经网络中包括的滤波器组的数量,构建第三损失;

根据所述样本类别标签的中心向量和所述目标样本特征信息,构建第四损失;

根据所述第二损失、所述第三损失和所述第四损失,构建所述第一损失。

可选地,所述方法还包括:

获取验证样本集;其中,所述验证样本集中每一验证样本包括脑电信号样本、所述脑电信号样本的样本类别标签;

将所述脑电信号样本输入训练后的脑电信号分类模型,获得所述脑电信号样本的预测类别标签;

根据所述预测类别标签与所述样本类别标签,对训练后的脑电信号分类模型进行验证。

根据本公开的第二方面,提供了一种脑电信号分类装置,所述装置包括:

获取模块,用于获取待分类脑电信号;

第一处理模块,用于通过训练后的脑电信号分类模型中的一对多滤波器组共空间模式网络和残差卷积神经网络并行对所述待分类脑电信号进行特征提取,通过所述一对多滤波器组共空间模式网络输出所述待分类脑电信号的第一特征信息,以及通过所述残差卷积神经网络输出所述待分类脑电信号的第二特征信息;

第二处理模块,用于通过训练后的脑电信号分类模型中的动态图卷积神经网络和门控循环神经网络并行对所述第一特征信息和所述第二特征信息进行特征再学习,通过所述动态图卷积神经网络输出所述待分类脑电信号的第三特征信息,以及通过所述门控循环神经网络输出所述待分类脑电信号的第四特征信息;

第三处理模块,用于通过训练后的脑电信号分类模型中的注意力网络对所述第三特征信息和所述第四特征信息同时进行特征融合,获得所述待分类脑电信号的目标特征信息;

分类模块,用于通过训练后的脑电信号分类模型中的预测网络根据所述目标特征信息,获得所述待分类脑电信号的目标分类结果。

可选地,所述装置还包括训练模块,用于:

获取训练样本集;其中,所述训练样本集中每一训练样本包括脑电信号样本、所述脑电信号样本的样本类别标签;

通过待训练的脑电信号分类模型中的一对多滤波器组共空间模式网络和残差卷积神经网络并行对所述脑电信号样本进行特征提取,通过所述一对多滤波器组共空间模式网络输出所述脑电信号样本的第一样本特征信息,以及通过所述残差卷积神经网络输出所述脑电信号样本的第二样本特征信息;

通过待训练的脑电信号分类模型中的动态图卷积神经网络和门控循环神经网络并行对所述第一样本特征信息和所述第二样本特征信息进行特征再学习,通过所述动态图卷积神经网络输出所述脑电信号样本的第三样本特征信息,以及通过所述门控循环神经网络输出所述脑电信号样本的第四样本特征信息;

通过待训练的脑电信号分类模型中的注意力网络对所述第三样本特征信息和所述第四样本特征信息同时进行特征融合,获得所述脑电信号样本的目标样本特征信息;

通过待训练的脑电信号分类模型中的预测网络根据所述目标样本特征信息和所述样本类别标签,构建第一损失;

通过所述第一损失更新待训练的脑电信号分类模型的网络参数。

可选地,所述训练模块,具体用于:

根据所述样本类别标签和所述脑电信号样本对应的标准化数据,构建第二损失;

根据待训练的脑电信号分类模型中的动态图卷积神经网络中包括的滤波器组的数量,构建第三损失;

根据所述样本类别标签的中心向量和所述目标样本特征信息,构建第四损失;

根据所述第二损失、所述第三损失和所述第四损失,构建所述第一损失。

根据本公开的第三方面,提供一种电子设备,包括存储器,用于存储可执行的计算机指令;处理器,用于根据所述可执行的计算机指令的控制,执行根据以上第一方面所述的脑电信号分类方法。

根据本公开的第四方面,提供了一种计算机可读存储介质,其上存储有计算机指令,所述计算机指令被处理器运行时执行以上第一方面所述的脑电信号分类方法。

根据本公开实施例的脑电信号分类方法,其通过一对多滤波器组共空间模式网络和残差卷积神经网络并行对脑电信号进行特征提取,通过一对多滤波器组共空间模式网络能够利用丰富先验知识提取脑电信号特征,通过残差卷积神经网络能够自学习脑电信号高维和不同维度的特征并避免了传统方法提取部分特征而丢失未知特征的局限性。同时,当残差卷积神经网络效果不理想时,一对多滤波器组共空间模式网络依然能够通过丰富的先验知识学习到脑电信号特征。其次,其通过动态图卷积神经网络和门控循环神经网络并行进行特征再学习,通过动态图卷积神经网络能够自动学习脑电信号特征间的复杂关系,通过门控循环神经网络能够自动学习脑电信号特征的时间规律,二者互补,确保特征间关系和时间规律都能捕捉,形成有效的新特征,且并行结构避免特征提取过程中特征间关系和时间规律学习的互相干扰及串行结构网络中出现的中间层的特征信息丢失的问题。再者,通过注意力网络进行特征融合,能够消除不同特征由于幅度不同导致对有区分度的特征提取不充分的现象,这样,便可提高脑电信号的分类准确性。

通过以下参照附图对本公开的示例性实施例的详细描述,本公开的其它特征及其优点将会变得清楚。

附图说明

被结合在说明书中并构成说明书的一部分的附图示出了本公开的实施例,并且连同其说明一起用于解释本公开的原理。

图1是根据本公开实施例的电子设备的硬件配置示意图;

图2是根据本公开实施例的脑电信号分类方法的流程示意图;

图3是根据本公开一个例子的脑电信号分类方法的应用场景示意图;

图4是根据本公开实施例的脑电信号分类模型的结构示意图;

图5是根据本公开实施例的脑电信号分类装置的原理框图;

图6是根据本公开另一实施例的电子设备的硬件配置示意图。

具体实施方式

现在将参照附图来详细描述本公开的各种示例性实施例。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。

在这里示出和讨论的所有例子中,任何具体值应被解释为仅仅是示例性的,而不是作为限制。因此,示例性实施例的其它例子可以具有不同的值。

应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。

<硬件配置>

图1是根据本公开实施例的电子设备1000的硬件配置的框图。

在一个实施例中,电子设备1000可以是服务器或者终端设备。其中,服务器可以是整体式服务器或是跨多计算机或计算机数据中心的分散式服务器。终端设备可以是便携式电脑、台式计算机、可穿戴设备等,也可以是任意的具有处理器等计算装置和存储器等存储装置的其他设备,本实施例对此不做限定。

如图1所示,电子设备1000可以包括处理器1100、存储器1200、接口装置1300、通信装置1400、显示装置1500、输入装置1600、扬声器1700、麦克风1800等等。

处理器1100可以是移动版处理器。存储器1200例如包括ROM(只读存储器)、RAM(随机存取存储器)、诸如硬盘的非易失性存储器等。接口装置1300例如包括USB接口、耳机接口等。通信装置1400例如能够进行有线或无线通信,通信装置1400可以包括短距离通信装置,例如是基于Hilink协议、WiFi(IEEE 802.11协议)、Mesh、蓝牙、ZigBee、Thread、Z-Wave、NFC、UWB、LiFi等短距离无线通信协议进行短距离无线通信的任意装置,通信装置1400也可以包括远程通信装置,例如是进行WLAN、GPRS、2G/3G/4G/5G远程通信的任意装置。显示装置1500例如是液晶显示屏、触摸显示屏等。输入装置1600例如可以包括触摸屏、键盘等。电子设备1000可以通过扬声器1700输出音频信息,可以通过麦克风1800采集音频信息。

尽管在图1中对电子设备1000均示出了多个装置,但是,本公开可以仅涉及其中的部分装置,例如,电子设备1000只涉及存储器1200和处理器1100。

应用于本公开的实施例中,电子设备1000的存储器1200用于存储指令,该指令用于控制处理器1100执行本公开实施例提供的脑电信号分类方法。

在上述描述中,技术人员可以根据本公开所公开方案设计指令。指令如何控制处理器进行操作,这是本领域公知,故在此不再详细描述。

<方法实施例>

在本实施例中,提供一种脑电信号分类方法,该脑电信号分类方法可以由电子设备实施,该电子设备可以是如图1所示的电子设备1000。

根据图2所示,本公开实施例的脑电信号分类方法可以包括如下步骤S2100~S2500。

步骤S2100,获取待分类脑电信号。

其中,待分类脑电信号可以为多类运动想象的脑电(EEG)信号。

步骤S2200,通过训练后的脑电信号分类模型中的一对多滤波器组共空间模式网络和残差卷积神经网络并行对所述待分类脑电信号进行特征提取,通过所述一对多滤波器组共空间模式网络输出所述待分类脑电信号的第一特征信息,以及通过所述残差卷积神经网络输出所述待分类脑电信号的第二特征信息。

其中,训练后的脑电信号分类模型中包括一对多滤波器组共空间模式(One-Versus-Rest Filter Bank Common Spatial Pattern,OVR-FBCSP)网络和残差卷积神经网络(Residual Convolution Neural Network,RCNN)。参照图3,将待分类脑电信号同时输入一对多滤波器组共空间模式网络和残差卷积神经网络,便可通过一对多滤波器组共空间模式网络基于一对多滤波器组共空间模式算法对待分类脑电信号进行特征提取,输出待分类脑电信号的第一特征信息,以及通过残差卷积神经网络对待分类脑电信号进行特征提取,输出待分类脑电信号的第二特征信息。

在本实施例中,本步骤S2200通过训练后的脑电信号分类模型中的一对多滤波器组共空间模式网络对待分类脑电信号进行特征提取,输出待分类脑电信号的第一特征信息可以进一步包括:通过一对多滤波器组共空间模式网络中的第一组将待分类脑电信号划分为多个子频段信号;对多个子频段信号中的任一子频段信号,通过一对多滤波器组共空间模式网络中的第二组提取子频段信号的空间能量特征;通过一对多滤波器组共空间模式网络中的第三组对各空间能量特征进行特征选择,获得待分类脑电信号的第一特征信息。

其中,一对多滤波器组共空间模式(OVR-FBCSP)网络包括第一组、第二组和第三组。其中,第一组为时间滤波(Temporal Filtering),用于基于滤波器组将待分类脑电信号划分为多个子频段信号。其中,第二组为空间滤波(Spatial Filtering),用于采用CSP算法提取各子频段信号的空间能量特征。其中,第三组为特征选择(Feature Selection),用于对各空间能量特征进行特征选择。

具体地,将待分类脑电信号输入OVR-FBCSP网络,先通过OVR-FBCSP网络的第一组将待分类脑电信号划分为多个子频段信号,接着,通过OVR-FBCSP网络的第二组提取各子频段信号的空间能量特征,最后,通过OVR-FBCSP网络的第三组对各空间能量特征进行特征选择,获得待分类脑电信号的第一特征信息并输出至动态图卷积神经网络和门控循环神经网络。

步骤S2300,通过训练后的脑电信号分类模型中的动态图卷积神经网络和门控循环神经网络并行对所述第一特征信息和所述第二特征信息进行特征再学习,通过所述动态图卷积神经网络输出所述待分类脑电信号的第三特征信息,以及通过所述门控循环神经网络输出所述待分类脑电信号的第四特征信息。

其中,训练后的脑电信号分类模型中包括动态图卷积神经网络(Dynamical GraphConvolutional Neural Network,DGCN)和门控循环神经网络(Gated Recurrent NeuralNetwork,GRU)。参照图3,将待分类脑电信号的第一特征信息和第二特征信息同时输入动态图卷积神经网络和门控循环神经网络,便可通过动态图卷积神经网络对待分类脑电信号的第一特征信息和第二特征信息进行特征再学习,即通过动态图卷积神经网络学习特征之间的复杂关系,获得待分类脑电信号的第三特征信息。以及,通过门控循环神经网络对待分类脑电信号的第一特征信息和第二特征信息进行特征再学习,获得待分类脑电信号的第四特征信息。

在本实施例中,本步骤S2300通过训练后的脑电信号分类模型中的动态图卷积神经网络对第一特征信息和第二特征信息进行特征再学习,输出待分类脑电信号的第三特征信息包括可以进一步包括:通过动态图卷积神经网络确定第一特征信息和第二特征信息对应的邻接矩阵;通过动态图卷积神经网络确定邻接矩阵对应的拉普拉斯矩阵;通过动态图卷积神经网络根据拉普拉斯矩阵进行特征再学习,获得待分类脑电信号的第三特征信息。

步骤S2400,通过训练后的脑电信号分类模型中的注意力网络对所述第三特征信息和所述第四特征信息同时进行特征融合,获得所述待分类脑电信号的目标特征信息。

其中,训练后的脑电信号分类模型中包括注意力(Attention)网络。参照图3,将待分类脑电信号的第三特征信息和第四特征信息同时输入注意力网络,便可通过注意力网络将第三特征信息和第四特征信息同时进行特征融合,获得目标特征信息。

在本实施例中,本步骤S2400通过训练后的脑电信号分类模型中的注意力网络对所述第三特征信息和所述第四特征信息同时进行特征融合,获得所述待分类脑电信号的目标特征信息可以进一步包括:通过所述注意力网络确定所述第三特征信息和所述第四特征信息各自对应的权重系数;通过所述注意力网络根据所述第三特征信息对应的权重系数,对所述第三特征信息中的每一特征信息进行特征融合,以及根据第四特征信息对应的权重系数,对所述第四特征信息中的每一特征信息进行特征融合,获得所述待分类脑电信号的目标特征信息。这样便可消除不同特征由于幅度不同导致对有区分度的特征提取不充分的现象,有效解决特征冗余。

步骤S2500,通过训练后的脑电信号分类模型中的预测网络根据所述目标特征信息,获得所述待分类脑电信号的目标分类结果。

其中,训练后的脑电信号分类模型中包括预测网络。参照图3,将待分类脑电信号的目标特征信息输入预测网络,便可通过预测网络确定出待分类脑电信号的目标分类结果。

根据本公开实施例的方法,其通过一对多滤波器组共空间模式网络和残差卷积神经网络并行对脑电信号进行特征提取,通过一对多滤波器组共空间模式网络能够利用丰富先验知识提取脑电信号特征,通过残差卷积神经网络能够自学习脑电信号高维和不同维度的特征并避免了传统方法提取部分特征而丢失未知特征的局限性。同时,当残差卷积神经网络效果不理想时,一对多滤波器组共空间模式网络依然能够通过丰富的先验知识学习到脑电信号特征。其次,其通过动态图卷积神经网络和门控循环神经网络并行进行特征再学习,通过动态图卷积神经网络能够自动学习脑电信号特征间的复杂关系,通过门控循环神经网络能够自动学习脑电信号特征的时间规律,二者互补,确保特征间关系和时间规律都能捕捉,形成有效的新特征,且并行结构避免特征提取过程中特征间关系和时间规律学习的互相干扰及串行结构网络中出现的中间层的特征信息丢失的问题。再者,通过注意力网络进行特征融合,能够消除不同特征由于幅度不同导致对有区分度的特征提取不充分的现象,这样,便可提高脑电信号的分类准确性。

在一个实施例中,脑电信号分类模型的训练方式可以进一步包括如下步骤S3100~步骤S3600:

步骤S3100,获取训练样本集。

其中,所述训练样本集中每一训练样本包括脑电信号样本、所述脑电信号样本的样本类别标签。

需要说明的是,电子设备在训练脑电信号分类模型时,会先获取样本集,并将样本集划分为训练样本集和验证样本集,进而通过训练样本集进行脑电信号分类模型的训练,以及通过验证样本集进行脑电信号分类模型的验证。需要说明的是,电子设备会预先对训练样本集和验证样本集进行标准化处理,使得训练样本集中每一训练样本和验证样本集中每一验证样本均满足正态分布。

步骤S3200,通过待训练的脑电信号分类模型中的一对多滤波器组共空间模式网络和残差卷积神经网络并行对所述脑电信号样本进行特征提取,通过所述一对多滤波器组共空间模式网络输出所述脑电信号样本的第一样本特征信息,以及通过所述残差卷积神经网络输出所述脑电信号样本的第二样本特征信息。

本步骤S3200中,一对多滤波器组共空间模式(OVR-FBCSP)网络包括第一组、第二组和第三组。如上所述,第一组为时间滤波(TemporalFiltering),用于基于滤波器组将输入的脑电信号样本划分为多个子频段信号。第二组为空间滤波(Spatial Filtering),用于采用CSP算法提取各子频段信号的空间能量特征。第三组为特征选择(FeatureSelection),用于对各空间能量特征进行特征选择。

参照图4所示,将脑电信号样本输入通过OVR-FBCSP网络,通过OVR-FBCSP的Temporal Filtering将脑电信号样本划分为多个子频段信号,接着,通过OVR-FBCSP网络的Spatial Filtering对各子频段信号进行线性变换,获得对应的空间能量特征,具体参照如下公式:

S

其中,X

其中,D

最后,通过OVR-FBCSP网络的Feature Selection基于如下公式进行特征选择:

其中,f

参照图4所示,将脑电信号样本输入RCNN网络,通过RCNN网络对多个连续堆叠的非线性计算层来拟合输入数据和映射输出数据之间的残差,输出第二样本特征信息,残差卷积网络的计算如下:

F(x)=H(x)-x(4)

其中,F(x)为残差,H(x)为最优解,x为输入的同等映射,当F(x)越接近0时,RCNN网络学习到的特征越接近原始输入。

步骤S3300,通过待训练的脑电信号分类模型中的动态图卷积神经网络和门控循环神经网络并行对所述第一样本特征信息和所述第二样本特征信息进行特征再学习,通过所述动态图卷积神经网络输出所述脑电信号样本的第三样本特征信息,以及通过所述门控循环神经网络输出所述脑电信号样本的第四样本特征信息。

本步骤S3300中,参照图4,采用DGCN网络再学习不同脑电通道间的内在关系不断更新邻接矩阵,利用邻接矩阵计算拉普拉斯矩阵从而学习更多有区别性的特征,进而获得第三样本特征信息。

通常,有向连接图为G={V,E,W},其中,V表示节点集,E表示边集,W∈R

y=g(L

其中,N为通道数,L为拉普拉斯矩阵,并且,L=D-W∈R

通常,

利用K阶Chebyshev多项式可近似得出:

将g(Λ

其中,

本步骤S3300中,参照图4,采用GRU网络学习脑电信号时间序列特征,GRU网络将遗忘门和输出门合成一个单一的更新门,即更新门z

其中,更新门z

z

其中,重置门r

r

其中,f

y

步骤S3400,通过待训练的脑电信号分类模型中的注意力网络对所述第三样本特征信息和所述第四样本特征信息同时进行特征融合,获得所述脑电信号样本的目标样本特征信息。

本步骤S3400中,待训练的脑电信号分类模型中包括注意力(Attention)网络,将第三样本特征信息和第四样本特征信息同时输入注意力网络(Attention)网络,便可获得第三样本特征信息和第四样本特征信息各自对应的权重系数,并对第三样本特征信息中的每一特征信息进行特征融合,以及根据第四样本特征信息对应的权重系数,对第四样本特征信息中的每一特征信息进行特征融合,获得脑电信号样本的目标样本特征信息并输出。这样便可消除不同特征由于幅度不同导致对有区分度的特征提取不充分的现象,有效解决特征冗余。

参照图4,注意力网络的解码过程为,

x

e

其中,b

步骤S3500,通过待训练的脑电信号分类模型中的预测网络根据所述目标样本特征信息和所述样本类别标签,构建第一损失。

参照图4,预测网络包括全连接层(Fully Connected)和归一化层(包括归一化指数函数Softmax),FullyConnected用于根据目标样本特征信息进行分类,Softmax函数用于对分类结果进行归一化处理。

在本实施例中,本步骤S3500通过待训练的脑电信号分类模型中的预测网络根据所述目标样本特征信息和所述样本类别标签,构建第一损失可以进一步包括如下步骤S3510~步骤S3540:

步骤S3510,根据所述样本类别标签和所述脑电信号样本对应的标准化数据,构建第二损失。

本步骤S3510中,第二损失可称之为交叉熵损失函数L

其中,

步骤S3520,根据待训练的脑电信号分类模型中的动态图卷积神经网络中包括的滤波器组的数量,构建第三损失。

本步骤S3520中,第三损失可以称之为稀疏损失函数L

其中,W

步骤S3530,根据所述样本类别标签的中心向量和所述目标样本特征信息,构建第四损失。

本步骤S3530中,第四损失可以称之为中心损失函数L

其中,M

需要说明的是,在训练脑电信号分类模型之前,电子设备会先随机初始化每一类样本的中心向量。每次训练迭代中,根据批处理中每个样本的特征向量更新中心向量,则:

其中,

步骤S3540,根据所述第二损失、所述第三损失和所述第四损失,构建所述第一损失。

本步骤S3540中,第一损失满足:

L

其中,L

步骤S3600,通过所述第一损失更新待训练的脑电信号分类模型的网络参数。

在本实施例中,在基于以上步骤S3100~步骤S3600训练得到脑电信号分类模型之后,还会对训练得到的脑电信号分类模型进行验证。具体地,电子设备会获取验证样本集;其中,所述验证样本集中每一验证样本包括脑电信号样本、所述脑电信号样本的样本类别标签;将所述脑电信号样本输入训练后的脑电信号分类模型,获得所述脑电信号样本的预测类别标签;根据所述预测类别标签与所述样本类别标签,对训练后的脑电信号分类模型进行验证。

根据本实施例,其通过一对多滤波器组共空间模式网络和残差卷积神经网络并行对脑电信号进行特征提取,通过一对多滤波器组共空间模式网络能够利用丰富先验知识提取脑电信号特征,通过残差卷积神经网络能够自学习脑电信号高维和不同维度的特征并避免了传统方法提取部分特征而丢失未知特征的局限性。同时,当残差卷积神经网络效果不理想时,一对多滤波器组共空间模式网络依然能够通过丰富的先验知识学习到脑电信号特征。其次,其通过动态图卷积神经网络和门控循环神经网络并行进行特征再学习,通过动态图卷积神经网络能够自动学习脑电信号特征间的复杂关系,通过门控循环神经网络能够自动学习脑电信号特征的时间规律,二者互补,确保特征间关系和时间规律都能捕捉,形成有效的新特征,且并行结构避免特征提取过程中特征间关系和时间规律学习的互相干扰及串行结构网络中出现的中间层的特征信息丢失的问题。再者,通过注意力网络进行特征融合,能够消除不同特征由于幅度不同导致对有区分度的特征提取不充分的现象。最后,其定义了中心损失函数,保证特征提取后的信号尽可能多的保留有效地原始信息和能量。

相当于单一DGCN网络、RCNN网络,本申请实施例的训练后的脑电信号分类模型在多分类任务运动想象EEG信号特征提取与分类方面具有明显优势。

<装置实施例>

本实施例中,提供一种脑电信号分类装置5000,如图5所示,该脑电信号分类装置5000可以包括获取模块5100、第一处理模块5200、第二处理模块5300、第三处理模块5400和分类模块5500。

获取模块5100,用于获取待分类脑电信号;

第一处理模块5200,用于通过训练后的脑电信号分类模型中的一对多滤波器组共空间模式网络和残差卷积神经网络并行对所述待分类脑电信号进行特征提取,通过所述一对多滤波器组共空间模式网络输出所述待分类脑电信号的第一特征信息,以及通过所述残差卷积神经网络输出所述待分类脑电信号的第二特征信息;

第二处理模块5300,用于通过训练后的脑电信号分类模型中的动态图卷积神经网络和门控循环神经网络并行对所述第一特征信息和所述第二特征信息进行特征再学习,通过所述动态图卷积神经网络输出所述待分类脑电信号的第三特征信息,以及通过所述门控循环神经网络输出所述待分类脑电信号的第四特征信息;

第三处理模块5400,用于通过训练后的脑电信号分类模型中的注意力网络对所述第三特征信息和所述第四特征信息同时进行特征融合,获得所述待分类脑电信号的目标特征信息;

分类模块5500,用于通过训练后的脑电信号分类模型中的预测网络根据所述目标特征信息,获得所述待分类脑电信号的目标分类结果。

在一个实施例中,第二处理模块5400,具体用于:通过所述注意力网络确定所述第三特征信息和所述第四特征信息各自对应的权重系数;通过所述注意力网络根据所述第三特征信息对应的权重系数,对所述第三特征信息中的每一特征信息进行特征融合,以及根据第四特征信息对应的权重系数,对所述第四特征信息中的每一特征信息进行特征融合,获得所述待分类脑电信号的目标特征信息。

在一个实施例中,装置还包括训练模块(图中未示出),用于:获取训练样本集;其中,所述训练样本集中每一训练样本包括脑电信号样本、所述脑电信号样本的样本类别标签;通过待训练的脑电信号分类模型中的一对多滤波器组共空间模式网络和残差卷积神经网络并行对所述脑电信号样本进行特征提取,通过所述一对多滤波器组共空间模式网络输出所述脑电信号样本的第一样本特征信息,以及通过所述残差卷积神经网络输出所述脑电信号样本的第二样本特征信息;通过待训练的脑电信号分类模型中的动态图卷积神经网络和门控循环神经网络并行对所述第一样本特征信息和所述第二样本特征信息进行特征再学习,通过所述动态图卷积神经网络输出所述脑电信号样本的第三样本特征信息,以及通过所述门控循环神经网络输出所述脑电信号样本的第四样本特征信息;通过待训练的脑电信号分类模型中的注意力网络对所述第三样本特征信息和所述第四样本特征信息同时进行特征融合,获得所述脑电信号样本的目标样本特征信息;通过待训练的脑电信号分类模型中的预测网络根据所述目标样本特征信息和所述样本类别标签,构建第一损失;通过所述第一损失更新待训练的脑电信号分类模型的网络参数。

在一个实施例中,训练模块,还用于:根据所述样本类别标签和所述脑电信号样本对应的标准化数据,构建第二损失;根据待训练的脑电信号分类模型中的动态图卷积神经网络中包括的滤波器组的数量,构建第三损失;根据所述样本类别标签的中心向量和所述目标样本特征信息,构建第四损失;根据所述第二损失、所述第三损失和所述第四损失,构建所述第一损失。

在一个实施例中,训练模块,还用于:获取验证样本集;其中,所述验证样本集中每一验证样本包括脑电信号样本、所述脑电信号样本的样本类别标签;将所述脑电信号样本输入训练后的脑电信号分类模型,获得所述脑电信号样本的预测类别标签;根据所述预测类别标签与所述样本类别标签,对训练后的脑电信号分类模型进行验证。

根据本实施例,其通过一对多滤波器组共空间模式网络和残差卷积神经网络并行对脑电信号进行特征提取,通过一对多滤波器组共空间模式网络能够利用丰富先验知识提取脑电信号特征,通过残差卷积神经网络能够自学习脑电信号高维和不同维度的特征并避免了传统方法提取部分特征而丢失未知特征的局限性。同时,当残差卷积神经网络效果不理想时,一对多滤波器组共空间模式网络依然能够通过丰富的先验知识学习到脑电信号特征。其次,其通过动态图卷积神经网络和门控循环神经网络并行进行特征再学习,通过动态图卷积神经网络能够自动学习脑电信号特征间的复杂关系,通过门控循环神经网络能够自动学习脑电信号特征的时间规律,二者互补,确保特征间关系和时间规律都能捕捉,形成有效的新特征,且并行结构避免特征提取过程中特征间关系和时间规律学习的互相干扰及串行结构网络中出现的中间层的特征信息丢失的问题。再者,通过注意力网络进行特征融合,能够消除不同特征由于幅度不同导致对有区分度的特征提取不充分的现象,这样,便可提高脑电信号的分类准确性。

<设备实施例>

图6是根据一个实施例的电子设备的硬件结构示意图。如图6所示,该电子设备6000包括处理器6100和存储器6200。

该存储器6200可以用于存储可执行的计算机指令。

该处理器6100可以用于根据所述可执行的计算机指令的控制,执行根据本公开方法实施例所述的脑电信号分类方法。

该电子设备6000可以是如图1所示的电子设备1000,也可以是具备其他硬件结构的设备,在此不做限定。

在另外的实施例中,该电子设备6000可以包括以上脑电信号分类装置5000。

在一个实施例中,以上脑电信号分类装置5000的各模块可以通过处理器6100运行存储器6200中存储的计算机指令实现。

<计算机可读存储介质>

本公开实施例还提供了一种计算机可读存储介质,其上存储有计算机指令,所述计算机指令被处理器运行时执行本公开实施例提供的脑电信号分类方法。

本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。

计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。

这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。

用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。

这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。

也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。

附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。对于本领域技术人员来说公知的是,通过硬件方式实现、通过软件方式实现以及通过软件和硬件结合的方式实现都是等价的。

以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。本公开的范围由所附权利要求来限定。。

相关技术
  • 基于FPGA的脑电信号快速分类方法、实现方法及装置
  • 视频分类方法、装置、电子设备及计算机可读存储介质
  • 分类模型的处理方法、装置、电子设备及存储介质
  • 图像分类方法、装置、电子设备及存储介质
  • 视频分类方法、装置、电子设备及存储介质
  • 脑电信号分类方法、装置、电子设备、介质及产品
  • 基于代数拓扑的格式塔脑电信号分类方法、电子设备、介质
技术分类

06120116509621