基于颜色空间的视频PPG测量方法

技术领域

本申请涉及信息技术领域，特别涉及一种基于颜色空间的视频PPG测量方法。

背景技术

近年来，非接触式生理信号测量技术受到广泛关注，相比于接触式测量方式，非接触测量方式可以避免与用户皮肤/身体直接接触，减少甚至消除测量过程本身对用户造成的干扰和不适。随着相机、激光、雷达等技术的发展与应用，非接触式生理信号测量技术有望在日常生活或医疗等领域发挥重大的作用，比如东京奥运会上，国际箭联通过开发生物信号识别系统并在场地上放置一些高速摄像机，实现了在射箭比赛中公开转播选手的心率变化情况。

相关技术中，视频PPG测量方法包括传统算法和神经网络算法，可以通过设计新的颜色空间以获取更精确的PPG变化和/或基于特定的ROI设计训练神经网络。

然而，相关技术中，基于人脸各部位反射的光照和PPG信息基本一致，而这一假设在光照或者较为复杂的运动中难以成立，在实际应用可能会带来不必要的误差，采用神经网络算法在ROI上提取心率时，考虑到运动形变、遮挡等问题的影响，神经网络这一类算法结果的稳定性受场景和训练集的组成影响很大，缺乏可解释性，并且难以输出有效的脉搏波形并用于计算心率变异性等生理指标，难以降低运动对视频PPG测量精度的干扰，无法有效提高视频PPG的实用性，亟待改善。

发明内容

本申请提供一种基于颜色空间的视频PPG测量方法，以解决相关技术中，采用神经网络算法在ROI上提取心率时，考虑到运动形变、遮挡等问题的影响，神经网络这一类算法结果的稳定性受场景和训练集的组成影响很大，缺乏可解释性，并且难以输出有效的脉搏波形并用于计算心率变异性等生理指标，难以降低运动对视频PPG测量精度的干扰，无法有效提高视频PPG的实用性等问题。

本申请第一方面实施例提供一种基于颜色空间的视频PPG测量方法，包括以下步骤：获取RGB相机拍摄的人脸视频；对所述人脸视频进行处理，从所述人脸视频提取人脸区域，确定感兴趣区域；以及基于所述感兴趣区域，采用RGB中B通道像素值得到光照强度的代理变量，以对ROI内的像素进行加权处理，计算PPG数值，获取PPG波形。

可选地，在本申请的一个实施例中，所述从所述人脸视频提取人脸区域，包括：检测当前场景的光照的变化信息；在所述变化信息满足预设条件时，基于预先构建的计算皮肤颜色模型提取所述人脸区域；在所述变化信息不满足所述预设条件时，基于所述人脸视频的每一帧计算并提取所述人脸区域。

可选地，在本申请的一个实施例中，所述预设条件为由所述变化信息得到的光照变化值小于预设阈值。

可选地，在本申请的一个实施例中，所述采用RGB中B通道像素值得到光照强度的代理变量，包括：基于预设RGB关系，采用RGB中B通道像素值得到光照强度的代理变量。

可选地，在本申请的一个实施例中，所述预设RGB关系为：

B(t)＝b×I(t)，

R(t)≈R(t)+k

G(t)≈G(t)+k

其中，R(t)、G(t)、B(t)分别表示t时刻某像素或区域的红绿蓝三通道的亮度值，r、g、b则表示光照强度(或总亮度)，I(t)在对应通道的投影系数，P(t)表示皮肤下的脉搏信号，k

本申请第二方面实施例提供一种基于颜色空间的视频PPG测量装置，包括：获取模块，用于获取RGB相机拍摄的人脸视频；提取模块，用于对所述人脸视频进行处理，从所述人脸视频提取人脸区域，确定感兴趣区域；以及处理模块，用于基于所述感兴趣区域，采用RGB中B通道像素值得到光照强度的代理变量，以对ROI内的像素进行加权处理，计算PPG数值，获取PPG波形。

可选地，在本申请的一个实施例中，所述提取模块包括：检测单元，用于检测当前场景的光照的变化信息；提取单元，用于在所述变化信息满足预设条件时，基于预先构建的计算皮肤颜色模型提取所述人脸区域；计算单元，用于在所述变化信息不满足所述预设条件时，基于所述人脸视频的每一帧计算并提取所述人脸区域。

可选地，在本申请的一个实施例中，所述预设条件为由所述变化信息得到的光照变化值小于预设阈值。

可选地，在本申请的一个实施例中，所述处理模块包括：获取单元，用于基于预设RGB关系，采用RGB中B通道像素值得到光照强度的代理变量。

可选地，在本申请的一个实施例中，所述预设RGB关系为：

B(t)＝b×I(t)，

R(t)≈R(t)+k

G(t)≈G(t)+k

其中，R(t)、G(t)、B(t)分别表示t时刻某像素或区域的红绿蓝三通道的亮度值，r、g、b则表示光照强度(或总亮度)，I(t)在对应通道的投影系数，P(t)表示皮肤下的脉搏信号，k

本申请第三方面实施例提供一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如上述实施例所述的基于颜色空间的视频PPG测量方法。

本申请第四方面实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储计算机程序，该程序被处理器执行时实现如上的基于颜色空间的视频PPG测量方法。

本申请实施例可以根据感兴趣区域，采用RGB中B通道像素值得到光照强度的代理变量，以对ROI内的像素进行加权处理，计算PPG数值，获取PPG波形，从而大幅降低运动对视频PPG测量精度的干扰，提高视频PPG的实用性，为非接触式生理信号的可靠测量提供支撑。由此，解决了相关技术中，采用神经网络算法在ROI上提取心率时，考虑到运动形变、遮挡等问题的影响，神经网络这一类算法结果的稳定性受场景和训练集的组成影响很大，缺乏可解释性，并且难以输出有效的脉搏波形并用于计算心率变异性等生理指标，难以降低运动对视频PPG测量精度的干扰，无法有效提高视频PPG的实用性等问题。

本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

附图说明

本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为根据本申请实施例提供的一种基于颜色空间的视频PPG测量方法的流程图；

图2为根据本申请一个实施例的基于颜色空间的视频PPG测量方法的流程图；

图3为根据本申请实施例提供的一种基于颜色空间的视频PPG测量装置的结构示意图；

图4为根据本申请实施例提供的电子设备的结构示意图。

具体实施方式

下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。

下面参考附图描述本申请实施例的基于颜色空间的视频PPG测量方法。针对上述背景技术中心提到的相关技术中，采用神经网络算法在ROI上提取心率时，考虑到运动形变、遮挡等问题的影响，神经网络这一类算法结果的稳定性受场景和训练集的组成影响很大，缺乏可解释性，并且难以输出有效的脉搏波形并用于计算心率变异性等生理指标，难以降低运动对视频PPG测量精度的干扰，无法有效提高视频PPG的实用性的问题，本申请提供了一种基于颜色空间的视频PPG测量方法，在该方法中，可以根据感兴趣区域，采用RGB中B通道像素值得到光照强度的代理变量，以对ROI内的像素进行加权处理，计算PPG数值，获取PPG波形，从而大幅降低运动对视频PPG测量精度的干扰，提高视频PPG的实用性，提升复杂运动场景下视频PPG的测量精度，为非接触式生理信号的可靠测量提供支撑。由此，解决了相关技术中，采用神经网络算法在ROI上提取心率时，考虑到运动形变、遮挡等问题的影响，神经网络这一类算法结果的稳定性受场景和训练集的组成影响很大，缺乏可解释性，并且难以输出有效的脉搏波形并用于计算心率变异性等生理指标，难以降低运动对视频PPG测量精度的干扰，无法有效提高视频PPG的实用性等问题。

具体而言，图1为本申请实施例所提供的一种基于颜色空间的视频PPG测量方法的流程示意图。

如图1所示，该基于颜色空间的视频PPG测量方法包括以下步骤：

在步骤S101中，获取RGB相机拍摄的人脸视频。

在具体实施例中，可以采用RGB(RGB color mode，RGB色彩模式)相机拍摄人脸视频，利用摄像头拍摄被测对象，获取人脸的视频图像，为提取人脸视频信息，精准确定感兴趣区域提供依据，进一步提升视频PPG(Photoplethysmogram，光电容积脉搏波)算法的性能，提高视频PPG的实用性。

在步骤S102中，对人脸视频进行处理，从人脸视频提取人脸区域，确定感兴趣区域。

在实际执行过程中，本申请实施例可以对人脸视频进行处理，利用人脸检测算法提取人脸区域作为ROI(Region of interest，感兴趣的区域)，其中，人脸检测算法可以对人脸视频进行人脸检测，从人脸视频中提取人脸区域，获取人脸特征点，对人脸视频进行人脸识别，并生成识别结果，当人脸视频中的人脸位置发生变化时，可以实时追踪人脸特征点的变化位置，以实现更精确的人脸特征点定位，从而精准确定感兴趣区域，降低运动对视频PPG测量精度的干扰，提高视频PPG的实用性。

可选地，在本申请的一个实施例中，从人脸视频提取人脸区域，包括：检测当前场景的光照的变化信息；在变化信息满足预设条件时，基于预先构建的计算皮肤颜色模型提取人脸区域；在变化信息不满足预设条件时，基于人脸视频的每一帧计算并提取人脸区域。

在具体实施例中，可以检测当前场景的光照的变化信息，当光照变化小于一定值并处于较为稳定的场景中时，表示光照变化信息满足一定条件，此时可以预先计算皮肤颜色模型，用于后续的皮肤提取(效率较高)，人脸皮肤区域的提取可以根据场景光照的变化情况进行调整，当光照变化大于一定值且处于较不稳定的场景中时，表示光照变化信息不满足一定条件，此时可以根据每一帧单独计算并提取皮肤区域(效率较低)，降低运动对视频PPG测量精度的干扰，提高视频PPG的实用性，为非接触式生理信号的可靠测量提供支撑，进一步提升视频PPG算法的性能。

需要说明的是，预设条件可以由本领域技术人员根据实际情况进行设置，在此不作具体限制。

其中，在本申请的一个实施例中，预设条件为由变化信息得到的光照变化值小于预设阈值。

在一些实施例中，光照变化信息得到的光照变化值与一定阈值比较，有利于以不同方式从人脸视频中提取人脸区域，当光照变化信息得到的光照变化值小于一定阈值时，光照处于较为稳定的场景，此时可以预先计算皮肤颜色模型用于后续的皮肤提取，当光照变化信息得到的光照变化值大于一定阈值时，光照处于较不稳定的场景，此时可以根据每一帧单独计算并提取皮肤区域，进一步降低运动对视频PPG测量精度的干扰，提高视频PPG的实用性。

在步骤S103中，基于感兴趣区域，采用RGB中B通道像素值得到光照强度的代理变量，以对ROI内的像素进行加权处理，计算PPG数值，获取PPG波形。

可以理解的是，本申请实施例中的ROI为图像或数据中可用于特定目的的部分，PPG为波动的脉搏通过光电容积描记技术记录所得的曲线，RGB为代表红、绿、蓝三个通道的颜色。

在具体实施例中，由于波长问题，即使采用质量好(光照好、人静止、视频无压缩)的人脸视频，RGB中B通道中也基本不含心率信号，因此根据感兴趣区域，可以采用B通道像素值作为光照强度的代理变量，对ROI内的像素进行加权处理，计算PPG数值，根据采集到的PPG信号，预处理并计算得到相应的PPG特征参数，获取PPG波形，从而进一步提升复杂运动场景下视频PPG的测量精度，降低日常监测(比如疾病预防)中的误判和漏判等情况。

可选地，在本申请的一个实施例中，采用RGB中B通道像素值得到光照强度的代理变量，包括：基于预设RGB关系，采用RGB中B通道像素值得到光照强度的代理变量。

在一些情况下，本申请实施例可以根据预设RGB关系，采用RGB中B通道像素值得到光照强度的代理变量，可以通过计算公式B(t)＝b×I(t)得到B通道像素亮度值，建立B通道亮度加权模型，并借此构建完整的视频PPG测量方案，进一步提升视频PPG算法的性能。

需要说明的是，预设RGB关系可以由本领域技术人员根据实际情况进行设置，在此不作具体限制。

可选地，在本申请的一个实施例中，预设RGB关系为：

B(t)＝b×I(t)，

R(t)≈R(t)+k

G(t)≈G(t)+k

其中，R(t)、G(t)、B(t)分别表示t时刻某像素或区域的红绿蓝三通道的亮度值，r、g、b则表示光照强度(或总亮度)，I(t)在对应通道的投影系数，P(t)表示皮肤下的脉搏信号，k

在一些情况下，本申请实施例可以通过公式计算得出一定RGB关系，通过获取人脸视频中ROI区域内每个RGB通道的亮度值，探究视频PPG中RGB通道之间的差异与联系，建立B通道亮度加权模型，并借此构建一套完整的视频PPG测量方案，在该方案中，人脸皮肤区域的提取可以根据场景光照的变化情况进行调整，算法核心为建立不同像素之间的权重关系，可以与目前已有算法进行组合，提升视频PPG算法的性能。

具体地，结合图2所示，以一个实施例对本申请实施例的基于颜色空间的视频PPG测量方法的工作原理进行详细阐述。

在步骤S201中，采用RGB相机拍摄人脸视频。本申请实施例可以采用RGB相机拍摄人脸视频，利用摄像头拍摄被测对象，获取人脸的视频图像，为提取人脸视频信息，精准确定感兴趣区域提供依据。

在步骤S202中，利用人脸检测算法提取人脸区域作为ROI。本申请实施例可以对人脸视频进行处理，利用人脸检测算法提取人脸区域作为ROI，其中，人脸检测算法可以对人脸视频进行人脸检测，从人脸视频中提取人脸区域，获取人脸特征点，对人脸视频进行人脸识别，并生成识别结果，从而确定感兴趣区域。

在步骤S203中，采用RGB中B通道像素值得到光照强度的代理变量，对ROI内的像素进行加权处理。本申请实施例中，由于波长问题，即使采用质量好(光照好、人静止、视频无压缩)的人脸视频，RGB中B通道中也基本不含心率信号，因此根据感兴趣区域，可以采用B通道像素值作为光照强度的代理变量，对ROI内的像素进行加权处理

在步骤S204中，计算PPG数值，获取PPG波形。本申请实施例可以计算PPG数值，根据采集到的PPG信号，预处理并计算得到相应的PPG特征参数，获取PPG波形，从而进一步提升复杂运动场景下视频PPG的测量精度。

根据本申请实施例提出的基于颜色空间的视频PPG测量方法，可以根据感兴趣区域，采用RGB中B通道像素值得到光照强度的代理变量，以对ROI内的像素进行加权处理，计算PPG数值，获取PPG波形，从而大幅降低运动对视频PPG测量精度的干扰，提高视频PPG的实用性，提升复杂运动场景下视频PPG的测量精度，为非接触式生理信号的可靠测量提供支撑。由此，解决了相关技术中，采用神经网络算法在ROI上提取心率时，考虑到运动形变、遮挡等问题的影响，神经网络这一类算法结果的稳定性受场景和训练集的组成影响很大，缺乏可解释性，并且难以输出有效的脉搏波形并用于计算心率变异性等生理指标，难以降低运动对视频PPG测量精度的干扰，无法有效提高视频PPG的实用性的问题。

其次参照附图描述根据本申请实施例提出的基于颜色空间的视频PPG测量装置。

图3是本申请实施例的基于颜色空间的视频PPG测量装置的方框示意图。

如图3所示，该基于颜色空间的视频PPG测量装置10包括：获取模块100、提取模块和处理模块300。

具体地，获取模块100，用于获取RGB相机拍摄的人脸视频；

提取模块200，用于对人脸视频进行处理，从人脸视频提取人脸区域，确定感兴趣区域；以及

处理模块300，用于基于感兴趣区域，采用RGB中B通道像素值得到光照强度的代理变量，以对ROI内的像素进行加权处理，计算PPG数值，获取PPG波形。

可选地，在本申请的一个实施例中，提取模块200包括：检测单元、提取单元和计算单元。

其中，检测单元，用于检测当前场景的光照的变化信息；

提取单元，用于在变化信息满足预设条件时，基于预先构建的计算皮肤颜色模型提取人脸区域；

计算单元，用于在变化信息不满足预设条件时，基于人脸视频的每一帧计算并提取人脸区域。

可选地，在本申请的一个实施例中，预设条件为由变化信息得到的光照变化值小于预设阈值。

可选地，在本申请的一个实施例中，处理模块300包括：获取单元。

其中，获取单元，用于基于预设RGB关系，采用RGB中B通道像素值得到光照强度的代理变量。

可选地，在本申请的一个实施例中，预设RGB关系为：

B(t)＝b×I(t)，

R(t)≈R(t)+k

G(t)≈G(t)+k

其中，R(t)、G(t)、B(t)分别表示t时刻某像素或区域的红绿蓝三通道的亮度值，r、g、b则表示光照强度(或总亮度)，I(t)在对应通道的投影系数，P(t)表示皮肤下的脉搏信号，k

需要说明的是，前述对基于颜色空间的视频PPG测量方法实施例的解释说明也适用于该实施例的基于颜色空间的视频PPG测量装置，此处不再赘述。

根据本申请实施例提出的基于颜色空间的视频PPG测量装置，可以根据感兴趣区域，采用RGB中B通道像素值得到光照强度的代理变量，以对ROI内的像素进行加权处理，计算PPG数值，获取PPG波形，从而大幅降低运动对视频PPG测量精度的干扰，提高视频PPG的实用性，提升复杂运动场景下视频PPG的测量精度，为非接触式生理信号的可靠测量提供支撑。由此，解决了相关技术中，采用神经网络算法在ROI上提取心率时，考虑到运动形变、遮挡等问题的影响，神经网络这一类算法结果的稳定性受场景和训练集的组成影响很大，缺乏可解释性，并且难以输出有效的脉搏波形并用于计算心率变异性等生理指标，难以降低运动对视频PPG测量精度的干扰，无法有效提高视频PPG的实用性的问题。

图4为本申请实施例提供的电子设备的结构示意图。该电子设备可以包括：

存储器401、处理器402及存储在存储器401上并可在处理器402上运行的计算机程序。

处理器402执行程序时实现上述实施例中提供的基于颜色空间的视频PPG测量方法。

进一步地，电子设备还包括：

通信接口403，用于存储器401和处理器402之间的通信。

存储器401，用于存放可在处理器402上运行的计算机程序。

存储器401可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。

如果存储器401、处理器402和通信接口403独立实现，则通信接口403、存储器401和处理器402可以通过总线相互连接并完成相互间的通信。总线可以是工业标准体系结构(Industry Standard Architecture，简称为ISA)总线、外部设备互连(PeripheralComponent，简称为PCI)总线或扩展工业标准体系结构(Extended Industry StandardArchitecture，简称为EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

可选地，在具体实现上，如果存储器401、处理器402及通信接口403，集成在一块芯片上实现，则存储器401、处理器402及通信接口403可以通过内部接口完成相互间的通信。

处理器402可能是一个中央处理器(Central Processing Unit，简称为CPU)，或者是特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者是被配置成实施本申请实施例的一个或多个集成电路。

本实施例还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上的基于颜色空间的视频PPG测量方法。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或N个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“N个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或N个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或N个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，N个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。