掌桥专利:专业的专利平台
掌桥专利
首页

学习状态检测方法、装置、电子设备及存储介质

文献发布时间:2023-06-19 11:11:32


学习状态检测方法、装置、电子设备及存储介质

技术领域

本申请涉及计算机技术领域,具体涉及一种学习状态检测方法、装置、电子设备及存储介质。

背景技术

随着科学技术的不断发展,随着移动互联网的发展和智能终端的普及,线上学习慢慢成为一种大众化的学习方式,学生可以足不出户进行学习,不需要到特定地点上课,通过电子设备与互联网进行学习即可。但由于不受地理、时间的约束,学生可自行选择学习的时间及地点,导致家长、老师等无法实时关注用户的学习状态,无法保证学生的学习效果。

发明内容

本申请实施例公开了一种学习状态检测方法、装置、电子设备及存储介质,能够准确检测用户学习状态,提高用户的学习效果。

本申请实施例公开了一种学习状态检测方法,所述方法包括:

通过电子设备的摄像头,采集M帧用户图像;

从所述M帧用户图像中,抽取N帧待识别用户图像,其中,所述M为大于或等于2的整数,所述N为小于或等于所述M的正整数;

对所述N帧待识别用户图像分别进行识别,得到每一帧待识别用户图像对应的头部特征和面部特征;

根据所述每一帧待识别用户图像对应的头部特征和面部特征,计算得到用户的面部信息,所述面部信息包括人脸面积及五官分布的偏离程度;

根据所述面部信息确定用户学习状态。

本申请实施例公开了一种学习状态检测装置,所述装置包括:

图像采集单元,用于通过电子设备的摄像头,采集M帧用户图像;

图像抽取单元,用于从所述M帧用户图像中,抽取N帧待识别用户图像,其中,所述M为大于或等于2的整数,所述N为小于或等于所述M的正整数;

图像识别单元,用于对所述N帧待识别用户图像分别进行识别,得到每一帧待识别用户图像对应的头部特征和面部特征;

计算单元,用于根据每一帧待识别用户图像对应的头部特征和面部特征,计算得到用户的面部信息,所述面部信息包括人脸面积及五官分布的偏离程度。

状态确定单元,用于根据所述面部信息确定用户学习状态。

本申请实施例公开了一种电子设备,包括存储器及处理器,所述存储器中存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器实现如上述的方法。

本申请实施例公开了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的方法。

本申请实施例公开的学习状态检测方法、装置、电子设备及计算机可读存储介质,通过电子设备的摄像头采集M帧用户图像,再从采集到的M帧用户图像中抽取N帧待识别用户图像,对N帧待识别用户图像分别进行识别,得到每一帧待识别用户图像对应的头部特征和面部特征,根据识别得到的头部特征和面部特征计算得到用户的面部信息,再根据面部信息确定用户学习状态。实施本申请实施例,可通过分析用户图像得到用户的面部信息,结合人脸面积、五官分布的偏离程度等面部信息确定用户学习状态,能够准确检测用户学习状态,提高了用户的学习效果。

附图说明

为了更清楚地说明本申请实施例中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1为一个实施例中学习状态检测方法的应用场景图;

图2为一个实施例中学习状态检测方法的流程示意图;

图3为一个实施例中根据用户头部的旋转信息确定用户学习状态的流程示意图;

图4为一个实施例中电子设备输出提示信息的流程示意图;

图5为一个实施例中学习状态检测装置的框图;

图6为一个实施例中的电子设备的结构框图。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

需要说明的是,本申请实施例及附图中的术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。

图1为一个实施例中学习状态检测方法的应用场景图。如图1所示,电子设备101为带有摄像头的电子设备,该电子设备可以包括但不限于智能手机、可穿戴设备、平板电脑、PC(Personal Computer,个人计算机)等,用户可以是需要进行线上学习的用户,本实施场景可以应用在家里、在图书馆、或是在其它一些用户进行线上学习的任何场合,在用户使用电子设备进行线上学习时,对用户学习状态进行检测,保证用户在线上学习的过程中能够具备较好的学习状态。

在一些实施例中,电子设备还可与绑定终端建立通信连接,在绑定终端对应的监护人(如家长、老师等)没时间或是有其它事宜不能监督用户学习时,可通过本申请实施例的方法了解用户线上学习的状态,从而进行远程监督,必要时可以发送提醒信息,即便不在身边也可以了解用户学习状态,监督用户进行学习。

图2为一个实施例中学习状态检测方法的流程示意图。如图2所示,该学习状态检测方法可应用于上述的电子设备,该方法可包括以下步骤:

201、通过电子设备的摄像头,采集M帧用户图像。

在一些实施例中,该摄像头可以是电子设备的前置摄像头,用户在使用电子设备进行线上学习时,电子设备可通过前置摄像头采集用户图像,并将采集的用户图像实时传输到电子设备的处理器中。

在一个实施例中,电子设备可预先设定上课时间段,在预先设定的上课时间段内,通过摄像头采集用户图像。举例进行说明,电子设备中可以预先设定上课时间段为早上8点到10点,则在该上课时间段内电子设备可通过摄像头采集用户图像。可选地,该上课时间段可以是用户手动根据实际需求输入的时间段,用户也可将课程表导入电子设备,电子设备对用户的课程表进行识别,并确定每天的上课时间段,更加方便快捷。

在另一个实施例中,电子设备也可以实时对运行的应用进行监测,在检测到学习类的应用程序启动运行时,可说明用户准确进行线上学习,则可通过摄像头采集用户图像。进一步地,电子设备在检测到应用程序启动时,可获取启动的应用程序的应用标识,并根据该应用标识获取应用类型,该应用标识可包括但不限于应用的编号、应用名称、版本号等,应用类型可包括但不限于娱乐应用、学习应用、社交应用等。应用标识与应用类型之间的对应关系可预先存储在电子设备中,电子设备可基于该对应关系获取启动的应用程序的应用类型。若启动的应用程序的应用类型为学习应用,则可通过摄像头采集用户图像。

203、从采集到的M帧用户图像中,抽取N帧待识别用户图像,其中,M为大于或等于2的整数,N为小于或等于M的正整数。

在一个实施例中,电子设备从采集到的M帧用户图像中抽取N帧待识别用户图像,可以包括:从M帧用户图像中,按照一定的采集图像数量,间隔抽取N帧待识别用户图像。其中,一定的采集图像数量可根据实际需求进行设置,例如10帧、15帧等。举例进行说明,摄像头在一定时间段内采集用户图像可以是30帧,并将采集的用户图像实时传输到电子设备的处理器,电子设备的处理器实时接收摄像头采集的用户图像,并可每隔15帧从接收的用户图像中抽取一帧图像作为待识别用户图像。

在另一个实施例中,电子设备也可以按照一定的间隔时间段,从M帧用户图像中间隔抽取N帧待识别用户图像。其中,间隔时间段可根据实际需求进行设置,例如3秒、2秒等。举例进行说明,摄像头采集用户图像的帧率可以是10帧/秒,也即,摄像头每秒可采集10帧用户图像,并将采集的用户图像实时传输到电子设备的处理器,电子设备的处理器实时接收摄像头采集的用户图像,并可每隔2秒从接收的用户图像中抽取一帧图像作为待识别用户图像。

在本申请实施例中,从采集到的M帧用户图像中抽取N帧待识别用户图像,对N帧待识别用户图像进行识别,即不需对所采集到的所有用户图像都进行识别。通过实施上述方法,能够提高学习状态检测的效率,缩短检测所需的时间,同时可减少电子设备在检测学习状态过程中的功耗,避免造成资源浪费。

205、对N帧待识别用户图像分别进行识别,得到每一帧待识别用户图像对应的头部特征和面部特征。

在本申请实施例中,对N帧待识别用户图像进行识别的方式可包括:对每一帧待识别用户图像进行图像识别,提取每一帧待识别用户图像中的特征点,并对属于头部及面部的特征点进行标记,从而得到一帧待识别用户图像对应的头部特征和面部特征。例如,可对属于头部轮廓、人脸轮廓、五官轮廓的特征点进行标记等。

其中,头部特征是在每一帧待识别用户图像中提取出的关于头部信息的图像特征,包括用户的头部位置、头部大小、头部形状等特征。面部特征是在每一帧待识别用户图像中提取出的关于脸部信息的图像特征,脸部特征可包括人脸区域、五官位置、五官大小等特征。

207、根据每一帧待识别用户图像对应的头部特征和面部特征,计算得到用户的面部信息,其中面部信息包括人脸面积及五官分布的偏离程度。

人脸面积可指的是识别出的人脸图像区域占用户图像中的图像面积大小,五官分布的偏离程度可指的是从待识别用户图像中确定的五官分布位置相对标准用户图像中五官位置的偏离位置、偏离方向等,该标准用户图像指的是用户人脸正对摄像头时采集的图像。

在一些实施例中,根据每一帧待识别用户图像对应的头部特征和面部特征,计算得到用户的面部信息,可包括:根据每一帧待识别用户图像中对应的用户头部位置和人脸区域,计算用户人脸面积;根据每一帧待识别用户图像中对应的用户人脸区域和五官位置,计算五官分布的偏离程度。

作为一种具体实施方式,可确定待识别用户图像中属于人脸轮廓的第一特征点,并获取各个第一特征点在该待识别用户图像中的图像坐标,根据各个第一特征点在该待识别用户图像中的图像坐标可计算得到用户人脸面积。可确定待识别用户图像中属于五官轮廓的第二特征点,并获取各个第二特征点在该待识别用户图像中的图像坐标,根据各个第二特征点在该待识别用户图像中的图像坐标可计算五官在该待识别图像中的五官位置。可将该待识别图像中的五官位置与标准用户图像中的五官位置进行比对,得到同一五官部位的相对位置关系,基于该相对位置关系可确定五官分布的偏离程度。

209、根据面部信息确定用户学习状态。

用户学习状态可包括但不限于精神不集中状态、疲劳状态、未在设备前学习状态以及正常学习状态。其中,精神不集中状态指的是用户不专心学习、张望别处或专注于其它事情的状态;疲劳状态指的是用户打瞌睡、精神疲倦或睡眠状态;未在设备前学习状态指的是用户未在电子设备前进行学习的状态;正常学习状态指的是用户专心学习的状态。

电子设备可根据用户人脸面积及五官分布的偏离程度,确定用户学习状态。例如,在人脸面积较小且五官分布的偏离程度较大时,可确定用户学习状态为精神不集中状态,在五官分布的偏离程度较小时,可确定用户学习状态为正常学习状态,但不限于此。

在本申请实施例中,通过识别每一帧待识别用户图像得到用户的头部特征和面部特征,再计算得到用户的面部信息,根据面部信息确定用户学习状态,能够提高用户学习状态检测的准确性,提高用户的学习效果。

在一个实施例中,步骤209根据面部信息确定用户学习状态,可包括:根据用户人脸面积及五官分布的偏离程度,确定用户头部的旋转信息,并根据用户头部的旋转信息确定用户学习状态。

可选地,用户头部的旋转信息包括头部旋转方向及头部旋转度数。其中,头部旋转方向指用户头部相对于用户人脸正对摄像头时,按顺时针旋转或逆时针旋转的方向。头部旋转度数指用户头部相对于用户人脸正对摄像头时,按顺时针旋转或逆时针旋转后偏差的角度数值。

当用户人脸正对摄像头时,其人脸面积达到最大值,五官分布平整且对称,五官大小也达到最大值。但当用户头部经旋转后,人脸面积相对用户人脸正对摄像头时会有所减小,五官位置会有偏差且不对称。因此,通过对人脸面积、五官大小、五官分布的偏离程度的计算,可确定用户头部的旋转信息。

在一些实施例中,可预先建立用户人脸面积及五官分布的偏离程度,与用户头部的旋转信息之间的对应关系,该对应关系可以是通过多次对用户在不同姿态下采集的图像的头部旋转信息进行测量得到的,能够提高用户头部的旋转信息的准确性,进一步提高学习状态检测的准确性。

图3为一个实施例中根据用户头部的旋转信息确定用户学习状态的流程示意图。如图3所示,根据用户头部的旋转信息确定用户学习状态,可以包括以下步骤:

302、判断用户头部的旋转度数是否大于或等于角度阈值,若是,执行步骤304;若否,则执行步骤306。

角度阈值指的是预先设定好的计算得到的用户头部的旋转度数与用户人脸正对摄像头时偏差的数值。例如,角度阈值可以是45度。

304、确定当前的用户学习状态为精神不集中状态。

本申请实施例中,当用户头部的旋转度数大于或等于角度阈值时,确定当前的用户学习状态为精神不集中状态。在一个实施例中,若判断用户头部的旋转度数大于或等于角度阈值,则说明该用户头部的旋转程度较大,未能正视电子设备进行学习。举例进行说明,当用户坐在电子设备前,转头关注电子设备以外的事物(例如玩手机、看视频、看窗外等),未进行学习,若是经判断后用户头部的旋转度数大于或等于角度阈值,则确定当前的用户学习状态未精神不集中状态。

306、判断眼睛大小是否小于或等于设定值,若是,则执行步骤308;若否,则执行步骤310。

眼睛大小可指的是在每一帧待识别用户图像中识别出来的用户五官中的眼睛在待识别用户图像中所占的图像面积,该设定值是预先设定好的用于处于正常学习状态时的眼睛图像面积,可选地,该设定值可根据标准用户图像中的眼睛所占的图像面积进行确定,进一步地,设定值可为该标准用户图像中的眼睛所占的图像面积。

308、确定当前的用户学习状态为疲劳状态。

在本申请实施例中,当计算得到的眼睛区域在待识别图像中的图像面积小于或等于设定值时,可判断当前的用户学习状态为疲劳状态,处于疲倦、有困意、打瞌睡的情况中。若判断用户的眼睛大小小于或等于设定值,则说明当前该用户的眼睛小于平常处于正常学习状态时的眼睛,则说明该用户正处于眯眼或闭眼状态,未处于正常的学习状态中,则判断当前的用户学习状态为疲劳状态。

310、确定当前的用户学习状态为正常学习状态。

本申请实施例中,当用户头部的旋转度数小于角度阈值时,且眼睛大小大于设定值时,确定当前的用户学习状态为正常学习状态。

在一个实施例中,在电子设备从M帧用户图像中,抽取N帧待识别用户图像,并对N帧待识别用户图像分别进行识别后,可判断是否能从N帧待识别用户图像中识别到用户的头部特征和面部特征,若能识别到用户的头部特征和面部特征,则根据识别到的用户的头部特征和面部特征计算得到用户的面部信息,再根据面部信息判断当前的用户状态是否处于精神不集中状态或疲劳状态;若不能从N帧待识别用户图像中识别到用户的头部特征和面部特征,则确定当前的用户学习状态为未处于设备前学习状态。

在本申请实施例中,根据用户人脸面积及五官分布的偏离程度计算头部的旋转度数及眼睛大小,可判断用户是否正视电子设备专心进行学习,从而确定当前的用户学习状态,不仅能够提高学习状态检测的准确性,还能够多方面地对当前用户的学习状态进行检测与评估。

图4为一个实施例中电子设备输出提示信息的流程示意图。如图4所示,在一个实施例中,在步骤根据面部信息确定用户学习状态之后,上述的学习状态检测方法,还包括以下步骤:

401、判断当前的用户学习状态是否为精神不集中状态或疲劳状态。若是,则执行步骤403;否则,结束本流程。

403、电子设备输出第一提醒信息。

在本申请实施例中,在电子设备通过面部信息确定用户学习状态为精神不集中状态或疲劳状态后,电子设备可输出第一提醒信息,该第一提醒信息可用于提示用户调整学习状态。例如,第一提醒信息可以是“请学生集中注意力学习”,从而能够提醒用户集中注意力,回复到正常的学习状态,投入到学习中。

电子设备输出第一提醒信息的方式可以是多样的。在一个实施例中,第一提醒信息可以是声音信息,电子设备可通过音响或声音装置输出第一提醒信息。举例进行说明,通过电子设备的声音装置,电子设备输出第一提醒信息,播放提醒语音,语音内容可以是“请学生集中注意力学习”“请学生认真上课”等提醒语音,以起到提醒用户集中注意力投入到学习中的作用。

在另一个实施例中,第一提醒信息可以是图片或文字信息,电子设备可通过显示屏幕等显示装置输出第一提醒信息。举例进行说明,通过电子设备的显示装置,电子设备输出第一提醒信息,显示提醒用户集中注意力投入到学习中的图片,图片内容可以是“请学生集中注意力学习”“请学生认真上课”等提醒内容,以起到提醒用户集中注意力投入到学习中的作用。

在又一个实施例中,第一提醒信息可以是震动窗口,电子设备可通过显示屏幕等显示装置输出第一提醒信息。举例进行说明,通过电子设备的显示装置,弹出一个震动窗口输出第一提醒信息,显示提醒用户集中注意力投入到学习中的震动窗口,用户需点击弹窗程序中的某一位置或输入验证码才可将此弹窗程序关闭,以起到提醒用户集中注意力投入到学习中的作用。

在本申请实施例中,在用户处于精神不集中状态或疲劳状态时,电子设备能够及时对用户进行提醒,进一步提高用户的学习效果。

405、一定时间段后,重新执行通过电子设备的摄像头采集M帧用户图像的步骤,并再次确定用户学习状态。

在步骤403中电子设备输出第一提醒信息后,提醒用户投入到正常学习状态中。在输出第一提醒信息一定时间段后,可重新执行上述中的步骤201~209,再次确定用户学习状态。电子设备根据再次确定的用户学习状态进行下一步操作。举例进行说明,电子设备输出第一提醒信息的15分钟后,重新执行通过电子设备的摄像头采集M帧用户图像的步骤,并从再次采集的M帧用户图像中抽取N帧待识别用户图像,对N帧待识别用户图像分别进行识别,得到每一帧待识别用户图像对应的头部特征和面部特征,再计算用户的面部信息,根据面部信息再次确定用户学习状态。

407、判断再次确定的用户学习状态是否依然为精神不集中状态或疲劳状态。若是,则执行步骤409;否则,结束本流程。

根据步骤407的再次确定用户学习状态的结果,判断当前的用户学习状态是否为精神不集中状态或疲劳状态。

通过这一步骤,可以检测用户在收到电子设备输出的第一提醒信息后是否改正自身学习状态并且投入到学习中,能够更合理地、更全方位地进行用户学习状态的检测。

409、电子设备向绑定终端输出第二提醒信息。

绑定终端可以是用户对应的监护人(如家长、老师等)所持有的终端设备,电子设备可预先建立与各个绑定终端之间的绑定关系,存储各个绑定终端的设备信息(如手机号码、IP地址等),并与各个绑定终端建立通信连接,绑定终端可以包括各类设备或系统,如触屏手机、电脑、智能手表等。

第二提醒信息可用于提醒绑定终端对应的监护人关注用户的学习状态,使绑定终端对应的监护人介入引导用户认真学习,投入到学习状态中。

在本申请实施例中,在电子设备再次确定当前的用户学习状态为精神不集中状态或疲劳状态后,电子设备可向绑定终端输出第二提醒信息,该第二提醒信息可用于向绑定终端对应的监护人(如家长、老师等)进行提醒,提醒监护人介入引导用户认真学习。例如,第二提醒信息可以是“A同学处于疲劳状态,请家长注意A同学的学习状态”等,从而能够使监护人了解用户的学习状态并且对其不端正的学习状态进行提醒。

电子设备输出第二提醒信息的方式可以是多样的。在一个实施例中,第二提醒信息可以是文字信息。电子设备可以向绑定终端输出第二提醒信息,向绑定终端发送文字内容,绑定终端可通过显示屏等显示该文字内容,举例进行说明,文字内容可以是“目前该学生学习状态为精神不集中状态,麻烦监护人提醒其纠正学习状态”、“目前该学生学习状态为疲劳状态,麻烦监护人提醒其纠正学习状态”等文字信息,以起到让监护人了解用户学习状态以及提醒监护人介入引导用户进行学习的作用。

在另一个实施例中,第二提醒信息可以是语音信息。电子设备可以向绑定终端输出第二提醒信息,向绑定终端发送提醒语音,绑定终端可通过扬声器等声音播放装置播放该提醒语音。举例进行说明,语音内容可以是“目前该学生学习状态为精神不集中状态,麻烦监护人提醒其纠正学习状态”、“目前该学生学习状态为疲劳状态,麻烦监护人提醒其纠正学习状态”等提醒语音,以起到让监护人了解用户学习状态以及提醒监护人介入引导用户进行学习的作用。

在又一个实施例中,第二提醒信息可以是图片信息。电子设备可以向绑定终端输出第二提醒信息,向绑定终端发送图像,绑定终端可通过显示屏等显示该图像。举例进行说明,图像内容可以是电子设备的摄像头采集到的用户图像或是小视频等电子设备的摄像头所采集到的图像,以起到让监护人了解用户学习状态及提醒监护人介入引导用户进行学习的作用。

在一些实施例中,若确定当前的用户学习状态为未处于设备前学习,则电子设备可向绑定终端输出第三提醒信息。第三提醒信息可用于提醒绑定终端对应的监护人关注及监督用户的学习状态,可并提醒监护人用户当前不在电子设备前学习。

电子设备输出第三提醒信息的方式可以是多样的。在一个实施例中,第三提醒信息可以是文字信息。电子设备可以向绑定终端输出第三提醒信息,向绑定终端发送文字内容,绑定终端可通过显示屏等显示该文字内容。举例进行说明,文字内容可以是“目前该学生的学习状态为未在设备前学习,麻烦监护人提醒其尽快进行学习”等文字信息,以起到让监护人了解用户学习状态以及提醒监护人介入引导用户进行学习的作用。

在另一个实施例中,第三提醒信息可以是语音信息。电子设备可以向绑定终端输出第三提醒信息,向绑定终端发送提醒语音,绑定终端可通过扬声器等声音播放装置播放该提醒语音。举例进行说明,语音内容可以是“目前该学生的学习状态为未在设备前学习,麻烦监护人提醒其尽快进行学习”等语音信息,以起到让监护人了解用户学习状态以及提醒监护人介入引导用户进行学习的作用。

在又一个实施例中,第三提醒信息可以是图片信息。电子设备可以向绑定终端输出第三提醒信息,向绑定终端发送图像,绑定终端可以通过显示屏等显示该图像。举例进行说明,图像内容可以是电子设备的摄像头采集到的用户图像或是小视频等电子设备的摄像头所采集到的图像,以起到让监护人了解用户学习状态及提醒监护人介入引导用户进行学习的作用。

在本申请实施例中,能够有针对性地对处于不同学习状态的用户输出不同的提醒信息。并且通过再次确定用户学习状态,判断电子设备是否需要输出第二提醒信息,有利于避免在用户纠正自身学习状态后又给监护人发送提醒信息,造成资源浪费与使用不便。当电子设备未能识别到用户的头部特征和面部特征时,即判断当前的用户学习状态为未在设备前学习,向对应监护人的绑定终端发送第三提醒信息,可以提高监护人监督用户学习的有效性,也可让监护人更直接地了解到当前的用户学习状态,尽快让用户集中注意力投入到学习中。上述方法能够保证学习状态检测方法中提醒功能的有效性,有针对性地对处于不同学习状态的用户输出不同的提醒信息,避免造成资源浪费与使用不便。

图5为一个实施例中学习状态检测装置的框图。如图5所示,该学习状态检测装置包括图像采集单元501、图像抽取单元503、图像识别单元505、计算单元507、状态确定单元509。

图像采集单元501,用于通过电子设备的摄像头,采集M帧用户图像。

图像抽取单元503,用于从M帧用户图像中,抽取N帧待识别用户图像,其中,所述M为大于或等于2的整数,所述N为小于或等于所述M的正整数。

在一个实施例中,图像抽取单元503,还用于从M帧用户图像中,按照一定的采集图像数量,间隔抽取N帧待识别用户图像。

在一个实施例中,图像抽取单元503,还用于按照一定的间隔时间段,从M帧用户图像中间隔抽取N帧待识别用户图像。

图像识别单元505,用于对所抽取的N帧待识别用户图像分别进行识别,得到每一帧待识别用户图像对应的头部特征和面部特征。

计算单元507,用于根据所抽取的每一帧待识别用户图像对应的头部特征和面部特征,计算得到用户的面部信息。

在一个实施例中,计算单元507,还用于对每一帧待识别用户图像中对应的用户头部位置和人脸区域,计算用户人脸面积。

在一个实施例中,计算单元507,还用于对每一帧待识别用户图像中对应的用户人脸区域和五官位置,计算五官分布的偏离程度。

状态确定单元509,用于根据面部信息确定用户学习状态。

在本申请实施例中,通过识别每一帧待识别用户图像得到用户的头部特征和面部特征,再计算得到用户的面部信息,根据面部信息确定用户学习状态,能够提高用户学习状态检测的准确性,提高用户的学习效果。

在一个实施例中,状态确定单元509,还用于根据用户人脸面积及五官分布的偏离程度,确定用户头部的旋转信息,并根据所述用户头部的旋转信息确定用户学习状态。

在一个实施例中,旋转信息包括旋转度数,面部信息还包括眼睛大小。

状态确定单元509,还用于当用户头部的旋转度数大于或等于角度阈值时,确定当前的用户学习状态为精神不集中状态。

在一个实施例中,状态确定单元509,还用于当用户头部的旋转度数小于角度阈值,并且眼睛大小小于或等于设定值时,确定当前的用户学习状态为疲劳状态。

在一个实施例中,状态确定单元509,还用于当图像识别单元505未能从N帧待识别用户图像中识别到用户的头部特征与面部特征时,确定当前的用户学习状态为未处于设备前学习。

在本申请实施例中,根据用户人脸面积及五官分布的偏离程度计算头部的旋转度数及眼睛大小,可判断用户是否正视电子设备专心进行学习,从而确定当前的用户学习状态,不仅能够提高学习状态检测的准确性,还能够多方面地对当前用户的学习状态进行检测于评估。

在一个实施例中,上述学习状态检测装置除了包括图像采集单元501、图像抽取单元503、图像识别单元505、计算单元507、状态确定单元509、还包括提醒单元。

提醒单元,用于若确定当前的用户学习状态为精神不集中状态或疲劳状态时,电子设备输出第一提醒信息,所述第一提醒信息用于提示用户调整学习状态。

图像抽取单元503,还用于在输出第一提醒信息的一定时间段后,重新执行通过电子设备的摄像头采集M帧用户图像的步骤,并通过状态确定单元509重新确定用户学习状态。

提醒单元,还用于若再次确定的用户学习状态依然为精神不集中状态或疲劳状态,则电子设备向绑定终端输出第二提醒信息,第二提醒信息用于提醒绑定终端对应的监护人关注所述用户的学习状态。

在一个实施例中,提醒单元,还用于若确定当前的用户学习状态为未处于设备前学习,则电子设备向绑定终端输出第三提醒信息,第三提醒信息用于提醒绑定终端对应的监护人介入引导用户进行学习。

在本申请实施例中,通过输出提醒信息,能够保证学习状态检测方法中提醒功能的有效性,并且可以有针对性地对处于不同学习状态的用户输出不同的提醒信息,避免造成资源浪费与使用不便。

图6为一个实施例中的电子设备的结构框图。如图6所示,该学习状态检测方法装置可以包括:

存储有可执行程序代码的存储器603;

与存储器603耦合的处理器601;

其中,处理器601调用存储器603中存储的可执行程序代码,执行上述各实施例中提供的方法中的全部或部分步骤。

本申请实施例中提到的存储器603可以是任何电子、磁性、光学或其它物理存储装置,可以包含或存储信息,如可执行指令、数据程序、代码、代码集或指令集,等等。例如,机器可读存储介质可以是:RAM(Radom Access Memory,随机存取存储器)、可以包括只读存储器(Read-Only Memory,ROM)、易失存储器、非易失性存储器、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储器(如光盘、DVD等),或者类似的存储介质,或者它们的组合。存储器603可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于实现至少一个功能的指令(比如声音提醒功能、图像提醒功能等)、用于实现上述各个方法实施例的指令等。存储数据区还可以存储电子设备在使用中所创建的数据等。

处理器601可以包括一个或者多个处理核。处理器601利用各种接口和线路连接整个电子设备内的各个部分,通过运行或执行存储在存储器603内的可执行指令、数据程序、代码、代码集或指令集,以及调用存储在存储器603内的数据,执行电子设备的各种功能和处理数据。

此外,本申请实施例进一步公开了一种计算机可读存储介质,其存储计算机程序,其中,该计算机程序被处理器执行时实现如上述各实施例描述的方法。

本申请实施例公开一种计算机程序产品,该计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,且该计算机程序可被处理器执行时实现如上述各实施例描述的方法。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一非易失性计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)等。

如此处所使用的对存储器、存储、数据库或其它介质的任何引用可包括非易失性和/或易失性存储器。合适的非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM),它用作外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)。

在本申请的各种实施例中,应理解,上述各过程的序号的大小并不意味着执行顺序的必然先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。

上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物单元,即可位于一个地方,或者也可以分布到多个网络单元上。可根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。

另外,在本申请各实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。

以上对本申请实施例公开的一种学习状态检测方法、装置、电子设备及存储介质进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。

相关技术
  • 学习状态检测方法、装置、电子设备及存储介质
  • 电子设备自动化检测方法、装置、电子设备及存储介质
技术分类

06120112836392