掌桥专利:专业的专利平台
掌桥专利
首页

一种基于卷积神经网络的产品推荐方法及相关设备

文献发布时间:2023-06-19 13:26:15


一种基于卷积神经网络的产品推荐方法及相关设备

技术领域

本发明涉及人工智能技术领域,尤其涉及一种基于卷积神经网络的产品推荐方法及相关设备。

背景技术

随着信息技术的发展,互联网上充斥着大量的内容和信息,用户容易被大量信息所误导,不能找到适合自己的内容和产品。例如在购物场景中,可以对用户进行产品推荐,即筛选出适合用户的产品进行推荐,目前,对于产品的推荐大多是通过客户的身份信息、购买过的产品或者产品的火热程度来对用户进行推荐。具体可以根据用户在终端设备上的历史操作,即对某一个或多个产品进行点击、浏览、收藏、加购、成交的操作来确定用户的喜好,从而根据用户的喜好对用户进行产品推荐。但是,若用户的购物思想发送改变,仍按照用户的历史操作进行产品推荐,则无法找到适合用户的产品,从而对用户进行推荐的产品不准确。

因此,如何准确的对用户进行产品推荐,为一个亟需解决的技术问题。

发明内容

本申请实施例提供一种基于卷积神经网络的产品推荐方法,可以实时的获取用户的喜好,并根据喜好向用户推荐产品,提高了产品推荐的准确性。

第一方面,本申请实施例提供了一种基于卷积神经网络的产品推荐方法,包括:

获取用户浏览产品展示页面的第一图像帧和第一眼动视频,上述第一图像帧为第一待测视频中的任一图像帧,上述第一待测视频为包括上述用户的眼睛的视频,上述第一眼动视频为包括上述用户注视上述产品展示页面的位置的视频;在确定上述第一图像帧满足注视条件的情况下,确定第二图像帧与上述第一图像帧的差异信息,上述第二图像帧为在上述第一待测视频中与上述第一图像帧相邻的图像帧;在根据上述差异信息确定上述第二图像帧与上述第一图像帧的差异信息满足相似条件的情况下,将上述第一图像帧与上述第二图像帧确定为目标类别下的图像帧;确定在上述第一待测视频中上述目标类别所包括的所有图像帧的时段,得到第一时段,并确定在上述第一眼动视频中上述用户在上述第一时段时注视上述产品展示页面的目标区域;将上述第一图像帧输入至预训练的目标卷积神经网络中,得到上述用户针对上述目标区域的第一兴趣得分,并根据上述第一兴趣得分和上述目标区域所包括的产品信息,向上述用户推荐产品。

进一步地,上述在确定上述第一图像帧满足注视条件的情况下,确定第二图像帧与上述第一图像帧的差异信息之前,还包括:将上述第一待测视频输入预训练的眼睛识别模型中,得到上述眼睛识别模型输出的上述第一待测视频中各个图像帧包括的眼睛信息,上述眼睛信息包括上述用户的眼睛区域,以及上述用户的眼睛中瞳孔的N个不同特征点的位置信息,上述N为大于1的整数;根据上述用户的眼睛区域和上述用户的眼睛中瞳孔的N个不同特征点的位置信息确定上述第一图像帧是否满足注视条件;在确定上述用户的眼睛区域的尺寸在预设尺寸范围内,且上述用户的眼睛中瞳孔的N个不同特征点的位置信息满足静止状态的情况下,确定上述第一图像帧满足上述注视条件。

进一步地,上述用户的眼睛中瞳孔的N个不同特征点包括瞳孔的圆心特征点和瞳孔中N-1个圆周特征点;上述方法还包括:确定上述第一图像帧中上述用户的眼睛中瞳孔的圆心特征点和第一圆周特征点的位置信息,上述第一圆周特征点为上述瞳孔中N-1个圆周特征点中的任一特征点;根据上述第一待测视频的各个图像帧中上述用户的眼睛中瞳孔的圆心特征点和上述第一圆周特征点的位置信息,确定上述圆心特征点所在的第一位置范围和上述第一圆周特征点所在的第二位置范围;在确定上述第一位置范围和上述第二位置范围均小于预设位置范围的情况下,确定上述用户的眼睛中瞳孔的N个不同特征点的位置信息满足静止状态。

进一步地,上述确定第二图像帧与上述第一图像帧的差异信息,包括:计算上述第二图像帧与上述第一图像帧之间匹配像素点的像素差异值,根据上述像素差异值进行二值化处理,得到上述第二图像帧与上述第一图像帧之间的帧间差异二值图;其中,上述帧间差异二值图上的像素值包括第一预设数值和第二预设数值,在上述第二图像帧与上述第一图像帧的匹配像素点的像素值差异值大于预设差异值阈值的情况下,确定上述帧间差异二值图上的相应位置的像素值为第一预设数值,否则,确定上述帧间差异二值图上的相应位置的像素值为第二预设数值;将上述第一预设数值对应的像素点作为上述第二图像帧与上述第一图像帧的差异信息;在上述帧间差异二值图中,上述第一预设数值的像素点的数量小于预设数量阈值的情况下,确定上述第二图像帧与上述第一图像帧的差异信息满足上述相似条件。

进一步地,上述根据上述第一兴趣得分和上述目标区域的所包括的产品信息,向上述用户推荐产品,包括:确定上述产品信息所对应的目标产品标签,根据上述目标产品标签和上述第一兴趣得分确定上述用户的目标用户标签;将上述目标类别中除上述第一图像帧以外的图像帧输入至上述预训练的目标卷积神经网络中,得到各个图像帧中上述用户针对上述目标区域的兴趣得分;根据各个图像帧中上述用户针对上述目标区域的兴趣得分更新上述目标用户标签中的上述第一兴趣得分,得到更新后的目标用户标签;获取上述更新后的目标用户标签对应的待推荐产品,并向上述用户推荐上述待推荐产品。

进一步地,上述方法还包括:若确定上述第一兴趣得分高于预设分数阈值,则获取上述目标产品标签的参考产品信息,上述参考产品信息为上述产品信息的细化产品信息;向上述用户的终端设备发送显示指令,上述显示指令用于指示上述终端设备在用户界面中显示包括上述参考产品信息的参考产品展示页面,并获取上述用户浏览上述参考产品展示页面的第二待测视频和第二眼动视频;将上述第二待测视频输入至上述预训练的目标卷积神经网络中,得到上述用户的针对上述参考产品信息的第二兴趣得分;在上述第二兴趣得分低于上述预设分数阈值的情况下,根据上述第二眼动视频确定上述用户浏览上述参考产品展示页面的低分区域,并根据上述参考产品信息和上述低分区域调整上述待推荐产品。

进一步地,上述参考产品信息包括产品属性,上述根据上述参考产品信息和上述低分区域调整上述待推荐产品,包括:确定上述低分区域对应的目标产品属性,并获取与上述用户的身份信息相似度大于预设相似度阈值的多个参考用户针对上述目标产品属性的用户标签;确定上述参考用户针对上述目标产品属性的用户标签中,兴趣得分低于上述预设分数阈值的个数占总参考用户的个数的比例,在上述比例大于预设比例阈值的情况下,根据上述用户的身份信息调整上述目标产品属性。

第二方面,本申请实施例提供了一种基于卷积神经网络的产品推荐装置,包括:

获取单元,用于获取用户浏览产品展示页面的第一图像帧和第一眼动视频,上述第一图像帧为第一待测视频中的任一图像帧,上述第一待测视频为包括上述用户的眼睛的视频,上述第一眼动视频为包括上述用户注视上述产品展示页面的位置的视频;

确定单元,用于在确定上述第一图像帧满足注视条件的情况下,确定第二图像帧与上述第一图像帧的差异信息,上述第二图像帧为在上述第一待测视频中与上述第一图像帧相邻的图像帧;

上述确定单元,还用于在根据上述差异信息确定上述第二图像帧与上述第一图像帧的差异信息满足相似条件的情况下,将上述第一图像帧与上述第二图像帧确定为目标类别下的图像帧;

上述确定单元,还用于确定在上述第一待测视频中上述目标类别所包括的所有图像帧的时段,得到第一时段,并确定在上述第一眼动视频中上述用户在上述第一时段时注视上述产品展示页面的目标区域;

输入单元,用于将上述第一图像帧输入至预训练的目标卷积神经网络中,得到上述用户针对上述目标区域的第一兴趣得分,并根据上述第一兴趣得分和上述目标区域所包括的产品信息,向上述用户推荐产品。

另外,该方面中,该基于卷积神经网络的产品推荐装置其他可选的实施方式可参阅上述第一方面的相关内容,此处不再详述。

第三方面,本申请实施例提供一种计算机设备,该计算机设备包括存储器和处理器、收发器;上述处理器分别与上述存储器和上述收发器相连,其中,上述存储器存储有计算机程序代码,上述处理器和上述收发器用于调用上述程序代码,执行上述第一方面和/或第一方面任一种可能的实现方式提供的方法。

第四方面,实施例提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,当该计算机程序被计算机设备运行时,实现如第一方面的任一种可能的实现方式所公开的基于卷积神经网络的产品推荐方法。

在本申请实施例中,通过获取用户浏览产品展示页面的包括用户眼睛的待测视频和眼动视频,并对待测视频和眼动视频进行分析,可以实时获取到用户的喜好,其中,通过确定待测视频中的某一图像帧满足注视条件,并确定待测视频中与该图像帧相邻图像帧满足相似条件的情况下,可以将相似的图像帧归为一类,得到目标类别的图像帧。进一步地,对目标类别的图像帧进行分析,具体的,确定相似的图像帧在待测视频中的时段,通过该时段可以确定在眼动视频中,用户注视的目标区域,并根据预训练的目标卷积神经网络确定目标类别的图像帧所对目标区域的兴趣得分。最后,通过兴趣得分和目标区域所包括的产品信息,向用户推荐产品,可以实时根据用户注视的内容确定用户的喜好,并通过对包括用户眼睛的图像进行分析,得到用户的兴趣得分,因此,能够准确并实时的获取用户的喜好,有利于提高向用户推荐的产品的实时性和准确性。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1是本申请实施例提供的一种基于卷积神经网络的产品推荐系统的结构示意图;

图2是本申请实施例提供的一种基于卷积神经网络的产品推荐方法的流程示意图;

图3是本申请实施例提供的一种基于卷积神经网络的产品推荐的另一流程示意图;

图4是本申请实施例提供的一种基于卷积神经网络的产品推荐装置的结构示意图;

图5是本申请实施例提供的一种计算机设备的结构示意图。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

下面结合附图1-附图3对本申请实施例提供的一种基于卷积神经网络的产品推荐方法进行示意性说明。

本申请实施例提供的一种基于卷积神经网络的产品推荐方法可以应用于产品推荐平台中,该产品推荐平台可以承载在基于卷积神经网络的产品推荐系统或者应用程序中。在某些实施例中,上述产品推荐平台可以是指向用户提供产品推荐的平台,可以为用户提供各种产品的产品信息,也可以为用户提供产品交易的渠道。其中,用户为上述产品推荐平台的使用者,通过浏览产品推荐平台推荐的产品和产品信息,进而完成交易。在某些实施例中,产品推荐平台可以与用户的终端设备建立通信连接,用户通过终端设备浏览产品并完成交易。在某些实施例中,上述通信连接的方式可以包括但不限于无线通信技术(Wireless Fidelity,WIFI)、蓝牙、近场通信(Near Field Communication,NFC)等。

具体的,产品推荐平台可以获取用户浏览产品展示页面的第一图像帧和第一眼动视频,该第一图像帧是第一待测视频中的任一图像帧,第一待测视频为包括用户的眼睛的视频,第一眼动视频为包括用户注视产品展示页面的位置的视频。产品推荐平台可以通过实时获取用户的浏览数据,并对浏览数据进行分析,从而能够实时掌握用户的兴趣点。产品推荐平台可以在确定第一图像帧满足注视条件的情况下,确定第二图像帧与第一图像帧的差异信息,第二图像帧为在第一待测视频中与第一图像帧相邻的图像帧,即产品推荐平台首先可以从第一待测视频中筛选出注视产品展示页面的图像帧。进而产品推荐平台可以确定与第一图像帧相邻的第二图像帧与第一图像帧的差异信息,在差异信息满足相似条件的情况下,将第一图像帧和第二图像帧确定为目标类别下的图像帧,即对第一待测视频中的图像帧进行归类,进而对每个类别下的图像帧进行分析,即确定第一待测视频中目标类别所包括的所有图像帧的第一时段,进而确定在第一眼动视频中第一时段用户注视的目标区域,并将目标类别中的第一图像帧输入至预训练的目标卷积神经网络中,得到用户针对目标区域的第一兴趣得分,进而产品推荐平台可以根据第一兴趣得分和目标区域所包括的产品信息,向用户推荐产品。

本申请实施例提出的基于卷积神经网络的产品推荐方法涉及人工智能、机器学习等技术,其中:人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。机器学习是一门多学科交叉专业,涵盖概率论知识,统计学知识,近似理论知识和复杂算法知识,使用计算机作为工具并致力于真实实时的模拟人类学习方式,并将现有内容进行知识结构划分来有效提高学习效率。

基于上述描述,下面结合附图1对本申请实施例提供的一种基于卷积神经网络的产品推荐系统进行示意性说明。

请参阅图1,图1是本申请实施例提供的一种基于卷积神经网络的产品推荐系统的结构示意图。上述基于卷积神经网络的产品推荐系统包括:产品推荐平台101、一个或多个终端设备(例如终端设备102)。其中,一个或多个终端设备(例如终端设备102)可以与产品推荐平台101通过有线或无线的方式进行直接或间接的连接。可选地,该基于卷积神经网络的产品推荐系统还可以包括眼动设备103、拍摄设备104以及一个或多个训练设备(第一训练设备105和第二训练设备106)。眼动设备103可以与一个或多个终端设备(例如终端设备102)通过有线或无线的方式进行直接或间接的连接,该眼动设备103还可以与产品推荐平台101通过有线或无线的方式进行直接或间接的连接。拍摄设备104也可以与一个或多个终端设备(例如终端设备102)通过有线或无线的方式进行直接或间接的连接,该拍摄设备104还可以与产品推荐平台101通过有线或无线的方式进行直接或间接的连接。一个或多个训练设备(如第一训练设备105和第二训练设备106)可以与产品推荐平台101通过有线或无线的方式进行直接或间接的链接。

需要说明的是图1所示的设备数量和形态用于举例,并不构成对本申请实施例的限定,实际应用中该基于卷积神经网络的产品推荐系统还可以包括一个个以上终端设备,或者一个以上产品推荐平台,或者两个以上训练设备。其中,终端设备102可以内置有拍摄设备,即终端设备102和拍摄设备104为同一设备,终端设备102也可以内置眼动设备,即终端设备102可以和眼动设备103为同一设备。产品推荐平台101可以用于训练模型,即产品推荐平台101可以与第一训练设备105和第二训练设备106为同一设备。本申请实施例以一个终端设备(终端设备102),该终端设备102和拍摄设备104为同一设备、一个眼动设备103、一个产品推荐平台101,以及产品推荐平台101与训练设备(第一训练设备105和第二训练设备106)为同一个设备为例进行讲解。

其中,终端设备102为用户所使用的终端设备,产品推荐平台101可以向用户推荐产品,用户通过终端设备查看产品推荐平台101推荐的产品,并与产品推荐平台101进行交互,从而通过眼动设备103获取用户浏览终端设备102中显示的产品展示页面的眼动视频,通过终端设备102内置的拍摄设备获取用户浏览该产品展示页面的待测视频,进而产品推荐平台101可以对获取到的眼动视频和待测视频进行分析,从而更好的向用户进行推荐产品。其中,用户通过终端设备102在产品推荐平台101中注册有账户,产品推荐平台101向用户推荐产品,输出产品展示页面是通过用户的账户实现的。

具体地,当用户开始通过终端设备102浏览产品展示页面时,产品推荐平台101可以获取用户浏览产品推荐页面的待测视频和眼动视频,进而,产品推荐平台101在确定待测视频中的第一图像帧满足注视条件的情况下,确定与第一图像帧相邻的第二图像帧与第一图像帧的差异信息。进一步地,产品推荐平台101在根据差异信息确定第一图像帧和第二图像帧的差异信息满足相似条件的情况下,将第一图像帧和第二图像帧确定为目标类别下的图像帧;进一步地,该产品推荐平台101可以确定在待测视频中,目标类别所包括的所有图像帧的时段,得到第一时段,并确定眼动视频中第一时段用户注视的目标区域。进而产品推荐平台101可以将第一图像帧输入至预训练的目标卷积神经网络中,得到用户针对目标区域的第一兴趣得分,并根据该兴趣得分和目标区域所包括的产品信息向用户推荐产品。从而产品推荐平台101可以根据用户浏览产品展示页面的目标区域和兴趣得分实时确定用户的喜好特征,进而根据用户的喜好给用户推荐产品,能够提高产品推荐的实时性和准确性。

其中,产品推荐平台101用于确定用户针对目标区域的第一兴趣得分的目标卷积神经网络可以是通过第一训练设备105进行预训练得到的。进一步地,产品推荐平台101还可以对上述待测视频进行分析,该待测视频为包括用户的眼睛的视频,则产品推荐平台101还可以通过眼睛识别模型识别出该待测视频中各个图像帧中的眼睛信息,该眼睛识别模型可以是通过第二训练设备106进行训练得到的。

上述产品推荐平台101、上述终端设备102、上述眼动设备103、上述拍摄设备104以及训练设备(第一训练设备105和第二训练设备106)均可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等等;上述产品推荐平台101和还可以是服务器,例如可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器,本申请对此不做限定。

下面对本申请实施例提供的一种基于卷积神经网络的产品推荐方法进一步进行详细描述,请参阅图2,图2是本申请实施例提供的一种基于卷积神经网络的产品推荐方法的流程示意图。其中,如图2所示,该基于卷积神经网络的产品推荐方法可以包括:

201、获取用户浏览产品展示页面的第一图像帧和第一眼动视频。

在本申请实施例中,为了更好的对用户的喜好进行分析,产品推荐平台可以获取用户浏览产品展示页面的第一图像帧和第一眼动视频,进而对该第一图像帧和第一眼动视频进行分析,并根据分析结果向用户推荐产品。其中,第一图像帧为第一待测视频中的任一图像帧,第一待测视频为包括上述用户的眼睛的视频,后续可以根据包括用户眼睛的图像帧分析用户的兴趣得分,从而确定用户的喜好,第一眼动视频为包括用户注视产品展示页面的位置的视频,即在该第一眼动视频中,通过特殊标注标记出用户注视产品展示页面的位置,该特殊标记可以是圆形框等。从而产品推荐平台可以获取到用户浏览的内容,并根据用户的兴趣得分和用户浏览的内容,确定用户的喜好,进而筛选出产品向用户推荐。

202、在确定上述第一图像帧满足注视条件的情况下,确定第二图像帧与上述第一图像帧的差异信息。

在一种可能的实现方式中,产品推荐平台首先在分析的时候,为了准确的分析出用户的情绪,即得到准确的兴趣得分,先从上述第一待测视频中去除未注视产品展示页面的图像帧,即产品推荐平台首先确定第一图像帧是否满足注视条件,若满足,则产品推荐平台进一步对第一图像帧进行分析,若不满足,则产品推荐平台可以将第一图像帧从上述第一待测视频中所包括的图像帧中去除,从而选取该第一待测视频中的另一张图像帧作为第一图像帧,并判断选取的图像帧是否满足注视条件。

具体地,产品推荐平台确定第一图像帧是否满足注视条件,首先可以将第一待测视频输入至预训练的眼睛识别模型,得到该眼睛识别模型输出的第一待测视频中各个图像帧包括的眼睛信息,其中,眼睛信息包括该用户的眼睛区域,以及该用户的眼睛中瞳孔的N个不同特征点的位置信息,进一步地,产品推荐平台可以根据用户的眼睛区域和用户的眼睛中的瞳孔的N个不同特征点的位置信息确定该第一图像帧是否满足注视条件,具体的,产品推荐平台在确定用户的眼睛区域的尺寸在预设尺寸范围内,且该用户的眼睛的瞳孔N个不同特征点的位置信息满足静止状态的情况下,确定上述第一图像帧满足上述注视条件。

可见,当产品推荐平台确定该第一待测视频中各个图像帧包括的眼睛信息中的眼睛区域的尺寸在预设尺寸范围内,即根据眼睛区域的尺寸确定用户在浏览产品展示页面时,与终端设备的距离不是特别靠近也不是特别远的情况下,并确定用户眼睛的瞳孔的位置变化在预设范围内时,即确定用户的瞳孔位置变化不大的情况下,确定该第一图像帧满足注视条件,该产品推荐平台可以进一步对第一图像帧进行分析。

在一种可能的实现方式中,产品推荐平台可以将该第一待测视频中与第一图像帧相似的图像帧进行归类,并对归类后的各个类别下的图像帧进行分析。具体的,产品推荐平台可以计算与第一图像帧相邻的第二图像帧与第一图像帧之间的差异信息,并根据差异信息确定第二图像帧与第一图像帧的差异信息是否满足相似条件,在满足相似条件的情况下,将第二图像帧和第一图像帧归为一类,即将第一图像帧和第二图像帧确定为目标类别下的图像帧。反之,在第一图像帧和第二图像帧的差异信息不满足相似条件的情况下,不将第二图像帧和第一图像帧归为一类,则可以从该第一待测视频中重新选取图像帧作为第一图像帧,并对第一图像帧进行再次归类计算。

具体的,产品推荐平台可以计算第二图像帧与第一图像帧之间匹配的像素点之间的像素差异值,根据该像素差异值进行二值化处理,得到该第二图像帧与第一图像帧之间的帧间差异二值图。其中,第二图像帧与第一图像帧之间匹配的像素点可以是第二图像帧与第一图像帧中同一位置的像素点,像素点之间的像素差异值,可以是第一图像帧的某一像素点的像素值与第二图像帧之间的像素导致的差值,其中,该差值可以取绝对值,即该像素差异值可以不为负数。进而,在该像素点的像素差异值大于预设差异值阈值的情况下,将该像素点的对应在帧间差异二值图上的相应的像素值设置为第一预设数据,反之,在该像素点的像素差异值小于或等于该预设差异值阈值的情况下,将该像素点对应在帧间差异二值图上的相应位置的像素值设置为第二预设数据,从而得到帧间差异二值图。可以理解的是,若第一预设数值为1,第二预设数值为0,则帧间差异二值图为一张只包括黑色像素点和白色像素点的图像,白色像素点的位置为第一预设数值(1)的位置,黑色像素点的位置为第二预设数值(0)的位置。

进一步地,由于第一预设数值是由该像素点的像素差异值大于预设差异值阈值确定的,则可以将第一预设数值对应的像素点作为第二图像帧与第一图像帧的差异信息。

203、在根据上述差异信息确定上述第二图像帧与上述第一图像帧的差异信息满足相似条件的情况下,将上述第一图像帧与上述第二图像帧确定为目标类别下的图像帧。

在一种可能的实现方式中,产品推荐平台确定在上述帧间差异二值图中,第一预设数值对应的像素点的数量小于预设数量阈值的情况下,确定第二图像帧与第一图像帧的差异信息满足相似条件;反之,产品推荐平台确定在上述帧间差异二值图中,第一预设数值对应的像素点的数量大于或等于预设数量阈值的情况下,确定第二图像帧与第一图像帧的差异信息不满足相似条件。

可选地,产品推荐平台在确定第一图像帧与第二图像帧的差异信息满足相似条件的情况下,可以进一步确定第一图像帧与第二图像帧的相邻图像帧的差异信息是否满足相似条件,或者进一步确定第二图像帧与该第二图像帧的相邻图像帧的差异信息是否满足相似条件;若满足,则可以将第一图像帧、第二图像帧以及第二图像帧的相邻图像帧确定为同一类别的图像帧,以便后续分析。

在一种可能的实现方式中,在产品推荐平台确定第二图像帧与第一图像帧的差异信息满足相似条件的情况下,将第一图像帧与第二图像帧确定为目标类别下的图像帧,即第一图像帧和第二图像帧为同一类别的图像帧。其中,目标类别中可以包括多个图像帧,多个图像帧均为相邻的图像帧,即连续的图像帧,则产品推荐平台可以确定该目标类别下包括的所有图像帧的时段,进而根据该时段对应在上述第一眼动视频中用户注视的区域,确定用户的喜好,并根据喜好向用户推荐产品。

204、确定在上述第一待测视频中上述目标类别所包括的所有图像帧的时段,得到第一时段,并确定在上述第一眼动视频中上述用户在上述第一时段时注视上述产品展示页面的目标区域。

在一个可能的实现方式中,可以理解的是,第一待测视频是由多帧图像构成,每一帧图像分别占用该第一待测视频中的一个单位时段,目标类别的图像帧包括多个图像帧,且该多个图像帧为连续的图像帧,则可以根据目标类别的图像帧中各个图像帧占用该第一待测视频中的单位时段,确定第一待测视频中目标类别所包括的所有图像帧所占用的时段,得到第一时段。由于第一待测视频和第一眼动视频为同时开始拍摄,同时结束拍摄,拍摄时长相同。则可以根据在第一眼动视频中的第一时段,确定在该第一眼动视频中用户在第一时段中的浏览该产品展示页面的区域,得到目标区域。

其中,若在第一眼动视频中的第一时段,用户浏览的区域并未发生变化,则目标区域包括的产品信息可以是该浏览的区域所包括的产品信息,若用户浏览的区域发生变化,则可以将用户所浏览的区域中发生变化之前的区域和发生变化之后的区域所包括的产品信息。

205、将上述第一图像帧输入至预训练的目标卷积神经网络中,得到上述用户针对上述目标区域的第一兴趣得分,并根据上述第一兴趣得分和上述目标区域所包括的产品信息,向上述用户推荐产品。

在一种可能的实现方式中,在确定用户浏览的目标区域之后,可以将第一图像帧输入至目标卷积神经网络中,得到该目标卷积神经网络输出的该用户针对该目标区域的第一兴趣得分。

其中,卷积神经网络(Convolutional Neuron Network,CNN)是一种包括卷积结构的神经网络,是一种深度学习(deep learning)的架构。CNN包含了由卷积层和子采样层构成的特征抽取器,其中,该特征抽取器可以被认为是滤波器,卷积的过程则是使用一个预训练的滤波器与一个输入的数据(如图像数据)或者卷积特征平面(feature map)做卷积。卷积层是指CNN中对输入信号进行卷积处理的神经元层。在CNN的卷积层中,一个神经元可以与部分相邻层的神经元进行连接。在CNN的一个卷积层中,可以包含多个特征平面,每个特征平面可以由一些矩形排列的神经单元组成。同一特征平面的神经单元共享卷积核,即权重。卷积核可以通过矩阵的形式进行初始化,在CNN的训练过程中卷积核可以通过学习得到合理的权重。

在将第一图像帧输入至目标卷积神经网络之前,可以对该目标卷积神经网络进行训练,即可以获取训练样本集,该训练样本集中的各个训练样本可以包括眼睛的图像,对各个训练样本携带兴趣得分的标签,兴趣得分用于表示感兴趣程度,其中,兴趣得分可以为大于零的数,也可以为在一个预设区间内的数,例如兴趣得分可以是-10分到10分之间的数。通过该训练样本集的各个训练样本对初始卷积神经网络进行训练,得到训练损失,并通过训练损失对该初始卷积神经网络的参数进行调节,并听过训练样本集中各个训练样本对该初始卷积神经网络进行迭代训练,直至得到的训练损失满足训练结束条件,则确定训练损失满足训练结束条件的初始卷积神经网络为目标卷积神经网络。其中,训练结束条件可以是该训练损失的值收敛,也可以是其他训练结束条件,本申请对此不做限定。

在一种可能的实现方式中,该第一兴趣得分可以表示该用户对该目标区域所包括的内容的感兴趣程度。则产品推荐平台可以根据该目标区域所包括的产品信息和感兴趣程度(即第一兴趣得分),向用户推荐产品。具体的,产品推荐平台可以确定该目标区域包括的产品信息所对应的目标产品标签,根据该目标产品标签和该第一兴趣得分确定用户的目标用户标签,其中,该目标用户标签包括两部分,第一部分是标签部分,即将该目标产品标签作为该目标用户标签的标签部分,第二部分是权重部分,即将该第一兴趣得分作为该目标用户标签的权重。

其中,由于对该目标区域的第一兴趣得分是通过目标卷积神经网络对第一图像帧进行处理得到的,可能会不精确,因此,可以将目标类别中除该第一图像帧以外的其他图像帧均输入至该预训练的目标卷积神经网络中,得到各个图像帧中该用户对目标区域的兴趣得分,可以理解的是,目标卷积神经网络可以对目标类别下的除第一图像帧以外的其他图像帧进行处理,得到各个图像帧对应的兴趣得分,进而根据各个图像帧对应的兴趣得分更新第一兴趣得分,进而得到更新后的目标用户标签。

具体的,可以将各个图像帧的兴趣得分与第一兴趣得分的平均分作为更新后的第一兴趣得分;也可以为第一图像帧的第一兴趣得分设置第一权重,为目标类别下的其余图像帧设置第二权重,根据第一权重和第一兴趣得分以及第二权重和目标类别下各个图像帧的兴趣得分的加权平均结果作为更新后的第一兴趣得分。通过对第一兴趣得分进行更新可以减小仅通过第一图像帧确定兴趣得分带来的误差,从而能够更为准确的确定目标用户标签,进而为用户推荐产品更准确。

在得到更新后的目标用户标签后,根据目标用户标签可以获取该目标用户标签对应的待推荐产品,并向用户推荐该待推荐产品。示例性的,当目标区域是产品展示页面中某一产品的产品信息,则可以将该该产品的目标产品标签作为目标用户标签的标签部分,例如,该产品展示页面中可以展示该产品的主要信息,以理财产品的场景为例进行讲解,该产品展示页面可以分别展示几种不同类别的产品,例如可以是低风险的产品、中风险的产品以及高风险的产品,可以在产品展示页分别展示收益率、理财期限以及产品名称等等。若该用户浏览的目标区域为高风险产品的区域,且目标用户标签中的兴趣得分表示该用户对该高风险产品比较感兴趣,则可以根据该产品的产品信息,例如高风险产品,获取其他股票、债券类型的产品进行推荐。

在一个可能的实现方式中,若确定该第一兴趣得分高于预设分数阈值,则确定用户对该目标区域的产品信息非常感兴趣,则可以获取该目标产品标签的参考产品信息,该参考产品信息可以为该产品信息的细化产品信息。以上述目标区域包括高风险理财产品为例,则产品推荐平台可以获取该目标区域包括的产品的细化产品信息,可以该产品的产品属性,例如可以是该产品的风险等级、风险等级、买入时间、卖出时间等等。

进一步地,产品推荐平台可以向用户的终端设备发送显示指令,该显示指令用于指示该终端设备显示获取到的参考产品信息,即将获取到的该产品的产品属性显示在显示界面中,得到参考产品展示页面,以使用户再次浏览,并再次获取用户浏览该参考产品展示页面,并获取该用户浏览该参考产品展示页面的第二待测视频和第二眼动视频,该第二待测视频也是包括用户眼睛的视频,第二眼动视频是包括用户浏览该参考产品展示页面的注视位置的视频。并将第二待测视频中各个图像帧输入至预训练的目标卷积神经网络中,得到用户针对该参考产品信息的第二兴趣得分。

可以理解的是,若用户的第二兴趣得分也高于预设分数阈值,确定用户对参考产品信息也比较感兴趣,则可以根据参考产品信息对应的产品标签以及第一兴趣得分确定用户标签,该用户标签可以是目标用户标签的细化标签,进而该产品推荐平台可以根据目标用户标签和用户标签向用户推荐产品。若用户的第二兴趣得分低于该预设分数阈值,则确定该用户对参考产品信息不是特别感兴趣,则可以根据第二兴趣得分所在的时段确定第二眼动视频中用户浏览的区域,确定为低分区域,进而根据该参考产品信息中的低分区域的产品信息调整该待推荐产品,即优化该待推荐产品。

具体的,例如,上述参考产品信息可以包括产品的风险等级、风险等级、买入时间、卖出时间,若低分区域包括的产品信息为卖出时间,则产品推荐平台可以优化所运营的产品,例如,可以确定低分区域对应的目标产品属性,即该参考产品信息中的卖出时间属性,进而获取与该用户的身份信息相似度大于预设相似度阈值的多个参考用户针对该目标产品属性的用户标签,即获取与该用户类似的多个参考用户针对该目标产品属性的用户标签中的兴趣得分,进一步确定与该用户类似的多个参考用户对该目标产品属性的感兴趣程度,若确定多个参考用户的用户标签中的兴趣得分低于该预设分数阈值的个数占总参考用户的个数的比例,在该比例大于预设比例阈值的情况下,根据该用户的身份信息调整该目标产品属性。

示例性的,若多个参考用户中大部分的参考用户针对该目标产品属性,例如卖出时间的感兴趣程度较低,则可以根据该用户的身份信息优化该产品。例如可以在确定该用户的身份信息中收入在高于预设收入阈值的情况下,调整该产品的卖出时间,并增加违约金的选项,从而用户可以改变卖出时间,但需要付违约金,从而完成对该待推荐产品的优化。进一步地,该产品推荐平台可以将优化后的产品推荐给该用户。

可选地,在将优化后的产品推荐给该用户后,还可以获取该用户浏览该优化后的产品的待测视频和眼动视频,并对该用户浏览的情况进行分析,从而进行更好的推荐。

在本申请实施例中,通过获取用户浏览产品展示页面的包括用户眼睛的待测视频和眼动视频,并对待测视频和眼动视频进行分析,可以实时获取到用户的喜好,其中,通过确定待测视频中的某一图像帧满足注视条件,并确定待测视频中与该图像帧相邻图像帧满足相似条件的情况下,可以将相似的图像帧归为一类,得到目标类别的图像帧。进一步地,对目标类别的图像帧进行分析,具体的,确定相似的图像帧在待测视频中的时段,通过该时段可以确定在眼动视频中,用户注视的目标区域,并根据预训练的目标卷积神经网络确定目标类别的图像帧所对目标区域的兴趣得分。最后,通过兴趣得分和目标区域所包括的产品信息,向用户推荐产品,可以实时根据用户注视的内容确定用户的喜好,并通过对包括用户眼睛的图像进行分析,得到用户的兴趣得分,因此,能够准确并实时的获取用户的喜好,有利于提高向用户推荐的产品的实时性和准确性。

请参阅图3,图3是本申请实施例提供的一种基于卷积神经网络的产品推荐方法的流程示意图。其中,需要说明的是,本申请中各个实施例之间相同或相似的部分可以互相参考。在本申请中各个实施例、以及各实施例中的各个实施方式/实施方法/实现方法中,如果没有特殊说明以及逻辑冲突,不同的实施例之间、以及各实施例中的各个实施方式/实施方法/实现方法之间的术语和/或描述具有一致性、且可以相互引用,不同的实施例、以及各实施例中的各个实施方式/实施方法/实现方法中的技术特征根据其内在的逻辑关系可以组合形成新的实施例、实施方式、实施方法、或实现方法。以上上述的本申请实施方式并不构成对本申请保护范围的限定。如图3所示,该基于卷积神经网络的产品推荐方法可以包括:

301、将上述第一待测视频输入预训练的眼睛识别模型中,得到上述眼睛识别模型输出的上述第一待测视频中各个图像帧包括的眼睛信息,上述眼睛信息包括上述用户的眼睛区域,以及上述用户的眼睛中瞳孔的N个不同特征点的位置信息。

在一种可能的实现方式中,将第一待测视频输入至预训练的眼睛识别模型中,得到该第一待测视频中各个图像帧所包括的眼睛信息,其中,眼睛信息包括识别出的第一待测视频中各个图像帧中的眼睛区域,以及该眼睛中瞳孔的N个不同特征点的位置。

可选地,在将第一待测视频输入至眼睛识别模型之前,可以对该眼睛识别模型进行训练,具体的,可以获取有标记的训练样本集,该训练样本集中各个图像样本中可以标记出眼睛的区域,并可以包括眼睛中瞳孔的特征点位置。其中,眼睛中瞳孔的特征点可以是瞳孔的圆心特征点以及瞳孔的圆周特征点。进而将训练样本集输入至眼睛识别模型中,该眼睛识别模型也可以是初始CNN,也可以是其他实现方式,本申请对此不做限定。在将训练样本集中各个样本对该初始眼睛识别模型进行迭代训练,直至训练损失达到训练结束条件,例如可以是损失收敛(损失趋近于最小值)等,则可以将训练损失达到训练结束条件的初始眼睛识别模型确定为眼睛识别模型。

302、根据上述用户的眼睛区域和上述用户的眼睛中瞳孔的N个不同特征点的位置信息确定上述第一图像帧是否满足注视条件。

在一种可能的实现方式中,其中,用户的眼睛区域可以是包括用户每一个眼睛的区域,用户的眼睛中瞳孔的N个不同特征点可以是1个瞳孔的圆心特征点以及N-1个圆周特征点。例如,N可以为3,即N个特征点可以是瞳孔的圆心和瞳孔圆周上的0度和180度的特征点。N可以为5,即N个特征点可以是瞳孔的圆心和瞳孔圆周上的0度、90度、180度和270度的特征点。可选地,若N为0的情况,确定用户为闭眼状态,则可以重新从第一待测视频中选取一张图像作为第一图像帧输入至眼睛识别模型中进行检测。

进一步地,产品推荐平台可以根据眼睛识别模型输出的眼睛区域以及用户的眼睛中瞳孔的N个不同特征点的位置信息确定第一图像帧中用户是否满足注视条件。具体的,产品推荐平台可以确定用户的眼睛区域的尺寸是否在预设范围内,且可以根据用户的眼睛中瞳孔的N个不同特征点的位置信息是否满足静止状态的,若均满足,则确定该第一图像帧满足注视状态。反之,若有一个不满足,则确定该第一图像帧不满足该注视状态,则可以从第一待测视频中去除该第一图像帧,并重新选取一个图像帧作为第一图像帧进行处理。

303、在确定上述用户的眼睛区域的尺寸在预设尺寸范围内,且上述用户的眼睛中瞳孔的N个不同特征点的位置信息满足静止状态的情况下,确定上述第一图像帧满足上述注视条件。

在一种可能的实现方式中,确定用户的眼睛区域的尺寸是否在预设范围内是为了确定用户距离拍摄设备的距离,例如拍摄设备为用户的终端设备,则用户距离该终端设备较远的距离,则眼睛区域的尺寸较小,用户可能并未浏览该终端设备显示的产品展示页面,同理,若用户距离该终端设备较近的距离,则眼睛区域的尺寸较大,则用户也可能并未浏览该终端设备显示的产品展示页面。

进一步的,产品推荐平台可以根据第一待测视频中各个图像帧中用户的眼睛中瞳孔的圆心特征点和各个圆周特征点(例如第一圆周特征点)的位置信息,确定该圆心特征点所在的第一位置范围,确定该圆周特征点所在的第二位置范围。

具体的,第一待测视频包括多个图像帧,确定用户的眼睛中瞳孔的圆心特征点在各个图像帧中的位置可能各不相同,则可以通过多点拟合圆的方式,确定各个圆心特征点所在的位置范围,也可以根据多个圆心特征点的位置信息,确定最小能包括所有圆心特征点的矩形框,将该矩形框作为该圆心特征点的位置范围。同理,对于某一圆周特征点来说,可以根据该第一待测视频中各个图像帧中某一圆周特征点的位置信息,确定该圆周特征点的位置范围,得到第二位置范围。

由于在静止状态下,用户才可能浏览终端设备上的产品展示页面,则通过对瞳孔位置的检测,确定瞳孔的圆心特征点和圆周特征点的位置范围均在预设位置范围内时,确定用户的眼睛中瞳孔的位置变化不大,则满足静止状态,从而才能满足注视状态。

进一步地,在该第一图像帧满足注视条件的情况下,可以对第一图像帧进行归类,得到目标类别的图像帧,并对目标类别的图像帧进行分析。

在本申请实施例中,通过获取用户浏览产品展示页面的包括用户眼睛的待测视频和眼动视频,并对待测视频和眼动视频进行分析,可以实时获取到用户的喜好,其中,通过确定待测视频中的某一图像帧满足注视条件,并确定待测视频中与该图像帧相邻图像帧满足相似条件的情况下,可以将相似的图像帧归为一类,得到目标类别的图像帧。进一步地,对目标类别的图像帧进行分析,具体的,确定相似的图像帧在待测视频中的时段,通过该时段可以确定在眼动视频中,用户注视的目标区域,并根据预训练的目标卷积神经网络确定目标类别的图像帧所对目标区域的兴趣得分。最后,通过兴趣得分和目标区域所包括的产品信息,向用户推荐产品,可以实时根据用户注视的内容确定用户的喜好,并通过对包括用户眼睛的图像进行分析,得到用户的兴趣得分,因此,能够准确并实时的获取用户的喜好,有利于提高向用户推荐的产品的实时性和准确性。

请参阅图4,图4是本申请实施例提供的一种基于卷积神经网络的产品推荐装置的结构示意图,上述基于卷积神经网络的产品推荐装置400包括:

获取单元401,用于获取用户浏览产品展示页面的第一图像帧和第一眼动视频,上述第一图像帧为第一待测视频中的任一图像帧,上述第一待测视频为包括上述用户的眼睛的视频,上述第一眼动视频为包括上述用户注视上述产品展示页面的位置的视频;

确定单元402,用于在确定上述第一图像帧满足注视条件的情况下,确定第二图像帧与上述第一图像帧的差异信息,上述第二图像帧为在上述第一待测视频中与上述第一图像帧相邻的图像帧;

上述确定单元402,还用于在根据上述差异信息确定上述第二图像帧与上述第一图像帧的差异信息满足相似条件的情况下,将上述第一图像帧与上述第二图像帧确定为目标类别下的图像帧;

上述确定单元402,还用于确定在上述第一待测视频中上述目标类别所包括的所有图像帧的时段,得到第一时段,并确定在上述第一眼动视频中上述用户在上述第一时段时注视上述产品展示页面的目标区域;

输入单元403,用于将上述第一图像帧输入至预训练的目标卷积神经网络中,得到上述用户针对上述目标区域的第一兴趣得分,并根据上述第一兴趣得分和上述目标区域所包括的产品信息,向上述用户推荐产品。

进一步地,上述确定单元402在确定上述第一图像帧满足注视条件的情况下,确定第二图像帧与上述第一图像帧的差异信息之前,还用于:

将上述第一待测视频输入预训练的眼睛识别模型中,得到上述眼睛识别模型输出的上述第一待测视频中各个图像帧包括的眼睛信息,上述眼睛信息包括上述用户的眼睛区域,以及上述用户的眼睛中瞳孔的N个不同特征点的位置信息,上述N为大于1的整数;

根据上述用户的眼睛区域和上述用户的眼睛中瞳孔的N个不同特征点的位置信息确定上述第一图像帧是否满足注视条件;

在确定上述用户的眼睛区域的尺寸在预设尺寸范围内,且上述用户的眼睛中瞳孔的N个不同特征点的位置信息满足静止状态的情况下,确定上述第一图像帧满足上述注视条件。

进一步地,上述用户的眼睛中瞳孔的N个不同特征点包括瞳孔的圆心特征点和瞳孔中N-1个圆周特征点;上述确定单元402,还用于确定上述第一图像帧中上述用户的眼睛中瞳孔的圆心特征点和第一圆周特征点的位置信息,上述第一圆周特征点为上述瞳孔中N-1个圆周特征点中的任一特征点;

根据上述第一待测视频的各个图像帧中上述用户的眼睛中瞳孔的圆心特征点和上述第一圆周特征点的位置信息,确定上述圆心特征点所在的第一位置范围和上述第一圆周特征点所在的第二位置范围;

在确定上述第一位置范围和上述第二位置范围均小于预设位置范围的情况下,确定上述用户的眼睛中瞳孔的N个不同特征点的位置信息满足静止状态。

进一步地,上述确定单元402用于确定第二图像帧与上述第一图像帧的差异信息,具体用于:

计算上述第二图像帧与上述第一图像帧之间匹配像素点的像素差异值,根据上述像素差异值进行二值化处理,得到上述第二图像帧与上述第一图像帧之间的帧间差异二值图;

其中,上述帧间差异二值图上的像素值包括第一预设数值和第二预设数值,在上述第二图像帧与上述第一图像帧的匹配像素点的像素值差异值大于预设差异值阈值的情况下,确定上述帧间差异二值图上的相应位置的像素值为第一预设数值,否则,确定上述帧间差异二值图上的相应位置的像素值为第二预设数值;

将上述第一预设数值对应的像素点作为上述第二图像帧与上述第一图像帧的差异信息;

在上述帧间差异二值图中,上述第一预设数值的像素点的数量小于预设数量阈值的情况下,确定上述第二图像帧与上述第一图像帧的差异信息满足上述相似条件。

进一步地,上述输入单元403用于根据上述第一兴趣得分和上述目标区域的所包括的产品信息,向上述用户推荐产品,具体用于:

确定上述产品信息所对应的目标产品标签,根据上述目标产品标签和上述第一兴趣得分确定上述用户的目标用户标签;

将上述目标类别中除上述第一图像帧以外的图像帧输入至上述预训练的目标卷积神经网络中,得到各个图像帧中上述用户针对上述目标区域的兴趣得分;

根据各个图像帧中上述用户针对上述目标区域的兴趣得分更新上述目标用户标签中的上述第一兴趣得分,得到更新后的目标用户标签;

获取上述更新后的目标用户标签对应的待推荐产品,并向上述用户推荐上述待推荐产品。

进一步地,上述获取单元401,还用于若确定上述第一兴趣得分高于预设分数阈值,则获取上述目标产品标签的参考产品信息,上述参考产品信息为上述产品信息的细化产品信息;

发送单元404,用于向上述用户的终端设备发送显示指令,上述显示指令用于指示上述终端设备在用户界面中显示包括上述参考产品信息的参考产品展示页面,并获取上述用户浏览上述参考产品展示页面的第二待测视频和第二眼动视频;

上述输入单元403,还用于将上述第二待测视频输入至上述预训练的目标卷积神经网络中,得到上述用户的针对上述参考产品信息的第二兴趣得分;

上述确定单元402,还用于在上述第二兴趣得分低于上述预设分数阈值的情况下,根据上述第二眼动视频确定上述用户浏览上述参考产品展示页面的低分区域,并根据上述参考产品信息和上述低分区域调整上述待推荐产品。

进一步地,上述参考产品信息包括产品属性,上述确定单元402用于根据上述参考产品信息和上述低分区域调整上述待推荐产品,具体用于:

确定上述低分区域对应的目标产品属性,并获取与上述用户的身份信息相似度大于预设相似度阈值的多个参考用户针对上述目标产品属性的用户标签;

确定上述参考用户针对上述目标产品属性的用户标签中,兴趣得分低于上述预设分数阈值的个数占总参考用户的个数的比例,在上述比例大于预设比例阈值的情况下,根据上述用户的身份信息调整上述目标产品属性。

有关上述获取单元401、确定单元402、输入单元403以及发送单元404详细的描述可以直接参考上述图2至图3所示的方法实施例中的相关描述直接得到,这里不加赘述。

在本申请实施例中,通过获取用户浏览产品展示页面的包括用户眼睛的待测视频和眼动视频,并对待测视频和眼动视频进行分析,可以实时获取到用户的喜好,其中,通过确定待测视频中的某一图像帧满足注视条件,并确定待测视频中与该图像帧相邻图像帧满足相似条件的情况下,可以将相似的图像帧归为一类,得到目标类别的图像帧。进一步地,对目标类别的图像帧进行分析,具体的,确定相似的图像帧在待测视频中的时段,通过该时段可以确定在眼动视频中,用户注视的目标区域,并根据预训练的目标卷积神经网络确定目标类别的图像帧所对目标区域的兴趣得分。最后,通过兴趣得分和目标区域所包括的产品信息,向用户推荐产品,可以实时根据用户注视的内容确定用户的喜好,并通过对包括用户眼睛的图像进行分析,得到用户的兴趣得分,因此,能够准确并实时的获取用户的喜好,有利于提高向用户推荐的产品的实时性和准确性。

请参阅图5,图5是本申请实施例提供的一种计算机设备的结构示意图,如图5所示,本申请实施例中的计算机设备500可以包括:

处理器501,收发器502和存储器505,此外,上述计算机设备500还可以包括:用户接口504,和至少一个通信总线503。其中,通信总线503用于实现这些组件之间的连接通信。其中,用户接口504可以包括显示屏(Display)、键盘(Keyboard),存储器505可以是高速RAM存储器,也可以是非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。存储器505可选的还可以是至少一个位于远离前述处理器501和前述收发器502的存储装置。如图5所示,作为一种计算机存储介质的存储器505中可以包括操作系统、网络通信模块、用户接口模块以及设备控制应用程序。

在图5所示的计算机设备500中,收发器502可提供网络通讯功能,以使服务器间可进行通信;而用户接口504主要用于为用户提供输入的接口;而处理器501可以用于调用存储器505中存储的设备控制应用程序,执行如下操作:

上述处理器501,用于获取用户浏览产品展示页面的第一图像帧和第一眼动视频,上述第一图像帧为第一待测视频中的任一图像帧,上述第一待测视频为包括上述用户的眼睛的视频,上述第一眼动视频为包括上述用户注视上述产品展示页面的位置的视频;

上述处理器501,用于在确定上述第一图像帧满足注视条件的情况下,确定第二图像帧与上述第一图像帧的差异信息,上述第二图像帧为在上述第一待测视频中与上述第一图像帧相邻的图像帧;

上述处理器501,用于在根据上述差异信息确定上述第二图像帧与上述第一图像帧的差异信息满足相似条件的情况下,将上述第一图像帧与上述第二图像帧确定为目标类别下的图像帧;

上述处理器501,用于确定在上述第一待测视频中上述目标类别所包括的所有图像帧的时段,得到第一时段,并确定在上述第一眼动视频中上述用户在上述第一时段时注视上述产品展示页面的目标区域;

上述处理器501,用于将上述第一图像帧输入至预训练的目标卷积神经网络中,得到上述用户针对上述目标区域的第一兴趣得分,并根据上述第一兴趣得分和上述目标区域所包括的产品信息,向上述用户推荐产品。

在一种可能的实现方式中,上述处理器501在确定上述第一图像帧满足注视条件的情况下,确定第二图像帧与上述第一图像帧的差异信息之前,还用于将上述第一待测视频输入预训练的眼睛识别模型中,得到上述眼睛识别模型输出的上述第一待测视频中各个图像帧包括的眼睛信息,上述眼睛信息包括上述用户的眼睛区域,以及上述用户的眼睛中瞳孔的N个不同特征点的位置信息,上述N为大于1的整数;

根据上述用户的眼睛区域和上述用户的眼睛中瞳孔的N个不同特征点的位置信息确定上述第一图像帧是否满足注视条件;

在确定上述用户的眼睛区域的尺寸在预设尺寸范围内,且上述用户的眼睛中瞳孔的N个不同特征点的位置信息满足静止状态的情况下,确定上述第一图像帧满足上述注视条件。

在一种可能的实现方式中,上述用户的眼睛中瞳孔的N个不同特征点包括瞳孔的圆心特征点和瞳孔中N-1个圆周特征点;上述处理器501,还用于:

确定上述第一图像帧中上述用户的眼睛中瞳孔的圆心特征点和第一圆周特征点的位置信息,上述第一圆周特征点为上述瞳孔中N-1个圆周特征点中的任一特征点;

根据上述第一待测视频的各个图像帧中上述用户的眼睛中瞳孔的圆心特征点和上述第一圆周特征点的位置信息,确定上述圆心特征点所在的第一位置范围和上述第一圆周特征点所在的第二位置范围;

在确定上述第一位置范围和上述第二位置范围均小于预设位置范围的情况下,确定上述用户的眼睛中瞳孔的N个不同特征点的位置信息满足静止状态。

在一种可能的实现方式中,上述处理器501,用于确定第二图像帧与上述第一图像帧的差异信息,具体用于:

计算上述第二图像帧与上述第一图像帧之间匹配像素点的像素差异值,根据上述像素差异值进行二值化处理,得到上述第二图像帧与上述第一图像帧之间的帧间差异二值图;

其中,上述帧间差异二值图上的像素值包括第一预设数值和第二预设数值,在上述第二图像帧与上述第一图像帧的匹配像素点的像素值差异值大于预设差异值阈值的情况下,确定上述帧间差异二值图上的相应位置的像素值为第一预设数值,否则,确定上述帧间差异二值图上的相应位置的像素值为第二预设数值;

将上述第一预设数值对应的像素点作为上述第二图像帧与上述第一图像帧的差异信息;

在上述帧间差异二值图中,上述第一预设数值的像素点的数量小于预设数量阈值的情况下,确定上述第二图像帧与上述第一图像帧的差异信息满足上述相似条件。

在一种可能的实现方式中,上述处理器501,用于根据上述第一兴趣得分和上述目标区域的所包括的产品信息,向上述用户推荐产品,具体用于:

确定上述产品信息所对应的目标产品标签,根据上述目标产品标签和上述第一兴趣得分确定上述用户的目标用户标签;

将上述目标类别中除上述第一图像帧以外的图像帧输入至上述预训练的目标卷积神经网络中,得到各个图像帧中上述用户针对上述目标区域的兴趣得分;

根据各个图像帧中上述用户针对上述目标区域的兴趣得分更新上述目标用户标签中的上述第一兴趣得分,得到更新后的目标用户标签;

获取上述更新后的目标用户标签对应的待推荐产品,并向上述用户推荐上述待推荐产品。

在一种可能的实现方式中,上述处理器501,还用于:

若确定上述第一兴趣得分高于预设分数阈值,则获取上述目标产品标签的参考产品信息,上述参考产品信息为上述产品信息的细化产品信息;

控制上述收发器502向上述用户的终端设备发送显示指令,上述显示指令用于指示上述终端设备在用户界面中显示包括上述参考产品信息的参考产品展示页面,并获取上述用户浏览上述参考产品展示页面的第二待测视频和第二眼动视频;

将上述第二待测视频输入至上述预训练的目标卷积神经网络中,得到上述用户的针对上述参考产品信息的第二兴趣得分;

在上述第二兴趣得分低于上述预设分数阈值的情况下,根据上述第二眼动视频确定上述用户浏览上述参考产品展示页面的低分区域,并根据上述参考产品信息和上述低分区域调整上述待推荐产品。

在一种可能的实现方式中,参考产品信息包括产品属性,上述处理器501用于根据上述参考产品信息和上述低分区域调整上述待推荐产品,具体用于:

确定上述低分区域对应的目标产品属性,并获取与上述用户的身份信息相似度大于预设相似度阈值的多个参考用户针对上述目标产品属性的用户标签;

确定上述参考用户针对上述目标产品属性的用户标签中,兴趣得分低于上述预设分数阈值的个数占总参考用户的个数的比例,在上述比例大于预设比例阈值的情况下,根据上述用户的身份信息调整上述目标产品属性。

应当理解,在一些可行的实施方式中,上述处理器501可以是中央处理单元(central processing unit,CPU),该处理器501还可以是其他通用处理器、数字信号处理器(digital signal processor,DSP)、专用集成电路(application specific integratedcircuit,ASIC)、现成可编程门阵列(field-programmable gate array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

该存储器505可以包括只读存储器和随机存取存储器,并向处理器提供指令和数据。存储器505的一部分还可以包括非易失性随机存取存储器。

具体实现中,上述计算机设备500可通过其内置的各个功能模块执行如上述图2和图3中各个步骤所提供的实现方式,具体可参见上述各个步骤所提供的实现方式,在此不再赘述。

在本申请实施例中,通过获取用户浏览产品展示页面的包括用户眼睛的待测视频和眼动视频,并对待测视频和眼动视频进行分析,可以实时获取到用户的喜好,其中,通过确定待测视频中的某一图像帧满足注视条件,并确定待测视频中与该图像帧相邻图像帧满足相似条件的情况下,可以将相似的图像帧归为一类,得到目标类别的图像帧。进一步地,对目标类别的图像帧进行分析,具体的,确定相似的图像帧在待测视频中的时段,通过该时段可以确定在眼动视频中,用户注视的目标区域,并根据预训练的目标卷积神经网络确定目标类别的图像帧所对目标区域的兴趣得分。最后,通过兴趣得分和目标区域所包括的产品信息,向用户推荐产品,可以实时根据用户注视的内容确定用户的喜好,并通过对包括用户眼睛的图像进行分析,得到用户的兴趣得分,因此,能够准确并实时的获取用户的喜好,有利于提高向用户推荐的产品的实时性和准确性。

此外,这里需要指出的是:本申请实施例还提供了一种计算机可读存储介质,且上述计算机可读存储介质中存储有前文提及的计算机设备所执行的计算机程序,且上述计算机程序包括程序指令,当上述处理器执行上述程序指令时,能够执行前文图2或图3任一个所对应实施例中的对任一方法的描述,因此,这里将不再进行赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。对于本申请所涉及的计算机可读存储介质实施例中未披露的技术细节,请参照本申请方法实施例的描述。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序指令相关的硬件来完成,上述的程序可存储于一计算机可读存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,上述的存储介质可为磁碟、光盘、只读存储记忆体(read-only memory,ROM)或随机存储记忆体(random accessmemory,RAM)等。

需要强调的是,为进一步保证上述数据的私密和安全性,上述数据还可以存储于一区块链的节点中。其中,本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

以上所揭露的仅为本申请较佳实施例而已,当然不能以此来限定本申请之权利范围,因此依本申请权利要求所作的等同变化,仍属本申请所涵盖的范围。

相关技术
  • 一种基于卷积神经网络的产品推荐方法及相关设备
  • 一种基于生命周期的产品信息推荐方法、装置及相关设备
技术分类

06120113677321