一种提示信息展示方法、装置、设备及存储介质
文献发布时间:2023-06-19 10:27:30
技术领域
本公开涉及增强现实(Augmented Reality,AR)技术领域,具体而言,涉及一种提示信息展示方法、装置、设备及存储介质。
背景技术
随着AR技术的发展,AR技术已经逐渐应用到各行各业中。一般的,用户在观看AR展示画面时,用户所关注的内容在于AR展示画面中的虚拟物,沉浸感较强;然而这种方法容易导致用户在移动过程中,仅仅关注AR画面中的虚拟物而忽略当前所处的环境,进而导致危险事件的发生。
例如,若位置点A处放置了一虚拟物,用户位于位置点B,从位置点B到位置点A之间存在台阶,用户在基于AR设备观看到位置点A的虚拟物之后,在向位置点A的移动过程中,可能会忽略现实场景中的台阶,进而发生跌倒等事故。
发明内容
本公开实施例至少提供一种提示信息展示方法、装置、设备及存储介质。
第一方面,本公开实施例提供了一种提示信息展示方法,包括:
获取AR设备拍摄的目标场景的实景图像;
基于所述实景图像和预先建立的所述目标场景的三维场景模型,确定所述AR设备的位姿信息;其中,所述三维场景模型中标注有危险区域信息,所述危险区域信息通过预训练的语义分割模型进行识别;
在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,输出提示信息以对用户进行提示。基于上述方法,可以基于语义分割模型在三维场景模型中标注危险区域信息,并在危险区域添加对应的危险提示信息,
这样,在检测到AR设备满足危险区域对应的危险提示信息的展示条件的情况下,可以输出提示信息对用户进行提示,一方面,基于语义分割模型为三维场景模型添加危险区域标注,可以实现对于三维场景模型中危险区域的自动识别,基于添加了危险区域标注的三维场景模型,可以准确检测用户是否位于危险区域;另一方面,通过AR设备输出提示信息,丰富了提示信息的展示方式,也降低了用户在观看AR画面的过程中发生危险的概率,提升了用户观看AR画面时的安全性。
一种可能的实施方式中,基于以下方法检测所述AR设备是否满足所述危险区域对应的危险提示信息的展示条件:
基于所述实景图像中的特征点,查找所述三维场景模型中与所述特征点对应的匹配特征点;
若查找到的所述匹配特征点标注有所述危险区域信息,则确定所述AR设备满足所述危险区域对应的危险提示信息的展示条件。
若与实景图像中的特征点对应的匹配特征点标注有危险区域信息,则说明AR设备当前的位置距离危险区域较近,确定AR设备满足危险区域对应的危险提示信息的展示条件,可以在用户到达危险区域之前为用户展示危险提示信息,提高了AR画面展示过程中用户的安全性。
一种可能的实施方式中,基于以下方法检测所述AR设备是否满足所述危险区域对应的危险提示信息的展示条件:
当基于所述AR设备的位姿信息,确定所述AR设备与所述危险区域信息指示的危险区域之间的相对位姿关系满足预设条件的情况下,确定所述AR设备满足所述危险区域对应的危险提示信息的展示条件。
一种可能的实施方式中,根据以下方法建立标注有危险区域信息所述三维场景模型:
获取所述目标场景对应的全景图像,并基于所述全景图像,建立三维场景模型;
基于训练的用于识别危险区域的语义分割模型对所述三维场景模型进行危险区域识别并进行标注。
基于训练的语义分割模型对三维场景模型进行危险区域识别并进行自动标注,一方面可以精确的识别出三维场景模型中的危险区域,另一方面,避免了人工进行标注的过程,提高了标注效率。
一种可能的实施方式中,在建立所述三维场景模型之后,所述方法还包括:
基于所述三维场景模型中标注的危险区域信息所指示的危险区域,在所述三维场景模型中添加与该危险区域相匹配的危险提示信息。
不同的危险区域可能需要用户执行不同的处理动作,因此为不同的危险区域,展示与该危险区域相匹配的危险提示信息,可以提升危险提示信息的提示效果。
一种可能的实施方式中,基于训练的用于识别危险区域的语义分割模型对所述三维场景模型进行危险区域识别并进行标注,包括:
基于所述目标场景对应的全景图像,确定所述目标场景中的各个位置区域对应的区域图像;以及基于所述三维场景模型,确定各个位置区域在所述三维场景模型中对应的点云点;
基于预先训练的语义分割模型,检测每一张所述区域图像中是否包含危险区域;
若是,则为所述三维场景模型中与所述区域图像中的危险区域对应的点云点标注危险区域信息。
一种可能的实施方式中,所述危险提示信息为AR提示信息;
所述在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,输出提示信息以对用户进行提示,包括:
在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,基于所述AR设备的位姿信息,将所述危险提示信息与所述实景图像融合,并通过所述AR设备展示融合后的实景图像。
一种可能的实施方式中,所述基于所述实景图像和预先建立的所述目标场景的三维场景模型,确定所述AR设备的位姿信息,包括:
基于所述实景图像中的特征点,查找所述三维场景模型中与所述特征点对应的匹配特征点;
基于所述匹配特征点对应的世界坐标系下的坐标信息,以及所述匹配特征点在所述实景图像对应的图像坐标系下的坐标信息,确定所述AR设备的位姿信息。
第二方面,本公开实施例还提供一种提示信息展示装置,包括:
获取模块,用于获取AR设备拍摄的目标场景的实景图像;
确定模块,用于基于所述实景图像和预先建立的所述目标场景的三维场景模型,确定所述AR设备的位姿信息;其中,所述三维场景模型中标注有危险区域信息,所述危险区域信息通过预训练的语义分割模型进行识别;
提示模块,用于在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,输出提示信息以对用户进行提示。
一种可能的实施方式中,所述提示模块,用于基于以下方法检测所述AR设备是否满足所述危险区域对应的危险提示信息的展示条件:
基于所述实景图像中的特征点,查找所述三维场景模型中与所述特征点对应的匹配特征点;
若查找到的所述匹配特征点标注有所述危险区域信息,则确定所述AR设备满足所述危险区域对应的危险提示信息的展示条件。
一种可能的实施方式中,所述提示模块,用于基于以下方法检测所述AR设备是否满足所述危险区域对应的危险提示信息的展示条件:
当基于所述AR设备的位姿信息,确定所述AR设备与所述危险区域信息指示的危险区域之间的相对位姿关系满足预设条件的情况下,确定所述AR设备满足所述危险区域对应的危险提示信息的展示条件。
一种可能的实施方式中,所述装置还包括建立模块,用于根据以下方法建立标注有危险区域信息所述三维场景模型:
获取所述目标场景对应的全景图像,并基于所述全景图像,建立三维场景模型;
基于训练的用于识别危险区域的语义分割模型对所述三维场景模型进行危险区域识别并进行标注。
一种可能的实施方式中,所述建立模块,在建立所述三维场景模型之后,还用于:
基于所述三维场景模型中标注的危险区域信息所指示的危险区域,在所述三维场景模型中添加与该危险区域相匹配的危险提示信息。
一种可能的实施方式中,所述建立模块,在基于训练的用于识别危险区域的语义分割模型对所述三维场景模型进行危险区域识别并进行标注时,用于:
基于所述目标场景对应的全景图像,确定所述目标场景中的各个位置区域对应的区域图像;以及基于所述三维场景模型,确定各个位置区域在所述三维场景模型中对应的点云点;
基于预先训练的语义分割模型,检测每一张所述区域图像中是否包含危险区域;
若是,则为所述三维场景模型中与所述区域图像中的危险区域对应的点云点标注危险区域信息。
一种可能的实施方式中,所述危险提示信息为AR提示信息;
所述提示模块,在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,输出提示信息以对用户进行提示时,用于:
所述在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,输出提示信息以对用户进行提示,包括:
在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,基于所述AR设备的位姿信息,将所述危险提示信息与所述实景图像融合,并通过所述AR设备展示融合后的实景图像。
一种可能的实施方式中,所述确定模块,在基于所述实景图像和预先建立的所述目标场景的三维场景模型,确定所述AR设备的位姿信息时,用于:
基于所述实景图像中的特征点,查找所述三维场景模型中与所述特征点对应的匹配特征点;
基于所述匹配特征点对应的世界坐标系下的坐标信息,以及所述匹配特征点在所述实景图像对应的图像坐标系下的坐标信息,确定所述AR设备的位姿信息。
第三方面,本公开实施例还提供一种计算机设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当计算机设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
第四方面,本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述第一方面,或第一方面中任一种可能的实施方式中的步骤。
关于上述提示信息展示装置、计算机设备、及计算机可读存储介质的效果描述参见上述提示信息展示方法的说明,这里不再赘述。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本公开实施例所提供的一种提示信息展示方法的流程图;
图2示出了本公开实施例所提供的一种语义分割模型的训练过程的流程图;
图3示出了本公开实施例所提供的一种危险区域识别标注方法的流程图;
图4示出了本公开实施例所提供的一种提示信息展示装置的架构示意图;
图5示出了本公开实施例所提供的一种计算机设备500的结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
一般的,用户在观看AR展示画面时,其关注点更多的在于AR展示画面中的虚拟物,对于现实场景中的物品,一般不太关注,这就导致用户在移动过程中,可能忽略当前所处的环境,进而导致危险事件的发生。
相关技术中,可能会在预先构建的三维场景模型中,添加包含提示信息的虚拟指示物,并设置虚拟展示物的触发区域,当检测到AR设备进入该虚拟展示物的触发区域后,再在AR设备中展示该虚拟展示物。
然而这种方法中,需要人工提前在三维场景模型中预先标注每一个虚拟展示物的触发区域,这种人工标注的方法效率较低。
基于上述研究,本公开提供了一种提示信息展示方法、装置、设备及存储介质,可以基于语义分割模型在三维场景模型中标注危险区域信息,并在危险区域添加对应的危险提示信息,这样,在检测到AR设备满足危险区域对应的危险提示信息的展示条件的情况下,可以输出提示信息对用户进行提示,一方面,基于语义分割模型为三维场景模型添加危险区域标注,可以实现对于三维场景模型中危险区域的自动识别,基于添加了危险区域标注的三维场景模型,可以准确检测用户是否位于危险区域;另一方面,通过AR设备输出提示信息,丰富了提示信息的展示方式,也降低了用户在观看AR画面的过程中发生危险的概率,提升了用户观看AR画面时的安全性。
针对以上方案所存在的缺陷,均是发明人在经过实践并仔细研究后得出的结果,因此,上述问题的发现过程以及下文中本公开针对上述问题所提出的解决方案,都应该是发明人在本公开过程中对本公开做出的贡献。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
为便于对本实施例进行理解,首先对本公开实施例所公开的一种提示信息展示方法进行详细介绍,本公开实施例所提供的提示信息展示方法的执行主体一般为具有一定计算能力的计算机设备,该计算机设备例如包括:终端设备或服务器或其它处理设备,终端设备可以为AR设备,例如可以包括AR眼镜、平板电脑、智能手机、智能穿戴式设备等具有明显显示功能和数据处理功能的设备,AR设备可以通过应用程序连接云端服务器。
参见图1所示,为本公开实施例提供的一种提示信息展示方法的流程图,所述方法包括步骤101~步骤103,其中:
步骤101、获取AR设备拍摄的目标场景的实景图像。
步骤102、基于所述实景图像和预先建立的所述目标场景的三维场景模型,确定所述AR设备的位姿信息;其中,所述三维场景模型中标注有危险区域信息,所述危险区域信息通过预训练的语义分割模型进行识别。
步骤103、在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,输出提示信息以对用户进行提示。
以下是对上述步骤101~步骤103的详细介绍。
针对步骤101、
本公开所提供的方法可以应用于AR设备,也可以应用于服务器,当本公开所提供的方法应用于AR设备时,所述获取AR设备拍摄的目标场景的实景图像可以是获取AR设备的图像采集装置拍摄的目标场景的实景图像;当本公开所提供的方法应用于服务器时,所述获取AR设备拍摄的目标场景的实景图像可以是服务器在检测到AR设备拍摄实景图像之后,从AR设备获取的,也可以是AR设备在拍摄实景图像之后主动上传至服务器的。
在一种可能的实施方式中,所述实景图像可以是在AR设备被启动之后,基于AR设备的图像采集装置所采集的;所述目标场景可以是AR设备所在的现实场景,具体的,所述目标场景可以是预先设置的位置区域内的场景。
针对步骤102、
当本公开所提供的方法应用于AR设备时,所述AR设备可以预先从服务器加载所述目标场景的三维场景模型,然后在获取到实景图像之后,可以基于实景图像和目标场景的三维场景模型,确定AR设备位姿信息;当本公开所提供的方法应用于服务器时,所述服务器中可以存储有预先建立的所述目标场景的三维场景模型,在接收到AR设备发送的实景图像之后,可以基于该实景图像确定AR设备的位姿信息。
其中,AR设备确定位姿信息的方法与服务器确定位姿信息的方法可以相同,下面将以AR设备为确定位姿信息的执行主体为例,对确定位姿信息的方法展开介绍。
所述AR设备的位姿信息可以是AR设备在目标场景的三维坐标系中的位姿信息,所述位姿信息可以包括位置信息和朝向。
在一种可能的实施方式中,在确定AR设备的位姿信息时,可以先检测实景图像对应的目标场景中多个目标检测点的位置信息,以及确定每一个目标检测点在实景图像中对应的目标像素点,然后可以确定实景图像中各个目标像素点分别对应的深度信息(例如可以通过对实景图像进行深度检测获得),然后基于目标像素点的深度信息,确定AR设备的位姿信息。
其中,所述目标检测点可以是预先设置好的AR设备所在场景中的位置点,例如可以是杯子、风扇、饮水机等,目标像素点的深度信息可以用来表示该目标像素点对应的目标检测点与AR设备的图像采集装置之间的距离。所述目标检测点在场景坐标系中的位置坐标是预先设置好,且固定不变的。
具体的,在确定AR设备的位姿信息时,可以通过目标检测点与目标检测点对应的目标像素点在场景图像中的坐标信息确定位姿信息中的朝向;以及基于目标检测点对应的目标像素点的深度值确定AR设备的位置信息,由此可以确定AR设备的位姿信息。
在另外一种可能的实施方式中,在确定AR设备的位姿信息时,可以将AR设备拍摄的实景图像与AR设备所在的目标场景对应的三维场景模型进行匹配,并基于匹配结果确定AR设备的位姿信息。
具体的,目标场景对应的三维场景模型在构建时,可以基于全景视频进行构建,基于该全景实景,可以获得三维场景模型各个位置区域对应的区域图像,以及拍摄该区域图像时对应的位姿信息;在将AR设备拍摄的实景图像与三维场景模型进行匹配时,可以将AR设备拍摄的实景图像与三维场景模型各个位置区域对应的区域图像进行匹配,并确定匹配成功的目标区域图像,以及目标区域图像与实景图像的拍摄位姿的相对位姿关系,基于该相对位姿关系和拍摄所述目标区域图像时的位姿信息,可以确定AR设备在拍摄实景图像时的位姿信息。
在另外一种可能的实施方式中,在确定AR设备的位姿信息时,可以基于实景图像中的特征点,查找三维场景模型中与所述特征点对应的匹配特征点,然后基于匹配特征点对应的世界坐标系下的坐标信息,以及匹配特征点在实景图像对应的图像坐标系下的坐标信息,确定AR设备的位姿信息。
具体的,在基于匹配特征点对应的世界坐标系下的坐标信息,以及匹配特征点在实景图像对应的图像坐标系下的坐标信息,确定AR设备的位姿信息时,可以先基于匹配特征点对应的世界坐标系下的坐标信息,以及匹配特征点在实景图像对应的图像坐标系下的坐标信息,确定所述世界坐标系与所述图像坐标系之间的转换关系,然后基于该转换关系,再确定AR设备的位姿信息。
在一种可能的实施方式中,在建立标注有危险区域信息的三维场景模型时,可以先获取目标场景对应的全景图像,并基于全景图像建立三维场景模型,然后基于训练的用于识别危险区域的语义分割模型,对三维场景模型进行危险区域识别并进行标注。
这里,需要说明的是,所建立的三维场景模型为三维点云模型,三维场景模型中包括多个点云点,每个点云点都对应现实场景中的某个位置点。
在一种可能的实施方式中,语义分割模型的训练过程可以如图2所示,包括以下几个步骤:
步骤201、获取携带有危险区域标记的样本图像。
其中,所述样本图像携带的危险区域标记可以是对于样本图像中的危险区域的标记,这里所述危险区域可以是包括危险物体的区域,例如可以是台阶处、墙壁处、马路处等。
不同的危险物体对应的危险区域的尺寸可能不同,例如,台阶对应的危险区域可能是距离台阶为第一预设距离的区域和台阶所在的区域,墙壁对应的危险区域可能是距离墙壁为第二预设距离的区域和墙壁所在的区域,所述第一预设距离和所述第二预设距离可能不同。
步骤202、将所述样本图像输入至待训练的语义分割模型,得到预测的样本图像的危险区域。
步骤203、基于样本图像对应的预测的危险区域和样本图像的危险区域标记,对语义分割模型进行训练。
其中,在基于样本图像对应的预测的危险区域和样本图像的危险区域标记,对语义分割模型进行训练时,可以先基于样本图像对应的预测的危险区域和样本图像的危险区域标记,确定本次训练过程中的损失值,并在所述损失值不满足预设条件的情况下,调整神经网络的网络参数,并返回执行步骤202,直至神经网络训练完成。
在一种可能的实施方式中,在基于训练的语义分割模型对三维场景模型进行危险区域识别并进行标注时,可以参照如图3所示的危险区域识别标注方法,包括以下几个步骤:
步骤301、基于所述目标场景对应的全景图像,确定所述目标场景中的各个位置区域对应的区域图像;以及基于所述三维场景模型,确定各个位置区域在所述三维场景模型中对应的点云点。
步骤302、基于预先训练的语义分割模型,检测每一张所述区域图像中是否包含危险区域。
步骤303、若是,则为所述三维场景模型中与所述区域图像中的危险区域对应的点云点标注危险区域信息。
基于训练的语义分割模型对三维场景模型进行危险区域识别并进行自动标注,一方面可以精确的识别出三维场景模型中的危险区域,另一方面,避免了人工进行标注的过程,提高了标注效率。
在一种可能的实施方式中,在建立三维场景模型之后,还可以基于三维场景模型中标注的危险区域信息所指示的危险区域,在三维场景模型中添加与该危险区域相匹配的危险提示信息。
其中,不同的危险区域所标注的危险区域信息可能不同,不同的危险区域所匹配的危险提示信息也不同,例如,台阶对应的危险区域的所标注的危险区域信息可能是1,与该危险区域所匹配的危险提示信息可能是“小心台阶”或“前方有台阶”;马路对应的危险区域的所标注的危险区域信息可能是2,与该危险区域所匹配的危险提示信息可能是“小心马路”或“前方有马路”。
不同的危险区域可能需要用户执行不同的处理动作,因此为不同的危险区域,展示与该危险区域相匹配的危险提示信息,可以提升危险提示信息的提示效果。
在三维场景模型中添加与危险区域相匹配的危险提示信息时,一种可能的实施方式中,可以在三维场景模型中添加与危险区域相匹配的危险提示信息时,可以是在三维场景模型中的添加虚拟展示物,该虚拟展示物上展示有与危险区域相匹配的危险提示信息。
在为三维场景模型添加危险提示信息时,一种可能的实施方式中可以是接收用户输入的添加指令,该添加指令中携带有危险提示信息,然后基于该添加指令,为三维场景模型添加危险提示信息,另外一种可能的实施方式中,还可以是在识别出危险区域之后,自动为三维模型添加为与该危险区域匹配的危险提示信息,其中,危险区域与危险提示信息之间的匹配关系可以是预先设置好的。
针对步骤103、
在一种可能的实施方式中,在检测AR设备是否满足危险区域对应的危险提示信息的展示条件时,可以通过以下方法中的任意一种:
方法一、
先基于实景图像中的特征点,查找三维场景模型中与特征点对应的匹配特征点;若查找到的匹配特征点标注有危险区域信息,则确定AR设备满足危险区域对应的危险提示信息的展示条件。
这里,所述三维场景模型中包括多个点云点,所述与特征点对应的匹配特征点即为三维场景模型中,与实景图像中的特征点在现实场景中对应的位置点对应的点云点。
基于实景图像中的特征点,查找三维场景模型中与特征点对应的匹配特征点可以是在基于实景图像中的特征点确定AR设备的位姿信息的过程中查找到的匹配特征点;若AR设备的位姿信息并非是基于特征点匹配所确定的,则可单独执行上述特征点匹配的步骤。
若与实景图像中的特征点对应的匹配特征点标注有危险区域信息,则说明AR设备当前的位置距离危险区域较近,确定AR设备满足危险区域对应的危险提示信息的展示条件,可以在用户到达危险区域之前为用户展示危险提示信息,提高了AR画面展示过程中用户的安全性。
方法二、
当基于所述AR设备的位姿信息,确定所述AR设备与所述危险区域信息指示的危险区域之间的相对位姿关系满足预设条件的情况下,确定所述AR设备满足所述危险区域对应的危险提示信息的展示条件。
这里,所述AR设备与危险区域信息指示的危险区域之间的相对位姿关系满足预设条件可以是所述AR设备距离危险区域信息指示的危险区域小于预设距离。
在一种可能的实施方式中,所述危险提示信息可以是AR提示信息;在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,输出提示信息以对用户进行提示时,可以基于AR设备的位姿信息,将危险提示信息与实景图像进行融合,并通过AR设备展示融合后的实景图像。
具体的,可以基于AR设备的位姿信息,以及三维场景模型中危险提示信息的位姿信息,确定危险提示信息的展示位姿,并按照确定的展示位姿,将危险提示信息与AR设备的实景图像进行融合,得到融合后的实景图像。
基于上述方法,可以基于语义分割模型在三维场景模型中标注危险区域信息,并在危险区域添加对应的危险提示信息,这样,在检测到AR设备满足危险区域对应的危险提示信息的展示条件的情况下,可以输出提示信息对用户进行提示,一方面,基于语义分割模型为三维场景模型添加危险区域标注,可以实现对于三维场景模型中危险区域的自动识别,基于添加了危险区域标注的三维场景模型,可以准确检测用户是否位于危险区域;另一方面,通过AR设备输出提示信息,丰富了提示信息的展示方式,也降低了用户在观看AR画面的过程中发生危险的概率,提升了用户观看AR画面时的安全性。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
基于同一发明构思,本公开实施例中还提供了与提示信息展示方法对应的提示信息展示装置,由于本公开实施例中的装置解决问题的原理与本公开实施例上述提示信息展示方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
参照图4所示,为本公开实施例提供的一种提示信息展示装置的架构示意图,所述装置包括:获取模块401、确定模块402、提示模块403;其中,
获取模块401,用于获取AR设备拍摄的目标场景的实景图像;
确定模块402,用于基于所述实景图像和预先建立的所述目标场景的三维场景模型,确定所述AR设备的位姿信息;其中,所述三维场景模型中标注有危险区域信息,所述危险区域信息通过预训练的语义分割模型进行识别;
提示模块403,用于在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,输出提示信息以对用户进行提示。
一种可能的实施方式中,所述提示模块403,用于基于以下方法检测所述AR设备是否满足所述危险区域对应的危险提示信息的展示条件:
基于所述实景图像中的特征点,查找所述三维场景模型中与所述特征点对应的匹配特征点;
若查找到的所述匹配特征点标注有所述危险区域信息,则确定所述AR设备满足所述危险区域对应的危险提示信息的展示条件。
一种可能的实施方式中,所述提示模块403,用于基于以下方法检测所述AR设备是否满足所述危险区域对应的危险提示信息的展示条件:
当基于所述AR设备的位姿信息,确定所述AR设备与所述危险区域信息指示的危险区域之间的相对位姿关系满足预设条件的情况下,确定所述AR设备满足所述危险区域对应的危险提示信息的展示条件。
一种可能的实施方式中,所述装置还包括建立模块404,用于根据以下方法建立标注有危险区域信息所述三维场景模型:
获取所述目标场景对应的全景图像,并基于所述全景图像,建立三维场景模型;
基于训练的用于识别危险区域的语义分割模型对所述三维场景模型进行危险区域识别并进行标注。
一种可能的实施方式中,所述建立模块404,在建立所述三维场景模型之后,还用于:
基于所述三维场景模型中标注的危险区域信息所指示的危险区域,在所述三维场景模型中添加与该危险区域相匹配的危险提示信息。
一种可能的实施方式中,所述建立模块404,在基于训练的用于识别危险区域的语义分割模型对所述三维场景模型进行危险区域识别并进行标注时,用于:
基于所述目标场景对应的全景图像,确定所述目标场景中的各个位置区域对应的区域图像;以及基于所述三维场景模型,确定各个位置区域在所述三维场景模型中对应的点云点;
基于预先训练的语义分割模型,检测每一张所述区域图像中是否包含危险区域;
若是,则为所述三维场景模型中与所述区域图像中的危险区域对应的点云点标注危险区域信息。
一种可能的实施方式中,所述危险提示信息为AR提示信息;
所述提示模块403,在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,输出提示信息以对用户进行提示时,用于:
所述在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,输出提示信息以对用户进行提示,包括:
在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,基于所述AR设备的位姿信息,将所述危险提示信息与所述实景图像融合,并通过所述AR设备展示融合后的实景图像。
一种可能的实施方式中,所述确定模块402,在基于所述实景图像和预先建立的所述目标场景的三维场景模型,确定所述AR设备的位姿信息时,用于:
基于所述实景图像中的特征点,查找所述三维场景模型中与所述特征点对应的匹配特征点;
基于所述匹配特征点对应的世界坐标系下的坐标信息,以及所述匹配特征点在所述实景图像对应的图像坐标系下的坐标信息,确定所述AR设备的位姿信息。
关于装置中的各模块的处理流程、以及各模块之间的交互流程的描述可以参照上述方法实施例中的相关说明,这里不再详述。
基于同一技术构思,本公开实施例还提供了一种计算机设备。参照图5所示,为本公开实施例提供的计算机设备500的结构示意图,包括处理器501、存储器502、和总线503。其中,存储器502用于存储执行指令,包括内存5021和外部存储器5022;这里的内存5021也称内存储器,用于暂时存放处理器501中的运算数据,以及与硬盘等外部存储器5022交换的数据,处理器501通过内存5021与外部存储器5022进行数据交换,当计算机设备500运行时,处理器501与存储器502之间通过总线503通信,使得处理器501在执行以下指令:
获取AR设备拍摄的目标场景的实景图像;
基于所述实景图像和预先建立的所述目标场景的三维场景模型,确定所述AR设备的位姿信息;其中,所述三维场景模型中标注有危险区域信息,所述危险区域信息通过预训练的语义分割模型进行识别;
在检测到所述AR设备满足所述危险区域对应的危险提示信息的展示条件的情况下,输出提示信息以对用户进行提示。
本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的提示信息展示方法的步骤。其中,该存储介质可以是易失性或非易失的计算机可读取存储介质。
本公开实施例所提供的提示信息展示方法的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行上述方法实施例中所述的提示信息展示方法的步骤,具体可参见上述方法实施例,在此不再赘述。
本公开实施例还提供一种计算机程序,该计算机程序被处理器执行时实现前述实施例的任意一种方法。该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software DevelopmentKit,SDK)等等。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本公开所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本公开的具体实施方式,用以说明本公开的技术方案,而非对其限制,本公开的保护范围并不局限于此,尽管参照前述实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本公开实施例技术方案的精神和范围,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应所述以权利要求的保护范围为准。
- 一种提示信息展示方法、装置、计算机设备及存储介质
- 一种提示信息展示方法、装置、电子设备和存储介质