掌桥专利:专业的专利平台
掌桥专利
首页

技术领域

本公开涉及信息处理装置和方法,具体涉及使得内容再现的鲁棒性得以改进的信息处理装置和方法。

背景技术

在现有技术中,已经提出了在三维空间(也称为3D空间)中分布用于表达三维对象(也称为3D对象)的三维内容(也称为3D内容)的提议。另外,作为3D内容,例如,已经提出了6DoF内容,该6DoF内容表达三维空间中的三维对象,并且使得能够在再现时自由地设置视线方向和视点位置。

作为分发6DoF内容的方法,例如,已经提出了下述方法:3D空间包括多个3D对象,并且将6DoF内容作为多个对象流进行发送。在这种情况下,已经提出了使用例如称为场景描述(Scene Description)的描述方法。作为场景描述,已经提出了下述方法(MPEG-4场景描述):将场景表达为被称为场景图的树层次结构的图,并且以二进制格式或文本格式表达该场景图。(例如,参见非专利文献1)。

[引用列表]

[非专利文献]

[非专利文献1]

“ISO/IEC 14496-11”,第二版,2015-05-29

发明内容

[技术问题]

然而,关于传输频带,场景描述不具有取决于传输频带来自适应地分发内容的功能。因此,在可以提供用于传输场景描述数据和媒体数据的足够的传输频带的情况下,可以进行再现,但是有限的传输频带可能会阻止客户端获取或再现数据或者导致再现中断。

考虑到这种情况,本公开的目的是使得能够改进内容再现的鲁棒性。

[问题的解决方案]

本技术的一个方面中的信息处理装置包括以下信息处理装置,该信息处理装置包括生成部,该生成部生成关于以下内容的元数据,该内容表达三维空间中的三维对象,并且使得能够在再现时自由地设置视线方向和视点位置,所述元数据包括使得能够在分发所述内容时选择比特率的信息。

本技术的一个方面中的信息处理方法包括以下信息处理方法,该信息处理方法包括:生成关于以下内容的元数据,所述内容表达三维空间中的三维对象,并且使得能够在再现时自由地设置视线方向和视点位置,所述元数据包括使得能够在分发所述内容时选择比特率的信息。

本技术的一个方面中的信息处理装置和方法生成关于以下内容的元数据,该内容表达三维空间中的三维对象,并且使得能够在再现时自由地设置视线方向和视点位置,该元数据包括使得能够在分发内容时选择比特率的信息。

附图说明

[图1]

图1是示出场景图的示例的图。

[图2]

图2是示出节点的示例的图。

[图3]

图3是示出节点的语法的示例的图。

[图4]

图4是示出LOD节点的示例的图。

[图5]

图5是示出场景图的示例的图。

[图6]

图6是示出分发系统的主要配置示例的框图。

[图7]

图7是示出文件生成装置的主要配置示例的框图。

[图8]

图8是示出客户端装置的主要配置示例的框图。

[图9]

图9是示出文件生成处理的流程的示例的流程图。

[图10]

图10是示出再现处理的流程的示例的流程图。

[图11]

图11是示出场景描述的示例的图。

[图12]

图12是示出MPD的示例的图。

[图13]

图13是示出场景描述的示例的图。

[图14]

图14是示出MPD的示例的图。

[图15]

图15是示出BitWrapper节点和MovieTexture节点的示例的图。

[图16]

图16是示出文件生成处理的流程的示例的流程图。

[图17]

图17是示出再现处理的流程的示例的流程图。

[图18]

图18是示出场景描述处理的流程的示例的流程图。

[图19]

图19是示出呈现处理的流程的示例的流程图。

[图20]

图20是示出场景描述的示例的图。

[图21]

图21是示出MPD的示例的图。

[图22]

图22是示出场景描述的示例的图。

[图23]

图23是示出MPD的示例的图。

[图24]

图24是示出BitWrapper节点和MovieTexture节点的示例的图。

[图25]

图25是示出场景描述的示例的图。

[图26]

图26是示出MPD的示例的图。

[图27]

图27是示出MPD的示例的图。

[图28]

图28是示出BitWrapper节点和MovieTexture节点的示例的图。

[图29]

图29是示出分发系统的主要配置示例的框图。

[图30]

图30是示出文件生成装置的主要配置示例的框图。

[图31]

图31是示出客户端装置的主要配置示例的框图。

[图32]

图32是示出文件生成处理的流程的示例的流程图。

[图33]

图33是示出再现处理的流程的示例的流程图。

[图34]

图34是示出ClientSelection节点的示例的图。

[图35]

图35是示出场景描述的示例的图。

[图36]

图36是示出文件生成处理的流程的示例的流程图。

[图37]

图37是示出再现处理的流程的示例的流程图。

[图38]

图38是示出场景描述处理的流程的示例的流程图。

[图39]

图39是示出BitWrapper节点和MovieTexture节点的示例的图。

[图40]

图40是示出文件生成处理的流程的示例的流程图。

[图41]

图41是示出再现处理的流程的示例的流程图。

[图42]

图42是示出MPD的示例的图。

[图43]

图43是示出MPD的示例的图。

[图44]

图44是示出再现处理的流程的示例的流程图。

[图45]

图45是示出场景描述处理的流程的示例的流程图。

[图46]

图46是示出文件生成处理的流程的示例的流程图。

[图47]

图47是示出再现处理的流程的示例的流程图。

[图48]

图48是示出ClientSelection节点的示例的图。

[图49]

图49是示出BitWrapper节点和MovieTexture节点的示例的图。

[图50]

图50是示出文件生成处理的流程的示例的流程图。

[图51]

图51是示出再现处理的流程的示例的流程图。

[图52]

图52是示出MPD的示例的图。

[图53]

图53是示出MPD的示例的图。

[图54]

图54是示出再现处理的流程的示例的流程图。

[图55]

图55是示出文件生成处理的流程的示例的流程图。

[图56]

图56是示出再现处理的流程的示例的流程图。

[图57]

图57是示出ClientSelection节点的示例的图。

[图58]

图58是示出BitWrapper节点和MovieTexture节点的示例的图。

[图59]

图59是示出Quality的类型的示例的图。

[图60]

图60是示出MPD的示例的图。

[图61]

图61是示出ClientSelection节点的示例的图。

[图62]

图62是示出BitWrapper节点和MovieTexture节点的示例的图。

[图63]

图63是示出MPD的示例的图。

[图64]

图64是示出ClientSelection节点的示例的图。

[图65]

图65是示出BitWrapper节点和MovieTexture节点的示例的图。

[图66]

图66是示出MPD的示例的图。

[图67]

图67是示出再现处理的流程的示例的流程图。

[图68]

图68是示出比特率选择处理的流程的示例的流程图。

[图69]

图69是示出ClientSelection节点的示例的图。

[图70]

图70是示出BitWrapper节点和MovieTexture节点的示例的图。

[图71]

图71是示出LOD节点的示例的图。

[图72]

图72是示出ClientSelection节点的示例的图。

[图73]

图73是示出BitWrapper节点和MovieTexture节点的示例的图。

[图74]

图74是示出LOD节点的示例的图。

[图75]

图75是示出ClientSelection节点的示例的图。

[图76]

图76是示出MPD的示例的图。

[图77]

图77是示出比特率选择处理的流程的示例的流程图。

[图78]

图78是示出ClientSelection节点的示例的图。

[图79]

图79是示出BitWrapper节点和MovieTexture节点的示例的图。

[图80]

图80是示出了Transform节点的示例的图。

[图81]

图81是示出比特率选择处理的流程的示例的流程图。

[图82]

图82是描绘部分3D对象的示例的图。

[图83]

图83是描绘用信号通知部分3D对象的场景描述的示例的图。

[图84]

图84是描绘用信号通知部分3D对象的场景描述的示例的图。

[图85]

图85是描绘用信号通知整个本体的场景描述的示例的图。

[图86]

图86是示出BitWrapper节点和MovieTexture节点的示例的图。

[图87]

图87是示出其中本体A包括四个部分3D对象的MPD的示例的图。

[图88]

图88是描绘向其中本体包括Period的AdaptationSet发送信号的MPD的示例的图。

[图89]

图89是示出BitWrapper节点和MovieTexture节点的示例的图。

[图90]

图90是示出BitWrapper节点和MovieTexture节点的示例的图。

[图91]

图91是示出计算机的主要配置示例的框图。

具体实施方式

下面将描述用于实现本公开的模式(下文中称为实施方式)。描述按以下顺序进行。

1.支持技术内容、术语等的文献

2.6DoF内容的分发

3.第一实施方式(比特率适配)

4.第二实施方式(用于统一控制比特率的信令)

5.第三实施方式(指示要获取的比特率的组合的信令)

6.第四实施方式(通过控制细节级别来选择比特率的信令)

7.第五实施方式(指示内容作者等的意图的信令)

8.第六实施方式(用于保持关注对象的细节级别的实施方法)

9.第七实施方式(包括部分3D对象的对象的信令)

10.补充功能

<1.支持技术内容、术语等的文献>

本技术中公开的范围包括以下列出的非专利文献中描述的以及在提交时众所周知的内容,以及实施方式中描述的内容。

非专利文献1:(上述)

非专利文献2:R.Mekuria,Student Member IEEE,K.Blom,P.Cesar.,Member,IEEE,"Design,Implementation and Evaluation of a Point CloudCodec for Tele-Immersive Video,"tcsvt_paper_submitted_february.pdf

非专利文献3:TELECOMMUNICATION STANDARDIZATIONSECTOR OF ITU(International Telecommunication Union),“Advancedvideo coding for genericaudiovisual services,”H.264,04/2017

非专利文献4:TELECOMMUNICATION STANDARDIZATIONSECTOR OF ITU(International Telecommunication Union),“High efficiencyvideo coding,”H.265,12/2016

非专利文献5:Jianle Chen,Elena Alshina,Gary J.Sullivan,Jens-Rainer和Jill Boyce,“Algorithm Description of Joint Exploration Test Model 4,”JVET-G1001_v1,Joint Video Exploration Team(JVET)of ITU-T SG 16 WP 3and ISO/IEC JTC1/SC 29/WG 11第七次会议:都灵,意大利,2017年7月13日至7月21日

换言之,上面列出的非专利文献中描述的内容也构成了确定支持要求时的依据。例如,即使在实施方式不包括对非专利文献4中描述的四叉树块结构和非专利文献5中描述的QTBT(四叉树加二叉树)块结构的直接描述的情况下,也假定四叉树块结构和QTBT(四叉树加二叉树)块结构在本技术的公开范围内,并且满足对权利要求的支持要求。另外,例如,同样对于诸如解析、语法和语义之类的技术术语,即使在实施方式不包括对术语的直接描述的情况下,也假定该术语在本技术的公开范围内,并且满足对权利要求的支持要求。

<2.6DoF内容的分发>

<2-1:内容>

在当前的视频分发中,二维视频(也称为2D内容)分发占主导地位。二维视频被用于电影等的发行。此外,正在进行360度视频分发,360度视频分发允许观看者在所有方向上环顾四周。360度视频也称为3DoF(自由度)视频或3DoF内容。对于2D内容和3DoF内容二者,二维编码的视频基本上都在客户端处分发和显示。

此外,还可以使用称为3DoF+内容的内容。3DoF+内容使观看者能够像3DoF内容一样在所有方向上环顾四周,并且还使得能够略微移动视点位置。视点位置可移动的范围被假定为对应于观看者坐着时头部可移动的程度。3DoF+内容使得能够通过使用一个或更多个二维编码的视频来移动视点位置。

相比之下,也可以使用6DoF视频(也称为6DoF内容)。6DoF视频允许观看者在所有方向上环顾四周(允许自由选择视线方向),并且还允许观看者在空间中到处走动(允许自由选择视点位置)。6DoF内容使用一个或更多个三维对象(也称为3D对象)针对每个时间点来表达三维空间(也称为3D空间)。换言之,6DoF内容是表达三维空间中的三维对象并且使得能够在再现时自由地设置视线方向和视点位置的内容。

3D对象指示以下中的任何一个:(1)3D空间中的一个本体;(2)在(1)中的本体的一部分;或者(3)3D空间中的一组多个本体。关于3D对象的数据涉及:具有网格数据的配置,该网格数据允许将对象表达为多边形的几何数据以及与附着到多边形的表面的数据对应的纹理数据;或者具有一组多个点(点云)的配置。

用于发送6DoF内容的可能方法包括:使用一个3D对象来配置3D空间并且在一个对象流中发送内容的方法;以及使用多个3D对象来配置3D空间并且在多个对象流中发送内容的方法。

对于3D空间的表达,6DoF内容具有的表达属性在于,在2D显示器或HMD(头戴式显示器)上显示6DoF内容的情况下,距视点位置较远的本体被显示得较小,而距视点位置较近的本体被显示得较大。被显示得较小的本体可以以较低的分辨率显示。然而,在如前述情况那样在一个对象流中发送大面积的6DoF内容的情况下,如上所述,无论显示特性如何,整体上均以统一的分辨率显示6DoF内容。在呈现显示画面的情况下,统一的整体分辨率可能会导致某些部分中呈现适当的分辨率,而在其他部分中呈现不必要的高分辨率。具有不必要的高分辨率的部分需要过多的解码和呈现处理。换言之,可能导致增加不必要的负荷。

在其中3D空间包括多个3D对象并且在如后一种情况下在多个对象流中发送内容的方法中,使用了称为场景描述的描述方法。场景描述指示用于使用多个对象流来配置6DoF内容并且根据距视点位置的距离来适当显示6DoF内容的信息。

场景描述有多个标准。基本上,将场景表达为称为场景图的树层次结构的图,并且将场景图表达为二进制格式或文本格式。这里,场景图是基于视点位置的空间显示控制信息,并且通过以下操作来配置场景图:使用节点作为构成单元来定义与在视点位置处的3D对象的显示相关的信息,并且以分层方式组合多个节点。节点包括用于关于3D对象的位置信息和大小信息的节点、用于网格数据和纹理数据的访问信息的节点以及用于根据距视点位置的距离来适当显示的信息的节点。这些节点用于每个3D对象。

注意,假定6DoF内容是使用与关于6DoF内容的元数据对应的场景描述数据(场景描述的流数据)和关于多个3D对象的媒体数据(关于用于表达的3D对象的网格数据和纹理数据的组合)来配置的。对于与3D对象相关的媒体数据,可以应用其他格式,例如点云。另外,假定场景描述数据符合MPEG-4场景描述(ISO/IEC 14496-11)。

MPEG-4场景描述数据是通过以称为BIFS(场景的二进制格式)的格式对场景图进行二值化而获得的。可以使用预定算法将场景图转换为BIFS。另外,以ISO基本媒体文件格式进行存储使得能够针对每个时间点定义场景,从而能够表达运动对象等。

6DoF内容的表达导致例如如图1所示的场景图。图1中的场景图10表达的6DoF内容包括多个3D对象。图1仅详细描绘了3D对象1的配置(3D对象1的Transform节点12-1的子节点和后续节点),并且省略了从3D对象2至3D对象n(从3D对象2的Transform节点12-2至3D对象n的Transform节点12-n的子节点和后续节点)的详细配置。

在根处的组节点11包括作为子节点的Transform节点12。Transform节点12包括经组织的信息,该信息包括3D对象的位置和大小。换言之,每个Transform节点12组织关于3D空间中的每个3D对象的信息。Transform节点12包括作为子节点的Shape节点13。Shape节点13包括与3D对象的形状相关的经组织的信息。Shape节点13包括作为子节点的Appearance节点14和BitWrapper节点15。Appearance节点14包括用于纹理数据的经组织的信息。BitWrapper节点15包括用于网格数据的经组织的信息。BitWrapper节点15包括用于被配置为单独文件的网格数据的访问信息。Appearance节点14包括作为子节点的MovieTexture节点16。MovieTexture节点16包括被配置为单独文件的纹理数据的访问信息。

图2描绘了每个节点中包括的信息的示例。这些节点包括针对各个(类型的)信息设置的字段,并且在每个字段中,存储与该字段对应的信息。图3描绘了节点的语法的示例。

场景描述的功能之一是具有用于一个3D对象的多个细节级别的数据并且允许取决于显示的状态在细节级别之间进行切换。细节级别是例如以网格数据中的顶点数目或者纹理数据的分辨率中的至少之一变化的数据。例如,细节级别随着网格数据中顶点的数目或者纹理数据的分辨率而一致地增加。

该功能利用当在2D显示器或HMD上显示3D对象时6DoF内容的表达属性来表达3D空间,距视点位置较远的3D对象被显示得更小,而距视点位置较近的3D对象被显示得更大。例如,距视点位置较近的3D对象被显示得较大,因此需要具有较高细节级别的数据(具有大量顶点的网格数据以及具有高分辨率的纹理数据)。相比之下,距视点位置较远的3D对象被显示得较小,因此对于该3D对象,使用具有较低细节级别的数据(具有少量顶点的网格数据以及具有较低分辨率的纹理数据)就足够了。

该功能由场景描述中的LOD节点实现。图4描绘了包括在LOD节点中的信息的示例。如图4所示,LOD节点31包括用于切换3D对象的细节级别的信息。LOD节点31包括例如“用于确定距离的3D对象的中心点”(图4中的中心字段)、“在视点位置与3D对象之间的距离”(图4中的范围字段)以及“关于要基于逐个距离地使用的3D对象的数据”(图4中的级别字段)。

使用LOD节点的功能使得能够根据视点位置针对3D对象选择适当的细节级别,从而允许保持适当的显示质量,同时使得能够减少处理量。在下文中,将该功能称为取决于视点位置的适配。

例如,LOD节点31位于Transform节点12与Shape节点13之间。假定LOD节点31的“关于要基于逐个距离地使用的3D对象的数据”(图4中的级别字段)对要选择的Shape节点13进行寻址。

图5描绘了使用LOD节点的场景图10的示例。如图5所示,场景图10设置有作为每个Transform节点12的子节点的LOD节点31。LOD节点31使用在视点位置与3D对象之间的距离来切换细节级别。LOD节点31包括用于确定距3D对象的距离的中心位置的坐标,并且包括作为子节点的Shape节点13(Shape节点13-1至Shape节点13-3),Shape节点13指示关于要基于逐个距离地使用的3D对象的数据。对于每个Shape节点13,设置与以下节点相关的信息,所述节点具有针对具有不同分配级别的网格数据和纹理数据的访问信息。

这允许将高细节级别的数据用于近距离,将中等细节级别的数据用于中等距离,将低细节级别的数据用于远距离。可以取决于视点来使用具有适当细节级别的数据。

现在,考虑分发6DoF内容。可以通过经由网络获取场景描述数据以及从场景描述数据参考的媒体数据(网格数据和纹理数据)来再现6DoF内容。相比之下,使用场景描述来再现6DoF内容涉及以下先决条件。

-存在允许提供足够的传输频带的网络环境或存储器,其中,例如,6DoF内容分发服务器主要本地存在。

-客户端具有足够的处理能力。换言之,可以在预定时间内执行所获取的所有网格和纹理的解码和显示处理(呈现)。

对于客户端的处理量,场景描述使得能够通过使用取决于视点位置的适配来减少处理量。然而,对于传输频带,场景描述不具有取决于传输频带执行自适应分发的功能。因此,在可以提供用于场景描述数据和媒体数据的传输的足够的传输频带的情况下,能够进行再现,但是有限的传输频带可能会阻止客户端获取或再现数据或者导致再现中断。

注意,对于6DoF内容,需要保持3D对象之间的质量的相关性,以便抑制再现时的质量劣化。因此,即使使用诸如2D内容的自适应比特率的分发技术,在自适应地操纵比特率的情况下,也没有手段能够取决于视点位置来保持3D对象之间的质量的相关性。这可能会阻止取决于客户端的情况进行适当的分发。

<2-2:概念>

因此,执行增强了场景描述并且使得能够进行比特率适配的信令(第一实施方式(也称为实施方式1))。因此,可以抑制有限的传输频带对使用场景描述来再现6DoF的内容分发的影响,从而允许改进内容再现的鲁棒性。

另外,可以添加指示可以通过统一降低所有网格和纹理的比特率来保持质量的信令(第二实施方式(也称为实施方式2))。因此,客户端可以肯定地确定要选择的比特率,从而允许保持对于视点位置最佳的3D对象之间的相对质量。

此外,可以添加指示针对各个纹理和网格同时获取哪些比特率以允许保持质量的元信息(第三实施方式(也称为实施方式3))。因此,即使在比特率统一降低的比特率适配已难以保持3D对象之间的相对质量的情况下,也可以保持3D对象之间的相对质量。

另外,可以添加使每个3D对象的细节级别降低以减小传输频带的信令(第四实施方式(也称为实施方式4))。因此,例如,即使在尽管选择全部涉及最小比特率的网格和纹理但是传输频带也比总比特率窄的情况下,也可以抑制再现中断。

此外,可以添加关于3D对象的重要性信息的信令(第五实施方式(也称为实施方式5))。因此,可以根据内容作者等的意图来保持重要的3D对象的细节级别。

另外,可以识别关注的3D对象,并且可以保持3D对象的细节级别(第六实施方式(也称为实施方式6))。因此,可以保持用户关注的3D对象的细节级别。

下面将描述实施方式。注意,下文中将MPEG-4场景描述用作场景描述。然而,可以将任何标准用于场景描述,并且可用的标准可以包括例如VRML(虚拟现实建模语言)、开放场景图(http://www.openscenegraph.org/)、通用场景描述(https://graphics.pixar.com/usd/docs/index.html)、X3D(ISO/IEC 19775-1)和glTF(https://www.khronos.org/gltf/)。

<3.第一实施方式(实施方式1)>

在第一实施方式中,信令被增强以使得能够针对每个3D对象的每个细节级别进行比特率适配。例如,生成关于内容的元数据,该内容表达三维空间中的三维对象,并且使得能够在再现时自由地设置视线方向和视点位置,该元数据包括使得能够在分发内容时选择比特率的信息。例如,信息处理装置包括生成部,该生成部生成与表达三维空间中的三维对象的内容相关的元数据,并且使得能够在再现时自由地设置视线方向和视点位置,该元数据包括使得能够在分发内容时选择比特率的信息。

因此,可以使用场景描述在6DoF内容分发中抑制有限的传输频带对再现的影响,从而允许改进内容再现的鲁棒性。

<3-1:实施方式1-1>

可以生成元数据,作为使得能够在内容分发时选择比特率的信息,该元数据包括用于控制内容的再现的控制文件的访问信息。换言之,例如,可以通过使用用于DASH和场景描述数据的MPD文件的配置来实现比特率适配。对于当前的2D内容和3DoF内容,可以使用以下机制,该机制使用DASH(HTTP上的动态自适应流送,ISO/IEC 23009-1)以在具有不同比特率的数据之间进行切换,从而使得即使在传输频带变窄的情况下,也可以实现再现而不中断。在该方法中,在Representation中用信号通知与DASH的清单文件对应的MPD文件中AdaptationSets中具有不同比特率的数据。

因此,利用如上所述的使用MPD实现的比特率适配的机制,并且与场景描述相结合,以抑制再现等的中断。例如,可以允许使用场景描述的外部媒体数据中的访问信息来参考MPD文件中的AdaptationSet(实施方式1-1-1)。在这种情况下,客户端装置103从指示为外部媒体数据的MPD中的AdaptationSet中选择比特率。

在场景描述中存在LOD节点的情况下,取决于视点位置确定适合每个3D对象的细节级别。因此,在本实施方式1-1中,为每个细节级别提供比特率变化,因此能够对每个细节级别进行比特率适配。

<分发系统>

图6是描绘与应用了本技术的系统的一个方面对应的分发系统的主要配置的示例的框图。图6所示的分发系统100是将6DoF内容从服务器分发到客户端的系统。

如图6中所示,分发系统100包括文件生成装置101、Web服务器102和客户端装置103。Web服务器102和客户端装置103经由因特网110连接。注意,图6对于每个装置描绘了单个装置,但是分发系统100对于每个装置可以包括任意数目的装置。换言之,可以设置多个文件生成装置101、多个Web服务器102和多个客户端装置103。

文件生成装置101生成场景描述数据121、MPD文件122和媒体数据123(媒体数据123-1、媒体数据123-2、...)。文件生成装置101将生成的数据上传到Web服务器102。

客户端装置103向Web服务器102请求场景描述数据121、MPD文件122、媒体数据123等,并且使Web服务器102将数据分发给客户端装置103。客户端装置103获取分发的数据,然后执行呈现以生成要显示的图像,并且使监视器(显示器)显示该图像。

<文件生成装置>

图7是描绘文件生成装置101的主要配置示例的框图。如图7所示,文件生成装置101包括控制部151和文件生成部152。

控制部151执行与文件生成部152的控制相关的处理。文件生成部152在控制部151的控制下执行与诸如场景描述数据121(也称为场景描述)、MPD文件122(也称为MPD)和媒体数据123之类的数据的生成相关的处理。文件生成部152包括数据输入部161、场景描述生成部162、媒体数据生成部163、MPD文件生成部164、段文件生成部165、记录部166和上传部167。

数据输入部161接收数据的输入。数据输入部161将接收到的数据提供给场景描述生成部162、媒体数据生成部163和MPD文件生成部164。

场景描述生成部162执行与场景描述数据121的生成相关的处理。例如,场景描述生成部162基于从数据输入部161提供的数据来生成场景描述数据121,并且将生成的描述数据121提供给段文件生成部165。

媒体数据生成部163执行与媒体数据123的生成相关的处理。例如,媒体数据生成部163基于从数据输入部161提供的数据来生成媒体数据123,并且将媒体数据123提供给段文件生成部165。

MPD文件生成部164执行与MPD文件122的生成相关的处理。例如,MPD文件生成部164基于从数据输入部161提供的数据来生成MPD文件122,并且将MPD文件122提供给记录部166。

段文件生成部165执行与段文件的生成相关的处理。例如,段文件生成部165获取从场景描述生成部162提供的场景描述数据121,并且将场景描述数据121逐段地制作成文件,以生成用于场景描述数据121的段文件(也称为场景描述段文件)。另外,段文件生成部165获取从媒体数据生成部163提供的媒体数据123,并且将媒体数据123逐段地制作成文件,以生成用于媒体数据123的段文件(也称为作为媒体数据段文件)。段文件生成部165向记录部166提供所生成的场景描述段文件和媒体数据段文件。

记录部166在包括在记录部166中的记录介质中记录从MPD文件生成部164提供的MPD文件122以及从段文件生成部165提供的场景描述段文件和媒体数据段文件。另外,记录部166在预定定时处或者基于用户等的请求读出记录在记录介质中的文件,并且将这些文件提供给上传部167。

上传部167从记录部166获取MPD文件122、场景描述段文件和媒体数据段文件,并且将这些文件上传(发送)到Web服务器102。

<客户端装置>

图8是描绘客户端装置103的主要配置示例的框图。如图8所示,客户端装置103包括控制部171和再现处理部172。控制部171执行与对再现处理部172的控制相关的处理。再现处理部172在控制部171的控制下执行与6DoF内容的再现相关的处理。再现处理部172包括MPD文件获取部181、MPD文件处理部182、场景描述段文件获取部183、场景描述段文件处理部184、显示控制部185、测量部186、媒体数据段文件选择部187、媒体数据段文件获取部188、解码处理部189、显示信息生成部190和显示部191。

MPD文件获取部181执行与MPD文件122的获取相关的处理。例如,MPD文件获取部181访问Web服务器102,向Web服务器102请求MPD文件122,并且获取MPD文件122。MPD文件获取部181将获取的MPD文件122提供给MPD文件处理部182。

MPD文件处理部182执行与MPD文件相关的处理。例如,MPD文件处理部182获取从MPD文件获取部181提供的MPD文件122,解析MPD文件,并且将MPD文件122和MPD文件122的解析结果提供给场景描述段文件获取部183。

场景描述段文件获取部183执行与场景描述段文件的获取相关的处理。例如,场景描述段文件获取部183获取从MPD文件处理部182提供的信息(MPD文件122以及MPD文件122的解析结果),并且基于该信息来访问Web服务器102,以获取场景描述段文件。场景描述段文件获取部183将获取的场景描述段文件提供给场景描述段文件处理部184。

场景描述段文件处理部184执行与场景描述段文件相关的处理。例如,场景描述段文件处理部184获取从场景描述段文件获取部183提供的场景描述段文件。另外,场景描述段文件处理部184从显示控制部185获取指示视点位置的信息。场景描述段文件处理部184基于获取的信息来确定MPD文件的访问目的地。场景描述段文件处理部184将确定的访问目的地提供给媒体数据段文件选择部187。

显示控制部185执行与6DoF内容的显示控制相关的处理。例如,显示控制部185向场景描述段文件处理部184、媒体数据段文件选择部187、显示信息生成部190等提供指示视点位置的信息。测量部186测量从Web服务器102到客户端装置103的传输路径的传输频带,并且将测量结果提供给媒体数据段文件选择部187。

媒体数据段文件选择部187执行与从媒体数据段文件中进行选择相关的处理。例如,在MPD文件122中,媒体数据段文件选择部187基于从显示控制部185提供的并且指示视点位置的信息、从测量部186提供的并且指示传输频带等的信息,来选择要再现的媒体数据段文件。媒体数据段文件选择部187将指示选择结果的信息提供给媒体数据段文件获取部188。

媒体数据段文件获取部188执行与媒体数据段文件的获取相关的处理。例如,媒体数据段文件获取部188获取从媒体数据段文件选择部187提供的并且指示媒体数据段文件的选择结果的信息。基于该信息,媒体数据段文件获取部188访问Web服务器102,向Web服务器102请求由媒体数据段文件选择部187选择的媒体数据段文件,并且获取媒体数据段文件。媒体数据段文件获取部188将获取的媒体数据段文件提供给解码处理部189。

解码处理部189获取并且解码从媒体数据段文件获取部188提供的媒体数据段文件。解码处理部189将解码的媒体数据段文件提供给显示信息生成部190。显示信息生成部190基于从解码处理部189提供的媒体数据段文件来执行呈现,生成用于显示的图像。显示信息生成部190将生成的用于显示的图像提供给显示部191,并且使显示部191显示该图像。

<文件生成处理的流程>

现在,将参照图9中的流程图描述由文件生成装置101执行的文件生成处理的流程的示例。当开始文件生成处理时,在步骤S101中,文件生成装置101的MPD文件生成部164生成MPD文件122。

在步骤S102中,场景描述生成部162生成场景描述数据121,该场景描述数据121包括指向在步骤S101中生成的MPD文件的链接。

在步骤S103中,媒体数据生成部163生成媒体数据123。

在步骤S104中,段文件生成部165使用在步骤S102中生成的场景描述数据121来生成场景描述段文件。另外,段文件生成部165使用在步骤S103中生成的媒体数据123来生成媒体数据段文件。

在步骤S105中,记录部166记录在步骤S101中生成的MPD文件122。另外,在步骤S106中,记录部166记录在步骤S104中生成的段文件(场景描述段文件和媒体数据段文件)。

在步骤S107中,上传部167读出在步骤S105中记录的MPD文件122,并且将该MPD文件122上传到Web服务器102。

在步骤S108中,上传部167读出在步骤S106中记录的段文件(场景描述段文件和媒体数据段文件),并且将该段文件上传到Web服务器102。

当步骤S108中的处理完成时,文件生成处理结束。

<再现处理的流程>

现在,将参照图10中的流程图描述由客户端装置103执行的再现处理的流程的示例。当开始再现处理时,在步骤S121中,MPD文件获取部181访问Web服务器102以获取MPD文件122。

在步骤S122中,MPD文件处理部182解析在步骤S121中获取的MPD文件122,以识别出首先要获取的场景描述数据121,并且参考场景描述数据121中的AdaptationSet以获取关于场景描述数据121的访问信息(URL(统一资源定位符))。

在步骤123中,场景描述段文件获取部183从在步骤S122中获取的URL获取与当前时间对应的场景描述段文件。

在步骤S124中,场景描述段文件处理部184从显示控制部185获取指示视点位置的信息。

在步骤S125中,场景描述段文件处理部184基于由在步骤S124中获取的信息指示的视点位置,对在步骤S123中获取的场景描述数据121进行解析,以确定MPD文件122中的访问目的地。

在步骤S126中,测量部186测量在Web服务器102与客户端装置103之间的传输路径的传输频带。媒体数据段文件选择部187获取测量结果(换言之,指示传输频带的信息)。

在步骤S127中,在MPD文件122中,媒体数据段文件选择部187基于在步骤S126中获取的并且指示传输频带的信息来选择媒体数据段文件。

在步骤S128中,媒体数据段文件获取部188访问Web服务器102,并且获取在步骤S127中选择的媒体数据段文件。

在步骤S129中,解码处理部189对在步骤S128中获取的媒体数据段文件进行解码。然后,显示信息生成部190使用解码的媒体数据段文件来执行呈现,以生成用于显示的图像。

当步骤S129中的处理结束时,再现处理结束。通过执行如上所述的步骤的处理,客户端装置103可以改进内容再现的鲁棒性。

<3-2:实施方式1-1-1>

<场景描述和MPD的配置>

在MPD中,可以用信号通知场景描述数据中的AdaptationSet以及从场景描述数据中的AdaptationSet参考的媒体数据中的比特率变化的AdaptationSet。换言之,例如,可以生成元数据,该元数据包括用作控制文件的MPD(媒体表示描述)中的AdaptationSet的访问信息,该AdaptationSet对应于三维对象的细节级别,并且包括与细节级别的多个比特率的比特率变化相关的信息。

图11描绘了在这种情况下的场景描述数据121的示例。图12描绘了在这种情况下的MPD文件122的示例。在图11和图12中,带圆圈的数字指示附图中箭头之间的对应关系。MPD文件122(图12)描述了用于指示场景描述数据121的AdaptationSet以及用于指示每个3D对象的每个细节级别处的网格数据和纹理数据的AdaptationSet。例如,一个AdaptationSet描述了关于3D对象A的高细节级别AH处的网格数据的比特率变化。

如图12所示,本实施方式的MPD文件122指示场景描述数据121中的AdaptationSet以及每条媒体数据123中的AdaptationSet。在该配置中,客户端装置103首先获取MPD文件122并且分析MPD文件122。这时,首先需要处理场景描述数据121中的AdaptationSet。然而,现有的信令无法允许确定要首先处理哪个AdaptationSet。

因此,将描述以下三种实现方法。(1)提供指示要首先处理AdaptationSet的信令,(2)提供指示不要首先处理的AdaptationSet的信令,以及(3)同时提供(1)中的信令和(2)中的信令。

(1)提供指示要首先处理的AdaptationSet的信令。

SupplementalProperty用于指示要首先处理的AdaptationSet的信令。如下面的示例所示,schemeIdUri用于设置InitialSelection。未设置“value”值。

示例:

(2)提供指示不要首先处理AdaptationSet的信令。

不要首先处理的每条媒体数据中的AdaptationSet是从场景描述数据121中参考的数据。该信令指示该数据是从另一条数据中参考的,并且不要首先处理。例如,如以下示例所示,在每条媒体数据的AdaptationSet中设置EssentialProperty,并且EssentialProperty中的schemeIdUri指示ExternalReferencedData,“value”值指示AdaptationSet@id,其指示哪个数据参考AdaptationSet。

示例:

除非现有客户端知道该属性,否则以EssentialProperty的指定阻止了独立再现。此外,知道该属性的客户端识别出该数据是外部参考的,并且因此避免了独立再现。换言之,MPD文件是向后兼容的。

(3)同时提供(1)中的信令和(2)中的信令。

通过同时提供(1)中的信令和(2)中的信令来实现该处理。

<修改例>

可以修改(1)和(2),使得AdaptationSet中的属性用于该信令,如以下示例所示。

示例:

示例:

另外,在(2)中,可以将AdaptationSet更改为不同的名称ExternalReferencedAdaptationSet,以指示已更改了使用AdaptationSet的方式。

此外,可以在预选择中同时用信号通知要首先处理的AdaptationSet以及不要首先处理的AdaptationSet。

预选择在EssentialProperty或SupplementalProperty中用信号通知schemeIdURI=“urn:mpeg:dash:preselection:2016”和value=“tag,media componentlist”。媒体组件列表允许经由空格分隔符来用信号通知多个媒体组件,并且第一媒体组件对应于主媒体组件。使用例如AdaptationSet@id来用信号通知主媒体组件。假定根据1decode来处理预选择。然而,本文中增强了表示,并且增强了处理被同时呈现的数据的能力。

在这种情况下,将场景描述中的AdaptationSet@id指示为主媒体组件,将从场景描述中参考的媒体数据AdaptatioSet@ids安排为媒体组件列表中的第二个媒体组件和后续媒体组件。换言之,主媒体组件是要首先处理的AdaptationSet,第二个媒体组件和后续媒体组件均为不要首先处理的AdaptationSet。在这种技术中,EssentialProperty用于信令。该技术在现有的预选择中使用schemeIdUri,但是可以使用另一个schemeIdUri来实现该信令。

替选地,可以在Role中用信号通知要首先处理的AdaptationSet以及不要首先处理的AdaptationSet。例如,在AdaptationSet中用信号通知Role元素,并且设置Role元素的值。在Role的SchemeIdUri中用信号通知“urn:mpeg:dash:role:2018”。对于要首先处理的AdaptationSet,如以下示例所示,指定value=“initial”。

示例:

对于不首先处理AdaptationSet的情况,如以下示例所示,用信号通知value=“ExternalReferencedData”。

示例:

<增强用信号通知场景描述>

如图11所示,增强信令以允许从在场景描述121中分别与指示网格的节点和指示纹理的节点对应的BitWrapper节点15和MovieTexture节点16访问MPD文件122中的AdaptationSet。

BitWrapper节点15和MovieTexture节点16使用URL来用信号通知外部媒体数据的访问信息。MPEG-4场景描述(ISO/IEC 14496-11)中的BitWrapper节点15和MovieTexture节点16的结构示例如图2所示。用于访问外部媒体数据的字段是两个节点的url字段。在本实施方式中,不增强BitWrapper节点15和MovieTexture节点16的语法,并且增强每个节点中的url字段的表示法。

在本实施方式中,除了用于MPD文件122的URL之外,还使用用于由url字段指示的URL的URL参数来用信号通知AdaptationSet@id,从而导致指示不同细节级别的媒体数据。具体地,例如,使用指示AdaptationSet的URL参数的变量“AS”,并且该变量的值用于用信号通知AdaptationSet@id。例如,为了指示AdaptationSet@id=1的AdaptationSet,如以下示例所示,在节点的URL中指定具有URL参数的URL。

URL的示例:http://www.6dofserver.com/6dof.mpd?AS=1

在现有技术中,URL用于指示一个媒体数据。然而,本技术允许指示一组多条媒体数据。这允许客户端从所指示的多个媒体数据的集合中选择比特率。

图13描绘了在图11的示例中的场景描述数据121中的BitWrapper节点15和MovieTexture节点16的URL的描述的示例,并且图14描绘了在图12的示例中的MPD文件122的描述的示例。在这种情况下,使用上述(2)来增强MPD文件122的信令。这样的描述允许指示从场景描述数据121中的BitWrapper节点15和MovieTexture节点16的URL到MPD文件122中的AdaptationSet的链接。

<修改例>

注意,增强可以包括向场景描述数据121中的BitWrapper节点15和MovieTexture节点16添加指示AdaptationSet@id的字段,而不是用URL参数来指定。在这种情况下,url字段描述MPD文件122的访问信息。

另外,已经示出了BitWrapper节点15和MovieTexture节点16的增强的示例,但是可以在任何其他节点中提供类似的字段作为增强。另外,代替url字段,可以添加指示指示用于媒体数据的访问信息的列表的URL的listUrl字段,以描述MPD文件122的URL。在这种情况下,具有URL参数的URL可以被存储在listUrl字段中,或者可以在listUrl字段中排他地指示指向MPD文件122的URL,而在另一个字段中指示AdaptatonSet@id。

<文件生成处理的流程>

现在,将参照图16中的流程图描述在这种情况下的文件生成处理的流程的示例。

当开始文件生成处理时,在步骤S141中,文件生成装置101的MPD文件生成部164生成MPD文件(如图12或图14的示例中所示的MPD文件),该MPD文件包括场景描述中的AdaptationSet以及包括每个比特变化的Representation的每个细节级别的AdaptationSet。

在步骤S142中,场景描述生成部162针对细节级别的每个比特变化生成场景描述数据(如图11或图13的示例中所描绘的MPD文件),该数据包括指向MPD中的AdaptationSet的链接。

与步骤S103至步骤S108(图9)中的处理类似地执行步骤S143至步骤S148中的处理。当步骤S148中的处理结束时,文件生成处理结束。

如上所述执行的文件生成处理允许文件生成装置101在分发时启用自适应比特率控制(启用比特率适配)。因此,文件生成装置101可以改进内容再现的鲁棒性。

<再现处理的流程>

现在,将参照图17中的流程图描述在这种情况下的再现处理的流程的示例。当开始再现处理时,与步骤S121至步骤S124(图10)的处理类似地执行步骤S161至步骤S164的处理。

在步骤S165中,场景描述段文件处理部184执行场景描述处理,以确定MPD中的访问目的地(AdaptationSet)。

在步骤S166中,测量部186测量在Web服务器102与客户端装置103之间的传输路径的传输频带。媒体数据段文件选择部187获取测量结果(换言之,指示传输频带的信息)。

在步骤S167中,媒体数据段文件选择部187选择MPD文件122中的每个AdaptationSet中的Representation,该AdaptationSet对应于各个3D对象的期望的细节级别。此时,媒体数据段文件选择部187选择Representation,使得要获取的所有段文件的比特率的总和小于在步骤S166中获取的传输频带。

在步骤S168中,媒体数据段文件获取部188访问Web服务器102,以获取在步骤S167中所选择的Representation指定的媒体数据段文件(用于所有3D对象的网格文件和纹理文件)。

在步骤S169中,解码处理部189对在步骤S168中获取的媒体数据段文件进行解码。然后,显示信息生成部190使用解码的媒体数据段文件来执行呈现处理以生成用于显示的图像。当步骤S169中的处理结束时,再现处理结束。

<场景描述处理的流程>

现在,将参照图18中的流程图描述在图17的步骤S165中执行的场景描述处理的流程的示例。

当开始场景描述处理时,在步骤S181中,场景描述段文件处理部184从场景描述数据121获取在根处的组节点11,并且获取所有子节点(Transform节点12)。

在步骤S182中,场景描述段文件处理部184确定在根处的组节点11是否包括任何未处理的子节点(Transform节点12)。在场景描述段文件处理部184确定组节点11包括未处理的子节点的情况下,处理进行到步骤S183。

在步骤S183中,场景描述段文件处理部184选择未处理的Transform节点12作为处理目标,并且处理作为处理目标的Transform节点12。该处理确定用于呈现的位置和大小。

在步骤S184中,场景描述段文件处理部184从场景描述数据121中获取与Transform节点12的子节点对应的LOD节点31。

在步骤S185中,场景描述段文件处理部184确定在每个LOD节点31的中心坐标参数与视点位置之间的距离。

在步骤S186中,场景描述段文件处理部184将每个LOD节点31的距离参数与所确定的距离进行比较,以确定要处理的子节点。

在步骤S187中,场景描述段文件处理部184基于用于网格文件和纹理文件的访问信息(例如,URL)来获取所确定的子节点并且获取MPD中的AdaptationSet。

当步骤S187中的处理结束时,处理返回到步骤S182,并且重复随后的处理。换言之,针对每个Transform节点12执行步骤S182至步骤S187中的处理。

在步骤S182中,在确定没有未处理的Transform节点的情况下,处理进行到步骤S188。在步骤S188中,场景描述段文件处理部184确定要利用的所有AdaptationSet。当步骤S188中的处理结束时,场景描述处理结束,并且处理返回图17。

<呈现处理的流程>

现在,将参照图19中的流程图描述在图17中的步骤S169中执行的呈现处理的流程的示例。

当开始呈现处理时,在步骤S201中,显示信息生成部190使用利用场景描述数据121中的信息获取的每个3D对象的网格文件和纹理文件的数据来配置场景。

在步骤S202中,显示信息生成部190基于视点位置、视线方向和视角来呈现场景中的每个3D对象,以生成用于显示的图像。当步骤S202结束时,呈现处理结束,并且处理返回到图17。

如上所述执行的步骤的处理允许客户端装置103在分发时能够进行自适应比特率控制(启用比特率适配)。因此,文件生成装置101可以改进内容再现的鲁棒性。

<3-3:实施方式1-1-2>

<场景描述和MPD的配置)

MPD中的AdaptationSet是根据需要配置的,并且该配置不限于实施方式1-1-1中的示例中的配置。例如,可以在MPD中的一个AdaptationSet中用信号通知关于相同3D对象的网格数据。类似地,可以在MPD中的一个AdaptationSet中用信号通知关于同一3D对象的纹理数据。换言之,一个三维对象的所有细节级别的比特率变化可以被包括在用于网格的一个AdaptationSet中和用于纹理的一个AdaptationSet中。注意,在这种情况下,与上述实施方式1-1-1的情况一样,增强了MPD信令。换言之,可以生成元数据,该元数据包括用于AdaptationSet中的表示的访问信息,该AdaptationSet与作为控制文件的MPD中的三维对象对应,并且包括关于细节级别的多个比特率的比特率比特率变化的信息。

图20描绘了在这种情况下的场景描述数据121的示例。图21描绘了在这种情况下的MPD文件122的示例。在图20和图21中,带圆圈的数字指示附图中箭头之间的对应关系。

在这种情况下,MPD文件122(图21)描述了用于场景描述数据121的AdaptationSet以及用于每个3D对象的网格数据和纹理数据的AdaptationSet。例如,如图20和图21所示,一个AdaptationSet描述了3D对象A的高细节级别AH、中等细节级别AM和低细节级别AL的网格数据的比特率变化。

<3-4:实施方式1-1-2-1>

如上所述的MPD文件122和场景描述数据121的配置可以通过增强场景描述数据121来实现。例如,可以生成元数据,该元数据包括访问信息,该访问信息包括:用于期望的MPD的访问信息;指定MPD中的期望的AdaptationSet的信息;以及指定AdaptationSet中的期望的Representation的信息。

<场景描述的信令>

在参照图20和图21描述的配置中,与指示场景描述数据121中的网格的节点对应的BitWrapper节点15以及与指示场景描述数据121中的纹理的节点对应的MovieTexture节点16中的比特率变化,所述比特率变化被包括在细节级别中,构成MPD文件122中的每个AdaptationSet中的几个Representation。

因此,在场景描述数据121中的BitWrapper节点15和MovieTexture节点16中,访问信息(例如,URL)可以用于用信号通知MPD文件122中的Representation,该Representation对应于比特率变化。

更具体地,Representation@id由与指示Representation和RS的值的URL参数的变量对应的“RS”指示。在BitWrapper节点15和MovieTexture节点16中,可以描述比特率变化的数目的Representation@id。例如,在Representation@id=1,Representation@id=2和Representation@id=3指示特定细节级别中包括的网格的比特率变化的情况下,在BitWrapper节点15和MovieTexture节点16中将具有如以下示例中的URL参数的URL描述为访问信息。

URL的示例:http://www.6dofserver.com/6dof.mpd?RS=1&RS=2&RS=3

图22描绘了图20中的场景描述数据121中的BitWrapper节点15和MovieTexture节点16的URL的描述的示例。另外,图23描绘了图21中的MPD文件122的描述的示例。在图22和图23中,带圆圈的数字指示图中箭头之间的对应关系。

如这些图所示,在场景描述数据121中的BitWrapper节点15和MovieTexture节点16中,将AHm-n或AHt-m(n和m为任意自然数)描述为变量RS的值,以允许节点链接到Representationid为该该值的Representation,该Representation被包括在与MPD文件122中的3D对象对应的AdaptationSet中。换言之,场景描述数据121中的BitWrapper节点15和MovieTexture节点16中的URL字段可以指示到与MPD文件122的比特率变化相同数目的Representation的链接。

<修改例>

请注意,URL参数可以用于同时用信号通知AdaptationSet的@id。信令的方式与实施方式1-1-1中所述的方式类似。

替选地,代替用URL参数进行指定,例如,如图24所示,可以对场景描述数据121中的BitWrapper节点15和MovieTexture节点16执行指示Representation@id的字段的增强。在这种情况下,url字段描述MPD文件122的访问信息。

此外,可以提供增强以添加指示AdaptationSet@id的字段。另外,已经描述了增强BitWrapper节点15和MovieTexture节点16的示例。然而,在其他节点中,可以像增强BitWrapper节点15和MovieTexture节点16一样增强字段。

另外,代替url字段,可以添加指示url的listUrl字段,该listUrl字段指示用于媒体数据的访问信息的列表,并且可以在该字段中描述MPD的URL。在这种情况下,具有URL参数的URL可以被存储在该字段中,或者可以在该字段中排他地指示到MPD文件122的URL,而将Representation@id存储在另一个字段中。

<3-5:实施方式1-1-2-2>

另外,MPD文件122也可以被增强。例如,在MPD文件122中,可以对具有相同细节级别的Representation进行分组,并且可以通过场景描述数据121中的BitWrapper节点15和MovieTexture节点16中描述的访问信息来指示该组。换言之,可以生成包括对相同比特率变化进行分组的信息的MPD。因此,与实施方式1-1-2-1相比,能够将与场景描述数据121中描述的媒体数据的URL的URL参数设为恒定,而与比特率的数目无关。另外,在创建场景描述数据121之后增加比特率变化的情况下,可以防止场景描述数据121的信令被影响。

对MPD文件122中的Representation进行分组,并且提供指示用于场景描述数据121中的细节级别的比特率变化的信令。

因此,对于用于细节级别的比特率变化,如以下示例中所示,在Representation中用信号通知具有相同“value”值的SupplementalProperty。

示例:

在SupplementalProperty中,schemeIdUri用于指示RepresentationGroup,“value”值用于指示组编号。这指示包括在相同AdaptationSet中并且具有相同“value”值的Representation属于同一组。

<修改例>

注意,在上述示例中,RepresentationGroup是哪个组的是未知的,因此“value”值可以用诸如“组编号,组类型”之类的逗号分隔,同时用信号通知该组的类型。下面举例说明。在该示例中,“LOD”指示一组细节级别。

示例:

<场景描述的信令>

此外,在场景描述数据121中,BitWrapper节点15和MovieTexture节点16中的访问信息(URL)用于指示上述Representation的组。然而,该组Representation被包括在哪个AdaptationSet中是未知的,因此,同时指示AdaptationSet。

在MPD文件122的URL参数中,用信号通知指示AdaptationSet的参数和指示RepresentationGroup的参数。指示AdaptationSet的参数与上述实施方式1-1-1中模式的参数相同。对于指示RepresentationGroup的参数,提供与变量对应的RepresentationGroup,并且对于RepresentationGroup的值,用信号通知MPD文件122中的RepresentationGroup的值。URL的示例如下所示。

URL的示例:http://www.6dofserver.com/6dof.mpd?AS=1&ReplesentationGroup=1

图25描绘了图20中的场景描述数据121中的BitWrapper节点15和MovieTexture节点16的URL的描述的示例,此外,图26描绘了图21中的MPD文件122的描述方示例。在图25和图26中,带圆圈的数字指示附图中箭头之间的对应关系。

这样的描述允许从场景描述数据121中的BitWrapper节点15和MovieTexture节点16的URL中,指示MPD文件122中的AdaptationSet的访问信息以及RepresentationGroup,该RepresentationGroup指示用于AdaptationSet中的细节级别的比特率变化的一组Representation。

<修改例>

在上面的描述中,在每个Representation中执行信令,但是可以在AdaptationSet中用信号通知。在这种情况下,例如,schemeIdUri可以用于指示ReplesentationGroup。对于分组信息,将RepresentationGroup作为SupplementalProperty的元素被新添加到每个组。RepresentationGroup包括id(具有与RepresentationGroup的值的含义相同的含义)以及该组中包括的Representations的id的列表。下面举例说明。

图27描绘了在这种情况下的MPD文件122的描述的示例。在图27的示例中,在MPD文件122中提供了上述示例中所示的描述,并且RepresentationGroup id=1链接到用于高细节级别的比特率变化的组。

注意,代替用场景描述数据121中的url的URL参数进行指定,例如,可以对BitWrapper节点15和MovieTexture节点16执行指示AdaptationSet@id和RepresentationGroup的字段的增强,如图28所描绘的那样。在这种情况下,url字段描述MPD文件122的访问信息。

另外,已经示出了BitWrapper节点15和MovieTexture节点16的增强的示例,但是可以在任何其他节点中提供类似的字段作为增强。此外,代替url字段,可以添加指示url的listUrl字段,该listUrl字段指示用于媒体数据的访问信息的列表,以描述MPD文件122的URL。

<3-6:实施方式1-1-3>

<将场景描述用作起点>

在实施方式1-1-1和实施方式1-1-2的描述中,首先获取MPD文件122,随后获取场景描述数据121,选择与视点对应的适当配置,并且随后从MPD文件122中的AdaptationSet中选择比特率。具体地,首先获取MPD文件122,因此MPD文件122是处理的起点。

处理的起点可以是场景描述数据121。在这种情况下,后续处理与实施方式1-1-1或实施方式1-1-2中描述的对应处理类似。换言之,首先获取场景描述数据121,选择与视点对应的适当配置,获取MPD文件122,并且从AdaptationSet中选择比特率。在这种情况下,例如,图14中的MPD文件122的以下部分(即,场景描述数据121中的AdaptationSet)是不必要的。换言之,可以生成不包括用于元数据的访问信息的MPD。

//场景描述

SD.mp4

这也导致不必要用信号通知的“value”值,该“value”值在每条媒体数据中的AdaptationSet中用信号通知。

<3-7:实施方式1-2>

<通过仅使用场景描述的配置实现比特率适配>

在实施方式1-1的描述中,使用场景描述数据121和MPD文件122来实现比特率适配。然而,可以通过增强场景描述数据121来实现比特率适配。换言之,在这种情况下,没有利用用于DASH的MPD文件122。换言之,元数据是与内容相关并且基于视点位置的空间显示控制信息,并且可以生成空间显示控制信息,其基于视点位置,并且作为节点包括使得能够在分发内容时选择比特率的信息。

<场景描述的增强>

在现有场景描述数据121的情况下,如图5所示,在3D对象的每个细节级别处只能用信号通知一个BitWrapper节点15和一个MovieTexture节点16。在现有场景描述数据121中,防止在每个细节级别处用信号通知BitWrapper节点15和MovieTexture节点16。换言之,不能提供比特变化。

因此,增强场景描述数据121,使得可以从网格数据和纹理数据的多个比特率中进行选择。

<分发系统>

如图29所示,在这种情况下的分发系统100的配置与图6的示例中的配置类似。然而,文件生成装置101生成场景描述数据121和媒体数据123,但是不生成MPD文件122。因此,Web服务器102也不将MPD文件122提供给客户端装置103。客户端装置103从Web服务器102获取场景描述数据121,并且基于场景描述数据121从Web服务器102获取媒体数据,并且再现该媒体数据。

<文件生成装置>

图30描绘了在这种情况下的文件生成装置101的主要配置示例。如图30所示,在这种情况下,文件生成装置101与图7的情况一样包括控制部151和文件生成部152。

然而,文件生成部152包括数据输入部161、场景描述生成部162、媒体数据生成部163、段文件生成部165、记录部166和上传部167。换言之,与图7中的配置相比,该配置缺少MPD文件生成部164。

记录部166在记录部166的记录介质中记录从段文件生成部165提供的场景描述段文件和媒体数据段文件。另外,在预定定时处或者基于来自用户等的请求,记录部166读出记录在记录介质中的段文件,并且将段文件提供给上传部167。

上传部167从记录部166获取场景描述段文件和媒体数据段文件,并且将段文件上传(发送)到Web服务器102。

<客户端装置>

图31是这种情况下客户端装置103的主要配置示例。如图31所示,在这种情况下,客户端装置103与图8的情况一样包括控制部171和再现处理部172。

然而,再现处理部172包括场景描述段文件获取部183、场景描述段文件处理部184、显示控制部185、测量部186、媒体数据段文件获取部188、解码处理部189、显示信息生成部190和显示部191。换言之,与图8中的配置相比,该配置缺少MPD文件获取部181、MPD文件处理部182和媒体数据段文件选择部187。

场景描述段文件获取部183访问Web服务器102,以获取与6DoF内容和视点位置对应的场景描述段文件,并且将场景描述段文件提供给场景描述段文件处理部184。换言之,场景描述段文件获取部183获取没有MPD文件122的场景描述段文件。

场景描述段文件处理部184基于诸如场景描述段文件、视点位置和传输频带之类的信息来选择要再现的媒体数据段文件。场景描述段文件处理部184将确定的媒体数据段文件的访问目的地提供给媒体数据段文件获取部188。

媒体数据段文件获取部188访问Web服务器102,请求并且获取由场景描述段文件处理部184选择的媒体数据段文件,并且将媒体数据段文件提供给解码处理部189。

<文件生成处理的流程>

现在,将参照图32中的流程图描述文件生成处理的流程的示例。当开始文件生成处理时,在步骤S221中,文件生成装置101的场景描述生成部162生成场景描述,该场景描述包括指向细节级别每个比特变化的媒体数据的链接。

与步骤S103、步骤S104、步骤S106和步骤S108中的处理类似地执行步骤S222至步骤S225中的处理。当步骤S108中的处理完成时,文件生成处理结束。

<再现处理的流程>

现在,将参照图33中的流程图描述在这种情况下的再现处理的流程的示例。当开始再现处理时,在步骤S241中,场景描述段文件获取部183获取当前时间的场景描述,该场景描述包括指向细节级别每个比特变化的媒体数据的链接。

在步骤S242中,场景描述段文件处理部184从显示控制部185获取指示视点位置的信息。在步骤S243中,基于由该信息指示的视点位置,场景描述段文件处理部184选择细节级别。

在步骤S244中,测量部186测量在Web服务器102与客户端装置103之间的传输路径的传输频带。场景描述段文件处理部184获取测量结果(换言之,指示传输频带的信息)。

在步骤S245中,在场景描述段文件中,场景描述段文件处理部184基于在步骤S244中获取的并且指示传输频带的信息来选择节点。

在步骤S246中,媒体数据段文件获取部188访问Web服务器102,并且获取在步骤S245中选择的节点的网格文件或纹理文件。

在步骤S247中,解码处理部189对在步骤S246中获取的媒体数据段文件进行解码。然后,显示信息生成部190使用解码的媒体数据段文件执行呈现,从而生成用于显示的图像。

当步骤S247中的处理结束时,再现处理结束。上述步骤的处理允许客户端装置103改进内容再现的鲁棒性。

<3-8:实施方式1-2-1>

<定义新节点>

在增强场景描述数据121时,在不改变而直接利用现有节点的情况下,可以添加新的节点以进行比特率适配。换言之,可以生成基于视点位置的空间显示控制信息,该空间显示控制信息包括表达作为多个子节点的用于三维对象的多个比特率的比特率变化的专用节点。

<场景描述的信令>

例如,可以重新定义指示客户端可以从多个节点中进行选择的ClientSelection节点。ClientSelection节点是可以用信号通知多个节点以及由各个节点指示的数据的比特率的节点。图34示出了ClientSelection节点的示例。

如图34所示,ClientSelection节点301包括指示多个子节点的SelectionNode字段以及指示各个子节点的比特率的比特率字段。换言之,SelectionNode字段描述子节点的列表,而比特率字段描述各个节点的比特率的列表。两个字段中的列表中的顺序彼此对应,并且SelectionNode字段中的第n个子节点的比特率信息由比特率字段中的第n条比特率信息表示。

图35示出了场景描述数据121的场景图的示例,该场景图允许利用如上所述的ClientSelection节点301从多个比特率中进行选择。图35仅示出了仅针对3D对象A的高细节级别的比特率变化的图。该图适用于其他细节级别和其他3D对象,因此将其省略。

在图35中的3D对象A的高细节级别的网格数据中,Shape节点13-1的子节点是ClientSelection节点301-1。ClientSelection节点301-1包括作为子节点的BitWrapper节点15,BitWrapper节点15用于包括17Mbps、15Mbps和13Mbps的比特率变化(BitWrapper节点15-1-1、BitWrapper节点15-1-2和BitWrapper节点15-1-3)。对于纹理数据的比特率变化,Appearance节点的子节点是ClientSelection节点301-2。ClientSelection节点301-2包括作为子节点的MovieTexture节点16,MovieTexture节点16用于包括17Mbps、15Mbps和13Mbps的比特率变化(MovieTexture节点16-1-1、MovieTexture节点16-1-2和MovieTexture节点16-1-3)。

如上所述,使用ClientSelection节点301允许将网格数据或纹理数据中的多个比特率的比特率变化表达为ClientSelection节点301的子节点。因此,每个子节点可以用于描述用于相应的比特率变化的媒体数据的访问信息。因此,使用如上所述的ClientSelection节点301来使用场景描述数据使得能够在分发中进行自适应比特率控制(分发中的比特率适配)。换言之,例如,可以抑制由减小的传输频带宽引起的再现中断,从而可以改进内容再现的鲁棒性。

<文件生成处理的流程>

现在,将参照图36中的流程图描述在这种情况下的文件生成处理的流程的示例。

当开始文件生成处理时,在步骤S261中,文件生成装置101的场景描述生成部162生成包括如上所述的ClientSelection节点301的场景描述数据121。

与步骤S222至步骤S225中的处理类似地执行步骤S262至步骤S265中的处理。当步骤S265中的处理结束时,文件生成处理结束。

<再现处理的流程>

现在,将参照图37中的流程图描述在这种情况下的再现处理的流程的示例。当开始再现处理时,在步骤S281中,场景描述段文件获取部183获取当前时间的场景描述数据121,该场景描述数据121包括ClientSelection节点301。与步骤S242(图33)中的处理类似地执行步骤S282中的处理。

在步骤S283中,场景描述段文件处理部184基于在步骤S282中获取的信息来执行场景描述处理,以确定网格数据和纹理数据的比特率变化。

与步骤S244(图33)中的处理类似地执行步骤S284中的处理。

在步骤S285中,场景描述段文件处理部184在场景描述段文件中选择用于所使用的细节级别的网格文件和纹理文件的比特率变化(ClientSelection节点的子节点)。此时,场景描述段文件处理部184选择子节点,使得所获取的所有段文件中的比特率的总和小于在步骤S284中获取的传输频带。

与步骤S246(图33)中的处理类似地执行步骤S286中的处理。

在步骤S287中,解码处理部189对在步骤S286中获取的媒体数据段文件(网格文件或纹理文件)进行解码。然后,显示信息生成部190使用经解码的媒体数据段文件执行呈现处理,生成用于显示的图像。如参照图19中的流程图所述执行呈现处理。当步骤S287中的处理结束时,再现处理结束。

如上所述执行的步骤的处理允许客户端装置103改进内容再现的鲁棒性。

<场景描述处理流程>

现在,将参照图38中的流程图描述在图37中的步骤S283中执行的场景描述处理的流程的示例。

当开始场景描述处理时,类似于步骤S181至步骤S186的处理执行步骤S301至步骤S306的处理。

在步骤S307中,场景描述段文件处理部184获取确定的子节点,并且从ClientSelection节点301列出用于网格文件和纹理文件的节点的变化。

当步骤S307中的处理结束时,处理返回到步骤S302,并且重复随后的处理。换言之,针对每个Transform节点12执行步骤S302至步骤S307中的处理。

在步骤S302中,在确定没有未被处理的Transform节点的情况下,处理进行到步骤S308。

在步骤S308中,场景描述段文件处理部184确定要使用的所有细节级别的网格文件和纹理文件的变化。当步骤S308中的处理结束时,场景描述处理结束,并且处理返回到图37。

如上所述执行的步骤的处理允许客户端装置103在分发时能够进行自适应比特率控制(启用比特率适配)。因此,文件生成装置101可以改进内容再现的鲁棒性。

<3-9:实施方式1-2-2>

<增强现有节点>

代替如上所述定义新节点,可以增强现有节点。例如,可以生成空间显示控制信息,该空间显示控制信息基于视点位置,并且包括其中添加了表达三维对象的比特率变化的多个比特率的字段作为多个子节点的节点。

<场景描述的信令>

例如,可以进行增强使得现有的BitWrapper节点15和MovieTexture节点16列出多条访问信息,以允许针对每条访问信息指定比特率。图39示出了在这种情况下BitWrapper节点15和MovieTexture节点16的示例。在这种情况下,BitWrapper节点15包括通过增强url字段而获得的urllist字段,并且适于指定多个网格数据文件。在比特率字段中指示在每个urllist中指示的网格数据文件的比特率。具有在urllist字段中指示的第n个url的网格数据文件的比特率由比特率字段中的第n条比特率信息指示。

类似地,MovieTexture节点16包括通过增强url字段而获得的urllist字段,并且适于允许指定多个纹理数据文件。在每个urllist字段中指示的纹理数据文件的比特率在比特率字段中指示。

上述增强型节点的场景图类似于图5中的场景图。然而,在这种情况下,可以从BitWrapper节点15和MovieTexture节点16访问具有不同比特率的媒体数据。已经描述了BitWrapper节点15和MovieTexture节点16的增强的示例,但是可以在任何其他节点中提供类似的字段作为增强。

<4.第二实施方式(实施方式2)>

<用于统一降低比特率的信令>

此外,可以添加指示可以通过统一降低所有网格和纹理的比特率来保持质量的信令。换言之,可以生成元数据,该元数据还包括指示可以通过针对所有三维对象统一控制比特率来保持质量的信息。

在带宽不足的情况下,需要获取比特率降低的每个网格和纹理的段文件。然而,此时,通过用信号通知指示可以通过统一降低所有网格和纹理的比特率来保持质量的信息,再现侧(客户端装置103)可以容易地识别出如何可以适当地降低3D对象的比特率。因此,基于该信息,可以以如下方式统一降低所有网格和纹理的比特率:保持在视点位置处确定的3D对象之间的质量相关性,并且在显示6DoF内容期间保持该质量相关性。因此,可以抑制6DoF内容的质量劣化。

<网格和纹理的比特率适配的配置方法>

在本实施方式中,比特率适配被配置成满足以下两个条件。

(1)在网格与纹理之间,比特率变化中的比特率数目相等。

(2)比特率变化中的比特率之间的质量差异与其他3D对象中的比特率之间的质量差异相对一致。

例如,对于网格,假设使用编码参数(量化位数)来创建比特率变化(例如,在创建包括三个比特率的比特率变化的情况下,包括10、8和6的量化位的数目的三种模式被用于创建用于任何网格的比特率变化)。同样对于纹理,假定使用编码参数(量化参数)来创建比特率变化。

<4-1:实施方式2-1>

<指示以比特率的顺序保持相对质量的信令的添加>

作为指示可以通过统一降低纹理的比特率来保持质量的信令,可以添加指示以比特率的顺序保持相对质量的信令。

<4-2:实施方式2-1-1>

<使用场景描述和MPD的配置来实现>

例如,使用用于DASH和场景描述数据的MPD文件的配置,可以添加指示以比特率的顺序保持相对质量的信令。

换言之,在类似于实施方式1-1中的系统的系统中,可以添加指示按照比特率的顺序保持相对质量的信令。换言之,在这种情况下的分发系统100的配置类似于图6的示例中的配置,在这种情况下的文件生成装置101的配置与图7的示例中的配置类似,并且在这种情况下,客户端装置103的配置类似于图8的示例中的配置。

<文件生成处理的流程>

将参照图40中的流程图描述在这种情况下的文件生成处理的流程的示例。当开始文件生成处理时,在步骤S321中,文件生成装置101的MPD文件生成部164生成MPD文件122,该MPD文件122包括指示按比特率的顺序的获取来保持3D对象之间的相对质量的信息。

与步骤S102至步骤S108(图9)中的处理类似地执行从步骤S322至步骤S328的处理。步骤S328中的处理结束,文件生成处理结束。

<再现处理的流程>

现在,将参照图41中的流程图描述在这种情况下的再现处理的流程的示例。当开始再现处理时,在步骤S341中,客户端装置103的MPD文件获取部181获取MPD文件122,该MPD文件122包括指示按比特率顺序的获取来保持3D对象之间的相对质量的信息。

与步骤S122至步骤S126(图10)的处理类似地执行步骤S342至步骤S346的处理。

在步骤S347中,媒体数据段文件选择部187在MPD文件122中基于传输频带以及指示按比特率顺序的获取来保持3D对象之间的相对质量的信息来选择媒体数据段文件。

与步骤S128和步骤S129(图10)中的处理类似地执行步骤S348和步骤S349中的处理。当步骤S349中的处理结束时,再现处理结束。

如上所述执行的步骤的处理使得能够基于指示以比特率的顺序的获取来保持3D对象之间的相对质量的信息来进行再现。因此,可以统一降低每个3D对象的网格和纹理的比特率,以抑制6DoF内容质量的劣化。因此,可以改进内容再现的鲁棒性。

<4-3:实施方式2-1-1-1>

<仅MPD的增强>

在这种情况下,例如,可以添加指示仅通过增强MPD文件来以比特率的顺序保持相对质量的信令。

例如,可以添加质量相关性信息,该质量相关性信息在MPD文件122中的所有网格和纹理的AdaptationSet中指示按比特率顺序(Representation@bandwidth顺序)的获取防止了3D对象之间的相对质量的变化。

具体地,使用SupplementalProperty和空格分隔符在Period中用信号通知AdaptationSets的id列表,当按比特率顺序获取时,AdaptationSets防止了3D对象之间相对质量的变化。下面举例说明。

示例:

可以用信号通知多个SupplementalProperty。例如,SupplementalProperty可以应用于音频而不是6DoF内容。

图42示出了本实施方式中的MPD文件122的示例。该示例包括三个3D对象,每个3D对象包括高、中和低三个细节级别。此外,针对每个细节级别处的网格和纹理提供包括三个比特率的比特率变化。

例如,在图42中分别针对3D对象A选择高细节级别(AdaptationSet@id=1和2),针对3D对象B选择中等细节级别(AdaptationSet@id=9和10),并且针对3D对象C选择中等细节级别(AdaptationSet@id=15和16),作为适当的细节级别,从以下三种模式中选择比特率的组合(Representation的组合)使得能够在保持相对质量的情况下进行显示。

模式1:

Representation@id=AHm-1,Representation@id=AHt-1,Representation@id=BMm-1,Representation@id=BMt-1,Representation@id=CMm-1,Representation@id=CMt-1

模式2:

Representation@id=AHm-2,Representation@id=AHt-2,Representation@id=BMm-2,Representation@id=BMt-2,Representation@id=CMm-2,Representation@id=CMt-2

模式3:

Representation@id=AHm-3,Representation@id=AHt-3,Representation@id=BMm-3,Representation@id=BMt-3,Representation@id=CMm-3,Representation@id=CMt-3

<修改例>

在图42中记载的示例中,在Period中提供信令。然而,可以在AdaptationSet中提供信令。然而,在这种情况下,未指定“value”值,并且数据指示具有该属性的AdaptationSet是当按比特率顺序进行获取时防止3D对象之间的相对质量发生变化的AdaptationSet。下面举例说明。另外,图43示出了MPD文件122的示例。

示例:

另外,考虑到在音频以及视频中的类似利用,将组编号指定为“value”值,以实现对于相同组编号的统一降低。例如,如以下示例中所示,可以在value的开头处用信号通知GroupId。

示例:

此外,如以下示例所示,可以用信号通知@RelativeQualityIsEnsuredByBitrateOrder而非SupplementalProperty作为AdaptationSet的周期或属性,并且可以用信号通知True/False或组编号作为value。

示例:

示例:

在上述的所有实施方式1-1-1、实施方式1-1-2以及实施方式1-1-3中,可以应用本实施方式中描述的方法。在将本技术应用于实施方式1-1-2的情况下,如果将比特率的顺序用于MPD中的RepresentationGroup中指示的URL参数或数据的处理就足够了。

<再现处理的流程>

与图40的流程图中的文件生成处理类似地执行这种情况下的文件生成处理。将参照图44中的流程图描述在这种情况下的再现处理的流程的示例。在开始再现处理时,在步骤S361中,MPD文件获取部181获取MPD文件122,该MPD文件122包括指示以比特率的顺序的获取来保持3D对象之间的相对质量的信息。

与步骤S162至步骤S166(图17)的处理类似地执行步骤S362至步骤S366的处理。

在步骤S367中,媒体数据段文件选择部187针对每个3D对象选择与期望的细节级别对应的MPD文件122中的每个AdaptationSet中的Representation。此时,媒体数据段文件选择部187选择具有相同的比特率顺序的Representation,使得所获取的所有段文件的比特率的总和小于在步骤S366中获取的传输频带。

与步骤S168和步骤S169(图17)中的处理类似地执行步骤S368和步骤S369中的处理。当步骤S369中的处理结束时,再现处理结束。

如上所述执行的步骤的处理使得能够基于指示以比特率的顺序的获取来保持3D对象之间的相对质量的信息来进行再现。因此,可以统一降低每个3D对象的网格和纹理的比特率,以抑制6DoF内容的质量劣化。因此,可以改进内容再现的鲁棒性。

<4-4:实施方式2-1-1-2>

<场景描述的增强>

代替如在实施方式2-1-1-1中描述的方法中的在MPD文件122中的信令,可以在场景描述数据121中提供信令。

<场景描述的信令>

可以增强场景描述数据121中的BitWrapper节点15和MovieTexture节点16中的url字段的描述。例如,将指示按比特率的顺序的获取防止3D对象之间的相对质量的改变的URL参数添加到URL。更具体地,例如,添加RelativeQualityIsEnsuredByBitrateOrder作为URL参数的变量。假定提供URL参数,以指示按照比特率的顺序(Representation@bandwidth顺序)的获取来使得能够保持3D对象之间的相对质量。下面举例说明。

URL的示例:http://www.6dofserver.com/6dof.mpd?AS=1&RelativeQualityIsEnsuredByBitrateOrder

图45示出了该示例中的场景描述数据121的示例。如图45所示,将RelativeQualityIsEnsuredByBitrateOrder作为URL参数的变量添加到BitWrapper节点15和MovieTexture节点16中url字段中的URL。

因此,在场景描述数据121中,可以用信号通知指示以比特率的顺序的获取来保持了3D对象之间的相对质量的信息。因此,可以统一降低每个3D对象的网格和纹理的比特率,以抑制6DoF内容的质量劣化。因此,可以改进内容再现的鲁棒性。

已经描述了实施方式1-1-1的应用。然而,本技术可以类似地应用于实施方式1-1-2和实施方式1-1-3。在将本技术应用于实施方式1-1-2的情况下,如果将比特率的顺序用于URL参数或者由MPD中的RepresentationGroup指示的数据的处理就足够了。

<修改例>

同样在本增强中,为了指示以比特率的顺序获取的分组,可以将分组编号指示为URL参数的值,如实施方式2-1-1的修改例中那样。

<4-5:实施方式2-1-2>

<仅使用场景描述的配置用于实现>

注意,在如实施方式1-2中仅使用场景描述的情况下,可以添加用于统一降低比特率的信令。换言之,在这种情况下,不利用用于DASH的MPD文件122。

换言之,在类似于实施方式1-2中的系统的系统中,可以添加指示以比特率的顺序保持相对质量的信令。换言之,在这种情况下,分发系统100的配置与图29的示例中的配置类似。文件生成装置101的配置与图30的示例中的配置类似。客户端装置103的配置类似于图31的示例中的配置。

<文件生成处理的流程>

将参照图46中的流程图描述在这种情况下的文件生成处理的流程的示例。当开始文件生成处理时,在步骤S381中,文件生成装置101的场景描述生成部162生成场景描述数据121,该场景描述数据121包括指示按比特率的顺序的获取来保持3D对象之间的相对质量的信息。

与步骤S222至步骤S225(图32)的处理类似地执行步骤S382至步骤S385的处理。当步骤S385中的处理结束时,文件生成处理结束。

<再现处理的流程>

现在,将参照图47中的流程图描述在这种情况下的再现处理的流程的示例。当开始再现处理时,在步骤S401中,客户端装置103的场景描述段文件获取部183获取场景描述段文件,该场景描述段文件包括当前时间的信息,该信息指示按比特率顺序的获取来保持3D对象之间的相对质量。

与步骤S242至步骤S244(图33)的处理类似地执行步骤S402至步骤S404的处理。

在步骤S405中,场景描述段文件处理部184基于传输频带以及指示按照比特率的顺序的获取来保持3D对象之间的相对质量的信息,来选择场景描述段文件中的节点。

与步骤S246和步骤S247(图33)中的处理类似地执行步骤S406和步骤S407中的处理。当步骤S407中的处理结束时,再现处理结束。

如上所述执行的步骤的处理使得能够基于指示以比特率的顺序的获取保持3D对象之间的相对质量的信息来进行再现。因此,可以统一降低每个3D对象的网格和纹理的比特率,以抑制6DoF内容的质量劣化。因此,可以改进内容再现的鲁棒性。

<4-6:实施方式2-1-2-1>

<定义新节点>

为了增强场景描述数据121,在不改变而直接使用现有节点的情况下,可以添加新的节点以进行比特率适配。

<场景描述的信令>

例如,可以添加质量相关性信息,该质量相关性信息指示对于所有的网格和纹理,按比特率的顺序的获取防止了3D对象之间的相对质量的改变。更具体地,ClientSelection节点301可以另外包括RelativeQualityIsEnsuredByBitrateOrderFlag字段,该字段指示按照比特率的顺序的获取防止了3D对象之间的相对质量的改变。图48示出了ClientSelection节点的增强示例。

对于包括TRUE的RelativeQualityIsEnsuredByBitrateOrderFlag的网格和纹理,当比特率变化时,可以通过同时降低比特率字段中指示的比特率顺序来降低比特率,而3D对象之间的相对质量不变。

<修改例>

注意,在本增强中,为了指示按比特率的顺序进行获取的分组,可以使用RelativeQualityIsEnsuredByBitrateOrder代替RelativeQualityIsEnsuredByBitrateOrderFlag,以SFint类型提供信令以指示分组编号。

<4-7:实施方式2-1-2-2>

<增强现有节点>

代替如上所述定义新节点,可以执行现有节点的增强。

<场景描述的信令>

例如,上述的RelativeQualityIsEnsuredByBitrateOrderFlag字段可以作为实施方式1-2-2中的BitWrapper节点15和MovieTexture节点16中的增强来提供增强。图49示出了该情况下BitWrapper节点15和MovieTexture节点16的示例。

<修改例>

同样在本增强中,为了指示按比特率的顺序进行获取的分组,可以使用RelativeQualityIsEnsuredByBitrateOrder代替RelativeQualityIsEnsuredByBitrateOrderFlag,以SFint类型提供信令以指示分组编号。

另外,已经示出了BitWrapper节点15和MovieTexture节点16的增强示例,但是可以在任何其他节点中提供类似的字段作为增强。

<5.第三实施方式(实施方式3)>

<指示要获取的比特率的组合的信令>

此外,可以添加与各个比特率对应的纹理和网格的变化、指示需要同时获取哪个比特率以允许保持相对质量关系的质量相关信息。换言之,可以生成元数据,该元数据还包括指示三维对象之间的相对质量的信息。

比特率变化中的比特率数目和比特率变化的质量可能随3D对象而变化。例如,网格数据允许针对具有大量顶点(例如,人)的3D对象创建多个比特率。然而,对于顶点数目较少的3D对象(例如,盒子),即使编码参数变化了,比特率也不会变化。因此,不能准备相同数目的比特率。

在如上所述的情况下,存在以下可能性,如第二实施方式中那样统一降低比特率极大地干扰了在视点位置处确定的3D对象之间的相对质量关系。对于某些3D对象,缺少比特率变化会阻止这种情况的发生。在这种情况下,缺少可以获取的比特率文件可能会阻止内容的再现。

如上所述,质量相关信息的添加允许即使在这样的情况下也控制比特率,以保持3D对象之间的相对质量关系。因此,可以改进内容再现的鲁棒性。

<5-1:实施方式3-1>

<指示使用质量排名进行选择也允许保持相对质量的信令>

将质量排名用信号通知给三维对象的每个细节级别的网格和纹理的比特率变化。此外,可以提供指示基于上述值的获取允许保持相对质量的信令。例如,作为指示三维对象之间的相对质量的信息,可以生成包括QualityRanking的元数据,该QualityRanking以排名的形式指示三维对象的比特率变化的比特率的质量。此时,以防止QualityRanking的值改变相对质量的方式执行编码。例如,可以基于实施方式2中的比特率适配的配置方法来执行编码,以按照编码参数的顺序确定QualityRanking,随后可以省略与比特率变化少对应的数据。

<5-2:实施方式3-1-1>

<使用场景描述和MPD的配置用于实现>

例如,使用用于DASH和场景描述数据的MPD文件的配置可以用于用信号通知QualityRanking(质量相关信息)。QualityRanking根据现有DASH标准(ISO/IEC 23009-1)使用Representation@QualityRanking。

换言之,在与实施方式1-1中的系统类似的系统中,可以用信号通知QualityRanking。换言之,在这种情况下的分发系统100的配置类似于图6的示例中的对应配置,文件生成装置101的配置类似于图7的示例中的对应配置,并且客户端装置103的配置类似于图8的示例中的对应配置。

<文件生成处理的流程>

将参照图50中的流程图描述在这种情况下的文件生成处理的流程的示例。当开始文件生成处理时,步骤S421中,文件生成装置101的MPD文件生成部164生成包括QualityRanking的MPD文件122。

与步骤S102至步骤S108(图9)中的处理类似地执行步骤S422至步骤S428中的处理。当步骤S328中的处理结束时,文件生成处理结束。

<再现处理流程>

现在,将参照图51中的流程图描述在这种情况下的再现处理的流程的示例。当开始再现处理时,在步骤S441中,客户端装置103的MPD文件获取部181获取包括QualityRanking的MPD文件122。

与步骤S122至步骤S126(图10)中的处理类似地执行步骤S442至步骤S446中的处理。

在步骤S447中,媒体数据段文件选择部187基于传输频带和QualityRanking来选择MPD文件122中的媒体数据段文件。

与步骤S128和步骤S129(图10)中的处理类似地执行步骤S448和步骤S449中的处理。当步骤S349中的处理结束时,再现处理结束。

如上所述执行的步骤的处理使得能够基于QualityRanking来进行再现,从而允许降低用于每个3D对象的网格和纹理的比特率,以抑制6DoF内容的质量劣化。因此,可以改进内容再现的鲁棒性。

<5-3:实施方式3-1-1-1>

<仅MPD的增强>

在这种情况下,例如,可以添加以下信息,该信息指示通过仅增强MPD文件,在所有网格和纹理的AdaptationSet中的Representation中用信号通知的以QualityRanking顺序(Representation@QualityRanking)进行的获取使3D对象之间的相对质量保持不变。

更具体地,在Period中使用SupplementalProperty和空格分隔符来用信号通知以QualityRanking顺序进行获取防止了3D对象之间的相对质量的变化的AdaptationSets的id列表。信令的示例在下面示出。

示例:

在没有任何一个Representation具有相同QualityRanking的情况下,可以选择具有接近的QualityRanking值的Representation。可以用信号通知多个SupplementalProperty。例如,这适用于本实施方式类似地应用于音频而不是6DoF内容的情况。

图52示出了在这种情况下的MPD文件122的示例。该示例包括三个3D对象,每个3D对象都包括高、中和低三个细节级别。此外,网格涉及不同的比特率变化,并且纹理涉及不同的比特率变化。

在图52中,在针对3D对象A选择高细节级别(AdaptationSet@id=1和2)作为适当的细节级别,针对3D对象B选择中等细节级别(AdaptationSet@id=9和10),并且针对3D对象C选择中等细节级别(AdaptationSet@id=15和16)的情况下,通过从以下参考QualityRankingd三种模式中选择比特率的组合,可以提供保持相对质量的显示。

模式1:

Representation@id=AHm-1,Representation@id=AHt-1,Representation@id=BMm-1,Representation@id=BMt-1,Representation@id=CMm-1,Representation@id=CMt-1

模式2:

Representation@id=AHm-2,Representation@id=AHt-2,Representation@id=BMm-3,Representation@id=BMt-3,Representation@id=CMm-1,Representation@id=CMt-2

模式3:

Representation@id=AHm-3,Representation@id=AHt-3,Representation@id=BMm-3,Representation@id=BMt-3,Representation@id=CMm-1,Representation@id=CMt-3

本技术可以应用于实施方式1-1-1、实施方式1-1-2和实施方式1-1-3中的任何一个。然而,在实施方式1-1-2中,可以选择QualityRanking不是以1开头的RepresentationGroup。然而,可以通过使用QualityRanking中的差异而不是QualityRanking的值,将本技术应用于基于客户端的实现的情况。

<修改例>

在上述示例中,在Period中提供信令。然而,可以在AdaptationSet中提供信令。然而,在这种情况下,未指定“value”值,并且提供了信令,使得使用具有该属性的AdaptationSet以QualityRanking顺序进行的获取防止了3D对象之间的相对质量发生变化。信令的示例在下面示出。另外,图53示出了该示例中的MPD文件122的示例。

示例:

另外,考虑到音频和视频的相似利用,可以将组编号指定为“value”值,并且可以对相同的组编号进行统一降低。例如,在value的开头用信号通知GroupId。信令的示例在下面示出。

示例:

<其他修改例>

可以将RelativeQualityIsEnsuredByQualityRanking添加到Period中的属性。替选地,可以将RelativeQualityIsEnsuredByQualityRanking添加到AdaptationSet中的属性。添加的示例如下所示。

示例:

示例:

<再现处理的流程>

与图50中的流程图的处理类似地执行这种情况下的文件生成处理。将参照图54中的流程图描述这种情况下的再现处理的流程。当开始再现处理时,在步骤S461中,MPD文件获取部181获取包括QualityRanking的MPD文件122。

与步骤S162至步骤S166(图17)的处理类似地执行步骤S462至步骤S466的处理。

在步骤S467中,媒体数据段文件选择部187针对每个3D对象选择与期望的细节级别对应的MPD文件122中的每个AdaptationSet中的Representation。此时,媒体数据段文件选择部187针对由SupplementalProperty指示的AdaptationSet来选择包括具有相同值或接近值的QualityRanking的Representation,并且选择组合,使得所获取的所有段文件的比特率的总和小于传输频带。

与步骤S168和步骤S169(图17)中的处理类似地执行步骤S468和步骤S469中的处理。当步骤S469中的处理结束时,再现处理结束。

如上所述执行的步骤的处理使得能够基于指示以比特率的顺序进行的获取保持3D对象之间的相对质量的信息来进行再现。因此,可以统一降低每个3D对象的网格和纹理的比特率,以抑制6DoF内容的质量劣化。因此,可以改进内容再现的鲁棒性。

换言之,客户端装置103在从关于每个3D对象的网格数据和纹理数据的AdaptationSets中选择比特率时,依次选择组合,首先选择QualityRanking值为1的组合,然后选择QualityRanking值为2的组合,依此类推。因此,尽管比特率适配,客户端装置103仍可以在防止相对质量的改变的同时选择数据。在不存在QualityRanking的值的情况下,可以使用包括具有接近值的QualityRankings的Representation。

在本实施方式中,QualityRanking可以仅包括一定数目的等级。在这种情况下,不能再降低Quality,并且需要连续选择与最低质量对应的数据。然而,QualityRankings可能有很大的不同,从而无法保持相对的质量。为了避免这种情况,可以允许执行如下所述的技术。

(1)客户端装置103在显示时降低Quality,使得该质量与其他质量一致。例如,在显示时,客户端装置103在显示之前将高斯模糊滤波器仅应用于3D对象部分。

(2)在将本技术应用于实施方式1-1-1和实施方式1-1-2的情况下,客户端装置103使Web服务器102创建具有低QualityRanking的比特率,并且获取该比特率。

客户端装置103向Web服务器102请求要创建的MPD文件的名称、AdaptationSet的id以及QualityRanking。根据该请求,Web服务器102针对指定的AdaptationSet中的网格数据或纹理数据创建具有指定的QualityRanking的段文件。然后,Web服务器102利用MPD更新的机制更新MPD文件122,并且将更新的MPD文件122发送到客户端装置103。基于新获取的MPD文件122,客户端装置103再次利用质量排名来选择要获取的文件。在这种情况下,可以预先在MPD中用信号通知用于服务器中不存在但是可以创建的QualityRanking的段文件。

<5-4:实施方式3-1-1-2>

<场景描述的增强>

代替如实施方式3-1-1-1中所述的MPD文件122中的信令,可以提供场景描述数据121中的信令。

<场景描述的信令>

在这种情况下,如实施方式2-1-1-2的情况,可以增强场景描述数据121中的BitWrapper节点15和MovieTexture节点16中的url字段的描述。

例如,如在下面示出的示例中,指示场景描述数据121中的网格和纹理的URL的URL参数可以用于指示通过以QualityRanking顺序进行获取使3D对象之间的相对质量保持不变。

URL的示例:

http://www.6dofserver.com/6DoF.mpd?

AS=1&RelativeQualityIsEnsuredByByQualyRanking

在这种情况下,场景描述数据121的描述对应于图45中的示例中的部分RelativeQualityIsEnsuredByBitrateOrder,该部分被RelativeQualityIsEnsuredByByQualityRanking替换。

已经描述了对实施方式1-1-1的应用。然而,本技术也可以应用于实施方式1-1-2和实施方式1-1-3。另外,可以启用针对不存在与较低QualityRanking对应的比特率变化的情况的处理。

<修改例>

另外,可以如实施方式3-1-1-1的修改例那样添加分组信息。例如,可以将分组信息添加到URL参数的RelativeQualityIsEnsuredByQualityRanking的值。添加的示例如下所示。

URL的示例:

http://www.6dofserver.com/6DoF.mpd?

AS=1&RelativeQualityIsEnsuredByQualityRanking=1

代替增强URL参数,修改例可以向BitWrapper节点15和MovieTexture节点16添加新字段,例如,如下所示的字段。

示例:字段SFBool RelativeQualityIsEnsuredByQualityRankingFlag

<5-5:实施方式3-1-2>

<仅使用场景描述的配置用于实现>

注意,还可以添加如下信令,该信令指示在实施方式1-2中仅使用场景描述的情况下可以通过利用质量排名进行选择来保持相对质量。换言之,在这种情况下,没有利用用于DASH的MPD文件122。注意,在本实施方式中,提供了两种增强,即:(1)用于质量排名的信令的增强;以及(2)指示以QualityRanking顺序进行的获取允许保持相对质量的信令的增强。

另外,在类似于实施方式1-2中的系统的系统中,可以添加指示还可以通过利用质量排名进行选择来保持相对质量的信令。换言之,在这种情况下,分发系统100的配置类似于图29中的示例中的对应配置,文件生成装置101的配置类似于图30中的示例中的对应配置,并且客户端装置103的配置类似于图31的示例中的对应配置。

<文件生成处理的流程>

将参照图55中的流程图描述在这种情况下的文件生成处理的流程的示例。当开始文件生成处理时,在步骤S481中,文件生成装置101的场景描述生成部162生成包括QualityRanking的场景描述数据121。

与步骤S222至步骤S225(图32)的处理类似地执行步骤S482至步骤S485的处理。当步骤S485中的处理结束时,文件生成处理结束。

<再现处理的流程>

将参照图56中的流程图描述在这种情况下的再现处理的流程。当开始再现处理时,在步骤S501中,客户端装置103的场景描述段文件获取部183获取包括当前时间的QualityRanking的场景描述段文件。

与步骤S242至步骤S244(图33)中的处理类似地执行步骤S502至步骤S504中的处理。

在步骤S505中,场景描述段文件处理部184基于传输频带和QualityRanking来选择场景描述段文件中的节点。

与步骤S246和步骤S247(图33)中的处理类似地执行步骤S506和步骤S507中的处理。当步骤S507中的处理结束时,再现处理结束。

如上所述执行的步骤的处理使得能够基于QualityRanking进行再现,从而允许降低用于每个3D对象的网格和纹理的比特率,以抑制6DoF内容的质量劣化。因此,可以改进内容再现的鲁棒性。

<5-6:实施方式3-1-2-1>

<定义新节点>

为了增强场景描述数据121,在不进行改变而直接利用现有节点的情况下,可以添加新的节点以进行比特率适配。例如,可以增强实施方式1-2-1中描述的ClientSelection节点301。

图57示出了增强ClientSelection节点301的示例。例如,在ClientSelection节点301中,在QualityRanking字段中描述了由SelectionNode字段指示的子节点的质量排名。QualityRanking[n]指示SelectionNode[n]的质量排名。

另外,包括RelativeQualityIsEnsuredByQualityRankingFlag为TRUE的网格和纹理指示可以通过选择具有相同QualityRanking值的网格和纹理来保持3D对象之间的相对质量来改变比特率。

<修改例>

另外,可以如实施方式3-1-1-1的修改例中那样用信号通知分组信息。在这种情况下,可以如下面所示的其中结果字段包括分组信息的示例中那样替换RelativeQualityIsEnsuredByQualityRankingFlag。

字段SFint32 RelativeQualityIsEnsuredByQualityRanking

<5-7:实施方式3-1-2-2>

<增强现有节点>

代替如上所述的新节点定义,可以执行现有节点的增强。

<场景描述的信令>

例如,上述的QualityRanking字段和RelativeQualityIsEnsuredByQualityRankingFlag字段可以作为增强而提供在实施方式1-2-2中增强的BitWrapper节点15和MovieTexture节点16中。图58示出了这种情况下BitWrapper节点15和MovieTexture节点16的示例。

<修改例>

如实施方式3-1-2-1的修改例那样,可以允许对分组信息进行处理。另外,已经示出了BitWrapper节点15和MovieTexture节点16的增强示例,但是可以在任何其他节点中提供类似的字段作为增强。

<5-8:实施方式3-2>

<用信号通知质量本身>

用信号通知比特率变化中所有比特率的Quality(例如,PSNR)。在这种情况下,客户端装置103选择引起相同程度的Quality变化的数据。换言之,可以生成元数据,该元数据包括包括以值指示三维对象的比特率变化的每个比特率的质量的Quality值,作为指示三维对象之间的相对质量的信息。

<5-9:实施方式3-2-1>

<使用场景描述和MPD的配置用于实现>

例如,可以通过使用用于DASH的MPD文件和场景描述数据的配置来用信号通知比特率变化的Quality。

例如,可以在Representation中用信号通知Quality本身。例如,可以使用SupplementalProperty在Representation中用信号通知Quality的类型和值。信令的示例在下面示出。

在该示例中,按类型用信号通知Quality的类型,并且按值用信号通知Quality的值。对于某些类型的Quality,Quality值可能会随着时间或者观看3D对象的位置或方向而变化。在这种情况下,在本技术中,如果使用基于特定时间、视点位置和视线方向计算的代表性Quality值就足够了。此外,如果在图59中的表格中指示类型就足够了。

通过使用指示的类型和“value”值来选择当比特率降低时引起程度相同的Quality变化的Representation,客户端装置103可以选择保持相对质量的比特率。

图60示出了在这种情况下的MPD文件122的示例。该示例包括三个3D对象,每个3D对象都包括高、中和低三个细节级别。此外,网格涉及不同的比特率变化,并且纹理涉及不同的比特率变化。

假设在图60所示的MPD文件122中,针对3D对象A选择高细节级别(AdaptationSet@id=1和2),针对3D对象B选择中等细节级别(AdaptationSet@id=9和10),并且针对3D对象C选择中等细节级别(AdaptationSet@id=15和16),作为适当的细节级别。对于比特率的组合,参考Quality的值,从具有最高Quality的比特率中选择具有相同数值差或者接近的数值差的比特率。然后,以下三个模式对应于能够保持具有相对质量的显示的组合。

模式1:

Representation@id=AHm-1,Representation@id=AHt-1,Representation@id=BMm-1,Representation@id=BMt-1,Representation@id=CMm-1,Representation@id=CMt-1

模式2:

Representation@id=AHm-2,Representation@id=AHt-2,Representation@id=BMm-3,Representation@id=BMt-3,Representation@id=CMm-1,Representation@id=CMt-2

模式3:

Representation@id=AHm-3,Representation@id=AHt-3,Representation@id=BMm-3,Representation@id=BMt-3,Representation@id=CMm-1,Representation@id=CMt-3

本实施方式的技术可以应用于实施方式1-1-1、实施方式1-1-2和实施方式1-1-3中的任何一个。

在本实施方式的技术中,Quality值的数目可以被限制为某个值。在这种情况下,不能再降低Quality,并且需要连续选择与最低质量对应的数据。然而,这扰乱了Quality的相关性。为了避免这种情况,可以允许执行如下所述的技术。

(1)客户端在显示时降低Quality,使得该质量与其他Quality一致。例如,在显示时,客户端在显示之前将高斯模糊滤镜仅应用于3D对象部分。

(2)在实施方式1-1-1或实施方式1-1-2中,客户端装置103使Web服务器102生成低Quality的比特率,并且获取该比特率。客户端装置103向Web服务器102请求MPD文件的名称、AdaptationSet的id以及要创建的Quality的类型和值。根据该请求,Web服务器102针对与指定的AdaptationSet中的网格数据或纹理数据创建与指定的Quality的类型和值对应的段文件,并且布置该段文件。然后,Web服务器102利用MPD更新的机制更新MPD文件122,并且将更新的MPD文件122发送到客户端装置103。基于新获取的MPD文件,客户端装置103再次利用Quality来选择要获取的文件。在这种情况下,可以预先在MPD中用信号通知服务器中不存在但是可以创建的Quality的类型和值的段文件。

<修改例>

可以将QualityValue添加到Representation的属性中。添加的示例如下所示。

示例:

<5-10:实施方式3-2-2>

<仅使用场景描述的配置用于实现>

注意,在如实施方式1-2中仅使用场景描述的情况下,可以添加质量本身的信令。换言之,在这种情况下,不利用用于DASH的MPD文件122。

<5-11:实施方式3-2-2-1>

<定义新节点>

为了增强场景描述数据121,在不进行改变而直接利用现有节点的情况下,可以添加新的节点以进行比特率适配。

通过增强实施方式1-2-1中的ClientSelection节点301来实现本实施方式。图61示出了在这种情况下的ClientSelection节点301的配置示例。QualityValue字段指示由ClientSelection节点301中的SelectionNode指示的子节点的Quality本身。QualityValue[n]指示SelectionNode[n]的质量。此外,Quality的类型由QualityType字段指示。相同的QualityType用于所有QualityValues。对于QualityType字段的值,利用图59中的表401中的值。

<5-12:实施方式3-2-2-2>

<增强现有节点>

代替如上所述定义新节点,本实施方式可以增强现有节点。本实施方式是实施方式3-2-2-1的修改例。作为实现方式的增强,在实施方式1-2-2中增强的BitWrapper节点15和MovieTexture节点16中提供了QaulityValue字段和QualityType字段。图62示出了这种情况下BitWrapper节点15和MovieTexture节点16的示例。

注意,已经示出了BitWrapper节点15和MovieTexture节点16的增强示例,但是可以在任何其他节点中提供类似的字段作为增强。

<5-13:实施方式3-3>

<用信号通知要同时再现的媒体数据的组合>

另外,可以用信号通知要同时再现的媒体数据的组合。换言之,可以生成元数据,该元数据包括指示可以同时再现的三维对象的比特率变化的信息,作为表示三维对象之间的相对质量的信息。

<5-14:实施方式3-3-1>

<使用场景描述和MPD的配置用于实现>

例如,使用用于DASH的MPD文件和场景描述数据的配置可以用于用信号通知要同时再现的媒体数据的组合。

例如,可以用信号通知指示允许保持相对质量的组合的分组信息。

当从AdaptationSet中选择Representation时,客户端装置103选择并且再现相同的组。一个Representation可以属于多个组。更具体地,在每个Representation中使用SupplementalProperty来指示组编号,并且信令指示当基于组编号选择相同的组编号时,3D对象之间的相对质量保持不变。“value”值指示组编号。可以使用空格分隔符指示多个组。信令的示例在下面示出。

示例:

图63是示出在这种情况下的MPD文件122的描述示例的图。假定在图63中,针对3D对象A选择高细节级别(AdaptationSet@id=1和2),针对3D对象B选择中等细节级别(AdaptationSet@id=9和10),并且针对3D对象C选择中等细节级别(AdaptationSet@id=15和16),作为适当的细节级别。比特率的组合允许通过选择包括具有相同的值的KeepRelativeQualityConsiderationGroups的Representation来保持相对质量。在该示例中,以下三个模式对应于使得能够在保持相对质量的情况下进行显示的组合。

模式1:

Representation@id=AHm-1,Representation@id=AHt-1,Representation@id=BMm-1,Representation@id=BMt-1,Representation@id=CMm-1,Representation@id=CMt-1

模式2:

Representation@id=AHm-2,Representation@id=AHt-2,Representation@id=BMm-3,Representation@id=BMt-3,Representation@id=CMm-1,Representation@id=CMt-2

模式3:

Representation@id=AHm-3,Representation@id=AHt-3,Representation@id=BMm-3,Representation@id=BMt-3,Representation@id=CMm-1,Representation@id=CMt-3

在本实施方式中,防止Quality被设置为等于或低于具有最大数值的组的Quality。此时,本实施方式可以允许使Web服务器102创建与更低质量对应的Group,并且允许获取该Group。客户端装置103向Web服务器102请求MPD文件的名称以及与甚至更低的KeepReativeQualityGroup的组合。根据该请求,Web服务器102创建与如下Quality对应的媒体数据,该Quality低于包括具有最大数值(换言之,所有3D对象的最低质量)的KeepReativeQualityGroup的Group的质量,并且布置该媒体数据。Web服务器102更新MPD文件122,并且将更新的MPD文件122发送到客户端装置103。基于新获取的MPD文件122,客户端装置103再次利用KeepReativeQualityGroup来选择要获取的文件。在这种情况下,可以预先在MPD中用信号通知具有在服务器中不存在但是可以创建的Quality的组的段文件。

<修改例>

可以将KeepRelativeQualityGroup添加到Representation的属性。添加的示例如下所示。

示例:

另外,考虑到音频以及视频的类似利用,可以用信号通知进一步分组的KeepRelativeQualityGroup的id作为“value”值。例如,可以在值的开头用信号通知GroupId。信令的示例在下面示出。

示例:

<5-15:实施方式3-3-2>

<仅使用场景描述的配置用于实现>

在根据实施方式1-2的仅具有增强的场景描述的技术中,可以用信号通知指示允许保持相对质量的组合的分组信息。

<5-16:实施方式3-3-2-1>

<定义新节点>

可以增强实施方式1-2-1中的客户端选择节点301。图64示出了在这种情况下的ClientSelection节点301的示例。在图64中,可以在由ClientSelection节点301中的SelectionNode指示的子节点中用信号通知指示允许保持相对质量的组合的分组信息。更具体地,可以在SelectionNode中设置KeepRelativeQualityConsiderationGroup。在KeepRelativeQualityConsiderationGroup[n]中指示与SelectionNode[n]所属的组相关的Group信息。Group指示作为字符的整数值,并且使用空格分隔符表示多个组。

<修改例>

另外,可以如实施方式3-2-1的修改例中那样,用信号通知进一步分组的KeepRelativeQualityGroup的id。在这种情况下,只要添加以下示例中所示的KeepRelativeQualityGroupId字段就足够了。

字段SFint32 KeepRelativeQualityGroupId

<5-17:实施方式3-3-2-2>

<增强现有节点>

本实施方式是实施方式3-3-2-1的修改例。可以在实施方式1-2-2中增强的BitWrapper节点15和MovieTexture节点16中提供KeepRelativeQualityConsiderationGroup字段作为增强。图65示出了增强的BitWrapper节点15和MovieTexture节点16的示例。

<修改例>

另外,可以如实施方式3-3-2-1中那样添加KeepRelativeQualityGroupId字段。另外,已经描述了BitWrapper节点15和MovieTexture节点16的增强示例,但是不旨在进行这种限制。可以在任何其他节点中提供类似字段作为增强。

<6:第四实施方式(实施方式4)>

<用于切换比特率选择的细节级别的信令>

此外,可以添加在将比特率降低到极限之后使用的信令,该信令用于通过取决于视点位置从所确定的3D对象的细节级别中降低一个或更多个或者所有3D对象的细节级别来执行比特率适配。

即使在选择了所有3D对象中比特率最低的网格和纹理的情况下,也有可能在传输频带比总比特率窄的情况下中断再现。

通过如上所述通过降低细节级别来提供用于比特率适配的信令,在如上所述的情况下,可以统一降低细节级别,以抑制6DoF内容的质量劣化。因此,可以改进内容再现的鲁棒性。

<6-1:实施方式4-1>

<指示统一降低细节级别防止了相对关系的干扰的信令>

对于基于细节级别的切换的比特率选择,可以提供指示统一降低细节级别防止相对关系被干扰的信令。换言之,可以生成还包括指示如下信息的元数据,该信息指示尽管三维对象的细节级别发生了变化,仍可以保持三维对象之间的相对质量。

<6-2:实施方式4-1-1>

<使用场景描述和MPD的配置用于实现>

例如,使用用于DASH的MPD文件和场景描述数据的配置可以用于用信号通知统一降低细节级别防止相对关系受到干扰。

基于实施方式1-1-1的实施方式使得能够访问场景描述中的3D对象的每个细节级别处的MPD中的AdaptationSet。然而,基于实施方式1-1-1的实施方式中的MPD没有指示每个AdaptationSet对应于哪个具有特定细节级别的3D对象。从指示哪个3D对象处于特定的细节级别的场景描述获取信息以切换细节级别是重复的工作(需要繁琐且耗时的工作)。

因此,首先,MPD被配置为指示在同一3D对象中包括哪个细节级别。换言之,对同一3D对象的网格中的AdaptationSets(细节级别)进行了分组。类似地,对同一3D对象的纹理中的AdaptationSets(细节级别)进行分组。此外,提供了指示在统一降低细节级别的情况下可以尽可能多地保持对象之间的相对显示关系的信令。

用于实施这种技术的特定信令使得:在Period中,用信号通知SupplementalProperty,该SupplementalProperty指示在统一降低细节级别的情况下可以尽可能地保持对象之间的相对显示关系,并且用信号通知具有尽可能地保持相对显示关系的细节级别的组。

SupplementalProperty用于在schemeIdUri中用信号通知“LODRelativeQualityIsEnsuredByLODOrder”,LODRelativeQualityIsEnsuredByLODOrder指示在统一降低细节级别的情况下可以尽可能地保持对象之间的相对显示关系。此外,将LODGroup添加到SupplementalProperty中的Element。LODGroup正在对关于同一3D对象的网格或同一3D对象的纹理的AdaptationSets的信息进行分组。使用LODGroup中的member属性用信号通知组中包括的AdaptationSet@id。从最高的细节级别开始,按照指示细节级别的降低顺序的细节级别的降序来排列用信号通知的AdaptationSet@id。信令的示例在下面示出。

示例:

在使用第二实施方式或第三实施方式的技术难以降低比特率的情况下,客户端基于SupplementalProperty来选择AdaptationSet与次低的细节级别的组合,并且再次使用第二实施方式或第三实施方式的技术执行比特率选择。此时,在不存在较低细节级别的情况下,使用关于最低细节级别的最小比特率的数据。

图66示出了在这种情况下的MPD文件122的示例。该示例包括三个3D对象,每个3D对象都包括高、中和低三个细节级别。SupplementalProperty指示3D对象的具有不同细节级别的一组网格数据以及3D对象的具有不同细节级别的一组纹理数据。

在图66中,针对3D对象A选择高细节级别(AdaptationSet@id=1和2),针对3D对象B选择中等细节级别(AdaptationSet@id=9和10),并且针对3D对象C选择中等细节级别(AdaptationSet@id=15和16),作为适当的细节级别。在即使降低组合内的比特率导致总比特率大于传输频带的情况下,细节级别仍然被改变。此时,将参考SupplementalProperty针对所有3D对象选择次低的细节级别。然后,得到以下组合。

AdaptationSet@id=3(3D对象A的中等细节级别的网格数据)

AdaptationSet@id=4(3D对象A的中等细节级别的纹理数据)

AdaptationSet@id=11(3D对象B的低细节级别的网格数据)

AdaptationSet@id=12(3D对象B的低细节级别的纹理数据)

AdaptationSet@id=17(3D对象C的低细节级别的网格数据)

AdaptationSet@id=18(3D对象C的低细节级别的纹理数据)

本技术可以应用于实施方式1-1-1。注意,在将本技术应用于实施方式1-1-1-1的情况下,可以通过以下操作来实现应用,在实施方式1-1-2-2的AdaptationSet中提供指示RepresentationGroups的信令并且在AdaptationSet中使用SupplementalProperty来提供指示统一降低RepresentationGroups(换言之,细节级别)允许尽可能地保持相对关系的信令。

在将本技术应用于实施方式1-1-2-2的情况下,可以通过以下操作来实现应用,使用SupplementalProperty在AdaptationSet中提供指示统一降低RepresentationGroups(换言之,细节级别)允许尽可能地保持相对关系的信令。

<修改例>

另外,可以执行如下所述的信令。

(1)通过AdaptationSet@group标识关于同一3D对象的网格和纹理的组信息,并且使用SupplementalProperty在每个AdaptationSet中用信号通知细节级别的顺序。替选地,将AdaptationSet中的Attribute用于指定。

(2)通过AdaptationSet@group标识关于同一3D对象的网格和纹理的组信息,并且从场景描述中获取细节级别的顺序。

(3)在AdaptationSet中,用信号通知用于次高的细节级别的AdaptationSet和用于次低的细节级别的AdaptationSet。下面示出了信令的描述示例。注意,该信令可以在AdaptationSet中的Attribute中指定。

(4)在上述(1)至(3)中,AdaptationSet用于用信号通知统一降低细节级别防止了相对质量关系受到干扰。更具体地,SupplementalProperty用于在AdaptationSet中提供指示对于该AdaptationSet统一降低细节级别允许尽可能地保持相对关系的信令。信令的示例在下面示出。注意,可以在AdaptationSet中的Attribute中指定信令。

示例:

本技术可以应用于实施方式1-1-1。注意,在将本技术应用于实施方式1-1-2-1的情况下,可以通过以下操作来实现该应用,在实施方式1-1-2-2的AdaptationSet中提供指示RepresentationGroups的信令并且使用SupplementalProperty来在AdaptationSet中提供指示统一降低RepresentationGroups(换言之,细节级别)允许尽可能地保持相对关系的信令。

另外,在将本技术应用于实施方式1-1-2-2的情况下,可以通过以下操作来实现该应用,使用SupplementalProperty在AdaptationSet中提供指示统一降低RepresentationGroup(换言之,细节级别)允许尽可能地保持相对关系的信令。

<再现处理的流程>

将参照图67中的流程图描述在这种情况下的再现处理的流程的示例。当开始再现处理时,在步骤S521中,客户端装置103的MPD文件获取部181获取包括QualityGroup信息的MPD文件122。

与步骤S161至步骤S166(图17)的处理类似地执行步骤S522至步骤S526的处理。

在步骤S527中,媒体数据段文件选择部187确定是否可以选择小于当前细节级别的传输频带的比特率的任何组合。在媒体数据段文件选择部187确定可以选择这样的比特率的组合的情况下,处理进行到步骤S528。

在步骤S528中,媒体数据段文件选择部187针对每个3D对象选择与期望的细节级别对应的MPD文件122中的每个AdaptationSet中的Representation。此时,媒体数据段文件选择部187选择Representation,使得要获取的所有段文件的比特率的总和小于传输频带。当步骤S528中的处理结束时,处理进行到步骤S530。

另外,在步骤S527中,在媒体数据段文件选择部187确定不能选择小于当前细节级别的传输频带的比特率的组合的情况下,处理进行到步骤S529。

在步骤S529中,媒体数据段文件选择部187执行比特率选择处理,降低细节级别,并且选择比特率。当步骤S529中的处理结束时,处理进行到步骤S530。

与步骤S168和步骤S169(图17)中的处理类似地执行步骤S530和步骤S531中的处理。当步骤S531中的处理结束时,再现处理结束。

<比特率选择处理的流程>

现在,将参照图68中的流程图描述在图67中的步骤S529中执行的比特率选择处理的流程的示例。

当开始比特率选择处理时,在步骤S551中,媒体数据段文件选择部187确定是否所有AdaptationSet都不处于最低细节级别。在媒体数据段文件选择部187确定不存在最低细节级别的AdaptationSet(3D对象)(仍然可以降低细节级别)的情况下,处理进行到步骤S552。

在步骤S552中,媒体数据段文件选择部187基于具有指示“LODRelativeQualityIsEnsuredByLODOrder”的schemeIdUri的SupplementalProperty,选择细节级别逐一降低的AdaptationSet的组合。

在步骤S553中,媒体数据段文件选择部187确定是否可以选择小于当前细节级别的传输频带的比特率的组合。在媒体数据段文件选择部187确定不存在比当前细节级别的传输频带小的比特率的组合的情况下,处理返回到步骤S551,并且重复随后的处理步骤。换言之,重复步骤S551至步骤S553中的处理,直到找到小于传输频带的比特率的组合或者所有3D对象都处于最低细节级别为止。

然后,在步骤S553中,在媒体数据段文件选择部187确定存在比当前细节级别处的传输频带小的比特率的组合的情况下,处理进行到步骤S554。

在步骤S554中,媒体数据段文件选择部187选择AdaptationSet中的Representation,使得总比特率小于传输频带。换言之,选择在步骤S553中检测到的“小于传输频带的比特率的组合”。当步骤S554中的处理结束时,比特率选择处理结束,并且处理返回到图67。

另外,在步骤S551中,在媒体数据段文件选择部187确定所有的AdaptationSet(3D对象)都处于最低细节级别并且不能再降低细节级别的情况下,处理进行到步骤S555。

在步骤S555中,媒体数据段文件选择部187选择Representation,使得所选择的AdaptationSet对应于最低比特率。当步骤S555中的处理结束时,比特率选择处理结束,并且处理返回到图67。

如上所述执行的步骤的处理允许降低细节级别,以控制比特率来保持3D对象之间的相对质量。因此,可以改进内容再现的鲁棒性。

注意,细节级别的数目可能会限于某个值。在这种情况下,不能再降低细节级别,并且需要连续选择最低细节级别的最低比特率。然而,这扰乱了细节级别的相对关系。为了避免这种情况,可以允许执行如下所述的技术。

(1)客户端在显示时降低Quality,使得该质量与其他Quality一致。例如,在显示时,客户端在显示之前将高斯模糊滤镜仅应用于3D对象部分。

(2)在实施方式1-1-1或实施方式1-1-2中,客户端装置103使Web服务器102生成更低的细节级别并且获取该细节级别。客户端装置103向Web服务器102请求MPD文件的名称以及AdaptationSet的id。根据该请求,Web服务器102针对甚至低于指定的AdaptationSet中的细节级别的细节级别的网格数据或纹理数据来创建比特率变化,并且布置该比特率变化。然后,Web服务器102利用MPD更新的机制来更新MPD文件122,并且将更新的MPD文件122发送到客户端装置103。基于新获取的MPD文件122,客户端装置103再次选择细节级别。在这种情况下,可以预先在MPD和场景描述中用信号通知在服务器中不存在但是可以创建的细节级别的段文件。

<6-3:实施方式4-1-2>

<仅使用场景描述的配置用于实现>

注意,在如实施方式1-2中仅使用场景描述的情况下,还可以提供指示统一降低细节级别防止了相对关系受到干扰的信令。换言之,在这种情况下,不利用用于DASH的MPD文件122。

<6-4:实施方式4-1-2-1>

<定义新节点>

例如,可以增强实施方式1-2-1中的ClientSelection节点301,并且在由ClientSelection节点301中的SelectionNode指示的子节点中,可以用信号通知指示统一降低细节级别允许保持相对质量的标志信息(Flag)。更具体地,可以添加LODRelativeQualityIsEnsuredByLODOrderFlag。图69示出了在这种情况下的ClientSelection节点301的示例。

<6-5:实施方式4-1-2-2>

<增强现有节点>

本实施方式可以增强现有节点,而不是如上所述地定义新节点。可以在实施方式1-2-2中增强的BitWrapper节点15和MovieTexture节点16中提供LODRelativeQualityIsEnsuredByLODOrderFlag字段,作为增强。图70示出了增强的BitWrapper节点15和MovieTexture节点16的示例。在这种情况下,在BitWrapper节点15和MovieTexture节点16中提供LODRelativeQualityIsEnsuredByLODOrderFlag字段作为增强。

<修改例>

注意,本技术涉及与细节级别的切换相关的信息,因此可以增强LOD节点31。图71示出了增强的LOD节点31的示例。在这种情况下,在LOD节点31中提供LODRelativeQualityIsEnsuredByLODOrderFlag字段,作为增强。

类似地,可以增强任何其他节点。在这种情况下,有利地,减少了用信号通知的节点的数目。

<6-6:实施方式4-2>

<指示可以基于质量来改变细节级别的信令>

当细节级别被改变时,可以提供指示可以基于Quality来改变细节级别的信令。换言之,可以生成元数据,该元数据包括指示尽管基于指示三维对象之间的相对质量的信息三维对象的细节级别发生了变化,但是仍可以保持三维对象之间的相对质量的信息。

<6-7:实施方式4-2-1>

<使用场景描述和MPD的配置用于实现>

例如,使用用于DASH的MPD文件和场景描述数据的配置可以用于可以基于Quality来改变细节级别的信令。

与实施方式4-1-1的情况一样,可以提供如下信令,该信令指示可以对用于3D对象的不同细节级别的网格或者用于同一3D对象的纹理的AdaptationSet进行分组,并且可以参考Quality改变细节级别。

例如,SupplementalProperty用于在schemeIdUri中用信号通知”LODRelativeQualityIsEnsuredByQualityValue”,LODRelativeQualityIsEnsuredByQualityValue指示在降低细节级别的情况下,可以通过使用Quality的值作为参考来尽可能地保持每个对象的相对显示关系。此外,将LODGroup添加到SupplementalProperty中的Element。LODGroup正在对关于同一3D对象的网格或者同一3D对象的纹理的AdaptationSets的信息进行分组。使用LODGroup中的member属性来用信号通知组中包括的AdaptationSet@id。从最高的细节级别开始按照指示细节级别的降低顺序的细节级别的降序来排列用信号通知的AdaptationSet@id。信令的示例在下面示出。注意,实施方式3-2-1中示出的技术用于用信号通知Quality值。

示例:

客户端装置103还将实施方式3-2-1的客户端装置103的实施方式适配为降低细节级别,使得能够获取保持了相对质量的组合。

实际信令的示例对应于实施方式3-2-1的图60中所示的MPD文件122,并且将被改变为LODRelativeQualityIsEnsuredByQualityValue的图66中所示的MPD文件122中的SupplementalProperty中的schemeIdUri添加到MPD文件122中。

注意,本技术可以应用于实施方式1-1-1。另外,通过使用LODGroup包括一个AdaptatonSet@id作为成员并且其中以AdaptatonSet@id中的RepresentationGroup的顺序指示QualityRanking的配置,本技术也可以应用于实施方式1-1-2。

<修改例>

下面将描述另一种信令方法的示例。

(1)通过AdaptationSet@group标识关于同一3D对象的网格和纹理的组信息,并且使用SupplementalProperty在每个AdaptationSet中用信号通知细节级别的顺序。也可以在AdaptationSet中的Attribute中提供信令。

(2)通过AdaptationSet@group标识关于同一3D对象的网格和纹理的组信息,并且从场景描述中获取细节级别的顺序。

(3)在AdaptationSet中,用信号通知用于次高的细节级别的AdaptationSet以及用于次低的细节级别的AdaptationSet。信令的示例在下面示出。注意,也可以在AdaptationSet中的Attribute中提供信令。

(4)在(1)至(3)中,在AdaptationSet中,提供了指示统一降低细节级别来防止相对关系受到干扰的信令。更具体地,SupplementalProperty用于在AdaptationSet中提供指示对于该AdaptationSet可以基于Quality值降低细节级别的信令。信令的示例在下面示出。注意,也可以在AdaptationSet中的Attribute中提供信令。

示例:

(5)可以使用QualityRanking代替Quality本身。在这种情况下,将QualityRanking分配给3D对象的总体网格或纹理(QualityRanking超过了“细节级别”(超过了AdaptationSets))。

注意,细节级别的数目可能限于某个值。在这种情况下,不能再降低细节级别,并且需要连续选择最低细节级别的最低比特率。然而,这扰乱了细节级别的相对关系。为了避免这种情况,可以允许执行如下所述的技术。

(1)客户端装置103在显示时降低质量,使得该质量与其他Quality一致。例如,在显示时,客户端装置103在显示之前将高斯模糊滤波器仅应用于3D对象部分。

(2)在实施方式1-1-1或实施方式1-1-2中,客户端装置103使Web服务器102生成更低的细节级别并且获取该细节级别。客户端装置103向Web服务器102请求MPD文件的名称以及AdaptationSet的id。根据该请求,Web服务器102针对甚至低于所指定的指定AdaptationSet中的细节级别的网格数据或纹理数据创建比特率变化,并且布置该比特率变化。然后,Web服务器102利用MPD更新的机制更新MPD文件122,并且将更新的MPD文件122发送到客户端装置103。基于新获取的MPD文件122,客户端装置103再次选择细节级别。在这种情况下,可以预先在MPD和场景描述中用信号通知在服务器中不存在但是可以创建的细节级别段文件。

<6-8:实施方式4-2-2>

<仅使用场景描述的配置用于实现>

注意,在如实施方式1-2中仅使用场景描述的情况下,可以添加指示可以基于Quality来改变细节级别的信令。换言之,在这种情况下,不利用用于DASH的MPD文件122。

<6-9:实施方式4-2-2-1>

<定义新节点>

例如,可以增强实施方式3-2-2-1中的ClientSelection节点301以实现本技术的信令。图72示出了在这种情况下的ClientSelection节点301的示例。如图72所示,在ClientSelection节点301中,用信号通知以下标志,该标志指示对于由SelectionNode指示的子节点可以基于Quality值来选择细节级别。更具体地,添加LODRelativeQualityIsEnsuredByQualityValue。

<修改例>

例如,可以使用QualityRanking代替Quality本身。在这种情况下,如实施方式4-2-1中所述,将QualityRanking分配给3D对象的整体网格或纹理。对于QualityRanking的信令,应用实施方式3-1-2-1中描述的技术,并且向QualityRanking添加指示可以尽可能保持对象之间的相对显示关系的LODRelativeQualityIsEnsuredByQualityRanking字段就足够了。

<6-10:实施方式4-2-2-2>

<增强现有节点>

注意,可以在实施方式3-2-2-2中增强的BitWrapper节点15和MovieTexture节点16中提供上述的LODRelativeQualityIsEnsuredByLODOrderFlag字段,作为增强。图73示出了这种情况下BitWrapper节点15和MovieTexture节点16的示例。如图73所示,在这种情况下,将上述LODRelativeQualityIsEnsuredByLODOrderFlag字段添加到BitWrapper节点15和MovieTexture节点16二者。

<修改例>

注意,可以使用QualityRanking代替Quality本身。在这种情况下,如以上实施方式4-2-1中所述,针对3D对象的所有网格或纹理分配QualityRanking。可以与实施方式3-1-2-2同样地执行QualityRanking的信令。通过将LODRelativeQualityIsEnsuredByQualityRanking字段添加到QualityRanking,可以应用本技术。

本技术涉及与细节级别的切换相关的信息,因此可以增强LOD节点31。然而,由于需要Quality值的信令,因此需要在实施方式3-2-2-1中增强的ClientSelection节点301的信令,或者在实施方案3-2-2-2中增强的BitWrapper节点15和MovieTexture节点16的信令。图74示出了LOD节点31的增强示例。在这种情况下,有利地,用信号通知较少的节点。另外,可以类似地增强任何其他节点。

<6-11:实施方式4-3>

<以细节级别用信号通知QualityRanking>

也可以在细节级别中用信号通知QualityRanking,并且客户端装置103可以基于QualityRanking来切换细节级别。

<6-12:实施方式4-3-1>

<使用场景描述和MPD的配置用于实现>

例如,将MPD文件用于DASH和场景描述数据的配置可以用于在细节级别中用信号通知QualityRanking。

与实施方式4-1-1相同,在Period中提供信令。例如,在实施方式4-1-1中,将QualityRanking添加到LODGroup的属性中。可以通过指示SupplementalProperty的LODRelativeQualityIsEnsuredByLODQualityRanking来保持质量的相关性,以允许选择细节级别,同时防止针对每个细节级别设置的QualityRanking的相对关系受到干扰。信令的示例在下面示出。请注意,member[n]的QualityRanking是QualityRanking[n]。

示例:

本技术可以应用于例如实施方式1-1-1。注意,通过使用其中LODGroup包括一个AdaptatonSet@id作为成员并且其中QualityRanking以AdaptatonSet@id中的RepresentationGroup的顺序指示的配置,本技术也可以应用于实施方式1-1-2。

<修改例>

注意,信令方法不限于上述示例。例如,可以使用如下所述的方法。

(1)通过AdaptationSet@group标识与同一3D对象的网格和纹理相关的组信息,并且使用SupplementalProperty在每个AdaptationSet中用信号通知细节级别的QualityRanking。也可以在AdaptationSet中的Attribute中提供信令。

(2)在AdaptationSet中,用信号通知次高的细节级别的AdaptationSet和次低的细节级别的AdaptationSet。信令的示例在下面示出。注意,也可以在AdaptationSet中的Attribute中提供信令。

(3)在(1)和(2)中,在AdaptationSet中,提供指示基于对细节级别的QualityRanking的选择来防止相对关系被干扰的信令。更具体地,SupplementalProperty用于在AdaptationSet中提供指示对于该AdaptationSet基于QualityRanking值降低细节级别允许保持相对质量关系的信令。信令的示例在下面示出。注意,也可以在AdaptationSet中的Attribute中提供信令。

示例:

<6-13:实施方式4-3-2>

<仅使用场景描述的配置用于实现>

注意,在如实施方式1-2中仅使用场景描述的情况下,可以在细节级别中用信号通知质量排名。换言之,在这种情况下,不利用用于DASH的MPD文件122。

<6-14:实施方式4-3-2-1>

<定义新节点>

为了增强场景描述数据121,在不进行改变而直接利用现有节点的情况下,可以添加新的节点以进行比特率适配。例如,可以增强实施方式1-2-1中描述的ClientSelection节点301。

图75示出了ClientSelection节点301的增强示例。例如,在ClientSelection节点301中,在SelectionNode字段中用信号通知Flag,该Flag指示统一降低细节级别使得可以保持相对质量。更具体地,添加了LODRelativeQualityIsEnsuredByLODQualityRanking字段,并且设置了LODQualityRanking。

<6-15:实施方式4-3-2-2>

<增强现有节点>

代替如上所述定义新节点,本实施方式可以增强现有节点。例如,可以在实施方式1-2-2中的BitWrapper节点15和MovieTexture节点16中提供LODRelativeQualityIsEnsuredByLODQualityRanking字段,作为增强。这对应于用图75中的ClientSelection节点301中的LODRelativeQualityIsEnsuredByLODQualityRanking字段替换图70中的BitWrapper节点15和MovieTexture节点16中的LODRelativeQualityIsEnsuredByLODOrderFlag字段。

<修改例>

本技术涉及与细节级别的切换相关的信息,因此可以增强LOD节点31。在这种情况下,有利地,用信号通知较少的节点。这对应于用图75中的LODRelativeQualityIsEnsuredByLODQualityRanking字段替换图71中所示的LOD节点31中的LODRelativeQualityIsEnsuredByLODOrderFlag字段。不言而喻,可以增强任何其他节点。

<7.第五实施方式(实施方式5)>

<指示内容作者等的意图的信令>

此外,可以用信号通知关于内容作者想要的3D对象的重要性信息。注意,例如,不管是否存在第四实施方式的标志信息(标志),客户端都可以选择是否使用该技术。另外,可以允许通过细节级别来设置重要性是有效还是无效。

例如,在场景包括内容作者意图为重要的3D对象与内容作者意图为不重要的3D对象的混合的情况下,降低细节级别而不考虑该信息可能会阻止用户观看反映内容作者等的意图的场景。

因此,通过用信号通知关于内容作者意图的3D对象的重要性信息,在如上所述的情况下,可以抑制重要的3D对象的细节级别的降低。这允许用户观看反映内容作者等的意图的场景。

<7-1:实施方式5-1>

<重要性(数值)的信令>

例如,作为3D对象的重要性的信令,每个3D对象在场景中有多重要可以用数字指示。换言之,可以生成还包括指示三维对象的重要性的信息的元数据。

<7-2:实施方式5-1-1>

<使用场景描述和MPD的配置用于实现>

例如,使用用于DASH的MPD文件和场景描述数据的配置可以用于用信号通知3D对象的重要性。

<7-3:实施方式5-1-1-1>

在每个3D对象的网格和纹理的AdaptationSets中,用信号通知指示3D对象的重要性的值。例如,重要性随着重要性值的降低而增加。不言而喻,重要性不限于该示例,并且例如可以随着重要性的值而一致地增加。

更具体地,可以将Important3Dobject属性添加到第四实施方式的SupplementalProperty中的LODGroup,并且可以使用“value”值来用信号通知重要性信息。3D对象的网格的LODGroup需要与3D对象的纹理的LODGroup具有相同的值。添加的示例如下所示。

图76示出了在这种情况下的MPD文件122的示例。该示例包括三个3D对象,每个3D对象都包括高、中和低三个细节级别。在每个AdaptationSet中用信号通知重要性信息,作为Important3Dobject属性的值。例如,3D对象A的重要性为1,而3D对象B和C的重要性为2。

在图76中的MPD文件122中,针对3D对象A选择高细节级别(AdaptationSet@id=1和2),针对3D对象B选择中等细节级别(AdaptationSet@id=9和10),并且针对3D对象C选择中等细节级别(AdaptationSet@id=15和16),作为适当的细节级别,在这种组合中,当即使减少了比特率导致总比特率大于传输频带时,也会改变细节级别。此时,参考SupplementalProperty,首先,对于Important3Dobject的较大“value”值,针对所有3D对象选择次低的细节级别。换言之,将值为2的3D对象B和C的细节级别降低1,针对3D对象B设置低细节级别(AdaptationSet@id=11和12),并且针对3D对象C设置低细节级别(AdaptationSet@id=17和18)。然后,从中选择比特率。在即使该选择也不充分的情况下,将3D对象A(值为1的3D对象)的细节级别减小1,以选择中等细节级别(AdaptationSet@id=3和4),并且降低比特率。

<修改例>

在这种情况下,LODGroup中包括的所有细节级别具有相同的重要性。可以取决于细节级别来更改重要性(例如,对于高细节级别将重要性设置为高,而对于其他细节级别则将重要性设置为较低)。在这种情况下,可以使用逗号分隔符为各个细节级别指定值。指定的示例如下所示。

另外,可以仅在某些3D对象中提供信令。在这种情况下,不设置任何值。不使用信令提供的细节级别可以被认为是不重要的,换言之,重要性低。信令的示例在下面示出。

此外,在如实施方式4-1-1中的其他信令示例中那样以AdaptationSets为单位提供信令的情况下,也可以在AdaptationSet中用信号通知Important3Dobject。在这种情况下,SupplementalProperty也可以用于排他地用信号通知Important3DObject。

另外,可以简单地指示细节级别是否重要。此时,可以允许针对每个细节级别指定用于指示细节级别是否重要的标志信息(标志),如1或0。

在选择细节级别内的比特率以及切换细节级别时,可以允许利用重要性信息。

[比特率选择处理的流程>

客户端装置103基于3D对象的重要性,确定在哪个细节级别处开始增加或减少比特率。例如,在传输频带不足的情况下,从重要性最低的细节级别开始依次降低细节级别。不管是否应用第四实施方式,客户端装置103都可以仅基于该值来控制细节级别的切换。

注意,在这种情况下,如参照图67中的流程图所描述的来执行再现处理。参照图77中的流程图,将描述在步骤S529中执行的比特率选择处理的流程的示例。

当开始比特率选择处理时,在步骤S571中,媒体数据段文件选择部187确定是否所有AdaptationSet都不处于最低细节级别。在媒体数据段文件选择部187确定存在不是最低细节级别(仍然可以降低细节级别)的AdaptationSet(3D对象)的情况下,处理进行到步骤S572。

在步骤S572中,媒体数据段文件选择部187从schemeIdUri为”LODRelativeQualityIsEnsuredByLODOrder”的SupplementalProperty中获取Important3Dobject的最大值,并且将该最大值设置为变量a。

在步骤S573中,媒体数据段文件选择部187确定变量a是否为0。在媒体数据段文件选择部187确定变量a为0(a=0)的情况下,处理返回到步骤S571,并且重复后续的处理步骤。

换言之,重复步骤S571至步骤S573的处理,直到确定所有AdaptationSet都处于最低细节级别或者确定变量a不为0为止。然后,在步骤S573中,在确定变量a不为0的情况下,处理进行到步骤S574。

在步骤S574中,媒体数据段文件选择部187从Important3Dobject为a的LODGroup的AdaptationSet中进行选择,所选择的AdaptationSet具有次低的细节级别。

在步骤S575中,媒体数据段文件选择部187确定是否可以通过仅针对改变了细节级别的AdaptationSet重新选择比特率来减小传输频带。在媒体数据段文件选择部187确定防止允许比特率减小传输频带的情况下,处理进行到步骤S576。

在步骤S576中,将变量a的值减少1(从变量a中减去1)。当步骤S576中的处理结束时,处理返回到步骤S573,并且重复随后的处理步骤。

换言之,重复步骤S573至步骤S576的处理,直到确定变量a为0或者确定比特率允许减小传输频带为止。然后,在步骤S575中,在确定比特率允许减小传输频带的情况下,处理进行到步骤S577。

在步骤S577中,媒体数据段文件选择部187选择允许减小传输频带的Representation。当步骤S577中的处理结束时,比特率选择处理结束,并且处理返回到再现处理。

另外,在步骤S571中,在媒体数据段文件选择部187确定所有AdaptationSet处于最低细节级别并且不能再降低细节级别的情况下,处理进行到步骤S578。

在步骤S578中,媒体数据段文件选择部187选择Representation,使得所选择的AdaptationSet对应于最低比特率。当步骤S578中的处理结束时,比特率选择处理结束,并且处理返回到再现处理。

换言之,按以下顺序执行处理:将具有低重要性的3D对象的细节级别降低1,然后将具有次低重要性的3D对象的细节级别降低1,以此类推。因此,可以执行反映内容作者等意图的重要性的再现。

注意,可以以如下顺序执行处理:将具有低重要性的3D对象的细节级别降低到尽可能低的重要性,然后将具有次低重要性的3D对象的细节级别降低到尽可能低的重要性,依此类推。

<7-4:实施方式5-1-2>

<仅使用场景描述的配置用于实现>

注意,在如实施方式1-2中仅使用场景描述的情况下,可以用信号通知与内容作者意图的3D对象相关的重要性信息。换言之,在这种情况下,不利用用于DASH的MPD文件122。

<7-5:实施方式5-1-2-1>

<定义新节点>

例如,可以增强实施方式1-2-1的客户端选择节点301,以用信号通知关于3D对象的重要性信息。更具体地,可以添加Important3Dobject。重要性随着重要性值的降低而增加。然而,假设在未提供字段的情况下也对应于初始值的0不设置3D对象重要性。不言而喻,对于重要性的任何表达方法都被采用,并且不限于该示例。

图78示出了在这种情况下的ClientSelection节点301的示例。如图78所示,在这种情况下,将设置3D对象的重要性的Important3Dobject字段添加到ClientSelection节点301。

<7-6:实施方式5-1-2-2>

<增强现有节点>

代替如上所述定义新节点,本实施方式可以增强现有节点。可以在实施方式1-2-2中增强的BitWrapper节点15和MovieTexture节点16中提供Important3Dobject字段,作为增强。图79示出了增强的BitWrapper节点15和MovieTexture节点16的示例。在这种情况下,将Important3Dobject字段添加到BitWrapper节点15和MovieTexture节点16。

<修改例>

注意,在针对每个3D对象确定重要性的情况下,可以增强Transform节点12。图80是示出增强的Transform节点12的示例的图。如图80所示,在这种情况下,Important3Dobject字段被添加到Transform节点12。有利地,这导致用信号通知更少的节点。注意,在该示例中,增强了Transform节点12,但是可以重新定义任何其他节点,或者可以增强任何其他节点(例如,Shape节点13等)。

<8:第六实施方式(实施方式6)>

<用于保持用户关注的3D对象的细节级别的实现方法>

此外,可以允许识别用户关注的3D对象,并且可以允许保持3D对象的细节级别。

<8-1:实施方式6-1>

<客户端装置103的实施方式>

在传输频带不足的情况下,客户端装置103可以应用以下规则来选择比特率。换言之,可以生成还包括指定关注的三维对象的重要性的信息的元数据。

(1)获取用户的关注点。

(2)根据场景描述中的位置信息确定位于关注点处的3D对象。

(3)假定关注的3D对象的重要性为1。假定其他3D对象的重要性为2。

(4)然后,使用类似于第五实施方式中的算法的算法来选择比特率。

<比特率选择处理的流程>

在这种情况下,如参照图67中的流程图所描述的来执行再现处理。参照图81中的流程图,将描述在这种情况下在步骤S529中执行的比特率选择处理的流程的示例。

当开始比特率选择处理时,在步骤S591中,媒体数据段文件选择部187确定是否所有AdaptationSet都不处于最低细节级别。在媒体数据段文件选择部187确定不存在最低细节级别(仍然可以降低细节级别)的AdaptationSet(3D对象)的情况下,处理进行到步骤S592。

在步骤S592中,媒体数据段文件选择部187从schemeIdUri为“LODRelativeQualityIsEnsuredByLODOrder”的SupplementalProperty中获取Important3Dobject的最大值,并且将该最大值设置为变量a。

在步骤S593中,媒体数据段文件选择部187根据用户的位置、视线方向等以及关于在场景描述数据121中描述的每个3D对象的位置信息,确定用户关注的3D对象。

在步骤S594中,媒体数据段文件选择部187将在步骤S593中检测到的用户关注的3D对象的重要性设置为1,并且将其他3D对象即用户不关注的3D对象的重要性设置为2。此外,变量a=2。

与步骤S573至步骤S578(图77)的处理类似地执行步骤S595至步骤S600的处理。

当步骤S599或步骤S600中的处理结束时,比特率选择处理结束,并且处理返回到再现处理。

如上所述执行的比特率选择处理允许识别用户关注的3D对象,并且允许防止3D对象的细节级别的降低。因此,可以基于用户的主观视点抑制6DoF内容质量的劣化。

<修改例>

请注意,关注的3D对象的重要性可以为1,不关注但正在显示的3D对象的重要性可以为2,其他3D对象的重要性可以为3。细节级别从未显示的3D对象开始依次减少。

另外,重要性的分配可以被细分,并且对于不关注但是正在显示的3D对象,重要性可以在以下二者之间变化:被显示并且位于靠近关注的3D对象的3D对象,以及被显示但是不位于靠近关注的3D对象的3D对象(将不同的重要性程度分配给这些3D对象)。

此外,在将不关注的3D对象的细节级别降低到最低级别之后,可以降低关注的3D对象的细节级别。

另外,当从细节级别的比特率中进行选择时,可以从不关注的3D对象开始降低比特率。

<9:第七实施方式(实施方式7)>

<在3D空间中的一个本体包括多个部分的3D对象的情况下的信令>

第一实施方式对应于将存在于3D空间中的每个对象都假设为3D对象的情况。在本体也包括多个部分的3D对象的情况下,如第一实施方式中的情况,可以允许针对每个细节级别执行比特率适配。

例如,假定如图82所示,圆柱体A被分成四个部分,这四个部分包括3D对象A1、3D对象A2、3D对象A3和3D对象A4。在这种情况下,每个3D对象都包括网格数据和纹理数据。

<9-1:实施方式7-1>

<在场景描述中用信号通知各个部分的3D对象>

在场景描述中用信号通知所有部分的此类3D对象。例如,在实施方式1中描述的技术中,在场景描述中用信号通知用于各个部分的3D对象。因此,可以使用与实施方式1中示出的技术相同的增强来实现。

例如,可以应用实施方式1-1-1中使用场景描述和MPD的配置的增强。在将实施方式1-1-1应用于如图82所示的将本体A划分为四个3D对象的示例的情况下,场景描述数据121具有例如如图83所示的配置。在图83中,对于3D对象A2至3D对象A4,LoD节点和从属配置与3D对象A1的对应配置类似,因此省略对该配置的描述。

如图83所示,实施方式1-1-1中的增强的应用允许用信号通知与本体A的各部分对应的作为单独的3D对象的3D对象A1至3D对象A4。

不言而喻,不仅在实施方式1-1-1中描述的技术,而且可以将在实施方式1-1的所有从属实施方式(实施方式1-1-1、实施方式1-1-2、实施方式1-1-2-1、实施方式1-1-2-2和实施方式1-1-3)中描述的技术应用于如图82的示例所示的因分割而产生的3D对象。

例如,可以应用仅使用场景描述的实施方式1-2-1中的增强。在将实施方式1-2-1应用于如图82所示的将本体A划分为四个3D对象的示例的情况下,场景描述数据121具有例如如图84所示的配置。在图84中,对于3D对象A2至3D对象A4,LoD节点和从属配置与3D对象A1的对应配置相似,因此省略该配置的描述。另外,用于3D对象A1的中等细节级别A1M处的Shape节点和从属配置类似于用于3D对象A1的高细节级别A1H处的对应配置,因此省略了该配置的描述。类似地,用于3D对象A1的低细节级别A1L处的Shape节点和从属配置与用于3D对象A1的高细节级别A1H处的对应配置相似,因此省略对该配置的描述。

如图84所示,实施方式1-2-1中的增强可以应用于将3D对象A1作为个体3D对象用信号通知给与本体A的各个部分对应的3D对象A4。这允许单独访问3D对象A1到3D对象A4中的每一个。

不言而喻,不仅实施方式1-2-1中描述的技术,而且实施方式1-2的所有从属实施方式(实施方式1-2-1和实施方式1-2-2)中描述的技术都可以应用于由分割产生的3D对象,如图82中的示例所示。

如上所述,用于应用实施方式1的技术在场景描述中用信号通知各个部分的3D对象,以允许单独地访问3D对象。然而,该技术无法允许确定3D对象最初是否构成一个本体。

<9-2:实施方式7-2>

<在场景描述中用信号通知整个本体并且用信号通知该本体包括多个3D对象>

因此,可以在场景描述中排他地用信号通知指示存在一个本体的信息,并且可以提供允许访问MPD中的多条媒体数据和纹理数据的进一步的信令。

例如,如图85所示,在场景描述数据121中仅用信号通知与整体A相关的信息。然后,在针对本体A的BitWrapper节点和MovieTexture节点中的访问信息中,用信号通知用于DASH的MPD文件122中的多条网格数据或纹理数据,以允许使用所有的网格数据和纹理数据。

<9-3:实施方式7-2-1>

<针对各个部分的3D对象的每个细节级别提供AdaptationSet的情况>

如在图12和图13中所示的示例中,提供针对每个细节级别的AdaptationSet的配置可以用于表达包括多个3D对象的本体。在这种情况下,为了指示本体包括多个3D对象,需要从场景描述数据121中的BitWrapper节点15和MovieTexture节点16中的访问信息中用信号通知多个AdaptationSet。

<9-4:实施方式7-2-1-1>

<增强URL查询以用信号通知多个AdaptationSet>

可以提供增强,以允许从包括关于场景描述中的本体的网格数据的访问信息的BitWrapper节点或者包括纹理数据的访问信息的MovieTexture节点访问MPD文件的多个部分中的网格数据或纹理的AdaptationSet,以指示需要同时利用AdaptationSet。

BitWrapper节点和MovieTexture节点使用URL来用信号通知外部媒体数据的访问信息。MPEG-4场景描述(ISO/IEC 14496-11)中的BitWrapper节点和MovieTexture节点的结构示例如图2所示。用于访问外部媒体数据的字段是两个节点的url字段。在本实施方式中,未增强BitWrapper节点和MovieTexture节点的语法,增强了每个url字段的注释方法。

在本实施方式中,用信号通知由url字段指示的URL以及到MPD文件的URL,并且使用URL参数来用信号通知多个AdaptationSet@id,以指示需要同时利用URL和AdaptationSet@id。具体地,例如,表示AdaptationSet的URL参数的变量“requiredASList”用于使用变量的值和分号分隔符来用信号通知与构成本体的部分3D对象相关的纹理数据或网格数据的AdaptationSet@id。例如,在本体A包括AdaptationSet@id=1、2、3、4的情况下,如以下示例中那样,在节点的URL中指定具有URL参数的URL。

URL的示例:http://www.6dofserver.com/6dof.mpd?requiredASList=1;2;3;4

<9-5:实施方式7-2-1-2>

<增强场景描述中的节点>

可以提供增强,以向场景描述数据中的BitWrapper节点或MovieTexture节点添加字段,该字段指示关于构成本体的多个部分3D对象的纹理数据或网格数据的AdaptationSet@id。在这种情况下,url字段描述了MPD文件的访问信息。

例如,如图86所示,将新字段RequiredAdaptationSetIds添加到场景描述数据中的BitWrapper节点15和MovieTexture节点16,并且用于将构成本体所需要的AdaptationSet的@id作为字符串数组进行存储。

另外,已经描述了BitWrapper节点和MovieTexture节点的增强示例,但是可以在任何其他节点中提供类似字段作为增强。

<9-6:实施方式7-2-1-3>

<使用MPD增强+URL查询或节点增强提供信令>

在MPD中,可以用信号通知标识符,以允许识别构成一个本体的部分3D对象的AdaptationSet,并且可以从场景描述中用信号通知该标识符。

例如,可以在AdaptationSet中用信号通知指示关于某个对象的网格数据的id。在这种情况下,id根据每个纹理和网格以及每个细节级别而有所不同。

例如,在AdaptationSet中用信号通知SupplementalProperty描述,并且schemeIdUri用于用信号通知”ObjectPartsId”。这指示一个本体由与3D对象的各个部分对应并且包括相同“value”值的AdaptationSets指示。“value”包含用于识别的值。

示例:

此外,图87示出了MPD,其中本体A包括四个部分3D对象。在该示例中,仅示出了网格数据。

<修改例>

Period可以用于用信号通知构成本体的一组部分3D对象。例如,schemeIdUri用于指示ObjectPartsGroup。分组信息将每个组的OPG新添加为SupplementalProperty的元素。OPG包括id(与ObjectPartsId中的值的含义相同)以及该组中包括的AdaptationSet的id的列表。

图88示出了该信令的示例。在图88中,关于本体A的网格数据包括四个AdaptationSet,并且OPG的成员将四个AdaptationSets@id链接在一起。

<场景描述的信令>

作为场景描述中BitWrapper节点和MovieTexture节点中的访问信息,可以指示MPD中ObjectPartsID的值或者OPG元素的id的值。

例如,在BitWrapper节点和MovieTexture节点的Url字段中,URL查询用于指示MPD的URL中的值。URL参数的变量“ObjectPartId”用于使用变量的值指示MPD中的ObjectPartsID或者OPG元素的id。在图87或图88的示例中,具有URL参数的URL被指定为节点的URL,如下面的示例所示。

URL的示例:http://www.6dofserver.com/6dof.mpd?ObjectPartId=1

另一信令对应于用于向BitWrapper节点和MovieTexture节点添加指示ObjectPartId的字段的技术。如图89所示,添加了ObjectPartId,并且ObjectPartId的值用于指示MPD中的ObjectPartId或者OPG元素的id。

另外,上面已经描述了BitWrapper节点和MovieTexture节点的增强示例,但是可以在任何其他节点中提供类似字段作为增强。

<9-7:实施方式7-2-2>

<无论细节级别如何,针对各个部分的3D对象提供一个AdaptationSet>

如图21和图22所示,在以下配置中本体可以包括多个3D对象,无论细节级别如何,一个AdaptationSet用于用信号通知的同一部分的3D对象。

在这种情况下,为了指示本体A包括多个3D对象,需要从场景描述中的BitWrapper节点和MovieTexture节点中的访问信息中用信号通知多个AdaptationSets以及每个AdaptationSets的多个Representation。

<9-8:实施方式7-2-2-1>

<使用URL查询提供增强功能>

场景描述为每个本体提供信令,因此需要从与指示场景描述数据中的网格的节点对应的BitWrapper节点以及从指示纹理的节点对应的MovieTexture节点指示用于所有部分的的3D对象的AdaptationSet以及AdaptationSet中包括的用于适当的LOD的比特率变化的Representation。

因此,增强了场景描述数据中的BitWrapper节点和MovieTexture节点的访问信息(例如URL)。

更具体地,由AdaptationSet以及表示AdaptationSet中包括的Representation的URL参数的变量“requiredASRSList”以及变量的值指示所有部分的3D对象的AdaptationSet@id以及在AdaptationSet@id中使用的Representation@id。

例如,URL参数的变量”requiredASRSList”用于使用变量的值指示与构成本体的部分3D对象相关的纹理数据或网格数据。作为值,由冒号分隔的AdaptationSet@id,然后是由冒号分隔的所使用的Representation@的id。此外,对于用信号通知多个AdaptationSet的情况,AdaptationSet由分号分隔以用于用信号通知。例如,在本体A包括AdaptationSet@id=1、2、3、4的情况下,AdaptationSet@id=1利用Representation@id=11,12,AdaptationSet@id=2利用Representation@id=21,22,AdaptationSet@id=3使用Representation@id=31,32,并且AdaptationSet@id=4使用Representation@id=41,42,将具有URL参数的URL指定为节点的URL。

http://www.6dofserver.com/6dof.mpd?requiredASRSList=1:11,12;2:21,22;3:31,32;4:41,42

<9-9:实施方式7-2-2-2>

<增强场景描述中的节点>

可以提供增强,以将指示构成本体的多个AdaptationSet@id以及用于比特率变化的Representation@id的字段添加到场景描述数据中的BitWrapper节点和MovieTexture节点。在这种情况下,url字段描述了MPD文件的访问信息。

如图90所示,requiredASRSList字段被添加到场景描述数据中的BitWrapper节点15和MovieTexture节点16。作为该字段的值,存储了多个字符串,这些字符串包括用冒号分隔的AdaptationSet@id,然后是用逗号分隔的Representation@id。这是在实施方式7-2-2-1中使用的结构。

另外,上面已经描述了BitWrapper节点和MovieTexture节点的增强示例,但是可以在任何其他节点中提供类似字段作为增强。

<9-10:实施方式7-2-2-3>

<使用MPD增强+URL查询或节点增强来提供信令>

实施方式1-1-2-2的RepresentationGroup可以用于提供增强,以允许从场景描述中用信号通知多个3D对象。

另外,在场景描述数据中,在BitWrapper节点和MovieTexture节点中的访问信息(URL)中指示了实施方式1-1-2-2的多组Representation。

在MPD文件中的URL参数中用信号通知指示AdaptationSet的多个参数和指示RepresentationGroup的多个参数。例如,requiredASRGList用作URL参数,并且作为值,指示了AdaptationSet@id,其中RepresentationGroup中的id用冒号指示。为了指示多个部分的3D对象,将分号用于分隔。URL的示例如下所示。

URL的示例:http://www.6dofserver.com/6dof.mpd?requiredASRGList=1:1;2:1;3:1;4:1

作为修改例,可以增强BitWrapper节点或MovieTexture节点。如在实施方式7-2-2-2中的增强中,添加上述所需requiredASRGList作为BitWrapper节点或MovieTexture节点。

另外,在修改例中,可以在Representation中用信号通知实施方式7-2-1-3的ObjectPartId。此时,为不同的LOD分配了相应的id。因此,可以提供类似于实施方式7-2-1-3中的信令的信令。为了如实施方式7-2-1-3中那样在Period中用信号通知,可以添加如下所述的SupplementalProperty。将OPGmember元素新添加到OPG元素,并且在ASId和RSId中用信号通知相应的部分3D对象的AdaptationSet@id以及用于比特率变化的Representation@id。

//构成实体A的部分3D对象的网格组

//组成本体A的部分3D对象的纹理组

//以下省略。

<10.补充特征>

<结论>

上述每个实施方式的技术可以适当地与另一实施方式的技术结合,或者选择性地与另一实施方式的技术一起使用。

如上所述的本公开的应用使得能够在6DoF内容的分发中进行比特率适配,从而能够在传输频带受到限制的情况下抑制中断的再现。具体地,可以改进内容再现的鲁棒性。

另外,客户端装置103使得能够在保持3D对象之间的相对质量的情况下进行比特率选择。

此外,基于由视点位置确定的3D对象的组合,可以选择与甚至低于最低比特率的比特率对应的3D对象的组合,从而使得即使在较窄的传输频带下也能够进行不间断的再现。

另外,客户端装置103可以按照内容作者等意图的顺序降低3D对象的细节级别,从而允许显示反映内容作者等意图的场景。

此外,本公开对于当频带改变时每个对象的比特率增加(减小)的算法选择是有用的。

另外,客户端可以通过尽可能保持用户关注的3D对象的细节级别来降低总体比特率。可以保持关注的3D对象的细节级别。

<计算机>

可以使上述一系列处理步骤通过硬件或软件执行。在通过软件执行一系列处理步骤的情况下,将构成软件的程序安装在计算机中。在这方面,计算机包括集成到专用硬件中的计算机、当在计算机中安装各种程序时可以执行各种功能的计算机,例如,通用个人计算机等。

图91是示出根据程序执行上述一系列处理步骤的计算机的硬件的配置示例的框图。

在图91所示的计算机900中,CPU(中央处理单元)901、ROM(只读存储器)902和RAM(随机存取存储器)903通过总线904彼此连接。

输入/输出接口910也连接至总线904。输入部911、输出部912、存储部913、通信部914和驱动器915连接至输入/输出接口910。

输入部911包括例如键盘、鼠标、麦克风、触摸板、输入终端等。输出部912包括例如显示器、扬声器、输出端子等。存储部913包括例如硬盘、RAM盘、非易失性存储器等。例如,通信部914包括网络接口。驱动器915驱动可移除介质921,例如磁盘、光盘、磁光盘或半导体存储器。

在如上面所描述的那样配置的计算机中,上面所描述的一系列处理步骤由CPU901执行,例如经由输入/输出接口910和总线904将存储在存储部913中的程序加载至RAM903中并且执行程序。RAM 403还适当地存储CPU 901执行各种类型的处理所需的数据。

由计算机(CPU 901)执行的程序可以记录在用作封装介质等的可移动介质921中,然后可以应用。在这种情况下,通过将可移除介质921安装在驱动器915中,程序可以经由输入/输出接口910安装在存储部913中。

另外,可以经由诸如局域网、因特网或数字卫星广播的有线或无线传输介质来提供程序。在这种情况下,程序可以被通信部914接收,并且安装在存储部913中。

另外,可以预先将程序安装在ROM 902或存储部913中。

<本技术的应用目标>

本技术可以应用于任何图像编码和解码方案。换言之,任何规格都可以用于与图像编码和解码相关的各种类型的处理,例如变换(逆变换)、量化(逆量化)、编码(解码)和预测,只要这些规格与以上描述的本技术的应用不矛盾即可,并且规格不限于上述示例。另外,只要省略与上述本技术没有矛盾,则可以省略部分处理。

根据上述实施方式的图像处理装置、图像编码装置和图像解码装置可以应用于各种类型的电子装置,例如,卫星广播中的发射器和接收器(例如,电视接收器和蜂窝电话)、有线电视之类的有线广播、在因特网上的分发以及通过蜂窝通信分发到终端,或者在诸如光盘、磁盘和闪存之类的介质中记录图像并且从这些记录介质再现图像的装置(例如,硬盘记录器或摄像装置)。

另外,本技术可以被实现为安装在构成任何装置或系统的装置中的任何配置,例如,用作系统LSI(大规模集成电路)等的处理器(例如,视频处理器)、使用多个处理器等的模块(例如,视频模块)、使用多个模块等的单元(例如视频单元)、向其进一步添加任何其他功能(即,与装置的一部分对应的配置)的与该单元对应的集合(例如视频集)。

此外,本技术还可以应用于包括多个装置的网络系统。例如,本技术还可以应用于云服务,该云服务向任何终端例如计算机、AV(视听)装置、便携式信息处理终端和IoT(物联网)装置等提供与图像(运动图像)有关的服务。

注意,应用本技术的系统、装置、处理部等可以在例如交通、医疗、预防犯罪、农业、畜牧业、采矿业、美容保健、工厂、家用电器、气象学、自然监测等任何领域中利用。另外,该系统、装置、处理部等可以应用于任何用途。

本技术可以应用于例如用于提供用于观看等的内容的系统和装置。另外,本技术可以应用于例如用于交通的系统和装置,具体地,用于交通状况的管理、自动操作控制等。此外,本技术可以应用于例如用于安全性的系统和装置。本技术还可以应用于例如用于安全性的系统和装置。另外,本技术可以应用于例如用于机器等的自动控制的系统或装置。此外,本技术还可以应用于例如用于农业或畜牧业的系统或装置。另外,本技术可以应用于例如监视诸如火山、森林或海洋、野生生物等的自然状态的系统或装置。此外,本技术可以应用于例如用于运动的系统和装置。

<其他>

注意,本文中使用的“标志”是指用于识别多个状态的信息,并且包括使得能够识别三个或更多个状态的信息以及用于识别真(1)或假(0)两个状态的信息。因此,“标志”可以采用的值可以是例如1/0的两个值或三个或更多个值。换言之,任何位数构成“标志”,并且一个或更多个位可以构成标志。另外,假定标识信息(包括标志)不仅以比特流包括标识信息的形式,而且还以比特流包括关于标识信息与对应于某些参考的信息的差异的信息的形式。因此,本文中使用的“标志”和“标识信息”不仅包括该信息,还包括关于与参考对应的信息的差异信息。

此外,可以以任何形式发送或记录关于编码数据(比特流)的各条的信息(元数据等),只要该信息与编码数据相关联即可。在此,术语“关联”是指例如当处理其中一个数据时,可以利用(链接)另一数据。换言之,彼此相关联的数据可以被集成到一条数据中或者用作单独的数据。例如,可以在与在其上传送编码数据(图像)的传送路径不同的传送路径上传送与编码数据(图像)相关联的信息。另外,例如,可以将与编码数据(图像)相关联的信息记录在与记录有编码数据(图像)的记录介质不同的记录介质中(或同一记录介质中的另一个记录区域中)。请注意,该“关联”涵盖了部分数据而不是整个数据。例如,图像与对应于图像的信息可以在诸如多个帧、一个帧或帧的一部分的任意单元中彼此相关联。

注意,诸如“合成”、“多路复用”、“添加”、“集成”、“包括”、“存储”、“放入”、“插入”和“插入”之类的术语是指将多个事物集成为一个事物,例如,将编码和元数据集成为一条数据,意指上述用于“关联”的一种方法。

另外,本技术的实施方式不限于上述实施方式,并且不脱离本技术的精神的情况下可以对这些实施方式进行各种改变。

此外,例如,被描述为一个装置(或处理部)的配置可以被分割,并且配置成多个装置(或处理部)。相比之下,被描述为多个装置(或处理部)的配置可以被集成,并且配置为一个装置(处理部)。另外,不言而喻,可以将除了上述部件之外的部件添加到每个装置(或每个处理部)的配置中。此外,某个装置(或处理部)的一部分配置可以包括在另一装置(或另一处理部)的配置中,只要系统的配置和操作总体上保持基本相同即可。

注意,本文使用的系统是指一组多个部件(装置、模块(部件)等),而不考虑所有部件是否都位于同一壳体中。因此,容纳在不同壳体中并且经由网络连接的多个装置以及将多个模块容纳在一个壳体中的一个装置都是系统。

此外,例如,本技术可以采用云计算的配置,其中一种功能由多个装置经由网络共享并且协作处理。

另外,例如,上述程序可以在任何装置中执行。在这种情况下,只要该装置包括所需的功能(功能块等),并且被允许能够获得所需的信息就足够了。

另外,例如,参照上述流程图描述的步骤可以由一个装置执行,并且也可以由多个装置共享来执行。此外,在一个步骤包括多个处理子步骤的情况下,一个步骤中包括的多个处理子步骤可以由一个装置执行,并且也可以由多个装置共享来执行。换言之,包括在一个步骤中的多个处理子步骤可以作为多个步骤的处理来执行。相比之下,被描述为多个步骤的处理可以被整合为一个步骤来执行。

注意,对于由计算机执行的程序,描述该程序的步骤中的处理可以按照本文所述的顺序以时间序列执行,或者可以在诸如调用该程序之类的所需定时处并行地或单独地执行。换言之,可以以与上述顺序不同的顺序执行处理步骤,除非不同的顺序导致不一致。此外,描述程序的步骤中的处理可以与另一程序的处理并行地执行或组合地执行。

注意,除非执行导致不一致,否则可以独立且整体地执行本文描述的多种本技术。不言而喻,可以一起执行多种当前技术中的任何一种。例如,在一个实施方式中描述的本技术的一部分或全部可以与另一实施方式中描述的本技术的一部分或全部组合。另外,上述任何本技术的一部分或全部可以与以上未描述的另一技术一起执行。

注意,本技术可以采用以下描述的配置。

(1)

一种信息处理装置,包括:

生成部,其生成关于以下内容的元数据,所述内容表达三维空间中的三维对象,并且使得能够在再现时自由地设置视线方向和视点位置,所述元数据包括使得能够在分发所述内容时选择比特率的信息。

(2)

根据(1)所述的信息处理装置,其中,所述生成部生成所述元数据,所述元数据包括用于控制所述内容的再现的控制文件的访问信息作为所述信息。

(3)

根据(2)的信息处理装置,其中,

所述控制文件包括MPD(媒体表示描述),并且

所述生成部生成所述元数据,所述元数据包括对所述MPD中AdaptationSet的访问信息,所述AdaptationSet与所述三维对象的细节级别对应并且包括与所述细节级别的多个比特率的比特率变化相关的信息。。

(4)

根据(2)或(3)的信息处理装置,其中,

所述控制文件包括MPD(媒体表示描述),并且

所述生成部生成所述元数据,所述元数据包括对所述MPD中的、与所述三维对象对应的AdaptationSet中的表示的访问信息,所述表示与所述三维对象的细节级别对应,所述表示包括与所述细节级别的多个比特率的比特率变化相关的信息。

(5)

根据(4)所述的信息处理装置,其中,所述生成部生成所述元数据,所述元数据包括访问信息,所述访问信息包括:用于所期望的MPD的访问信息;指定所述MPD中的所期望的AdaptationSet的信息;以及指定所述AdaptationSet中的所期望的Representation的信息。

(6)

根据(4)或(5)所述的信息处理装置,其中,所述生成部生成所述MPD,所述MPD包括用于对相同比特率变化进行分组的信息。

(7)

根据(2)至(6)中任一项所述的信息处理装置,其中,所述生成部生成所述MPD,所述MPD不包括对所述元数据的访问信息。

(8)

根据(1)至(7)中任一项所述的信息处理装置,其中,

所述元数据是关于所述内容并且基于视点位置的空间显示控制信息,并且

所述生成部生成基于所述视点位置的空间显示控制信息,并且所述空间显示控制信息包括以下信息作为节点,所述信息使得能够在分发所述内容时选择比特率。

(9)

根据(8)所述的信息处理装置,其中,所述生成部生成基于所述视点位置的空间显示控制信息,并且所述空间显示控制信息包括将所述三维对象的多个比特率的比特率变化表达为多个子节点的专用节点。

(10)

根据(8)或(9)所述的信息处理装置,其中,所述生成部生成基于所述视点位置的空间显示控制信息,并且所述空间显示控制信息包括添加有字段的节点,所述字段将所述三维对象的多个比特率的比特率变化表达为多个子节点。

(11)

根据(1)至(10)中任一项所述的信息处理装置,其中,所述生成部生成所述元数据,所述元数据还包括指示对所有三维对象的比特率进行统一控制使得能够保持质量的信息。

(12)

根据(1)至(11)中任一项所述的信息处理装置,其中,所述生成部生成所述元数据,所述元数据还包括指示所述三维对象之间的相对质量的信息。

(13)

根据(12)所述的信息处理装置,其中,所述生成部生成所述元数据,所述元数据包括以排名的形式指示所述三维对象的每个比特率变化的质量的QualityRanking,作为指示所述三维对象之间的相对质量的信息。

(14)

根据(12)或(13)所述的信息处理装置,其中,所述生成部生成所述元数据,所述元数据包括以值指示所述三维对象的每个比特率变化的质量的Quality值,作为指示所述三维对象之间的相对质量的信息。

(15)

根据(12)至(14)中任一项所述的信息处理装置,其中,所述生成部生成所述元数据,所述元数据包括指示使得能够同时再现的三维对象的每个比特率变化的信息,作为指示所述三维对象之间的相对质量的信息。

(16)

根据(1)至(15)中任一项所述的信息处理装置,其中,所述生成部生成所述元数据,所述元数据还包括指示以下的信息:尽管所述三维对象的细节级别发生了变化,但是仍能够保持所述三维对象之间的相对质量。

(17)

根据(1)至(16)中任一项所述的信息处理装置,其中,所述生成部生成所述元数据,所述元数据还包括指示以下的信息:尽管基于指示所述三维对象之间的相对质量的信息,所述三维对象的细节级别发生了变化,但是仍能够保持所述三维对象之间的相对质量。

(18)

根据(1)至(17)中任一项所述的信息处理装置,其中,所述生成部生成所述元数据,所述元数据还包括指示所述三维对象的重要性的信息。

(19)

根据(1)至(18)中任一项所述的信息处理装置,其中,所述生成部生成所述元数据,所述元数据还包括指定关注的三维对象的重要性的信息。

(20)

一种信息处理方法,包括:

生成关于以下内容的元数据,所述内容表达三维空间中的三维对象,并且使得能够在再现时自由地设置视线方向和视点位置,所述元数据包括使得能够在分发所述内容时选择比特率的信息。

[附图标记列表]

100:分配系统

101:文件生成装置

102:Web服务器

103:客户端装置

151:控制部

152:文件生成部

161:数据输入部

162:场景描述生成部

163:媒体数据生成部

164:MPD文件生成部

165:段文件生成部

166:记录部

167:上传部

171:控制部

172:再现处理部

181:MPD文件获取部

182:MPD文件处理部

183:场景描述段文件获取部

184:场景描述段文件处理部

185:显示控制部

186:测量部

187:媒体数据段文件选择部

188:媒体数据段文件获取部

189:解码处理部

190:显示信息生成部

191:显示部

相关技术
  • 信息处理装置、信息处理装置控制方法、信息处理装置控制程序以及记录了信息处理装置控制程序的计算机可读取的记录介质
  • 信息处理装置、信息处理装置控制方法、信息处理装置控制程序和记录有信息处理装置控制程序的记录介质
技术分类

06120113104744